WEF报告：AI驱动的错误资讯是全球最大短期威胁
-
AI驱动的错误资讯是全球最大短期威胁。（图：REUTERS/TPG）(photo:CnYes)世界经济论坛 (WEF) 周三 (10 日) 发表报告表示，虚假和误导性资讯充斥着尖端人工智慧 (AI)，有可能侵蚀民主并使社会两极化，这是全球经济面临的首要直接风险。
WEF 在最新的《全球风险报告》中也表示，从长远来看，一系列环境风险构成最大的威胁。该报告是在瑞士滑雪胜地达沃斯举行年度执行长和世界领导人精英聚会之前发布的。该报告对近 1500 名专家、行业领袖和政策制订者进行调查。
该报告将错误讯息和虚假资讯列为未来两年最严重的风险，强调科技的快速进步也会带来新问题或使现有问题变得更糟。
报告作者担心，像 ChatGPT 这样的生成式 AI 聊天机器人的蓬勃发展，意味着创造可用于操纵人群的复杂合成内容将不再局限于那些拥有专业技能的人。
AI 将成为下周达沃斯会议的热门话题，预计出席会议的科技公司老板包括 OpenAI 执行长奥特曼 (Sam Altman)、微软 (MSFT-US) 执行长纳德拉 (Satya Nadella) 以及 Meta (META-US) 首席 AI 科学家里群 (Yann LeCun) 等 AI 产业参与者。
报告指出，随着包括美国、英国、印尼、印度、墨西哥和巴基斯坦等大型经济体在内的许多国家的数十亿人即将参加今年和明年的选举，AI 驱动的错误讯息和虚假讯息正在成为一种风险。
达信风险管理负责人克林特 (Carolina Klint) 表示：「你可以利用 AI 进行深伪造假，并真正影响大型群体，这确实会引发错误讯息。」达信母公司 Marsh McLennan 与苏黎世保险集团 (Zurich Insurance Group) 共同撰写了这份报告。
她说，「社会可能会变得更加两极化」，因为人们发现核实事实变得更加困难。虚假讯息也可能被用来引发对民选政府合法性的质疑，「这意味着民主进程可能会受到侵蚀，而且还会推动社会两极化进一步加剧。」
她说，AI 的兴起带来许多其他风险。它可以让「恶意行为者」更容易进行网路攻击，例如自动进行网路钓鱼尝试或建立进阶恶意软体。
克林特说，有了 AI，「你不需要拥有最锋利的工具就可以成为为非作歹。」
她说，它甚至可能毒害从互联网上抓取的用于训练其他 AI 系统的数据，这「极其难以逆转」，并可能导致 AI 模型进一步嵌入偏见。
风险调查受访者全球关注的另一个重大议题是气候变迁。
继假讯息和错误讯息之后，极端天气是第二大的短期风险。
从 10 年的长期时限来看，极端天气被描述为第一大威胁，其次是其他四种与环境相关的风险：地球系统的重大变化；生物多样性丧失和生态系统崩溃；还有自然资源短缺。
克林特说，随着地球系统经历长期变化，未来十年「我们可能会被推过不可逆转的气候变迁临界点」。
