AI生成「川普被捕」假图 社媒疯传 专家忧错误讯息氾滥
-
这是一张由AI生成的「川普被捕，与警冲突」的假照片，调查性新闻团体创始人希金斯利用人工智慧程式虚构出此戏剧性画面，贴在社群媒体提醒。（美联社）(photo:UDN)在媒体报导前总统川普可能面临刑事控罪，国际刑事法庭对俄罗总统普亭发出逮捕令之际，最近几天，推特等社群媒体平台开始出现令人震惊的照片，显示川普遭纽约市镇暴警察围攻、普亭穿囚服被关在水泥牢房里；但这些都不是真的，而是人工智能(Artificial Intelligence，AI，人工智慧)生成的图像。
美联社报导，错误讯息传播专家警告，这些图片预示了「新现实」：重大新闻事件出现后，社群媒体会涌现大量虚假照片和影片，并在关键时刻混淆虚实。
西雅图华盛顿大学教授韦斯特(Jevin West)表示，「它们会在危机发生期间增加噪音，强化人们愤世嫉俗的程度，对整个体系、对获得的资讯失去信任。」
虽然创作假图像并非新鲜事，但Midjourney、DALL-E和其他公司的AI 图像生成器愈来愈容易使用，只需用户以简单文本提示，即可快速生成具详细背景的逼真图像，还可模仿新闻机构照片风格，以假乱真。
总部位于纽约、专注视觉证据的「见证」(Witness)人权组织媒体技术专家安伦(Shirin Anlen)表示，用户只在发帖时声明「图像由AI生成且仅供娱乐」是不够的，因为这些视觉效果很快就会被其他人转发。
专家认为，随着合成图像越来越难辨虚实，打击视觉错误信息的最佳方法是：提高公众意识和教育。韦斯特指出，「我们应该尽全力让公众意识到，这类技术有多强。」
总部位于荷兰的调查性新闻团体Bellingcat创始人希金斯(Eliot Higgins)利用Midjourney虚构出川普和普亭被捕的戏剧性画面，他建议社群媒体公司专注开发技术，检测AI生成图像，并将技术集成于平台中。
卡内基国际事务伦理委员会资深研究员米歇尔(Arthur Holland Michel)说，山雨欲来，他担心这世界尚未做好准备；「从政策角度看，社会各层面都将出现大规模虚假信息，」米歇尔向美联社表示，「要彻底阻止这种情况，需要一项迄今仍无法想像的技术突破。」
