多国选举将登场 OpenAI拟推反制恶意假讯息工具
-
多国选举将登场 OpenAI拟推反制恶意假讯息工具(photo:RFI)（法新社旧金山16日电） 许多国家今年都将举行选举，将涵盖全球约半数人口。ChatGPT制造商OpenAI表示，将在这些选举登场前，推出对抗恶意假讯息（disinformation）的工具。
聊天机器人ChatGPT的出现激发全球人工智慧（AI）革命，但也引发这类工具恐让网路充斥恶意假讯息、左右选民决定的警讯。
包括美国、印度、英国在内的国家今年都将举行大选；OpenAI昨天表示，不会允许旗下的ChatGPT、DALL-E 3影像生成工具等科技被用于政治活动。
OpenAI在部落格发文写道，「我们希望确保我们的技术不会被用在可能损害」民主程序的地方上。
世界经济论坛（World Economic Forum）上周在一份报告中示警，利用AI制造的恶意假讯息和错误讯息（misinformation）是全球短期内的最大风险，可能损害主要经济体选出的新政府。
虽然有关选举恶意假讯息的担忧几年前就出现，但专家指出，公开提供强大的AI产出文字及生成图像更加剧这类威胁，特别是当使用者无法轻易辨别所看到的内容是否为虚假或被操弄的时候。
OpenAI昨天表示，正在着手发展一些工具，在ChatGPT生成的文字附上来源可信度的注解，若是由DALL-E 3生成的图像，也会让使用者有能力辨别。
OpenAI说，「今年初将会实施内容来源和真实性联盟（Coalition for Content Provenance and Authenticity）的数位验证」，这是一种利用加密技术将内容来源细节编码的作法。
内容来源和真实性联盟也称C2PA，目的是改善识别、追踪数位内容的方法，成员包括微软（Microsoft）、Sony、Adobe及日本相机大厂尼康（Nikon）、佳能（Canon）。
另外，OpenAI表示，旗下的DALL-E 3设有「防护栏」，能防止使用者生成真实人物的图像，包括候选人在内。 在此之前，谷歌（Google）、脸书（Facebook）母公司Meta等美国科技巨擘去年已宣布抑制干预选举的做法，特别是透过AI的使用。
法新社先前曾揭发一些深度伪造的影片，涉及美国总统拜登（Joe Biden）等人物。
法新社事实查核团队也发现，台湾13日举行总统大选前，社群媒体上流传不少政治人物遭伪造的影像及音档。
2024 AFP
