报告称亲中反美网络影响力运动使用人工智能
-
一场在网上快速传播、使用人工智能技术的影响力运动推动了中国技术优于美国、美国经济注定崩溃等叙事。(photo:NYTimes)上个月在YouTube上的一段视频里，一个略显生硬、语法稍微有些奇怪、带美国口音的声音用英语嘲笑美国政府处理以色列与哈马斯战争的方式，声称美国未能“像中国那样起调解人的作用”，“现已发现自己处于明显的孤立状态”。
根据澳大利亚战略政策研究所本周发表的报告，在一个异常庞大的YouTube频道网络中，有4500多个视频在传播亲中和反美言论，而这个10分钟的视频就是其中之一。该研究所是一个以安全问题为重点的智囊团。
这些视频中有些使用了人工生成的用户头像或解说，使其成为该研究所已知的首个用人工智能生成的声音为视频文章配音的影响力运动。
报告称这场运动有明确目的：左右全球舆论支持中国、反对美国。这些视频推动的叙事包括，中国技术优于美国技术，美国经济注定崩溃，中国和俄罗斯是负责任的地缘政治参与者等等。有些视频充满了恭维华为等中国公司、诋毁苹果等美国公司的宣传。
报告发现，自去年以来，这个YouTube网包括的至少30个频道已吸引了近1.2亿次观看和73万个订阅，偶尔还有西方公司在这些频道做广告。
报告称，一些视频的题目和解说词似乎是常见中文说法和中国公司名称的直接翻译。有些视频中提到的信息可追溯到主要是为中国大陆观众制作和播出的新闻报道。
虚假信息在这些视频中很常见，例如一些东南亚国家已采用人民币作为本国货币的假消息。这些视频通常能对时事做出快速反应。澳大利亚研究所的分析师杰辛塔·基斯特在报告中写道，这场共同行动可能是“社交媒体上与中国有关的最成功的影响力运动之一”。
YouTube在一份声明中表示，公司团队为保护网上社区昼夜不停地工作，还说，“我们已投入了大量资金，用于能主动检测协调影响力操作的强大系统。”公司对研究努力表示欢迎，并表示已关闭了报告中提到的几个违反平台政策的频道。
近年来，虽然推动亲中国信息的努力猛增，但以前主要是大量劣质内容，只吸引了有限的受众参与，或未能保持有明显意义的受众，基斯特说。
“这场运动确实充分利用了人工智能，与我们以前看到的运动相比，这场运动有能力以非常有限的成本大规模地制造有说服力的威胁内容，”她说。
近期的其他几份报告表明，中国已在更为积极地推动诋毁美国的宣传。从历史上来看，中国影响力运动一直集中在捍卫中共领导的政府，为其镇压维吾尔人的政策或有关台湾未来的政策辩护。
在香港2019年的大规模民主抗议活动期间，中国开始更直接地针对美国，并在新冠病毒大流行期间继续这样做。这种做法与俄罗斯在国内外败坏美国领导力和影响力名声的长期努力相呼应。
今年夏天，微软和其他公司的研究人员找到了网上基于人工智能的假账号的证据，中国用这些账号来传播虚假信息，比如诬告美国使用“气象武器”点燃了夏威夷今年8月的致命山火。
今年9月在一份报告中，美国国务院指责中国为塑造全球信息环境使用“欺骗性和胁迫性的做法”，包括建立虚假的社交媒体账号，甚至虚假的新闻机构。还有研究表明，中国在台湾积极散布假消息，称美国最终将背叛岛上的人民。
Meta上个月宣布，删除了4789个来自中国的Facebook账号，这些账号冒充美国人辩论美国的政治问题。Meta警告，这些中国账号似乎是在为干预2024年的美国总统大选做准备。这是Meta今年发现的第五个与中国有关系的账号网，数量是全球之最。
人工智能技术的到来似乎引起了中国政府的特别兴趣。澳大利亚那家研究所的基斯特说，兜售虚假信息的人正在越来越多地使用简单易用的视频编辑和人工智能程序，来制造大量令人信服的内容。
她说，YouTube上支持中国频道网很可能是用将文本转化为视频的在线软件或其他程序，把英文解说词输进去生成出来的，用这些软件不需要专业的技术知识，并能在几分钟内将视频制作出来。这些程序通常让用户来选择人工智能生成的语音解说，定制他们想用的性别、口音和说话的声调。
YouTube上支持中国的频道网中使用的一些语音解说显然是合成的。基斯特指出，音频中没有自然的停顿，还包括发音错误和偶尔的电子干扰声。这些频道网中的不同频道有时使用了相同的声音。（但有一组视频试图欺骗受众，在解说中加入了诸如“我是你们的主持人斯特凡”之类的语音，让受众误以为是真人在说话。）
在39个这些频道网发布的视频中，基斯特找到了至少10个人工生成的用户头像，一家英国人工智能公司曾为此做过广告。基斯特写道，她还发现了也许是中国公司为影响力运动创造数字用户形象的第一个例子：一名身穿红色连衣裙、叫燕妮的女性。
澳大利亚研究所的报告称，这个支持中国的频道网络的规模可能比已发现的更大。似乎还有针对印度尼西亚人和说法语者的类似频道。还有三个不同的频道发布过有关芯片生产的视频，这些视频使用了类似的缩略图以及翻译成英语、法语和西班牙语的相同标题。
