构筑防火墙 美英携手开发AI安全模型
-
生成式AI可以自动生成文字、图像和影片等内容，大幅革新创作模式，但也引发了就业受威胁、选举过程受干扰、无法控制等多种担忧；示意图。（路透）(photo:LTN)〔编译陈成良／综合报导〕全球科技巨头纷纷押注人工智慧（AI），竞相开发下一代智慧系统。AI发展迅勐，安全风险也日益严峻。美国与英国决定合力构筑AI防火墙，携手因应可能产生的严重后果。
《路透》报导，美国商务部长雷蒙多（Gina Raimondo）与英国科技大臣唐萃兰（Michelle Donelan）1日在华府签署谅解备忘录，共同开发先进的AI模型测试。此前他们于去年11月在英国布莱切利公园举行的AI安全峰会上宣佈了承诺。
雷蒙多指出，AI在当今时代扮演关键角色。这项合作将加速机构在各方面的努力，解决国家安全和更广泛的社会问题风险。唐萃兰则强调，这是全球首个同类协议，具有重要里程碑意义。AI尽管为社会带来许多好处，但必须有效管控其风险。
美英两国目前均已建立政府主导的AI安全研究机构。英方去年10月宣布将成立专门检测和测试新型AI的新机构，而美方去年11月表示，将成立自己的安全研究机构，专责评估所谓「前沿AI模型」的风险，目前正与200多家公司和实体合作。
根据新达成的协议，双方将对至少一个可公开获取的AI模型进行联合测试，并就AI模型能力、潜在风险以及相关技术研究共享关键资讯。两国还将致力与其他国家达成类似合作，以促进全球AI安全事业发展。
生成式AI可以自动生成文字、图像和影片等内容，大幅革新创作模式，但也引发了就业受威胁、选举过程受干扰、无法控制等多种担忧。
唐萃兰强调，下一代AI模型更强大，需加强合作因应。雷蒙多则担忧AI被用于恐怖主义，表示将在4日登场的美欧贸易暨技术理事会上提出AI议题。
近年来，美英两国均已採取行动因应AI挑战。去年10月，拜登签署行政命令旨在降低AI风险；今年1月，美国商务部提议要求美国云端服务公司查明外国实体是否正在利用美国数据中心训练AI模型。
