AI风险巨大！OpenAI、微软、苹果等领先企业将密会 共商安全协议

[CathyHuang]

AI风险巨大！OpenAI、微软、苹果等领先企业将密会 共商安全协议 (图:shutterstock)(photo:CnYes)

外媒 Axios 週一 (10 日) 报导， 硅谷最知名的天使投资公司之一 SV Angel 号召 OpenAI、微软、谷歌和苹果等多家企业高层週三齐聚旧金山开会，共同商议并制定人工智慧 (AI) 相关安全协议。

消息人士透露，AI 领先企业本週三将齐聚一堂，共同商议并制定 AI 相关安全协议。

这次会议由 SV Angel 领导，与会代表计划讨论如何以最负责任的态度持续开发 AI，OpenAI、微软、谷歌、苹果、辉达、Stability AI、Hugging Face 和 Anthropic 等公司的代表预计都将出席此次会议。

企业高层週三齐聚旧金山开会，共同商议并制定人工智慧 (AI) 相关安全协议 (图：Shutterstock)(photo:CnYes)

此前，特斯拉执行长马斯克、苹果共同创办人 Steve Wozniak 等数百位科技大老、着名 AI 专家和科学家公开连署，唿吁暂停开发和测试比 OpenAI 的聊天机器人 GPT-4 更强大的人工智慧技术，期间至少 6 个月，以免对社会和人类构成威胁。

他们的担忧在于，GPT-4 会让人产生幻觉或提供不正确的资讯，违反了长久以来的社会价值观，有心人士可能使用类似 GPT-4 之类高阶 AI 模型的影像辨识与创造能力，散布假消息，引起社会动盪，而这样快速的进展将超越社会和监管机构所能提出规范的速度。

义大利已率先在国内禁止 ChatGPT，掀起一轮针对 OpenAI 的监管风暴，德国监管机构紧随其后，法国、爱尔兰、西班牙等欧洲国家也开始考虑对 AI 聊天机器人採取更严格的监管。

美国国会则展开对 AI 监管的必要性广泛讨论，美国国家标准技术研究院在 1 月份发布 AI 框架。