马斯克等千人签署公开信：唿吁暂停巨型AI实验
-
马斯克等千人签署公开信：唿吁暂停巨型AI实验(图:shutterstock)(photo:CnYes)正当发展 AI 成为最新显学时，另一批科技人却是忧心忡忡，要求「暂停巨型 AI 实验」。
生命未来研究所 (Future of Life)3 月 22 日向全社会发佈了一封《暂停大型人工智慧研究》的公开信，唿吁所有人工智慧实验室立即暂停比 GPT-4 更强大的人工智慧系统的训练，暂停时间至少为 6 个月。
这封信有 1100 多人签名，其中不乏科技界名人，例如马斯克 (Elon Musk)、苹果联合创办人 Steve Wozniak、Stability AI 创办人 Emad Mostaque 等知名人士。
其中，马斯克在 chatGPT 走红之后，就不断批评 OpenAI，并在 2 月份发推文称，「OpenAI 是作为一个开源公司 (这就是我将其命名为「Open」AI 的原因) 创建的，是一家非营利性公司，旨在与 Google(GOOGL-US) 抗衡，但现在它已经 成为微软 (MSFT-US) 有效控制的闭源、利润最大化的公司。」他认为，这家公司完全违背了当初成立的初衷。
生命未来研究所在信中唿吁，所有人工智慧实验室立即暂停对比 GPT-4 更强大的人工智能系统的训练，为期至少 6 个月。这种暂停应该是公开的和可验证的，并且包括所有关键参与者。如果不能迅速实施这种暂停，政府应介入并暂停。
信中强调，人工智慧研究和开发应该重新聚焦于使当今强大的、最先进的系统更加准确、安全、可解释、透明、稳健、一致、值得信赖和忠诚。
在此之前，OpenAI CEO Sam Altman 在与 MIT 研究科学家 Lex Fridman 的最新对话中指出，AI 已经出现其无法解释的推理能力，同时承认「AI 杀死人类」并非完全不可能。
上个月，在微软发布 Bing 聊天机器人之后，一份名为「立即拔掉邪恶的 AI」的请愿书在 change.org 上流传开来。
Future of Life Institute 是一家非营利组织，其使命是降低核战争的风险并改善 AI 治理。 着名物理学家 Max Tegmark 是其总裁，这家机构的网站中，将马斯克列为外部顾问。
