安全AI 全球16企业签署承诺
-
英国和南韩21日在首尔共同举办第2届全球人工智慧（AI）安全线上高峰会。（美联社）(photo:LTN)全球AI峰会首尔登场
〔编译陈成良／综合报导〕由英国和南韩共同主办的第二届全球人工智慧（AI）安全高峰会，廿一日在首尔展开为期两天的线上议程。会前，包括Google母公司Alphabet、脸书母公司Meta、微软、OpenAI，以及来自中国、南韩和阿拉伯联合大公国的企业在内，共十六家相关企业签署与AI科技研发有关的安全承诺，致力于AI技术的安全发展。
明年法国接手办
去年十一月，英国召开首届全球AI安全峰会，有近卅个国家的官方代表，以及超过八十个学术研究机构、企业和公民组织与会。这次英韩合办线上峰会，规模较小，下一场实体峰会则将由法国主办，明年召开。
根据英国科学创新暨科技部（DSIT）资料，峰会尚未正式揭幕，已有十六家AI科技企业签署「前沿AI安全承诺」（Frontier AI Safety Commitments），要点包括不得发展或部署安全风险无法获得充分缓解的AI模型或系统、建立可供问责的安全管理架构，并向大众揭露企业对前沿AI科技安全的应处策略等。
签署企业包括OpenAI、亚马逊（Amazon）、Google、Meta、科技富豪马斯克去年创办的xAI、微软、IBM、三星电子、Anthropic、Inflection AI、Mistral AI、Cohere、G42、Naver、中国的「智谱AI」、阿拉伯联合大公国的「科技创新研究院」等。
DSIT指出，这十六家企业涵盖美国和中国等AI两大强权。这些企业将各自发布AI安全架构，说明如何测算前沿AI模型的安全风险，包括防范恶意滥用风险，并设定安全风险的最高容忍极限，以及如何确保风险不超过此预设门槛。在极端情况下，若企业採取补救措施后，仍无法将AI模型或系统的安全风险控制在门槛以下，则不得继续发展或部署该模型或系统。
欧盟AI法案下月生效
另一方面，欧盟廿一日批准去年十二月达成的具有里程碑意义的「人工智慧法案」（AI Act），将于下月生效，为这个广泛用于商业和日常生活的技术，设定潜在的全球标准。该法对高风险的AI系统制定严格的透明度义务，对一般AI模型的透明度要求则较低。法案限制政府在公共场所使用即时生物监控时，只能侷限于某些犯罪案件、反恐行动和对重罪嫌犯所进行的搜查等。
新法将于二○二六年正式适用，但在法律生效六个月内，就会禁止社会评分、预测性警务和无目标蒐集脸部图像等AI应用。违规罚款从七五○万欧元（约二．六亿台币）或营业额的一．五％起，至三五○○万欧元（约十二．四亿台币）或全球营业额的七％，视违规类型而定。
