导读

全球范围内的政府与国际机构正携手应对人工智能(AI)技术带来的生存风险，出台了一系列监管措施。本文由《财经》特约撰稿人魏城执笔，他从伦敦出发，深入探讨了这一议题。编辑江玮对文章进行了精心编排。

英美签署里程碑式AI安全协议

近期，英国与美国共同签署了一份具有划时代意义的人工智能安全协议，旨在联合测试和评估AI新技术的风险。这是全球首份关于AI安全的双边协议。协议于4月1日在英国科学大臣米歇尔·唐兰与美国商务部长吉娜·雷蒙多的见证下，在华盛顿特区正式签订。同日，全球领先的AI公司OpenAI宣布解除所有限制，允许用户无需注册即可使用其广受欢迎的AI聊天机器人ChatGPT。

AI的全球影响与监管动态

AI技术正以惊人的速度重塑全球经济格局，预计到2030年，其将为全球GDP贡献高达40万亿美元的增长。这一技术不仅在各个行业实现转型，推动企业发展，还成为创新平台的关键推动力。然而，AI的双刃剑性质同样引发关注，其可能带来的负面影响不容忽视。

面临的挑战与风险

AI可能引发的负面影响包括但不限于大规模失业、谣言制造、加剧社会不公以及潜在的威胁人类生存的风险。随着生成式AI的普及，其强大的数据处理和生成能力引发了对AI失控可能性的担忧。

国际间的合作与监管趋势

面对AI带来的挑战，国际社会采取了不同的监管策略。联合国大会通过了首个全球AI决议，强调开发安全、可靠且可信的AI系统以促进可持续发展。中国在生成式AI服务管理上出台了相关规定，强调AI开发者对其模型输出内容的责任。欧盟则颁布了《人工智能法案》，明确要求科技公司对其AI模型负责。相比之下，美国采取了较为宽松的监管态度，依赖行业自我监管。

各方监管策略与差异

美国的监管政策侧重于行业自律，通过签署自愿承诺来引导AI技术的健康发展。英国则在AI安全研究领域处于领先地位，但政府并未计划制定AI立法，而是希望通过其在欧盟外的独特地位，设计灵活的AI监管体系，侧重于监管AI应用而非AI软件。

AI安全协议与英国的优势

英美协议的签署标志着全球在AI安全领域的首个双边合作，英国在AI安全研究方面表现出色，特别是在英国主办AI安全峰会后，英国迅速成立了人工智能安全研究所，启动相关工作。英国研究所获得了1.25亿美元的研究经费，而美国研究所仅获得0.1亿美元，仅为前者经费的8%，凸显了英国在AI安全研究领域的显著优势。

人工智能的未来展望

尽管AI技术带来巨大机遇，但对其潜在风险的关注与日俱增。全球各界正努力探索如何在确保AI发展的同时，最大限度地减少潜在风险，以实现技术的可持续、负责任应用。