三位OpenAI掌舵人亲自撰文:我们应该如何治理超级智能?
作者头像
  • 科技飞
  • 2023-05-23 10:52:30 3139

导读:

近期,人工智能领域的一系列突破性进展,特别是以ChatGPT为代表的大型语言模型在全球范围内引发热议。然而,面对技术发展的高速度与潜在风险,OpenAI公司的高层管理者提出了一个大胆且颇具前瞻性的设想——建立一个类似于管理核能行业的国际监管体系,以应对人工智能领域的发展挑战。

关键要点:

  1. 监管需求:OpenAI的几位高级管理人员在公司官方博客上呼吁,鉴于人工智能技术的迅猛发展,全球亟需设立一个类似的国际监管机构,类似于管理核能的权威组织,以确保人工智能研究与应用的安全可控。

  2. 国际组织的角色:他们提议成立一个专门负责监管人工智能研究和部署的国际组织,以追踪用于人工智能研究的计算资源和能源消耗情况。同时,建议对规模较小的公司给予一定豁免,避免因监管政策而抑制创新活力。

  3. 风险与机遇:尽管人工智能技术蕴含着巨大风险,OpenAI指出,推动人工智能持续研究的两大理由在于:一是利用其解决全球性问题,促进经济增长与生活质量提升;二是即便超级智能的崛起看似难以阻止,确保其安全仍然是当务之急。

报道详情:

随着人工智能技术的迅猛发展,ChatGPT等生成式AI工具在全球范围内掀起热潮。然而,OpenAI公司高层意识到,如此快速的技术进步可能伴随着不可预测的风险,因此提出了一项创新性的解决方案:建立一个国际监管框架,以确保人工智能领域的健康与可持续发展。

OpenAI的创始人萨姆·奥特曼、总裁格雷格·布罗克曼以及首席科学家伊利亚·苏斯克维在其官方博客上发表文章,详细阐述了设立类似国际原子能机构(IAEA)的监管机构的重要性。文章指出,鉴于人工智能研究的加速进程,现有监管机制可能不足以应对这一挑战。

文章强调,人工智能技术的潜在影响巨大,既包括可能带来的社会变革,也包括与之相关的风险。因此,提议中的监管机构需要具备协调全球研发活动的能力,以确保超级智能的发展既能保障安全,又能够融入社会。该机构的职能将涵盖监督、审核、测试安全标准,以及对人工智能系统的部署和安全级别进行限制。

此外,文章还特别提及了计算资源和能源使用的跟踪作为监管的关键指标之一。通过这种方式,可以有效地监测和报告人工智能研究的投入情况,从而为制定更加合理和有效的监管政策提供依据。

值得注意的是,为了平衡监管与创新之间的关系,文章提出应给予规模较小的公司一定的豁免权,以避免因过度监管而扼杀创新的萌芽。这一提议旨在确保监管措施既能够有效防范风险,又能够促进技术的健康发展。

结语:

面对人工智能技术的快速发展及其带来的复杂挑战,OpenAI的提议为全球范围内的监管框架建设提供了新的视角。通过建立类似国际原子能机构的监管机构,旨在平衡技术创新与风险管控之间的关系,为人工智能的未来发展奠定更加坚实的基础。这一倡议不仅反映了业界对于技术伦理和安全的深刻关切,也为全球社会如何应对新兴技术带来的挑战提供了重要的参考。

    本文来源:图灵汇
责任编辑: : 科技飞
声明:本文系图灵汇原创稿件,版权属图灵汇所有,未经授权不得转载,已经协议授权的媒体下载使用时须注明"稿件来源:图灵汇",违者将依法追究责任。
    分享
掌舵人撰文治理亲自应该智能超级OpenAI如何我们
    下一篇