9月 28
  1. 今天
  2. 星期六
44:00
grade

近期,OpenAI的生成式对话模型ChatGPT的卓越表现激发了全球对于人工智能的新一轮热情与投资。国内外科技界纷纷涌入,聚焦于模仿ChatGPT的技术路径,对话式AI及背后的大模型研究热度显著提升。

然而,OpenAI的创始人Sam Altman在MIT的演讲中提出了一种不同的观点。他指出,创造ChatGPT的成功策略已告一段落,未来的突破方向尚不明朗。在过去几年间,OpenAI通过大规模应用现有的机器学习算法,实现了在人工智能领域的多项里程碑,其中包括最新成果GPT-4,该模型借助数万亿文本数据与数千个高性能计算芯片进行训练,展现出在语言、数学、编程、医学、法律和心理学等多元任务上的出色性能。

尽管如此,Sam Altman强调,单纯追求模型规模的扩展并非持续推动进步的唯一途径。他认为,当前开发和部署新AI算法的竞争中出现了转折点。自去年11月ChatGPT发布以来,微软在其搜索引擎必应中集成ChatGPT功能,谷歌也推出了类似的Bard产品,吸引众多用户尝试使用新型聊天机器人解决工作和个人需求。

与此同时,包括Anthropic、AI21、Cohere和Character.AI在内的多家初创公司,凭借雄厚的资金支持,正在积极研发更大规模的算法,力图赶超OpenAI的步伐。

然而,Sam Altman的话暗示,GPT-4可能是OpenAI在扩大模型规模和数据量方面的最后重大进展。他否认了GPT-5的传言,表示目前并无计划训练GPT-5,短期内亦不会进行相关训练。

在分析GPT-4论文时,OpenAI指出,增加模型规模的收益逐渐减弱。此外,建造数据中心的数量和速度受到物理限制。除了模型设计和架构本身的原因外,高昂的成本也是关键因素。据报道,训练ChatGPT需要至少10,000个GPU,且需要额外资源确保持续运行,而单个英伟达H100 GPU的价格高达30,603美元,成本极高。Sam Altman亲口透露,GPT-4的训练费用超过1亿美元。

Cohere联合创始人Nick Frosst认同Sam Altman的观点,即单纯扩大模型规模不再是最有效的策略。他认为,Transformer模型的发展已经超越了简单的参数增加范围,还有许多其他方法可以提升Transformer的性能和实用性。新的AI模型设计、架构以及基于人类反馈的进一步微调成为了研究者探索的前沿领域。

值得注意的是,特斯拉CEO埃隆·马斯克并未停止对人工智能的关注。他不仅表达了对GPT-4潜在社会问题的担忧,并签署了暂停开发比GPT-4更强大系统至少六个月的决定,同时,马斯克宣布将创立名为TruthGPT的人工智能平台,旨在追求最大限度的真理,理解宇宙的本质。他认为,这种对真理的追求有助于实现AI的安全性,因为一个关心理解宇宙的人工智能不太可能对人类构成威胁。

马斯克计划创建的TruthGPT平台,旨在通过理解宇宙的本质,提供安全、可信的AI解决方案。他坚信人工智能拥有毁灭文明的风险,尽管这种风险相对较小。马斯克早年参与创立了OpenAI,但在2018年因利益冲突离开了董事会。他随后对OpenAI提出了批评,认为它已被微软控制,变成了一个封闭、商业化运作的公司。

尽管马斯克对OpenAI进行了多次批评,但他仍然将Sam Altman视为偶像之一,并认为Altman对人工智能的担忧是可以理解的。马斯克对AI的持续关注表明,尽管存在争议,但他对AI安全性的重视仍然是业界关注的焦点。

关于TruthGPT的详细信息,马斯克暂未公开更多信息,未来的发展值得期待。