导读

计算机科学界普遍认可，开放且大规模的语言模型是推动技术创新的关键驱动力。自OpenAI发布的ChatGPT掀起生成式人工智能热潮后，这一领域持续火热。然而，相较于那些大名鼎鼎的科技巨头如OpenAI和Google，一些小型机构与软件工程师正默默开展着另一场革新运动。

小规模行动者的角色与使命

面对大型科技公司日益保守的策略，这些小型行动者坚持着开放精神，致力于扩大技术的普及性和减少潜在的负面影响。包括小企业、非营利组织和个人爱好者，他们的行动往往指向更广泛的公共利益，如促进技术的公平分配与降低风险。

开源AI行动的兴起

纽约AI研究所EleutherAI的主任、计算机科学家Stella Biderman指出，开源AI行动呈现出显著的增长趋势。特别聚焦于大型语言模型（LLMs），这些模型依赖大量数据驱动的人工神经网络，广泛应用于对话机器人、翻译工具等领域。Hugging Face等公司已在其平台上展示了逾百个开源的LLM实例。

LLaMA的开源与影响

去年，Hugging Face与其他科研志愿者组成的BigScience联盟共同开发并发布了大型语言模型之一——BLOOM，该模型面向研究者开放，成为关键工具。BLOOM的论文已被引用超300次，主要用于计算机科学研究。随后，Facebook母公司Meta推出的免费模型LLaMA加速了开源运动。短短一周内，LLaMA代码在网上被公开，供所有人下载。

LLaMA与AI研究的新篇章

LLaMA的开源极大地改变了AI研究的面貌。相较于其他LLM，它体积较小，无需大型计算设备即可处理预训练模型或用于其他应用，如数学助手或客户服务机器人。LLaMA最大版本拥有650亿个参数，仅为BLOOM的1760亿参数一半不到，也是Google最新模型PaLM2参数量的几分之一。这使得LLaMA成为研究者探索新思路的快速通道。

压缩技术与普及性挑战

开源社区持续探索LLaMA的压缩方法，既保持参数量又优化性能，甚至在资源有限的设备如树莓派上运行。Hugging Face目前主要使用LLaMA，并暂不考虑推出BLOOM-2版本。压缩技术有助于提高AI工具的普及性，但非洲等低收入国家的研究人员仍面临获取高性能计算设备的巨大挑战。

推动技术进步与公平

AI研究人员长期遵循传统，将代码开源并发布在类似arXiv的服务器上。他们认识到共享知识的重要性，认为这能促进领域发展。通过分析开源系统如BLOOM，研究人员能识别并解决模型学习的偏见问题，如语言模型经常将“护士”与女性、“医生”与男性关联。此外，开源还有助于全球学者共同探讨如何减轻潜在风险，如增强模型的安全性和伦理考量。

技术进步的局限性

尽管开源活动蓬勃发展，推动语言AI技术前进的主要驱动力仍然掌握在少数大型科技公司手中。这些公司拥有从零构建语言模型并达到顶尖技术的能力。预训练过程所需的庞大资源限制了大多数研究者的参与，这是一个显著的挑战。

未来展望与风险

让强大AI模型更加普及固然重要，但也需警惕可能带来的风险。EleutherAI联合创始人、Conjecture公司CEO Connor Leahy警告称，AI的智能增长可能对人类构成生存威胁。因此，在追求技术进步的同时，应加强监管与伦理考量，确保AI的发展惠及全人类。

结语

开源AI行动展现了技术进步的力量与潜力，促进了知识共享与全球协作。尽管面临资源限制和技术挑战，这场革命正在改变AI研究的面貌，推动技术创新的同时也关注着技术的公平与安全。未来，如何平衡开放与可控，将是AI领域持续探索的重要议题。