离开OpenAI的大神卡帕西“开课了”:新项目日增千星
作者头像
  • 互联网之窗
  • 2024-02-20 17:43:17 3053

导览:

知名人工智能专家Karpathy,在宣布离开OpenAI之后,并未按照原计划静心休整一周。反而,他迅速在GitHub平台推出了新项目,这一举动立即获得了数千个星标关注,彰显了他在技术社区中的影响力。

Karpathy的新作在GitHub上迅速上线,不仅体现了他标志性的简洁与高效风格,还展示了他对于复杂问题解决方案的独到见解。仅用74行Python代码,他就实现了在大型模型标记化中广泛应用的BPE(Byte Pair Encoding)算法,为该领域提供了一个最精简、最清晰的实现版本。

这一成果让人联想到他此前的杰作——nanoGPT项目,后者曾收获近3万个星标。Karpathy以其在特斯拉担任AI总监及OpenAI创始成员的经历,以及“善人”形象和“化繁为简”的教学风格,赢得了广大网友的喜爱。BPE代码的精简版再次证明了他在技术领域的深厚功底和创新能力。

在Karpathy的minbpe项目中,他提供了一种名为minbpe的算法实现,旨在提供BPE算法的最精简版本。此项目包含两种Tokenizer,它们能有效地执行分词器的核心功能:基于特定文本训练词汇表、合并操作、将文本编码为token及解码回文本。其中,basic.py文件中的minbpe模块,以简洁的74行Python代码,实现了BPE算法的直接文本应用版本,体现了Karpathy对于技术简洁美的追求。

通过此次项目,Karpathy不仅在GitHub上引起了广泛关注,也再次展现了他在人工智能领域中的卓越贡献和技术魅力。

    本文来源:图灵汇
责任编辑: : 互联网之窗
声明:本文系图灵汇原创稿件,版权属图灵汇所有,未经授权不得转载,已经协议授权的媒体下载使用时须注明"稿件来源:图灵汇",违者将依法追究责任。
    分享
帕西日增大神开课新项目离开OpenAI
    下一篇