OpenAI设立时是一家开源公司
他说,现在变成了一个闭源、受微软控制的逐利公司。这根本不是他想要的。 这期间Meta没闲着。除了折腾元宇宙,Meta的AI团队一直在研究大语言模型,并发布了一些开源项目。大家各做各的,互不干涉。 在OpenAI发布ChatGPT的几周前,Meta发布了一个类似的聊天机器人Galactica,专门用于撰写科学论文。谁知道这个产品不仅没引起轰动,还招来一片骂声,网友痛斥它会破坏科学出版。以至于Meta的人取消了演示,觉都睡不着。 当时人们关心的是Meta的元宇宙项目是不是快凉了,裁员裁到哪了,没人关心它的AI做得咋样。至于OpenAI,大家觉得它代表新势力,对它更加包容。按照杨立昆的说法,两周后ChatGPT问世,被视为救世主降临。随后的很长时间里,OpenAI都是全球科技界的当红炸子鸡,登上神坛夺走了所有目光。人们津津乐道于,OpenAI是如何冲破谷歌的封锁,对巨头形成压制。 在崇尚个人英雄 阿富汗电话列表 主义的美国,创业新秀挑战旧势力的剧本,向来充满话题性。于是大模型头部选手的竞争,变成了OpenAI和谷歌的双雄争霸。 但一向好强的扎克伯格不会袖手旁观。Meta秘密研发的LLaMA大模型,已经箭在弦上。 二、Meta才是全村的希望? 2023年2月,ChatGPT发布之后3个月,LLaMA的第一个版本开源,一开始这个模型只能用作研究。7月,升级之后的LLaMA 2支持免费商用。Meta把模型训练数据、训练方法、数据标注等大量细节都公布了,起始代码全部开源。 LLaMA 2性能非常突出,超过了所有的开源大模型。有人发现,其最大参数的版本比GPT-3参数量小,但效果更好。
https://lh7-us.googleusercontent.com/csqhxfN5a_GExIMaSZTXPtwoT0yva36J-KnVGX0a25lOy3HdeFNVtDcEYVdWDw9nZSVlZFfeUt5roq4PlR5v_FBKrv8XOYguHCoq1s35ikS103GFIAPUZ5PRD_U4iOTkuCqExMjY1WcuLremtKgFtr0
曾经跟着马斯克从OpenAI跳到特斯拉,后来又被OpenAI挖回去的科学家Andrej Karpathy,将LLaMA 2的发布视为人工智能和大模型发展过程中的重要一天,因为这“是任何人都可以拿到模型权重的最强大语言模型。” 一时间,整个AI圈对Meta刮目相看。当一批巨头公司掀起大模型军备竞赛,试图通过技术封闭实现市场垄断时,Meta用LLaMA撕开了一条口子。OpenAI没做的事,Meta做到了。 英诺天使基金合伙人王晟戏称杨立昆为“Klaus LeCun”( 杨立昆英文名为Yann LeCun,Klaus Fuchs在二战期间向苏联提供了曼哈顿计划的信息)。王晟开玩笑:“不能只让美国拥有原子弹。” 王晟发现,ChatGPT出现之后,科技圈对大模型热情且迷茫。投资人中很多是看热闹,“因为第一看不懂,第二不敢投,第三投不到。一个新的技术范式出现,没人知道它的能力边界在哪里。” 王晟对「定焦」说,LLaMA开源对行业影响很大。
頁:
[1]