开放式重量创新
Meta 最新发布的开源 LLM 模型 Llama 3.1 可能会引起 OpenAI 和其他几家拥有闭源模型公司的担忧。这是开源模型首次在标准化评估排名中名列前茅。具体来说,所有闭源模型(Anthropic Claude、OpenAI、Cohere 等)都是通过 API 使用的,供应商负责维护基础设施并收取使用费(在这种情况下,计量单位是代币)。
一旦我们拥有一个质量相当甚至更优、可以在自有硬件上自由运行的模型,情况就会彻底改变。每家公司都将能够在内部开发自己的生成式人工智能创新,从而大幅降低推理成本。这对 OpenAI 构成了严重威胁,因为如今我们在人工智能应用市场上看到的大多数应用,无非是一些公司在使用 OpenAI 的 API(ChatGPT)并将其嵌入到各种用途的应用程序中。有了像 Llama 3.1 这样优秀的模型,并且能够在内部运行,这些开发应用程序的公司就能以成本价获得他们的模型。
骆驼的力量 3.1
Llama 3.1 代表了语言建模领域的重大突破。该模型由 Meta 开发,不仅支持多语言,还在编码、推理和工具方面取得了显著进展。Llama 3.1 拥有 405 亿个参数和高达 128 个 token 的上下文窗口,与 GPT-4 等市场领先者不相上下。
用于训练 Llama 3.1 的强大基础设施,包括 H100 GPU 集群,确保了开发如此规模模型所需的效率和稳定性。此外,Llama 3.1 正在扩展,包含图像、视频和语音识别等多模态功能,使其成为适用于各种应用的更强大、更通用的工具。
OpenAI面临的挑战
另一方面,OpenAI 面临着巨大的财务挑战。据 The Information 分析,由于高昂的 AI 训练和推理成本(可能高达 5 亿美元),OpenAI 今年的损失可能高达 7 亿美元。此外,人员成本也可能高达 1,5 亿美元。这种危急的处境使 OpenAI 处于脆弱的境地,尤其是在未来 12 个月需要筹集更多资金的情况下。
硬件竞赛
现在,寻找支持所有这些的硬件的竞争比以往任何时候都更加激烈。虽然英伟达是这个市场的领头羊,但AMD、AWS、英特尔和其他几家公司也在开发自己的训练和推理芯片。一家公司开发和维护自身硬件基础设施的能力将成为其在人工智能市场竞争的关键因素。
范式转变
像 Llama 3.1 这样的开放模型可以在公司内部基础设施上运行,这代表着一种范式转变。企业将能够大幅降低推理成本,同时提升生成式人工智能的创新能力。这将推动生成式人工智能应用市场的发展。 IA目前严重依赖 OpenAI 的 API,可以开始迁移到更具成本效益和效率的内部解决方案。
结论
简而言之,Llama 3.1 不仅有望彻底改变语言模型领域,还将对 OpenAI 和其他闭源模型提供商构成巨大压力,深刻而持久地改变 AI 格局。随着硬件竞赛的加剧,AI 的未来将由软件创新和硬件支持能力共同塑造,为行业带来新的挑战和机遇。




