什么是 Meta 的 Llama 3.1 405B？工作原理、应用场景等全解

什么是 Llama 3.1 405B？

Llama 3.1 是 Llama 3 的一次小版本更新（于 2024 年 4 月发布）。Llama 3.1 405B 是该系列的旗舰版本，顾名思义，拥有 4050 亿参数。

来源：Meta AI

LMSys Chatbot Arena 排行榜上的 Llama3.1 405B

拥有 4050 亿参数使其有望在LMSys Chatbot Arena 排行榜上取得较高名次，该榜单基于用户盲投评估性能。

近几个月来，榜首在 OpenAI GPT-4 的不同版本、Anthropic Claude 3和 Google Gemini 之间轮换。目前由 GPT-4o 领跑，但更小的 Claude 3.5 Sonnet 位居第二，而即将发布的 Claude 3.5 Opus 若能抢在 OpenAI 更新 GPT-4o 之前推出，可能会登顶。

这意味着高端竞争异常激烈，Llama 3.1 405B 将如何与这些对手抗衡，值得关注。在我们等待 Llama 3.1 405B 登上排行榜的同时，本文后文也提供了一些基准测试结果。

多语言能力

Llama 3 到 Llama 3.1 的主要更新在于更好的非英语支持。Llama 3 的训练数据有 95% 为英语，因此在其他语言上表现不佳。3.1 更新增加了对德语、法语、意大利语、葡萄牙语、印地语、西班牙语和泰语的支持。

更长的上下文

Llama 3 的上下文窗口（一次可推理的文本长度）为 8k token（约 6000 词）。Llama 3.1 将其提升至更现代的 128k，使之能够与其他最先进的 LLM 竞争。

这弥补了 Llama 家族的重要短板。对于企业用例，如长文档摘要、从大型代码库中提取上下文生成代码，或进行长时间的支持型聊天对话，能够容纳数百页文本的长上下文窗口至关重要。

开放模型许可协议

Llama 3.1 模型采用 Meta 的自定义开放模型许可协议发布。该宽松许可允许研究人员、开发者和企业将模型用于研究和商业应用。

在一次重要的更新中，Meta 还扩展了许可，允许开发者利用 Llama 模型（包括 405B 模型）的输出以增强其他模型。

归根结底，这意味着只要遵守协议条款，任何人都可以利用该模型的能力推进工作、创建新应用，并探索 AI 的可能性。

Llama 3.1 405B 的工作原理

本节将说明 Llama 3.1 405B 的技术细节，包括其架构、训练流程、数据准备、算力需求与优化技术。

带有微调的 Transformer 架构 

Llama 3.1 405B 构建于标准的仅解码器Transformer 架构之上，这是众多成功大语言模型常见的设计。

虽然核心结构保持一致，Meta 引入了少量改动以提升训练过程中的稳定性与性能。值得注意的是，专家混合（MoE）架构被有意排除，以优先保证训练的稳定性与可扩展性。

来源：Meta AI

该示意图展示了 Llama 3.1 405B 处理语言的方式。首先将输入文本划分为称为token的更小单位，然后转换为称为token embedding的数值表示。

随后，这些 embedding 会经过多层自注意力处理，模型据此分析不同 token 之间的关系，从而理解其在输入中的重要性与上下文。

自注意力层提取的信息会传入前馈网络，进一步处理与融合以获得语义。自注意力与前馈处理会反复进行多次，以加深模型对文本的理解。

最后，模型会逐 token 生成响应，建立在先前输出之上，形成连贯且相关的文本。这一迭代过程称为自回归解码，使模型能够对输入提示生成流畅且符合语境的回答。

多阶段训练流程

开发 Llama 3.1 405B 采用了多阶段训练流程。最初，模型在覆盖数万亿 token 的海量多样数据集上进行预训练。对海量文本的接触使模型能够从其中的模式与结构中学习语法、事实与推理能力。

预训练之后，模型会经历多轮监督微调（SFT）与直接偏好优化（DPO）。SFT 基于人类反馈在特定任务与数据集上训练，引导模型生成期望输出。

另一方面，DPO 注重根据人类评估者收集的偏好来优化模型回复。该迭代过程逐步增强模型的指令跟随能力、提高回复质量，并确保安全性。

数据质量与数量

Meta 称其高度重视训练数据的质量与数量。针对 Llama 3.1 405B，他们执行了严格的数据准备流程，包括广泛的筛选与清洗，以提升数据集的整体质量。

有趣的是，405B 模型本身也被用于生成合成数据，并纳入训练流程以进一步提升模型能力。

算力规模化

训练像 Llama 3.1 405B 这样庞大且复杂的模型需要极其强大的算力。作为参照，Meta 使用了超过 1.6 万块 NVIDIA 最强 GPU——H100，以高效训练该模型。

他们还对整套训练基础设施进行了重大改进，以确保能够承载该项目的巨大规模，使模型能够有效学习与提升。

推理量化

为使 Llama 3.1 405B 更适用于真实世界应用，Meta 应用了称为量化的技术，即将模型权重从 16 位精度（BF16）转换为 8 位精度（FP8）。这有点像把高分辨率图像切换为稍低分辨率：在保留关键信息的同时减小“文件”体积。

同样地，量化会简化模型的内部计算，使其在单台服务器上运行得更快、更高效。这一优化让他人更易且更具成本效益地利用模型能力。

Llama 3.1 405B 的应用场景

凭借开源特性与强大能力，Llama 3.1 405B 具备广泛的潜在应用。

合成数据生成

模型能生成极为接近人类语言的文本，可用于创建海量合成数据。

这些合成数据有助于训练其他语言模型、增强数据增广技术（让现有数据更具多样性），并构建各种应用所需的真实感仿真。

模型蒸馏

405B 模型中蕴含的知识可通过称为蒸馏的过程迁移至更小、更高效的模型。

可以将模型蒸馏理解为：让学生（较小的 AI 模型）学习专家（更大的 Llama 3.1 405B 模型）的知识。这样更小的模型无需与大模型相同的复杂度或算力也能学会执行任务。

由此即可在智能手机或笔记本电脑等算力受限的设备上运行先进的 AI 能力，而无需依赖用于训练原始模型的强大服务器。

近期的蒸馏案例包括 OpenAI 的GPT-4o mini，它是 GPT-4o 的蒸馏版本。

研究与实验

Llama 3.1 405B 也是一款重要的研究工具，使科学家与开发者能够探索自然语言处理与人工智能的新前沿。

其开放特性鼓励实验与协作，加速创新步伐。

行业定制方案

通过将模型适配于医疗、金融、教育等特定行业的数据，可打造满足这些领域独特挑战与需求的定制化 AI 方案。

Llama 3.1 405B 的安全性侧重

Meta 表示高度重视确保 Llama 3.1 系列模型的安全性。

来源：Meta AI

在发布 Llama 3.1 405B 之前，他们进行了大量“红队”演练。在这些演练中，内部与外部专家充当对抗者，尝试诱使模型做出有害或不当行为，从而识别模型行为中的潜在风险或漏洞。

除部署前测试外，Llama 3.1 405B 还进行了安全性微调。该过程包括人类反馈强化学习（RLHF）等技术，使模型学习将回复与人类价值与偏好对齐。这有助于减轻有害或偏见输出，使模型在真实应用中更安全可靠。

Meta 还推出了Llama Guard 3，这是一款新的多语种安全模型，用于筛查并标记由 Llama 3.1 405B 生成的有害或不当内容。该额外的防护层有助于确保模型输出遵循道德与安全规范。

来源：Meta AI

另一项安全功能是Prompt Guard，旨在防止提示注入攻击。此类攻击通过在用户提示中插入恶意指令来操控模型行为。Prompt Guard 会过滤这类指令，保护模型免受潜在滥用。

来源：Meta AI

此外，Meta 还加入了Code Shield，着重保障由 Llama 3.1 405B 生成代码的安全性。Code Shield 在推理过程中实时过滤不安全的代码建议，并为七种编程语言提供安全命令执行防护，平均延迟为 200ms。这有助于降低生成可被利用或构成安全威胁代码的风险。

来源：Meta AI

Llama 3.1 405B 基准测试

Meta 对 Llama 3.1 405B 进行了严格评估，覆盖 150 多个多样化基准数据集。这些基准涵盖了广泛的语言任务与能力，从通识与推理到编程、数学和多语言能力。

来源：Meta AI

在许多基准上，Llama 3.1 405B 的表现可与 GPT-4、GPT-4o、Claude 3.5 Sonnet 等领先闭源模型相抗衡。尤其在推理任务上表现突出，在 ARC Challenge 上得分 96.9，在 GSM8K 上得分 96.8。在代码生成方面也表现优异，在 HumanEval 基准上取得 89.0 分。

除自动化基准外，Meta AI 还进行了广泛的人类评测，以评估 Llama 3.1 405B 在真实场景中的表现。

来源：Meta AI

尽管 Llama 3.1 405B 在这些评测中具备竞争力，但并未持续领先于其他模型。其表现与 GPT-4-0125-Preview（OpenAI 于 2024 年初发布的预览版 GPT-4 模型）和 Claude 3.5 Sonnet 大体相当，胜负比例相近。相较 GPT-4o 略逊，仅在 19.1% 的对比中获胜。

在哪里可以获取 Llama 3.1 405B？

您可以通过两种主要渠道获取 Llama 3.1 405B：

1. 从 Meta 直接下载： 可从 Meta 官方 Llama 网站直接下载模型权重： llama.meta.com
2. Hugging Face： Llama 3.1 405B 也可在Hugging Face 平台上获取，这是共享与访问机器学习模型的热门平台。

通过便捷开放地提供该模型，Meta 旨在使研究人员、开发者与组织将其能力用于多种应用，并推动 AI 技术的持续发展——关于 Meta 对开源 AI 的原则，详见马克·扎克伯格的公开信。

Llama 3.1 模型家族

尽管 Llama 3.1 405B 以其规模抢占头条，Llama 3.1 家族还提供其他面向不同用例与资源约束的模型。这些模型共享 405B 版本的改进，但针对特定需求做了定制。

Llama 3.1 70B：通用而灵活

Llama 3.1 70B 在性能与效率之间取得平衡，因而适用于广泛的应用场景。

它在长文本摘要、多语言对话代理构建、代码辅助等任务上表现出色。

尽管小于 405B 模型，但在多项基准中仍与同体量的开源与闭源模型具备竞争力。其更小的规模也更易在标准硬件上部署与运维。

来源：Meta AI

Llama 3.1 8B：轻量高效

Llama 3.1 8B 注重速度与低资源占用。适用于这些因素至关重要的场景，如边缘设备、移动平台，或算力受限的环境。

尽管体量更小，在多项任务中（见上表）其性能仍可与同体量模型竞争。

如果您有兴趣微调 Llama 3.1 8B，请参阅本教程：微调 Llama 3.1 以进行文本分类。

所有 Llama 3.1 模型的共同增强

所有 Llama 3.1 模型都共享以下关键改进：

• 扩展的上下文窗口（128K token）： 上下文窗口（模型一次可考虑的文本量）显著提升至 128,000 token。这使模型能够处理更长的输入，并在长对话或长文档中保持上下文。
• 多语言支持： 所有模型现支持 8 种语言：英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语和泰语。更广的语言覆盖使其能够服务全球用户。
• 更强的工具使用与推理能力： 模型在工具调用与推理能力方面得到增强，使其更通用，能胜任更复杂的任务。
• 增强的安全性： 所有 Llama 3.1 模型都经过严格的安全测试与微调，以降低潜在风险并推动负责任的 AI 使用，包括减少偏见与有害输出的努力。

大型 vs. 小型 LLM：一场讨论

尽管 Llama 3.1 405B 的规模令人印象深刻，但也引发了关于当前 AI 领域中语言模型最佳规模的讨论。

如前言所述，Mistral 和 Falcon 等竞争者选择更小的模型，认为这更务实且更易获取。小模型通常需要更少算力，更易部署并针对特定任务进行微调。

然而，大模型（如 Llama 3.1 405B）的支持者认为，其庞大规模使其能够捕捉更深更广的知识，从而在更宽的任务范围上取得更佳表现。他们还指出，这些大模型具有作为“基础模型”的潜力，便于通过蒸馏构建更小的专用模型。

关于大模型与小模型的争论，归根结底是能力与实用性的权衡。更大的模型具备更强的潜在性能，但也伴随更高的算力需求与可能的环境影响（能源消耗）。小模型则可能牺牲部分性能，以换取更强的易用性与部署便捷性。

Meta 同时发布 Llama 3.1 405B 及 70B、8B 等更小变体，似乎正是对这种权衡的认可。通过提供不同规模的模型，他们能够满足 AI 社区内不同的需求与偏好。

最终，在大模型与小模型之间做选择，将取决于具体用例、可用资源与期望的性能特征。随着领域持续演进，二者很可能并存，并在多样化的 AI 应用生态中各得其所。

结论

Llama 3.1 家族的发布，尤其是 405B 模型，标志着开源大语言模型领域的一项重要贡献。

尽管其性能未必在所有闭源模型之上，但其能力与 Meta 对透明与协作的承诺，为 AI 发展提供了一条新路径。

多种模型规模与共同增强使研究人员、开发者与组织的潜在应用面更广。

通过开放分享这项技术，Meta 正在促成一种协作环境，可能加速该领域的进展，让先进 AI 更加可及。

Llama 3.1 对 AI 未来的影响仍有待观察，但其发布凸显了在追求负责任且有益的 AI 技术过程中，开源倡议的重要性日益提升。