我们很高兴宣布，Llama 3.1 系列模型已添加到 Vertex AI Model Garden，这包括全新的 405B，即 Meta 迄今为止功能最强大、用途最广泛的模型。这些模型的添加，表明 Google Cloud 一如既往地践行打造开放、灵活的 AI 生态系统的承诺，帮助您构建最能满足您需求的解决方案。

Llama 3.1 405B

Llama 3.1 405B 是迄今为止最大的公开可用的基础模型，在灵活性、控制力和创新方面为开放模型树立了新标杆。该模型开创了各种新的可能性，包括生成合成数据，为复杂的推理任务提供支持，以及通过极少的微调轻松处理直接推理场景。

Llama 3.1 8B 和 70B

Llama 3 模型的这两个新版本在理解语言细微差别、把握上下文以及执行翻译和对话生成等复杂任务方面表现出色。

信心十足地进行实验

在我们的直观环境中，通过简单的 API 调用和全面的横向评估来探索 Llama 3.1 的功能，而无需担心复杂的部署流程。

根据您的确切需求定制 Llama 3.1

使用自己的数据微调模型，构建可满足您独特需求的定制解决方案。如果您在 Vertex AI Model Garden 中通过自助服务使用 8B 和 70B 模型，可以立即开始微调。微调 405B 模型的功能将在未来几周内推出。

让您的 AI 基于事实

使用 Vertex AI 的多种接地和 RAG 选项，确保您的 AI 输出可靠、相关且值得信赖。例如，您可以将模型连接到企业系统，使用 Vertex AI Search 检索企业信息，利用 Llama3 进行生成等等。

创建 agent

使用 Vertex AI 的全套工具，包括 Vertex AI 上的 LangChain，创建和编排由 Llama 3.1 提供支持的 agent。通过 Genkit 的 Vertex AI 插件将 Llama 3.1 集成到您的 AI 体验中。

无开销部署

支持灵活的自动扩缩，即使是 405B 模型，也能消除部署和扩缩的复杂性。当然，您还可以利用专为 AI 工作负载打造的一流基础设施。

为 Llama 3.1 提供安全的工作环境

不仅支持 Meta 的 Llama Guard，还有 Google Cloud 的内置安全、隐私和合规措施，让您可以放心部署。