三言科技 7月19日消息，7月18日，在微软Inspire大会上，Meta和微软宣布在Azure和Windows上支持Llama 2大型语言模型（LLM）系列。

微软表示，Azure客户可以在Azure平台上更轻松、更安全地微调和部署7B、13B和70B参数的Llama 2模型，Azure是最广泛采用前沿和开放模型的平台。此外，Llama将进行优化，以便在Windows上本地运行。Windows开发人员将能够通过ONNX Runtime瞄准DirectML执行提供商来使用Llama，从而实现无缝工作流，为其应用程序带来生成式人工智能体验。

以下为微软官方通稿全文：

微软和Meta公司通过Azure和Windows平台上的Llama 2扩展其人工智能合作伙伴关系

近几个月来，人工智能创新领域取得的巨大进步掀起了一股变革的浪潮，以重塑行业和工作方式的前景吸引着我们的集体想象力。

今天，在微软Inspire大会上，Meta和微软宣布在Azure和Windows上支持Llama 2大型语言模型（LLM）系列。Llama 2旨在帮助开发者和组织构建生成式人工智能工具和体验。Meta和微软共同致力于实现人工智能及其优势的民主化，我们很高兴Meta在Llama 2上采用了开放的方法。在Meta首次向商业客户发布新版Llama 2时，我们很高兴能成为Meta的首选合作伙伴。

现在，Azure客户可以在Azure平台上更轻松、更安全地微调和部署7B、13B和70B参数的Llama 2模型，Azure是最广泛采用前沿和开放模型的平台。此外，Llama将进行优化，以便在Windows上本地运行。Windows开发人员将能够通过ONNX Runtime瞄准DirectML执行提供商来使用Llama，从而实现无缝工作流，为其应用程序带来生成式人工智能体验。

我们与Meta公司的合作伙伴关系日益紧密

Meta和微软是人工智能领域的长期合作伙伴，双方曾合作将ONNX Runtime与PyTorch集成，在Azure上为PyTorch创造良好的开发者体验，Meta还选择Azure作为战略云提供商。今天的声明建立在我们的合作伙伴关系之上，以加速人工智能时代的创新，并进一步扩展了微软的开放模型生态系统和作为全球人工智能超级计算平台的地位。

Azure专门构建的人工智能超级计算平台从设施、硬件和软件方面进行了独特的设计，以支持世界领先的人工智能组织构建、训练和部署一些要求最苛刻的人工智能工作负载。Llama 2模型与Azure AI的结合使开发人员能够利用Azure AI的强大工具进行模型训练、微调、推理，特别是支持AI安全的功能。

在Windows中加入Llama 2模型有助于推动Windows成为开发人员根据客户需求构建人工智能体验的最佳场所，并释放他们使用Windows Subsystem for Linux (WSL)、Windows终端、Microsoft Visual Studio和VS Code等世界级工具进行构建的能力。

扩展 Azure AI 模型目录和 Windows可用性

Llama 2是我们不断增长的Azure人工智能模型目录的最新成员。该模型目录目前处于公开预览阶段，是基础模型的中心，使开发人员和机器学习（ML）专业人员能够轻松地发现、评估、定制和大规模部署预构建的大型人工智能模型。

该目录消除了用户在运行Llama 2时管理所有基础设施依赖的需要，为模型微调和评估提供交钥匙支持，包括强大的优化技术，如DeepSpeed和ONNX Runtime，可显著提高模型微调的速度。

Windows开发人员将能够通过GitHub Repo轻松使用Llama 2构建新的体验。借助Windows Subsystem for Linux和高性能GPU，开发人员可以在Windows PC上对LLM进行微调，以满足他们的特定需求。

使用 Azure 进行负责任的建设

负责任的人工智能是微软人工智能方法和我们合作方式的核心。多年来，无论客户是构建自己的模型，还是使用来自微软、Meta、OpenAI和开源生态系统的预构建和可定制模型，我们都投入巨资，使Azure成为负责任的尖端人工智能创新的场所。

在微软，我们通过包括实验和测量在内的迭代、分层方法来降低使用大型语言模型带来的潜在风险。Azure AI客户可以使用自己的样本数据测试Llama 2，以了解其在特定用例中的表现。然后，客户可以使用提示工程和检索增强生成（RAG）技术，为其应用程序开发、评估和优化元数据，并为最终用户提供更安全、更可靠的体验。

Azure AI内容安全等服务增加了另一层保护，有助于确保使用AI应用程序获得更安全的在线体验。我们与Meta合作的部分成果是将Meta的安全技术与Azure AI内容安全相结合，这样，在Azure AI中部署的Llama 2模型就会默认采用分层安全方法。

今天，我们通过Llama 2扩展了我们的模型目录，并与Meta建立了合作伙伴关系，这是在实现负责任、开放的人工智能方法方面迈出的一大步。