阿里云率先支持Llama 3.1的训练与推理，供应免费算力！

编辑日期：2024年07月24日

7月23日，Meta发布Llama 3.1系列，涵盖4050亿参数的“超大杯”等版本。阿里云魔搭社区迅速上架全系三款模型，而阿里云百炼平台则率先在国内提供针对Llama 3.1全系列的一键式再训练、部署和推理服务。即日起，企业和开发者可通过阿里云平台轻松定制专属大型模型。

Llama 3.1系列包括80亿、700亿及4050亿参数版本，上下文长度扩展到12.8万个tokens，并新增了八种语言的支持。“超大杯”4050亿参数版本为当前最大的开源模型，在多项评估中表现出色，但由于模型庞大，本地部署颇具挑战。

为简化国内开发者的操作流程，阿里云百炼平台特别推出针对Llama 3.1全系列的一键再训练、部署和推理方案，并限时一个月向所有用户提供免费计算资源。企业和开发者可在阿里云百炼模型广场提交申请，审核通过后即可快速体验Llama 3.1的效果，并与其他模型进行直观对比。

对于希望直接应用推理功能的用户，可通过百炼平台上的模型调试和prompt模板等功能，快速构建自己的AI助手。而对于寻求深度开发的企业，则可以结合自身数据集，一键启动全参数训练(SFT)或高效LoRA训练，并利用百炼平台的检索增强(RAG)、智能体打造等能力进行应用开发。

云端大模型的开发与运用，正借助阿里云的卓越实力展现无限潜力。百炼平台集成了阿里云全球产品力排名第二的AI基础设施，为开发者及企业解锁丰富的AI计算资源与极致弹性，实现超大规模模型的深度研发、高效部署与高并发推理的无缝对接。底层设施上，阿里云灵骏智算集群拥有十万张GPU的扩展潜能；AI平台层面上，PAI人工智能平台大幅提升大模型训练效率十倍，且能持续稳定运行千卡任务长达五周。在模型即服务领域，魔搭——国内首屈一指的AI模型社区，与百炼模型服务平台携手，提供涵盖大模型选择、体验、再训练、部署、应用与推理的全方位一站式服务。

作为中国云计算领域的领头羊，阿里云矢志成为“AI时代最开放的云”，全力助推中国大模型生态的蓬勃发展。自去年起，阿里云全方位开源了自研的通义千问大模型，覆盖全尺寸与全模态，同时深度支持Llama、Mistral、Stable Diffusion、ComfyUI等开源模型的研发应用，以及百川智能、智谱AI、零一万物、昆仑万维、vivo、复旦大学等多家国内机构的大模型训练与推理。如今，阿里云已构建起中国大模型的公共算力基石，超过半数的主流大模型皆运行于阿里云之上。

欲了解更多，敬请访问：

魔搭社区：https://modelscope.cn/models

阿里云百炼：https://www.aliyun.com/product/bailian

（注：图片链接已省略）