[情报] 微软, META合作 Llama2上 Azure

楼主: derekhsu (華麗的天下無雙)   2023-07-19 09:38:31
1. 标题:
微软与META扩大他们的AI合作关系,让Llama 2上Azure以及 windows
2. 来源:
微软公司
3. 网址:
https://bit.ly/3NQdaxm
4. 内文:
在近几个月,AI创新的重大进展引发了一波变革性的可能性,以重塑产业和我们的工方式的承诺,吸引了我们集体的想像力。今天,在Microsoft Inspire上作Meta和Microsoft宣布在Azure和Windows上支援Llama 2系列的大型语言模型(LLMs)。Llama 2旨在使开发人员和组织能够构建由生成AI驱动的工具和体验。Meta和Microsoft都致力于将AI及其好处普及化,我们很高兴Meta对Llama 2采取开放的方式。我们为开发人员提供在他们构建的模型类型上的选择,支援开放和前沿模型,并很高兴成为Meta在他们首次向商业客户发布Llama 2的新版本时的首选合作伙伴。
现在,Azure客户可以更轻松、更安全地在Azure上微调和部署7B、13B和70B参数的Llama 2模型,这是最广泛采用的前沿和开放模型的平台。此外,Llama将优化为在Windows上本地运行。Windows开发人员将能够通过针对ONNX Runtime的DirectML执行提供者来使用Llama,允许他们在将生成AI体验带入他们的应用程序时实现无缝的工作流程。
我们与Meta的合作关系不断增长,Meta和Microsoft一直是AI的长期合作伙伴,从与PyTorch合作将ONNX Runtime集成到Azure上,创建了一个对于PyTorch在Azure上的开发人员体验,以及Meta选择Azure作为战略云提供商。今天的公告建立在我们的合作伙伴关系上,以加速在AI时代的创新,并进一步扩展Microsoft的开放模型生态系统和作为全球AI超级计算平台的地位。
Azure的专为AI超级计算设计的平台从设施、硬件和软件上都独一无二地设计,以支援世界领先的AI组织构建、训练和部署一些最具挑战性的AI工作负载。Llama 2模型与Azure AI的可用性使开发人员能够利用Azure AI的强大工具进行模型训练、微调、推理,特别是支援AI安全的功能。
将Llama 2模型包含在Windows中有助于推动Windows成为开发人员构建为他们的客户需求量身定制的AI体验的最佳场所,并解锁他们使用世界一流工具如Windows Subsystem for Linux (WSL)、Windows终端、Microsoft Visual Studio和VS Code的能力。
Llama 2是我们不断增长的Azure AI模型目录的最新添加。该模型目录,目前在公开预览中,作为基础模型的中心,使开发人员和机器学习(ML)专业人员能够轻松发现、评估、自定义和部署预先构建的大型AI模型。
该目录消除了用户在操作化Llama 2时需要管理所有基础设施依赖性的需要。它为模型微调和评估提供了即插即用的支援,包括强大的优化技术,如DeepSpeed和ONNX Runtime,这些技术可以显著提高模型微调的速度。
Windows开发人员将能够轻松地使用Llama 2构建新的体验,可以通过GitHub Repo访问。有了Windows Subsystem for Linux和高性能的GPU,开发人员可以在他们的Windows PC上微调LLM以满足他们的特定需求。
在Azure上负责任地建立,负责任的AI是Microsoft对AI的方法和我们如何合作的核心。多年来,我们一直在使Azure成为负责任的、尖端的AI创新的地方投入大量资源,无论客户是建立自己的模型还是使用来自Microsoft、Meta、OpenAI和开源生态系统的预先构建和可自定义的模型。
在Microsoft,我们通过包括实验和测量在内的迭代、分层的方法来减轻大型语言模型使用可能带来的风险。Azure AI的客户可以使用他们自己的样本数据来测试Llama 2,看看它如何适应他们的特定用例。
心得:
强强联合了!Llama2公布不到24小时 Azure上马上就可以用,而且支援1键部署。
要知道Llama一代是不给商用的,第二代直接就秒上 Azure
微软这下开源跟闭源的模型都有了,且 Llama2在不少方面已实现追上 GPT 3.5
作者: hlkevin81925 (台大李小仁)   2023-07-19 09:41:00
看不懂
作者: miyazakisun2 (hidetaka)   2023-07-19 10:14:00
总之可以在zure 用就对了Azure

Links booklink

Contact Us: admin [ a t ] ucptt.com