Google与Hugging Face合作宣布推动开放式AI与机器学习发展
1. 情报or新闻 连结:
https://bit.ly/42gIE6Q
2. 内文:
谷歌(Google)近日与Hugging Face达成战略合作,将Hugging Face的平台与谷歌云端基础
设施整合,包括Vertex AI,以使开发者更容易使用生成式AI。这项合作让Hugging Face
用户及谷歌云端客户能轻松在谷歌云端以推断端点部署模型,并通过Hugging Face空间加
速应用程式,同时透过谷歌云端帐户管理用量。
开发者将能快速且具成本效益地在谷歌云端训练、调整及提供开放源代码模型,充分利用
AI导向基础设施如TPU与GPU。此合作也支持谷歌Kubernetes引擎部署,允许建立新的生成
式AI应用程式。
此举被视为Alphabet踏入AI领域的重要一步,且与微软与OpenAI之合作相提并论,尽管
Hugging Face产品主管Jeff Boudier指出,谷歌与Hugging Face的合作有很大不同。
谷歌的张量处理单元(Tensor Processing Units, TPU)是为加速机器学习任务所开发的专
用硬件,特别是涉及大型矩阵运算。与为平行运算而设计、跨各种计算工作负载灵活运用
的通用图形处理器不同,TPU专为AI与机器学习工作负载而设计,着重张量运算以提高速
度及能源效率。TPU的能源效率也优于GPU,其设计着重降低每次操作能耗,可实现更低能
源成本及减少碳足迹。透过此合作,Hugging Face用户将可利用谷歌云端所提供的TPU。
Vertex AI是谷歌在其云端环境中提供的机器学习与MLOps平台。借由两者的整合,
Hugging Face用户可选择Vertex AI作为托管及管理开源代码模型的部署平台。他们也可
选择GKE这项托管模型的受管理Kubernetes服务,提供精细控制及自订能力。
Hugging Face已从科技巨头获得重大投资,包括谷歌。在D轮融资中,Hugging Face筹得
2.35亿美元,投资方包括谷歌、亚马逊、辉达、英特尔、AMD、高通、IBM、Salesforce等
,使该新创公司的估值翻倍至45亿美元。凭借其对开源代码的承诺,Hugging Face已迅速
成为托管模型、资料集及推断端点的首选平台。几乎所有开源代码模型提供者如Meta、微
软及Mistral均在Hugging Face中心提供模型。
谷歌拥有仅在其公有云平台上独家提供的基础模型。上个月公布的Gemini是表现最佳的大
型语言模型之一。像是Imagen、Chirp与Codey等模型也是Vertex AI产品组合的一部分。
借由将Hugging Face与谷歌云端整合,客户可在云端选择专利与开放源代码以建立及部署
生成式AI应用程式。
谷歌与Hugging Face的合作有望使AI普及化,让企业能轻松利用开源代码模型与技术建立
自己的AI。随着Hugging Face成为开源代码AI软件的枢纽,这项合作可能会将其AI相关软
体储存库规模扩增一倍。预期新的功能,包括Vertex AI与Google Kubernetes Engine
(GKE)部署选项,将在2024年上半年开放给Hugging Face中心的用户。
3.心得:
谷歌与Hugging Face的合作,将使AI更易于部署与使用,并让开发者能充分利用谷歌的云
端基础设施与硬件优势,如TPU,这对于AI的普及化与商业应用具重要意义。