结果Google竟然释出了开源大模型Gemma,超出预期!
https://www.inside.com.tw/article/34270-google-gemma
Google 2 款新开源模型“Gemma”来了!直接挑战 Meta Llama 2 7B
2024/02/22 Sisley 聊天机器人 、 生成式 AI 、 摘要 、 轻量级语言模型 、 负责
任生成式 AI
Gemma 现在有两种规模:Gemma 2B 和 Gemma 7B,这两个规模都发布了预先训练和指令调
整版本,对于研究和开发来说更为方便。
继 Gemini 1.5 推出不到一周,Google 21 日再度宣布推出新的、轻量级开源大型语言模
型 Gemma,其研究技术与该公司的旗舰人工智能模型 Gemini 相同,但适合较小的任务,
如聊天机器人与摘要,并在速度与成本上有较大优势。Google 计画在自家 Vertex AI 以
及 Hugging Face、Nvidia 的 Nemo 以及 Kaggle 上提供 Gemma,可用于商业与研究用途
。
Gemma 现在有两种规模:Gemma 2B 和 Gemma 7B。这两个规模都发布了预先训练和指令调
整版本,对于研究和开发来说更为方便,且可在桌上型/笔记型电脑、工作站、物联网装
置、行动装置与 Google Cloud 上执行。
Gemma 支援 Colab 和 Kaggle Notebooks,以及 JAX、PyTorch、 Keras 3.0 和
Hugging Face Transformers 等框架。此外,Google 也与 NVIDIA 携手合作,以最佳化
Gemma 在 NVIDIA GPUs 上的效能。此外,NVIDIA 也在一篇部落格文章中宣布,将很快
将 Gemma 添加到最近推出的 Chat With RTX 功能中。
Google 指出,开发者可以使用 Gemma 从事下列工作,包括:
针对文字生成、内容摘要和问答等轻量级任务,构建生成式 AI 应用程式。
使用自订的轻量级模型进行探索和实验,以支援研发作业。
支援需要低延迟的即时生成式 AI 应用场景,例如串流文字。
另外,Google 也提供了负责任生成式 AI 工具包,以提供打造更安全 AI 应用程式的指
南和基本工具,包括一个 debug 工具,可协助使用者调查 Gemma 的行为并纠正问题。
其他科技公司也发表了较小的模型版本,例如 Meta 就在去年发布了 Llama-2 7B,不意
外地 Google 也拿 Meta 作为竞争对手比较了一番,并指出 Gemma 是所有这些类似模型
中“最先进的”。
据 Google 称,Gemma 在推理、数学和程式码的关键基准测试中,其效能优于较大的开源
模型,例如 Meta 的 Llama-2。
在 2023 年正式展开的 AI 大战中存在着所谓的“开源与闭源”之争,像是 OpenAI 就曾
被科技社群批评已经不够“Open”,反倒 Meta 在开源上获得不少好名声。现在 Google
也加入了提供开源模型的行列中,在开源与闭源上两面下注。
开源模型过去被认为规模较小、能力较弱,但现在效能的差距已经正在缩小,且事实证明
,开源模型的尺寸以及客制化程度,更受到 AI 应用程式开发者的欢迎,且在成本上也更
具优势。
Google DeepMind 产品管理总监 Tris Warkentin 指出,Google 已经听到了软件开发者
的心声,开发者指出,他们在打造 AI 应用程式时时常需要结合专有模型和开源模型,
而 Google 的做法,即是希望能提供一个完善的云端运算平台,在这平台上能运行两种类
型的模型,让更多的客户完全在 Google Cloud 上打造他们的应用程式。
Google 指出,Gemma 是为了那些在推动 AI 的研究者与开发者开源社群而打造的,有需
求者即日起即可用 Kaggle 中的免费存取权限、Colab notebooks 的免费方案,另外研究
人员还可以申请高达 50 万美元的 Google Cloud 积分。首次使用 Google Cloud 的使用
者则可获得 300 美元的积分来使用该模型。
Google 还特别指出,与 Meta 不同的是,Meta 制订了授权条款,以防其他大型科技竞争
对手使用其 Llama 2 开源模型,Gemma 则完全没有此类商业限制。
不过要注意的是,Warkentin 指出,目前 Gemma 仍然最适合英语语言相关任务,“我们
希望能够与社群共同努力,满足英语任务以外的市场需求。”
HuggingFace连结: https://huggingface.co/google/gemma-7b
※ 引述《stpiknow (H)》之铭言:
: 原文标题:
: Google与Hugging Face合作宣布推动开放式AI与机器学习发展
: 原文网址:
: https://bit.ly/4bmSg46