@@ 狗家这周推出的gemma-3-270m-it
https://huggingface.co/google/gemma-3-270m-it
介绍 https://developers.googleblog.com/zh-hans/introducing-gemma-3-270m/
小到靠杯 比所有现知道的最小on-device LLM小了快四倍(1B vs 270M)
摘录
极高的能源效率：Gemma 3 270M 的一个关键优势是其低功耗。
在 Pixel 9 Pro SoC 上进行的内部测试显示，由于采用了 INT4 量化技术，
该模型在 25 次对话中仅消耗了 0.75% 的电量，使其成为我们最节能的 Gemma 模型。
270M意味者 如果终端设备(比方说AR眼镜) 内存有1~4G Ram 是可以直接跑
另外一个原因是 果家如果想做on-device LLM 只能选狗家了 因为openai没有做过
on-device经验 那种软硬整合有很多坑 比方说有一次我们盖了一个迷你LLM 1B
采用MoE设计 想在手机上跑 然后高通NPU对接说 偶们NPU不支援MoE设计唷 秋咪@n@
这周试了一下
gemma-3-270m-it在苹果电脑GPU
(可以开苹果GPU torch.device(mps))可以快速fine-tune 效果还不差
@@狗家模型完全杀到终端device去了 原本果家也想干这条路 但那个最高负责人
Ruoming Pang 团队早就跑去阿祖了 (谣言阿祖想做他们的AR眼镜AI技术路线)
所以果家on-device AI整个大崩盘
一但吃掉果家on-device LLM 手机这边就没啥人可以跟狗家抢on-device模型了
@@andriod+ios
※ 引述《TyuzuChou (润润润)》之铭言：
: 原文标题：
: Google shares rise on report of Apple using Gemini for Siri
: 原文连结：https://tinyurl.com/3tpvc2c7
: 发布时间：Published Fri, Aug 22 20254:23 PM EDT
: 记者署名：Jennifer Elias
: 原文内容：
: Alphabet shares rose on a Friday report that Apple is in early discussions to
: use Google’s Gemini AI models for an updated version of the iPhone maker’s
: Siri assistant.
: 周五有报导称，苹果正与 Google 进行初步讨论，考虑在升级版 Siri 助理中使用
: Google 的 Gemini AI 模型，消息带动 Alphabet（Google 母公司）股价上涨。
: The company’s shares rose more than 3% on the Bloomberg report, which said
: Apple recently inquired of Google about the potential for the search giant to
: build a custom artificial intelligence model that would power a new Siri that
: could launch next year. Google’s flagship AI models Gemini have consistently
: been atop key benchmarks for artificial intelligence advancements while Apple
: has struggled to define its own AI strategy.
: 彭博报导指出，苹果最近已向 Google 询问，是否能为其打造一款客制化的 AI 模型，以
: 驱动新版 Siri，最快可能于明年推出。消息传出后，Alphabet 股价上涨超过 3%。
: Google 的旗舰 AI 模型 Gemini 在人工智能的多项重要测试中持续领先，而苹果在 AI
: 策略上却迟迟难以明确定位。
: The reported talks come as Google faces potential risk to its lucrative search
: deals with Apple. This month, a U.S. judge is expected to rule on the
: penalties for Google’s alleged search monopoly, in which the Department of
: Justice recommends eliminating exclusionary agreements with third parties. For
: Google, that refers to its search position on Apple’s iPhone and Samsung
: devices — deals that cost the company billions of dollars a year in payouts.
: 这些谈判发生的同时，Google 也面临着与苹果之间高额搜寻合作协议的风险。本月，美
: 国一名法官将对 Google 涉嫌垄断搜寻的案件做出裁决，美国司法部建议取消 Google 与
: 第三方的排他性协议。对 Google 而言，这涉及其在苹果 iPhone 与三星设备上的默认搜
: 寻地位——这些协议每年让 Google 付出数十亿美元代价。
: The Android maker has said its Gemini models will become the default assistant
: on Android phones. Google this year has showed Gemini doing capabilities that
: go beyond Siri’s capabilities, such as summarizing videos.
: Android 制造商 Google 表示，Gemini 模型将成为 Android 手机的默认助理。今年，
: Google 展示了 Gemini 的功能，已超越 Siri，例如能自动摘要影片内容。
: Craig Federighi, who oversees Apple’s operating systems, said at last year’s
: developer conference that the iPhone maker would like to add other AI models
: for specific purposes into its Apple Intelligence framework. Federighi
: specifically mentioned Google, whose Gemini can now hold conversations with
: users and handle input that comes from photos, videos, voice or text. Apple is
: also exploring partnerships with Anthropic and OpenAI as it tried to renew
: its AI roadmap, according to a June Bloomberg report.
: 负责苹果作业系统的 Craig Federighi 去年在开发者大会上表示，苹果希望将不同用途
: 的 AI 模型纳入其“Apple Intelligence”框架中。他特别提到 Google，并指出 Gemini
: 已能与使用者进行对话，并处理来自照片、影片、语音或文字的输入。据彭博今年六月
: 报导，苹果同时也在探索与 Anthropic 以及 OpenAI 的合作，以重新规划其 AI 路线图
: 。
: Documents revealed during Google’s remedy trial showed executives from Apple
: were involved in the negotiations over using Google’s Gemini for a potential
: search option.
: 在 Google 的反垄断补救审理中披露的文件显示，苹果高层确实参与了有关使用 Google
: Gemini 作为潜在搜寻选项的谈判。
: Google declined to comment.
: Google 拒绝置评。
: 心得/评论：
: 为何 Apple 选 Google Gemini 而非 OpenAI？
: 技术领先 & 稳定性
: Google Gemini 在多项 AI 基准测试中表现领先，
: 且能支持多模态（图像、影片、语音、文字）输入，功能比 Siri 强大。
: OpenAI 虽然在生成式 AI（GPT 系列）领域强势，
: 但在系统级整合、多模态处理、搜寻整合上落后 Google。