[新闻] 在智慧型手机上运行生成式AI的趋势将在20

楼主: stpiknow (H)   2023-08-31 12:17:54
1.原文连结:连结过长者请使用短网址。
https://bit.ly/3YVVYMf
2.原文标题:标题须完整写出且须符合内文(否则依板规删除并水桶)。
在智慧型手机上运行生成式AI的趋势将在2024年实践
3.原文来源(媒体/作者):例:苹果日报/王大明(若无署名作者则不须)
科技产业资讯室 / 茋郁
4.原文内容:请刊登完整全文(否则依板规删除并水桶)。
借助生成式AI,智慧型手机可以成为人们真正的数位助理。用户可以使用它自动阅读或撰
写电子邮件、起草文档和创建演讲文稿。AI驱动的座舱将使驾驶员和乘客能够更自然地互
动和控制娱乐、导航和车辆功能,从而创造更加个性化和直观的体验。
不过,AI的讨论主要集中在云端上。ChatGPT使用大量的处理、储存和内存。到目前为
止,大部分重点都集中在训练和完善新模型上,这些模型通常在云端进行。
但从2024年开始,三星和OnePlus的全新手机可以运行由Meta对ChatGPT的解决方案提供支
持的生成式AI应用程式,这是属于On-Device AI。Meta已与智慧型手机芯片商高通和联发
科技建立了单独的合作伙伴关系,以使其升级成为现实。
联发科技于2023年8月23日透露,将发布一款利用Meta生成式AI系统Llama 2大语言模型(
LLM),为其下一代旗舰芯片组天玑9300带来装置上的生成式AI功能。其实,高通公
司也在2023年 7月宣布与Meta建立类似的合作伙伴关系。
目前,像ChatGPT这样需要大量数据的生成式AI工具的运行成本极高,因为它们需要依赖
于远程云端服务器。一旦将生成式AI在手机上本地运行,这将有助于降低开发人员的经济
成本,进而可以为用户带来大量新的应用程式和服务。
Meta正试图通过免费赠送代码来鼓励开发人员使用其AI大语言模型。一些专家警告说,这
种自由放任的做法可能会导致不良行为者利用该技术达到邪恶目的。
对于普通公众来说,最终结果可以提供量身客制化的个人助理,根据您的兴趣、网络活动
、健身数据、位置甚至您说话的方式提供建议和提示。这些所谓的AI代理将有各种不同的
性格供你与之互动。而且,由于这些新服务将在您的手机上运行,因此理论上您的数
据将比在云端上的数据更加隐密和安全。最后,更广泛的好处将是减少能源消耗。
众所周知,维持聊天机器人运行的数据中心需要大量的水来冷却。事实上,研究人员最近
发现,训练ChatGPT至少消耗了70万公升水,而与机器人的平均对话相当于打翻了500毫升
的瓶子。
从整体发展趋势来看,Meta并不是唯一一家致力于将生成式AI引入智慧型手机的公司。谷
歌最近宣布,它成功地在行动装置上运行了其最新大型语言模型PaLM 2的轻量级版本,这
也为将来On-Device AI带来了契机。
5.心得/评论:内容须超过繁体中文30字(不含标点符号)。
随着生成式 AI 的处理需求、使用案例和使用者增加,在装置上执行的 AI(On-device
AI)将在让生成式 AI 在各个应用程式和产业中扩展,并扩展到更多边缘装置中,扮演不
可或缺的角色。在装置上启用生成式 AI 将有助于在任何地方加速采用,并减少云端基础
设施成本的上升。
作者: Ereinion9895 (k kyle)   2023-08-31 16:06:00
边缘运算,这是好方向
作者: leo125160909 (中兴黄药师)   2023-08-31 19:27:00
手机产A图指日可待

Links booklink

Contact Us: admin [ a t ] ucptt.com