苹果技术文件揭密：AI模型以Google客制芯片训练
MoneyDJ新闻 2024-07-30 08:23:15 记者 郭妍希 报导
苹果(Apple Inc.)透露，两款支持“Apple Intelligence”的AI模型，都是以Google设计
的客制化“张量处理单元”(TPU)在云端进行训练。
CNBC报导，苹果周一(7月29日)释出的技术文件显示，苹果基础模型(Apple Foundation
Model, AFM)及AFM服务器都是以“v4和v5p云端TPU丛集”、运用苹果软件进行初步训练。
这代表苹果向一家云端商租下服务器来执行运算。苹果在文件中表示，“该系统让我们得
以有效扩大训练AFM模型(当中包括AFM终端装置、AFM服务器)，以及规模更大的模型。”
苹果文件中显示，AFM终端装置是以2048颗TPU v5p组成的单一切片(slice)进行训练。v5p
是最先进的TPU，首度于2023年12月发布。AFM服务器则是以8192颗TPU v4芯片组成的八个
切片训练。
根据Google官网，旗下最先进TPU若提前三年预定，则每使用一小时的成本不到2美元。
Google是在2015年首次发布TPU、供内部作业使用，2017年才对外推出。TPU如今是最成熟
的AI客制化芯片之一。
不过，Google仍是辉达(Nvidia Corp.)首要客户之一，不但同时运用辉达GPU及自家TPU训
练AI系统，也在自家云端平台贩售使用辉达科技的服务。
苹果先前曾说，AI推论任务有部分会在使用苹果自家芯片的自有资料中心执行。
根据之前的媒体报导，参与苹果服务器专案“Project ACDC (即Apple Chips in Data
Center、苹果资料中心芯片)”的人士强调，自家服务器处理器的内部元件仍可捍卫用户
隐私。苹果处理器的“安全隔离区”(Secure Enclave)技术，可避免资料外泄。目前苹果
计画以自家的资料中心执行云端功能，但最终仍会仰赖外部设施，如同iCloud等服务。
Meta执行长祖克柏(Mark Zuckerberg)最近接受彭博社记者Emily Chang主持的podcast节
目访问时透露，虽然业界也许对AI基础建设投资过度，但假使进度落后，则未来10~15年
将无法在这个最重要的科技市场占有一席之地。
https://pse.is/69xdjm