对于老黄GTC到底想干啥 可以参照底下演讲 这演讲其实点出很多很重要的关键概念
尤其是19:15那边 你可以把语速调回0.75倍变为正常速度
19:15其实那边就是layout AI Foundry那个pdf RAG延伸版概念 (注1)
https://www.youtube.com/watch?v=ER4xNhSVJ2c
老黄的优点就是他擅长拿别人的好主意整合到自己商业模式 从以前苏妈HBM到台积代工
甚至turnkey solution 现在则是用张忠谋代工模式+自己生态圈打造AI as a Service
遥想一下以后的未来 你手上有你这个产业才有的数据 你想用AI来帮助你解决一些问题
这时候你可以 1.花一堆钱雇用做AI相关的人 然后帮你处理数据 然后用算力扫描
这些大量数据 接者你昂贵的AI工程师会跟你说 诶诶诶 那个训练出来结果不太对
learning rate到10e-6时 curve没办法再更下去了 performance好像会overfit
我换另外一个2B foundation model试试看 欧欧 等等 我用的GPU好容易gradient
overflow 或者诶诶 这边有100多种Foundation Model我不确定哪个好 让我一个个试
又或者那个算力不够 我得把GPU数量提高到1000但我不是用NVDA的 所以系统给我crash
让我找GPU厂商去修 又或者好不容易fine-tune完成(客制化模型) 要到deploy时
诶诶诶 那个系统又崩了 因为他无法查询数量超过一万个以上药物
但此时老黄会跟你说 其实你不用自己造轮子 我这边手上有全世界最好的AI工程师
这边是我们的包算力方案 我们会协助你用我们AI数据库里面Foundation Model
来根据你数据做Fine-tuning你想要针对某组DNA去探讨药物效果 没问题
fine-tuing训练过程有任何问题 我们这边会派驻场AI工程师线上协助你们
什么算力不够 好 这边是我们的H700套餐 欧欧欧 你想在infernece上可以支援上万组药物效用查询
好 这边是我们AI加速SQL套餐 欧欧欧 什么 你想一个inference系统能支援各种国家
数万个科学家和数据库的搜寻 没问题 这边是我们超巨大云端系统 有最快的连网速度
价位是xxxxxxx
所以AI Foundry最大意义 就是降低这个AI落地门槛 利用自家生态圈
在training/inference搭配云端整合和自家杰出工程师 帮你代工AI商业模式
就像当年台积电把ic设计 把这门槛降低(以前AMD/Intel都要自己养一个晶圆工厂)
也像是当年联发科把手机系统厂门槛降低 任何白牌照抄联发科turnkey solution
而每次底下厂商陪你练功(Fune-tune)久了也知道如何去客制化AI落地产品(Fine-uning)
就像当年联发科的Turneky solution你要的软件硬件都会有人帮妳弄了
也像是苹果和台积驻场工程师一起看设计图(数据)搭配不同算力(3nm/5nm/7nm)
提出方案 要知道你在美国你还找得到一些不错AI咏唱师跟你一起搞第一套方案
如果没有长期玩过AI炼金术这玩意 你在训练大模型 很容易会训练失败..尤其台湾
到现在都还没A100..像台湾现在想搞个数位医生自动看诊(我知道华硕和各医院有在搞)
那个搭建门槛是无敌的高 我之前看到他们开的AI工程师月薪x万元 ...帮台湾QQ
AI三重点 数据 算力 算法 要知道 数据这玩意是抢不走的 老黄有后面两个
所以NVDA更不像当年联电可以抄上游设计厂商架构然后自己去抢市场 当年思科还停留
在卖铲子 老黄已经进阶到卖系统生态圈整个大架构 帮你实现你的AI点子 只要你有数据
所以GTC两重点 BlackWell和AI Foundry 后者瞄准的是要提供给所有中小企业解锁门槛
让全世界中小企业自家数据打造能客制化赚钱产物 更别说上面老黄演讲还讲了
Conitnuious Training->Inference->Training->Inference这种完全不让其他厂商抢蛋糕
的系统模式 所以接下来财报观察重点就是 要观察AI代工这概念是否能起飞
张忠谋当年花了20多年让晶圆代工解锁ic设计门槛 老黄不知道会花多少年来解锁AI
入门落地门槛 以AI as a Service连到Inference落地化 这个章节是这次GTC主题
全面产业 机器人 金融 法律 医疗 药物 所有提高生产力工具 只需要有数据
不管是硬件 软件 训练 或 推论 又或者客制化AI炼金术的训练参数 老黄NVDA通通给你!
当年cisco还停留在卖铲子 下游厂商自己搭建软件业务 老黄已经走出这个阶段
开始贩卖软件硬件整合服务了QQ