周末来加值信仰\@n@/ 这是盖兹几天前的见解 (注一)
https://www.youtube.com/watch?v=jpfC7rzoX2A
专访问盖兹 你认为AI是Bubble吗 类似网络泡沫吗 盖兹基本回答就是 绝对不是
他的回答可以内化好几块 基本上指出包含到软件后端的整合和优化等后续工作
甚至稍微过度臆测延伸 这都意味系统都有可能重新推倒设计(e.g.AI PC/Phone/云端基建)
这也意味者需多产业会兴起 可能是投资人的一个光明参与机会
最近透过人类数据加值AI算法已经慢慢被AI自己模拟数据取代 从CLIP时期开时
展现的大数据虽重要 算法通常也可以学习野生大量数据法则 但这几年算法上意识到
数据的品质更为重要 像BLIP2和LAION都是透过用filter方式去除噪声野生数据来改善
野生数据品质 但这方法有一定的瓶颈
(曾经看过一个demo是 有人把slack上所有对话数据去fine-tune LLM
然后给一些任务 结果LLM只会回答will do. Things is on track. Stay on Tune.
Still in my to-do list等垃圾回答而非产生真正有意义答案)
NVDA最新的Nemotron揭示了 大量高品质数据可以用模拟仿真产生 而训练完模型
又会超越野生数据训练出的大模型 事实上像OpenAI Sora模型也可能走这条路
外界高度怀疑Sora透过用游戏虚拟引擎(Unreal)产生空间模拟资料 帮助机器学习
最近越来越多算法也开始寻求透过模拟场景来增加无标签数据的高品质性
甚至透过机器去教机器(参照 https://tinyurl.com/38x9md8s)
这也意味者算力/内存空间需求会继续线性成长 后其他用AI改进"效率" "生产工具"
等软件开发整合也陆陆续续地开始在亮相 像是Adobe pdf reader/MS Office
生产工具变得越来越聪明
然后人类以后的功能就是当电池了 连当数据产生器的功能也被机器夺去 QnQ