楼主:
Lushen (wind joker!!!)
2025-01-25 17:49:15标题:
AMD Instinct GPUs Power DeepSeek-V3: Revolutionizing AI Development with SGLang
来源:
AMD's X (Twitter)
网址:https://x.com/AMD/status/1882851449991737473
内文:
Excited to share that AMD has integrated the new DeepSeek-V3 model on Instinct MI300X GPUs, designed for peak performance with SGLang. DeepSeek-V3 is optimized for AI inferencing. Special thanks to the DeepSeek and SGLang teams for their close collaboration!
很兴奋与大家分享,AMD已将全新的DeepSeek-V3模型集成到Instinct MI300X GPU上,旨在与SGLang一起实现卓越的性能。DeepSeek-V3已针对AI推理进行优化。特别感谢DeepSeek和SGLang团队的紧密合作!
https://i.imgur.com/xVyT4ds.png
-
这波 DeepSeek V3/R1 热度 AMD 无情开蹭,官方推特(X) 24小时内发了两篇关于 AMD 的 AI Group 团队跟 DeepSeek 展开深度合作。
宣传 AMD 的 GPU 可以高效的跑 DeepSeek 的最新模型
甚至还发推帮 DeepSeek 宣传
https://i.imgur.com/xVyT4ds.png
嘴角完全压不住
AMD 开发者中心也特别发文宣传
https://i.imgur.com/0BcolBA.png
接下来如果商业公司想要接、提供 DeepSeek 模型去省 LLM model 成本,以计算成本考量 NVIDIA 就不一定是首选。
同样的计算量跑 DeepSeek 模型可以节省 20-30 倍的成本
对正确性不是这么敏感的场景来说用 DeepSeek 的成本诱因超级巨大