怎么说呢，目前小资玩LLM训练还是很困难啦
NV专业卡价格超级贵又难买，只能买消费级游戏卡来挡
虽然有云端服务商算力平台，但说真的
短租不如长租~~长租不如买断(没预算就什么都没法用)
而且平台不只租GPU，连VM都得一起建在上面才能用
像GCP台湾节点能租到的也就V100，这一张才16G而已
https://cloud.google.com/compute/gpus-pricing
VM/GPU/Storge/Network分开计价，有预算再考虑玩吧
如果只是要玩推理，速度不快有够大的VRAM也行
但是看一下老黄卡有大VRAM的都不好买，所以嘛
某个用UMA架构能把RAM当VRAM的品牌电脑很有优势
配上exo框架+雷电网桥组集群打怪也是很不错
实务上来说国内企业对资料上云有疑虑，就算可上也要机房落地
自然不考虑国外GPU平台，大概也就Google跟Azure台湾有机房的
而中小企业想跟上AI风潮但预算更少，组90系列当算力也很常听到
因此本地端跑LLM还是有必要性，玩起来限制也较少
至少先从使用LLM的成本降低才来思考微调训练LLM的需求...