iPad都用上M系列芯片了,可惜软件方面仍被系统大大限制住,要怎么发挥处理器的效能
呢,就来试试看跑AI相关的玩意吧。
在Apple Intelligence上市之前,已经有开发者推出一些本机AI方案了,像LLM Farm能在
iPad跑语言模型。CPU硬算的情况下跑3B的小模型其实速度还满快的。
https://i.imgur.com/zYwvW8D.jpg
至于Draw Things就是跑AI绘图了,背后使用Stable Diffusion,可以生成...兔子!
https://i.imgur.com/ZRvPHOc.jpg
Draw Things是真正在本机运算的AI生图软件,无关键字审查,想生什么就生什么,相容
Civitai网站上的大多数Stable Diffusion模型。
APP功能有:文生图、图生图、局部重绘(换脸)、API服务器等等。
这个APP大约2022年就上架了,板上也有大大介绍过。让人讶异的是作为半开源的软件,
这个专案仍有在不断更新,作者最近还加入最新ControlNet、FLUX模型的支援。至今都没
有收费,可以说这是macOS和iOS上最棒的Stable Diffusion生图软件了。
下载网址:
https://apps.apple.com/us/app/draw-things-ai-generation/id6444050820
推荐搭载M1芯片以上、RAM 8GB以上(含)的Mac或iPad安装。
iPhone的话可能要15以上,否则只能生低分辨率的图片。
首先要在APP设定开启CoreML全部加速器,加快生图速度。
https://i.imgur.com/FrEJr8r.jpg
下载SDXL模型
https://i.imgur.com/cZLSy4f.jpg
然后填入正负提示词,分辨率设1024x1024,点选生成,boom,图片就出来了。
如果用过Stable Diffusion WebUI,那么这个应该会很好上手,网络上的“咒语”教学多
半能在此APP使用。
https://i.imgur.com/SJrOFnU.jpg
我还可以点橡皮擦功能,将画面上的一部分擦去。
https://i.imgur.com/whrwNiS.jpg
然后让AI重新生成一件衣裳出来~ 嗯,当然不一定要生衣服,也可以是其他关键字
https://i.imgur.com/4OkHdes.jpg
iPad Air 6 M2 8GB的效能跑SDXL模型,生成1024x1024分辨率的图,大约3分钟内就能生
出来,这速度接近一些电脑低阶Nvidia显示卡的生图速度。
不过感觉目前极限也就到这了,光是SDXL的模型就很容易RAM不足闪退,得清空背景程式
再跑。长时间运算还可能导致iPad过热。
那么我这台iPad要跑FLUX难度就更高了,可能要16GB RM的iPad Pro才够跑。
除非未来有进一步为行动装置优化的生图模型,否则得花钱投资更高阶iPad防患未然呀。
楼下问要跑AI为什么不买Mac?抱歉我主力已经有Linux电脑了,iPad只是用来写字的平板
。可是又觉得iPad的M2芯片效能那么强,不压榨一下很可惜,所以就拿来跑AI绘图。
其实个人跑Draw Things也不是单纯要在iPad生图而已,而是搭配SillyTavern AI聊天软
体使用,作为自架AI运算的一环。
关于SillyTavern的介绍:https://reurl.cc/qv4qyy
Draw Things提供API Server,能够接受其他电脑传来的生图请求。所以能够一边跟AI
对话,一边生成图片。
https://i.imgur.com/RKhbFXq.jpg
因为老电脑要同时跑二个AI的模型非常吃资源,于是设定分工机制:在电脑跑SillyTavern
和LLaMA语言模型,iPad当作产图机,透过HTTP API Server远端生图。