[讨论] 压榨M2 iPad效能:跑AI绘图 Draw Things

楼主: ivon852 (ASUS)   2024-10-03 22:09:26
iPad都用上M系列芯片了,可惜软件方面仍被系统大大限制住,要怎么发挥处理器的效能
呢,就来试试看跑AI相关的玩意吧。
在Apple Intelligence上市之前,已经有开发者推出一些本机AI方案了,像LLM Farm能在
iPad跑语言模型。CPU硬算的情况下跑3B的小模型其实速度还满快的。
https://i.imgur.com/zYwvW8D.jpg
至于Draw Things就是跑AI绘图了,背后使用Stable Diffusion,可以生成...兔子!
https://i.imgur.com/ZRvPHOc.jpg
Draw Things是真正在本机运算的AI生图软件,无关键字审查,想生什么就生什么,相容
Civitai网站上的大多数Stable Diffusion模型。
APP功能有:文生图、图生图、局部重绘(换脸)、API服务器等等。
这个APP大约2022年就上架了,板上也有大大介绍过。让人讶异的是作为半开源的软件,
这个专案仍有在不断更新,作者最近还加入最新ControlNet、FLUX模型的支援。至今都没
有收费,可以说这是macOS和iOS上最棒的Stable Diffusion生图软件了。
下载网址:
https://apps.apple.com/us/app/draw-things-ai-generation/id6444050820
推荐搭载M1芯片以上、RAM 8GB以上(含)的Mac或iPad安装。
iPhone的话可能要15以上,否则只能生低分辨率的图片。
首先要在APP设定开启CoreML全部加速器,加快生图速度。
https://i.imgur.com/FrEJr8r.jpg
下载SDXL模型
https://i.imgur.com/cZLSy4f.jpg
然后填入正负提示词,分辨率设1024x1024,点选生成,boom,图片就出来了。
如果用过Stable Diffusion WebUI,那么这个应该会很好上手,网络上的“咒语”教学多
半能在此APP使用。
https://i.imgur.com/SJrOFnU.jpg
我还可以点橡皮擦功能,将画面上的一部分擦去。
https://i.imgur.com/whrwNiS.jpg
然后让AI重新生成一件衣裳出来~ 嗯,当然不一定要生衣服,也可以是其他关键字
https://i.imgur.com/4OkHdes.jpg
iPad Air 6 M2 8GB的效能跑SDXL模型,生成1024x1024分辨率的图,大约3分钟内就能生
出来,这速度接近一些电脑低阶Nvidia显示卡的生图速度。
不过感觉目前极限也就到这了,光是SDXL的模型就很容易RAM不足闪退,得清空背景程式
再跑。长时间运算还可能导致iPad过热。
那么我这台iPad要跑FLUX难度就更高了,可能要16GB RM的iPad Pro才够跑。
除非未来有进一步为行动装置优化的生图模型,否则得花钱投资更高阶iPad防患未然呀。
楼下问要跑AI为什么不买Mac?抱歉我主力已经有Linux电脑了,iPad只是用来写字的平板
。可是又觉得iPad的M2芯片效能那么强,不压榨一下很可惜,所以就拿来跑AI绘图。
其实个人跑Draw Things也不是单纯要在iPad生图而已,而是搭配SillyTavern AI聊天软
体使用,作为自架AI运算的一环。
关于SillyTavern的介绍:https://reurl.cc/qv4qyy
Draw Things提供API Server,能够接受其他电脑传来的生图请求。所以能够一边跟AI
对话,一边生成图片。
https://i.imgur.com/RKhbFXq.jpg
因为老电脑要同时跑二个AI的模型非常吃资源,于是设定分工机制:在电脑跑SillyTavern
和LLaMA语言模型,iPad当作产图机,透过HTTP API Server远端生图。
作者: jhjhs33504 ( )   2024-10-03 22:27:00
不晓得有无咒语生成的语言模型? 不然好容易改坏的样子
作者: siegfriedlin (齐格飞)   2024-10-03 23:06:00
我想看福利社
作者: george755185 (觉悟者恒幸福)   2024-10-04 00:18:00
可以用加速lora(4 step lcm或 hyperSD)才不会冷掉它的独门绝技8 bit model. flux用在对话生图很强,值得一试.只是我M1要生1张2分钟还是偏久
作者: gary8442 (起秋风)   2024-10-04 00:34:00
iPadAirM2 2024是阉割版的GPU也被阉掉一颗的残缺版本然后iPad Air机型散热能力明显比Pro差 容易过热发烫别太操 不然很快就挂了 已经一堆人Air5M1刚过保就死机https://i.imgur.com/0BBHEEQ.jpegAir3 Air4也是一堆过保就坏掉的 板上都有一堆案例
作者: KimomiKai (时雨大天使)   2024-10-04 02:35:00
来玩玩看,感谢分享
作者: purplvampire (阿修雷)   2024-10-04 08:50:00
谢谢分享
作者: ianferrari (吴麻糬)   2024-10-04 13:00:00
感谢分享
作者: Lyeuiechang (誠誠小屁孩)   2024-10-04 19:04:00
作者: wind18 (姨妈)   2024-10-04 22:06:00
相同设定下不知道为啥M4,8G明显比M2,16G算的慢欸
作者: george755185 (觉悟者恒幸福)   2024-10-04 22:31:00
模型能不能全放进ram很影响生图速度.可以开监控看

Links booklink

Contact Us: admin [ a t ] ucptt.com