作者ivon852 (內容農場殺手)
標題[討論] 壓榨M2 iPad效能:跑AI繪圖 Draw Things
時間2024-10-03 22:09:26
iPad都用上M系列晶片了,可惜軟體方面仍被系統大大限制住,要怎麼發揮處理器的效能
呢,就來試試看跑AI相關的玩意吧。
在Apple Intelligence上市之前,已經有開發者推出一些本機AI方案了,像LLM Farm能在
iPad跑語言模型。CPU硬算的情況下跑3B的小模型其實速度還滿快的。
https://i.imgur.com/zYwvW8D.jpg
至於Draw Things就是跑AI繪圖了,背後使用Stable Diffusion,可以生成...兔子!
https://i.imgur.com/ZRvPHOc.jpg
Draw Things是真正在本機運算的AI生圖軟體,無關鍵字審查,想生什麼就生什麼,相容
Civitai網站上的大多數Stable Diffusion模型。
APP功能有:文生圖、圖生圖、局部重繪(換臉)、API伺服器等等。
這個APP大約2022年就上架了,板上也有大大介紹過。讓人訝異的是作為半開源的軟體,
這個專案仍有在不斷更新,作者最近還加入最新ControlNet、FLUX模型的支援。至今都沒
有收費,可以說這是macOS和iOS上最棒的Stable Diffusion生圖軟體了。
下載網址:
https://apps.apple.com/us/app/draw-things-ai-generation/id6444050820
推薦搭載M1晶片以上、RAM 8GB以上(含)的Mac或iPad安裝。
iPhone的話可能要15以上,否則只能生低解析度的圖片。
首先要在APP設定開啟CoreML全部加速器,加快生圖速度。
https://i.imgur.com/FrEJr8r.jpg
下載SDXL模型
https://i.imgur.com/cZLSy4f.jpg
然後填入正負提示詞,解析度設1024x1024,點選生成,boom,圖片就出來了。
如果用過Stable Diffusion WebUI,那麼這個應該會很好上手,網路上的「咒語」教學多
半能在此APP使用。
https://i.imgur.com/SJrOFnU.jpg
我還可以點橡皮擦功能,將畫面上的一部分擦去。
https://i.imgur.com/whrwNiS.jpg
然後讓AI重新生成一件衣裳出來~ 嗯,當然不一定要生衣服,也可以是其他關鍵字
https://i.imgur.com/4OkHdes.jpg
iPad Air 6 M2 8GB的效能跑SDXL模型,生成1024x1024解析度的圖,大約3分鐘內就能生
出來,這速度接近一些電腦低階Nvidia顯示卡的生圖速度。
不過感覺目前極限也就到這了,光是SDXL的模型就很容易RAM不足閃退,得清空背景程式
再跑。長時間運算還可能導致iPad過熱。
那麼我這台iPad要跑FLUX難度就更高了,可能要16GB RM的iPad Pro才夠跑。
除非未來有進一步為行動裝置優化的生圖模型,否則得花錢投資更高階iPad防患未然呀。
樓下問要跑AI為什麼不買Mac?抱歉我主力已經有Linux電腦了,iPad只是用來寫字的平板
。可是又覺得iPad的M2晶片效能那麼強,不壓榨一下很可惜,所以就拿來跑AI繪圖。
其實個人跑Draw Things也不是單純要在iPad生圖而已,而是搭配SillyTavern AI聊天軟
體使用,作為自架AI運算的一環。
關於SillyTavern的介紹:
https://reurl.cc/qv4qyy
Draw Things提供API Server,能夠接受其他電腦傳來的生圖請求。所以能夠一邊跟AI
對話,一邊生成圖片。
https://i.imgur.com/RKhbFXq.jpg
因為老電腦要同時跑二個AI的模型非常吃資源,於是設定分工機制:在電腦跑SillyTavern
和LLaMA語言模型,iPad當作產圖機,透過HTTP API Server遠端生圖。
--
原創梗圖系列
https://i.imgur.com/Y10Cw4n.jpg https://i.imgur.com/FqRAWTs.jpg
https://i.imgur.com/Y1pYVqm.png https://i.imgur.com/UKvi40X.png
https://i.imgur.com/55uARuQ.jpg
--
※ 發信站: 批踢踢實業坊(web-ptt.org.tw), 來自: 42.77.173.64 (臺灣)
※ 文章網址: https://web-ptt.org.tw/iOS/M.1727964579.A.164
推 jhjhs33504: 不曉得有無咒語生成的語言模型? 不然好容易改壞的樣子 10/03 22:27
→ siegfriedlin: 我想看福利社 10/03 23:06
推 george755185: 可以用加速lora(4 step lcm或 hyperSD)才不會冷掉 10/04 00:18
→ george755185: 它的獨門絕技8 bit model. flux用在對話生圖很強, 10/04 00:30
→ george755185: 值得一試.只是我M1要生1張2分鐘還是偏久 10/04 00:30
推 Cinedt: 包養網到底在紅什麼? 10/04 00:30 → gary8442: iPadAirM2 2024是閹割版的 10/04 00:34
→ gary8442: GPU也被閹掉一顆的殘缺版本 10/04 00:35
→ gary8442: 然後iPad Air機型散熱能力明顯比Pro差 容易過熱發燙 10/04 00:36
→ gary8442: 別太操 不然很快就掛了 已經一堆人Air5M1剛過保就死機 10/04 00:37
推 Drither: 有人被包養嗎 10/04 00:37 → gary8442: Air3 Air4也是一堆過保就壞掉的 板上都有一堆案例 10/04 00:38
推 KimomiKai: 來玩玩看,感謝分享 10/04 02:35
推 purplvampire: 謝謝分享 10/04 08:50
推 ianferrari: 感謝分享 10/04 13:00
推 Lyeuiechang: 推 10/04 19:04
推 Notker: 求包養...管飽就好XD 10/04 19:04 推 wind18: 相同設定下不知道為啥M4,8G明顯比M2,16G算的慢欸 10/04 22:06
推 george755185: 模型能不能全放進ram很影響生圖速度.可以開監控看 10/04 22:31