看板PC_Shopping
作者Balezo (Karma)
標題[請益] LLM 顯卡選擇
時間2025-06-10 17:39:38
目前新電腦是 5060ti 16G 打遊戲用 舊電腦(閒置)是 CPU intel 9900T RAM 64G VGA 3060 12G 想說閒置中 要考慮跑 AI 的話 請問再補一張 3060 12G (共兩張) 會比 5060ti 16G 強嗎 (主要是看能放得下多大的 model) 不會的話就... 考慮新電腦灌雙系統 會的話可能就閒置的電腦再補一張 3060 12G 來跑 -- ※ 發信站: 批踢踢實業坊(web-ptt.org.tw), 來自: 114.38.68.41 (臺灣) ※ 文章網址: https://web-ptt.org.tw/PC_Shopping/M.1749548380.A.611
推 promaster: 啟動5090 101.10.244.223 06/10 17:45
→ promaster: 12g塞不了甚麼模型 101.10.244.223 06/10 17:46
→ Balezo: 想問雙卡有沒有搞頭... 114.38.68.41 06/10 17:48
→ Balezo: 不然不如等 DGX SPARK 114.38.68.41 06/10 17:49
→ gainsborough: 強在一點，模型16G塞不下去時，不然 59.126.70.191 06/10 17:50
推 cw758: 有人被包養嗎 59.126.70.191 06/10 17:50
→ gainsborough: 都輸 59.126.70.191 06/10 17:51
→ gainsborough: 另外多卡SD生圖還是分別算圖，所以 59.126.70.191 06/10 17:52
→ gainsborough: 只生一張圖的時候多卡跟單卡一樣 59.126.70.191 06/10 17:52
推 promaster: 雙卡沒搞頭 沒辦法pool memory 101.10.244.223 06/10 17:53
→ promaster: 賣掉貼補新卡吧 101.10.244.223 06/10 17:54
推 ludi: 求包養...管飽就好XD 101.10.244.223 06/10 17:54
推 Nilife: 用過w11+ubuntu 雙系統超難用 101.9.194.247 06/10 17:56
→ Nilife: 最後直接純ubuntu 開虛擬機windows了 101.9.194.247 06/10 17:56
→ gainsborough: 另外主板兩個pcie*16都CPU跑*8跟一 59.126.70.191 06/10 17:56
→ Nilife: 重開機換系統的時候grub會一直卡住 101.9.194.247 06/10 17:56
→ gainsborough: 個cpu直出跑16+南橋的pcie，跑起來 59.126.70.191 06/10 17:56
推 peernut: 阿姨!我不想努力了(求包養) 59.126.70.191 06/10 17:56
→ gainsborough: 反應時間不一樣，後者不推 59.126.70.191 06/10 17:57
推 trader987: 可以用Glows.ai 直接線上跑223.139.188.215 06/10 18:04
推 jimwithsc: 第三季英特爾好像要出b60111.249.129.222 06/10 18:11
→ jimwithsc: 單卡記憶24g然後400多鎂111.249.129.222 06/10 18:12
推 FreedomTrail: 雙卡又沒nvlink…..直接用雲服務可 1.169.235.18 06/10 18:14
推 xikimi: 有沒有富二代要包養我 1.169.235.18 06/10 18:14
→ FreedomTrail: 能比較省事，不然要模型塞得進單卡 1.169.235.18 06/10 18:14
→ FreedomTrail: vram（好點的顯卡或小模型）還是用 1.169.235.18 06/10 18:14
→ FreedomTrail: ram/vram共用架構（project digit 1.169.235.18 06/10 18:14
→ FreedomTrail: 或apple silicone)，或aidaptive + 1.169.235.18 06/10 18:14
→ FreedomTrail: 。 1.169.235.18 06/10 18:14
推 Avero: 身邊有朋友被包養嗎 1.169.235.18 06/10 18:14
→ vsbrm: AI MAX 395迷你電腦大概14k RMB ，vram能到 42.77.3.187 06/10 18:18
→ vsbrm: 96 GB，可以先去B站看一下優缺點分析 42.77.3.187 06/10 18:18
→ chang1248w: dgx spark在開預購單了 42.72.220.178 06/10 18:18
→ Balezo: 了解 來研究看看。不過 DGX台灣好像還沒看 114.38.68.41 06/10 18:24
→ Balezo: 到預購消息... 114.38.68.41 06/10 18:24
推 ejoz: 亞洲最大包養平台上線了 114.38.68.41 06/10 18:24
→ nthank: 雙系統中的不如開虛擬機，除非你要玩valo 27.53.8.101 06/10 18:24
→ nthank: rant，這遊戲不能在虛擬機裡玩 27.53.8.101 06/10 18:24
→ Balezo: 說到雙系統 我之前的確是用 ubuntu + win 114.38.68.41 06/10 18:26
→ Balezo: VM XD... 114.38.68.41 06/10 18:26
→ Transposon: AI MAX或 Mac mini黃金RAM升滿118.171.218.146 06/10 18:27
推 FishRoom: 包養SD = SugarDaddy?118.171.218.146 06/10 18:27
→ Balezo: 看起來好像真的是統一記憶體最有 cp 值 114.38.68.41 06/10 18:28
推 smallreader: 統一記憶體 優:裝得下 缺:處理器慢 36.237.111.119 06/10 18:39
→ smallreader: 所以也沒有CP值 要是內顯+記憶體灌滿 36.237.111.119 06/10 18:42
→ smallreader: 就能打獨顯了 RTX6000還要賣嗎 36.237.111.119 06/10 18:42
推 a206471: 唯一選擇RTX PRO 6000 49.159.4.195 06/10 18:49
推 KsiR: 這個包養網正妹好多 是真的嗎 49.159.4.195 06/10 18:49
→ a206471: https://youtu.be/3Xm2ygPch8c 49.159.4.195 06/10 18:49
→ a71245969: 雙卡會比單卡慢一點喔 跟模型大小、pci 101.12.145.197 06/10 18:55
→ a71245969: e通道數、最慢顯卡拖後腿都有關係 101.12.145.197 06/10 18:55
推 yenchieh1102: 你不如......先跑，跑了就知道缺哪 49.218.209.122 06/10 19:03
→ yenchieh1102: 補哪 49.218.209.122 06/10 19:03
推 peoples: 真的有這麼多人在找包養嗎 49.218.209.122 06/10 19:03
→ jkiu: 不划算，新顯卡花的錢改用在api上都不知道可 101.10.157.241 06/10 19:12
→ jkiu: 以用幾年了，可用的模型還強的多 101.10.157.241 06/10 19:12
推 Supasizeit: 請教跑本地LLM有什麼好處203.204.195.174 06/10 19:26
推 swad292pn: 隱私 123.240.70.241 06/10 19:27
推 KimomiKai: Pro 6000現在跟我講要排到8月9月 36.237.171.188 06/10 19:28
推 wilmer: 有人可以分析一下包養平台的差異嗎 36.237.171.188 06/10 19:28
推 Supasizeit: 那還不如租h200 一小時2美金203.204.195.174 06/10 19:30
推 NormalRay: 只跑LLM不如直接open router儲值118.170.143.147 06/10 19:43
推 KimomiKai: 可以往阿婆那邊買M3 Ultra或者便宜 36.237.171.188 06/10 20:00
→ KimomiKai: 的M4 24GB 36.237.171.188 06/10 20:00
推 t13243334: Spark台灣有開放npn排 有需要的可站內 42.75.223.50 06/10 20:08
推 badlip: 那個包養網人最多XD 42.75.223.50 06/10 20:08
→ t13243334: Rtx pro 6000也可站內 42.75.223.50 06/10 20:08
→ t13243334: 但一般人其實用mac 或ryzen AI比較划 42.75.223.50 06/10 20:10
推 weiber82: 我串api比電費便宜，nano還比本地反應快 49.214.10.231 06/10 20:54
→ weiber82: ，尷尬 49.214.10.231 06/10 20:54
推 Boston: 考慮 5060 ti 16g +1 跑 ai 生圖 114.24.26.168 06/10 21:22
推 piggyoil: 我妹上包養網被我發現= = 114.24.26.168 06/10 21:22
推 kamir: Core 2 T9900? 123.195.78.164 06/10 21:47
推 saito2190: 這時間點應該是DGX SPARK直接買下去 1.161.147.209 06/10 22:23
→ saito2190: 那個價格能跑200B大模型 秒殺所有RTX 1.161.147.209 06/10 22:23
推 TameFoxx: 能跑跟跑得快是兩回事 你以為真有那麼爽 219.68.125.23 06/10 22:50
→ TameFoxx: 買Spark不如買5090 219.68.125.23 06/10 22:52
推 TwixBar: 隔壁桌的人竟然在討論包養... 219.68.125.23 06/10 22:52
推 seemoon2000: 那個只是跑得動而已 真的要拿來應用 220.137.9.222 06/10 23:57
→ seemoon2000: 還是離很遠的程度 220.137.9.222 06/10 23:57
推 guanting886: Ollama玩一玩就好了 42.78.143.117 06/11 00:40
→ guanting886: 跑大量資料跑久了會進幻覺 還會亂碼 42.78.143.117 06/11 00:40
→ guanting886: 串OpenAI大部分你會遇到的問題人家 42.78.143.117 06/11 00:41
推 boggicer: 樓上是不是被包養 42.78.143.117 06/11 00:41
→ guanting886: 解決了 42.78.143.117 06/11 00:41
推 guanting886: DGX Spark就是可預期的到大概就搶不 42.78.143.117 06/11 00:45
→ guanting886: 到QQ 42.78.143.117 06/11 00:45
→ pxhome: 啟動5090+1 36.230.134.148 06/11 15:46
推 Supasizeit: 5090也只能跑一秒5 token是要怎麼用203.204.195.174 06/11 23:33
推 Chiason: 樓下被包養203.204.195.174 06/11 23:33