回看板
Disp BBS
作者 yisky (乳酪三明治餅乾)
標題 [閒聊] 本地部署AI的優點是什麼？
時間 Mon Jul  6 11:00:51 2026

最近去上AI課程
老師介紹他用Api串接Claude部署本地
（另外還有提到要串甚麼但我有點忘了）
會比以往用網頁方便很多以及客製化
但用Token計費我有點怕怕的

而目前有訂閱Gemini，但就停留在網頁上，
不太確定自己生活上到底需不需要，目前用Gemini，大部分是用在excel、一些工作軟體跟
報告書以及幫小孩準備課後教材用，
的確公司裡有些土法煉鋼我是覺得可以再優化，但為了解決跑去幫老闆做功德有點不值得。

想問一下，
1.版友除了寫程式之外，大家通常會把這類進階操作應用在什麼地方？有沒有什麼是一般網
頁版做不到，但我沒想到的實用情境？

2.另外Claude跟Gemini的差異在哪？老師聽到我用的是Gemini就有點無言的感覺。

3.用串接Api的方式，是不是不吃電腦效能？


--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.137.213.143 (臺灣)
※ 作者: yisky 2026-07-06 11:00:51
※ 文章代碼(AID): #1gInfbKQ (AI_Art)
※ 文章網址: https://www.ptt.cc/bbs/AI_Art/M.1783306853.A.51A.html
※ 同主題文章:
[閒聊] 本地部署AI的優點是什麼？
07-06 11:00 yisky
Re: [閒聊] 本地部署AI的優點是什麼？
07-06 16:04 Supasizeit
推 error405: 當今AI能力就claude>=GPT>gemini gemini目前是比較笨的只是claude那個計費就 用不到那麼聰明的話用別的也行吧1F 07/06 11:03
推 Tosca: 串接claude算本地部署?!
我認知的本地部署是只要電費而已 不用訂閱任何東西3F 07/06 11:16
推 guogu: 串接api不吃效能沒錯 不過這不算本地
本地是用自己電腦跑的 優點是可以玩無審核模型
缺點是個人電腦跑得動的都很笨...5F 07/06 11:21
→ gbcg9725: 串api不叫本地部署8F 07/06 11:22
推 Tosca: 是很笨沒錯但等了四年現在也很堪用了
現在本地模型的水準應該有三年前線上生圖生影片水準
體感我覺得落後三年而已
生圖來說其實到一個程度之後就很夠用了
就像數位音樂其實到CD規格16 bits/44.1 kHz就很夠用了
之後串流時代其實有損壓縮連16/44.1都不如 大家還不是照聽本地模型生圖來講 我覺得已經差不多夠用了 很好用了9F 07/06 11:23
→ yisky: 喔喔 原來這不算本地，想說上課聽到的跟我印象中本地部署差很多，原本以為是技術進步16F 07/06 11:25
→ Tosca: 生影片當然就遠遠不如線上那些18F 07/06 11:25
推 GenShoku: https://i.meee.com.tw/FP7R8Az.jpg 一張圖看懂差異19F 07/06 11:27
[圖]
推 Tosca: Grok已經認輸了所以在賣算力
claude我認為遲早會變成軍火業 被管制出口遲早的20F 07/06 11:29
→ error405: 已經管制過然後放寬了吧 除了中國還在被花式各種擋22F 07/06 11:32
推 ct13579: 19樓的圖在加Muse Spark呢23F 07/06 11:45
推 lyxiang: API可以理解是雲端運算把結果丟回去給你的電腦24F 07/06 11:48
推 Supasizeit: 樓主認知的本地可能是說不是在瀏覽器跑app25F 07/06 11:50
→ lyxiang: 樓主的需求我覺得網頁版就夠了，他沒有要不審查的內容啦26F 07/06 11:50
推 Tosca: 他繼續強大下去還是又會被管啦27F 07/06 11:50
→ Supasizeit: 或是用LM studio 接Anthropic APi 好處是什麼喔 公司可以監看你在幹嘛啊
不然訂閱制Claude桌面app 什麼連接器都有啊 串api是錢太多喔28F 07/06 11:51
→ yisky: 嗯嗯 就像supasizeit大說的那樣，
我對這領域蠻陌生，只停留在網頁版程度32F 07/06 12:09
推 s78513221: 就是無審查（搞色圖跟文章創作方便）
無資料外洩風險（資料被拿去再訓練）
然後API 其實有蠻多Free Model的作業實驗夠用了34F 07/06 12:35
推 wei115: 色色還有澀澀
解鎖模型超屌，什麼都敢講37F 07/06 12:38
推 tsubasawolfy: 先用訂閱置就不用去計算token費用 Claude跟GPT兩家訂閱制用光換算成token費用都超過那價格39F 07/06 13:43
推 stlinman: 1.基本上你用電腦能做到的事，AI都幫你做到。(差在代價)41F 07/06 13:43
→ tsubasawolfy: 基本上這兩家目前都可以接管你電腦上的作業
這就是你網頁版做不到的事42F 07/06 13:44
→ stlinman: 2.博士級實務工程師 跟 研究生等級實習生助理差別!44F 07/06 13:44
→ tsubasawolfy: 但同時這也牽涉到第三點 他會使用你電腦硬體的資源所以你如果要跑吃資源的東西就三思45F 07/06 13:45
→ stlinman: 3.雲端API 幾乎不吃本地設備效能，只吃網路。
用雲端API怕Token計費，可以選預算制或是包的先嘗試1個月。 目前網上也有很多免費試用的渠道，沒有資安顧慮的化都可以試試!
                                      包月制47F 07/06 13:45
推 tsubasawolfy: 我覺得最基本包月訂閱制先試試看一個月就知道了
對你最實用的大概是用嘴控制excel之類 工作軟體看有沒有CLI 沒有就麻煩。報告那些就不用說了52F 07/06 13:51
→ shin2190: Grok最近改成週計費額度又炎上55F 07/06 13:56
推 tsubasawolfy: 200美訂閱制換算成API價格的話 Claude是8000 GPT是14000美56F 07/06 13:57
推 GenShoku: 想用api對接其他軟體其實有反代理這條路走 不一定要買token 但有點灰色地帶就是58F 07/06 14:06
→ qiaffvvf: 串api不算本地吧60F 07/06 14:53
推 DarkerDuck: 你這個算是本地部署AI"代理"最吃資源的部分仍在雲端61F 07/06 15:42
→ NanaMizuki: 三家都會抓反代，灰帳試試就算了，拿主力帳試了爆炸就gg62F 07/06 16:44
推 guogu: 用token計費主要看用量啦 像我訂了一段時間gemini
發現我其實不太用AI一月20略貴 但有時又想要用高級的模型所以目前就是openrouter裡存點錢 整體下來花費更少
雖然看錢確實會感覺有點肉痛w 問一次就要幾塊錢台幣
                 *一月20鎂64F 07/06 17:47
推 Obama19: 產生色圖之類的吧 你有這方面的需求嗎？69F 07/06 20:32
推 fay001: 無審核色圖生成的需求，應該是世界上每個正常男生都會有的剛需吧70F 07/06 23:45
推 a0989876: 川普的色圖! 你看線上哪一個大模型會幫你生?72F 07/07 02:01
推 adgbw8728: 色色73F 07/07 10:06

--
作者 yisky 的最新發文:
點此顯示更多發文記錄