看板 PC_Shopping作者 oopFoo (3d)標題 Re: [閒聊] 現在橫空出世的NPU時間 Fri Dec 29 06:44:08 2023
NPU還是很有用的，以後應用會越來越多。
我舉個遊戲應用的例子。
現在遊戲對話都是固定死的。但用現代ai可以活潑很多。我大概解釋一下技術流程。
玩家用語音跟遊戲角色對話。
用Whisper轉換語音到文字。
用bert/gpt來分析文字的情緒與關鍵字。
用RAG(embedding vector database)來取出遊戲設計的答案。
如果跑得動，用gpt+答案+情緒prompt來回答。這是最有變化的。
跑不動gpt，就用預先(gpt+答案+prompt)錄好的回答。這只要bert+vector database。
也可跑自然聲的TTS來說話，這個目前還有很大的(問題/發展空間)
這些是npu剛好可以實踐的東東。
------------------
以上是我在某個call center的案子得到的靈感。
現在國外很多公司辦公的流程也是在弄這些ai。重點是提高品質，並不是取代人。
--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 219.70.128.119 (臺灣)
※ 作者: oopFoo 2023-12-29 06:44:08
※ 文章代碼(AID): #1bZVezuB (PC_Shopping)
※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1703803453.A.E0B.html
※ 同主題文章:
Re: [閒聊] 現在橫空出世的NPU
12-29 06:44 oopFoo.
推 sheng76314: 是這樣嗎 那一張3060比npu有用多了吧1F 111.255.65.65 台灣 12/29 07:05
推 ltytw: GPU要有GPU的樣子2F 114.33.46.227 台灣 12/29 07:07
推 sheng76314: 內文說的 CPU+3060都跑的好好的 不覺得npu有特別優勢3F 111.255.65.65 台灣 12/29 07:10
推 wind183: 現在npu尷尬的地方在於它能做的事gpu也做得來，gpu做的來npu做不到或是效能很差
只能期望未來軟體能針對npu做優化然後npu晶片規模也能上去吧，但到時功耗又是一個問題5F 123.192.158.248 台灣 12/29 07:21
推 widec: 第一個做出內建gpt的開放世界應該會紅很久12F 1.165.11.2 台灣 12/29 08:25
→ justicebb: 跑很久是真的，每次對話都要跑一次13F 123.110.195.144 台灣 12/29 08:28
推 ltytw: 我不覺得這遊戲會紅 等對話生成要等好幾秒吧？ 而且有時會跳針或跨服聊天？
skip流的speedrun玩家不會喜歡14F 114.33.46.227 台灣 12/29 08:30
→ justicebb: 而且頂多是用在罐頭任務之類的玩意，用在主框架上還要加一堆限制，會需要重跑N次17F 123.110.195.144 台灣 12/29 08:32
→ Ceferino: 不懂一直在吹gup幹麻，跑4k時喊不夠跑推論又說好好的，自助餐吃好吃滿20F 118.231.145.189 台灣 12/29 08:38
→ widec: 遊戲不是把gpt弄進去就完事
還要寫出適合的遊戲類型
而NPU的目的不就是自己做AI演算嗎
比如像模擬市民這類就很容易整合AI22F 1.165.11.2 台灣 12/29 08:47
推 littlefish1: 不否認未來有用途，但現在買soc附帶的npu等到應用成熟早就不堪使用了，還得買最新一代，消費者不要過早為它買單付出溢價是重點26F 220.141.152.105 台灣 12/29 09:01
→ oopFoo: 剛開始模擬類型比較適合，如大逆轉裁判，30F 114.45.136.16 台灣 12/29 09:19
→ xxxx9999xxxx: 用在戀愛遊戲，攻略難度倍增。31F 223.138.49.99 台灣 12/29 09:19
→ oopFoo: avg遊戲，美少女夢工廠這類的。32F 114.45.136.16 台灣 12/29 09:21
→ Ceferino: 不爽可以去買AMD，如果每家都硬綁該想的是你為什麼這麼抗拒33F 118.231.145.189 台灣 12/29 09:23
推 xxxx9999xxxx: ai*少女dlc 「真」，npu即時口說互動，滑鼠無用。35F 223.138.49.99 台灣 12/29 09:31
推 mayolane: 不是欸，AMD的Phoenix跟Hawk Point上面也有NPU啊37F 223.137.209.74 台灣 12/29 09:33
→ BruceChang: 攻略難度不一定增加...沒擋好會直接被話術催眠XD39F 223.136.101.250 台灣 12/29 09:39
→ oopFoo: 被話術催眠也是玩點啊XD
這個東東會越來越成熟越來越有趣41F 114.45.136.16 台灣 12/29 09:55
→ Makeinu: INTEL幾年前還有推出過的VPU，想拿來做邊緣運算，結果一下子就停產了43F 211.72.5.154 台灣 12/29 09:58
推 pcfox: 肥宅的春天45F 36.231.107.72 台灣 12/29 10:14
推 chchwy: 玩遊戲的時候 GPU 沒空算這種東西好不好，一定要讓其他東西來做46F 125.227.69.169 台灣 12/29 10:34
推 RaiGend0519: 10年後KK園區都塞滿機房，連人都不要了48F 111.83.8.22 台灣 12/29 10:48
推 lolpklol0975: NPU 用在低功耗筆電, 伺服器電競電腦都馬用GPU
而且NPU也沒辦法處理參數太大的模型50F 49.217.113.142 台灣 12/29 11:10
→ guanting886: 遊戲最終目的還是娛樂玩家 Ai 只是輔助開發公司把一些非主線且繁瑣的工作由他來補
而且生成的內容也不太能脫離主線或意外劇透
一開始可能很新鮮 久了就跟手遊的每日任務一樣無聊54F 42.78.108.181 台灣 12/29 11:23
推 kamichu: codemiko就正在開發結合chatgpt的
遊戲61F 36.232.155.156 台灣 12/29 11:27
推 guanting886: 那他的粉絲就要為這些token買單
預先處理好成本可以控制，動態產生未來都要持續算錢
像模擬市民這個遊戲沒太高科技的輔助下製作到現在相當成熟，如果還要再導入現在的Ai…你就要問 你到底是在做遊戲 還是在做專業社會科學模擬軟體XD63F 42.78.108.181 台灣 12/29 11:30
→ oopFoo: 遊戲本身設計還是最重要的，AI真的只是輔助。變成每日任務，乾脆讓ai來掛著玩
AMD的問題是。npu有的有，有的沒有，也不了解它在client端的策略。也不自己開放sdk是掛在onnx下面。沒有很清楚的roadmap71F 114.45.136.16 台灣 12/29 11:48
推 roiop710: 可以瑟瑟對話了76F 27.52.196.154 台灣 12/29 12:04
→ sdbb: H-Game77F 112.104.66.116 台灣 12/29 12:33
→ ILike58: 怎麼覺得開發遊戲開始複雜了起來，有些決策的部分套用AI是不錯，像棋手這類專競技方面，可是一般人遊戲其實也就跑跑劇本，套AI實際上遊戲的本質會提升多少是蠻值得商榷的。78F 223.136.36.133 台灣 12/29 13:01
推 AmigoSin: 推，有趣的應用83F 114.136.188.166 台灣 12/29 13:30
→ ehai0725: 感覺意義不大，你有大量生成需求就用顯卡，小量用cpu也能跑，npu一個食之無味棄之可惜
啊你套用ai npc每個舉動要等他跑根本沒有人玩得下去84F 27.51.105.50 台灣 12/29 13:48
推 sdbb:89F 112.104.66.116 台灣 12/29 13:55
→ widec: 怎麼大家都預設十年後AI還是跑在server上AI這玩意兒就是要在客戶端並客戶化才能起飛90F 1.165.11.2 台灣 12/29 14:01
推 garlic1234: 一個遊戲叫你要等十年的話，哪會有人買單，這都還是研發端的部分，要到最終消費者端還要好幾年92F 42.71.44.40 台灣 12/29 14:11
推 Amulet1: 這東西如果能跟VR結合，那蘋果有救了95F 42.72.218.126 台灣 12/29 14:16
推 labbat: 從FPU到APU，從APU到NPU96F 27.247.226.61 台灣 12/29 14:44
推 Litfal: 玩家都很懶的，你讓玩家用語音指令，玩家會說還不如我滑鼠點一下快
看看VR，視覺回饋那麼強，還不是懶得玩97F 39.10.50.183 台灣 12/29 15:12
推 xxxx9999xxxx: 你確定連續動作時，還是口說好，例如：蜜雪兒換一下。100F 223.138.49.99 台灣 12/29 15:36
→ pxhome: 請給我木頭，請給我黃金102F 36.230.172.140 台灣 12/29 15:58
推 ziya: 你可以去看目前最強的Ai neuro-sama 觀察那個回話應對 真的是很可怕103F 59.126.199.180 台灣 12/29 16:43
→ ILike58: 蜜雪兒換一下.....是我想的那樣嗎XD。105F 223.136.36.133 台灣 12/29 17:10
推 WiLLSTW: PVE敵人AI不能用AI 會變糞game 這東西需要的是精巧的設計 更像是發條玩具106F 49.216.185.197 台灣 12/29 18:02
→ widec: 現在不是在聊NPU這玩意的用處嗎108F 1.165.11.2 台灣 12/29 18:45
→ scarbywind: npu便宜阿... nv卡東卡西還限東限西109F 114.46.94.199 台灣 12/29 20:24
→ chauan: 用在不是支線任務的路人NPC不錯啊
，不會只有固定幾種罐頭訊息110F 172.56.113.214 美國 12/30 00:19
推 a1e: 這還是第一代，不要奢望性能能多好，不如等個兩、三代算力提升後再看看112F 118.160.132.1 台灣 12/30 02:47
--