作者 Supasizeit (Shitpost King)
標題 [問卦] Tensor是尖尖還是扁扁?
時間 Wed Mar 18 13:46:42 2026


Tensor一般認為是扁扁的

放進transformer 疊起來很方便

還可以隔開做張量並行

但是訓練得好的話

少數幾個 token 拿到很高的權重

其他接近零

這樣就會尖尖的

所以Tensor尖尖好還是扁扁好

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 203.204.195.174 (臺灣)
※ 作者: Supasizeit 2026-03-18 13:46:42
※ 文章代碼(AID): #1fkZn4KT (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1773812804.A.51D.html
ispy03532003: 尖尖1F 223.139.145.232 台灣 03/18 13:47
bobocatcat: 尖尖肛2F 104.28.156.242 台灣 03/18 13:47
Allen0315:     Tensor尖尖光3F 114.37.23.122 台灣 03/18 13:49
vowpool: Tensor 尖尖...光4F 125.227.40.62 台灣 03/18 13:50
abc0922001: 天色G55F 203.66.179.162 台灣 03/18 13:50
marktak: 漸漸……6F 27.242.188.214 台灣 03/18 13:53
misthide: 尖尖哇嘎奈7F 36.227.183.184 台灣 03/18 13:53
rant134: google手機對吧 我知道的!8F 118.163.212.19 台灣 03/18 13:53
ulli: 尖尖剛 剛好9F 101.9.204.245 台灣 03/18 14:01
allen0981: 頭頂尖尖10F 220.137.204.99 台灣 03/18 14:02
yihao: 小八為什麼都尖尖11F 110.30.144.90 台灣 03/18 14:03
ImaiLisa: +5幾頂郎12F 111.246.73.160 台灣 03/18 14:03
ccjj8: https://i.imgur.com/LodJzJR.jpeg13F 42.72.168.14 台灣 03/18 14:04
[圖]
doig: https://i.imgur.com/abPZvbD.jpeg14F 220.129.203.115 台灣 03/18 14:06
[圖]
Osmium: 笑死15F 111.83.239.117 台灣 03/18 14:06

--
作者 Supasizeit 的最新發文:
點此顯示更多發文記錄