[閒聊] 從什麼時候開始AI能力綁定GPU的算力?

看板C_Chat (希洽)作者 (偉恩咖肥)時間1天前 (2025/05/30 15:05), 編輯推噓23(24171)
留言96則, 23人參與, 1天前最新討論串1/1
如題 以前的幻想時代 什麼機器人啊終結者啊或是AI啊天網啊 核心都是CPU 結果突然之間變成GPU才是AI能力的展現 Why? 從什麼時候開始的啊 為什麼不是CPU呢? GPU一開始不是只是加速圖形渲染跟處理的用途嗎 想到以前玩SS還要在後面插上加速卡玩格鬥天王 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 223.136.124.164 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1748588746.A.0AD.html

05/30 15:06, 1天前 , 1F
你隨便去找個科普影片看就不用問了
05/30 15:06, 1F

05/30 15:06, 1天前 , 2F
GPU就是擅長做大量重複的事情的計算單元
05/30 15:06, 2F

05/30 15:07, 1天前 , 3F
啊,GPU能算的東西你丟CPU也算得出來啊,跑不快而已
05/30 15:07, 3F

05/30 15:07, 1天前 , 4F
05/30 15:07, 4F

05/30 15:07, 1天前 , 5F
AI在訓練的時候GPU比CPU方便很多
05/30 15:07, 5F

05/30 15:07, 1天前 , 6F
這些比較專門的計算硬體會出現也是因爲人們發現什麼都丟給
05/30 15:07, 6F

05/30 15:07, 1天前 , 7F
CPU不是個好主意
05/30 15:07, 7F

05/30 15:08, 1天前 , 8F
這邊不是西洽閒聊嗎?什麼都去看科普影片,就不說科普影
05/30 15:08, 8F

05/30 15:08, 1天前 , 9F
片是不是都對的問題了,每個網友想法不一樣才是有趣的地
05/30 15:08, 9F

05/30 15:08, 1天前 , 10F
05/30 15:08, 10F

05/30 15:08, 1天前 , 11F
從一開始吧 AI的演算法很早就出現了 但是GPU出現才開
05/30 15:08, 11F

05/30 15:08, 1天前 , 12F
始真正做出東西
05/30 15:08, 12F

05/30 15:08, 1天前 , 13F
不是從挖礦的時候就知道了嗎
05/30 15:08, 13F

05/30 15:10, 1天前 , 14F
那些演算法的理論雛形比老黃把他的3D加速卡命名爲GPU的時
05/30 15:10, 14F

05/30 15:10, 1天前 , 15F
間點還早就是了
05/30 15:10, 15F

05/30 15:10, 1天前 , 16F
大概17年前 Nvidia開始推CUDA後
05/30 15:10, 16F

05/30 15:11, 1天前 , 17F
中間有一段時間是挖礦算力 嘻嘻
05/30 15:11, 17F

05/30 15:15, 1天前 , 18F
有趣的是挖礦算力居然最後會變成AI算力
05/30 15:15, 18F

05/30 15:17, 1天前 , 19F
2012 alexnet
05/30 15:17, 19F

05/30 15:19, 1天前 , 20F
反過來吧 是因為有GPU deep learning 才玩的起來
05/30 15:19, 20F

05/30 15:20, 1天前 , 21F
不知道 什麼時候?
05/30 15:20, 21F

05/30 15:21, 1天前 , 22F
不是GPU算力 是人類把計算這件事拆解成一堆(乘法+加法)
05/30 15:21, 22F

05/30 15:22, 1天前 , 23F
剛好這運算平常就是計算遊戲顯示三角形之類的在用 拿GPU現成
05/30 15:22, 23F

05/30 15:22, 1天前 , 24F
因為成功的是類神經網路 這東西1970年代就有了
05/30 15:22, 24F

05/30 15:22, 1天前 , 25F
你也可以改用tensor算法或是量子算法 GPU就無能為力了
05/30 15:22, 25F

05/30 15:22, 1天前 , 26F
然後被當成屎 因為誰家的CPU有那麼閒去浪費時間
05/30 15:22, 26F

05/30 15:23, 1天前 , 27F
類神經網路的擁護者浪費一堆時間只能交出屎一般的成績
05/30 15:23, 27F

05/30 15:24, 1天前 , 28F
科技發展很容易在死路裡繞 有時候就是還沒想到
05/30 15:24, 28F

05/30 15:24, 1天前 , 29F
GPU也是發展了一段時間後才發現可以拿來幫忙浪費時間
05/30 15:24, 29F

05/30 15:25, 1天前 , 30F
成本考量下的功能特化演進
05/30 15:25, 30F

05/30 15:26, 1天前 , 31F
深度學習本質就是矩陣運算 剛好就是GPU的強項
05/30 15:26, 31F

05/30 15:26, 1天前 , 32F
如果GPU沒被當成顯示卡來賣 搞不好沒人砸錢TO個純計算晶片
05/30 15:26, 32F

05/30 15:27, 1天前 , 33F
媽哩誰砸錢就拿來算這東西 研究怎麼花錢把一堆CPU平行串起來
05/30 15:27, 33F

05/30 15:27, 1天前 , 34F
現在有TPU 不畫圖了 從生下來到被燒死之前只負責計算
05/30 15:27, 34F

05/30 15:27, 1天前 , 35F
設計CPU時是有太多功能要他能達成,GPU則是處理特定範圍
05/30 15:27, 35F

05/30 15:27, 1天前 , 36F
工作
05/30 15:27, 36F

05/30 15:27, 1天前 , 37F
買別人做好的CPU再研究網路分散計算比較便宜(ry
05/30 15:27, 37F

05/30 15:27, 1天前 , 38F
不過他也沒厲害到可以讓GPU從市場上消失
05/30 15:27, 38F

05/30 15:28, 1天前 , 39F
那時候好像很多網路切工作幫忙背景分散計算的鬼計畫
05/30 15:28, 39F

05/30 15:29, 1天前 , 40F
姑且還是演化成後來的多核心多執行緒工作拆分這些都有意義啦
05/30 15:29, 40F

05/30 15:29, 1天前 , 41F
AI發展史可以簡化成一句話
05/30 15:29, 41F

05/30 15:29, 1天前 , 42F
有啊 PS3的蛋白質研究就是一種
05/30 15:29, 42F

05/30 15:30, 1天前 , 43F
人類發現計算量多到跟鬼一樣後就出現類似智慧的東西了
05/30 15:30, 43F

05/30 15:30, 1天前 , 44F
中間的原因還沒有完全解明 但現實就是如此
05/30 15:30, 44F

05/30 15:30, 1天前 , 45F
重點是人類現在也還是用之前的拆分經驗來分散計算工作 沒虧啊
05/30 15:30, 45F

05/30 15:30, 1天前 , 46F
如果人類是發現「另外一種方式」出現類似智慧的東西
05/30 15:30, 46F

05/30 15:31, 1天前 , 47F
那就會把資源全部往「另外一種方式」丟下去
05/30 15:31, 47F

05/30 15:31, 1天前 , 48F
網路速度不夠卡住了傳輸計算 就提升網路協定和硬體縮短距離
05/30 15:31, 48F

05/30 15:31, 1天前 , 49F
分散式計算系統可以募集很多聽起來很酷炫的計畫
05/30 15:31, 49F

05/30 15:32, 1天前 , 50F
一個大晶片散熱會燒起來 就拆分工作多個串連分散工作
05/30 15:32, 50F

05/30 15:32, 1天前 , 51F
例如只要借用你電腦/主機一點點的深夜時間
05/30 15:32, 51F

05/30 15:32, 1天前 , 52F
我們就可以研究癌症的解藥,或是尋找外星人......
05/30 15:32, 52F

05/30 15:33, 1天前 , 53F
證明了計算需求量這麼大 大到靠北 就有計畫可以募錢下Tapeout
05/30 15:33, 53F

05/30 15:33, 1天前 , 54F
稍微講仔細一點 不是無腦堆計算量就可以產生智慧
05/30 15:33, 54F

05/30 15:34, 1天前 , 55F
怎麼樣用腦來堆計算量是那群研究者持續努力的目標
05/30 15:34, 55F

05/30 15:34, 1天前 , 56F
就跟現在有人沒錢下tapeout 跑去控制記憶體協定拿來計算
05/30 15:34, 56F

05/30 15:34, 1天前 , 57F
類神經網路就模仿生物的大腦機制 除非有生物學新突破
05/30 15:34, 57F

05/30 15:34, 1天前 , 58F
或新物種或有人被雷打到 不然很難有新機制
05/30 15:34, 58F

05/30 15:34, 1天前 , 59F
不過重點就是要有鬼計算量 一定要跟鬼一樣
05/30 15:34, 59F

05/30 15:35, 1天前 , 60F
你有時會聽到GPT訓練需要數億年CPU計算量 那並非謠言
05/30 15:35, 60F

05/30 15:38, 1天前 , 61F
至於目前最強的架構是什麼 現在有一個進行中的賭局
05/30 15:38, 61F

05/30 15:38, 1天前 , 62F
幾個大頭用公司股份去賭Transformer是不是無敵的
05/30 15:38, 62F

05/30 15:38, 1天前 , 63F
有人相信Transformer以外的東西都要廢除
05/30 15:38, 63F

05/30 15:39, 1天前 , 64F
也有人努力要幹死Transformer
05/30 15:39, 64F

05/30 15:44, 1天前 , 65F
問就是量子電腦終將吹飛這些線性系統(X
05/30 15:44, 65F

05/30 15:45, 1天前 , 66F
或許會有一種未來 一般民眾人手一張TPU
05/30 15:45, 66F

05/30 15:45, 1天前 , 67F
在把所有AI工具當狗操的同時還用它來玩所有的酷炫遊戲
05/30 15:45, 67F

05/30 15:46, 1天前 , 68F
照目前TPU的發展來看 應該不太會是這樣
05/30 15:46, 68F

05/30 15:47, 1天前 , 69F
鼯鼠五技而窮 騰蛇無足而飛,GPU就是為此誕生的
05/30 15:47, 69F

05/30 15:49, 1天前 , 70F
GPU被斷法(無法平行運算)時 他的脾氣也是出了名的臭
05/30 15:49, 70F

05/30 15:52, 1天前 , 71F
目前人類想要的結果是用GPU比較容易生出來啊
05/30 15:52, 71F

05/30 16:02, 1天前 , 72F
cpu勞力腦,gpu天才腦
05/30 16:02, 72F

05/30 16:03, 1天前 , 73F
AI實現當初有兩個派別 一個是用邏輯判斷去堆 一個是類神
05/30 16:03, 73F

05/30 16:03, 1天前 , 74F
經網路 前者比較直覺也感覺有可行性 後者的硬體成立條件
05/30 16:03, 74F

05/30 16:03, 1天前 , 75F
當時想說需要很久之後(cpu多執行緒)。 但結果摩爾定律快
05/30 16:03, 75F

05/30 16:03, 1天前 , 76F
速撞極限 前者限入僵局 後者卻因為cuda默默做了一段時間
05/30 16:03, 76F

05/30 16:03, 1天前 , 77F
被類神經網路派別發現剛好是渾然天成的載體 所以風向就整
05/30 16:03, 77F

05/30 16:03, 1天前 , 78F
個反轉
05/30 16:03, 78F

05/30 16:05, 1天前 , 79F
但類神經網路派別是黑盒子 輸入輸出中間過程不容易可控
05/30 16:05, 79F

05/30 16:06, 1天前 , 80F
所以這條路線伴隨著AI不可控的高度風險
05/30 16:06, 80F

05/30 16:13, 1天前 , 81F
舉個例子 如果哪天AI醫師上線 結果偶爾會醫死一般病患
05/30 16:13, 81F

05/30 16:13, 1天前 , 82F
那這就會是一個必須要處理的問題
05/30 16:13, 82F

05/30 16:14, 1天前 , 83F
如果這個AI醫師是神燈精靈那種東西(舊時代真的有人研
05/30 16:14, 83F

05/30 16:14, 1天前 , 84F
究那種類型的醫療諮詢系統) 那就會比較容易尋找問題
05/30 16:14, 84F

05/30 16:15, 1天前 , 85F
不過如果是大型類神經網路 那問題就很難找了
05/30 16:15, 85F

05/30 16:17, 1天前 , 86F
現實更合理的做法是 永遠不要讓AI去當什麼主治醫師
05/30 16:17, 86F

05/30 16:21, 1天前 , 87F
但人類一代一代重新學習累積知識經驗成本相較機器實在太
05/30 16:21, 87F

05/30 16:21, 1天前 , 88F
沒效率 所以人類還是會想走AI接管這條路:~
05/30 16:21, 88F

05/30 16:49, 1天前 , 89F
cpu:一個博士生解1萬道小6數學題
05/30 16:49, 89F

05/30 16:49, 1天前 , 90F
GPU:一萬個小6生解1萬道小6數學題
05/30 16:49, 90F

05/30 17:15, 1天前 , 91F

05/30 17:15, 1天前 , 92F
A2aRX_RoQ
05/30 17:15, 92F

05/30 18:32, 1天前 , 93F
萬惡的老黃
05/30 18:32, 93F

05/30 18:34, 1天前 , 94F
從2014 alexnet
05/30 18:34, 94F

05/30 19:11, 1天前 , 95F

05/30 19:12, 1天前 , 96F
總裁這集講的還滿好懂的
05/30 19:12, 96F
文章代碼(AID): #1eELZA2j (C_Chat)
文章代碼(AID): #1eELZA2j (C_Chat)