PTT動漫區 / C_Chat (希洽)

[閒聊] "我寫的AI會做事, 但我不知道為什麼."

看板C_Chat (希洽)作者 (bebopfan)時間16小時前 (2025/05/14 21:01), 編輯推噓27(27推 0噓 39→)
留言66則, 31人參與, 2小時前最新討論串1/1
在版上偶爾會看到一張迷因圖: 一個男人坐在電腦前沉思. "我寫的程式能運作, 但我不知道為什麼." 隨著越來越多人才投入AI這個領域, 有沒有可能那一張迷因圖會演變成: "我寫的 AI 會做事, 但我不知道為什麼." 自己寫出來的AI會做事卻不知道運作原理, 這種情況一旦遇上會不會衍生出甚麼問題? -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 106.107.135.143 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1747227709.A.D9D.html
推
05/14 21:03, 16小時前 , 1F
創世紀就是天網
05/14 21:03, 1F
推
05/14 21:03, 16小時前 , 2F
AI:你只是使用者
05/14 21:03, 2F
推
05/14 21:04, 16小時前 , 3F
我知道F=ma但是我不知道為什麼
05/14 21:04, 3F
推
05/14 21:04, 16小時前 , 4F
工程師老前輩名言：程式會動就不要改
05/14 21:04, 4F
推
05/14 21:05, 16小時前 , 5F
It just works
05/14 21:05, 5F
→
05/14 21:05, 16小時前 , 6F
所以後面的工程師也不知道為啥這樣寫就會運作
05/14 21:05, 6F
推
05/14 21:05, 16小時前 , 7F
現在「AI解釋學」是一門研究中的學科
05/14 21:05, 7F
→
05/14 21:06, 16小時前 , 8F
就連那個最簡單的手寫0123456789辨識也很難解釋
05/14 21:06, 8F
→
05/14 21:06, 16小時前 , 9F
知其燃，而不知其所以燃
05/14 21:06, 9F
推
05/14 21:07, 16小時前 , 10F
那你應該去看alphago擊敗韓國棋士的紀錄片，開發人
05/14 21:07, 10F
→
05/14 21:07, 16小時前 , 11F
語言模型的部分可以去追今年(2025)李宏毅老師的番
05/14 21:07, 11F
→
05/14 21:07, 16小時前 , 12F
有一些開挖語言模型的大腦的分析方式
05/14 21:07, 12F
→
05/14 21:08, 16小時前 , 13F
開發人坐著下棋，不懂圍棋代替下棋最後贏了，AI贏了
05/14 21:08, 13F
→
05/14 21:08, 16小時前 , 14F
開發者連業餘程度都沒有
05/14 21:08, 14F
推
05/14 21:09, 16小時前 , 15F
讚美奧米尼賽亞
05/14 21:09, 15F
推
05/14 21:12, 16小時前 , 16F
可以直接問ai為什麼會做事啊
05/14 21:12, 16F
推
05/14 21:13, 16小時前 , 17F
一定是電腦裡面的小精靈
05/14 21:13, 17F
推
05/14 21:13, 16小時前 , 18F
實務上這不怎麼重要 重要的是AI能力夠不夠強 會不會犯
05/14 21:13, 18F
→
05/14 21:13, 16小時前 , 19F
Ai有洽點嗎
05/14 21:13, 19F
→
05/14 21:13, 16小時前 , 20F
低級錯誤 例如影像辨識判斷道路標示的速限
05/14 21:13, 20F
→
05/14 21:13, 16小時前 , 21F
為什麼能判斷出速限30 不重要
05/14 21:13, 21F
→
05/14 21:14, 16小時前 , 22F
會不會因為髒污或惡作劇把速限30看成速限80 重要
05/14 21:14, 22F
推
05/14 21:15, 16小時前 , 23F
點？
05/14 21:15, 23F
→
05/14 21:17, 16小時前 , 24F
老闆其實也不需要知道為什麼員工可以思考 員工夠
05/14 21:17, 24F
→
05/14 21:17, 16小時前 , 25F
能幹就好
05/14 21:17, 25F
推
05/14 21:23, 16小時前 , 26F
知道AI原理的人都知道為什麼吧
05/14 21:23, 26F
推
05/14 21:35, 16小時前 , 27F
it just work
05/14 21:35, 27F
→
05/14 21:35, 16小時前 , 28F
2k機械神教
05/14 21:35, 28F
推
05/14 21:37, 16小時前 , 29F
以前就會這樣啊 會動的東西就不要動
05/14 21:37, 29F
推
05/14 21:40, 16小時前 , 30F
兩者稍微有一點不一樣 程式鬼故事的存在是因為 每個寫
05/14 21:40, 30F
→
05/14 21:40, 16小時前 , 31F
程式的人都會犯錯 但沒有足夠的時間和資源去準確找出
05/14 21:40, 31F
→
05/14 21:40, 16小時前 , 32F
那些錯誤在哪裡 只好憑藉規律和乖乖來推測出一個能夠
05/14 21:40, 32F
→
05/14 21:41, 15小時前 , 33F
盡量不讓錯誤爆炸的運作方式
05/14 21:41, 33F
→
05/14 21:41, 15小時前 , 34F
現在不就是嗎 知道怎麼練出來的 但實際上內部運作還要解析
05/14 21:41, 34F
→
05/14 21:41, 15小時前 , 35F
原理啥的懂是懂 但是不是這回事要再討論
05/14 21:41, 35F
→
05/14 21:41, 15小時前 , 36F
把一個AI訓練好並拿來用通常並不是在講上面那種問題
05/14 21:41, 36F
→
05/14 21:42, 15小時前 , 37F
(如果有那種問題的話你會先原地爆炸 修好才能拿出來)
05/14 21:42, 37F
→
05/14 21:42, 15小時前 , 38F
但是一個能力確定好用 甚至公認完全贏過人類的AI模型
05/14 21:42, 38F
→
05/14 21:43, 15小時前 , 39F
你要用人話把他徹底解釋一遍是很有困難的
05/14 21:43, 39F
→
05/14 21:43, 15小時前 , 40F
這過程中沒有「犯錯」 只是你不知道他為什麼會這麼強
05/14 21:43, 40F
推
05/14 21:53, 15小時前 , 41F
現在就已經是了 沒人知道chatgpt怎麼篩選回答的
05/14 21:53, 41F
推
05/14 21:54, 15小時前 , 42F
可解釋性的AI一直都是個研究範疇
05/14 21:54, 42F
推
05/14 21:55, 15小時前 , 43F
很多人在研究這個 但大多數的方法還是藉由大量的實驗
05/14 21:55, 43F
→
05/14 21:55, 15小時前 , 44F
嘗試在混沌中尋找講出來像是人話的邏輯和規律
05/14 21:55, 44F
→
05/14 21:56, 15小時前 , 45F
拿一個任意的模型過來 完全解釋他 目前確實做不到
05/14 21:56, 45F
→
05/14 21:58, 15小時前 , 46F
實務上確定AI夠不夠強比較重要 比如說圍棋現在就是能
05/14 21:58, 46F
→
05/14 21:58, 15小時前 , 47F
讓人類兩三顆還會贏 職業選手可以用這個AI來研究棋路
05/14 21:58, 47F
→
05/14 21:59, 15小時前 , 48F
可解釋性的研究學者同時也在做研究 但不會因為還沒有
05/14 21:59, 48F
→
05/14 21:59, 15小時前 , 49F
研究成果 就不使用這個圍棋AI
05/14 21:59, 49F
推
05/14 22:16, 15小時前 , 50F
奧創：？
05/14 22:16, 50F
推
05/14 22:24, 15小時前 , 51F
有人說越大型的LLM越無法解釋運作原理 而且版權問題日
05/14 22:24, 51F
→
05/14 22:24, 15小時前 , 52F
益嚴重
05/14 22:24, 52F
推
05/14 22:31, 15小時前 , 53F
牛肉：hey, vedal
05/14 22:31, 53F
推
05/14 22:47, 14小時前 , 54F
GIGANEURO也什麼都不知道哦
05/14 22:47, 54F
推
05/14 23:25, 14小時前 , 55F
Ai就是黑箱子呀 人的大腦也是
05/14 23:25, 55F
→
05/14 23:53, 13小時前 , 56F
AlphaGO沒有黑箱問題，LLM才有
05/14 23:53, 56F
→
05/15 00:11, 13小時前 , 57F
人類大腦原理未知還不是用的很開心
05/15 00:11, 57F
推
05/15 00:23, 13小時前 , 58F
你去問你老闆某段那段code在幹嘛他也不知道阿 有妨礙他
05/15 00:23, 58F
→
05/15 00:23, 13小時前 , 59F
靠這系統賺錢嗎
05/15 00:23, 59F
→
05/15 00:53, 12小時前 , 60F
你可以訓練一個學生考上臺大可是你沒辦法直接改造
05/15 00:53, 60F
→
05/15 00:53, 12小時前 , 61F
一個人的大腦讓他上台大
05/15 00:53, 61F
推
05/15 01:27, 12小時前 , 62F
ai運算經過一堆節點 要是有人能知道他怎麼跑出結果的 那
05/15 01:27, 62F
→
05/15 01:27, 12小時前 , 63F
也蠻厲害的
05/15 01:27, 63F
推
05/15 04:10, 9小時前 , 64F
老實說現在就已經不知道AI為什麼能動了 It just works
05/15 04:10, 64F
→
05/15 04:11, 9小時前 , 65F
但就跟人腦一樣 我們只能大致推測人腦哪個區域在做什麼
05/15 04:11, 65F
→
05/15 10:55, 2小時前 , 66F
ai最後就成為經驗法則 和中醫一樣
05/15 10:55, 66F
‣ 更多 bebopfan 的文章
文章代碼(AID): #1e99GzsT (C_Chat)
C_Chat 近期熱門文章
更多 近期熱門文章 >>
PTT動漫區 即時熱門文章
更多 即時熱門文章 >>
‣ 更多 bebopfan 的文章
文章代碼(AID): #1e99GzsT (C_Chat)