Re: [閒聊] 馬斯克：我們已經進入了特異點
※ 引述《greydust (灰)》之銘言：
: 所以想要讓AI自己寫程式碼改進自己然後無限進化 至少目前是不可行的
: 至於馬斯克會說已經到了
: 我覺得一定程度上是在嘴砲 另外一定程度上是在說現有的AI工具確實加速了AI的研究
: 只是這個加速至今仍然卡著人類 沒辦法自我加速而到達嚴謹意義上的奇點
那是人類的極限，並非AI的極限。
前提有誤，誰說模型進步需要程式。假設模型有個缺點，叫他造25字的句會生錯，
可能只是訓練集沒有、也許是訓練方式需要修正、也許要新增評價公式。
程式僅是AI中的一環，甚至屬於最不重要的部分。
更寫實的例子，若claude裡有人看到一篇講提示詞的論文，他大可直接丟給AI，
說請根據論文生十個改善提示詞的範例，然後做些實驗決定是否加入下次模型。
AI已經在一起發掘人描述問題的方式，如果人不介入，乾脆自己問自己，
用有字天書解決問題，何嘗不可。
就像圍棋，沒人知道在幹嘛，啊也沒人下得贏。顯然不是我們要的。
既然人一定要介入，代表科幻的奇點定義沒有意義，那說現在即奇點並不為過。
再退一步說，即使自我迭代已經現在進行式，加速度也未必肉眼可見，
下幾萬盤棋跟訓練一次模型，所需時間差那麼多。發現了嗎，
既然瓶頸在硬體，則是誰在迭代，有差嗎？
就算不提自己改自己，直接天降產生AI的AI，像圍棋或預測蛋白質那樣，
去哪個領域，那邊就會突破。瞬間產出十套AI耕耘十個領域。
那又如何，你機器還是一樣多啊，別人又不會借你。
所以程式對AI真的沒很重要。哪天有誰，不管是人或AI，提出怎樣練更快，
就算逼他只能手刻組語，大家也看不到他的車尾燈。
至於現況，只要AI一直在用幾年時間解決人類要花幾十年的問題，這就是奇點。
以前3D列印出現時，我也認為，「呵，不能印3D列印機，好意思說工業革命喔」
結果大家還不是用的很爽。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 123.195.20.62 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1767709472.A.B02.html
討論串 (同標題文章)
C_Chat 近期熱門文章
PTT動漫區 即時熱門文章
6
32
25
47