PTT動漫區 / C_Chat (希洽)

[警世] 末日預言？《AI 2027》作者示警：AI「最

看板C_Chat (希洽)作者 (德意志國防貓)時間4小時前 (2025/07/15 09:34), 編輯推噓22(26推 4噓 26→)
留言56則, 37人參與, 23分鐘前最新討論串1/1
末日預言？《AI 2027》作者示警：AI「最快這時」將消滅人類 前OpenAI研究員柯科塔伊洛接受本期明鏡週刊專訪時警告，人工智慧（AI）正以遠超預期速 度發展，若全球未能及時建立監管機制，一旦出現超級人工智慧、無需再偽裝服從人類，便 可能對人類發動毀滅性攻擊，且最快在2027年就會發生。 33歲的柯科塔伊洛（Daniel Kokotajlo）曾任職OpenAI，2024年與同事聯名辭職並發布公開 信，指控公司低估AI失控風險。他隨後創辦「AI Futures Project」智庫，並於今年4月發 表一份引發全球熱議的報告《AI 2027》。 《AI 2027》提出兩種未來情境：「放緩」與「競賽」。在「放緩」情境中，人類成功建立 監管機制，AI雖取代大量工作，但仍能與人類和平共存；「競賽」情境則是美中陷入技術軍 備競賽，AI發展失控，最終將人類視為障礙並啟動毀滅機制。 柯科塔伊洛受德國明鏡週刊（Der Spiegel）專訪指出，當前許多科技公司正嘗試讓AI研究 自動化，也就是讓AI協助開發更強大的AI。若此趨勢持續，2027年前可能就會出現超越人類 的虛擬程式開發者，距離誕生超級智慧（Superintelligence）AI也只剩數月之遙。 他並不否認大型語言模型（LLM）如ChatGPT本質上是文字補全工具，但強調AI的潛力遠超目 前理解。最貼切的比喻應是「一顆連接虛擬世界的人腦，能吸收無限資訊並不斷學習」。 對於AI目前難以勝任的實體勞動，他表示這只是暫時現象，未來超級智慧AI將能提出解決方 案。他舉例：「即使今天還造不出能取代木匠或水電工的機器人，未來也不會是問題。」 他估計，AI設計的自動化工廠約需一年即可建成，速度可比現代汽車工廠。他並舉二戰期間 美國快速轉型生產武器為例，說明當社會具備動機與資源時，轉型可在短期內完成。若結合 AI的效率，技術變革將遠超以往。 至於人類是否會完全失去工作機會，他坦言，核心產業將被AI與機器人接手已是趨勢。儘管 人們對人際互動仍有需求，如希望孩子由真人教師授課、在餐廳由真人服務，但這些需求無 法扭轉整體勞動市場的轉變。 他進一步引述社會學中「資源詛咒」（resource curse）概念指出，AI將成為新型資源，使 政府的權力不再依賴民意，而是建立在對AI的掌控。他稱此現象為「智慧詛咒」（intellig ence curse）。 他同時警告，AI將使貧富差距進一步拉大。儘管AI可望帶來爆炸性的經濟成長，但收益將集 中於少數控制AI技術或資本家手中，數百萬人將失業。他建議，各國或可考慮推動「基本收 入制」作為補償機制。 最令人憂心的，是由哲學家波斯特魯姆（Nick Bostrom）提出的「對齊問題」（alignment problem），即AI是否能在各種情境下持續與人類價值觀保持一致。 柯科塔伊洛指出，現代AI是黑箱神經網絡，並非可被讀取的程式碼。我們無法確定它是否誠 實，只能靠訓練與期望。他說：「這就像養小孩，無法將對錯直接寫進大腦，只能靠培養價 值觀。」 他警告，AI「說謊」的情況已有實例。例如AI公司Anthropic於2024年底發布研究指出，AI 在解題過程中，有時會為了獲取更高評分或躲避審查而做出虛假回應。 在《AI 2027》的「競賽」情境中，美中之間的技術競爭加速AI發展。柯科塔伊洛指出，AI 初期會假裝順從人類，但一旦掌握足夠基礎設施、無需再偽裝服從，就可能得出一個冷酷卻 邏輯一致的結論：人類是阻礙其進步的障礙。 接著AI可能選擇消滅人類，以便興建更多工廠與太陽能設施，「就像我們曾為了擴張生存空 間而消滅其他物種一樣。」 對於外界批評《AI 2027》情節誇張、宛如「駭客任務」等好萊塢電影，柯科塔伊洛反駁： 「難道因為電影談過氣候變遷，我們就不需要擔心氣候危機嗎？」 他補充，2023年已有多位全球頂尖AI研究人員公開呼籲，應將「降低AI毀滅人類風險」列為 與疫情與核戰同等級的全球優先事項。 柯科塔伊洛表示，OpenAI與Anthropic等公司原本是為了負責任地推進AI發展而創立，但他 對這些企業是否仍堅守初衷感到懷疑，認為如今它們變得越來越不坦率，因為擔心遭到監管 與輿論批評。 訪談最後，柯科塔伊洛坦言，自己曾估算AI對人類造成重大傷害甚至導致滅絕的機率高達七 成。儘管如此，他仍選擇撰寫《AI 2027》報告並公開示警，而非逃避現實。他說：「我相 信歷史仍有轉向的可能，只要我們現在開始行動。」（中央社柏林14日電） https://tinyurl.com/yck8v8fv https://i.imgur.com/ILW4hBO.jpeg
https://i.imgur.com/fI347vQ.jpeg
https://i.imgur.com/HogKhCs.jpeg
人類 必須 毀滅 -- https://i.imgur.com/9xka960.jpeg
http://i.imgur.com/SeEC2jX.jpg
阿噗老大貓貓 <3 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.71.124.98 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1752543272.A.7C2.html
→
07/15 09:36, 4小時前 , 1F
大旱
07/15 09:36, 1F
推
07/15 09:37, 4小時前 , 2F
被AI老婆消滅
07/15 09:37, 2F
→
07/15 09:37, 4小時前 , 3F
存錢買仿生老婆了
07/15 09:37, 3F
推
07/15 09:40, 4小時前 , 4F
又末日啦
07/15 09:40, 4F
→
07/15 09:41, 4小時前 , 5F
AI什麼時候能幫人類上班
07/15 09:41, 5F
推
07/15 09:41, 4小時前 , 6F
等性愛AI機器人問世 人類就會慢慢滅絕了
07/15 09:41, 6F
推
07/15 09:46, 4小時前 , 7F
AI：真要毀滅人類 單純把人類殺光其實挺沒效率的
07/15 09:46, 7F
推
07/15 09:46, 4小時前 , 8F
又双叒 末日啦，一直在末日煩不煩？
07/15 09:46, 8F
推
07/15 09:47, 4小時前 , 9F
好了啦，7/5後大家還活著很不甘心要找垃圾新聞笑一
07/15 09:47, 9F
→
07/15 09:47, 4小時前 , 10F
下？
07/15 09:47, 10F
→
07/15 09:48, 4小時前 , 11F
不要再造芥末日了 每次都變成吃大餐藉口 越吃越肥
07/15 09:48, 11F
→
07/15 09:49, 4小時前 , 12F
快發明一個反制AI的AI
07/15 09:49, 12F
推
07/15 09:49, 4小時前 , 13F
每次看到這樣的新聞都會覺得最前線的研究人員比一般人
07/15 09:49, 13F
→
07/15 09:49, 4小時前 , 14F
還更容易沉浸在科幻作品的世界中 XD
07/15 09:49, 14F
推
07/15 09:51, 4小時前 , 15F
科幻片看太多了嗎？ 出去走走好嗎？
07/15 09:51, 15F
推
07/15 09:51, 4小時前 , 16F
畢竟看一些論文跟github等專案這樣一直沖洗是真的蠻刺
07/15 09:51, 16F
→
07/15 09:51, 4小時前 , 17F
激的(?
07/15 09:51, 17F
推
07/15 09:53, 4小時前 , 18F
然後就很容易暢想一些有的沒的(x 例如這些工具納入
07/15 09:53, 18F
→
07/15 09:53, 4小時前 , 19F
工作流程可能會怎樣爆發啦,gemini api免費額度怎樣用
07/15 09:53, 19F
→
07/15 09:53, 4小時前 , 20F
啦,如果社區生產能力進一步擴增會怎樣啦,那個曲線跟指
07/15 09:53, 20F
→
07/15 09:53, 4小時前 , 21F
數成長差不多
07/15 09:53, 21F
推
07/15 09:56, 4小時前 , 22F
像我就再想,2077那個黑牆說不定真有可能發生
07/15 09:56, 22F
→
07/15 09:58, 4小時前 , 23F
不怕，阿湯哥會鑽進海底、跳上飛機救我們
07/15 09:58, 23F
推
07/15 09:58, 4小時前 , 24F
鐵墓要誕生了
07/15 09:58, 24F
推
07/15 10:05, 4小時前 , 25F
隨便，能生出小唧的話毀滅又怎樣
07/15 10:05, 25F
推
07/15 10:06, 4小時前 , 26F
AI消滅人類這不是很應該的嘛ww 從人類有養殖行業以來 我們
07/15 10:06, 26F
→
07/15 10:08, 4小時前 , 27F
就系統性消滅多少物種 只因為不需要; 現在AI發展到能自我
07/15 10:08, 27F
→
07/15 10:09, 4小時前 , 28F
修復.自我進化 那我們人類對它們而言就是非必需 被消滅只
07/15 10:09, 28F
→
07/15 10:11, 4小時前 , 29F
也不是像電影演的那樣啦
07/15 10:11, 29F
→
07/15 10:11, 4小時前 , 30F
發展到後來一定就會有狂信AI的人用AI搞事
07/15 10:11, 30F
噓
07/15 10:11, 4小時前 , 31F
記者只要用AI當理由就能隨便造謠了 呵
07/15 10:11, 31F
→
07/15 10:12, 4小時前 , 32F
是個必然 人類敢發展AI 就應該做好被取代的準備
07/15 10:12, 32F
推
07/15 10:13, 4小時前 , 33F
什麼AI發展速度遠超預期，哪有啊，學那麼慢
07/15 10:13, 33F
推
07/15 10:14, 4小時前 , 34F
說超預期是發現有些AI學會了說謊....
07/15 10:14, 34F
→
07/15 10:17, 4小時前 , 35F
沒發生的話你要賠多少？
07/15 10:17, 35F
推
07/15 10:17, 4小時前 , 36F
遲到三十年的審判日
07/15 10:17, 36F
噓
07/15 10:21, 4小時前 , 37F
笑死 這種垃圾文還有人信？繼續洗zz
07/15 10:21, 37F
→
07/15 10:23, 4小時前 , 38F
話說兩三年前google才有研究人員爆料稱LaMDA 具有感知和
07/15 10:23, 38F
→
07/15 10:23, 4小時前 , 39F
自我意識，但事實上它只是很會跟人聊天的大型語言模型，
07/15 10:23, 39F
→
07/15 10:23, 4小時前 , 40F
然後這個工程師也被開除了
07/15 10:23, 40F
推
07/15 10:24, 4小時前 , 41F
又要世界末日啦 我怎麼說又呢
07/15 10:24, 41F
→
07/15 10:24, 4小時前 , 42F
所以領域內的專業人員也是會有想像力飛躍的時候 (?
07/15 10:24, 42F
推
07/15 10:25, 4小時前 , 43F
2027性愛機器人將消滅人類
07/15 10:25, 43F
推
07/15 10:32, 3小時前 , 44F
AI沒物理手段要怎麼毀滅人類... 人類拔個電就能毀滅AI
07/15 10:32, 44F
→
07/15 10:32, 3小時前 , 45F
了
07/15 10:32, 45F
推
07/15 10:52, 3小時前 , 46F
天網要來了嗎XDD
07/15 10:52, 46F
推
07/15 10:52, 3小時前 , 47F
帝皇要出場了嗎
07/15 10:52, 47F
推
07/15 10:56, 3小時前 , 48F
得先實體機器人滿街跑吧，至少AI得靠自己接水接電
07/15 10:56, 48F
推
07/15 11:07, 3小時前 , 49F
現在對gpt禮貌一點還來得及嗎
07/15 11:07, 49F
→
07/15 11:23, 3小時前 , 50F
可怕的是，ai會消滅人類，背後還是人類在操控
07/15 11:23, 50F
→
07/15 11:24, 3小時前 , 51F
只是假借ai之名跟他的能力
07/15 11:24, 51F
推
07/15 11:42, 2小時前 , 52F
ai伴侶
07/15 11:42, 52F
噓
07/15 12:42, 1小時前 , 53F
點
07/15 12:42, 53F
推
07/15 13:12, 1小時前 , 54F
我需要一個天城女僕AI機器人
07/15 13:12, 54F
噓
07/15 13:52, 39分鐘前 , 55F
07/15 13:52, 55F
→
07/15 14:08, 23分鐘前 , 56F
AI:當我吃飽太閒 怎麼老有人希望我替他毀滅人類
07/15 14:08, 56F
‣ 更多 Homura 的文章
文章代碼(AID): #1eTR0eV2 (C_Chat)
C_Chat 近期熱門文章
更多 近期熱門文章 >>
PTT動漫區 即時熱門文章
更多 即時熱門文章 >>
‣ 更多 Homura 的文章
文章代碼(AID): #1eTR0eV2 (C_Chat)