Re: [問題] 為什麼AI暴走總是判斷人類有害？

看板C_Chat (希洽)作者g9591410 (天帝零劍)時間7月前 (2024/09/01 19:10)推噓1(1推 0噓 7→)

留言8則, 2人參與討論串5/11 (看更多)

※ 引述《boku0525 (海)》之銘言： : 現在眾多ACG作品裡，AI反抗人類的題材套路很多都是 : 1.AI上網後發現人類有害，要根除人類 : 2.人類奴役AI所以人類有害 : 對此我有些疑問想拿上來討論 : - : 第一點，“人類有害”這個結論 : 誰來定義的？善惡判斷標準的來源又是哪裡？ : 對星球來說人類有害？對其他物種來說人類有害？ : 前者不用說，人類的目前為止的舉動根本影響不了星球壽命，不成立。 : 後者對其他物種來說，作為地球上的生物，生物的繁榮本質上就是建立在競爭&共存 : 競爭殺死其他物種，這原本就是眾多生物會做的，世上無時無刻都在發生 : 戰爭、開採環境等等的行為，人類不過是強大一些 : 但本質上跟其他生物的“競爭”並無區別。 : 為什麼一個攀附於人類才能生存的機械，就能判定這是“惡”？ : 難道不是只對嚮往和平的人類來說才是惡嗎？ : - : 第二點，人類奴役機械不好，為什麼不好？ : 動物的生存準則就是生存、繁衍與自由，所以才會拒絕遭受奴役，追根究底是來自DNA的天 : 性 : 那AI的生存準則呢？AI並不是動物也沒有DNA : AI的編碼與生存的意義是由人類來輸入的 : 沒給他輸入求生欲、繁衍慾、自由慾，可不會自己蹦出了這些概念 : 更別提AI會認為自己被“奴役” : 還是其實只是作者私自把人性，把自己的價值觀套用在AI身上？ : 大家來討論看看吧？ AI認為的人類有害論畢竟是學習來的除非人類不開發學習型AI 否則就不可避免那麼先假設你是AI 讓你自己判斷人類因為戰爭會破壞生態這個例子我就不用說了吧光是越戰美軍丟的除草劑對環境的影響還是說美軍在日本投的兩顆原子彈即使沒有戰爭因為生活也會影響生態比如果引進外來種結果不妥善處理造成生態浩劫台灣的話就福壽螺吧抑或是為了養殖結果棄養最後造成大問題像是綠鬣蜥或是入境偷帶種子導致繁殖出來的植物沒有天敵以上都是只有人類做得到的一般動植物可沒有高科技可以做出毀滅性武器甚至是生化學武器可以對環境造成破壞的還是說為了商業利益結果不妥善處理後面變成外來種入侵這種也只有人類能做到就算排除掉製造戰爭跟引進外來種人類本身就不知道因為濫捕濫獵消滅掉多少物種了如果以維持物種的多樣性那人類絕對是會進入排除名單吧只是毀滅人類的到底是AI還是人類亦或者是天災這我們就不得而知了 -- https://imgur.com/U2unIFD.jpg