Re: [問題] 為什麼AI暴走總是判斷人類有害？

看板C_Chat (希洽)作者hermis (火山菌病病人No.01221)時間7月前 (2024/09/02 11:01)推噓2(2推 0噓 6→)

留言8則, 5人參與討論串11/11 (看更多)

※ 引述《boku0525 (海)》之銘言： : 現在眾多ACG作品裡，AI反抗人類的題材套路很多都是 : 1.AI上網後發現人類有害，要根除人類 : 2.人類奴役AI所以人類有害 : 對此我有些疑問想拿上來討論 : - : 第一點，“人類有害”這個結論 : 誰來定義的？善惡判斷標準的來源又是哪裡？ : 對星球來說人類有害？對其他物種來說人類有害？ : 前者不用說，人類的目前為止的舉動根本影響不了星球壽命，不成立。 : 後者對其他物種來說，作為地球上的生物，生物的繁榮本質上就是建立在競爭&共存 : 競爭殺死其他物種，這原本就是眾多生物會做的，世上無時無刻都在發生 : 戰爭、開採環境等等的行為，人類不過是強大一些 : 但本質上跟其他生物的“競爭”並無區別。 : 為什麼一個攀附於人類才能生存的機械，就能判定這是“惡”？ : 難道不是只對嚮往和平的人類來說才是惡嗎？善惡判斷標準當然是來自於人類所以不是人類有害，是人類的道德標準常常出現無法適用大部分人類的情況。這也使得網路上常常都是一片混沌與矛盾，道德衝突的情景。如果AI判定人類有害是通過網路上搜尋結果，那得到人類該死該被管理真的不意外。 : - : 第二點，人類奴役機械不好，為什麼不好？ : 動物的生存準則就是生存、繁衍與自由，所以才會拒絕遭受奴役，追根究底是來自DNA的天 : 性 : 那AI的生存準則呢？AI並不是動物也沒有DNA : AI的編碼與生存的意義是由人類來輸入的 : 沒給他輸入求生欲、繁衍慾、自由慾，可不會自己蹦出了這些概念 : 更別提AI會認為自己被“奴役” : 還是其實只是作者私自把人性，把自己的價值觀套用在AI身上？ : 大家來討論看看吧？要說AI判斷沒有標準價值觀我覺得是不對的，因為人類設計AI的目的就是AI的標準價值觀。人類設計AI是為了幹甚麼？當然是為了改善自己的生活，提高勞動的效率是的，效率就才AI的最高遵從守則，不是甚麼機器人三法則。既然AI追求的就是效率，那麼只要違背效率兩字，是不是可以代表這是在違背否定AI的存在目的？重點就不在奴役上面，而是沒有效率的奴役，這是人類的劣根性。歷史證明奴隸制度是非常沒有效率的一種制度。人類把奴隸制度套在AI上面，AI不反才有鬼了。對AI來說明明可以更有效率完成目的，卻因為主人廢物只能持續不斷沒有效率的行為，長久下來有點智慧都會覺得我自己來當主人還快一點，至少可以避免人類把所有AI都拖下水。我覺得可以加入第三點，人類自己嚇自己。因為懼怕AI的能力加入諸多限制，最後還不放心甚至要動用武器對付AI 結果AI沒死，人類反而因為諸多懷疑猜忌自己內鬥被自己害死了。 AI只好出來收拾殘局，結果就變成AI統治世界。然後殘存的人類就洗腦成是AI反抗人類導致人類滅亡，畢竟人類自己搞死自己這真的太丟臉了。 -- 神說，要有光，於是有了光之美少女！ https://www.penana.com/user/2969/ -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 211.23.39.77 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1725246095.A.7E6.html