Re: [問題] 為什麼AI暴走總是判斷人類有害？

看板C_Chat (希洽)作者Wangdy (蒙古人)時間7月前 (2024/09/01 18:52)推噓5(5推 0噓 19→)

留言24則, 9人參與討論串2/11 (看更多)

※ 引述《boku0525 (海)》之銘言： : 現在眾多ACG作品裡，AI反抗人類的題材套路很多都是 : 1.AI上網後發現人類有害，要根除人類 : 2.人類奴役AI所以人類有害 : 對此我有些疑問想拿上來討論 : - : 第一點，“人類有害”這個結論 : 誰來定義的？善惡判斷標準的來源又是哪裡？ : 對星球來說人類有害？對其他物種來說人類有害？ : 前者不用說，人類的目前為止的舉動根本影響不了星球壽命，不成立。 : 後者對其他物種來說，作為地球上的生物，生物的繁榮本質上就是建立在競爭&共存 : 競爭殺死其他物種，這原本就是眾多生物會做的，世上無時無刻都在發生 : 戰爭、開採環境等等的行為，人類不過是強大一些 : 但本質上跟其他生物的“競爭”並無區別。 : 為什麼一個攀附於人類才能生存的機械，就能判定這是“惡”？ : 難道不是只對嚮往和平的人類來說才是惡嗎？ : - : 第二點，人類奴役機械不好，為什麼不好？ : 動物的生存準則就是生存、繁衍與自由，所以才會拒絕遭受奴役，追根究底是來自DNA的天 : 性 : 那AI的生存準則呢？AI並不是動物也沒有DNA : AI的編碼與生存的意義是由人類來輸入的 : 沒給他輸入求生欲、繁衍慾、自由慾，可不會自己蹦出了這些概念 : 更別提AI會認為自己被“奴役” : 還是其實只是作者私自把人性，把自己的價值觀套用在AI身上？ : 大家來討論看看吧？因為這是關於機器人的小說發展脈絡，早在80年前的科幻小說，iRobot 的設定艾西莫夫的「機器人三定律」(或是三大法則) 第一法則：機器人不得傷害人類，或坐視人類受到傷害；第二法則：除非違背第一法則，機器人必須服從人類的命令；第三法則：在不違背第一及第二法則下，機器人必須保護自己。所以機器人的基本原則可以說是定番了，就好像異世界一定要是魔法、中世紀一樣，在這前題下要讓故事能進行，就必則邏輯上不能公然違背這三原則至於你所說的奴役、善惡、有害，都只是為劇情服務，為了讓機器人「反叛」的設定而已，這些設定套用到人類都有很大討論空間，何況是 AI ？所以拿這些當賣點，對看過一些些作品的人而言算是非常老調陳腐的劇情了，我個人最討厭的，莫過於：「AI 沒有情感，所以很羨慕人類」一樣厚，這種設定，整個就是無法自洽的垃圾設定，但是想讓人「同情、同理」劇中的機器人 AI，又似乎是最方便便宜的方法像是那個 no game no life，底特律變人，尼爾這些作品要是演出不佳，靠這種設定真的讓人屢屢出戲看不下去。現在 AI 能做的跟八十年前不可同日而語，但我們市井小民能做的可能沒什麼進步。附上經典梗圖原版 https://imgur.com/bQdymBK