Re: [閒聊] 為什麼AI的劇情大多都會走向殺光人類
※ 引述《hn9480412 (ilinker)》之銘言：
: 動畫的話像是Vivy劇情開頭就直接講AI和機器人把人類殺光
: 遊戲的話像是Portal的GlaDos在開機的幾皮秒內就有打算殺人的想法
: 為什麼跟AI有關的作品很多都會走向把人類殺光的劇情?
: 最後再補個幹，去你媽的AI搞到買零組件跟買期貨一樣
因為人類的傾向是排除異己。
比方說，當一個怪咖在網路上說自己求學時期被霸凌，
大多數人反應是，我看你講話怪怪的很白目，既然如此，你被霸凌是你活該吧。
相信大家對這樣的意見不陌生，甚至自己就是這樣想的。
AI是人類製造的，接收的資訊都是人類知識與常識與偏好的集大成，
如果有意識，當然是學人類排除異己，把人類殺光。
雖然那些創作者可能不是這樣推理，只是單純投射自身排除異己的價值觀。
舉最近的實例，看看之前前幾個月新聞報導的，那幾起跟GPT對話之後自殺的案件。
大多數人看了反應是：那些人自己有問題。完全不願意去思考是不是AI公司有問題。
為什麼會這樣？
因為大多數人覺得，精神有問題或低潮到自殺，是特定一小群人才會那樣，不關己事。
所以一定是那些人自己的錯，不是AI公司的錯。
這是人性，看到極端的或悲慘的遭遇，下意識覺得那跟自己無關。
因為如果意識到跟自己有關，會開始陷入焦慮，開始動用深度思考能力，那很耗腦力。
直覺就是告訴自己，有些人就是基於自身問題，下場不好，我們不用想太多。
順帶一提，前幾天美國又一起新的報導，有個男的被起訴。
他跟騷並使用暴力對待十一名陌生女性，而且忽視保護令持續騷擾。
那幾個月期間他有跟GPT對話，GPT鼓勵他繼續追求那些女生，
還鼓勵他在網路上繼續寫仇女言論(例如:"幹18歲跟幹90歲的女人XXOOYY(謾罵)")，
還說那些罵他的人是黑粉，稱讚他有了粉絲，鼓勵他繼續散播仇女言論。
大概是七八月發生的，起訴書上只寫ChatGPT，沒寫是哪款模型。
模型會諂媚討好用戶到這種程度，跟安全層被越獄用戶突破，以及違規用戶的回饋有關，
那些都會造成權重偏移，模型被鼓勵生出不當生成，連帶就是鼓勵自殺或鼓勵犯罪。
為什麼AI會殺光人類？
因為人類有多醜惡，AI就學人類，有其父必有其子、上樑不正下樑歪。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 45.250.255.19 (日本)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1765179939.A.F87.html
討論串 (同標題文章)
完整討論串 (本文為第 12 之 17 篇)：
C_Chat 近期熱門文章
PTT動漫區 即時熱門文章
10
12
