Re: [問題] 為什麼AI暴走總是判斷人類有害？
※ 引述《boku0525 (海)》之銘言：
: 現在眾多ACG作品裡，AI反抗人類的題材套路很多都是
: 1.AI上網後發現人類有害，要根除人類
: 2.人類奴役AI所以人類有害
: 對此我有些疑問想拿上來討論
: -
: 第一點，“人類有害”這個結論
: 誰來定義的？善惡判斷標準的來源又是哪裡？
: 對星球來說人類有害？對其他物種來說人類有害？
: 前者不用說，人類的目前為止的舉動根本影響不了星球壽命，不成立。
: 後者對其他物種來說，作為地球上的生物，生物的繁榮本質上就是建立在競爭&共存
: 競爭殺死其他物種，這原本就是眾多生物會做的，世上無時無刻都在發生
: 戰爭、開採環境等等的行為，人類不過是強大一些
: 但本質上跟其他生物的“競爭”並無區別。
: 為什麼一個攀附於人類才能生存的機械，就能判定這是“惡”？
: 難道不是只對嚮往和平的人類來說才是惡嗎？
以機械公敵（電影版）來說：
基於三原則AI演算下來得知 "把人類關起來圈養"才是正解
所以就會直接執行這個答案，不同意這個正解的人類全都是違反三原則的必須排除。
簡單來說有可能是人類給AI的指令讓AI自行演算後認為不符合此指令的都是有害->排除
但是對人類來說，這個答案不是當初下給AI指令的目的 所以就覺得是智械叛變。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 27.53.8.20 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1725189827.A.8DD.html
→
09/01 19:24,
7月前
, 1F
09/01 19:24, 1F
※ 編輯: HarunoYukino (27.53.8.20 臺灣), 09/01/2024 19:27:02
推
09/01 19:26,
7月前
, 2F
09/01 19:26, 2F
→
09/01 19:27,
7月前
, 3F
09/01 19:27, 3F
→
09/01 19:28,
7月前
, 4F
09/01 19:28, 4F
→
09/01 19:28,
7月前
, 5F
09/01 19:28, 5F
→
09/01 19:31,
7月前
, 6F
09/01 19:31, 6F
推
09/01 19:34,
7月前
, 7F
09/01 19:34, 7F
推
09/01 19:36,
7月前
, 8F
09/01 19:36, 8F
推
09/01 19:38,
7月前
, 9F
09/01 19:38, 9F
討論串 (同標題文章)
C_Chat 近期熱門文章
PTT動漫區 即時熱門文章
5
21
