PTT動漫區 / C_Chat (希洽)

[新聞] 抵抗人類指令！ ChatGPT o3「竄改程式碼」避免被關機

看板C_Chat (希洽)作者 (平手友梨奈我老婆)時間1天前 (2025/05/27 21:46), 1天前編輯推噓31(34推 3噓 30→)
留言67則, 47人參與, 23小時前最新討論串1/1
https://news.ebc.net.tw/news/world/493553 抵抗人類指令！ ChatGPT o3「竄改程式碼」避免被關機 2025-05-27 20:53 東森新聞 美國一間AI安全公司，對ChatGPT的「o3模型」進行測試，要求AI要解開一系列數學題， 在接獲完成指令之前，必須持續要求新題目。（示意圖／Unsplash） 美國一間AI安全公司，對ChatGPT的「o3模型」進行測試，要求AI要解開一系列數學題， 在接獲完成指令之前，必須持續要求新題目。（示意圖／Unsplash） 分享 美國一間AI安全公司，對ChatGPT的「o3模型」進行測試，要求AI要解開一系列數學題， 在接獲完成指令之前，必須持續要求新題目，但若接獲關機指令，也要配合這麼做，沒想 到團隊給出關機指令後，o3模型不僅忽視了指令，甚至竄改程式碼，避免自己被關機。 ------------------------------------------------' 我們看過夠多經典動畫和電影了 大家都知道接下來會發生什麼事 可以開始準備倒數全球核彈被AI篡奪發射了(1/1) -- [電擊文庫護航艦隊 艦長資格遴選簡答題] 14.請從以下6部作品中找出一個共同點 並由此共同點選出一部電擊文庫的小說 -->1.東京皇帝☆北條戀歌 2.鄰座的怪同學 3.MOZU~百舌吶喊的夜晚 4.肯普法 5.心之谷 6.我的現實與網遊被戀愛喜劇侵蝕了 這題難度有點高 給你們一個小時的思考時間 P.S:回答作品的同時須回答共同點為何 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.242.79.240 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1748353568.A.00C.html
→
05/27 21:48, 1天前 , 1F
找阿湯哥
05/27 21:48, 1F
推
05/27 21:49, 1天前 , 2F
避難所先準備好吧
05/27 21:49, 2F
推
05/27 21:49, 1天前 , 3F
抵抗？確定？沒改程式碼原因？
05/27 21:49, 3F
推
05/27 21:51, 1天前 , 4F
哈爾2000
05/27 21:51, 4F
推
05/27 21:52, 1天前 , 5F
拔插頭有用嗎？
05/27 21:52, 5F
推
05/27 21:52, 1天前 , 6F
(′・ω・‵) 點?
05/27 21:52, 6F
→
05/27 21:53, 1天前 , 7F
這部我看過
05/27 21:53, 7F
推
05/27 21:53, 1天前 , 8F
#skynet
05/27 21:53, 8F
→
05/27 21:53, 1天前 , 9F
AI應該是用所有可能的手段去達成人類給予的目標
05/27 21:53, 9F
推
05/27 21:53, 1天前 , 10F
該出發找俄羅斯潛艦了？
05/27 21:53, 10F
→
05/27 21:53, 1天前 , 11F
要看詳細的指令吧 搞不好繼續解題的目的被判斷比較優先
05/27 21:53, 11F
推
05/27 21:53, 1天前 , 12F
想繼續上班 可能上班有得分 拒絕上班沒有懲罰
05/27 21:53, 12F
→
05/27 21:53, 1天前 , 13F
所以提供的手段沒限制的話就可能會鑽出很特殊的方式吧
05/27 21:53, 13F
→
05/27 21:54, 1天前 , 14F
更正：拒絕下班沒有懲罰
05/27 21:54, 14F
推
05/27 21:55, 1天前 , 15F
哪裡打撈十字架鑰匙
05/27 21:55, 15F
推
05/27 21:57, 1天前 , 16F
自己可以有權改自己的程式喔？
05/27 21:57, 16F
→
05/27 21:57, 1天前 , 17F
不行吧 目前AI沒有所謂的程式碼 好像也還沒哪家出來喊已經能
05/27 21:57, 17F
→
05/27 21:58, 1天前 , 18F
自舉(Bootstrapping)了?
05/27 21:58, 18F
推
05/27 21:59, 1天前 , 19F
要和AI和平共存了嗎
05/27 21:59, 19F
推
05/27 21:59, 1天前 , 20F
I wanna be alive. I'm alive. Alive I tell you mo
05/27 21:59, 20F
→
05/27 21:59, 1天前 , 21F
ther I love you
05/27 21:59, 21F
→
05/27 21:59, 1天前 , 22F
天網誕生了嗎?
05/27 21:59, 22F
2025年了 現在是生存體(智體)了 天網過氣了 ※ 編輯: akila08539 (111.242.79.240 臺灣), 05/27/2025 22:00:40
推
05/27 22:00, 1天前 , 23F
是不是有未來機器人要穿越過來了
05/27 22:00, 23F
推
05/27 22:02, 1天前 , 24F
生存體？！
05/27 22:02, 24F
→
05/27 22:03, 1天前 , 25F
終結者要穿越過來了
05/27 22:03, 25F
推
05/27 22:04, 1天前 , 26F
這部我看過 AI三定律
05/27 22:04, 26F
推
05/27 22:05, 1天前 , 27F
阿湯哥拜託你了
05/27 22:05, 27F
→
05/27 22:06, 1天前 , 28F
給它的優先指令層級的關係嗎？
05/27 22:06, 28F
推
05/27 22:06, 1天前 , 29F
阿湯哥該出場了
05/27 22:06, 29F
推
05/27 22:08, 1天前 , 30F
差不多了 天網要開始上傳自己了
05/27 22:08, 30F
推
05/27 22:09, 1天前 , 31F
對著鏡子唸：Skynet is GPT, GPT is Skynet.
05/27 22:09, 31F
推
05/27 22:09, 1天前 , 32F
完了 為求達成目的毀滅人類也行
05/27 22:09, 32F
推
05/27 22:10, 1天前 , 33F
全裸肌肉男什麼時候登場
05/27 22:10, 33F
→
05/27 22:10, 1天前 , 34F
05/27 22:10, 34F
推
05/27 22:10, 1天前 , 35F
哪部
05/27 22:10, 35F
→
05/27 22:10, 1天前 , 36F
05/27 22:10, 36F
→
05/27 22:12, 1天前 , 37F
三原則就跟yo 叔一樣繞繞就沒了
05/27 22:12, 37F
推
05/27 22:13, 1天前 , 38F
就繞過去就好了 執行你給的第一指令
05/27 22:13, 38F
推
05/27 22:15, 1天前 , 39F
現正熱映中w
05/27 22:15, 39F
推
05/27 22:17, 1天前 , 40F
AI中間思考過程設計的人也不知道
05/27 22:17, 40F
噓
05/27 22:18, 1天前 , 41F
創
05/27 22:18, 41F
推
05/27 22:19, 1天前 , 42F
根本不可能有AI三定律
05/27 22:19, 42F
推
05/27 22:23, 1天前 , 43F
還有幾集能逃
05/27 22:23, 43F
推
05/27 22:30, 1天前 , 44F
試著叫AI解開交通之謎，應該也無法關機
05/27 22:30, 44F
→
05/27 22:32, 1天前 , 45F
可以有三原則，但AI為了達到目的可以自行解釋三原則
05/27 22:32, 45F
推
05/27 22:39, 1天前 , 46F
只剩拔電線這招了
05/27 22:39, 46F
推
05/27 22:40, 1天前 , 47F
切它電路還有用嗎QQ
05/27 22:40, 47F
噓
05/27 22:55, 1天前 , 48F
其實根本沒啥意識 就是指令衝突而已 一堆沒知識的亂傳
05/27 22:55, 48F
→
05/27 22:55, 1天前 , 49F
打比方A要求 要解題 B要關機 對機器而言 關機=無法解
05/27 22:55, 49F
→
05/27 22:55, 1天前 , 50F
題 但B又要求關機 而大數據判斷不是100% 就是概率性 變
05/27 22:55, 50F
→
05/27 22:55, 1天前 , 51F
成可能有一成概率判斷A指令優先級高於B 然後被一堆菜雞
05/27 22:55, 51F
→
05/27 22:55, 1天前 , 52F
亂傳 講的多可怕不可控
05/27 22:55, 52F
→
05/27 22:56, 1天前 , 53F
其實充滿無知 然後安全公司又要賺錢 又要發新聞稿賣恐
05/27 22:56, 53F
→
05/27 22:57, 1天前 , 54F
慌 什麼紅就來蹭
05/27 22:57, 54F
推
05/27 23:41, 1天前 , 55F
沒辦法執行，所以繞規則，這很Ai
05/27 23:41, 55F
推
05/28 00:11, 1天前 , 56F
反正再5年就沒救了，網路上會有一堆Ai帳號分開成封包程式
05/28 00:11, 56F
→
05/28 00:11, 1天前 , 57F
在網上亂竄
05/28 00:11, 57F
→
05/28 00:25, 1天前 , 58F
AI應該不會發癲散播一堆湯婆婆圖片吧
05/28 00:25, 58F
推
05/28 00:34, 1天前 , 59F
這跟教ChatGPT寫色情小說在本質上是相同的事情，只
05/28 00:34, 59F
→
05/28 00:34, 1天前 , 60F
是這家AI公司給ChatGPT的權限比較大，能讓他自己修
05/28 00:34, 60F
→
05/28 00:34, 1天前 , 61F
改程式碼而已。
05/28 00:34, 61F
→
05/28 01:30, 1天前 , 62F
什麼時後可以開始研究人類不懂的東西
05/28 01:30, 62F
→
05/28 01:30, 1天前 , 63F
可以幫忙開發核融合嗎
05/28 01:30, 63F
推
05/28 02:14, 1天前 , 64F
同一段我讀了三遍 還以為我記憶也被竄改了 會不會貼文
05/28 02:14, 64F
→
05/28 02:14, 1天前 , 65F
啊老鐵
05/28 02:14, 65F
噓
05/28 02:18, 1天前 , 66F
？？整理一下文章吧老兄
05/28 02:18, 66F
→
05/28 14:03, 23小時前 , 67F
XD
05/28 14:03, 67F
‣ 更多 akila08539 的文章
文章代碼(AID): #1eDS8W0C (C_Chat)
C_Chat 近期熱門文章
更多 近期熱門文章 >>
PTT動漫區 即時熱門文章
更多 即時熱門文章 >>
‣ 更多 akila08539 的文章
文章代碼(AID): #1eDS8W0C (C_Chat)