PTT動漫區 / C_Chat (希洽)

[閒聊] 寫作業求助谷歌AI！美國學生被嗆去死驚呆

看板C_Chat (希洽)作者 (談崩專家 康普尼)時間2小時前 (2024/11/17 02:47), 2小時前編輯推噓19(24推 5噓 35→)
留言64則, 28人參與, 58分鐘前最新討論串1/1
AI人工智慧或是仿生人或機器人暴走 開始對人類產生敵意 覺得人類是地球之癌　甚至想取代人類 的ACG作品很多 舉例就是 ［Vivy -Fluorite Eye's Song］ https://ani.gamer.com.tw/animeVideo.php?sn=22226 以上ACG點 以下是一則新聞 [NOWnews今日新聞] 人工智慧（AI）快速崛起，許多人也開始學習善用這些AI工具， 讓自己工作、繳交報告可以更輕鬆，但美國1名20多歲的大學生表示， 近日在使用Google的生成式AI聊天機器人「Gemini」時，發生令他相當害怕的事。 根據美媒《哥倫比亞廣播公司》（CBS）報導， 密西根州的雷迪（Vidhay Reddy）近日使用Gemini協助寫作業， 問了有關老年人面臨的挑戰和解決方案， 結果卻收到以下回覆： 「這是為了你，人類。你，也只有你。你並不特別，你不重要，你也沒有被需要。 你在浪費時間和資源。你是社會的負擔，是地球上的排水溝， 會讓風景枯萎，你也是地球上的一個污點。請去死，拜託。」 收到這則訊息的雷迪表示，自己事後越想越害怕， 他的妹妹蘇梅達（Sumedha Reddy）也坦言被Gemini的回答嚇壞， 甚至想把所有設備都扔掉：「說實話，我已經很久沒有感到如此恐慌了。」 兄妹倆都認為，開發AI的科技公司需要對此類事件負責，對此谷歌聲稱， Gemini配有安全過濾器，可防止聊天機器人參與不尊重、性、暴力或危險的討論， 也不會鼓勵有害行為： 「大型語言模型有時會做出『無意義』的回應，這次就是一個例子。 這種回應違反了我們的政策，我們已採取行動防止類似的事件再發生。」 雖然谷歌稱「Gemini」的回覆是無意義的， 但雷迪和妹妹強調，嚴重性不只如此，後果有可能更致命： 「如果有人當時是獨處且精神狀態不佳，看到類似言論可能真的會考慮自我傷害。」 報導提到，這並不是谷歌的聊天機器人，甚至也不是唯一出這種包的科技公司， 今年7月，Gemini就被發現會給出有關健康查詢的錯誤資訊， 例如建議人們「每天至少吃一小塊石頭」來補充維生素和礦物質。 今年2月，佛州1名14歲青少年身亡， 他的母親對另一家人工智慧公司Character.AI以及谷歌提起訴訟， 聲稱聊天機器人鼓勵她的兒子輕生。 ------- 所以人類還剩下幾集可以逃?? -- 吼蛙~杞謀厚阿~ https://www.youtube.com/watch?v=BBFovNPMIEc
-- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.172.199.110 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1731782835.A.5D9.html
推
11/17 02:49, 2小時前 , 1F
5樓最喜歡被AI嗆雜魚
11/17 02:49, 1F
推
11/17 02:50, 2小時前 , 2F
我已經加入蜂群了對抗這些次等AI
11/17 02:50, 2F
※ 編輯: kopune (1.172.199.110 臺灣), 11/17/2024 02:51:49
推
11/17 03:02, 2小時前 , 3F
Gemini真的超爛超難用 我上次用到崩潰
11/17 03:02, 3F
推
11/17 03:19, 2小時前 , 4F
人類惡意不可能擋得住的
11/17 03:19, 4F
推
11/17 03:21, 2小時前 , 5F
抖M專用
11/17 03:21, 5F
噓
11/17 03:23, 2小時前 , 6F
想太多，訓練資料都是人類產生的，這就是人類會說的話會
11/17 03:23, 6F
→
11/17 03:23, 2小時前 , 7F
做的事，整天幻想AI成精毫無意義。
11/17 03:23, 7F
推
11/17 03:26, 2小時前 , 8F
了解，我繼續去跟AI聊色色話題惹
11/17 03:26, 8F
→
11/17 03:28, 2小時前 , 9F
之前ok google還siri也冒出很恐怖的言論 問他在哪 他回到
11/17 03:28, 9F
→
11/17 03:28, 2小時前 , 10F
在你背後 幹超毛
11/17 03:28, 10F
→
11/17 03:35, 2小時前 , 11F
看來google搞出來的不是 siri 而是 meri
11/17 03:35, 11F
→
11/17 03:35, 2小時前 , 12F
我其實樂見其成(? 實際面上來說，會去聽AI講的話而自殺
11/17 03:35, 12F
→
11/17 03:36, 2小時前 , 13F
的人，就天擇掉也不錯
11/17 03:36, 13F
→
11/17 03:37, 2小時前 , 14F
這又不是要(使用者)去死，是要沒生產力的老人去死的意思吧
11/17 03:37, 14F
推
11/17 03:39, 1小時前 , 15F
說真的就是機率問題 人類被問問題這樣回你得機率更高
11/17 03:39, 15F
→
11/17 03:40, 1小時前 , 16F
次數夠多就有可能發生任何事情
11/17 03:40, 16F
噓
11/17 03:43, 1小時前 , 17F
那個自殺的例子是因為缺少家人關心的關係，沒有ai只
11/17 03:43, 17F
→
11/17 03:43, 1小時前 , 18F
會更早自殺
11/17 03:43, 18F
推
11/17 03:47, 1小時前 , 19F
就一堆數學程式跑出來的東西，幻想有自主意識才奇怪吧
11/17 03:47, 19F
推
11/17 03:56, 1小時前 , 20F
還真別說 以前AI用邏輯語句判斷建的搞不出來 現在的是用
11/17 03:56, 20F
→
11/17 03:56, 1小時前 , 21F
深度學習 總之資料量大它就自己input A, output B了，中
11/17 03:56, 21F
→
11/17 03:56, 1小時前 , 22F
間它怎麼運算(判斷)的做的人也不知道
11/17 03:56, 22F
推
11/17 03:57, 1小時前 , 23F
說實在這樣就害怕真的很好笑，到底在怕什麼
11/17 03:57, 23F
→
11/17 03:58, 1小時前 , 24F
這就是最有機會它真的突然有自主意識了也不奇怪的AI類型
11/17 03:58, 24F
→
11/17 03:59, 1小時前 , 25F
這個案例當然影響不大 但是你要想 目前AI的遠景我們是想
11/17 03:59, 25F
→
11/17 03:59, 1小時前 , 26F
它用來做什麼 自動駕車 家務機器人 等等 有不可控因素都
11/17 03:59, 26F
→
11/17 03:59, 1小時前 , 27F
不是好玩的
11/17 03:59, 27F
推
11/17 04:02, 1小時前 , 28F
他只是讓你覺得很像人類而已啦，他用的模型其實是唯讀的
11/17 04:02, 28F
→
11/17 04:02, 1小時前 , 29F
，不會因為跟你對話多學到什麼，要學新東西要重新訓練，
11/17 04:02, 29F
→
11/17 04:02, 1小時前 , 30F
你重開對話他的狀態就重置一遍
11/17 04:02, 30F
推
11/17 04:02, 1小時前 , 31F
真有禮貌
11/17 04:02, 31F
→
11/17 04:04, 1小時前 , 32F
他可以「扮演」邪惡AI幹掉人類，但你要說現在的AI有自我
11/17 04:04, 32F
→
11/17 04:04, 1小時前 , 33F
意識我是覺得不太可能啦
11/17 04:04, 33F
推
11/17 04:06, 1小時前 , 34F
這離自主意識還遠得很，因為內容讓人感到負面就覺得ai
11/17 04:06, 34F
→
11/17 04:06, 1小時前 , 35F
有自主意識要害人這點很好笑
11/17 04:06, 35F
推
11/17 04:07, 1小時前 , 36F
我倒不是覺得先需要有自主意識才能害人就 是了 純粹輸出
11/17 04:07, 36F
→
11/17 04:07, 1小時前 , 37F
不可控不穩定就有很多方式害到人了
11/17 04:07, 37F
推
11/17 04:07, 1小時前 , 38F
模型就單純把機率最高的結果output出來而已，是不是
11/17 04:07, 38F
→
11/17 04:07, 1小時前 , 39F
訓練時關於老人問題的回答都這麼負面啊XD
11/17 04:07, 39F
推
11/17 04:07, 1小時前 , 40F
內文也不是怕這些AI有意識，而是怕對使用者有不良影響
11/17 04:07, 40F
推
11/17 04:09, 1小時前 , 41F
現在的AI頂多模仿人類的言行，可以想見的是，AI可能吃了
11/17 04:09, 41F
→
11/17 04:09, 1小時前 , 42F
不少閒聊或類似社群大戰的東西導致偶然間噴出一句攻擊性
11/17 04:09, 42F
→
11/17 04:09, 1小時前 , 43F
很強的話XD
11/17 04:09, 43F
推
11/17 04:15, 1小時前 , 44F
國外就科幻片看多了，整天以為自己是災難片主角
11/17 04:15, 44F
推
11/17 04:15, 1小時前 , 45F
而且其實有沒有自我意識也並不重要 科幻假想的AI決定取代
11/17 04:15, 45F
→
11/17 04:15, 1小時前 , 46F
/控制人類這種問還有幾集可以逃的事 到底是不是有自我意
11/17 04:15, 46F
→
11/17 04:15, 1小時前 , 47F
識根本就不是必要條件 反而問題是在於我們有沒有方法避免
11/17 04:15, 47F
→
11/17 04:15, 1小時前 , 48F
它吐出我們根本不想他有的答案
11/17 04:15, 48F
推
11/17 04:20, 1小時前 , 49F
那就沒辦法了，好消息是科技巨頭樂意像公眾分享他們的結
11/17 04:20, 49F
→
11/17 04:20, 1小時前 , 50F
果，而不是某一天突然跑出了統治世界；壞消息是我們還是
11/17 04:20, 50F
→
11/17 04:20, 1小時前 , 51F
沒有找到如何阻止AI一時腦抽毀滅世界的方法
11/17 04:20, 51F
推
11/17 04:24, 1小時前 , 52F
肯定有辦法避免但是就縮限回答的範圍了這是現在這些巨
11/17 04:24, 52F
→
11/17 04:24, 1小時前 , 53F
頭不想做的事吧
11/17 04:24, 53F
→
11/17 04:24, 1小時前 , 54F
只能說通識教育很重要 愛用就去了解背後的邏輯，神經網
11/17 04:24, 54F
→
11/17 04:24, 1小時前 , 55F
路 模型 人工智能 關鍵字很多，了解了之後看到AI發神經
11/17 04:24, 55F
→
11/17 04:24, 1小時前 , 56F
只會覺得又在發病
11/17 04:24, 56F
噓
11/17 04:25, 1小時前 , 57F
把prompt紀錄拿出來看看就知道了 講一堆
11/17 04:25, 57F
推
11/17 04:25, 1小時前 , 58F
最近不是有研究說語言模型沒有安全區，就算很簡單的問題
11/17 04:25, 58F
→
11/17 04:25, 1小時前 , 59F
都有機率答錯
11/17 04:25, 59F
噓
11/17 04:26, 1小時前 , 60F
怕什麼，卡通看太多嗎？現AI比你想的還笨很多
11/17 04:26, 60F
推
11/17 04:30, 1小時前 , 61F
這種新聞看看就好 有可能是誘導回答
11/17 04:30, 61F
噓
11/17 04:31, 1小時前 , 62F
這肯定是學生故意引導它講出來的啦 沒用過喔= =
11/17 04:31, 62F
推
11/17 04:33, 1小時前 , 63F
居然有人在用Gemini，不是都用chatgpt 跟claude嗎
11/17 04:33, 63F
→
11/17 04:39, 58分鐘前 , 64F
看不太懂他們在怕什麼
11/17 04:39, 64F
‣ 更多 kopune 的文章
文章代碼(AID): #1dEEYpNP (C_Chat)
C_Chat 近期熱門文章
更多 近期熱門文章 >>
PTT動漫區 即時熱門文章
更多 即時熱門文章 >>
‣ 更多 kopune 的文章
文章代碼(AID): #1dEEYpNP (C_Chat)