Re: [討論] 當AI說出哪些話就代表人類危險了?

看板C_Chat (希洽)作者kirimaru73 (霧丸)時間2小時前 (2025/12/06 12:17)推噓3(3推 0噓 11→)

留言14則, 8人參與討論串2/3 (看更多)

原本如果用正經的方式回答這個問題，大致會是以下的說法：現在的AI只是語言模型不是AGI、他的模型固定且由人類控制、不存在自行進化的可能性、不要跟他拼口水嘗試拔他電路......等等但是如果討論「AI說出某種話」導致「人類危險了」這個話題來看，那人類確實已經有一種正在產生的危險，就是AI胡說八道的高超技巧如果AI胡說八道的能力遠超過了人類能做到的程度，甚至連要認真辨識真偽都有困難，那就確實會造成危險某些受到影響的領域，已經開始呼籲研究者提出抵抗的方法他們並非單純地保守且想抵制AI，而是真的已經受到傷害：「這個領域中的文章已經有大多數都由AI產生，並且學習的人都在看那些內容」 AI高超的寫作能力搭配人類的惰性，對學術界難免會產生污染如果被污染的內容成為多數，那結果的嚴重性是可想而知的學生學習時搜尋資料也更有可能搜尋到AI的文章，並將其當成正確的知識一些研究也有發現，AI會對其他AI的文章產生較高偏好(最偏好的就是他自己) 在AI已經成為主流搜尋引擎的現在，這種不良影響很容易就會快速傳染況且人類不只有惰性，還有惡意部分「AI風向操控師」就會利用這點，研究如何產生符合主流AI偏好的文章如果能讓搜尋引擎(AI模式)容易搜尋到某類文章，裡面的內容就容易被當成真實的比起傳統的造謠等方式，這樣能讓世人更容易相信某個歪曲的理論是正確的現在雖然還沒到達所未全面崩壞的程度，但危險性已經產生偶爾會出現一些搞笑的例子，例如前陣子中國鋼鐵廠的官方文章裡面出現了Minecraft「鐵傀儡」的技術，這當然只會被當成一個笑話但如果笑話沒辦法被看出來是笑話，那人類就真的會身受其害 AI非常擅長胡說八道的原因有不少，一種簡單的說法就是人類逼的他原本是個寫作家、創作家（生成世人工智慧）但人類希望他能用來回答問題，幫助人類於是給予他「給我回答問題」、「不要答錯」、「叫你不要答錯不是不回答，快給我回答」等等困難的要求最後得到的結果就是現在的樣子，大致上比一般人類博學，但是毛病也不少： https://i.meee.com.tw/QjBcWNi.jpg

這有點像是所謂「你以為板上有那麼多人嗎，我開個分身過來」的笑話但是更全面、更不容易看出來、也更不好笑如今面對AI的胡說八道，雖然許多人懶得求證，但仔細求證還是能抓出來如果未來連求證都變成一件困難的事情，那就真的是人類文化的危機了 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 123.240.202.46 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1764994651.A.172.html