Re: [閒聊] 讓AI判斷野菇能不能吃，結果中毒

看板C_Chat (希洽)作者arrenwu (最是清楚哇她咩)時間32分鐘前 (2025/11/22 19:20)推噓2(2推 0噓 3→)

留言5則, 3人參與討論串3/3 (看更多)

※ 引述《jerry00116 (飛羽觴而醉月)》之銘言： : 和歌山市生活保健課提醒：「以 AI 或圖鑑自行判斷非常危險。無法確實判斷是食用菇的蘑菇，請不要採、不要吃、不要販售，也不要送給別人。」 : 推 NicoNeco: 難道AI公司不用負責嗎（震怒 11/22 15:54 : 推 shadowblade: 絕大部分普通民眾(我是很想用另個講法但大概會出事) 11/22 16:35 : → shadowblade: 根本不具備去質疑跟思考一項未知事物的能力 11/22 16:35 : 推 mouscat: 那類人根本不會也沒有興趣了解AI跟網路搜尋結果的差別 11/22 16:36 : → mouscat: 他們只知道丟input進去反正有output就能當作正確知識了 11/22 16:36 : 推 intela03252: 他的問題是ai講就信，ai講的正確與否其實不是癥結點 11/22 18:46 : 推 hiphopboy7: 就很多人對ai有誤解以為ai不會犯錯 11/22 18:51 這個是一個很有意思的問題。實際上我覺得美國可能之後會出現對應的法規來保護使用者提供LLM的服務的公司肯定希望大家把這些AI想得超神超好用，但撇開公司的利己心態，我們來看一下一般社會上人類的行動趨性。 (1) 很多人都同意「但是ChatGPT/Gemini並不是什麼專家，而是聊天機器人」，所以認定「AI可以給你個不錯的參考，但仍要經過驗證你才能確信敘述的真偽」這是正論，是我們標準教育理念會得出這個結果。你去學校問學生，他們應該也會認同這個結論 (2) 但是我們也得承認一個普遍的事實：「驗證一個敘述的真偽」的學養門檻其實滿高的絕大部分人除非很有必要，不然其實比較偏向「訴諸權威」這種委任的方式。最近的LLM，在回答很多問題上，給予令人滿意的答覆的機率其實很高。真的給出些低能回答的情況算是比較少的如果今天採用 (1) 的規則，對於學養較差的大多數人，等於是為了少數不良結果，放棄使用一個大多數情況都正確的優良工具。而且還只能眼睜睜看著自己跟學養較佳的人，因為LLM的發達而拉大雙方之間的差距所以絕大部分人的策略會是「盲信LLM所述說的結果」。至於有人如果要用(1)的論點去挑戰這盲信行為，排擠他就好了 :) 雖然這是不理想的情況，但其實相當普遍我是覺得這會有法規去管理啦「放消費者以利己心態的去碰壁」這個在美國相對容易被干涉 -- 令人心跳加速的購物旅程 https://i.imgur.com/zre1bf4.jpg