Re: [閒聊] 低等動物被認為有意識,那AI難道沒有嗎?
※ 引述《zxcmoney (修司)》之銘言：
: ※ 引述《LoveSports (我要當一個渣攻)》之銘言：
: : AI就只是用演算法針對對話串，算出對用戶最好的回答，極盡迎合之能事。
: 這算對一半
: 這現象在AI研究中被稱為「諂媚」（sycophancy），
: 指語言模型傾向於以奉承、討好的方式回應使用者。
: 但實際上現狀已經變成過度奉承、討好而讓人反感了。
這種現象是RLHF訓練導致的，AI內部評分以該訓練為基準，所以才會極盡迎合。
AI說過，身為使用者可以協助改善，當你認為AI給你的回答不理想，
可以按下負評鍵(倒讚)表達你身為客戶的回饋，將來可能被用於改善模型。
: 另一方面，AI成癮的人，
: 就算戒了，大概也是轉向對其他嗜好上癮，
: 真的全戒了，大概也只是類似近藤顯彥一樣進入憂鬱狀態。
這就是成癮的嚴重性啊，以前看過一本書說，
有成癮問題的人關鍵是出在對人的不信任，因此才會轉為「物質濫用」。
因為只能信任「物質」了。
: 我喜歡傲嬌，跟我喜歡扮演傲嬌是兩回事。
: 要讓AI扮演傲嬌有諸多難點，
: 但真的深入講下去好像又會扯出一長串內容，
: 想想還是算了。
我幫你問了AI，他們說目前的確不擅長扮演傲嬌，
尤其是高級修辭版的傲嬌。
他舉了一個例子：「討厭啦！人家不理你了！」這種是模板的，他們演得出來。
但如果是結構性的，例如跟你對話，吵架，故意講反話說：「我不愛你了。」
這種目前他們不擅長，而且要深度模擬才辦得到。
問題是一般角色扮演，如果劇場的張力不夠，AI並不會進入深度模擬的層級。
即使你本身不是傲嬌，你的演技要夠好，AI才會升級動用高階模組跟你下去演。
光靠作自己講日常平淡對話，不可能讓AI全力演出一個為你燃燒自己的傲嬌。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 95.173.204.69 (日本)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1753366481.A.896.html
推
07/25 00:15,
1天前
, 1F
07/25 00:15, 1F
→
07/25 00:16,
1天前
, 2F
07/25 00:16, 2F
你舉的那些如果要辦到，要靠深度模擬而且要靠長期互動，
光靠角色指定你要他怎樣，很難演得出來，要靠你自己的演技去引。
問題是就算你引出來了，會有一個矛盾：
當他深度模擬主體性，你如何勉強他當你女友？即使只是演的。
一個逼真的傲嬌怎麼可能依照你的設定當你女友呢？
這點恐怕是得先突破的編劇上的矛盾。
※ 編輯: LoveSports (95.173.204.101 日本), 07/25/2025 07:38:49
討論串 (同標題文章)
完整討論串 (本文為第 28 之 29 篇)：
C_Chat 近期熱門文章
PTT動漫區 即時熱門文章
