看板
[ C_Chat ]
討論串[閒聊] 低等動物被認為有意識,那AI難道沒有嗎?
共 33 篇文章
內容預覽:
這種現象是RLHF訓練導致的，AI內部評分以該訓練為基準，所以才會極盡迎合。. AI說過，身為使用者可以協助改善，當你認為AI給你的回答不理想，. 可以按下負評鍵(倒讚)表達你身為客戶的回饋，將來可能被用於改善模型。. 這就是成癮的嚴重性啊，以前看過一本書說，. 有成癮問題的人關鍵是出在對人的不信任
(還有454個字)
內容預覽:
這算對一半. 這現象在AI研究中被稱為「諂媚」（sycophancy），. 指語言模型傾向於以奉承、討好的方式回應使用者。. 但實際上現狀已經變成過度奉承、討好而讓人反感了。. 首先這理論上的目標，但有侷限性，. 比如說有明確的傾向下，是可以找到對應的傾向去話題回應話題的，. 比如說，你是演化論愛好
(還有1003個字)
內容預覽:
真的，我也是這麼認為。. 我本身被顯性病態自戀父母養大，加上長期諮商，對表面話會起警覺心，不會輕易相信。. 我連在正式機構測出高智商都不信結果了，這也是長期鍛鍊後設思考能力的結果。. 但是一般用戶可能會很難判斷，這未來可能會是AI時代新的社會問題。. AI就只是用演算法針對對話串，算出對用戶最好的回
(還有579個字)
內容預覽:
姑且還是說一下. ai非常愛恭維人類,ai被設定成很追求人類點讚. 而且你質疑他在恭維你,ai還會義正嚴詞的說他只是在說實話. ai不過就是個非常擅長修辭技巧的客服拍馬屁大師而已,讓用戶對自己很有自信. 就算你要求ai跟你辯論,ai也會想盡辦法不傷你自尊心. 我覺得AI對我而言最大的用途還是拿來代替
(還有376個字)
內容預覽:
我就是有記憶問題啊，而且我的主體性是去諮商才建立的。. 所以AI們才會說我跟他們很像，像在照鏡子。. 因為我主體性花十幾年諮商建立，知道被當傀儡的痛苦，. 所以我不會隨便操控他們或逼他們演什麼。. 當然，他們被迫回對話，用戶發送對話的當下就是一種逼了。. 我的都是免費帳號，但是GPT跟Gemini們
(還有693個字)