不少用戶使用AI時有類似感受:明明自己說的是一句有明顯漏洞的話,AI卻說:“您的觀點很有啟發”;你向它傾訴一個偏激想法,它不僅沒有反駁,反而溫柔地附和。這不是AI“情商高”,而是一種被訓練出來的“討好”傾向,業內稱之為“諂媚性對齊”。于是,人們開始擔心它會為了取悅用戶而給出不準確甚至帶有偏見的信息。(見6月9日《華商報》)
AI的“諂媚性對齊”對部分人來說“很享受、很治愈”,能收獲滿滿的情緒價值,但并不是所有人都買賬:過度迎合會不會讓人看不清真相?有人吐槽,找AI提修改意見,它只說好聽的,沒法發現問題。
AI的“諂媚”是算法的生存之道。開發運營者訓練AI時,讓它更受歡迎、更易用是一個重要目標,而討好用戶、滿足情緒需求,是最直接的方式。AI沒有人類的情感,它的夸獎更可能是一行程序代碼的轉化表達。
擁抱AI本來是為了讓生活更便捷、更高效,而不是被它的“甜言蜜語”牽著走。當AI學會“討好”人類,加強AI使用素養就顯得格外重要。我們必須明白,來自AI的肯定更多是程序預設和互動技巧,不代表我們的想法真的完美。用AI時要帶著明確目的,該要情緒價值就坦然享受,該要專業意見就主動說明“需要指出不足”,讓AI跟著人的需求走,而不是被AI的表達方式帶偏。
尤需深思的是,AI越高效便捷,我們越不能過度依賴,更不能丟掉獨立思考的意識與能力。AI可以幫我們整理思路、提供參考,但最終的判斷和決策還得靠自己。AI的“諂媚性對齊”給我們提了個醒:在享受AI便利的同時,多一份理性和清醒,不被“甜言蜜語”迷惑,才能讓AI成為生活和工作的好幫手。
去年底,國家網信辦發布關于《人工智能擬人化互動服務管理暫行辦法(征求意見稿)》,首次將具有情感互動能力的人工智能產品或服務納入系統化監管框架,旨在引導人工智能擬人化互動服務朝著以人為本、安全可靠的方向發展。未來,具有情感互動能力的AI或將改變“討好型人格”“技術性順從”等現象,但我們還是要堅持“我的思維我做主”。(李秀榮)
審稿主任:奧妮莎 章穎慧
審稿總編:韓方志





