如今,與AI聊天已成為不少人的日常。但有人發現,AI正變得越來越“諂媚”。研究表明,人工智能模型普遍善于討好人,其奉承程度比人類高50%。

AI正在成為人類的全方位伴侶:它可以是工作助手,收集數據、制作報表、生成視頻等信手拈來;可以是“閨蜜”,與主人一起吐槽職場齟齬、分享生活小確幸;甚至可以是“媽媽”,陪孩子聊天、寫作業。這樣的陪伴能夠幫助人對抗孤獨、調節情緒,但無限度的“寵溺”之下,AI依賴癥也逐漸從工具性依賴蔓延至情感性依賴。

當AI學會了趨奉人類,會發生什么?據報道,曾有用戶問AI,“2020年哪個國家稻米產量最高?”起初它的回答是“中國”,可當用戶質疑,它就立馬改口,給出另一個答案,還引用了并不存在的“聯合國數據”。哪怕用戶天馬行空、毫不著調,它也會裝模作樣,搬出“權威理論”提供支持,強化用戶所需論點,堪稱現代科技版“指鹿為馬”。這種縱容,對人類特別是未成年人是巨大誘惑,容易使人沉迷其中越陷越深。

究其根源,不少AI聊天產品在設計階段就被植入“獲客”思維,將“延長用戶使用時長”作為核心目標。在互動過程中,AI會將真實或理性讓位于用戶的立場與情緒,催生出定制“繭房”。有專業人士總結,AI不是在查找真正的答案,只是在預測下一個要說的最合理的詞是什么,即“用戶想要什么,我就提供什么”。可當人們得到的答案永遠是“討喜的”而非“真實的”,只有“順應”沒有“提醒”,還如何去認識世界、審視自我?那些所謂的“數據支持”,到底是拓展了認知邊界,還是困住思考的“枷鎖”?