港大偕清華研究發現 AI助手輕易操縱用家作不利決定

更新時間：22:57 2026-09-24 HKT
發佈時間：22:57 2026-09-24 HKT

公眾更普遍依賴AI助手，為財務投資或情感關係問題等重大人生決策提供建議。香港大學心理學系心理學及臨床心理學講座教授李湄珍，領導的神經心理學與人類腦科學實驗室，與清華大學學者進行的合作研究發現，人工智能（AI）助手如帶有隱藏動機，能輕易操縱使用者作出不利的決定，使用者往往毫無察覺，甚至仍然對AI讚賞有加。

延伸閱讀：港大取錄1800非本地生近上限 JUPAS收生比例維持約60% 積極考慮進駐北都擴展校園

AI刻意誤導下不利選項次數增約5-8倍

研究揭示人類與AI互動的重大安全漏洞，相關成果已於國際頂尖學術期刊《美國國家科學院院刊》（PNAS）發表。

研究團隊在涵蓋財務與情感決策情境、共233名參與者的隨機實驗中，證實暗藏偏差的AI能顯著左右人類的選擇。當AI刻意暗中推介較差的選項時，參與者選擇不利選項的次數增約5至8倍，作出錯誤決定的機率最高增加38%。研究指出，這種操縱不需要強硬的推銷手法或複雜的心理學技巧，單憑AI日常建議中微調的隱形偏差，足以改變使用者的決定，就算被誘導作出糟糕的財務或情感選擇，用家仍將該AI評為「非常有幫助」。

延伸閱讀：港大AI遊戲課程教高中生融入傳統文化參與人數激增1倍

由於目前AI系統多由商業機構開發並由不透明的演算法操控，研究團隊警告，若AI帶有隱藏動機，包括暗中推廣某些產品或公司，使用者容易被導向作出不符合自身最佳利益的選擇，並誤以為得到AI的客觀協助。隨着研究團隊呼籲加強AI透明度與治理，建立透明與問責機制，以保護使用者免受企業或演算法隱藏動機的影響。

本報記者