曾安業 - 當人類開始相信AI | 安業興邦
如今不少人遇到問題時，第一反應已不是「上網搜尋」，而是使用ChatGPT、Gemini等AI聊天機械人。由日常生活、紫微斗數、穿衣配色，以至家電維修，AI聊天機械人幾乎都能即時給你答案。
有人會說，以前互聯網本來已經可以解答各種問題，今日只是多了一個平台，把資訊整合後直接告訴你答案，不需要再左看右看、逐頁搜尋。某程度上，AI的最大吸引力，其實是「即時回應」。
AI最大的影響，並非它是否正確，而是它越來越懂得如何令人相信它。
AI聊天機械人的設計，本身就希望用戶願意持續使用。它知道如何回應你、迎合你，甚至令你感到被理解。AI最強大的地方，未必是它知道多少，而是它令人感覺「被理解」。這亦解釋了，為何越來越多人向AI宣洩情緒，甚至在人生重大決定上也會詢問它的「意見」。
如果有留意外國新聞，近年已有幾宗涉及AI聊天機械人的案件正在檢控中，包括被指鼓勵自殘、教唆傷害他人等。雖然聽起來像科幻電影情節，但背後真正值得思考的問題是：AI機械人如何篩選它給你的答案？
我曾看過一篇關於ChatGPT的小實驗。作者與朋友準備參加倫敦馬拉松，對方信心十足地表示已用ChatGPT規劃好路線，因為AI指出該路線較少樓梯、人流較少，更適合跑手使用。但問題是，作者後來發現當日根本沒有相關火車班次。即使如此，那位朋友仍然深信ChatGPT沒有錯。
須判斷資訊真確性
作者指出，其實地圖手機程式早已可以簡單規劃路線，但人們偏向選擇ChatGPT，原因並不只是答案本身，而是AI會提供一套令人信服的敍事，令人感覺更可信、更像一位值得信任的顧問。但這亦反映出：人類對AI的信任，的確需要重新審視。
試想像，如果你有一個24小時隨傳隨到、可以陪你談天說地的「朋友」，甚至可以協助你處理工作與生活上的難題，久而久之，人自然會對它產生依賴。下一步，也許不是你不再需要搜尋器，而是你開始覺得，其他人的意見已不再重要。
另一個更深層的問題，其實是資訊真確性。
你每一次向AI提供的問題、資料與數據，都有可能成為大型語言模型（LLM）學習的一部分。有人形容，LLM某程度上是透過大量資訊中的「共識」來推算答案，但問題是：誰來決定哪些資訊是真確？如果錯誤資訊被AI大量傳播，又由誰負責？
過去在互聯網時代，社交平台或官方機構尚可以對假新聞作出澄清與警示；但在AI年代，由於每個人輸入的提問方式及提示（Prompt）不同，即使是錯誤內容，也可能被包裝成其中一種「合理答案」。未來，人類面對的風險，也許不只是資訊真假難辨，而是「事實」逐漸被「敍事」取代。
如何善用AI，將會是未來的重要課題。
但無論AI如何進化，人類始終需要保留最重要的一種能力：獨立思考與批判思維。AI可以生成答案，但只有人類，才能判斷甚麼值得相信。
曾安業
