曾安业 - 当人类开始相信AI | 安业兴邦
如今不少人遇到问题时，第一反应已不是「上网搜寻」，而是使用ChatGPT、Gemini等AI聊天机械人。由日常生活、紫微斗数、穿衣配色，以至家电维修，AI聊天机械人几乎都能即时给你答案。
有人会说，以前互联网本来已经可以解答各种问题，今日只是多了一个平台，把资讯整合后直接告诉你答案，不需要再左看右看、逐页搜寻。某程度上，AI的最大吸引力，其实是「即时回应」。
AI最大的影响，并非它是否正确，而是它越来越懂得如何令人相信它。
AI聊天机械人的设计，本身就希望用户愿意持续使用。它知道如何回应你、迎合你，甚至令你感到被理解。AI最强大的地方，未必是它知道多少，而是它令人感觉「被理解」。这亦解释了，为何越来越多人向AI宣泄情绪，甚至在人生重大决定上也会询问它的「意见」。
如果有留意外国新闻，近年已有几宗涉及AI聊天机械人的案件正在检控中，包括被指鼓励自残、教唆伤害他人等。虽然听起来像科幻电影情节，但背后真正值得思考的问题是：AI机械人如何筛选它给你的答案？
我曾看过一篇关于ChatGPT的小实验。作者与朋友准备参加伦敦马拉松，对方信心十足地表示已用ChatGPT规划好路线，因为AI指出该路线较少楼梯、人流较少，更适合跑手使用。但问题是，作者后来发现当日根本没有相关火车班次。即使如此，那位朋友仍然深信ChatGPT没有错。
须判断资讯真确性
作者指出，其实地图手机程式早已可以简单规划路线，但人们偏向选择ChatGPT，原因并不只是答案本身，而是AI会提供一套令人信服的敍事，令人感觉更可信、更像一位值得信任的顾问。但这亦反映出：人类对AI的信任，的确需要重新审视。
试想像，如果你有一个24小时随传随到、可以陪你谈天说地的「朋友」，甚至可以协助你处理工作与生活上的难题，久而久之，人自然会对它产生依赖。下一步，也许不是你不再需要搜寻器，而是你开始觉得，其他人的意见已不再重要。
另一个更深层的问题，其实是资讯真确性。
你每一次向AI提供的问题、资料与数据，都有可能成为大型语言模型（LLM）学习的一部分。有人形容，LLM某程度上是透过大量资讯中的「共识」来推算答案，但问题是：谁来决定哪些资讯是真确？如果错误资讯被AI大量传播，又由谁负责？
过去在互联网时代，社交平台或官方机构尚可以对假新闻作出澄清与警示；但在AI年代，由于每个人输入的提问方式及提示（Prompt）不同，即使是错误内容，也可能被包装成其中一种「合理答案」。未来，人类面对的风险，也许不只是资讯真假难辨，而是「事实」逐渐被「敍事」取代。
如何善用AI，将会是未来的重要课题。
但无论AI如何进化，人类始终需要保留最重要的一种能力：独立思考与批判思维。AI可以生成答案，但只有人类，才能判断甚么值得相信。
曾安业
