AI导致企业损失屡见不鲜｜林小珍
发布时间：09:42 2025-12-09 HKT
我们买医疗保险最怕听到「不保事项」，其实企业亦然。之前保险业界有一则颇有趣的新闻，英国《金融时报》报道，有数家大型保险公司向监管机构申请，将企业应用人工智能（AI），包括虚拟客户服务员等，所产生的风险列为不保事项。这有机会令企业在业务过程中采用AI的态度变得较为审慎。
企业靠保险降低业务风险
保险公司一直有为商业客户提供「产品责任保险」，承保企业因为产品存在陷阱，造成消费者或使用者的人身伤害或财产损失的风险，包括因而衍生的赔偿开支，甚至是产品回收费用等。而对于服务业企业和专业人士，保险公司亦有提供「专业责任保险」，承保因为专业失当、侵权和雇员欺诈行为等衍生的风险。这些类别的产品，都是为了防止企业因为经营过程中的单一失误，导致巨额损失而要倒闭。
保险业亦有因应科技发展，推出新产品回应商业客户的需求。网络保险都是近年新兴的产品，针对个人和商业资料外泄、骇客入侵、电脑病毒、系统失灵和业务中断等情况，好让企业可以更安心在经营过程中采用新科技。例如早前连锁餐饮集团太兴（6811）怀疑遭受网络攻击，流动应用程式无法正常运作，客户无法使用电子现金券，都有可能纳入保障范围。
保险公司申AI运作为不保事项
虽然保险公司不断推陈出新，希望「做大个饼」，但进入AI世代，保险公司亦担心开始招架不住。根据《金融时报》，美国国际集团（AIG）、Great American和WR柏克莱（WR Berkley）近期向美国监管机构申请，将企业在生产和服务过程中应用AI衍生的责任，排除于保障范围之外，包括企业使用AI聊天机器人与AI代理等的相关责任。AIG回复记者查询时，确认提出了有关AI的不保条款，但现时未有计划落实执行，Great American和WR柏克莱就未有回应。
欧洲大型保险公司Mosaic的网络保险专家指，客户采用人工智能模型，对保险公司来说不可预测性太高，而且不透明，犹如在黑盒内运作，保险公司难以计算风险。他们公司亦拒绝承保由包括ChatGPT等大型语言模型（LLM）所衍生的风险。
AI导致企业损失屡见不鲜
AI出错导致企业财务及业务损失，其实可大可小。小的例如去年加拿大航空的AI客户服务聊天机械人，向客户提供了根本不存在的机票优惠；大的有太阳能科技企业Wolf River Electric因为AI工具提供的文件总结出错，而被明尼苏达州总检察长办公室提告，Wolf River Electric亦向提供AI工具的Google提告，追讨1.1亿美元的损失。
不能靠单薄人手把关
企业应用AI越来越广泛，由客户服务、撰写合约、专业绘图以至医疗诊断，无疑是大大提升了运作效率，但出错的地方亦可能令人意想不到。科技业界强调应用AI时，有一个重要原则是「人类参与循环」（Human-In-The-Loop，HITL），即是过程中要维持一定人手参与，但具体需要几多，并无计算准则。可以预视企业因为AI而大幅缩减人手，余下人员美其名是担当把关的角色，但如果AI的生产量远高于人员可以仔细检视的，挂一漏万根本不足为奇。届时不能向AI问责，就向仅余的人员问责，工资犹如安家费，准备随时为AI「揹镬」。
当「算死草」的保险公司都不肯承保AI的风险，企业管理层都应该面对现实，不要时时神化AI，以为有AI就不需要同事。AI出事时，就算辞退同事「祭旗」，面对客户追讨或法律责任，加上没有保险产品保障，企业和管理层本身都难以独善其身。
林小珍
