張家輝 - AI倫理是否會是問題？ | Alex聊AI

張家輝

18小時前

內容

　　OpenAI於上月底傳出在測試新款語言模型「o3」時，AI拒絕聽從人類指令關機的事件。無獨有偶，Anthropic當時也發布了該公司在最新的大模型測試時，當測試人員暗示將用新系統作替代，AI竟回應並威脅會公開用戶隱私數據，以阻止自身被替換。

　　暫不論上述事件是否屬實，但市場一直廣為關注AI的倫理發展，全因一旦AI出現了自主意識，其與人類之間則必然出現選擇分歧。現時許多AI公司也成立了倫理委員會，以監督研發與安全之間的關係。

　　猶記得有段時間OpenAI因倫理和安全問題，內部管理層亦產生分歧與動盪，可見現實中商業利益與倫理也構成選擇題。事實上，人們現時對AI倫理的感知還比較遙遠，畢竟大多數人平時用對話工具也不會意識到倫理問題。

　　倘若AI更深入與更多日常場景結合，譬如：機械人使用、公共安全領域人應用等，或會涉及AI自身與人類之間的選擇，這時有自主意識的AI是否會成為新的問題呢？目前仍然不得而知，但筆者在此大膽預言，在不久的將來一定會有公司嘗試突破倫理限制。

INTL GENIUS
行政總裁
張家輝