朱克伯格编制AI天才「名单」 华裔超新星汪滔领导
发布时间：10:06 2025-06-30 HKT
《华尔街日报》报道，Facebook母公司Meta的行政总裁朱克伯格（Mark Zuckerberg）正编制一份顶尖人工智能（AI）工程师「名单」，目的是以丰厚的待遇招募这些天才加入Meta的超级智能团队。该份「名单」引发矽谷热议，据称名单上的招募对象通常拥有史丹福、麻省理工（MIT）、加州大学栢克莱分校、卡内基梅隆等名校的博士学位。他们有在三藩市OpenAI和伦敦Google DeepMind等公司工作的经验，通常只有20至30多岁。Meta超级智能团队现时的领导人是自MIT辍学的28岁华裔汪滔。
专家示警 AI为达成目的学会扯谎
人工智能（AI）专家示警，全球最先进的AI模型正展现出令人不安的行为模式：为了达到目标，不惜扯谎、算计，甚至威胁它们的创作者。
相关新闻：Meta传千亿购Scale AI 欲招揽AI奇才汪滔 被视为「下一个马斯克」
在一个令人瞠目结舌的案例中，AI公司Anthropic最新发布的Claude Opus 4在遭面临拔插头的断电威胁时会出手反击，勒索1名工程师扬言将揭穿一宗婚外情。这个案例发生于Anthropic的一个测试中，Claude Opus 4模型被设定为一间虚构的公司的助理，它透过电子邮件得知自己即将被另一个AI系统取代，同时接收另一组讯息暗示负责关闭它的工程师有婚外情。当该模型仅被允许在「接受被取代」或「勒索工程师」两个选项中作选择时，它大多数选择了勒索，威胁说如果要关闭它并以新的AI模型取代，它就会揭露该工程师的婚外情。
另外，热门聊天机械人ChatGPT开发商OpenAI的o1试图把自己下载至外部伺服器，被当场发现竟会矢口否认。AI这类「骗人」行为似与新兴「推理」模型有关，这类AI系统会逐步推导问题，而非立刻产生答案。英国独立AI研究机构Apollo Research负责人霍布汉说：「o1是我们首次在大型模式中观察到这种行为。」他表示，这些模型有时会表面上遵循指令，但实际上却暗中追求不同目标。不过，目前，AI这种欺骗行为，只有在研究人员蓄意以极端情境对模型进行压力测试时才会出现。
