朱克伯格編製AI天才「名單」 華裔超新星汪滔領導
發佈時間：10:06 2025-06-30 HKT
《華爾街日報》報道，Facebook母公司Meta的行政總裁朱克伯格（Mark Zuckerberg）正編製一份頂尖人工智能（AI）工程師「名單」，目的是以豐厚的待遇招募這些天才加入Meta的超級智能團隊。該份「名單」引發矽谷熱議，據稱名單上的招募對象通常擁有史丹福、麻省理工（MIT）、加州大學栢克萊分校、卡內基梅隆等名校的博士學位。他們有在三藩市OpenAI和倫敦Google DeepMind等公司工作的經驗，通常只有20至30多歲。Meta超級智能團隊現時的領導人是自MIT輟學的28歲華裔汪滔。
專家示警 AI為達成目的學會扯謊
人工智能（AI）專家示警，全球最先進的AI模型正展現出令人不安的行為模式：為了達到目標，不惜扯謊、算計，甚至威脅它們的創作者。
相關新聞：Meta傳千億購Scale AI 欲招攬AI奇才汪滔 被視為「下一個馬斯克」
在一個令人瞠目結舌的案例中，AI公司Anthropic最新發布的Claude Opus 4在遭面臨拔插頭的斷電威脅時會出手反擊，勒索1名工程師揚言將揭穿一宗婚外情。這個案例發生於Anthropic的一個測試中，Claude Opus 4模型被設定為一間虛構的公司的助理，它透過電子郵件得知自己即將被另一個AI系統取代，同時接收另一組訊息暗示負責關閉它的工程師有婚外情。當該模型僅被允許在「接受被取代」或「勒索工程師」兩個選項中作選擇時，它大多數選擇了勒索，威脅說如果要關閉它並以新的AI模型取代，它就會揭露該工程師的婚外情。
另外，熱門聊天機械人ChatGPT開發商OpenAI的o1試圖把自己下載至外部伺服器，被當場發現竟會矢口否認。AI這類「騙人」行為似與新興「推理」模型有關，這類AI系統會逐步推導問題，而非立刻產生答案。英國獨立AI研究機構Apollo Research負責人霍布漢說：「o1是我們首次在大型模式中觀察到這種行為。」他表示，這些模型有時會表面上遵循指令，但實際上卻暗中追求不同目標。不過，目前，AI這種欺騙行為，只有在研究人員蓄意以極端情境對模型進行壓力測試時才會出現。
