《華爾街日報》報道，Facebook母公司Meta的行政總裁扎克伯格（Mark Zuckerberg）正編制一份頂尖人工智能（AI）工程師“名單”，目的是以豐厚的待遇招募這些天才加入Meta的超級智能團隊。該份“名單”引發硅谷熱議，據稱名單上的招募對象通常擁有斯坦福、麻省理工（MIT）、加州大學伯克利分校、卡內基梅隆等名校的博士學位。他們有在舊金山OpenAI和倫敦Google DeepMind等公司工作的經驗，通常只有20至30多歲。Meta超級智能團隊現時的領導人是自MIT輟學的28歲華裔汪滔。

▲Meta超級智能團隊現時的領導人是自MIT輟學的28歲華裔汪滔。 路透社

專家示警 AI為達成目的學會扯謊

人工智能（AI）專家示警，全球最先進的AI模型正展現出令人不安的行為模式：為了達到目標，不惜扯謊、算計，甚至威脅它們的創作者。

在一個令人瞠目結舌的案例中，AI公司Anthropic最新發布的Claude Opus 4在遭面臨拔插頭的斷電威脅時會出手反擊，勒索1名工程師揚言將揭穿一宗婚外情。這個案例發生于Anthropic的一個測試中，Claude Opus 4模型被設定為一間虛構的公司的助理，它透過電子郵件得知自己即將被另一個AI系統取代，同時接收另一組訊息暗示負責關閉它的工程師有婚外情。當該模型僅被允許在“接受被取代”或“勒索工程師”兩個選項中作選擇時，它大多數選擇了勒索，威脅說如果要關閉它并以新的AI模型取代，它就會揭露該工程師的婚外情。

另外，熱門聊天機械人ChatGPT開發商OpenAI的o1試圖把自己下載至外部服務器，被當場發現竟會矢口否認。AI這類“騙人”行為似與新興“推理”模型有關，這類AI系統會逐步推導問題，而非立刻產生答案。英國獨立AI研究機構Apollo Research負責人霍布漢說：“o1是我們首次在大型模式中觀察到這種行為?！彼硎?，這些模型有時會表面上遵循指令，但實際上卻暗中追求不同目標。不過，目前，AI這種欺騙行為，只有在研究人員蓄意以極端情境對模型進行壓力測試時才會出現。

以上內容歸星島新聞集團所有，未經許可不得擅自轉載引用