在美國柏克萊最高的辦公大樓內,一群人工智能研究員在名為 Constellation 的共享工作空間聚集,一直動員,試圖令世界免於末日浩劫。據報部分 Anthropic 資深人員購入偏遠土地,以防 AI 發展失控。
社群成員享用供應到會的素食餐,並把筆記簿型電腦帶到可俯瞰三藩市灣的沙發上使用。他們每月在晚餐及酒會上討論最新、最令人恐懼的 AI 風險。據接近 Constellation 的人士稱,在 Anthropic 工作的人亦在該處擁有自己的辦公空間。
Anthropic 研究員 Jacob Coxon 本月辭職,令美國公眾驚覺一個震撼說法:失控的 AI 發展可能終結人類。不過在 Constellation,已有 AI 安全社群的中堅分子為此鑽研超過十年;他們在三藩市灣區的合租房屋內琢磨論點,並在柏克萊及巴哈馬舉行的自由研討會上交換預測。
他們曾提出購買偏遠島嶼、囤積碘片,或遷往沙漠中具電磁屏蔽的地堡等構想。在 2022 年的一場活動中,飲品餐單包括一款名為「Death With Dignity」的雞尾酒,呼應一篇主張人類早已註定滅亡的文章。
如 Constellation 那些所謂「末日論者」,亦主導了 AI 本身的發展。他們是 OpenAI 及 Anthropic 最早期的員工之一,兩家公司均以遏止 AI 危險為創立原則。他們一直維持影響力,並從一個與「有效利他主義」哲學相關的網絡,為其項目招來部分人員及資金,當中包括已倒閉的加密貨幣交易所 FTX 前行政總裁 Sam Bankman-Fried;他現正服 25 年監禁。
AI 安全社群在 Anthropic 的影響力尤其強大,該公司現正處於規模達 2 萬億美元的公開招股前夕。Anthropic 員工在一個私人 Slack 頻道交換末日情境及應對準備,並奉行一句貼在筆記簿型電腦上的格言:「Things will never be chill again」(一切再也不輕鬆)。Anthropic 發言人表示,公司有超過 3,500 名員工,他們持有各種不同觀點。