2026年8月7日下午,傑夫.迪恩(Jeff Dean)登上史丹佛大學的舞台。兩天前,Google宣布這位待了27年的首席科學家離職,將與長年的朋友和合作夥伴共同創業,當天Alphabet收盤跌約4%。
這場座談會,是他離職生效後的第一場公開露面。他在Google的27年於當天午夜結束,新公司Discovery Loop的工作也從同一個午夜開始,中間沒有一晚空檔。因此座談會尾聲他甚至笑稱,上台時自己已經上了12個半小時的班,至於那道縫隙,「午夜時,我大概失業了一秒鐘。」
一個在Google待了27年的人,決定離開時在想什麼?答案藏在他挑題目的規矩裡: 太簡單的不做,太遠的也不做,而Discovery Loop想做的事,剛好落在中間 。
座談會問答環節中唯二的提問,都圍繞在他離開Google這件事。在Google擁有如此龐大算力與頂尖人才的優勢下,究竟有什麼是非得去新創實現、而在Google辦不到的?AI依賴龐大的資本,大公司難道不是絕對的贏家嗎?為什麼頂尖人才反而紛紛流向新創?
面對這些問題,迪恩首先解釋,因為雲端運算興起,各大平台上已經部署了大量AI算力,這 大幅降低新創公司取得算力的門檻,一小群人只要募得相當的資金,就能夠直接使用這些平台,不必承擔建造基礎設施的高昂成本,讓新創也有參與這場競爭的能力 。
同時他指出,作為一家小公司,他們能夠非常專注地投入科學與工程自動化這個議題,而不會受到大型組織會有的「輕微」干擾。
專注的前提,是先確定這個題目值得投入。被問到如何辨別真正奠基性的技術時,迪恩搬出了他數十年來的技術判斷方法,稱作封底計算(back-of-the-envelope calculation)的估算方式。
這是一種粗略估算的方法。他強調,這套估算法的核心是利用基於第一原理的工程經驗法則,在腦中快速推演可能的狀況及瓶頸,進而勾勒出解決問題的基本形狀。這種估算的意義不是計算出準確的數字,而是讓他判斷每個問題屬於什麼數量級,是否值得投入。
同時他提出了一個數字:10倍。當一條路比另一條路好10倍時,代表這條路很重要。他回憶參與2017年稀疏門控混合專家模型(MoE)研究時,發現這類模型相較密集模型,訓練算力與品質的效益比約改善10倍,因此判斷它可能成為重要技術。
而迪恩指出,Discovery Loop的願景是將原先花費一天甚至一週的實驗,縮短至一小時甚至一分鐘。換算下來,這相當於數十倍到上千倍的提升。
但這條路也可能走不出結果。迪恩在座談會中提到的另一個方法論,恰好可以用來衡量Discovery Loop的技術風險。
他在座談會上描繪了一個研究題目的「完美形狀」以及風險平衡點:一個難題乍看像是7個無解的問題,但當累積足夠多線索時,會發現其中有幾項已經有研究在成形、看起來可以處理;剩下幾項雖然還不知道怎麼做,「但如果我認真去做,我可以想像解決它們。」
形容似乎有些模糊,但他用這種方法為自己的研究方向設定上下界線:2年內就能完成、該做什麼很明顯的題目不碰,因為這無法推動整個領域的變革;20年都看不到方向的題目也不碰,那是死路。
若將迪恩這套研究選題標準套用到Discovery Loop,可以看出部分構想已有研究先例。他以Evolved Transformer為例,說明如何利用機器學習自動設計模型架構;迪恩在會中概括稱,其效率較原版Transformer高約30%。他也提出,可透過多代理系統將複雜問題拆解成多項子任務,分工處理後再整合結果。
還有一些沒有先例,例如打造能橫跨多個科學與工程領域、具博士級知識的模型;迪恩以「沒有人能同時擁有20個領域的博士學位」說明其潛力;或者讓AI擁有自主評估下一次實驗的成本與價值,並行跑數千個實驗等。迪恩認為,當實驗的速度與品質提升時,「會帶來相當驚人的成果。」