輝達執行長黃仁勳日前出席由英國國王查爾斯三世召集的AI峰會時表示，AI不應比照社群媒體的方式進行監管，因為AI本質上是一項「技術」，而非單一的「產品」。然查爾斯國王憂心，人工智慧「有可能奪取生命。」黃仁勳則回應，安全「至關重要」，如果產品不夠安全，企業應暫緩推出並「持續進行工程研發」。

綜合外媒報導，這場AI盛會於蘇格蘭舉行。查爾斯國王會中表示，人工智慧有潛力改善並挽救生命，特別是在生命科學與醫學領域。但他同時向在場的高階主管強調，「那些創造這些技術的人，現在越來越多地警告AI存在發展出更黑暗能力的風險，甚至可能是奪取生命。」黃仁勳認為，安全「至關重要」，如果產品不夠安全，企業應暫緩推出並「持續進行工程研發」。

不過，黃仁勳也強調開放模型的重要與價值，要讓研究人員、大學、新創公司與國家等能夠一起參與開發，並說「讓我們以負責任的樂觀態度帶頭，安全且穩固地建構AI，開放給更多人，並解決對世界至關重要的問題。」

目前全球各國政府正致力於研擬是否對AI施加監管限制，加上Anthropic執行長阿莫戴與OpenAI執行長奧特曼在內的幾位AI領袖，先前皆曾呼籲放緩AI的發展速度。黃仁勳在接受媒體採訪時也指出，AI與社群媒體「非常不同」，目前涉及AI的安全疑慮，主要是「與尚未準備好發布的產品有關」。

黃仁勳強調，「社群媒體是一個產品，但AI則不同，它是一項支撐所有其他技術與產品的『底層技術』，因此，政府應該監管的是『產品』。」他認為，主管機關應密切監測AI在應用上「出差錯」的情況，並在有需要新法律時，於現行法規基礎上進行補充，並指出，在醫療保健、交通運輸及娛樂等AI已應用的領域中，其實早已存在相關的監管規範。

黃仁勳說，業界需要的是在封閉的測試實驗室中建立嚴格的測試系統。他形容，這就像蛋餅還沒熟不能上桌、汽車或飛機引擎還沒準備好不能出廠一樣，必須對它進行妥善的測試。

在這場峰會中，黃仁勳再次重申了他的立場，也就是在模型確保安全之前，不應急於發布，因為當一個產品不夠安全時，就應該扣下它並繼續進行工程研發。

另外，黃仁勳在峰會期間透露，輝達預計2027年晶片銷量達到2026年的兩倍。