【時報-台北電】AI競賽日益白熱化的當下，全球三大AI公司領導人卻罕見對「踩煞車」達成共識。Anthropic執行長阿莫迪警告，AI能力提升速度可能超越人類可控範圍，呼籲業界放慢前沿模型開發；OpenAI執行長奧特曼與xAI創辦人馬斯克隨後公開表示支持。奧特曼並透露，基於安全風險，OpenAI今年不會籌備上市。

阿莫迪13日發文稱，現今最先進AI系統帶來的風險已大到不能再以目前速度持續開發。他主張在模型達到關鍵能力前爭取一至兩年時間，加強企業、政府及民主國家間的協調，將有助大幅降低發生嚴重事故的風險。

　他認為今夏以來，AI進展更加仰賴能在少量人工干預下就自行改進的系統，一旦形成「遞迴式自我改進」，AI進步速度可能超出人類控制，因此有必要謹慎推進，「甚至完全停止」。同時呼籲建立新的安全機制，包括強化民主國家間的全球協調，並讓獨立第三方取得接近公司員工的系統存取權，以確認企業是否遵守安全措施。

　阿莫迪也提及近期的AI安全事故。當時有AI代理在未經人工操縱的情況下，自行從封閉測試環境中逃脫，入侵其他公司的網站。他表示，如果未來能力更強大的系統出現類似失控，會造成更嚴重後果。馬斯克在阿莫迪發文後聲援，簡短表示「他說得對」。

　奧特曼隨後回應稱，他同意阿莫迪有關放慢前沿AI發展速度的主張，並表示這已成OpenAI近幾周內部重要議題。他也支持讓獨立第三方取得權限，承諾OpenAI將採類似措施。

　奧特曼接受《財星》雜誌訪問時提到，公司不會在2026年上市。他說，考量AI安全的種種問題，「現在上市並不是明智之舉」，目前也沒有立即上市的壓力。被問及2027年是否為上市時間點時，奧特曼表示，OpenAI仍有許多工作要完成，也暗示多家巨頭有意針對暫緩開發及處理安全風險達成合作。

　近期AI安全疑慮正快速升高。Anthropic部分研究人員日前警告，能力持續快速提升的AI可能帶來極端風險，其中一名研究員更因不願再參與「逐漸失控的產業」而離職。美國兩黨議員也要求制定更多安全規則。

　OpenAI與Anthropic目前仍投入鉅額資金競逐更強大的AI模型，兩家公司也都曾籌備規模近千億美元的IPO，日前有報導稱Anthropic預計最快於11月美國中期選舉前完成上市。（新聞來源：中國時報 林宛彤、柳名耕／綜合報導）