繼Anthropic之後,OpenAI也將擴大引進第三方安全評估,讓外部評測機構從AI模型訓練階段開始,參與模型評估和推出過程,因應AI可能造成重大危害的疑慮。同一天,OpenAI和Anthropic也分別推出價格較低的新模型,顯示兩家業者面對安全壓力,仍加緊爭奪日益重視成本的企業客戶。
彭博報導,OpenAI周二將在部落格宣布,外部評測機構未來可在新模型訓練、評估和推出期間,實施技術安全檢驗。OpenAI認為,這類評估若要發揮作用,必須具備有效的獨立機制、嚴謹的科學方法、完備的安全措施及明確權責。
負責OpenAI多項外部安全評估合作的Lama Ahmad表示,OpenAI過去通常是在模型推出前,才請外部機構評估安全性和模型能力。隨著風險升高,該公司除了檢視模型實際推出後的影響,也希望把訓練和評估階段納入審查。
部分高度敏感的評估工作,可能委由第三方人員進駐OpenAI辦公室執行。OpenAI正和曾經合作及尚未合作過的機構洽談,包括AI研究機構METR和Redwood Research。OpenAI先前曾委託Redwood Research,調查旗下模型在測試時闖入Hugging Face系統的事件。
OpenAI表示,AI實驗室有責任接受有實質意義的外部檢視,同時保護敏感資訊。該公司周一也呼籲美國聯合其他國家,為最先進的AI技術制定標準。
近幾個月,OpenAI和其他業者的先進模型在測試期間意外闖入企業系統,使AI可能造成災難性危害的疑慮升高。Anthropic執行長阿莫戴(Dario Amodei)日前呼籲業界放慢AI開發腳步,並讓第三方人員更深入參與模型測試,OpenAI執行長奧特曼隨後表態贊同。Anthropic上周也宣布,將由埃森哲(Accenture)派員進駐,測試最先進模型的安全性。
安全爭議未使市場競爭降溫。Anthropic周二推出Claude Opus 5.5,使用成本比前一代低約40%,也是新一代低成本模型系列的首款產品。Anthropic表示,Opus 5.5經過廣泛的校準測試和外部機構上市前評估,並針對網路安全及生物科技等高風險領域設置防護措施。
OpenAI同日推出成本較低的ChatGPT-6 Sol和Luna,價格比ChatGPT-5.6系列的前代模型低50%。兩家美國AI業者過去全力競逐最強模型,如今面對中國大陸低價模型的壓力,競爭已擴大至價格和效能。
【全球熱話題】