OpenAI執行長奧特曼與Anthropic執行長阿莫戴23日在聯合國安理會示警，人工智慧快速進步帶來的風險已不能只靠科技公司自己處理，呼籲各國政府合作建立安全規則，確保AI未來仍在人類控制之下。這場會議正值川習會前夕，美中雖都支持AI對話，卻同樣反對會限制自身發展的全球管制。
奧特曼表示，最近幾周AI能力快速進步，讓這項技術的好處變得更具體，風險也更加迫近。他說，不論人們認為AI造成災難的機率是10%、1%或0.1%，「這些機率都完全不能接受」。
阿莫戴則直言，AI是當今全球最重要的安全議題，如果處理不當，甚至可能威脅全人類。他呼籲先從範圍較窄的協議著手，包括禁止利用AI製造生物武器、建立AI能力評估與驗證標準，以及對涉及全球安全的重大濫用建立通報制度。
兩人也把矛頭指向自身產業。阿莫戴說：「沒有任何一位領袖、任何一家公司或任何一個國家，能獨自處理這個問題。」奧特曼也表示，如果AI要走民主化道路，最重要的決定不能只由舊金山幾家實驗室做出。
但各國對全球規則仍意見分歧。川普政府表示支持對話與外交，卻拒絕讓討論走向「全球治理」；中國大陸也主張國際社會應引導AI朝正面方向發展，但反對限制各國依自身需求發展科技。英國與法國支持全球監督，俄羅斯則質疑AI是否屬於安理會職權範圍。
奧特曼和阿莫戴在發言中均未提及中國，也未具體討論美中競賽。美中兩國均為安理會常任理事國，擁有否決權。
這場會議凸顯目前AI治理最大的矛盾：科技業領袖愈來愈公開要求政府介入，但真正掌握AI競爭主導權的美中兩國，仍不願接受可能約束自身發展的全球規則。聯合國23日也將這場會議列為「AI與國際安全」議程。
【川習會熱話題】