“当机器开始思考，人类如何与之相处？当算法参与决策，安全如何保障？当技术挑战伦理，治理如何跟上？当鸿沟不断拉大，普惠如何实现？”在2026世界人工智能大会暨人工智能全球治理高级别会议开幕式上，习近平主席提出四个追问，共同指向一个深层命题：人工智能发展得越来越快，怎样才能让它始终为人所用、让更多人从中受益？

AI插画/adan

人工智能发展，首先要统筹好发展和安全，建立更完整的安全观。人工智能安全不只是“一道红线”，而是一个不断递进的体系。最基础的是底线安全：算法不能失控，数据不能泄露，系统不能被攻击，人工智能不能成为违法犯罪的工具。这回答的是“能不能放心用”的问题。

再进一步是发展安全。安全不仅意味着不受威胁，也意味着拥有持续发展的能力。核心算法、基础模型、算力基础设施、软件框架和关键数据资源等，关系着人工智能发展的主动权。如果关键技术长期受制于人，产业链、供应链缺乏韧性，就很难形成真正的安全。因此，要加强关键核心技术攻关，建设自主可控的产业体系。这回答的是“能不能持续发展”的问题。

更高层次是普惠安全。人工智能发展的目标，不是让少数人拥有更先进的技术，而是让所有人都能安全、平等、便利地使用。教师会用、医生敢用、企业用得起、普通人用得放心，创新成果才能真正惠及每一个人。

底线安全解决风险问题，发展安全解决能力问题，普惠安全解决价值问题。以教育为例。一套AI教学辅助系统，既不能泄露学生信息、用错误答案误导孩子，也要有稳定可靠的技术保障，还应让普通学校和乡村学校用得上。一个看似简单的应用，要同时跨过三道“安全门”。

要实现底线安全，需从事后补救转向全程治理。当前，内容标识、安全评测、算法备案等制度和工具逐步建立。但随着大模型从“对话聊天”走向“任务执行”，风险也从模型“说错话”发展到深度伪造、智能体越权操作。模型开发、平台部署和用户使用之间的责任链条也更长。治理不能等损失发生后再追赶，也不能只靠使用者“小心一点”。安全要求要进入研发、上线和使用全过程。教育、医疗等重要场景应提高测试和准入要求；人工智能生成内容要能标识、可追溯；出现问题后，要找得到责任主体。下一步，应把上述原则进一步转化为可执行的规则。

要实现发展安全，需从单点突破走向体系能力建设。当前，中国人工智能已从追赶单一模型走向模型、算力、开源生态和行业应用共同推进的阶段。但关键环节仍有短板，基础研究与产业应用衔接不够，追逐参数规模和短期热点也会造成重复投入。做出一个模型，不等于建立了持续发展的能力。维护发展安全，要重视基础软件、算法和软硬件协同；也要建设开源生态，让高校、企业和开发者继续创新，推动技术进入真实场景。自主可控不等于关起门来，而是既能解决关键问题，也有参与开放合作的底气。

要实现普惠安全，需从少数可用走向人人可及。当前，算力、数据、人才和基础模型仍集中在少数主体手中，许多发展中国家还面临网络、算力和本国语言数据不足的局面；价格、设备和数字技能也在个人之间形成门槛。若不改变这种状况，技术越发展，智能鸿沟可能越大。推进普惠，需从基础设施、技术生态和应用能力三方面着手：完善网络和公共算力，降低基本服务价格；推进开源模型和多语言数据建设，让不同国家根据本地需求开发应用；产品要降低操作门槛，教育等公共服务还需配套培训和使用规范。普惠也不只是向其他国家输出产品，还要通过人才培养和国际合作，帮助其形成技术研发、应用及治理能力。只有所有国家都能使用、改进并参与人工智能治理，普惠才不只是一句口号。

衡量人工智能发展，不能只看模型能力，还要看它是否安全可信、能否持续发展、能不能让更多人受益。把这三件事做好，技术才能走得更稳、更远。

作者：刘知远（清华大学计算机系教授）

编辑：杜玮

运营编辑：肖冉