“当算法参与决策，安全如何保障？”这一问看似技术之问，实为文明之问。在如今加快演化的人工智能时代，算法早已不是实验室里的数学游戏，而是深度嵌入经济和社会之运行的“隐形决策者”：它决定人们刷到什么资讯、贷款能否获批、简历会否被筛掉，甚至参与医疗诊断、司法辅助和城市治理。

　　从一般的AI算法到通用智能甚至超级智能，算法决策早已无处不在，带来了前所未有的效率，也带来了前所未有的不确定性——它可能出差、跑偏、带来偏见和歧视、被滥用、欺骗人类甚至失控，其影响往往是重大的、规模性的，可能给成千上万的人带来影响。那么，人类如何放心地把部分决策权交给机器？

　　确保算法决策的透明可信、公平无歧视和安全可控，需要一套精准敏捷的治理机制。必须认识到，不同算法决策的风险量级千差万别，不能眉毛胡子一把抓，而应按照应用场景的风险高低采取分级分类治理——高风险场景严监管、高标准，低风险场景包容审慎、留足空间。在此基础上，至少需要在五个环节上系好“安全带”。

　　一是让算法“看得见”，以透明和可解释筑牢信任地基。人工智能算法往往是一个“黑箱”，其决策难以被解释或理解。用户不知道自己为何被这样对待，监管者也很难看清算法内部的运行逻辑。如果连“为什么”都无从知晓，谈何信任和救济？因此，算法透明和可解释至关重要。这并非要求企业公开源代码、披露商业秘密，而是要对AI生成的内容和来自AI系统的交互保持透明，以及必要时对算法决策的结果进行解释或说明。下一步，应当针对信贷、招聘、医疗等高风险场景，细化可解释性的分级要求——影响越大的决策，越要说清楚、讲明白。毫不夸张地说，透明度正在成为理解AI、信任AI、治理AI的关键。这不仅有助于解决算法歧视、决策偏差、AI欺骗等问题，而且可以为研究、评估和应对AI安全风险提供真实的观察视角和第一手数据。

　　二是让算法“立得正”，把价值对齐嵌入模型设计。算法没有天然的善恶，但设计算法的目标函数有价值取向。如果只以点击率、转化率为唯一目标，算法就可能投喂低俗内容、放大社会偏见；如果在设计之初就融入公平、安全、向善的价值约束，算法就能成为可信的助手。这就是国际上热议的“价值对齐”（Value Alignment）问题——确保AI系统的目的和行为与人类的目标、价值追求和伦理道德保持一致。“以人为本、向上向善”恰是价值对齐的中国表达。价值对齐需要工程化、标准化，成为AI训练研发的必要组成部分：在数据清洗、模型训练、安全测试各环节设置对齐要求，通过对齐训练将诚实、公平、不作恶等价值和伦理原则“焊”进系统底层，从而让模型具有判断是非和善恶的能力，而不是等出了问题再去“打补丁”。随着大模型能力的持续跃升，价值对齐日益成为AI安全治理的重要抓手，《人工智能安全治理框架》2.0版新增“价值观对齐”的理念，就是对这一趋势的回应。

　　三是让风险“防得早”，内外协同构建监测预警体系。算法系统的风险往往具有隐蔽性和累积性——小故障可能演化为大事故，局部偏差可能酿成系统性风险。安全治理不能总是“亡羊补牢”，必须“未雨绸缪”。《网络安全法》专门增设人工智能条款，要求加强风险监测评估和安全监管，迈出了重要一步。下一步可以借鉴安全生产和药品警戒的成熟经验，探索建立分级分类的重大AI事故报告与信息共享制度：一旦算法决策造成重大损害或出现严重失控迹象，提供者应当及时报告并处置，让每一次险情都成为整个行业的免疫记忆。同时必须承认，算法迭代以天计，外部监管难免鞭长莫及，风险防范更要依靠企业内部治理来补位：设立伦理委员会、明确安全负责人、开展内部审计和全生命周期风险管理，把安全责任内化为企业的组织能力。

　　四是让人类“管得住”，在高风险决策中坚持人类控制和“人在回路”。无论技术多么先进，有一条底线不能突破：事关生命、自由、重大权益的决策，最终裁量权必须留在人类手中，这是“确保人工智能始终处于人类控制之下”的应有之义。这就是国际上通行的“人在回路”（human-in-the-loop）和人类控制理念——算法可以辅助、可以建议、可以做决策，但应提供人类监督的机会，不能完全替代人的判断。再智能的系统也应给人留出复核和否决的空间。医生可以参考AI的诊断意见，但处方要由医生签字；法官可以借助类案推送，但裁判须由法官作出。“人在回路”不是给技术泼冷水，而是给社会上保险：它保留了纠错的可能、问责的对象和人的尊严。随着智能体（AI Agent）自主性不断增强，如何在自动化效率与人类控制之间划定边界，将是未来治理的重中之重。但无论如何，AI系统的应用绝不能将人类“顺理成章”地架空或边缘化，而应确保有意义的人类参与、监督和控制。

　　五是让伤害“能救济”，以责任制度倒逼安全投入。当算法决策造成歧视和伤害时，受害者能否获得救济、责任者是否付出代价，直接决定了安全激励是否到位。人工智能和算法系统本质上是投放市场的“产品”，任何时候都不应被视为具有或被赋予法律主体地位。因此，其开发者、提供者理应对AI产品缺陷造成的损害承担责任。为此，需要对既有的产品责任制度作出必要的革新，包括产品概念、生产者界定、缺陷、可赔偿损害、因果关系等方面。通过产品责任制度等侵权规则追究提供者责任，好处在于：受害者无需证明深奥的技术过错，只需证明AI算法存在缺陷以及缺陷和损害之间的因果关系；而企业为了避免赔偿，自然会加大安全测试和风控投入。责任不是发展的敌人，而是安全的保障——让“不安全”变得昂贵，“安全”才会成为企业的自觉选择。

　　总之，要让人工智能这匹“千里马”既跑得快又跑得稳，离不开安全治理的保驾护航。只有给人工智能系上“安全带”和“缰绳”，才能使其成为让人放心、把人放大的“可信助手”，更好地造福人类和人类社会。