规避算法过度决策的风险

　　作者：郑琛
　　算法决策已经成为数字时代的一项基础性技术。随着数字技术全面融入社会交往和日常生活，算法也在重新构筑着我们的生产方式和生活方式。从智能导航到视频购物网站的精准推送，从摄像头的监测识别到网上医疗的智能问药，从智慧交通的拥堵预测到智能家居的万物互联，算法依托海量的数据要素，成为智能决策的基础，给经济社会发展注入了新动能，满足了人们多元化、个性化的需求，但由于算法存在的缺陷也带来了算法黑箱、数据滥用、信息茧房等一系列问题。探索算法决策的逻辑和社会影响，进而提出协同共治的有效路径，推动技术理性和价值理性实现平衡，是当前值得思考的重要问题。
　　算法决策的表现
　　算法是计算机的运算方法，是基于特定的计算，将输入数据转换为所需的输出的编码程序。其基本原理就是有输入还有输出地解决问题的计算步骤。它主要通过以下手段来进行决策：一是定义明确。算法决策的基础是定义的明确性。将现实问题抽象为一个或几个数学问题，给出明确的解决方案，这个算法就可以被执行无数次。也就是说，不论输入问题的是谁，只要被计算机认为是同一个问题，适用同一个算法，就会得到输出的同一个决策方案。例如，我们在购物网站购买一个篮球，通过算法这个网站会一直给我们推荐各类篮球或健身周边的产品。二是依靠数学模型。针对不同的问题，算法以同样的方式进行拆解，进而用同一套逻辑内核来解决我们的各类问题。正是模型化，赋予了算法快速的问题迁移能力。例如，视频平台通过早期流量和数据积累完成用户画像和用户标签化，在多功能复合超级平台上实现定时定点定人的自动分发，利用算法模型实现了对用户流量以及注意力的长期锁定，让用户对平台保持深度黏性。三是步骤有限。算法必须能在执行有限步骤之后自动结束，并且每个步骤在可接受的时间内完成。所以算法针对的是可以计算、可以判定、可以设计出解决方案的问题，通过化繁为简，带有层次性的计算量的有限叠加，将所有信息与内容杂糅转化为清晰的指令集和，最终在毫秒或微秒级内完成复杂任务。比如，翻译软件通过运用自然语言识别和处理算法，大大降低了人类获取其他语言信息的难度。
　　算法过度决策的风险
　　算法的属性和运行特征决定了其决策过程可能存在的风险。一是算法决策程序自身存在风险。工程师无法对机器学习算法的全部逻辑基础生成过程实施监督和干预，而机器能够在短时间内处理成千上万参数的变化，这样我们对于结果的不可预料性也就无法控制，就会导致算法作出过度决策。算法和人的核心差异之一就是人做事可以接受一定程度的模糊和机动，而算法却对明确性有极致的要求。例如实时智能配送系统将配送时间作为最重要的指标，在智能算法深度学习下，系统会接连不断优化时间，这样算出来的最优解就会不断倒逼外卖骑手疲劳作业从而实现算法给出的效率、体验和成本最大化的目标。二是算法的个性化服务存在用户权益受损的风险。目前个性化的推荐主要是对商业模式的优化，而不基于用户利益最大化的逻辑。平台运用算法清晰掌握了用户的实际需求、消费偏好和行为轨迹，为了实现利润最大化，可能会采用价格歧视等手段，基于用户的个体特征定制服务和价格，这样我们就会在不知情的状况下选择被算法剥削的决策方案。三是算法进入公共决策领域可能会干预政策议程，侵害个人的基本权利，这是由于算法模型存在缺陷而对特定群体的利益形成伤害造成的。
　　运用算法优势作出科学决策
　　提高个人数字素养。当前与人们生产、生活紧密相关的算法类型多种多样，数字化、智能化已经势不可当地渗透到社会生活的各个领域，不断拓展和满足人们更高层次的需要。同时，我们也需要提高对算法的认知水平，关注算法背后的评价体系和设计原则，充分理解隐私权、知情权、参与权、平等权、被遗忘权、自决权在数字时代的新内涵。在此基础上充分掌握决策的主动权，从个人价值和公共价值出发，提高对算法决策的思辨能力，有选择地规避算法自动化决策，维护数字世界的客观、自由、正义、透明、安全、责任原则。
　　科学运用算法辅助决策。在算法系统中，虽然算法可以学习人的决策过程和决策模式，甚至比人的决策更具有稳定性和规范性，但是涉及人的重要权利的问题，必须在相关法律的框架下，用正当程序的价值理念维护程序公平。首先，履行事先告知、听取意见、说明理由的程序，在对算法进行修正的基础上，运行自动化的决策程序和判断逻辑；其次，还要设置补救程序，对特殊的个案给予必要的保护和核查，有错误及时实施修正；最后，要保障用户的数字权益，处理好机器和人的关系。
　　细化算法场景化监管。3月1日起施行的《互联网信息服务算法推荐管理规定》，是一部以算法作为专门规制对象的部门规章，与网络安全法、数据安全法、个人信息保护法等相关法律法规构成了我国开展新技术、新应用治理的规则体系。如何让算法切实起到科学辅助决策的作用，在《互联网信息服务算法推荐管理规定》具体落实层面，还需要对算法技术以及算法技术应用的具体场景进行分类和分级监管。清晰区分生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类算法在关键环节中应用的影响主体、范围和程度，实施差异化监管。除此之外监管部门还应该加强对算法解释与实际结果的一致性进行监管，进一步规范和增加算法解释请求权，增加数据被遗忘权，建立健全科学的归责和惩罚机制，促进互联网信息服务健康有序发展。只有引导算法在透明、合法、公平、公正的原则下实施创新创造，明确算法的工具属性，才能从根本上维护国家安全和公共利益，保障人的主体地位和价值权利。（郑琛）