这家公司采用算法随机解雇了60名员工！谁来监管数字老板？

　　前不久，一则关于美国互联网巨头Meta公司的消息令人不寒而栗——这家公司采用算法随机解雇了60名美国劳务派遣员工。
　　值得一提的是，此前，Meta创始人兼首席执行官马克·扎克伯格警告员工：＂市场低迷是我们近年来最为严峻的挑战，必须通过积极的业绩评估来淘汰表现不佳的员工。实际上，公司里很多人可能不应该来。＂
　　近年来，全球诸多大型科技公司、互联网平台热捧算法，Meta无疑是其中之一。然而，在此次算法大裁员事件中，算法黑箱、算法歧视、算法暴政等负面效应一一暴露，引发了国际舆论的强烈关注。
　　＂算法解雇＂屡见不鲜
　　太阳底下没有新鲜事。早在2020年8月，游戏支付处理公司Xsolla＂重组＂，一次性裁掉美国洛杉矶450名员工中的三分之一。该公司表示：这次裁员完全是算法断定，这150名前员工＂缺乏敬业精神，效率低下＂。
　　＂无论如何，解雇员工的人永远是雇主、一个或几个高管。但算法这台无形机器成为裁员的最新理由。这甚至不是新闻了。＂西班牙劳动法专家内瓦多如是说。
　　＂从道德的角度来看，你可能会被一个运用通用标准的算法解雇，这种算法绝不考虑个人情况。最关键的是，公司不愿展现最起码的尊重和同理心亲自与你沟通。＂内瓦多感慨道，＂老板和人力资源部门以算法技术创新为借口，推卸解雇责任，劳资关系一步步失去人性。如果不加改变，未来一片黑暗。＂
　　类似的＂算法解雇＂事件正在不断上演。
　　镜头拉回到去年10月2日凌晨3点，美国凤凰城合同司机诺曼丁醒来，看到手机上一封自己为之工作4年的亚马逊的最新电邮。跟踪他一举一动的算法判断：您没有正确地完成工作，评级低于可接受的水平，公司遗憾地解除合同。63岁的他顿时手足失措。
　　原来，有一次他将包裹送到后，却无法打开亚马逊储物柜。他与支持人员通话30分钟，对方告知包裹退回送货站即可。然而，就是这次看似不起眼的小事故，让诺曼丁的个人评分突然闪崩。诺曼丁心急如焚，但公司告诉他＂不用担心＂。
　　＂他们从来没有恢复我的评分。＂诺曼丁说。
　　无奈之下，诺曼丁向亚马逊创始人杰夫·贝佐斯直接投诉：＂我要求提供解雇决定的具体细节，希望对我4年送货全记录进行彻底审查。我相信自己始终如一的最高水平表现，证明我是一个理性而谨慎的人。＂
　　12小时后，诺曼丁收到电邮，贝佐斯派人处理。但好几天过去了，投诉没有结果。是时候再次直接与人类打交道了，已经改行的诺曼丁直言：＂算法对现实世界的运作方式没有任何常识！＂
　　算法革命的附带损害
　　＂人工智能算法优化工作流程，长期来看，它创造的就业岗位将远远多于它摧毁的就业岗位。＂贝佐斯曾强调：唯一重要的商业决策是＂战略决策＂。其他的事情，不管它们有多重要，他更愿意把它们留给算法，因为它们的行动是＂考虑到所有相关信息而不受情感干扰＂。
　　对于贝佐斯这般巨富而言，高歌猛进的算法革命带来的附带损害，或许无足轻重。但是对于像诺曼丁这样的输家，荒谬至极。他说：＂我是一个老派的人，每份工作都付出了110%，我究竟做错了什么？没人告诉我。＂
　　在亚马逊将人力资源业务交给算法后，软件成了职员、仓库工人、合同司机、独立承包者的监控方，负责雇佣、评估和解雇数百万亚马逊员工。贝佐斯坚信，机器算法决策比人更快更准确，成本更低，竞争优势更大。
　　沙希德与诺曼丁有着相似的遭遇。
　　2019年，沙希德在英国伯明翰为优步公司开车。此前5年，这位金牌司机得到的客户评分为4.96——接近满分5分。那年8月早上，他发现无法登录上班，损失惨重。
　　后来才知道，优步算法检测到沙希德存在＂持续的不当使用＂，因而禁止他进入公司系统。沙希德无法申诉，而优步也拒绝透露司机错在何处，因为＂这是公司的商业秘密＂。
　　＂过去一年半里，我给优步打了60次电话。我恳求他们，没有回应。＂沙希德说。
　　2020年10月，代表沙希德和其他3名在英葡萄牙司机的运输工人国际联盟代表，在存储优步欧洲数据的荷兰起诉，指控算法不当解雇。＂多年来，优步一直被允许违反雇佣法而不受惩罚，现在我们看到了一个奥威尔式的工作世界，工人没有权利并由机器算法管理。如果不制止优步，这种做法将成为每个人的常态。＂
　　原告律师强调，欧盟《通用数据保护条例》（GDPR）（以下简称《条例》）第22条规定：＂数据主体有权不受仅基于自动化决策所作决定的影响，包括那些会对他们产生法律效力或类似重大影响的特征分析。＂据此，司机遭不当解雇，公司不仅未给出解雇理由，还剥夺司机申诉权，显然违背了《条例》的要求。值得重视的是：受害欧洲司机人数超过1000人，但此前无人起诉。
　　被告律师反驳，优步收到顾客投诉，算法检测到司机谎报行车路线，安装使用操纵软件，严重影响公司正常运营。对此，原告律师反击道：《条例》保护个人免受不公平的算法自动决策的影响，作出解雇决定前，必须有人参与；希望法官强制优步披露秘密决策全过程。
　　谁来监管＂数字老板＂
　　次年4月，阿姆斯特丹法院判决：优步解雇司机的决定可被视为仅基于自动化处理（包括分析）的决定，这对原告具有负面法律后果，严重影响他们依据《条例》第22条第1款所享有的基本权利。优步必须在一周内恢复司机工作。
　　＂存在明确伦理后果的领域，永远不允许人工智能轻易取代人类推理经验和能力。换言之，永远不允许机器决定谁被处决，谁被碾死，谁被解雇。算法基于纯粹的效率标准行事。重大决策不能自动化，不能脱离负责任的反思——这是人类特有的优势。＂《机器人新法则》的作者——纽约布鲁克林法学教授帕斯夸里批判，＂人沦为纯粹的工具，丧失自由和理性生物的地位，完全失去人性。把人当作非人对待，数字老板永远是一个暴君＂。
　　西班牙工会在《劳动关系中的算法关系》文件中表示，防止使用算法解雇员工的安全网必须采取明确规定的形式，要求人工智能使用透明的标准；必须采用预防原则，因为算法会犯错，会对＂人的安全和基本权利＂产生严重的负面影响。
　　Meta高管哈巴斯也提醒，算法甚至对创建它们的工程师来说都是黑箱。机器学习系统和软件算法由数以万计的数据点组成，一般为即时计算，难以检索原始输入。公司往往不愿投入大量人力、物力、财力，追踪算法输入输出全过程，除非新法或法院裁决强制推行算法审查和算法解释，公司才会这样做。算法偏差最常发生在没有提供足够多样化的训练数据的情况下。这会导致算法产生盲点并提供不准确或有偏见的决策。
　　由此可见，在悄然来临的算法时代，法律监管算法已经刻不容缓。否则，人类有朝一日难免沦为算法的奴隶。
　　栏目主编：顾万全 文字编辑：房颖 题图来源：上观题图 图片编辑：徐佳敏