交友平台算法误判用户为杀猪盘骗子,让其多位朋友误会,平台是否侵权?
和新朋友聊天时
用户被检测出发送敏感词汇
和客服沟通后解封了账号
误会虽然解除了
但被算法"误伤"了的用户
还是选择将平台告上法庭
……
网上聊天时被平台误判为骗子
李某为某金融公司员工,在某征婚交友平台注册后,提交了真实照片作为头像,并填写了实名认证的手机号。在李某正常使用平台期间,平台对其账户进行了封号处理,并向其他网友提示称"账号可能存在异常""不要与之发生金钱来往"等。
该情况导致李某多位朋友误认为李某是骗子,造成原告名誉受损。李某诉至北京互联网法院,认为该征婚交友平台实施的算法技术造成误判,侵犯其名誉权,请求法院判令运营者在平台上 公开向李某道歉予以澄清,并赔偿李某损失2万元。
平台运营者称,其 按照法律法规的规定,对用户在平台的行为进行监管,履行平台主体责任。李某为该平台注册用户,在与平台其他用户聊天过程中,短期内多次被检测到出现"金融""基金""加微信"等"杀猪盘"诈骗案件所涉高频词汇,从而自动触发了平台风控系统的审核规则。此后,李某致电客服反映情况,平台经人工核实后对该账户进行解封。因此,平台运营者称,其行为仅是为公共利益依法履行主体监管责任,系统自动判李某告账户为风险账号,不存在侵权行为。
法院:平台应用算法时尽到相关义务
诉讼过程中,平台运营者提交了《关于涉案软件风控审核系统的情况说明》及相关证据,解释其"预防性风控系统"算法逻辑机理,尽到了相应的算法披露义务。结合双方诉辩意见,北京互联网法院认为,本案的主要争议点为,涉案平台的运营者采取涉案算法风控行为是否存在主观过错,并结合以下因素予以评判:
1. 行为目的和主观意图、是否具有正当性。 根据涉案"预防性风控系统"针对的词汇和行为可见,该系统设置目的确系为预防"杀猪盘"等网络诈骗行为,系为实现法律要求的监管义务和公共利益,具有正当性。
2. 行为手段和性质、侵害人身权益的风险性程度、行为过程的审慎程度。 算法设置需在现有技术条件下合理、合比例,不得存在算法歧视、算法滥用等侵害他人合法权益的非法手段,根据已查明的事实及被告披露算法逻辑过程,涉案算法设置系基于特定词汇和用户行为的自动化反应机制,并不存在对某类用户的不当歧视。
3. 行为主体身份的特点、技术能力水平及所附注意义务。 鉴于涉案平台为陌生人网络交友恋爱类平台,在目前社会背景下加强"杀猪盘"等网络诈骗犯罪的筛查力度,于被告服务类型来说具有一定合理性。
4. 是否采取了预防侵权的合理措施。 被告确按照其承诺的人工审核方式,在声明的期限内核查误判并解除账户封禁和风险提示,尽到了与涉案算法风险相匹配的注意义务。
综上,涉案平台运营者基于法律监管要求和公共利益保护的目的,设置"预防性风控系统"算法应用,对用户行为进行中立、无差别的风险筛查, 虽因技术水平所限造成系统误判,但尽到了与涉案算法风险相匹配的注意义务,并采取了合理的预防侵权措施,并无主观过错,不构成侵权。
最终,北京互联网法院驳回原告的诉讼请求。一审判决后,双方均未上诉,该案判决已生效。
鼓励算法创新,减少算法应用乱象
随着数字经济背景下大数据、人工智能技术的飞速发展,算法技术被广泛运用于互联网应用场景中。与此同时,"大数据杀熟""算法歧视""诱导沉迷""操纵榜单""最严算法""深度伪造"等算法应用乱象也时有发生。如何构建鼓励算法行业发展与规制不当运用的算法治理秩序,成为算法侵权案件司法裁判关注的重点。本案对于算法侵权纠纷的裁判作出以下探索:
一是针对"算法黑箱"问题。 算法应用过程存在技术隐蔽性,考察算法行为是否构成侵权的前提需明确涉案算法运行的机制机理。本案中,法院认定,被告作为涉案软件的运营者,对算法应用过程具有披露义务,应提供证据证明涉案侵权行为系算法技术的实施所引发,并对算法运用的具体机理予以说明。
二是针对"过错认定"问题。 法院结合算法技术特点和相关产业发展现状,对于涉案算法应用行为主观过错和侵权的认定,确立了算法行为目的和主观意图、是否具有正当性,行为手段和性质、侵害人身权益的风险性程度、行为过程的审慎程度、是否采取了预防侵权的合理措施,行为主体身份的特点、技术能力水平及所附注意义务等综合性评判因素。
此外,针对"风险控制"领域,2022年《互联网信息服务算法推荐管理规定》和《中华人民共和国反电信网络诈骗法》均规定了网络服务提供者需履行涉电信网络诈骗信息监测、识别和处置的义务。在此背景下,网络服务提供者通过技术手段,强化对高危风险账户的监测和预防功能,具有算法技术运用的正当性。基于算法技术特点和现有行业发展水平,对于关键词和用户行为的命中,可实现对海量信息的自动化筛查,提高监测和采取措施的效率,但同时也不可避免产生系统误判,命中有类似特点的合法行为。 由于算法技术尚处于发展阶段,相关行业规范尚未成熟,应鼓励算法技术创新和正向发展,合理确定注意义务,促使企业利用算法加大正向价值传播,阻断违法和不良信息传播,让网络发展成果惠及广大人民群众。
文章来源:CCTV今日说法公众号、北京互联网法院
图片来源:视觉中国
乐城先行区医疗药品器械管理规定新闻发布会召开新海南客户端南海网南国都市报12月15日消息(记者苏桂除)12月15日上午,省卫生健康委联合省人大法工委省司法厅省药品监管局乐城国际医疗旅游先行区管理局乐城医疗药品监管局等部门召开
融水双龙沟景区书写林旅融合绿色答卷广西新闻网柳州12月15日讯(记者杨思悦)万木成林,重峦叠嶂,溪流潺潺置身此地,仿佛寻到了一片世外桃源。12月15日,关注森林绿美八桂2022年全国主流媒体云观广西主题采风团来到融
借力秦创原这家玻璃厂填补西北地区产业空白来源西咸新区融媒体中心走进西咸新区秦汉新城的中玻(陕西)新技术有限公司生产车间,热浪扑面而来,火红的玻璃溶液从炉内流出,经过成型冷却淬火切割等工序,一片片玻璃在生产线上有序流淌出来
A股股民注意了!监管层发函泼冷水,布洛芬连花清瘟龙头股炒作退烧布洛芬连花清瘟近期霸屏各大平台,12月15日也再度冲上微博热搜榜,相关药物还没抢到,龙头股新华制药(000756)以岭药业(002603)炒作率先降温。12月15日,新华制药以岭药
翘尾行情业界看好东莞楼市最新行情走势如何?综合中原地产合富大数据中指研究院等专业机构统计数据表明,截至今年11月,东莞楼市上半年整体相对低位运行。其中,在78月份政策利好刺激下迎来一波成交高峰,金
探索科技与公益融合共生,TCL魏雪荣获年度十大公益人物中新经纬12月15日电12月15日,凤凰网行动者联盟2022公益盛典举办。TCL科技集团副总裁TCL公益基金会理事长华萌慈善基金会创始人魏雪荣获年度十大公益人物。TCL魏雪荣获年度
湖人队争冠现曙光!3换2交易有望迅速达成,全明星悍将助詹皇冲冠体育新鲜说观点只做有深度的体育资讯。近期湖人队遭遇了多场失利,球队无论从内部还是外部都不尽如人意,相较于赛季之初的争冠豪言相距甚远。这样的湖人让詹姆斯非常不满意,因此寻找交易的可能
胜利之后的未知数12月14日,2022赛季中超联赛第31轮,天津津门虎客场对阵武汉长江队。面对以大部分U21球员出阵的对手,津门虎队兵不血刃,凭借石炎谢维军和钱宇淼的进球,以3比0轻取对手,拿到八
A股上市公司百强市总数达4534家,北上深杭苏位居前五榜单说明榜单以中国境内339个地级及以上城市(直辖市副省级市地级市盟地区)为研究对象,以A股上市公司数量为指标,最终得出百强市榜单。数据统计时间截止到2022年11月30日。一百强
政府牵头走出去企业组团出海事半功倍央视网消息海外集中招商的优势还不仅于此,由政府牵头出海,企业在掌握海外市场信息方面能更加全面高效。进口商孙崇龙告诉记者,国内的优质牛肉一直供不应求,他为了寻找好的肉源非常苦恼。在包
一夜输掉7亿美金,欠款200多亿跑路,金立手机创始人至今下落不明手机智能手机金立金立手机老总刘立荣一夜输掉7亿美金在智能手机还未横空出世,大家都在用塞班系统的年代,金立手机曾作为国内驰名品牌登上过手机榜单的第一名。作为金立创始人的刘立荣更是大赚