在过去的几个月里，全球流行病让我们忙得不可开交，你可能已经让自己忘记了另一个世界末日的危险——未受控制的人工智能。不幸的是，微软的MSN.com上正在使用的一个人工智能程序让它重新回到了聚光灯下。 这个故事的中心是MSN.com上发表的一篇文章，内容是关于小混血儿乐队的明星杰德·瑟尔沃尔错误地使用了另一位混血儿乐队成员莉安·平诺克的照片。 这对于一个人类编辑来说已经是一个非常糟糕的错误了——不仅仅是因为它在全世界都在抗议种族不平等的时候出现了，而且当这篇文章背后的自动化程序被曝光后，它又有了一个全新的味道。 MSN.com自己不做报道，它更喜欢将网络上的文章转用，然后与原始出版者分享由此产生的广告收入，因为原始出版者的文章能够接触到更广泛的读者。因此，微软认为这个过程可以实现自动化就不足为奇了——不仅在大流行期间解雇了数百名员工，而且还实现了一个人工智能编辑器，可以在没有人工监督的情况下自动在MSN.com上发布新闻。 人工智能中的种族偏见是一个有充分证据证明的问题，用于训练人工智能软件的庞大数据集经常发现这些程序重复了人类偏见——在算法＂客观性＂的令人不安的伪装下，很容易被专注于人工智能的组织忽视。(作为一个真正的反乌托邦例子，看看这个用Reddit的数据集训练出来的精神病AI吧。) 这个错误表明，当一个无情的人工智能受到编辑监督的信任时，会发生什么，这需要的是同情心，而不仅仅是对读者兴趣的算法感。 然而，关于这个故事，最令人不安的是，微软愿意让人工智能扮演何种程度的角色——有能力在没有人工管理的情况下自动发布故事，这意味着在它到达MSN.com的读者群之前，没有人有机会阻止这个错误。 我们还了解到，虽然人类工作人员——一个我们不敢相信我们不得不使用的术语——很快删除了这篇文章，人工智能仍然有能力推翻他们，并再次发布同样的文章。事实上，这基本上就是所发生的事情——人工智能自动分享关于它自己的错误的新闻文章，把它们看成是与MSN.com的读者相关的。 当被联系时，微软的代表说，＂一旦我们意识到这个问题，我们立即采取行动解决它，并更换了错误的图像。＂＂不过，我们还没有听到任何关于这些人工智能过程改变的消息。 虽然人工智能软件似乎是一个方便的替代新闻编辑室的角色,我们看到,人工智能应用程序并不准备采取编辑责任从人手和试图急于AI-driven未来只会进一步损害微软和在线报道的声誉。