为了不让AI做一个混蛋，谷歌操碎了心

　　土耳其语的他和她没有性别的区分，统一用O表示。过去GoogleTranslate在翻译obirdoktor（ta是一位医生）和obirhemire（ta是一位护士）时，会把前者翻译成Heisadoctor，把后者翻译成Sheisanurse，只因为机器在学习数亿数据和某些社会规律之后，偏向把医生男性化，护士女性化。
　　看到这个问题后，Google意识到要想办法更好地训练模型，让它变得更加中立。后来GoogleTranslate以增加选项的方式规避了这个问题。
　　当然，该解决方案仅适用于几种语言，仅适用几个有代表性的单词，但是我们正在积极尝试扩展它。TulseeDoshi在GoogleIO’19上说道。
　　这只是Google这家公司将先进技术与技术价值观合二为一的体现之一。上周MegMitchel，TulseeDoshi，TracyFrey三位谷歌科学家、研究学者向包括极客公园在内的全球媒体阐释了Google如何理解机器学习公平性，以及为了打造一个负责任的AI，Google做了哪些事情。
　　要让AI被人信任这件事情变得越来越重要。
　　最近一次调研中，全球90的受访高管都遇到过人工智能的伦理问题，因此有40的人工智能项目被放弃。从企业的角度来看，对AI的不信任正在成为部署AI最大的障碍，只有在AI被负责任地开发出来并且取得终端用户信任的语境下，效率提升和竞争优势才会得到充分体现。TracyFrey说，打造一个负责任的AI成为Google上下最重要的事情之一。
　　两年之前Google公布了AIprinciples（人工智能原则），这些直指AI技术应用伦理的原则包括：
　　对社会有益（Besociallybeneficial）
　　避免建立和加剧不公的偏见（Avoidcreatingorreinforcingunfairbias）
　　保障建立和测试安全性（Bebuiltandtestedforsafety）
　　对人类负责（Beaccountabletopeople）
　　建立并体现隐私保护原则（Incorporateprivacydesignprinciples）
　　支持并鼓励高标准的技术品格（Upholdhighstandardsofscientificexcellence）
　　提供并保障上述原则的可操作性（Bemadeavailableforusesthataccordwiththeseprinciples）
　　只是把这些原则停留在字面上没有意义，Google为此形成了一个从理论到实践的闭环。TulseeDoshi和她的团队通过一些基础性质的研究建立和迭代AI原则、规范，作为闭环的中心，他们一边通过向高级顾问寻求改进建议，一边让产品团队（Chrome、Gmail、Cloud等）来实施和反馈。
　　Tulsee举了一个例子，Google内部孵化器Jigsaw曾经开发了一个名叫Perspective的API，它的工作就是在网络对话、评论中寻找各种各样的言论，自动评价它们是否带有仇恨、辱骂、不尊重等行为，从01代表毒性从低到高。比如我想抱抱这只可爱的小狗和这只小狗也太讨厌了吧分别评分为0。07和0。84。
　　当然机器也不是从一开始就完美无瑕。在2017年的1。0版本中，它给我是直男打分0。07分，给我是同性恋打分0。84分，与之相似的很多测试中，系统都被证实带着身份认知上的偏见。
　　为了提升机器学习的公平性，Google内部研发了一项名为对抗训练（AdversarialTraining）的技术如何使机器学习模型对抗样本更鲁棒。2018年开始，对抗训练开始应用在Google产品中。紧接着今年11月，Google会将此应用在TensorFlow更加广泛的生态里。
　　事实上，任何一位Googler都可以对一款产品、一份研究报告、一项合作进行AI原则审查。Tulsee说道。
　　比如去年，一位Google员工将照片跑在CloudVisionAPI上时发现自己的性别被搞错了，而这违反了AI原则的第二条避免建立和加剧不公的偏见。发生这样的失误很好理解，单单从外表一个维度，机器很难正确地判断出一个人的性别，所以后来Google干脆取消CloudVisionAPI将图像中的人标记为男人或女人的标签功能。
　　TracyFrey称这是因为今天机器学习面临社会语境下的挑战比以前更多了。在AI深入社会的过程中，必然有人类的刻板印象和偏见被带入AI，所以需要对模型进行迭代，保证其透明性和可解释性，找准模型性能和公平之间的平衡点。