微软的研究人员与十多家科技公司的ML从业者一起创建了AI伦理清单

在最近的一次座谈会上,Landing AI创始人兼谷歌Brain联合创始人吴恩达(Andrew Ng)描述了他向一名工程师宣读经合组织(OECD) AI伦理原则的一刻,工程师告诉他这些话并没有告诉他应该如何改变自己的工作方式。

Ng表示,这就是为什么,任何行为准则都应该由ML从业者设计并为他们服务。微软研究院肯定听说过这话,因为它最近与十多家科技公司的近50名工程师一起,创建了一份AI伦理清单。

报告的作者说,这份清单的目的是在组织内部引发对话和“良好的紧张气氛”。这个清单避免了“是”或“不是”的问题,使用了“审查”这样的词,并要求团队“定义公平标准”。

这份清单的所有贡献者分别是在从事37个独立的产品、服务或咨询工作,这些行业包括政府服务、金融、医疗保健和教育。采访的参与者没有被指名,但是很多人在人工智能的子领域工作,比如计算机视觉、自然语言处理和预测分析。

作者希望他们的工作能够激发未来的努力,为致力于解决AI伦理问题的从业者提供共同设计指导的支持。他们表示,目前人工智能伦理社区的关注点与ML从业者的需求之间存在脱节。

“尽管它们很受欢迎,但人工智能伦理原则的抽象性使其难以实施。因此,即使是出于好意,如果没有其他机制来确保从业者做出伦理决策,人工智能伦理原则也可能无法实现其预期目标。这些检查列表中,很少有被设计成有从业者积极参与的。然而,当清单被引入到其他领域而不涉及从业者的设计和实现时,它们就被误用甚至被忽视了。”

研究人员指出,在结构工程、航空和医学等领域,清单被误用或忽视的例子比比皆是。谷歌人工智能研究人员在企业内部项目中建立道德规范的工作也从医疗保健和航空实践中获得了灵感。

新清单的结果在“联合设计检查表,以了解人工智能中围绕公平的组织挑战和机会”中详细介绍,该清单赢得了定于下月举行的ACM人机交互(CHI)会议的最佳论文奖。这项工作是与微软的关于偏见与公平的以太工作组合作完成的。作者包括微软研究院和女性机器学习联合创始人汉娜·瓦拉赫(Hanna Wallach),微软研究院的卢克·斯塔克(Luke Stark)和詹妮弗·沃特曼·沃恩(Jennifer Wortman Vaughan),以及卡耐基梅隆大学的学生迈克尔·马德奥(Michael Madaio)。

为了回应从业者的坚持,即任何清单都必须与现有的工作流程保持一致,本文中包含的清单基于人工智能设计和部署生命周期的六个阶段,而不是基于一套独立的伦理原则。

该文件包括整个清单。

这项工作还包括对机器学习从业者的采访,以了解人工智能伦理清单如何有效地帮助他们完成工作,并应对他们遇到的挑战。许多接受采访的人说,今天的道德是一个特别的过程,行动通常发生在个别工程师提出担忧的时候。

在采访中,ML的从业人员表示,他们公司的道德倡议通常是在非正式、临时的基础上进行的,这些人希望将公平作为“个人优先事项”。

有时候,提出暂停考虑道德问题的建议会让社会付出代价,因为这样的行为可能会放慢工作的节奏,并妨碍企业必须在最后期限前完成任务。

“我们听说,参与者希望更强烈地倡导人工智能的公平问题,但担心这种倡导会对他们的职业发展产生不利影响,”报告写道。“对人工智能公平努力的口头支持与支持这些努力的组织激励措施的缺乏所导致的脱节,对从业者来说是一个核心挑战。”

联合设计过程遵循一种方法,用于创建外科医生和护士输入的外科清单,以及联合设计过程,用于住宅、教育和公共交通项目的技术设计。

从业人员还表示,将伦理清单构建到产品开发过程中需要来自最高层的领导,而且很难将来自受人工智能影响的社区的反馈收集到产品设计过程中。

首先,作者根据现有的检查表和研究,创建了他们的第一份清单草案。然后,他们与机器学习从业者进行了14次探索性访谈,并参加了数十个90分钟的联合设计研讨会,利用这些反馈,从人工智能公平性清单中找出了从业者想要什么,不想要什么,然后从他们的清单中添加、编辑或删除项目。

ML实践者还审查了清单,以将它与AI开发和部署生命周期中的六个阶段相匹配。

接受采访的人说,道德倡议通常是热情的个人倡导者的工作成果,而不是来自高层的东西。

参与者普遍表示,他们不希望人工智能的公平清单来支持技术解决方案,或为社会问题开出过多的技术解决方案;解决方案必须是可定制的,以适应不同的环境;这需要考虑运营流程和公司文化等因素。

虽然大多数参与者对使用人工智能公平清单的想法做出了积极的反应,但一些从业者表示担心,将伦理纳入程序清单可能会让一些人相信,有可能保证公平或避免讨论微妙、复杂的主题。

微软的研究论文获得了ACM CHI计算系统中人类因素会议的最佳论文奖。会议定于下个月在夏威夷的火奴鲁鲁举行,从ACM组织者3月6日的最新情况看,会议仍将按计划举行。

发表评论

电子邮件地址不会被公开。 必填项已用*标注