谷歌启动TensorFlow库来优化公平性约束

谷歌AI今天发布了TensorFlow约束优化(TFCO),这是一个监督机器学习库,用于训练多指标机器学习模型和“优化不等式约束问题”。

该学习库旨在帮助解决公平约束和预测平价等问题,并帮助机器学习从业者更好地了解某些国家居民的真实阳性率,或根据年龄和性别回忆疾病诊断。

在使用维基百科数据集进行的测试中,该学习库在基于种族、宗教、性别身份或性取向预测Wiki上的评论是否有害时,获得了较低的假阳性率,同时保持了类似的准确率。

今天,TFCO团队的代表Andrew Zaldivar在一篇谷歌AI博客文章中表示,TFCO将“考虑满足现实需求所需的社会和文化因素”。

“将许多公平目标表述为速率约束的能力,有助于推动机器学习的负责任开发,但这也要求开发人员仔细考虑他们试图解决的问题,”他说。“一个‘更安全’的替代方案是约束每一组独立地满足某个绝对度量,例如要求每一组至少达到75%的准确度。使用这种绝对约束,而不是相对约束,通常会避免团队之间互相拖累。”

根据该库的GitHub页面,该库包括一个可选的“两个数据集”方法来提高泛化能力,该库建立在去年发表的三篇研究论文的基础上。

就在TFCO库发布的前一天,谷歌从云视觉API中删除了性别标签。

发表评论

电子邮件地址不会被公开。 必填项已用*标注