新传媒网麻省理工学院、约翰霍普金斯大学和阿兰图灵研究所的计算机科学和生物伦理学教授在最近发表的一篇新观点文章中指出，经典的计算机科学格言“垃圾进，垃圾出”在理解有偏见的医疗数据时缺乏细微差别。新英格兰医学杂志(NEJM)版。
人工智能的日益普及，引发了对导致算法歧视的有偏见的人工智能模型问题的越来越严格的审查，白宫科学技术办公室在最近的人工智能权利法案蓝图中将其视为一个关键问题。
当遇到有偏见的数据时，特别是对于医疗环境中使用的人工智能模型，典型的反应是从代表性不足的群体中收集更多数据，或者生成弥补缺失部分的合成数据，以确保模型在一系列患者群体中表现同样良好。但作者认为，这种技术方法应该通过社会技术视角来增强，同时考虑历史和当前的社会因素。通过这样做，研究人员可以更有效地解决公共卫生方面的偏见。
“我们三个人一直在讨论如何从机器学习的角度处理数据问题，将其视为需要通过技术解决方案来管理的烦恼，”合著者 Marzyeh Ghassemi 回忆道，他是电气工程和电气工程系的助理教授。计算机科学和安利捷健康机器学习诊所 (Jameel Clinic) 的附属机构、计算机科学和人工智能实验室 (CSAIL) 以及医学工程与科学研究所 (IMES)。
“我们将数据类比为一件人工制品，它可以让我们对过去的做法做出部分看法，或者是一面反射着镜子的破裂的镜子。在这两种情况下，信息可能并不完全准确或有利：也许我们认为我们以某种方式行事“作为一个社会，但当你真正查看数据时，它讲述了一个不同的故事。我们可能不喜欢这个故事，但一旦你了解了过去，你就可以继续前进并采取措施解决不良做法。”
