丰亿彩票_丰亿彩票官网_丰亿彩票代理-注册登录
丰亿彩票代理

您当前位置:主页 > 丰亿彩票代理 >

人工智能和大数据会纠正我们的偏见,还是会更

作者: admin 来源: 未知 时间:2019-05-02

美国科学杂志nautil.us《鹦鹉螺》作者Aaron M. Bornstein最近发表了一篇关于人工智能和大数据能否纠正人类种族歧视的深度报告。虽然人工智能设计师和数据工程师可能没有种族主义的偏见,但大数据从业者理解用于提供定制服务的大型数据集不可避免地包含丰富而详细的信息,包括具有受保护属性的肤色。性别,性取向和政治倾向。基于这些数据的算法做出的决定可以隐蔽地打开这些属性,这些属性都是不可检测的和不道德的。

Yv52-hfnsvza5311602

“我们不知道客户是什么样的,”亚马逊全球通信通信副总裁克雷格说。克雷格伯曼在接受彭博新闻采访时说。伯曼正在回应有关亚马逊日送货服务中歧视有色人种的指控。诚然,利曼的防守是真实的:亚马逊根据成本和收益因素(如家庭收入和可用性)选择当天送达的区域。但是,这些因素是由邮政编码汇总的,因此会受到影响其他因素的影响——并将继续塑造——文化地理。查看同一天发送的服务地图,很难让人们注意到与肤色的对应关系。

这样的地图让人想起罗伯特。城市规划师罗伯特·摩西(Robert Moses)几十年来已经塑造了现代纽约市和周边郊区的大部分基础设施。然而,他有争议的一点是,他不希望穷人,特别是穷人,有色人种,使用他在新岛建造的新公园和海滩。尽管莫尔斯努力制定法律禁止公共汽车在高速公路上行驶,但他知道这项法律迟早会被废除一天。结果,他建造了更耐用的东西:数十座高度非常低且公共汽车无法进入的桥梁,真正区别于歧视。这一决定以及其他许多类似的决定具有深远而持久的意义。几十年后,公共汽车的法律被废除,但高速公路沿线的城镇仍然像以前一样被孤立。 “法律总是可以修改,”莫斯说。 “但是一旦建造了桥梁,就很难将其移除。”

今天,在受原始结构影响的数据的基础上再次出现了这种隔离。虽然新基础设施的设计者可能没有类似的不良意图,但他们不能声称不知道这些设施的影响。大数据从业者了解亚马逊和其他公司用于提供定制服务的大型数据集不可避免地包含丰富而详细的信息,包括肤色,性别,性取向以及具有受保护属性的政治取向。基于这些数据的算法做出的决定可以隐蔽地打开这些属性,这些属性都是不可检测的和不道德的。

凯特。 Crawford在Microsoft Research从事算法偏差研究,并且是“AI Now”计划的联合创始人。本研究的重点是使用人工智能系统时正在使用的危险。她提出了算法公平的基本问题,即算法能够在多大程度上理解他们使用的数据的社会和历史背景。 “你可以让人类操作员试着思考数据本身代表人类历史的方式,”克劳福德说。 “但你如何训练机器来做这件事?”那些不了解这种背景的机器只是它可以传达制度化的歧视,即所谓的“偏见,偏见”。