马里兰大学的一位教授希望暴露于AI中的隐藏偏见，然后将其充分利用

Lauren Rhue研究了人工智能和机器学习技术的快节奏世界。但是她希望其中的每个人放慢脚步。

马里兰大学罗伯特·H·史密斯商学院的信息系统助理教授Rhue最近在三种面部识别服务中审核了情感识别技术：Amazon Rekognition，Face ++和Microsoft。她的研究揭示了韵律所谓的“真正鲜明”的种族差异。

Amazon Rekognition提供给其他公司。Face ++用于身份验证。微软计划停止使用其面部识别今年的技术，包括情感识别工具。

Rhue收集了2016赛季的黑白NBA球员的照片，控制了他们微笑的程度。然后，她通过面部识别软件运行这些照片。

总的来说，模型向黑人玩家分配了更多的负面情绪。此外，如果球员的面部表情模棱两可，那么黑人玩家更有可能被认为具有负面的面部表情，而白人玩家则更有可能“鉴于怀疑的好处”。

“我认为我们都应该退后一步，想一想，我们需要以这种方式分析面孔吗？”李说。

39岁的Rhue并不是第一个探索AI系统中种族差异的人。例如，麻省理工学院的学生Joy Buolamwini就她与无法检测到她脸的面部分析软件因为该算法尚未编码以识别足够广泛的肤色和面部结构。

“有了当前对AI的热情，似乎有必要为您可以为模型创建模型的所有模型创建一个模型，” Rhue说。“但是我真的很想看到更多的停顿和反思，‘我们需要吗？它带来什么桌子？’”

面部识别技术的使用正在扩展。这巴尔的摩港使用面部识别技术验证下船的乘客身份。总部位于犹他州的HireVue为雇主使用AI设计，以扫描候选人的面孔作为面试过程的一部分。HireVue宣布它在2021年删除了视觉分析组件。

一些州正在限制AI的使用。例如，加利福尼亚正在考虑限制使用AI来筛选求职者避免“歧视性影响”。在伊利诺伊州，雇主在视频采访中使用AI工具时必须披露。马里兰州也有类似的法律。

去年夏天，巴尔的摩市议会www.my188.com创造了有关使用面部识别技术的暂停，豁免警察局，直到今年12月。

随着人工智能渗入社会的所有领域，李只希望人们（和公司）停下来思考长期影响。

“这些类型的系统越来越多地融入我们的技术中。我们并不总是意识到它们。我们并不总是意识到它们的使用方式。”“而且我认为了解偏见的潜力很重要。然后，我的研究的偏移正在考虑人类干预，以查看人们是否能够抵消这种偏见是否会使情况变得更好。”

Rhue指出，在每种情况下，都需要将AI工具和人类干预措施结合在一起，以减轻偏见。她想领先“负面的，意想不到的后果”。

她认为她的其他领域也开始优先考虑这种工作。她说，乔治·弗洛伊德（George Floyd）在警察手中的死亡以及随后在2020年寻求种族正义的呼吁，导致人们有​​兴趣了解边缘化社区的斗争以及技术如何促进包容性。

马里兰州商学院信息系统副教授Jui Ramaprasad与Rhue合作，自从她是纽约大学的博士生以来就认识了她。她说，韵律在机器学习中所做的工作是他们领域中一些“最有影响力的工作”。

Ramaprasad说：“我认为她正在做她关心的工作，因为这会影响她，这会影响社区中的人们。”“我认为，当您也是一个面对那些人的人，在我们生活和工作的环境中偏见或歧视时，很难成为工作。”

尽管她发现了差异，但Rhue确实认为可以永远利用技术。例如，Rhue研究了在数字平台上研究众筹，重点是Kickstarter，该Kickstarter基于员工的兴趣来策划运动。为了强调黑人创作者提出的项目，她发现使用预测模型而不是依靠主观人类分析增加了黑人项目的建议率，而不会降低成功率。

“我认为，技术确实有很大的潜力对包容性，尤其是金融包容性产生积极影响，” Rhue说。

在研究之外，Rhue向本科生和硕士学位的学生讲授数据可视化。她以前在维克森林大学任教。

李说，她可以看到她在课堂上产生的影响。她有学生告诉她，包括一些研究生院，她是他们唯一的黑人教授。她有其他人告诉她，他们想攻读自己的博士学位。因为她使它看起来可能。

威尔·霍克斯（Will Hawks）是佛罗里达州新星大学的助理教授。在此之前，他是Wake Forest的Rhue's的学生。

尽管豪（Rhue）不是他的第一位黑人教授 - 霍克斯（Hawks）以前曾在佛罗里达A＆M大学（A＆M University）上学，这是一家历史悠久的黑人机构，但在校园里看到她仍然给人留下深刻的印象。

霍克斯说：“看到一个看起来像您的人完成了您认为无法实现的事情 - 这是不可能实现的。”“现在在同一行业成为一名黑人男性教授……我们的存在对他们意味着更多。我知道这是因为我一直穿着他们的鞋子。”

霍克斯为他称节理为“游戏规则改变者”。自毕业以来，他一直与她保持联系；当他申请学术工作时，他伸出援手，甚至最近邀请她加入他研究称为“变焦爆炸”的仇恨犯罪，以及这些事件如何影响组织和人员。霍克斯认为韵律改变了他的生活。

霍克斯说：“如果我不与瑞德（Rhue）博士越过道路，您现在不会与威尔·霍克斯（Will Hawks）博士交谈。”

本文是我们的新闻记者系列，这概述了巴尔的摩地区著名的人，他们对我们的不同社区产生影响。如果您想建议一个应该剖析的人，请发送他们的姓名，并简短描述他们为改变的事情，以了解：多样性，公平性和包容性编辑Kamau High ATkhigh@baltsun.com。