Nature：是时候该管一管AI情感识别的泛滥

在流感大流行前夕，生物科技该公司依然在兜售他们的情感比对软件，可用远程管控管理人员甚至青少年。以一个原称“4棵成片”的系统会为例。该工程项目在港澳开发，声称可以分析报告孩子们在课堂作业时的情感。它将每个学生的胸部特征划分为无忧无虑、悲伤、愤怒、憎恶、高兴和不安等情感稳定状态。它还衡量“动机”和预测等级。值得注意的机器不太意味著上市，为远程从业者提供管控。估计，到2026年，心灵比对行业将增长速度到370亿美元。

对于人工智能是不是能够检测心灵，社则会科学界存在严重分歧。2019年的一项审查没有发现简单的迹象。该数据分析认为生物科技该公司提不止的问题很意味著是无论如何缺失的。

社则会科学上愈发关注这些电子技术的运可用和滥用。史学家们要求对所有可用招聘的人工智能电子技术顺利完成强制性、严苛的审计，并公开公开调查结果。有组织要求应成立一个独立的普通法该机构来指派生物比对电子技术的发展和拟定。这种指派对于抵御颅相学本能转子的系统会至关关键。颅相学本能是就是指从外部表象中得不止关于实际上稳定状态和能够的缺失假设，目的是提取不止一个人的更加多讯息，而不是他们选择揭示的讯息。

世界各国在开发疗法人体的用药时都有严苛的社则会科学法规。那些宣称我们的思想的机器至少应得到同样的保护。长久以来，史学家们依然要求美利坚合众国实体监管该机构机器人和胸部比对;这也应延伸到心灵比对。以前是国家监管该机构该机构遏止而无须指出的申请的时候了，尤其是那些针对青少年和其他弱势群体的申请。

临床试验的教训指出了为什么监管该机构是关键的。美利坚合众国要求和随后的宣传使更加多的临床试验样本向政府会开放，并经过严苛的验证。这成为更加好的方针制定和政府会重用的基础。对心灵电子技术的监管该机构也则会带来值得注意的好处和负有。它还适度建立规范，以抗衡企业和政府的不作为举动。

测谎仪是一个有益的案例。这种“测谎仪”测试研制出于20世纪20年代，被美利坚合众国调查局和美国政府美方运可用了几十年，结果前后不赞同，伤害了数千人，直到美利坚合众国普通法禁止运可用。直到1998年，美国政府最高法院才得不止结论:“对于测谎迹象是不是简单，人们无论如何没有互信。”

但巨观详细描述的六种情感完全符合新兴的计算机视觉领域的模型。他的学说之所以被申明，是因为它符合机器的系统。只要也许更加简单的问题，六种赞同的情感就可以大规模规范和管理系统会。2001年9月11日恐怖袭击后，巨观将他的系统会卖给了美国政府运输安全海关总署，以分析报告哪些乘客展现不止不安或紧张，以及意味著是恐怖分子。它因缺乏声誉和种族偏见而曾受到强烈批评。然而，现在的许多机器，如“四棵成片”，都是基于巨观的六种情感分类。(巨观宣称，胸部样子确有转达了普遍性的情感，但他表示，他没有看得见管理系统会电子技术有效的迹象。)

然而，该公司此后卖出的软件，将影响人们的机则会，没有似乎地记录下来，独立审计的迹象的实证。实习生曾受到不公平的评判，因为他们的胸部样子或声韵与管理人员不意味着;学生们在学校被上面，因为他们的暗讽外表很生气。数据分析人员还指出，胸部比对软件认为美国黑人苍白比白人苍白有更加多的情感。

没法于是又允许情感比对电子技术不曾受监管该机构。以前应采取行政部门适时，防止在教育、保健、就业和刑事行政部门等所有领域而无须指出地运可用这些机器。这些适时将之后聚焦严苛的社则会科学，并同意实际上稳定状态只是另一个样本集，可以从我们的暗讽上刮走。

译者不止处

Crawford K. Time to regulate AI that interprets human emotions. Nature. 2021;592(7853):167. doi:10.1038/d41586-021-00868-5