清研智库:人工智能需要鼓励发展,也需要规范监管

1970年代初期,刚起步的信用卡行业经常要求持卡人对欺诈性交易承担责任,即使他们的卡丢失或被盗也是如此。因此1974年国会通过了《公平信用计费法案》,以限制持卡人的责任。这种保护增加了公众对新支付系统的信任,并刺激了增长和创新。法案通过后不再只是将欺诈损失转移给持卡人,因此支付网络设计了一个应用程序,以检测不正常的卡使用情况并减少其欺诈损失。

如上例所示,在新兴技术面前脱颖而出的智能监管可以保护消费者并推动创新。然而,在过去的几十年中,政策制定者已经忘记了监管的这种有益的副作用,而是宁愿让行业参与者自由控制部署合适的新兴技术。

放任自流的严峻结果是对科技公司的强烈反对。公众暗地怀疑这些公司主要是提升自己的主导地位,而不是处理有害的后果。因此,州和地方各级的政策制定者开始考虑对人工智能应用(例如面部识别)实施技术禁令。前进的道路不是放松管制或禁止,而是明智,积极的监管,为公共保护和创新增长建立框架。

不能简单的把监管理解为阻碍创新

白宫最近发布了有关AI应用程序监管的指南,为未来规则制定或立法建立了一个框架。好消息是,政府致力于采取部门方法。由于AI只是一个可以在整个经济中使用的统计技术的集合,因此,一个联邦AI委员会来强制实施“一刀切”的规则是没有意义的。白宫的报告明智地鼓励部门监管者为其辖区内的AI应用制定规则。在最近一篇评论文章中,前白宫官员埃德曼(R. David Edelman)也提出了类似的观点,即不要把人工智能当作一件事来监管。

“在当今世界,AI监管机构的真正任务是建立一个既保护公众又促进行业创新的规则结构,而不是相互取舍。”

不幸的是,该报告还延续了过时的、不干涉的方法。它鼓励监管者将其自己的行为视为阻碍创新的行为。监管机构被告知,他们必须“避免不必要地妨碍AI创新和发展的监管或非监管行动。” 监管被视为一种成本、一种阻碍,一种拖延或一种障碍,只有在绝对必要时才必须勉强地将其视为最后的手段。

诸如透明度,问责制和公平性之类的措施可能会促进AI增长和创新,这种想法对于该框架而言是陌生的。但是在当今世界,AI监管机构的真正任务是建立一个既保护公众又促进行业创新的规则结构,而不是相互取舍。

需要事前立法,而不仅仅是应用现有规则

 许多AI应用程序需要事前立法,而不仅仅是应用现有规则。伊利诺伊州去年通过《人工智能视频采访法案》时,一些评论家认为这对科幻小说的猜测反应过度。但是,法律规定了雇主在使用AI分析求职者视频时,对通知、同意和解释的要求,已经落后了。许多公司,例如HireVue,已经在使用AI视频对求职者进行分析评分。

就业筛选充满了孤立的、群体性的判断,这些判断使统一的工作场所长期存在,而不是寻找才华横溢或富有创造力的类型。公司有权寻求更公平、更准确的算法筛选技术。

不过,除了伊利诺伊州的法律外,人工智能雇用算法缺乏消费者保护。供应商既没有提供有效性测试来证明这些技术检测出的与工作绩效相关的特征,也没有提供不同的影响评估来揭示潜在的歧视性影响。雇主可以根据这些筛选结果拒绝求职者,而不必解释这些不利行为的依据。

决策制定者曾经知道,面对如此有前途的新兴技术时该怎么做:他们会围绕它进行监管以提供增长和保护消费者。当计算机信用局在1960年代后期开始普及时,国会领先于新兴技术,并实施了1970年《公平信用报告法》,该法确立了保护消费者的权利并保护了信用局免受诽谤诉讼的侵害。该行业迅速发展,但消费者仍然安全。现在通过一项监管人工智能的国家法律来规范AI驱动的就业测试,可能会为AI公司,雇主和求职者提供双赢的利益。

人脸识别的激烈争议折腾监管必要性

 人脸识别的麻烦经历表明,当公司在没有监管安全网的情况下将AI应用程序推向市场时可能会发生什么情况。美国国家标准技术研究院的测试表明,目前市场上的技术具有歧视性作用。尽管如此,在几乎没有公众监督的情况下,地方执法机构一直在使用该技术。最新的此类报道涉及执法人员广泛使用Clearview的照片库,(非法获取!)来追捕违法者-显然忽视了设计的公民自由风险。

由于急于推向市场,人脸识别技术在国内外都陷入了困境。隐私和公民自由团体已敦促联邦政府停止使用面部识别系统,等待进一步审查。学者呼吁实行禁令,一些州和城市已经实施了部分禁令。

禁令可能会倒洗澡水时把孩子倒掉(译者注:本意是指事物本身中存在的否定,不是机械地否定,而是辨证地否定。机械的否定,就是把事物本身全部消灭,就像那个糊涂的老太婆一样,把脏水和婴孩一起倒掉。辨证的否定则相反,它要求既抛弃旧事物中陈旧的东西,又保持旧事物中一些合理的东西,这样产生的新事物才是丰富的、活生生的东西。)但是,如果唯一的选择是事后监管以纠正出现的任何错误,则禁止或暂停执行可能是有意义的。值得欢迎的如果发展滞后,关键行业参与者已经提出了积极主动的监管框架。

AI需要主动监管

机器学习是“ 我们这个时代最重要的通用技术 ”。要求适度监管、让行业领先的呼声是失败的监管理念的一部分,过去几十年来,这一理念见证了其自然实验的缺失。AI太重要了,也太有前途了,无法以一种放任自流的方式进行管理,无法等待问题发展,然后在问题解决后再尝试解决。

是时候回到我们过去监管新兴技术的方式了。像Google首席执行官Sundar Pichai这样的行业领导者最近已经认识到人工智能应用程序进行部门主动监管的优势。深思熟虑的,有远见的决策制定者,例如1970年代监管和启动新的支付系统和信贷机构的决策者,需要为这项直观重要的技术设定规则和优先事项,以保护消费者,并提供创新和增长。

本文原载于布鲁金斯研究中心网站,作者Mark MacCarthy,清研智库李梓涵编译。

相关文章

联系我们

010-57230548

邮件:info@tsingyanresearch.com

工作时间:周一至周五,9:00-18:00,节假日休息

QR code