未来的AI，该由谁来监管?

时事新闻2023-10-14 20:14:08无忧百科

未来的AI，该由谁来监管?

OpenAI首席执行官萨姆·阿尔特曼（Sam Altman）曾于5月16日在美国国会作证时表示，现在是监管机构开始对强大的AI系统设定限制的时候了。“随着这项技术的发展，我们认识到人们对它可能如何改变我们的生活感到担忧。我们也很担忧。”阿尔特曼向参议院某委员会表示，“如果这项技术出了问题，它可能出的是大问题。”并声称它可能对“世界造成重大伤害”。他同意立法者的意见，即政府监督对于减轻风险至关重要。

一年前，这个话题几乎还不受立法者的关注，而现在全球各地的政府都正在激烈地讨论监管AI技术的利弊，甚至禁止使用部分AI技术。然而，企业领导者此刻应该关注的问题不是AI如何或者何时受到监管，而是由谁来监管。由美国国会、欧盟委员会、中国来引领还是由美国各州或法院带头，这将决定AI改造全球经济的速度和轨迹，从而可能会保护一些行业，或者限制所有企业使用该技术与消费者直接互动的能力。

自从2022年11月OpenAI的ChatGPT发布以来，生成式AI的使用已经呈爆炸性增长。ChatGPT是在自我改进的大语言模型（LLM）神经网络基础之上构建的生成式AI聊天机器人。根据Statista汇编的数据，ChatGPT在5天内达到了100万用户，击败了以前神速推出的互联网产品，包括Facebook、声破天（Spotify）和奈飞（Netflix）。Midjourney和DALL-E这些基于用户输入而创建定制插图的LLM也同样爆红，每天生成数百万张图片。生成式AI当然符合我们之前共同定义的“大爆炸颠覆者（Big Bang Disruptor）”的标准：这是一种新技术，从发布的那一刻起，就为用户提供了比其竞争者更优质、成本更低廉的体验。

如此显著的接受率自然会让人兴奋，也会引起现有企业的警觉。LLM的潜力似乎漫无止境，也许会彻底改变从搜索到内容生成、从客户服务到教育的一切，凡是你能想到的一切。与更有针对性的大爆炸颠覆不同，ChatGPT和其他LLM是超级颠覆者，不仅在一个行业，而且在所有行业打破长期的规则。在同一时间打破规则。

考虑到这种颠覆的潜在规模——以及隐私、偏见甚至国家安全之类的问题——立法者对此关注是有道理的。想想歌德的诗《魔法师的学徒》（The Sorcerer’s Apprentice），拍成了迪士尼的经典电影动画《幻想曲》（Fantasia）。在电影中，魔法师回到他的工作室，发现他的学徒释放出的力量已经迅速失去控制，极有可能会摧毁眼前的一切，直到魔术师恢复了秩序。许多担心AI可能带来意外后果的人，包括阿尔特曼这样的开发人员，都希望立法者能够扮演魔法师的角色。

纷至沓来的监管者

在美国，诸多行为者正在争夺对AI监管的主导权。

首先是国会，参议院多数党领袖查克·舒默（Chuck Schumer）呼吁抢先立法，为AI产品和服务建立监管“护栏”。护栏的重点是用户透明度、政府报告以及“使这些系统与美国的价值观保持一致，并确保AI开发者兑现他们的承诺，创造一个更美好的世界。”然而，这一提议的模糊性并不令人乐观。

其次是拜登政府。政府内各联邦机构之间存在一些竞争，以实施2022年10月提出的一项白宫AI权利法案蓝图。该蓝图同样很笼统，呼吁开发者确保系统“安全和有效”，不要歧视或侵犯预期中的隐私权，并解释用户何时与自动化系统接触，为那些提出要求的用户提供人工“应急方案”——至少到目前为止，该蓝图尚未对这些关键术语中的任何一个进行定义。

在美国商务部，国家电信和信息管理局（National Telecommunications and Information Administration, NTIA）针对AI系统的审计和认证是否有用展开了调查。该机构已要求就AI系统责任方面的数十个问题发表意见，包括是否、何时、如何以及由谁对新的应用程序进行评估、认证或审计，以及在这些审查中应包括什么样的标准。在这里，调查的具体内容似乎走向了正确的方向。

与此同时，联邦贸易委员会主席莉娜·卡恩（Lina Kahn）采取了不同的方式，声称她的机构已经拥有对LLM的管辖权，并将该机构反竞争和保护消费者的军刀挥向了新技术的方向。卡恩推测，AI可能会加剧科技领域的现有问题，包括“勾结、垄断、兼并、价格歧视和不公平竞争手段”。这位联邦贸易委员会主席还认为，生成式AI凭借其创造虚假但令人信服的内容的能力，“有可能加剧欺诈行为”。而且，她指出，LLM可能——有意或无意地——根据有偏见的数据集来对用户请求作出回应，从而违反现有的隐私和反歧视法。

然后，还有更多地方一级的努力：至少有17个州已经出台了与AI相关的立法。这些拟议的法律中一部分会激励AI产品的本地开发，而另一部分会限制其在医疗保健和人才招聘等应用中的使用。许多州已经或正在考虑建立自己的工作组，以对未来的立法提出建议。

到目前为止，这些提案都没有什么具体细节，AI带来的各种假设性危害属于现有的类别，包括信息错误以及滥用版权和商标。无论如何，监管机构在短期内可能对该技术的发展不会产生什么影响。许多拟议的法规需要国会给予这些机构额外的法律授权，这在目前的政治气候下似乎不太可能。即使那样，新规则的应用也是法院的事情，这会演变为多年的磨合过程。而政府历来难以吸引到所需的技术专长，哪怕是为了确定LLM和其他AI应用可能造成的各种新伤害。

在联邦提案中，要感谢商务部提出了正确的问题。可是，目前尚不清楚部长吉娜·雷蒙多（Gina Raimondo）是否有法定权力来创建一个可持续的认证程序，或者是否有政治影响力来让科技行业支持国家电信和信息管理局的努力。此外，正如该部所承认的，它的调查只是白宫为AI服务创造一个可信环境的更大努力的一部分，这一目标需要在众多各自为政的政府部门之间进行前所未有的协调和合作。

这些讨论也是在美国法律发生巨大变化的背景下进行的，这些变化可能会决定谁将最终赢得AI主要监管者的角色。最高法院最近的决定极大地改变了商业法的法律格局，将权力从联邦监管机构转移到法院和各州，加大了执法行动的碎片化、不确定性和迟滞程度。最高法院为那些希望挑战机构规章的企业开了绿灯，比如，要求国会提供更具体的指示，实际上是将所采用的规则是否会生效的最终决定权外包给联邦法官。当然，与此同时，这项技术会继续以自己的速度加速发展。

这些局限性共同表明，主要的监管更有可能首先来自美国以外的地方。

对于竞争法，尤其是竞争法在科技公司中的应用，过去几十年的势头已经从美国转移到了欧洲。正当欧盟继续通过大量新的互联网立法之时，美国国会却犹豫不决，使得联邦贸易委员会和其他联邦机构在很大程度上没有工具或资源来与其欧洲同行竞争。欧洲议会最近批准了《人工智能法》（AI Act），这是一部100页的法规，它会主动禁止那些被认为具有“不可接受”之风险水平的应用程序，要求其他应用程序在欧盟使用前获得事先批准和许可，并对开发者的一系列违规行为处以巨额罚款。

中国的监管机构也在迅速行动，旨在激励本土的AI产品和服务，同时又界定它们可以如何运作以及不可以如何运作。这不仅可以限制非中国企业与超过10亿的潜在中国用户互动，而且可以通过抢占先机成为未来应用事实上的法律制度。

企业现在应该做什么

目前还远不清楚，政府的任何综合行动——立法、监管或司法——能否真正实现这样的平衡行为，即最大程度实现AI的价值，同时又在更广泛的范围内将其对经济或社会的潜在危害降至最低。就像所有的革命性技术一样，政府有效监管LLM的能力几乎肯定达不到预期。这并不是对立法者和监管者的批评，而是一个基本事实产生的副作用，即技术呈指数级发展的同时，法律却是以渐进的方式取得进步。

在此期间，企业领导者和学术界应该从商务部正在进行的计划中得到启发，并开始发展非政府监管机构、审计和认证程序，以确定并提供市场激励措施来购买符合道德、可信的AI产品和服务，明确哪些应用是可靠的和不可靠的。

当然，成功（和不成功）的自我监管机构有很长的历史，一直可以追溯到中世纪和执行中世纪市场规范的商人“法庭”。今天，许多团体，包括国际标准组织（International Standards Organization），都在制定广泛的标准、最佳实践和评级，并认证企业对这些东西的合规情况。在信息时代，类似的努力已经应对了一切，从与独裁政权打交道的企业标准到构成互联网本身的软件和协议的开发。

一些政府监管是不可避免的。尽管如此，不激怒魔法师的最有希望的方法是首先避免制造太大的混乱。

布莱尔·莱文（Blair Levin）拉里·唐斯（Larry Downes）| 文

布莱尔·莱文领导的团队制定了美国联邦通信委员会（FCC）的2010年国家宽带计划（2010 National Broadband Plan）。他后来创立了Gig.U，鼓励在有主要研究型大学的城市部署千兆互联网。他目前是布鲁金斯学会（Brookings Institution）的非常驻高级研究员和新街研究公司（New Street Research）的政策顾问（Policy Advisor）。拉里·唐斯是《转向未来：在颠覆的世界中发现价值并创造增长》（Pivot to the Future: Discovering Value and Creating Growth in a Disrupted World）（Public Affairs出版社，2019年）一书的合著者。他的早期著作包括《大爆炸颠覆》（Big Bang Disruption）、《颠覆的法则》（The Laws of Disruption）和《释放杀手级应用》（Unleashing the Killer App）。

时青靖 | 编校