专访中国社科院法学所周辉：美国最新AI行政命令具有较强的前瞻性，未来可能出现“华盛顿效应”

21世纪经济报道见习记者肖潇 记者冯恋阁 实习生刘悦行  北京，广州报道

ChatGPT的爆火一度“激活”了各界对人工智能技术的期待，人工智能领域疾风劲吹，大模型广泛应用、GPT商用化探索、算力基础设施的建设……以人工智能为代表的第四次工业革命席卷全球。与此同时，个人隐私泄露、数据安全风险、价值对齐等问题已经显露端倪。如何应对AI带来的诸多问题是各国共同面对的课题。近日，美国发布了一项关于“安全、可靠和值得信赖的人工智能”的行政命令，这份行政命令能重塑AI监管领域的新秩序吗？

“行政命令立足美国关切，提出内容丰富的人工智能治理举措，未来在人工智能治理领域，很有可能会出现‘华盛顿效应’。”在接受21世纪经济报道记者专访时，中国社会科学院法学研究所网络与信息法研究室副主任周辉指出，行政命令法律效力和约束力虽然有限，但其以市场导向为特色的做法值得关注和研究。在人工智能国际竞争日益激烈的背景下，“不发展就是最大的不安全”更加突出。中国在审慎推进立法和监管制度设计，为人工智能治理贡献中国方案的过程中，可以借鉴美国在治理方案设计中通过顺应AI技术发展趋势，培养和引进人工智能人才，将国家竞争力更好地体现在产业创新发展中。

此外，对政府人工智能应用的指导及其风险的规范，是美国立法和监管的重点之一。根据行政命令，未来联邦部门需要指定一名首席人工智能官，负责促进人工智能在本部门的创新应用和管理相应风险。周辉建议，中国也将政府部门应用人工智能的示范性和安全性作为治理的重点。在政府内部完善治理架构，带动产业进步和社会发展的同时，确保在关系人民福祉和权益的政府决策执法活动中，应用人工智能的公平性和公正性。

 首个AI行政令：执行效果不够明朗

21财经：白宫在10 月 30 日出台了人工智能行政命令，您认为此次发布行政命令有哪些背景？

周辉：要了解白宫此次的行政命令，必须要先了解美国近一年以来及时跟进人工智能技术和产业发展所采取的一系列举措：其一是美国在去年10月发布《人工智能权利法案蓝图》时就确立了人工智能治理的愿景和原则；其二是今年白宫先后两次组织谷歌、OpenAI、微软等15家人工智能产业巨头签署自愿承诺，以行业自律推进“安全、可靠和值得信赖的AI发展”；其三是拜登总统签署了《关于通过联邦政府进一步促进种族平等和支持服务不足社区的行政命令》，以“指示联邦机构在设计和使用包括人工智能在内的新技术时要消除偏见，并保护公众免受算法歧视。”

此外，就外部来看，中国和欧盟人工智能立法的进展也给美国决策层带来一定冲击，七国集团（G7）和英国人工智能安全峰会也在推动形成人工智能治理的国际框架。美国强调人工智能的领导地位，不仅在于技术上的全球领先，还着眼于掌握国际治理话语权和规则制定权。行政命令即是既有国内治理举措的延续，也是美国人工智能治理模式的系统宣示。

21财经：这是白宫发布的最为系统的人工智能行政命令，您认为其会产生哪些影响？

周辉：我认为它实际的影响是有限的。

一方面，在美国法律体制下，白宫作为行政分支的权力有限，总体颁布的行政命令如果没有法律依据，不能创设强制性义务，不能直接要求被监管对象承担某些义务。只能在一定范围内，对联邦政府部门履行职责作出要求。这其中还不包括法律规定不受总统干预的独立机构。对于这些独立机构，行政命令虽也有提及，但也仅限于鼓励这些机构如何去做，是提议而非命令。从这个层面来看，它的法律效力和约束力是有限的。

另一方面，从内容上可以看出，涉及人工智能企业的条款有限。即便行政命令援引七十多年前制定的《国防生产法》，指示商务部研究明确两用基础模型研发者等的有关报告要求，根据美国的体制，这些要求未来也很可能因被提起司法审查而无效。对于人工智能企业而言，整体上并不会实质增加多少合规义务。行政命令涉及人工智能企业有关愿景的实现，很大程度上取决于于企业的配合情况。这也与白宫组织企业签署自愿承诺的做法基本一致。事实上，行政命令涉及到企业活动的有限内容，也基本来源于平台自愿承诺的声明。

华盛顿效应：行政命令的主要意义在于话语权的影响力

21财经：如果说行政命令的影响有限，那发布的意义在哪里？

周辉：行政命令涉及的内容比较全面，涵盖了人工智能安全、创新和竞争、公民特别是消费者、工人、患者的权益保护等当前主要治理话题，其意义首先在于它的政策宣示作用，宣示了美国在推动人工智能负责任地开发和使用方面的愿景：让美国政府部门可以明确如何积极应对人工智能发展履职；让美国社会可以增强对人工智能技术和产业发展的安全信心；让美国产业可以清晰了解未来美国政府监管的基本思路，形成更稳健的投资和创新预期。

其次，围绕如何实施人工智能治理，当前在各人工智能大国（地区）都处于顶层设计阶段，美国的系统性政策方案必然会对其他国家和地区产生影响。有些制度设计很可能具有示范效应。例如，前瞻性地提出了把计算能力作为可量化的技术条件的监管思路，很可能成为其他国家和地区的重要参考。行政命令本身也突出美国自身在国际上的领导定位，着眼人工智能国际治理框架和全球技术标准也作出了宣示。未来，围绕国际治理话语权的竞争将会更加激烈。

21财经：行政命令发布后，有学者评价称其为“人工智能法律之母（the mother of all AI laws）”，这个评价把行政命令放到了极高的位置，请问您如何看待这个评价？

周辉：这个评价出自哥伦比亚大学教授Anu H.Bradford，她曾提出“布鲁塞尔效应”，主要指欧盟凭借其巨大市场，通过市场机制，将法律实际作用于境外的过程。欧盟的《通用数据保护条例》(GDPR)就是一个成功案例，该条例生效后在某种程度上已经成为个人信息保护立法和合规的全球标准。

我认为，可以从三个层面理解“布鲁塞尔效应”：一是GDPR等法律本就规定了长臂管辖权。二是平台等跨国企业在难以负担针对欧盟市场专设服务模式的情况下，就会将符合欧盟规则的模式作为其全球模式，欧盟的规则进而变为全球模式。三是如果制定的法律或标准具有领先性和示范性，其他国家和地区在立法或监管过程中，难免会参考欧盟的做法。

此次行政命令立足美国关切，提出内容丰富的人工智能治理举措，未来在人工智能治理领域，很有可能会出现“华盛顿效应”。结合上述“布鲁塞尔效应”来分析的话，就第一个层面来看，两者还存在显著差别：美国尚未有类似GDPR那样的人工智能法律。但是，就第二个层面，考虑人工智能产业特别是基础模型平台主要来自于美国，且行政命令目前的内容符合这些平台的利益，在欧盟人工智能法出台且有不同规定前，不难想象，行政命令有关人工智能治理的愿景将事实上成为这些平台所及国家和地区的愿景。就第三个层面，前面介绍了行政命令在治理举措上确有前瞻性和示范性的内容，结合美国主导的七国集团人工智能系统开发组织国际行为准则，在美国的人工智能外交政策助力下，以行政命令为代表的美国人工智能治理模式，很可能成为很多国家和地区的参考。

21财经：在您看来，行政命令所代表的“华盛顿效应”如何在全球范围内能发挥作用？

周辉：美国行政命令的发布早于由英国牵头的人工智能安全峰会，发布同日七国集团发布了《开发先进人工智能系统组织的国际行为准则》，从发布时间来看，美国的行政命令抢占先机，也就抢占了国际话语权。

另外，欧盟推进的《人工智能法案》，至今尚未完成最后的立法程序。从各方透露的信息来看，无法完成最后程序的可能性很大。

一方面，在欧盟主要大国德国和法国已有自己基础模型平台，对目前《人工智能法案》存在不少重大异议，短期内很难达成妥协、形成一致立场；另一方面明年是欧洲议会的选举年，如果今年完成不了协商，很难再有时间窗口继续进行协商，新一届议会一旦选出，相关立法程序也将重新进行。欧盟《人工智能法案》的挫折，将会给美国行政命令所代表的美国模式留出更大的影响空间。

监管进行时：对政府活动有更严格的规范 中国应借鉴

21财经：白宫此前已组织十五家人工智能公司签署自愿承诺，此次行政命令中要求与美国政府分享安全测试结果和其他关键信息。美国对AI的监管进程是怎样的，从自愿承诺到行政命令又有何转变？

周辉：前面已经介绍，从自愿承诺到行政命令并非转变，基本原则和愿景上两者有很多相似和相同之处。

而且，美国一直都有在做AI的监管，2022年12月，国会发布《促进美国人工智能法》，要求特定的联邦机构采取措施促进人工智能的使用。2020年12月，国会通过《2020年政府人工智能法案》，该法设立了人工智能卓越研究中心。2020年3月，国会发布《国家人工智能倡议法》，吸收了“美国人工智能计划”在内的多项联邦人工智能政策与措施。美国白宫科学技术政策办公室（OSTP）根据该法成立国家人工智能计划办公室和国家人工智能咨询委员会。这都是在自愿承诺之前。

相较于自愿承诺，行政命令更具正式性，但相对于国会立法的法律效力，行政命令很大程度上会是一种“软”法。再者，目前的两批自愿承诺都是从企业的角度出发，宣示企业的做法，内容更加原则和抽象，行政命令即便吸收了自愿承诺的主要内容，但是从政府政策角度，覆盖面更广，内容更为具体，有些政策也更具操作性。

21财经：行政命令发布以后，科技公司的反响如何，可能形成监管壁垒吗？有观点说“严格的合规政策会限制产业发展”，您是否认同这一观点？

周辉：美国人工智能大企业基本都是支持的，少数的争议在于当前的内容不利于开源平台。还有一些中小企业和社会组织认为他们在行政命令起草过程中参与不多，声音有限。关于监管壁垒，各界都有讨论，但行政命令本身约束力有限，壁垒并不会太明显。

如果对合规要求较高，确实可能影响中小企业的发展，未来可以针对中小企业设计一定的豁免机制，对基础模型大平台规定专门的责任，根据风险大小和具体能力差异化设计。中国社科院法学所组织、南财合规科技研究院参与的《人工智能示范法》，在后续的迭代更新中，也将丰富对中小企业豁免机制的条款设计。

21财经：对AI进行强监管一直存在争议，您觉得此次行政命令的发布是否是对AI监管逐步严格的预兆？

周辉：事实上，签署自愿承诺的美国人工智能巨头深度参与了行政命令的起草之中。从美国政府的立场来说，它需要维护美国在AI领域的领导地位，这需要借力于各人工智能巨头的成功。行政命令并不是强监管，而是比较宽松。美国的政策从市场导向的角度出发，是其监管的一大特色。

21财经：中美在人工治理思路上有哪些差异？中国能美国在人工智能领域的立法和监管政策制定中吸取哪些经验？

周辉：美国受自身体制影响，企业政策游说能力强，政府也难以干预市场活动，更多的是为企业服务。整体上，相较于企业，社会对政府权力有更大的警惕。

中国的监管更加强势，不受资本左右，手段相较而言更加多元，除了行政许可，还有安全评估、备案、约谈等。市场对于政府监管信号的依赖性更强：在政府划清红线、底线之后，产业投资和创新才会有更明确的预期和更强的信心。

在人工智能国际竞争日益激烈的背景下，“不发展就是最大的不安全”更加突出。中国在审慎推进立法和监管制度设计，为人工智能治理贡献中国方案的过程中，可以借鉴美国在治理方案设计中通过顺应AI技术发展趋势，培养和引进人工智能人才，将国家竞争力更好地体现在产业创新发展中。

另外，对政府人工智能应用的指导及其风险的规范，是美国立法和监管的重点之一。根据行政命令，未来联邦部门需要指定一名首席人工智能官，负责促进人工智能在本部门的创新应用和管理相应风险。建议中国将政府部门应用人工智能的示范性和安全性也作为治理的重点。在政府内部完善治理架构，带动产业进步和社会发展的同时，确保在关系人民福祉和权益的政府决策执法活动中，应用人工智能的公平性和公正性。

治理模式虽有差异，但随着人工智能作为通用技术的发展趋势日益明显，许多人工智能的风险是全球性的。人工智能治理攸关全人类命运，是世界各国面临的共同课题。中美作为主要的人工智能大国，在这一领域有共同利益。最近的中美元首旧金山峰会一大成果就是，双方同意建立人工智能政府间对话机制。除了政府间对话，未来也可以鼓励更多学术界和产业界加强信息交流和技术合作，共同为人工智能安全风险的防范治理分享经验做法、解决方案，更好赋能全球发展事业。