要靠更敏捷的治理思路Q1：如何降低利用 AI 传播虚假信息和敏感信息的风险?一旦出现虚假信息如何鉴别，并降低对大众的影响?梁正：《互联网信息服务深度合成管理规定》已经2022年11月3日国家互联网信息办公室2022年第21次室务会议审议通过，并自2023年1月10日起施行。另外，《互联网信息服务算法推荐管理规定》已经2021年11月16日国家互联网信息办公室2021年第20次室务会议审议通过，并自2022年3月1日起施行。当前国内算法治理的框架已较为清晰，[1] 但人工智能产业发展尚在早期，相关规定怎样去落实，也还有很多问题需要解决。在人工智能，特别是机器学习领域，最典型的特征是不存在放之四海而皆准的通用解决方案。针对AI传播虚假信息这件事，要分层来看：①目前ChatGPT只是在公测阶段，大家使用它，大部分也都是娱乐性的聊天，它的回应到底有多靠谱，可能并没有太多人去认真追究，顶多会调侃一句”它在一本正经地胡说八道“。②未来，当ChatGPT真正被使用到专用场景的时候，比如法律服务、金融服务的时候，真实性、严谨性问题就变得特别重要。③但是，往往在非专用场景下，大家不太关注它的严谨性和真实性，警惕性放松，更容易被AI迷惑。这时候怎么办？我认为还是要把责任归因到具体的人。首先是使用者，使用了AI的人，应该选择标识出来，这样，看到AI生成内容的人，就可以选择相信或者不相信。另外，对一些老年人、未成年人，自身的辨别能力不足，这时候，不仅仅是使用者，也要对服务的提供方（平台方），提出具体的要求，从我的平台生成的内容，是需要有明确的标识的，平台要做好“守门人”的工作。就好像现在的互联网电商平台，我们把“打假”的责任也给到了平台方，指望用户去打假是不现实的。既然平台提供了自动化的服务，就有义务去帮助用户鉴别和防范。之前网信办强调“要压实互联网主体责任”，这句话落实的一个点就是，当大平台“手中有矛”的时候，更要落实自己的责任。我们看到国外大公司对这点十分看重，我们能注意到，当有新的技术诞生的时候，其实并不需要出台一个专门的规定去约束这种新技术或新产品。因为国外的法律体系中，如果某个公司的产品出现问题，这个公司肯定是第一责任人。Q2：从AI公司的角度来讲，如何把好第一道关？梁正：对公司来讲，最佳解决方案是在产品上标注“识别标记”，数字水印可能是其中一个解决方案，还可以有其它的办法，核心是对平台产生的内容做标注：首先可以识别这条内容是AI生成的、并不是人类创作的；另外，可以识别这条内容是在哪个平台生成的，由哪个用户生成并传播出去的。这样，有清晰的追溯链条，就能更清晰地定义责任人。我们看到OpenAI实际上已经在这样做了，推出了AI识别的工具，所谓的“用魔法打败魔法”。OpenAI针对内容的识别并作出判断，图源：网络Q3、新技术发展初期，如何破解“科林格里奇困境”?监管政策如何在确保新技术发展空间的同时，有效降低风险?梁正：科林格里奇困境是指，在新技术发展的初期，当问题还没出现时，你无法预见它会带来怎样的问题，但是问题出现以后再去解决又太晚。历次我们经历新技术的爆发，都会碰到这个问题。我们现在的解决办法应该聚焦在“对新技术有没有更敏捷的治理思路”？新技术在实验和推广过程中，可以先控制在可控的范围内，不要一下子大范围铺开，比如金融领域已经在采用的沙箱监管、自动驾驶领域的先行实验区。以前我们很少首先考虑到商业价值，一般更先讲到“新技术到底有什么危害”。但敏捷治理的思路是，应该让所谓的“领先用户”先顺畅地进来，去体验和探索，然后不断迭代。就像小米刚刚开始推MIUI的时候，也是先有一批种子用户，让用户参与到产品开发设计中来，这个思路可以被推广到新兴技术的治理上，也就是国外现在讲到的负责任的创新。其次，之前的所谓的公测阶段，更多是从产品体验、底层代码等角度考虑，其实应该在公测阶段就加入“治理的边界性问题”，也就是同时进行治理规则的实验，这种治理不应该只是自上而下的，而是更大程度上是由业界首先意识到，并提出治理的需求和方案，后来才有监管者监督。业界要有主动治理的意识，变成企业社会责任的一部分。现在我们又处于一轮新技术发展的初期阶段，产品设计上要有价值观的嵌入，如果不考虑这个因素，它带来的问题可能很大程度上要靠事后的规制，这是很难从根本上解决问题的。因为规则不是从某个个体的角度就能识别出来，必须在应用的过程中才能识别出来，应当尽量避免造成大面积的伤害之后才能定位到相关问题上。Q4：在新技术诞生之时，国外有没有成熟的治理经验可以借鉴？梁正：由于法律体系的不同，在英美法系国家，不需要法律有具体的规定，法官的判例就可以作为判罚依据，特别是在新兴领域，大量的法律积累就是来源于新的问题出现之后，法官怎么判，宣判以后又可以作为其他法官来判刑的依据。最终积累很多案例之后，会找到一个共识，那么就会写入法条，甚至最后形成法典。我们国家是大陆法系，采用的是成文法，习惯在法律规定中穷尽可能的情境，这其实在新兴技术治理上很难做到。对新技术领域用判例去解决，更加敏捷灵活。在美国，如果有用户认为自己的利益受损，就有权基于相关法律、包括宪法赋予的权利去起诉。所以美国的公司，对于推出新的技术、产品十分谨慎，因为一旦出现重大失误，即使没有相关的法律法规推出，只要基于宪法去提起诉讼，最终这家公司因为推出新产品不谨慎而犯下的某个失误，就有可能给自己造成灭顶之灾。