生成式AI 如何向善？

随着国内生成式人工智能快速发展，相关监管政策也逐步落实。由国家互联网信息办公室等七部门联合发布的《生成式人工智能服务管理暂行办法》于8月15日正式施行，这也是我国首个针对生成式人工智能产业的规范性政策。它要解决什么问题？能解决什么问题？服务管理的对象是谁？监管的思路和方式又是怎样的？共同关注：生成式AI，如何向善？

如何看待《生成式人工智能服务管理暂行办法》的立法思路？

从4月到8月，从征求意见到公布实施，立法推进的速度非常快，怎么看待背后考量？

【资料图】

对外经贸大学数字经济与法律创新研究中心主任 许可：针对生成式人工智能这一新技术、新应用、新领域，它具有我们所说的快速迭代的特征和颠覆性，这次我们从“小切口”入手，采取了急用先行的立法原则。关于立法，在此之前我们既有一些经验，也有一些教训，教训就是因为监管出手的时间太晚，导致了风险的蔓延，而这次采取的是一种具有前瞻性和快速回应的立法态度。简单说我们的立法者希望能够“先装刹车再上路”，避免企业和我们技术的发展带来不可控的风险。总体来说，也是希望通过一种快速的立法去回应技术和产业的快速迭代，使我们的技术和产业奔跑得更稳健，避免技术的失控。

如何看待“生成式人工智能”的应用前景？

对外经贸大学数字经济与法律创新研究中心主任 许可：我们以前说到人工智能总是把它想象成应用在一个特定的领域，比如说棋牌领域的Alpha Go，比如说应用在自动驾驶领域的自动驾驶技术。而“生成式人工智能”它的特殊点就在于，它不是只针对一种特定领域、特定场景的技术，而是一种具有普遍性、通用式的人工智能。它可以适用在我们所想象到的各种各样的场景中，既有内容创作的生成，也包括游戏设计、科学研究、医疗诊断、金融分析等等，甚至还有很多人把它应用在代码的编写上。所以生成式人工智能不是我们狭义的理解里，针对特定领域、特定场景上的技术发展，它是一种根本性的技术变革，某种意义上来说，它会成为我们数字经济的底层基础设施。这么一种新的技术，它所带来的改变既深又广，不仅仅是我们现在所看到的聊天机器人、AI换脸，在未来它的发展的前景是不可限量的。

生成式人工智能既要发展 也要安全

对外经贸大学数字经济与法律创新研究中心主任 许可：我理解《生成式人工智能服务管理暂行办法》不只是一个防范风险“紧箍咒”，它更是一个让企业稳健发展的“安全带”。我们都要说汽车要上路，要有制动装置，也就是说先要有刹车，没有刹车的汽车跑在路上看起来很快，但是很容易就出现了不可挽回的风险和损失。所以这个时候安全和发展并不是非此即彼的关系，很多时候安全的目的是发展，发展也需要安全做保障。我们看到这次施行的办法中，特别提出“国家坚持发展和安全并重、促进创新和依法治理相结合的原则”，既要有效推动产业快速迭代和发展，又要避免在此过程中所带来的风险问题。这个原则也体现在非常多的细则里，从不同的角度给安全和发展提出了要求。但归根到底一句话，我想在这么一种技术快速迭代，而且是一种颠覆性技术快速迭代的背景下，不发展就是最大的不安全。

划定底线 防止生成式人工智能作恶

最近，随着电影《孤注一掷》的热映，公众对于诈骗犯罪也有了更深的认知。当人工智能等新技术成为犯罪分子利用的工具，虚假信息、隐私泄露、算法歧视，种种风险的背后往往意味着无法预料的人身和财产损失。而从电影回到现实，自2020年“净网”专项行动以来，公安部门已破获“AI换脸”案件79起，抓获犯罪嫌疑人515名。当人工智能尤其是生成式人工智能越来越快速地发展，我们该如何应对其中的风险与挑战？点击视频，了解更多信息↓

如何通过强化提供者责任 防止生成式人工智能作恶？

对外经贸大学数字经济与法律创新研究中心主任 许可：很多新技术的应用中，违法犯罪行为的发生都是因为技术服务的提供者，没有完全履行好自己的责任，从而导致了使用者能够去滥用技术，产生了不良的违法犯罪后果。从防止技术滥用的角度，我们看到这一次《生成式人工智能服务管理暂行办法》中，特别针对技术的提供者规定了非常多的责任，既包括要避免非法留存一些信息，也要去保证提升生成内容的准确性、可靠性，不能用技术去侵害他人的名誉权、隐私权等个人信息权益以及我们的人身财产安全。另一方面，也规定了提供者要提升技术的透明性。如果有人利用信息内容去做违法犯罪的事情，需要提供者明确向社会公众说明生成内容是人工合成的，而不是真正真实的信息，所以这里面要有很强的一种义务，叫做“标识义务”。所有人看到这一个信息内容就知道它是由人工合成的，并不是真正来自真实世界的信息。

如何对生成式人工智能 进行“分类分级”监管？

对外经贸大学数字经济与法律创新研究中心主任 许可：生成式人工智能是一种通用型技术，各行各业都可以使用。所以监管必须从自身的产业特点出发，因地制宜地进行管理。比如技术应用在医疗行业，那就要遵守医疗行业的管理制度，应用在金融行业，提供个性化的金融产品推荐和销售，那就要适用于金融行业的管理规定，要反映出这个行业自身的特点。对于这些特点我们也要采取分类分级管理，对于一些风险高的产品和应用我们要严监管，风险低的我们可以适当去放松监管，同时仍然要守护好人身财产安全的底线。

兴利除弊 规范生成式人工智能还有更长的路

对外经贸大学数字经济与法律创新研究中心主任 许可：生成式人工智能有利有弊，它是一种“双刃剑”，对于这把“双刃剑”，毫无疑问我们要兴利除弊。接下来如何去根据生成式人工智能的技术特点和它的产业发展方向去进行升级和迭代，进一步细化规则，显然还有很长的路要走。再谈到我们的立法，也就是监管规则制定的同时，未来可能有更多的行业标准，包括人工智能伦理的相关规定需要积极推进，从而形成一个法律、标准和伦理“三源共治”的局面。