如何避免AIGC发展陷入“科林格里奇困境”？

(资料图片)

聊天机器人、电商直播、艺术创作……近年来，人工智能的突破性进展给我们的生活和工作带来了高效和便利。但是，大模型引领的生成式人工智能热潮下，利用人工智能技术进行“换脸”诈骗、生成侵权作品或者编造虚假新闻信息等乱象如何治理？如何促进生成式人工智能规范健康有序发展？针对以上问题，《人民邮电》报记者采访了中国信通院互联网法律研究中心副主任何波。

何波介绍，从全球人工智能的治理实践来看，欧盟和美国近年来积极推进人工智能相关立法。欧盟早在2021年4月就开始进行专门立法，公布《人工智能法案》，并于今年6月经欧洲议会通过，预计在年底获得最终批准。该法案围绕人工智能系统的开发、投放市场及使用等明确了统一的监管框架，确立了基于风险的规制思路（不可接受风险、高风险、有限风险），以期实现引领全球人工智能治理的目标。美国方面，2022年10月，美国总统拜登公布《人工智能权力法案蓝图》，确定了五项不具约束力的原则，为人工智能提供了自愿性的指导，以最大限度降低人工智能某些应用带来的潜在危害。

针对生成式人工智能，何波表示，一些国家和地区也采取了相应措施，通过加强对数据收集和处理、调查用户权益保护等重点防范生成式人工智能风险。例如，今年3月，意大利数据保护机构怀疑OpenAI在ChatGPT中违反了数据收集、未成年人数据保护等规则，宣布暂时封锁ChatGPT；4月，英国信息专员办公室（ICO）发布了针对开发或使用生成式人工智能的通用指南；7月，美国联邦贸易委员会（FTC）对ChatGPT发起调查，要求OpenAI详细说明如何解决大模型生成虚假、误导或诽谤性内容的问题。

近日，由国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、国家广电总局公布的《生成式人工智能服务管理暂行办法》（以下简称《办法》）正式施行，这是我国首个，也是全球首个针对生成式人工智能的专门法律文件。制定《办法》既是促进生成式人工智能健康发展的重要要求，也是防范其风险的现实需要。

何波认为，《办法》以“急用先行”为原则，统筹生成式人工智能产业发展与风险防范，能够避免新技术发展陷入“科林格里奇困境”——一项技术的社会后果不能在技术生命早期被预料到，而当不希望的后果被发现时，技术却往往已经成为整个经济和社会结构的一部分，以至于对它的控制十分困难。制度创新和技术创新应是相辅相成、同频共振的，《办法》确立了生成式人工智能的监管原则和基本要求，统筹发展与安全，促进创新和依法治理相结合，实行包容审慎和分类分级监管。

对于生成式人工智能技术、生成式人工智能服务、生成式人工智能服务提供者和生成式人工智能服务使用者这些概念，《办法》都有明确界定和适用范围。何波介绍，《办法》在鼓励应用创新与技术发展方面提出了具体措施：鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向上向善的优质内容，探索优化应用场景，构建生态体系；推动生成式人工智能基础设施和公共训练数据资源平台建设；促进算力资源协同共享，提升算力资源利用效能等。

随着文心一言、讯飞星火等生成式人工智能产品的问世，其与内容创作、教育辅导、医疗健康、工业生产等细分领域的行业需求结合成为应用层面落地的重要课题。新技术、新服务呼唤监管体系的完善和更新，何波表示，《办法》的出台不仅是为了规范生成式人工智能技术和服务，更是引导其健康有序发展和融合创新，实现以良法促发展，保障善治。

关键词：