中国不断规范生成式人工智能发展

据美国消费者新闻与商业频道网站近日报道，中国国家互联网信息办公室表示，该办公室联合其他几个监管机构公布了《生成式人工智能服务管理暂行办法》，自2023年8月15日起施行。报道称，生成式人工智能是一个快速发展的技术领域，能够生成文本或图像等内容。美国开放人工智能研究中心开发的聊天生成预训练转换器（ChatGPT）是最广为人知的一个例子。ChatGPT的成功引发了竞争对手的涌现，也引起全球各地监管机构对这一技术领域潜在风险的担忧。报道说，中国国家网信办公布的暂行办法为科技巨头在技术方面提供了一个业务规范。

生成式人工智能服务主要基于大规模语言模型，帮助用户生成文本、图片、音频、视频等内容。目前，中国开发的大规模语言模型（下称：大模型）有80余个。参与模型开发的主要有大型科技公司、高校以及电信设备制造商等。截至今年5月，据不完全统计，中国国内已有超过40家公司、机构发布了生成式模型产品或公布了生成式模型研发计划。大模型项目数量井喷式增长，凸显生成式人工智能服务在中国迅猛发展的态势。

自3月14日GPT—4正式发布以来，生成式模型开始具备同时处理图片和文字的多模态能力，应用场景也随之多元化。目前，生成式的大模型可用于电商客服、法律服务、日常办公、平面设计等多个领域，在自动化写作与内容生成、智能客服与在线客户支持、生成插图和设计物料以及代码编写等方面有出色表现。

技术发展对法律规定提出更高要求。近年来，中国相关部门十分重视人工智能领域发展，不断推出相关规定完善监督体系。2021年，国家网信办等四部门出台《互联网信息服务算法推荐管理规定》；2022年，国家网信办等三部门联合发布《互联网信息服务深度合成管理规定》，该文件主要针对应用深度合成技术提供互联网信息服务进行监管。今年6月20日，国家网信办发布《境内深度合成服务算法备案清单》，美团在线智能客服算法、快手短视频生成合成算法、百度文生图内容生成算法、百度PLATO大模型算法、火山引擎智能美化特效算法、腾讯会议虚拟背景算法、天猫小蜜智能客服算法、讯飞语音识别算法等41款深度合成技术服务算法获得备案，其中文本对话、智慧客服等是主要应用场景。有机构认为，该清单的发布体现了中国科技企业对算法备案等合规义务的认真态度，标志着国家对推动前沿人工智能技术规范化发展的决心，人工智能产业化落地有望加速开启。自2022年底ChatGPT发布后，全链条视角看待生成式人工智能秩序的维护和监管加速提上日程。

接下来，需要密切关注大模型的迅速发展。业内不少声音指出，未来大模型将成为数字空间或互联网空间新层次，向用户提供所谓“模型即服务”。这类服务能够根据用户不同需求进行扩展和定制，使应用更加灵活及个性化。用户也可通过应用程序接口等方式与模型进行交互，利用人工智能解决实际问题。

人工智能技术普及在为人类生活带来便利的同时，也带来很多挑战。比如，大规模语言模型存在本身固有问题。虽然生成式人工智能技术日趋成熟，但大模型内部结构复杂，很难精确控制其输出。目前，大模型已知风险主要表现为产生不当内容，如虚假消息、带有歧视性言论、侵犯个人隐私和个人信息以及侵犯商业秘密等。尽管现有技术能够在一定程度上减少此类问题发生，但实际效果不尽人意。此次《生成式人工智能服务管理暂行办法》（以下简称《办法》）出台将促进人工智能良性发展。人工智能产业是经济发展新引擎，《办法》鼓励生成式人工智能服务创造新的经济增长点。《办法》旨在维护国家安全、社会公共利益、公民合法权益等的同时，用科学合理的措施进行监管，推动人工智能产业朝着健康积极的方向前进。

未来，生成式人工智能服务要实现良性发展，必须把好安全关：一是积极推动科技向善。将科技的创新力与以人民为中心的发展理念相结合，保护用户个人隐私及数据安全，在法律引导下使科技应用符合社会公众期待，做到科技产业为民服务。二是在规避大模型已知风险方面发力。人工智能服务提供者在研发以及对外提供服务过程中，需依照有关规定采取必要的措施，改进算法、合规化数据，完善模型架构。三是营造可信的人工智能发展环境。提升人工智能算法透明度，加强技术研发和创新，提高人工智能产品的安全性和稳定性。与此同时，应当推进生成式人工智能发展所需的算力基础设施、优质数据集等建设，更好地促进产业发展。

来源：人民网－人民日报海外版