监管新规出台，推动生成式人工智能向上向善

近日，国家网信办等7部门联合发布《生成式人工智能服务管理暂行办法》（以下称《办法》），自2023年8月15日起施行。《办法》的公布为我国生成式人工智能服务的健康发展提供了重要法制保障。

以ChatGPT为代表的生成式人工智能掀起了人工智能领域新一轮技术浪潮，加快发展生成式人工智能已成为行业共识。

在国内，生成式人工智能在多领域实现商业化落地。例如，在智能办公领域，金山办公旗下生成式人工智能应用WPS AI已接入了PPT演示文稿等多个办公产品组件；在数字化营销方面，微盟发布了基于大模型的AI应用型产品WAI，已应用到25个场景；在网络安全方面，360发布认知型通用大模型“360智脑4.0”，可接入浏览器、搜索、安全卫士等360全端产品，实现智能化重塑……

但与此同时，生成式人工智能也带来了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题，如何统筹生成式人工智能发展和安全引起各方关注。

在专家看来，出台《办法》，有助于促进生成式人工智能健康发展，也有助于防范生成式人工智能服务风险，有利于推动生成式人工智能向上向善。

对于生成式人工智能，《办法》秉持鼓励创新与规范发展的原则理念，要求采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。

《办法》明确鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系。支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能技术创新、数据资源建设、转化应用、风险防范等方面开展协作。鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新，平等互利开展国际交流与合作，参与生成式人工智能相关国际规则制定。

针对生成式人工智能可能存在的数据违法收集、知识产权侵权、生成虚假信息等问题，《办法》明确了提供和使用生成式人工智能服务的法律底线：不得生成违法内容、防止歧视、尊重知识产权和他人合法权益等。

值得一提的是，自生成式人工智能面世之初，其存在的“一本正经地胡说八道”现象便引起了人们的警惕。对此，中国信息通信研究院政策与经济研究所所长辛勇飞表示，此次《办法》要求生成式人工智能服务提供者基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。这一要求充分体现了发展与安全并重的原则，符合生成式人工智能的技术原理与产业需要。

在业内人士看来，生成式人工智能将不断催生新场景、新业态、新模式和新市场，赋能千行百业。《办法》的出台，可谓及时而且必要，有利于引导生成式人工智能在合法合规的轨道上运行，有助于其健康长远发展，更好促进经济社会发展。

来源：工人日报