AIGC监管推进，加速产业规范健康发展

中心思想 AIGC监管框架确立：促进行业规范健康发展 国家互联网信息办公室于2023年4月11日发布《生成式人工智能服务管理办法（征求意见稿）》，标志着中国在AIGC领域监管的正式推进。该办法旨在通过明确生成内容、主体责任和数据使用等方面的管理要求，实现监管与技术发展的同步，从而加速AIGC产业的规范化和健康发展。此举强调了信息与数据安全、生成内容合规的重要性，为行业设定了清晰的边界和发展方向。 安全与合规：AIGC产业发展的核心驱动力 随着监管政策的落地，AI厂商在产品开发和运营中，将更加注重安全与合规。办法详细规定了提供者在数据来源合法性、用户身份信息管理、内容标识以及个人信息保护等方面的义务。同时，报告指出AI厂商需通过技术手段，如保障数据隐私、实现AI与人类价值观对齐以及提供内容审查工具等，来满足合规要求。这预示着AI安全技术和相关服务将成为AIGC产业未来发展的核心驱动力，为AI安全行业带来显著的市场机遇。 主要内容 《生成式人工智能服务管理办法（征求意见稿）》核心要点 监管背景与目的：2023年4月11日，国家互联网信息办公室发布《生成式人工智能服务管理办法（征求意见稿）》，旨在对生成式AI的生成内容、主体责任、数据使用等提供管理方法，实现监管与技术发展和应用态势的同步推动。 核心监管要求： 生成内容或服务应遵守法律法规，尊重社会公德、公序良俗。 提供者承担产品生成内容生产者责任，涉及个人信息则需依法履行个人信息保护义务。 提供者对预训练数据、优化训练数据来源的合法性负责。 提供者应依法要求用户提供真实身份信息，且需对用户输入信息和使用记录承担保护义务。 提供者应按《互联网信息服务深度合成管理规定》对生成的图片、视频等进行标识。 违反规定的，按相关法律、行政法规予以处罚；法律、行政法规没有规定的，由网信部门等依据职责给予警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停或终止其利用生成式人工智能提供服务，并处1万元以上10万元以下罚款。构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。 AI厂商合规路径与技术保障 AI厂商实现安全与合规的途径： 保障数据隐私：包括训练数据来源应公开合法，使用下游应用提供的数据做微调时应限定数据使用范围。 AI与人类价值观对齐：通过人类反馈强化学习等手段，让AI与人类价值观对齐，遵循人类意图。 提供内容审查工具：可向用户提供内容审查工具，如OpenAI的moderation endpoint等，帮助用户判断内容是否违规。 技术手段反制AI滥用与数据隐私保护： 鉴别AI生成内容：AIGC的发展可能带来大量恶意生成的虚假信息，需要类似换脸甄别的技术来鉴别图像等信息是否由AI生成。 隐私计算应用：在数据隐私方面，隐私计算可在不暴露数据的情况下进行计算和分析，以实现数据隐私的保护。 AI安全行业发展潜力：在人工智能带来巨大想象空间的同时，安全问题值得进一步关注，看好AI安全行业的发展潜力。 市场机遇与潜在风险 建议关注公司：电科网安、人民网、安恒信息、奇安信、深信服、美亚柏科、启明星辰、格尔软件。这些公司有望在AI安全和合规领域受益。 风险提示：AI技术迭代不及预期；经济下行超预期；行业竞争加剧。 总结 国家互联网信息办公室发布的《生成式人工智能服务管理办法（征求意见稿）》为AIGC产业的规范化发展奠定了基础，强调了信息与数据安全、内容合规以及提供者的主体责任。该办法要求AI厂商在数据来源、内容生成、用户管理等方面履行法律义务，并通过技术手段如数据隐私保护、AI价值观对齐和内容审查工具来确保合规性。报告指出，在AI技术快速发展的同时，AI安全问题日益凸显，相关技术和行业将迎来重要的发展机遇。同时，报告也提示了AI技术迭代、经济下行和行业竞争加剧等潜在风险，建议关注在AI安全领域具有优势的企业。