昨天下午，国家网信办等七部门联合发布《生成式人工智能服务管理暂行办法》。距离4月11日的征求意见稿不过三个
昨天下午，国家网信办等七部门联合发布《生成式人工智能服务管理暂行办法》 。距离4月11日的征求意见稿不过三个月，这速度够快的，更快的是，该《暂行办法》将在一个月后，也就是2023年8月15日起实施。
时间紧、任务重。作为中国AIGC这一当红炸子鸡赛道的创业者，需要在办法生效之前注意什么？哪些事情能做哪些事情不能做？这篇文章咱们就从创业者的视角来和大家进行逐条解读。
第一章 总 则
第一条 为了促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，根据《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国科学技术进步法》等法律、行政法规，制定本办法。
律师解读：
（1）《暂定办法》出台根据的这几部法，基本就是中国互联网网络安全、信息保护、数据合规领域基石般存在的法律依据了。
（2）整体而言，中国关于AIGC的监管反应速度在全球范围之内处于领先的第一梯度。为什么这么快？因为主管部门的压力大啊。全球范围之内只有中国互联网存在规模巨大的统一大市场，中国创业者又是全球互联网中最勤奋、最内圈的那帮人，所以网信办也算是被迫营业，快速回答行业从业者来自内心的疑问，这事能不能搞？怎么搞？所以AIGC的创业机会，不在海外，在中国。
第二条 利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务（以下称生成式人工智能服务），适用本办法。
国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的，从其规定。
行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定。
律师解读：
（1）只要你的应用支持中国境内用户使用，就得遵守该管理规定。哪怕你是海外的公司主体、海外的服务器、海外的研发肉身团队。
（2）如果只是集团公司内部办公使用AIGC，或只是将AIGC辅助用于自己公司的客户服务（如机器人客服），那么就不适用该暂定办法。
（3）新闻新版、影视制作、文艺创作这三个单拎出来说，是因为这三个具有舆论动员、文化影响的突出作用，所以需要格外关照。这三个AIGC领域的创业者，会被【优待】。
第三条 国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。
律师解读：
国家鼓励AIGC相关领域的发展，上面放风，地方跟风。预计未来各地政府或将对AIGC相关的公司有相关的扶持政策。各位创业者，可以留意好当地的科委、经信委等部门的通知。
第四条 提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，遵守以下规定：
（一）坚持社会主义核心价值观，不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容；
（二）在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视；
（三）尊重知识产权、商业道德，保守商业秘密，不得利用算法、数据、平台等优势，实施垄断和不正当竞争行为；
（四）尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益；
（五）基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。
律师解读：
（1）守法公民做出来的机器人也得守法，得政治正确。创业者要在用户内容输入关键词环节进行敏感词的屏蔽，要对AIGC产出的进行敏感词或者敏感画面的排查与脱敏，避免不必要的麻烦。
（2）知识产权的遵守要注意，不能直接去爬取别人家的数据库来做自家机器人的训练，也不能将别人有著作权的内容直接作为自己的合成素材来使用。
（3）为用户提供明星换脸服务的AIGC创业者可以歇歇了，这事它违法，会侵犯明星的肖像权等权利。
第二章 技术发展与治理
第五条 鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系。
支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能技术创新、数据资源建设、转化应用、风险防范等方面开展协作。
律师解读：
（1）国家鼓励大模型，更鼓励行业小模型。中国互联网发展的脱虚向实，促进实体产业的发展是大的方向。AIGC也一样，所以to C的AIGC创业不一定是好的方向，服务行业客户，在应用场景做商业服务，提升特定行业的工作效率是门好生意，毕竟国家鼓励的事情，上市公司好讲故事，央企国企好批预算。
（2）创业公司，联同高校等科研机构搞研究，是产品研发环节降本增效的好办法，说出去还好听。说不定同时还能申请国家课题经费。
第六条 鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新，平等互利开展国际交流与合作，参与生成式人工智能相关国际规则制定。
推动生成式人工智能基础设施和公共训练数据资源平台建设。促进算力资源协同共享，提升算力资源利用效能。推动公共数据分类分级有序开放，扩展高质量的公共训练数据资源。鼓励采用安全可信的芯片、软件、工具、算力和数据资源。
律师解读：
（1）AIGC除了应用层，底层技术也值得鼓励。数据不一定能够出海，但技术可以。
（2）国家鼓励AIGC算力领域的共享单车事业发展。
第七条 生成式人工智能服务提供者（以下称提供者）应当依法开展预训练、优化训练等训练数据处理活动，遵守以下规定：
（一）使用具有合法来源的数据和基础模型；
（二）涉及知识产权的，不得侵害他人依法享有的知识产权；
（三）涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形；
（四）采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性；
（五）《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》等法律、行政法规的其他有关规定和有关主管部门的相关监管要求。
律师解读：
（1）再次强调，赚钱可以，不能侵权。
（2）国家对互联网公司的侵权事宜重点关心2件事：知识产权、用户个人隐私数据。
第八条 在生成式人工智能技术研发过程中进行数据标注的，提供者应当制定符合本办法要求的清晰、具体、可操作的标注规则；开展数据标注质量评估，抽样核验标注内容的准确性；对标注人员进行必要培训，提升尊法守法意识，监督指导标注人员规范开展标注工作。
律师解读：
人机结合，不能只要求机器人，真人也有要求。公司要对标注人员进行相关的培训并做好培训记录，避免抽查或者事后反查。所谓合规做的早，事后少烦恼。
第三章 服务规范
第九条 提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。涉及个人信息的，依法承担个人信息处理者责任，履行个人信息保护义务。
提供者应当与注册其服务的生成式人工智能服务使用者（以下称使用者）签订服务协议，明确双方权利义务。
律师解读：
再次强调对于用户隐私信息的保护，同时明确网站或者应用的《用户协议》中应明确约定。
第十条 提供者应当明确并公开其服务的适用人群、场合、用途，指导使用者科学理性认识和依法使用生成式人工智能技术，采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。
律师解读：
机器人虽好，但别贪杯。比如中小学生可别指望着靠机器人来做作业，对于创业者来说，可以参考游戏行业，做好未成年的防沉迷机制。
第十一条 提供者对使用者的输入信息和使用记录应当依法履行保护义务，不得收集非必要个人信息，不得非法留存能够识别使用者身份的输入信息和使用记录，不得非法向他人提供使用者的输入信息和使用记录。
提供者应当依法及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等的请求。
律师解读：
（1）对于用户输入的内容进行产品环节的限制。
（2）对于采集到的用户数据，做好信息的妥善保管；不能将自己掌握的用户数据转手卖给其他第三方来补贴家用，偷偷卖也不行。这不仅是违法，还是犯罪。
（3）应用内一定要支持用户的账户删除功能。
第十二条 提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。
律师解读：
机器人产的图片和视频内容要标识是机器人，比如你是做虚拟数字人的，在视频上要进行明示标识，像刘润老师的视频号那样。
第十三条 提供者应当在其服务过程中，提供安全、稳定、持续的服务，保障用户正常使用。
律师解读：
不能卖了会员服务就跑路，不能总有Bug，这点对于接了境外api接口来封装小程序的创业朋友们来说就很难受，毕竟api服务的掉线，不是你服务不能的理由。用户如果告你，你要承担责任。
第十四条 提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改，并向有关主管部门报告。
提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。
律师解读：
这是互联网侵权的红旗原则+避风港原则在AIGC领域的应用。红旗原则指的是，你网站上的违法内容大家都看得见，你还不删，你就是有责任；避风港原则是，如果有用户投诉举报你网站上的内容存在问题，你需要进行删除，这样就不用承担法律责任。
第十五条 提供者应当建立健全投诉、举报机制，设置便捷的投诉、举报入口，公布处理流程和反馈时限，及时受理、处理公众投诉举报并反馈处理结果。
律师解读：
（1）客服入口不能少，哪怕后台是个机器人。
（2）要在用户协议中明确表示清楚自己网站的客户服务入口、流程和答复方式。避免用户投诉无门。
第四章 监督检查和法律责任
第十六条 网信、发展改革、教育、科技、工业和信息化、公安、广播电视、新闻出版等部门，依据各自职责依法加强对生成式人工智能服务的管理。
国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用，完善与创新发展相适应的科学监管方式，制定相应的分类分级监管规则或者指引。
律师解读：
（1）本条明确了AIGC监管，多个部门有责的监管思路。中国互联网监管历来的多龙治水方式，大家要维护的政府部门挺多，都得注意下。
（2）预计行业标准制定的各种微信群会再次拉起来，各个国标白皮书的生意会搞起来。作为创业者，支付小几万或许能够混个名额，但没啥大用。当心被骗。
第十七条 提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。
律师解读：
能力越大，责任越大。行业媒体类、社交产品、文化传播类的AIGC创业者，开展评估，并进行算法备案，很有必要。
第十八条 使用者发现生成式人工智能服务不符合法律、行政法规和本办法规定的，有权向有关主管部门投诉、举报。
律师解读：
AIGC需要朝阳群众。作为创业者，被举报喝茶，应该积极处理。避免被行政处罚。
第十九条 有关主管部门依据职责对生成式人工智能服务开展监督检查，提供者应当依法予以配合，按要求对训练数据来源、规模、类型、标注规则、算法机制机理等予以说明，并提供必要的技术、数据等支持和协助。
参与生成式人工智能服务安全评估和监督检查的相关机构和人员对在履行职责中知悉的国家秘密、商业秘密、个人隐私和个人信息应当依法予以保密，不得泄露或者非法向他人提供。
律师解读：
（1）为监管部门向创业者调查情况指明了大致的思路。创业者面临监管部门的问询和调查，可以围绕这几方面进行书面的回答。
（2）执法人员会保密。
第二十条 对来源于中华人民共和国境外向境内提供生成式人工智能服务不符合法律、行政法规和本办法规定的，国家网信部门应当通知有关机构采取技术措施和其他必要措施予以处置。
律师解读：
反向代理这事、搭建VPN这事监管部门都知道。国家会采取措施。所以国产大模型真的不考虑一下吗？各位创业的老板？
第二十一条 提供者违反本办法规定的，由有关主管部门依照《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国科学技术进步法》等法律、行政法规的规定予以处罚；法律、行政法规没有规定的，由有关主管部门依据职责予以警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停提供相关服务。
构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。
律师解读：
监管部门义正言辞的告诉了各位创业者，AIGC创业，不一定是违法，甚至可能还是犯罪。所以别以为自己在政府部门有人，真出事了罚点款进行，涉及网络数据、网络安全的，很容易被当成典型案例，创业者得注意。
第五章 附 则
第二十二条 本办法下列用语的含义是：
（一）生成式人工智能技术，是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。
（二）生成式人工智能服务提供者，是指利用生成式人工智能技术提供生成式人工智能服务（包括通过提供可编程接口等方式提供生成式人工智能服务）的组织、个人。
（三）生成式人工智能服务使用者，是指使用生成式人工智能服务生成内容的组织、个人。
律师解读：
官方定义，最为靠谱。
第二十三条 法律、行政法规规定提供生成式人工智能服务应当取得相关行政许可的，提供者应当依法取得许可。
外商投资生成式人工智能服务，应当符合外商投资相关法律、行政法规的规定。
律师解读：
（1）AIGC创业，需要经营许可、备案等资质，回头红林律师会在公众号和大家单独再聊，欢迎关注。
（2）网络安全，国家很关注。AIGC领域的初创公司股东如果有外资，可能会有点麻烦。
第二十四条 本办法自2023年8月15日起施行。
律师解读：
中国速度，主打的就是一个快准狠。
附录
国家网信办负责人就《生成式人工智能服务管理暂行办法》答记者问：
问：请简要介绍《办法》出台的背景？
答：制定《办法》主要基于以下几个方面的考虑：一是深入贯彻落实习近平总书记重要指示精神和党中央决策部署的重要举措。习近平总书记在主持召开中共中央政治局会议时指出：“要重视通用人工智能发展，营造创新生态，重视防范风险。”二是促进生成式人工智能健康发展的迫切需求。随着生成式人工智能技术的快速发展，为经济社会发展带来新机遇的同时，也产生了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题。《办法》坚持目标导向和问题导向，明确了促进生成式人工智能技术发展的具体措施，规定生成式人工智能服务的基本规范。三是推进实施法律规定的内在要求。制定《办法》，是落实《网络安全法》、《数据安全法》、《个人信息保护法》、《科学技术进步法》有关规定的重要要求，进一步规范数据处理等活动，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。
问：《办法》的适用范围是什么？
答：《办法》规定，利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务，适用本办法。国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的，从其规定。行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定。
问：《办法》坚持的主要原则是什么？
答：《办法》提出国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。
问：《办法》中所称生成式人工智能技术和生成式人工智能服务提供者是指什么？
答：《办法》中所称生成式人工智能技术，是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术；生成式人工智能服务提供者，是指利用生成式人工智能技术提供生成式人工智能服务（包括通过提供可编程接口等方式提供生成式人工智能服务）的组织、个人。
问：《办法》对促进生成式人工智能健康发展有哪些考虑？
答：《办法》在治理对象上，针对生成式人工智能服务。在监管方式上，提出对生成式人工智能服务实行包容审慎和分类分级监管，要求国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用，完善与创新发展相适应的科学监管方式，制定相应的分类分级监管规则或者指引。在促进发展具体措施上，一是明确鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系。二是支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能技术创新、数据资源建设、转化应用、风险防范等方面开展协作。三是鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新，平等互利开展国际交流与合作，参与生成式人工智能相关国际规则制定。四是提出推动生成式人工智能基础设施和公共训练数据资源平台建设。促进算力资源协同共享，提升算力资源利用效能。推动公共数据分类分级有序开放，扩展高质量的公共训练数据资源。鼓励采用安全可信的芯片、软件、工具、算力和数据资源。
问：《办法》明确提供和使用生成式人工智能服务应当遵守哪些规定？
答：《办法》明确提供和使用生成式人工智能服务应当坚持社会主义核心价值观，不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容；在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视；尊重知识产权、商业道德，保守商业秘密，不得利用算法、数据、平台等优势，实施垄断和不正当竞争行为；尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益；基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。
问：《办法》规定的治理制度主要有哪些？
答：《办法》明确生成式人工智能服务提供者应当依法开展预训练、优化训练等训练数据处理活动，使用具有合法来源的数据和基础模型；涉及知识产权的，不得侵害他人依法享有的知识产权；涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形；采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性。此外，明确了数据标注的相关要求。
问：《办法》主要明确了哪些生成式人工智能服务规范？
答：《办法》要求采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。规定提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。规定提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施并采取模型优化训练等措施进行整改。明确提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取有关处置措施，保存有关记录，并向有关主管部门报告。
问：《办法》对投诉、举报作了哪些规定？
答：《办法》规定提供者应当建立健全投诉、举报机制，设置便捷的投诉、举报入口，公布处理流程和反馈时限，及时受理、处理公众投诉举报并反馈处理结果。明确使用者发现生成式人工智能服务不符合法律、行政法规和本办法规定的，有权向有关主管部门投诉、举报。
