互联网信息服务算法备案，是本文核心内容。今天我们看下近期公布的《生成式人工智能服务管理办法(征求意见稿)》下面简称《办法》，关于算法的相关要求。等办法正式出台的时候，相关企业也要参与到互联网信息服务算法备案。具体细节可以看看下文的介绍。
《生成式人工智能服务管理办法(征求意见稿)》观点摘要
01《办法》虽然还是征求意见阶段，但是预计未来正式出台后，将进一步防范生成式人工智能产品存在的相关风险，促进生成式人工智能技术健康发展和规范应用，保障国家和社会的安全秩序、企业和个人的合法权益。
02生成式人工智能不局限于算法技术，但其中涉及算法的部分与深度合成技术较为类似，均属于算法推荐技术范畴内。
03在适用范围上，只要是向中国境内公众提供生成式人工智能产品服务，无论该产品是否在中国境内研发和使用，都需要符合《办法》的相关要求。
04基于生成式人工智能产品的复杂性，其合规要求也更多元。《办法》从算法设计、内容合规、数据来源合法性审查、用户信息留存及画像建立、训练数据治理、算法备案、知识产权合规、商业秘密保护、虚假信息防范、人格权保护等方面，对生成式人工智能产品提出了全方位的合规要求。
05值得特别关注的三个重点：第一，《办法》第六条要求的生成式人工智能产品上线前的安全评估;第二，《办法》第十一条提出的用户输入信息的保护要求(即“三个不得”);第三，《办法》第十五条规定的出现生成内容违规时优化模型的期限要求(即“3个月”期限)。为此，利用生成式人工智能产品提供服务的组织和个人，应当加强生成式人工智能产品治理体系的科学性、合法性、完整性、及时性以及敏感性，不断提升技术治理标准、法律治理标准，以满足《办法》规定的全面细致合规要求。
六问六答
问题一：《办法》适用于哪些主体?问题二：生成式人工智能的定义及其与深度合成技术、算法推荐技术有什么关系?问题三：利用生成式人工智能产品向公众提供服务前需履行哪些义务?问题四：如何理解生成式人工智能产品数据来源的合法性要求?问题五：生成式人工智能产品如何进行信息留存、共享和用户画像?
问题六：如何切断用户输入内容传导的法律风险?
一、出台背景
根据《通知》，制定《办法》是为了促进生成式人工智能健康发展和规范其应用。目前，ChatGPT已风靡全球，我国互联网行业的头部企业也竞相发布类似的生成式人工智能产品，并开展内测或公测。公众纷纷体验，各行各业亦拉开了使用生成式人工智能产品作为生产力工具的帷幕。在给社会带来科技便利的同时，亦需注意到，生成式人工智能产品可能带来社会舆论、价值观、道德负面引导的社会风险、技术伦理风险、企业商业秘密和个人信息泄露风险、虚假信息风险、知识产权侵权风险及其他潜在的风险。例如，ChatGPT已出现用户输入信息和支付信息泄露的情况，意大利亦明确表示禁用ChatGPT，一些企业、高校也要求相关人员不允许使用ChatGPT。《办法》未来正式出台后，将进一步防范生成式人工智能产品存在的相关风险，保障国家和社会的安全秩序、企业和个人的合法权益。
二、《办法》六问六答
问题一：《办法》适用于哪些主体?
《办法》第二条规定“研发、利用生成式人工智能产品，面向中华人民共和国境内公众提供服务的，适用本办法”。据此，我们认为，只要是向中国境内公众提供生成式人工智能产品服务，无论该产品是否在中国境内研发和使用，都需要符合《办法》的相关要求。
在实践中，判断某主体是否受《办法》约束，需结合具体的商业模式进行判断。根据我们的实践经验，通常情况下，生成式人工智能产品的商业模式可能有三种，即自研自用、利用他人研发的生成式人工智能产品提供服务、利用自研生成式人工智能产品为他人提供技术支持。对应场景的适用主体初步分析如下：
1. 第一种：自研自用。例如，A公司自行研发生成式人工智能产品，并向中国境内公众提供服务，则无论A公司是否为中国境内公司，均属于《办法》的适用范围。
2. 第二种和第三种：利用他人研发的生成式人工智能产品提供服务或利用自研生成式人工智能产品为他人提供技术支持。例如，A公司作为生成式人工智能产品的研发者，为B公司提供技术支持(例如提供可编程接口)，B公司面向中国境内公众提供服务，则无论B公司是否属于中国境内公司，均属于《办法》的适用范围;A公司作为技术支持者，虽然没有直接向公众提供服务，但是《办法》第五条提到，通过提供可编程接口等方式支持他人自行生成文本、图像、声音等的主体需承担该产品生成内容生产者的责任，可见技术支持者也应当属于《办法》规制的主体范围，但目前技术支持者、生成内容生产者的具体责任仍有待进一步明确。
问题二：生成式人工智能的定义及其与深度合成技术、算法推荐技术有什么关系?
《办法》第二条规定“生成式人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术”。
《互联网信息服务深度合成管理规定》将“深度合成技术”定义为“利用深度、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术”。
《互联网信息服务算法推荐管理规定》中规定“算法推荐技术是指利用生成合成类、个性化推荐类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息”。
从文字描述上看，生成式人工智能不局限于算法技术，但其中涉及算法的部分与深度合成技术较为类似，均属于算法推荐技术范畴内。
问题三：利用生成式人工智能产品向公众提供服务前需履行哪些义务?
1. 申请安全评估前的产品性质判断。《办法》第六条中规定，利用生成式人工智能产品向公众提供服务前应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》(以下简称“《安全评估规定》”)的规定向国家网信部门申报安全评估。对此，我们认为，生成式人工智能产品无需特别去判定其是否“具舆论属性或者社会动员能力的深度合成服务”，只需从性质上去判定该产品是否属于生成式人工智能产品。
2. 前置算法备案义务。《互联网信息服务算法推荐管理规定》规定算法推荐服务提供者应在提供服务之日起10日内履行算法备案等手续，但《办法》则将算法备案作为生成式人工智能产品上线的前置条件，可见《办法》对生成式人工智能产品的算法备案提出了更为严格的要求。
3. 其他相关资质要求。对于利用生成式人工智能产品提供相关互联网信息服务的企业来说，结合具体商业模式和产品界面情况，可能还需要进行ICP备案、公安机关联网备案，以及取得ICP许可、办理等保备案及其他互联网信息服务相关许可等手续。
问题四：如何理解生成式人工智能产品数据来源的合法性要求?
《办法》第七条提出，提供者应确保预训练数据、优化训练数据符合数据安全、个人信息保护的相关要求，确保不含有侵犯知识产权的内容、确保数据的真实性、准确性、客观性、多样性。
实践中存在的困难。第一，数据来源复杂、追溯难，数据的准确性很难100%保证。对于大多数提供生成式人工智能产品服务的企业来说，训练数据可能来源于开源数据库或通过第三方采购，理论上确实应当保证个人信息的安全性、不侵犯他人知识产权、确保训练数据授权链条的合法合规性。但在实践中，由于部分训练数据的开源性及体量巨大，难以从源头追溯，企业可能难以100%确保数据的真实性、准确性、客观性。第二，利用涉及个人信息的数据训练模型，取得个人信息主体同意也比较困难。对于利用涉及个人信息的训练数据，如果要求提供者对此类数据的处理必需以获得个人信息主体同意为合法性基础，由于涉及到的个人信息范围较广、难以触达每一位个人信息主体，在落地上可能存在较大困难。
为了平衡安全性高、效率高和规模巨大的关系，我们建议，一方面相关企业可尽可能在使用训练数据前，通过审查知识产权相关协议、要求第三方提供数据合法性来源证明等方式尽到合理的注意义务，并通过设置过滤机制、数据安全及个人信息保护制度等方式建立事前、事中、事后的防控措施;另一方面，我国司法判例和行政处罚案例也应把握好自由裁量的度，实现政治效果、社会效果和法律效果的统一。
问题五：生成式人工智能产品如何进行信息留存、共享和用户画像?
《办法》第十一条指出，提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务。不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。法律法规另有规定的，从其规定。
我们理解，该条仍为生成式人工智能产品合法留存相关信息保留了空间。提供者在进行生成式人工智能产品迭代、优化训练过程中，产品历史服务过程信息是重要的训练数据源。但“能够推断出用户身份的输入信息”可能涉及到个人信息的处理，提供者在取得用户同意或具有其他合法性基础时，仍可以进行留存并根据规定进行生成式人工智能产品训练等使用。此外，提供者基于履行法定义务亦需留存用户输入信息，例如，输入信息可能属于日志信息的一部分，提供者需根据《互联网信息服务深度合成管理规定》第十六条的要求进行留存。
对于共享用户输入信息和建立用户画像，《办法》均采用了“不得”的限制性字眼，在该条款语境下，结合“法律法规另有规定”的立法技术，我们理解，除非法律法规明确允许外，否则提供者可能难以基于用户同意进行共享用户输入信息、建立用户画像。
问题六：如何切断用户输入内容传导的法律风险?
《办法》第五条明确，利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的提供者，包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任。这是否意味着用户通过输入信息(prompt)引导生成式人工智能产品生成违规/侵权内容时，企业作为提供者需要承担相应的法律责任?虽然实践中提供者对此承担责任难以实现，但结合此前的法院相关判例，对于人工智能类的产品和服务，通常会苛以较高的注意义务[1]，可能难以使用“技术中立”作为抗辩理由。
综上所述，关于互联网信息服务算法备案与生成式人工智能服务的文章，如果您需要办理互联网信息服务算法备案或者想更多咨询问题，请联系寅森企服在线客服。也可以拨打我们的电话010。
特别声明：本文来自网络或网友投稿，部分图片和文字来源于网络收集整理，仅供学习交流，版权归原作者所有，转载的目的在于传递更多信息及用于网络分享，并不代表本站赞同其观点和对其真实性负责，也不构成任何其他建议。如果您发现网站上有侵犯您的知识产权的作品，请与我们取得联系，我们会及时修改或删除；邮箱：1091218940@qq.com
本页标题：互联网信息服务算法备案与生成式人工智能服务,互联网信息服务备案说明
留言通道
发送成功之后，我们会尽快回复您！
Online Consulting
