国家互联网信息办公室4月11日发布了《生成式人工智能服务管理办法(征求意见稿)》(以下简称《征求意见稿》)，首次明确了生成式人工智能的定义，提出了“提供者”内容生产、数据保护和个人隐私等方面的法定责任作出阐述。
　　分析指出，《征求意见稿》的出台，表达了对国内继续发展生成式人工智能技术的支持，同时也针对潜在的风险提出了解决方案，利于生成式人工智能的健康发展和规范应用。
　　有利于生成式人工智能的健康发展和规范应用
　　《征求意见稿》是生成式人工智能领域的首份监管文件，根据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规制定。
　　《征求意见稿》从多方面规范生成式人工智能健康发展。涉及个人信息安全方面的，《征求意见稿》提出，禁止非法获取、披露、利用个人信息和隐私、商业秘密；提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务。不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。
　　《征求意见稿》重点强调了生成式人工智能产品训练数据及生成内容的真实性。其中，就提供生成式人工智能产品或服务作出五大要求，提出“利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息”。同时，也对产品的训练数据作出五项要求，提出“能够保证数据的真实性、准确性、客观性、多样性”。
　　在权责方面，《征求意见稿》提出，利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人，承担该产品生成内容生产者的责任；通过提供可编程接口等方式支持他人自行生成文本、图像、声音等的服务提供者，也需承担该产品生成内容生产者的责任。
　　在内容规范方面，《征求意见稿》主要提出，提供生成式人工智能产品或服务应当遵守法律法规的要求，利用生成式人工智能生成的内容应当体现社会主义核心价值，且需要尊重知识产权、商业道德，不得利用算法、数据、平台等优势实施不公平竞争。
　　《征求意见稿》也给予了相应的容错性与惩罚措施：向用户提供服务前，生成式AI产品应向国家网信部门申报安全评估，并履行算法备案和变更、注销备案手续等。在提供服务期间，若生成违法内容，则应3月内优化模型以防止再次生成；若被用于开展违法违规行为，则应当暂停或终止服务。
　　“《征求意见稿》的发布符合预期，是《网络安全法》等上位法在生成式人工智能领域的具体落实，有利于产业的健康发展和规范应用。”国联证券TMT首席分析师孙树明表示。
　　当前，以百度、华为、阿里、360等为代表的企业，陆续布局或正式推出了大模型产品。
　　“生成式人工智能应用落地不断加快，商业化空间正逐步打开，相关管理政策的推出，有望指引生成式人工智能行业发展方向，促进行业长期健康发展。”开源证券传媒行业首席分析师方光照指出。
　　未来大概率推出生成式AI的监管细则
　　生成式人工智能可以按使用者的个人需求创作生成内容，并且生成的内容人工很难辨别真实性。安全问题随之而来，例如信息造假、内容侵权、数据暴露等方面。意大利个人数据保护局3月31日宣布，从即日起禁止使用聊天机器人ChatGPT，并限制开发这一平台的OpenAI公司处理意大利用户信息。同时个人数据保护局开始立案调查。近日，韩国三星称，该公司近期发生的数起数据泄露事件和ChatGPT直接相关。
　　《征求意见稿》也强调了生成式人工智能产品的安全性。《征求意见稿》指出，提供生成式人工智能服务应当按照《中华人民共和国网络安全法》规定，要求用户提供真实身份信息。利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。提供者应当按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识。
　　《征求意见稿》还提出，国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。但利用生成式人工智能产品向公众提供服务前，应申报安全评估。
　　“网络安全、数据安全是保障生成式人工智能产业健康发展和规范应用的关键，产业链相关企业均将不同程度受益于生成式人工智能产业发展。”孙树明表示。
　　《征求意见稿》或许只是第一步。
　　方正证券计算机首席分析师方闻千表示，此次《征求意见稿》的发布标志着国家网络安全监管部门对于生成式人工智能的监管正式落地，且未来大概率推出生成式人工智能的监管细则，并将其纳入到网络安全常规保护工作。从具体涉及的细分领域来看，内容安全、数据安全、流量可视等安全监管侧的需求将得到显著提升。
（文章来源：新华财经）