要闻速递:国家网信办:生成式人工智能产品提供服务前需申报安全评估
来源:经济参考报 • 2023-04-12 08:01:39
【资料图】
4月11日,国家互联网信息办公室就《生成式人工智能服务管理办法(征求意见稿)》(简称《征求意见稿》)公开征求意见,其中提出生成式人工智能产品提供服务前需申报安全评估。
生成式人工智能,是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。《征求意见稿》指出,国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作,鼓励优先采用安全可信的软件、工具、计算和数据资源。
《征求意见稿》要求,利用生成式人工智能产品向公众提供服务前,应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估,并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。
《征求意见稿》强调,提供者在提供服务过程中,对用户的输入信息和使用记录承担保护义务。不得非法留存能够推断出用户身份的输入信息,不得根据用户输入信息和使用情况进行画像,不得向他人提供用户输入信息。提供者应当建立用户投诉接收处理机制,及时处置个人关于更正、删除、屏蔽其个人信息的请求;发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密,或者不符合本办法要求时,应当采取措施,停止生成,防止危害持续。
奇安信集团安全专家认为,《征求意见稿》的发布,意味着数据安全和隐私保护已经成为生成式人工智能发展的前提和关键。随着生成式人工智能技术的日益成熟和普及,企业应该更加重视数据安全和隐私保护问题,确保业务的安全和可靠性。
关键词: