什么情况下进行大模型备案
若企业计划向公众提供基于大模型的生成服务,且该服务可能产生舆论影响或具备社会动员能力,则必须进行备案。适用场景包括但不限于:开放使用的聊天机器人、内容创作工具、智能客服等
自研大模型面向公众服务
对于企业自主研发的大模型,若其向境内公众提供生成内容服务,且该服务具备舆论属性或社会动员能力,均需进行备案
微调第三方模型用于公众服务
即便是调用第三方已备案的大模型,企业在经过二次开发或微调后,若面向公众提供具有舆论属性或社会动员能力的生成服务,同样需要履行备案手续
不备案的风险
法律风险
根据《生成式人工智能服务管理暂行办法》第21条的规定,未进行大模型备案或登记的企业,相关主管部门会依照相关法律法规予以处罚
市场风险
一些行业或市场要求大模型必须经过备案才能使用或销售。备案是企业履行责任的重要体现,为商业合作与融资创造优势
数据安全和隐私风险
未备案可能无法证明数据处理的合法性和合规性,导致数据合规性存疑,增加泄露风险,尤其在隐私敏感场景下会削弱用户对未备案的模型信任
技术风险
备案过程需要通过模型安全性申查、数据来源合规性验证及内容可控性评估,从源头防范不良信息的传播、数据滥用等风险
备案的好处
合规运营
按照《生成式人工智能服务管理暂行办法》要求,通过大模型备案后,可以在国内完全合规发展、运营大模型
安全保障
备案过程中,会按照国家标准进行一系列的安全评估,对于后续大模型内容安全问题可以起到关键作用
品牌宣传
大模型备案通过难度较高,目前国内通过大模型备案企业不多,且基本都是国内巨头企业,通过大模型备案可以展现公司实力,对于品牌宣传有所助力
国家补贴
多省市,对于通过大模型备案企业给予研发补贴、算力补贴等,如北京、广东、上海、重庆、贵州等
大模型备案的痛点及难点
上线备案材料撰写
包括《落实算法安全主体责任基本情况》、《算法安全自评估报告》、《拟公示内容》以及《大模型上线备案申请表》等,确保系统符合网信办的规定和标准
了解详情
评估测试题设计
我们提供一套专门用于测试大模型安全性和合规性的问题集合,涵盖各类风险场景,包括但不限于违法违规内容生成、伦理道德风险、偏见歧视性内容、虚假信息生成等。确保模型的安全合规性
了解详情
模型安全评估
我们通过31类风险语料(如政治有害、侵权内容)进行标注定义,并进行双重人工检验,确保对敏感内容的精准识别。评估方法、标准以及结果都经过严格测试,确保符合国家安全标准
了解详情
模型安全评估
包括注册方式、适用人群、投诉举报渠道、内容标识、未成年使用情况等内容,确保符合网信办的规定和标准,保障用户的安全使用体验
了解详情
安全评估报告撰写
安全评估报告是备案的核心文件,需全面分析数据安全、内容安全和个人信息保护风险,并提出相应的安全措施与应急预案。报告要求专业性强、视角全面,通常篇幅较长(100页以上)
了解详情
关键词库建设
建立7类安全风险关键词库,每类至少200词(如政治类),总规模建议1万词以上,重点地区(如北京)需20万词以上,确保有效内容过滤
了解详情
元岳科技打造全方位备案服务
备案表单材料撰写/修改服务
我们提供备案表单的撰写与修改服务,确保您的大模型在上线备案过程中顺利通过审核。贵司只需协助提供相关基本信息,我们将完成文档准备,确保符合监管要求
大模型《安全评估报告》出具
根据网信办要求,我们将为您出具大模型的《安全评估报告》。报告将详细阐述评估方法、判断标准和评估结果,确保模型符合各项监管要求并帮助顺利通过审核
大模型内容安全全方位测试
根据国家标准及网信办要求,采用人工评估、关键词评估与分类模型评估三种方式,对大模型内容安全进行全方位测试。针对评估结果提供防范措施和整改建议
关键词库内容提供
根据《生成式人工智能服务安全基本要求》和网信办规定,我们为贵司提供符合要求的关键词库,帮助有效识别和拦截潜在违规内容,确保模型在各类风险场景下的合规性
测试题库内容提供
我们提供符合《生成式人工智能服务安全基本要求》及网信办要求的测试题库,涵盖正常功能、拒答功能和边缘案例等多类测试,确保大模型各项功能的安全性和合规性
常态化安全防护服务
在备案期间,我们提供常态化的安全防护服务,包括支持API调用和本地化部署。我们为模型的输入输出提供安全审核,有效提升网信办测试通过率,确保持续合规运行
大模型备案流程
资格审查

确定备案级别

准备申请材料

准备申请材料

填写提交备案表

准备材料自测自查

《安全评估报告》

《模型服务协议》

《拦截关键词列表》

《模型测试题库》 等...

属地网信办初审

材料审核

技术测试

线上测试

初审意见

央办复审

中央网信办同步进行材料审核

实际测评并征求公安部工信部、科技部、

发改委、教育部、广电总局

等六部委意

通过备案

展示备案信息

接受公众监督

算法备案流程
注册登录填报主体信息

《算法备案承诺书》

《落实算法安全主体责任基本情况》

算法信息填报

《算法安全自评估报告》

《拟公示内容》

算法数据、模型、策略

算法风险与防范机制等

产品及功能信息填报

技术服务名称

技术访问方式

技术服务对象

技术服务频度

备案号公示

标注备案编号

接受公众监督

如何合作?流程与问题一站式解答
1.商谈及签订合同
明确企业需求,深入沟通,量身定制专业解决方案,达成合作协议
2.提供基础材料
协助企业准备并整理备案所需的各类资料,确保材料完整规范
3.提交审核
我司进行模型测评并出具安全评估报告,配合网信办开展监管测评工作
4.领取备案
完成公示公告流程,快速获取备案号,助力项目顺利上线合规运营
常见问题
Q:什么是算法备案?什么情况下需要进行算法备案?
根据国家网信部、公安部、工信部、国家市监总局一起联合发布出台的 《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》 和《生成式人工智能服务管理暂行办法》的文件中,凡在中国境内,应用算法推荐技术向用户提供互联网信息服务的企业或机构,必须依法进行算法备案。
需要进行算法备案的情况主要包括以下几种‌:
1.具有舆论属性或社会动员能力的算法推荐服务提供者‌:这类服务提供者包括新闻、社交媒体、搜索引擎等领域的企业。他们的算法通过分析用户行为和偏好,向用户推荐内容,对公众意见的形成和传播具有重要影响。因此,这些服务提供者必须向国家或地方互联网信息办公室(网信办)等监管机构提交算法的详细信息,包括算法的设计原理、推荐逻辑、数据来源等,并进行登记注册‌。
2.‌深度合成服务提供者‌:深度合成技术如深度伪造技术可以生成高度逼真的图像、视频或音频,广泛应用于娱乐、教育等领域,但也存在被用于制造虚假信息、侵犯个人隐私的风险。因此,提供深度合成服务的主体需要向监管机构提交算法的详细信息,包括合成技术的具体实现方式、使用场景、安全措施等,并进行备案‌。
3.‌生成式人工智能服务提供者‌‌:生成式人工智能技术可以自动生成文本、图像、音乐等内容,具有巨大潜力但也存在被用于制造虚假信息、侵犯版权的风险。因此,提供生成式人工智能服务的主体需要向监管机构提交算法的详细信息,包括生成逻辑、数据来源、版权声明等,并进行备案‌。
4.‌个性化推送类、排序精选类等算法技术‌‌:这些算法技术包括个性化推送类(如电商商品推荐)、排序精选类(如新闻资讯排序)等。如果这些算法技术被用于提供互联网信息服务,通常也需要进行备案‌。
Q:什么是大模型备案?什么情况下需要做大模型备案?
《生成式人工智能服务管理暂行办法》第十七条指出,提供具有舆论属性或者社会动员能力的生成式人工智能服务的,应当按照国家有关规定开展安全评估。这里所说的安全评估,其实就是生成式人工智能服务备案。
需要进行大模型备案的情况主要包括以下几种‌:
1.面向公众提供服务的生成式人工智能模型‌:如果大模型利用生成式人工智能技术,向境内公众提供生成文本、图片、音频、视频等内容的服务,且具有舆论属性或社会动员能力,则需要进行大模型备案。这包括自研大模型或基于开源模型进行深度定制且涉及大量训练数据的模型‌。
2.‌企业规模较大或服务范围广泛‌:‌企业规模较大,或者模型服务的应用范围较广,尤其是主营业务依赖生成式人工智能的企业,也需要进行大模型备案‌。
3.‌地方政策要求或推荐‌:‌所在地区提供备案补贴政策的企业,或被地方网信办、工业和信息化局等相关部门通知或推荐的企业,也需要进行大模型备案‌。
4.‌具有舆论属性或社会动员能力的模型‌:‌模型的实际应用场景涉及面向消费者的场景,尤其是收费场景;市场占有率行业头部的企业;具有外资属性的企业,这些情况也需要进行大模型备案‌。
Q:大模型备案一般需要提前多久开始准备?
大模型备案的流程周期:3 - 6 个月,时间跨度较长根据相关法规和流程,大模型备案涉及多个步骤和材料,需要详细准备和审核
大模型备案的具体流程和所需材料‌:
1.了解法规政策‌:企业需要深入了解国家层面的《生成式人工智能服务管理暂行办法》以及地方性的配套政策,确保合规性‌。
2.‌确定备案主体‌:‌大模型的开发者、运营者或所有者即为备案主体,通常是依法设立的企业法人或其他组织。在复杂合作模式下,需明确主要责任方‌。
3.‌自检模型状态‌:‌对训练数据进行严格筛查,去除敏感信息和侵权内容,确保数据来源合法合规;对模型架构进行漏洞扫描,防范网络攻击风险;通过模拟高并发场景测试模型的响应时间和吞吐量,保障稳定性;选取典型业务场景下的样本数据评估模型的准确性和召回率‌。
4.‌提交备案材料‌:‌包括《生成式人工智能 (大语言模型)上线备案申请表》、安全自评估报告、模型服务协议、语料标注规则等‌。
17861540261
0.035071s