a级认证
近日,天融信天问大模型首批入选大模型安全性测评“磐石·x”榜单,指令安全、内容安全、模型安全、网络安全和数据安全五大维度测评均符合最高级别安全性要求,被认定为a级。
注:大模型安全性等级分为三个级别:a级、b级、c级,a级为最高级别,c级为最低级别
大模型安全性测评“磐石·x”榜单计划由中国软件评测中心(工业和信息化部软件与集成电路促进中心)联合数据安全关键技术与产业应用评价工业和信息化部重点实验室、中国计算机行业协会数据安全专业委员会发起,通过指令安全、内容安全、模型安全、网络安全和数据安全五大维度对大模型客观安全能力进行测评,旨在为产业及学术界提供具备权威度的参考指标。
就在刚刚结束的中关村论坛高精尖技术产品首发会上,天融信天问大模型一亮相便引人关注。相较于同类产品,天问大模型依托于天融信太行云提供强大的计算、网络、存储资源及安全的运行环境,采用大小模型自主协同技术,融合业务数据、网络安全领域数据和能力,在安全知识智能问答、威胁情报深度分析、安全运营高效研判等应用场景上拥有显著优势。
安全知识智能问答
天问大模型具备较强的语义理解和生成能力,基于安全知识智能客服提供个性化服务,在人员培训、客户服务、报告编制等方面大幅提高效率,降低运营、运维及服务实施等成本。
威胁情报深度分析
基于威胁情报查询系统,天问大模型可提供威胁情报分析服务,将复杂的威胁数据转换为易于理解的情报内容。通过对输入的ioc情报进行深度分析和推理,提供实时、准确、全面的威胁评估和建议,为安全运营团队提供重要参考信息,防范潜在安全风险。
安全运营高效研判
在安全大数据分析方面,安全人员可通过对话的方式,快速获得研判分析结果或生成执行指令,同时帮助或替代部分人工安全分析及运营工作,提升安全运营效率。结合大数据平台充分利用已有专家经验,天问大模型可深度挖掘出潜在的攻击特征和行为模式,提高威胁检测的准确性,并预测未来可能发生的攻击,进一步促进智能化网络安全防护。
在大模型安全能力方面,天融信相关负责人表示,天融信在近30年的成长中,在技术、实践中形成了雄厚的积累。天问大模型使用高质量数据进行增量预训练、微调和人工对齐等操作,同时结合rag、思维链等技术,大幅降低了幻觉、偏执等大模型内容安全问题。通过采用关键字过滤、规则匹配、模型检测等多种技术手段,防护大模型输入提示词和输出响应内容,最终成功确保天问大模型在网络安全、数据安全、内容安全、模型安全和提示安全等方面均达到业界先进水平。
展望未来,天融信表示将持续深化“ai 安全”发展路径,推动大模型在研究、开发、应用、部署、运营、管理和服务等方面的工程化进程,将ai技术与行业实践深度结合,为网络安全产业注入新活力,并助力各行业加速数智化转型。