产品介绍

格尔AI大模型应用安全护栏系统是一款大模型交互全链路风控与安全防护产品，它集检测、过滤、监控、响应于一体，采用“规则引擎+AI模型”的混合检测架构，对大模型输入与输出流量进行实时检测与动态防护，有效抵御提示词注入、指令攻击、敏感信息泄露、生成内容违规及异常等安全威胁。产品广泛兼容各类主流大模型与行业垂直模型，全面满足国家相关安全与合规标准，为各类AI大模型应用提供可靠、合规、持续的安全保障。

产品架构

产品功能

多模态内容风险检测：

采用深层解析算法，对文本、图片、文档等多模态内容进行全面检测，精准识别敏感/违规信息，支持策略化阻断，实现多模态交互全场景安全防护。

多维度策略管理：

支持多类型策略的制定、测试与迭代，支持规则逻辑组合、批量导入导出，具备策略下钻与告警日志关联能力，支撑策略优化与风险追溯。

敏感数据脱敏：

提供掩码、替换等多类脱敏方案，支持实时动态脱敏与PCRE二次校验，内置标准化模板并支持自定义扩展，适配多行业敏感数据防护。

异常行为封禁：

基于多场景触发机制自动识别用户违规异常行为，支持精细化封禁策略配置，留存全流程审计日志，支撑合规追溯与风险排查。

审计分析追溯：

全面采集大模型全流程操作与风险数据，支持日志自定义配置、导出及多维度统计分析，支持风险内容高亮标注与授权预览，支撑合规审计。

实时告警通知：

风险事件触发多渠道实时告警，包含完整风险维度信息，支持四级告警分级，可自定义告警阈值与接收人，保障风险快速响应处置。

应用场景

• 场景一：政务服务场景

防护重点：遵循《政务大模型安全规范》，保障数据安全与服务合规。

产品应用：拦截对抗攻击，脱敏敏感数据，全流程日志审计与记录

• 场景二：办公协同场景

防护重点：保护内部规章制度、人事、财务等核心敏感信息。

产品应用：监控交互内容，审核生成结果，权限管控限制员工行为。

• 场景三：决策支持场景

防护重点：保护财务、市场等敏感数据，验证模型分析结果准确性。

产品应用：保护输入数据；校验分析结果真实性，拦截“幻觉”内容。

• 场景四：企业客服场景

防护重点：防止客户敏感信息泄露，确保回复合规礼貌。

产品应用：实时拦截手机号、地址等隐私数据；审核话术，记录交互日志用于审计。

产品优势

全链路精准防护与闭环管控

实现大模型“输入-输出”双向精准风险检测，构建从事前风险预防、事中实时拦截到事后可追溯的完整防护闭环，有效抵御各类安全风险。

双检测引擎协同，兼顾高性能与高准确率

规则检测与语义识别双引擎协同运作，通过分层智能调度，既保障高并发场景的流畅性能，又提升风险识别的精准度。

策略灵活配置，场景兼容性强

提供多元且精细的策略配置能力，支持用户根据业务需求定制核心参数，可灵活适配不同行业场景的差异化安全管控需求。

极简接入适配，业务影响无感

支持多模型灵活接入，接入方式极简便捷，无需修改业务代码，可实现业务无感接入与安全防护并行。

支持特殊行业场景的定制化需求

可针对特殊行业场景，定制专属风控与安全防护方案，联动行业知识库，有效降低涉密及敏感信息泄露风险。

灵活部署，信创全面适配

提供软件与硬件一体机双部署方案，无缝兼容主流大模型与信创体系，同时支持各类业务系统通过API深度集成。

合规对标说明

当前我国生成式AI监管体系形成“国家标准定底线、行业规范提要求”的分层格局。GB/T 45654-2025为全行业通用技术基线，TC260-004为政务领域专项标准。格尔AI大模型安全护栏系统全面对标两大标准，实现全维度合规。

GB/T 45654-2025适配

产品内置双检测引擎，全量审核输入输出内容，违法内容识别率295%，歧视性内容识别率295%;支持对接知识库降低“幻觉”风险。敏感数据脱敏模块精准识别身份证、银行卡等信息，支持输入输出双向独立脱敏。系统具备全流程日志审计，留存不少于6个月，支持分级告警、一键关停。

TC260-004政务专项适配

选用部署阶段:适配政务云集约化，支持本地化与私有云部署，兼容信创体系，落实最小权限。运行阶段:实时拦截提示词注入、越狱攻击;多模态内容检测;日志留存不少于1年;支持定制化代答与拒答内容，对超出政务服务范围的提问自动引导。

产品资质