AI 场景数据安全防护体系
项目主管兼方案设计者 · 明朝万达
📖
项目背景
随着 ChatGPT、文心一言等外部大模型在公司及客户内部普及，员工将客户信息、产品代码、内部文档粘贴到外部 AI 对话框，存在敏感数据泄露隐患。同时内部智能问答机器人也需要安全加固。
👤
我的职责
作为项目发起人与方案设计者，负责场景分析、技术方案设计、产品适配改造及效果验证全流程。
🛠️
执行过程
从需求分析到落地交付
- 1 梳理 3 大类 AI 风险场景：输入侧（员工粘贴敏感信息）、输出侧（AI 生成内容外泄）、内部 AI 系统风险
- 2 基于终端 DLP 扩展 AI 场景识别，新增对 ChatGPT、文心一言、通义千问等平台的抓取与监控策略
- 3 设计差异化处置策略：一般敏感内容弹窗提醒+审计日志，高敏感内容直接阻断并上报
- 4 加固内部智能机器人：代码片段脱敏、提示词注入防护、基于角色的访问权限控制
- 5 将方案标准化输出至浦发银行等金融客户，覆盖数据出境风险、客户隐私保护、模型训练数据安全
📊
项目成果
用数据说话
- ✓ 公司内部 AI 场景数据泄露事件从月均数十起下降至 0
- ✓ 内部智能机器人通过安全加固，效率与安全兼得
- ✓ AI 数据安全方案成功输出至浦发银行等金融客户，成为新增长点
- ✓ 形成"数据安全 × AI 安全"复合能力
📂