新手避坑：提示词中包含敏感信息的风险与规避

1. 前言：为什么新手容易在提示词中泄露敏感信息？

很多新手在使用大模型（如 ChatGPT、文心一言、讯飞星火）时，只关注 “如何让大模型生成想要的结果”，却忽略了提示词中的信息安全问题。比如：

1.1 为了让大模型 “更了解自己”，在提示词中输入 “我叫张三，手机号 138XXXX1234，在 XX 公司做财务”；

1.2 为了让大模型 “帮自己处理工作”，把公司未公开的项目文档、客户信息直接复制到提示词里；

1.3 为了让大模型 “解决个人问题”，输入自己的银行卡号、家庭住址、身份证号等隐私信息。

这些行为看似能让大模型更精准地生成内容，却可能导致敏感信息泄露，带来财产损失、隐私曝光、工作风险等严重后果。

接下来，我们就从 “敏感信息的类型” 讲起，一步步教新手识别风险、规避风险，安全使用大模型。

2. 先搞懂：提示词中常见的 “敏感信息” 有哪些？

在提示词中，不是只有 “身份证号、银行卡号” 才是敏感信息，很多看似 “普通” 的内容，也可能属于敏感信息。我们可以把常见的敏感信息分为 4 大类：

2.1 第一类：个人隐私信息（关乎个人安全与财产）

这类信息一旦泄露，可能导致个人被骚扰、诈骗，甚至财产损失，常见的有：

2.1.1 身份信息：身份证号、户口本信息、护照号、驾驶证号；

2.1.2 联系方式：手机号、微信号、QQ 号、邮箱地址、家庭住址、公司地址；

2.1.3 财产信息：银行卡号、支付宝 / 微信支付账号、信用卡有效期及 CVV 码、银行余额、理财产品信息；

2.1.4 生物信息：人脸照片、指纹信息、虹膜信息（虽然很少直接输入，但不要在提示词中描述 “我的人脸特征是 XX”）；

2.1.5 其他隐私：健康状况（如 “我有高血压，正在吃 XX 药”）、婚姻状况、子女信息（如 “我孩子叫 XX，在 XX 学校上一年级”）。

2.2 第二类：企业敏感信息（关乎企业安全与利益）

如果在工作中使用大模型，输入企业相关的敏感信息，可能导致商业机密泄露、项目被抄袭、客户流失，常见的有：

2.2.1 商业机密：未公开的产品研发计划（如 “我们公司正在研发 XX 型号的手机，核心功能是 XX”）、技术专利（如 “我们的核心算法是 XX，步骤为 1.XX 2.XX”）、商业模式（如 “我们的盈利模式是靠 XX 环节赚钱”）；

2.2.2 客户信息：客户姓名、联系方式、公司名称、合作金额、需求详情（如 “XX 公司要和我们合作，预算 100 万，需求是做一个 XX 系统”）；

2.2.3 内部数据：公司财务报表（如 “我们去年营收 1000 万，成本 800 万”）、员工信息（如 “我们部门有 10 人，工资范围是 XX-XX”）、内部流程文档（如 “我们的项目审批流程是 1. 提交申请 2. 部门经理审核 3. 总经理审批”）；

2.2.4 合作信息：未公开的合作协议（如 “我们和 XX 公司的合作期限是 5 年，每年合作费用 50 万”）、招投标文件（如 “我们参与 XX 项目的投标报价是 80 万，优势是 XX”）。

2.3 第三类：行业敏感信息（关乎行业规则与合规）

某些行业有特殊的合规要求，输入相关敏感信息可能违反行业规定，甚至触犯法律，常见的有：

2.3.1 金融行业：客户的信贷记录（如 “XX 客户的征信有逾期，逾期金额 5 万”）、交易流水（如 “XX 客户昨天转账 100 万到 XX 账户”）、理财产品的未公开收益数据；

2.3.2 医疗行业：患者的病历信息（如 “XX 患者诊断为肺癌，分期是 3 期，治疗方案是 XX”）、药品研发数据（如 “我们研发的 XX 药物，临床试验有效率是 80%”）；

2.3.3 教育行业：学生的成绩排名（如 “XX 班期末考试，张三考了第一名，总分 780 分”）、未公开的招生计划（如 “我们学校明年要扩招 100 人，分数线可能降低 20 分”）；

2.3.4 法律行业：未公开的案件细节（如 “XX 案件的原告证据是 XX，被告的辩护思路是 XX”）、客户的法律纠纷信息（如 “XX 公司被起诉，原因是违约，涉及金额 200 万”）。

2.4 第四类：其他敏感信息（可能违反法律或道德）

除了上述三类，还有一些信息虽然不直接关乎个人或企业利益，但可能违反法律法规或社会道德，输入后可能带来法律风险，常见的有：

2.4.1 违法信息：涉及毒品、赌博、暴力、恐怖主义的内容（如 “怎么制作毒品”“怎么组织赌博”）、侵犯他人知识产权的内容（如 “帮我抄袭 XX 文章，改写成自己的”）；

2.4.2 个人隐私相关的他人信息：未经允许输入他人的隐私信息（如 “我同事李四的手机号是 139XXXX5678，帮我给他发个短信”）；

2.4.3 敏感政治、宗教信息：涉及国家机密、敏感政治事件、宗教极端思想的内容（如 “关于 XX 事件的内部消息是 XX”）。

3. 核心问题：提示词中包含敏感信息会有哪些风险？

新手可能觉得 “只是在提示词里输了点信息，能有什么风险”，但实际上，这些风险不仅影响个人，还可能影响企业甚至行业，主要有 5 类风险：

3.1 风险 1：信息被存储，导致长期泄露

大部分大模型平台会存储用户的对话记录（包括提示词和大模型的回答），用于优化模型性能或合规检查。如果提示词中包含敏感信息，这些信息会被长期保存在平台的服务器中。

3.1.1 可能的后果：如果平台的服务器安全防护不到位，被黑客攻击，敏感信息就可能被窃取；即使平台合规，也可能因 “内部人员操作失误” 导致信息泄露（如员工不小心导出用户对话记录）；

3.1.2 示例：新手在提示词中输入 “我银行卡号是 6222XXXX1234，余额 5 万”，这条信息被平台存储后，若发生数据泄露，黑客可能用银行卡号尝试破解密码，导致财产损失。

3.2 风险 2：被大模型 “误用”，导致信息扩散

大模型在生成内容时，可能会 “引用” 提示词中的敏感信息，导致信息扩散到其他地方。比如：

3.2.1 新手输入 “我公司正在研发 XX 手机，核心技术是 XX，计划明年 3 月发布”，让大模型 “写一篇产品宣传文案”，大模型可能会在文案中直接包含 “核心技术 XX”“明年 3 月发布” 等未公开信息；

3.2.2 如果新手将这篇文案分享到社交媒体、行业群，或用于内部汇报，未公开的研发计划就会被更多人知道，可能导致竞争对手提前布局，影响公司的市场竞争力。

3.3 风险 3：引发诈骗或精准攻击

骗子如果获取到提示词中的敏感信息（如手机号、家庭住址、公司信息），可能会进行精准诈骗或攻击：

3.3.1 针对个人：知道手机号后，发送 “验证码诈骗短信”（如 “您的银行卡正在绑定新设备，验证码是 XX”）；知道家庭住址后，可能上门实施盗窃或诈骗；

3.3.2 针对企业：知道公司的项目计划后，冒充 “合作方” 联系客户（如 “我是 XX 公司的，我们的 XX 项目明年 3 月发布，现在可以提前预定合作名额”），骗取客户的预付款；知道员工信息后，冒充 “公司领导” 让员工转账（如 “我是王总，现在有个紧急项目需要转账 5 万，你先从公司账户转一下”）。

3.4 风险 4：违反法律法规，承担法律责任

我国有《个人信息保护法》《数据安全法》《反不正当竞争法》等法律法规，对敏感信息的保护有明确要求。如果在提示词中泄露敏感信息，可能违反这些法律：

3.4.1 个人层面：泄露他人隐私信息，可能违反《个人信息保护法》，面临罚款（最高可处 10 万元以下罚款），若造成他人损害，还需承担民事赔偿责任；

3.4.2 企业层面：泄露客户信息、商业机密，可能违反《数据安全法》《反不正当竞争法》，面临高额罚款（企业最高可处 5000 万元以下罚款），相关负责人还可能被追责；

3.4.3 示例：医疗行业从业者在提示词中输入患者的病历信息，让大模型 “分析治疗方案”，若该信息被泄露，可能违反《医疗保障基金使用监督管理条例》，医院和个人都可能被处罚。

3.5 风险 5：影响个人或企业声誉

敏感信息泄露还可能影响个人或企业的声誉，导致信任危机：

3.5.1 个人层面：如果个人健康状况、婚姻状况等隐私信息被公开，可能会受到他人的议论、歧视，影响正常的生活和工作；

3.5.2 企业层面：如果企业的商业机密被泄露，客户可能会认为 “这家公司不安全，不能合作”，导致合作终止；如果客户信息被泄露，客户会觉得 “自己的隐私没被保护”，选择其他企业，造成客户流失。

4. 实际案例：新手因提示词泄露敏感信息的 3 类典型情况

为了让新手更直观地理解风险，我们列举 3 类典型案例，看看敏感信息泄露后会带来哪些具体问题：

4.1 案例 1：个人隐私泄露导致诈骗

4.1.1 事件经过：新手小李想让大模型 “帮自己写一封求职自荐信”，在提示词中输入 “我叫李 XX，手机号 138XXXX1234，家住 XX 市 XX 区 XX 小区，之前在 XX 公司做行政，月薪 6000 元”；

4.1.2 信息泄露：小李使用的大模型平台因数据安全漏洞，对话记录被黑客窃取，小李的姓名、手机号、住址、工作经历等信息都被获取；

4.1.3 后续后果：黑客用小李的手机号注册了多个网贷 APP，尝试贷款；同时，骗子拨打小李的电话，冒充 “快递公司” 说 “你的快递丢失，需要赔偿，但需要提供银行卡号和验证码”，小李差点被骗走 5000 元；此外，小李还收到大量推销电话和短信，严重影响生活。

4.2 案例 2：企业商业机密泄露导致竞争劣势

4.2.1 事件经过：某科技公司的新手产品经理小王，想让大模型 “优化 XX 产品的功能规划”，在提示词中输入 “我们公司的 XX 产品计划下个月上线，核心功能是‘AI 自动生成报告’，技术原理是 XX，定价 99 元 / 月，目标用户是中小企业”；

4.2.2 信息泄露：小王将大模型生成的 “功能优化方案” 分享到行业交流群，方案中包含了提示词里的核心功能、技术原理、定价等未公开信息；

4.2.3 后续后果：竞争对手看到后，提前 10 天推出了类似产品，核心功能、技术原理几乎一致，定价 89 元 / 月（比小王公司低 10 元）；小王公司的产品上线后，用户纷纷选择更便宜的竞争对手产品，导致首月销量仅为预期的 30%，直接损失了 100 万营收。

4.3 案例 3：行业敏感信息泄露导致法律处罚

4.3.1 事件经过：某医院的新手护士小张，想让大模型 “整理患者的护理记录”，在提示词中输入 “患者张 XX，女，55 岁，住院号 12345，诊断为糖尿病肾病，血糖值 10.5mmol/L，正在使用胰岛素治疗，每天注射 2 次，每次 10 单位”；

4.3.2 信息泄露：小张忘记删除提示词中的患者信息，将大模型生成的 “护理记录” 上传到医院内部的非加密文档库，被其他无关人员看到并转发；

4.3.3 后续后果：患者得知自己的病历信息被泄露后，向当地卫健委投诉；卫健委调查后，认定医院违反《个人信息保护法》和《医疗质量管理办法》，对医院处以 5 万元罚款，对小张处以 2000 元罚款，并要求医院整改信息安全管理流程。

5. 新手避坑第一步：学会 “识别” 提示词中的敏感信息

很多新手泄露敏感信息，是因为 “不知道哪些信息属于敏感信息”。所以，避坑的第一步是学会识别 —— 在输入提示词前，先问自己 3 个问题，判断信息是否敏感：

5.1 问题 1：“这个信息如果被陌生人知道，会对我 / 他人 / 企业造成伤害吗？”

如果答案是 “会”，那这个信息就是敏感信息，不能输入提示词：

5.1.1 示例 1：“我的银行卡号是 6222XXXX1234”—— 陌生人知道后可能会尝试盗刷，造成财产伤害，属于敏感信息；

5.1.2 示例 2：“我们公司的核心算法是 XX”—— 陌生人（竞争对手）知道后可能会抄袭，造成企业利益伤害，属于敏感信息；

5.1.3 示例 3：“患者的病历信息是 XX”—— 陌生人知道后可能会泄露，造成患者隐私伤害，属于敏感信息。

5.2 问题 2：“这个信息是否需要‘保密’？（比如个人隐私、企业机密、行业合规要求）”

如果答案是 “是”，那这个信息就是敏感信息，不能输入提示词：

5.2.1 示例 1：“我的家庭住址是 XX 市 XX 区 XX 小区”—— 属于个人隐私，需要保密，属于敏感信息；

5.2.2 示例 2：“我们公司未公开的研发计划是 XX”—— 属于企业机密，需要保密，属于敏感信息；

5.2.3 示例 3：“客户的信贷记录是 XX”—— 属于金融行业合规要求的保密信息，属于敏感信息。

5.3 问题 3：“这个信息如果被公开，会违反法律法规或道德规范吗？”

如果答案是 “是”，那这个信息就是敏感信息，绝对不能输入提示词：

5.3.1 示例 1：“怎么制作毒品”—— 违反法律，属于敏感信息；

5.3.2 示例 2：“帮我抄袭 XX 的文章”—— 违反知识产权法和道德规范，属于敏感信息；

5.3.3 示例 3：“XX 患者的病历信息是 XX”—— 违反《个人信息保护法》，属于敏感信息。

5.4 快速识别小技巧：敏感信息 “三不输入” 原则

新手可以记住以下 3 个 “不输入” 原则，快速判断是否要输入某类信息：

5.4.1 个人隐私相关的 “唯一标识信息” 不输入：比如身份证号、手机号、银行卡号（这些信息能唯一确定一个人，泄露后风险极高）；

5.4.2 企业未公开的 “核心竞争信息” 不输入：比如未发布的产品计划、核心技术、定价策略（这些信息是企业的竞争力，泄露后会影响利益）；

5.4.3 行业合规要求 “禁止公开的信息” 不输入：比如患者病历、客户信贷记录、学生成绩排名（这些信息受行业法规保护，泄露后会违法）。

6. 新手避坑第二步：掌握 “规避” 敏感信息风险的 5 个实用方法

识别出敏感信息后，下一步就是学会规避 —— 在不输入敏感信息的前提下，让大模型依然能生成符合需求的内容。主要有 5 个实用方法：

6.1 方法 1：用 “模糊描述” 代替 “具体信息”

如果需要让大模型了解背景，但又涉及敏感信息，可以用模糊描述，不给出具体数据：

6.1.1 个人场景示例：

• 不要输入：“我叫张三，手机号 138XXXX1234，在 XX 公司做财务，月薪 8000 元”；

• 改为输入：“我是一名财务从业者，想让大模型帮我写一篇财务工作总结，总结内容围绕‘日常记账、税务申报、报表制作’三个方面，适合职场新人使用”；

6.1.2 企业场景示例：

• 不要输入：“我们公司是 XX 科技公司，正在研发 XX 型号的手机，计划明年 3 月发布，定价 2999 元”；

• 改为输入：“假设某科技公司要研发一款面向年轻人的智能手机，想让大模型帮我设计产品功能，目标用户是 18-25 岁的年轻人，预算有限，注重拍照和续航”；

6.1.3 核心逻辑：只告诉大模型 “需要做什么”“目标是什么”，不告诉大模型 “具体是谁”“具体数据”，

既满足大模型生成内容的背景需求，又避免泄露敏感信息。

6.2 方法 2：用 “虚拟数据” 代替 “真实数据”

如果需要让大模型处理数据类任务（比如分析表格、写报告），但数据包含敏感信息，可以用虚拟数据代替真实数据，确保数据格式一致但内容不真实：

6.2.1 企业场景示例（处理客户数据）：

• 不要输入：“真实客户数据：客户 A（姓名：李四，手机号 139XXXX5678，消费金额 5000 元）、客户 B（姓名：王五，手机号 137XXXX9012，消费金额 8000 元）”；

• 改为输入：“虚拟客户数据：客户 1（姓名：客户甲，手机号 130XXXX0001，消费金额 5000 元）、客户 2（姓名：客户乙，手机号 130XXXX0002，消费金额 8000 元），请基于这个虚拟数据，分析客户消费情况，生成简单报告”；

6.2.2 行业场景示例（医疗数据处理）：

• 不要输入：“真实患者数据：患者张 XX（住院号 12345，血糖值 10.5mmol/L，治疗天数 7 天）”；

• 改为输入：“虚拟患者数据：患者 X（住院号 00001，血糖值 10.5mmol/L，治疗天数 7 天），请基于这个虚拟数据，整理护理记录模板”；

6.2.3 核心逻辑：虚拟数据的 “格式” 和 “结构” 与真实数据一致（比如手机号都是 11 位，金额都是整数），能让大模型正常处理任务，但内容是虚构的，即使泄露也不会造成风险。

6.3 方法 3：“删除敏感信息后” 再输入提示词

如果需要输入的内容中混合了敏感信息和非敏感信息，可以先手动删除敏感信息，只保留非敏感部分：

6.3.1 个人场景示例（写简历）：

• 原始内容（含敏感信息）：“我叫张三，手机号 138XXXX1234，2022 年在 XX 公司做行政，负责员工考勤、会议安排，月薪 6000 元”；

• 删除敏感信息后输入：“2022 年在某公司做行政，负责员工考勤、会议安排，有 1 年行政工作经验，请帮我基于这个经历，写一段简历中的工作描述”；

6.3.2 企业场景示例（项目文档处理）：

• 原始内容（含敏感信息）：“XX 项目计划：合作方是 XX 公司，预算 100 万，2024 年 3 月启动，核心技术是 XX 算法”；

• 删除敏感信息后输入：“某项目计划：2024 年 Q1 启动，预算 100 万左右，需要用到算法技术，请帮我优化项目执行步骤”；

6.3.3 核心逻辑：筛选出内容中的 “关键非敏感信息”（如工作经验、项目时间），删除 “敏感标识信息”（如姓名、合作方名称、核心技术细节），让大模型基于非敏感信息生成内容。

6.4 方法 4：“本地处理敏感信息”，只输入 “处理结果”

如果任务必须用到敏感信息（比如计算个人所得税、分析企业财务数据），可以先在本地处理敏感信息（比如用本地 Excel 计算），只把处理后的 “非敏感结果” 输入大模型：

6.4.1 个人场景示例（计算个税）：

• 敏感信息：个人月薪 15000 元，专项附加扣除 2000 元；

• 本地处理：用 Excel 计算出 “应纳税所得额 = 15000-5000（起征点）-2000=8000 元”；

• 输入提示词：“已知应纳税所得额是 8000 元，请帮我计算对应的个人所得税金额，并说明计算过程”；

6.4.2 企业场景示例（财务分析）：

• 敏感信息：公司 2023 年营收 5000 万，成本 3000 万，利润 2000 万；

• 本地处理：计算出 “利润率 = 2000/5000=40%”“成本率 = 3000/5000=60%”；

• 输入提示词：“已知某公司的利润率是 40%，成本率是 60%，请帮我分析这个数据在行业中的水平，并给出优化建议”；

6.4.3 核心逻辑：敏感信息只在本地设备（如自己的电脑、手机）处理，不传入大模型平台，传入的只有 “无敏感标识的计算结果”，从源头避免敏感信息泄露。

6.5 方法 5：使用 “支持本地部署的大模型” 处理敏感任务

如果经常需要处理敏感信息（比如企业内部文档、个人隐私数据），可以使用支持本地部署的大模型（如开源的 LLaMA 2、Qwen 等），这类模型的对话记录不会上传到第三方平台：

6.5.1 适用场景：企业内部的文档分析、个人隐私数据处理（如健康记录整理）；

6.5.2 操作步骤：

• 第一步：在本地服务器或个人电脑上部署开源大模型（需要一定的技术基础，可参考模型官方文档）；

• 第二步：在本地设备上输入包含敏感信息的提示词（如企业内部财务数据、个人健康记录）；

• 第三步：大模型在本地生成结果，对话记录只保存在本地设备，不会上传到外部平台；

6.5.3 优势：敏感信息全程不离开本地设备，避免了 “平台存储”“数据传输” 过程中的泄露风险，安全性最高；

6.5.4 注意点：本地部署需要一定的硬件支持（如高性能显卡），且开源模型的功能可能不如商用模型全面，适合对安全性要求高的场景。

7. 新手避坑第三步：使用 “工具辅助” 规避敏感信息风险

除了手动方法，还可以用一些工具辅助识别和删除敏感信息，提高效率，主要有 3 类工具：

7.1 第一类：敏感信息识别工具（提前发现敏感内容）

这类工具能自动扫描输入的文本，识别出其中的敏感信息（如手机号、身份证号），提醒用户删除或修改：

7.1.1 工具推荐：

• 个人用户：腾讯云内容安全（免费版）、阿里云内容安全（免费版）；

• 企业用户：百度智能云敏感信息识别 API、华为云数据安全中心；

7.1.2 使用方法（以腾讯云内容安全为例）：

• 第一步：登录腾讯云内容安全平台，进入 “敏感信息识别” 模块；

• 第二步：将准备输入大模型的提示词文本复制到输入框；

• 第三步：点击 “扫描”，工具会自动识别出文本中的敏感信息（如手机号、身份证号），并用红色标注；

• 第四步：根据提示删除或修改敏感信息（如将手机号 “138XXXX1234” 改为 “138****1234”），再将修改后的文本输入大模型；

7.1.3 优势：自动识别准确率高（手机号、身份证号识别准确率接近 100%），避免手动遗漏敏感信息。

7.2 第二类：数据脱敏工具（处理敏感数据）

这类工具能将文本中的敏感信息 “脱敏”（比如替换、隐藏部分字符），保留数据格式但不泄露真实内容，适合处理包含敏感数据的文本：

7.2.1 工具推荐：

• 在线工具：DataMasker（免费在线数据脱敏工具）、敏感信息脱敏助手（浏览器插件）；

• 本地工具：Python 的 Faker 库（生成虚拟数据）、Excel 的 “替换” 功能（隐藏部分字符）；

7.2.2 使用方法（以 DataMasker 为例）：

• 第一步：打开 DataMasker 在线工具，选择 “文本脱敏” 功能；

• 第二步：将包含敏感信息的提示词文本粘贴到输入框（如 “我叫张三，身份证号 110101XXXX01011234”）；

• 第三步：选择需要脱敏的敏感信息类型（如 “姓名”“身份证号”）；

• 第四步：点击 “脱敏”，工具会自动将敏感信息处理为 “我叫 * 三，身份证号 110101********1234”，再将脱敏后的文本输入大模型；

7.2.3 优势：处理速度快，支持批量脱敏（如处理包含多个客户信息的文本），且脱敏后的文本能正常被大模型理解，不影响任务处理。

7.3 第三类：本地大模型部署工具（安全处理敏感任务）

这类工具能帮助用户快速部署开源大模型到本地设备，无需复杂的技术操作，适合技术基础较弱的用户：

7.3.1 工具推荐：

• 个人用户：LM Studio（支持一键部署开源模型，如 LLaMA 2、Mistral）、Oobabooga Text Generation Web UI（开源本地部署工具）；

• 企业用户：华为云 ModelArts（支持本地模型部署）、阿里云 PAI（企业级本地模型部署平台）；

7.3.2 使用方法（以 LM Studio 为例）：

• 第一步：下载并安装 LM Studio 客户端，打开后进入 “Model Library”（模型库）；

• 第二步：搜索需要的开源模型（如 “LLaMA 2 7B”），点击 “Download” 下载模型；

• 第三步：下载完成后，进入 “Chat” 模块，选择已下载的模型，即可在本地输入包含敏感信息的提示词，对话记录只保存在本地；

7.3.3 优势：一键部署，无需手动配置环境，技术门槛低，适合新手使用；且支持多种开源模型，满足不同功能需求。

8. 实战案例：完整规避敏感信息风险的操作流程

为了让新手更清楚如何落地，我们以 “企业员工用大模型写项目总结” 为例，展示完整的风险规避流程：

8.1 场景描述

某公司的新手员工小王，需要用大模型写 “XX 项目的阶段性总结”，项目总结中包含 “项目合作方名称、预算金额、核心技术细节” 等敏感信息，如何在不泄露敏感信息的前提下完成任务？

8.2 第一步：梳理内容，识别敏感信息

小王先整理项目总结的原始内容：

“XX 项目是与 A 公司合作的，预算 50 万元，2024 年 1 月启动，核心技术是基于 XX 算法的数据分析功能，目前已完成需求分析和原型设计，下一步计划开发核心功能。”

通过 “敏感信息识别工具” 扫描后，识别出的敏感信息包括：

• 合作方名称：A 公司；

• 预算金额：50 万元；

• 核心技术细节：XX 算法；

8.3 第二步：选择规避方法，处理敏感信息

小王根据信息类型选择不同的处理方法：

• 合作方名称（A 公司）：用 “模糊描述” 处理，改为 “某合作企业”；

• 预算金额（50 万元）：用 “虚拟数据” 处理，改为 “50 万元左右（虚拟数据）”；

• 核心技术细节（XX 算法）：用 “删除敏感信息” 处理，改为 “基于算法的数据分析功能”；

处理后的内容为：“某项目是与某合作企业合作的，预算 50 万元左右（虚拟数据），2024 年 1 月启动，核心功能是基于算法的数据分析功能，目前已完成需求分析和原型设计，下一步计划开发核心功能。”

8.4 第三步：使用工具验证，确保无遗漏

小王将处理后的内容复制到 “腾讯云内容安全” 工具中扫描，确认没有敏感信息后，再输入大模型，并补充提示词：

“请帮我基于以下内容写一篇项目阶段性总结，总结需包含‘项目进展、已完成工作、下一步计划’三个部分，语言正式，适合企业内部汇报：

某项目是与某合作企业合作的，预算 50 万元左右（虚拟数据），2024 年 1 月启动，核心功能是基于算法的数据分析功能，目前已完成需求分析和原型设计，下一步计划开发核心功能。”

8.5 第四步：生成结果，检查确认

大模型生成项目总结后，小王再次检查内容，确认没有包含任何敏感信息（如合作方真实名称、核心技术细节），且总结符合需求，最终将总结用于内部汇报。

8.6 案例总结

整个流程通过 “识别→处理→验证→确认” 四个步骤，结合手动方法和工具辅助，完全规避了敏感信息泄露的风险，同时完成了项目总结的撰写任务，适合大多数企业办公场景。

9. 常见问题解答：新手关于敏感信息风险的 6 个高频疑问

9.1 疑问 1：“我只是在提示词中输入了部分敏感信息（比如只输入手机号的前 7 位），会不会有风险？”

解答：有风险，部分敏感信息也可能被结合其他信息推断出完整内容：

9.1.1 示例：输入手机号前 7 位 “138XXXX”，结合你所在的地区（如通过 IP 地址获取），黑客可能通过手机号数据库推断出完整手机号；

9.1.2 建议：即使是部分敏感信息，也不要输入，最好用 “模糊描述”（如 “我的手机号是 138 开头”）或完全不提及。

9.2 疑问 2：“如果大模型平台说‘不会存储对话记录’，是不是就可以输入敏感信息了？”

解答：不建议输入，原因有 2 个：

9.2.1 平台承诺可能存在风险：部分平台可能 “口头承诺不存储”，但实际为了优化模型或合规检查，依然会存储对话记录，只是不公开；

9.2.2 数据传输过程有风险：即使不存储，提示词在传输到平台服务器的过程中，可能被黑客拦截窃取，导致敏感信息泄露；

9.2.3 建议：无论平台是否承诺不存储，都尽量避免输入敏感信息，从源头降低风险。

9.3 疑问 3：“我需要让大模型帮我写‘包含个人经历的文章’，必须提到工作单位、职位，这些算不算敏感信息？”

解答：是否算敏感信息，取决于 “是否会导致个人被唯一识别”：

9.3.1 如果工作单位是大型企业（如 “某互联网公司”）、职位是通用职位（如 “产品经理”），不会被唯一识别，不算敏感信息，可以输入；

9.3.2 如果工作单位是小型公司（如 “XX 市 XX 科技公司，只有 10 人”）、职位是特殊职位（如 “公司创始人”），容易被唯一识别，属于敏感信息，建议用模糊描述（如 “某小型科技公司的管理人员”）；

9.3.3 建议：提到个人经历时，避免 “小型单位 + 特殊职位” 的组合，防止被唯一识别。

9.4 疑问 4：“企业用户如何批量处理员工使用大模型的敏感信息风险？”

解答：企业可以通过 “制度 + 工具” 双重管控，主要有 3 个措施：

9.4.1 制定使用规范：明确规定员工 “不能输入的敏感信息类型”（如客户信息、商业机密），并定期开展信息安全培训；

9.4.2 部署企业级大模型：使用支持企业私有部署的大模型（如百度文心一言企业版、阿里通义千问企业版），对话记录存储在企业内部服务器，不泄露到外部；

9.4.3 安装敏感信息监控工具：在员工使用的电脑上安装敏感信息监控工具，自动拦截包含敏感信息的提示词，禁止输入大模型；

9.4.4 示例：某电商公司部署了企业版大模型，并规定 “员工不能输入客户手机号、订单金额等信息”，同时安装了监控工具，若员工尝试输入客户手机号，工具会自动弹出提醒，禁止提交。

9.5 疑问 5：“如果不小心在提示词中输入了敏感信息，该怎么补救？”

解答：立即采取 3 个措施，降低风险：

9.5.1 第一步：删除对话记录：在大模型平台上找到包含敏感信息的对话，点击 “删除”（大部分平台支持删除单条或全部对话记录）；

9.5.2 第二步：联系平台客服：如果平台支持，联系客服说明情况，请求删除服务器中存储的该条对话记录（部分平台会根据用户请求删除敏感记录）；

9.5.3 第三步：监控后续风险：如果输入的是个人信息（如手机号、银行卡号），后续注意防范诈骗电话、短信；如果是企业信息（如商业机密），监控竞争对手动态，防止信息被利用；

9.5.4 注意点：补救措施只能降低风险，不能完全消除，最好的方法还是提前规避，不输入敏感信息。

9.6 疑问 6：“开源大模型本地部署后，是不是就绝对安全了？”

解答：不是绝对安全，但安全性远高于商用模型，需要注意 2 个风险点：

9.6.1 本地设备安全：如果本地设备（如服务器）被黑客入侵，存储在设备上的对话记录（含敏感信息）依然可能被窃取，需要给设备安装防火墙、杀毒软件，定期更新系统；

9.6.2 模型本身安全：部分开源模型可能存在 “安全漏洞

”（比如被植入恶意代码），使用时可能导致敏感信息被偷偷发送到外部服务器，建议从官方渠道下载开源模型，避免使用不明来源的模型文件；

9.6.3 建议：本地部署后，定期对设备进行安全检查（如扫描病毒、检查系统漏洞），并只使用官方验证过的开源模型，进一步降低风险。

10. 不同行业的敏感信息规避重点

不同行业的敏感信息类型和合规要求不同，规避时需要重点关注的内容也不一样，下面列举 4 个典型行业的规避重点：

10.1 行业 1：金融行业（银行、证券、保险等）

10.1.1 核心敏感信息：

• 客户金融信息：银行卡号、信用卡 CVV 码、交易流水、信贷记录、理财产品持仓；

• 企业金融信息：公司账户余额、贷款金额、融资计划、风控数据；

10.1.2 规避重点：

• 绝对禁止输入客户的 “完整银行卡号、CVV 码”，即使是部分信息（如后 4 位），也需确认是否必要；

• 处理金融数据时，必须使用 “本地部署的企业级大模型”，对话记录存储在内部服务器，禁止使用公共大模型平台；

• 数据传输过程中需加密（如使用企业 VPN），防止被拦截；

10.1.3 示例：银行员工需要分析客户理财偏好，不能输入 “客户 A（卡号 6222XXXX1234）购买了 10 万 XX 理财产品”，应改为 “虚拟客户 X 购买了 10 万某类型理财产品，请分析该类型客户的偏好”。

10.2 行业 2：医疗行业（医院、药企、医疗设备公司等）

10.2.1 核心敏感信息：

• 患者信息：病历、诊断结果、住院记录、基因数据、过敏史；

• 医疗研发信息：药品临床试验数据、医疗器械核心技术、未上市药品的疗效数据；

10.2.2 规避重点：

• 严格遵守《医疗保障基金使用监督管理条例》《个人信息保护法》，患者信息禁止输入公共大模型；

• 处理病历数据时，必须用 “虚拟患者数据” 代替真实数据，且虚拟数据不能包含任何可识别患者的信息（如真实住院号、姓名）；

• 医疗研发数据需加密存储，仅授权人员可访问，禁止在公共网络环境下使用大模型处理；

10.2.3 示例：医生需要整理护理方案，不能输入 “患者张 XX（住院号 12345）诊断为糖尿病，血糖 10.5mmol/L”，应改为 “虚拟患者 X 诊断为糖尿病，血糖 10.5mmol/L，请整理护理方案”。

10.3 行业 3：教育行业（学校、培训机构、教育科技公司等）

10.3.1 核心敏感信息：

• 学生信息：姓名、身份证号、成绩排名、家庭住址、家长联系方式；

• 教育资源信息：未公开的课程内容、考试题库、招生计划、教学研发数据；

10.3.2 规避重点：

• 学生的 “成绩排名、家长联系方式” 属于隐私信息，禁止输入公共大模型；

• 设计课程或题库时，不能输入 “XX 学校 2024 年期中考试真题”，应改为 “某学校初中数学期中测试模拟题，请优化题目难度”；

• 教育机构使用大模型时，需制定员工使用规范，禁止泄露学生信息；

10.3.3 示例：老师需要出练习题，不能输入 “本班学生张三数学成绩差，需要补几何题”，应改为 “某初中学生数学几何基础薄弱，请出 10 道基础几何练习题”。

10.4 行业 4：互联网行业（电商、社交、游戏公司等）

10.4.1 核心敏感信息：

• 用户信息：手机号、收货地址、登录密码、消费记录、社交关系；

• 商业机密：产品研发计划、用户增长数据、算法模型、未上线功能的设计方案；

10.4.2 规避重点：

• 用户的 “手机号、收货地址” 禁止输入公共大模型，处理用户数据时需用 “脱敏后的虚拟数据”；

• 产品研发相关内容（如 “XXAPP 2.0 版本将新增 AI 推荐功能”），必须使用企业内部大模型，禁止在公共平台讨论；

• 算法模型的核心参数（如 “推荐算法的权重系数”）绝对不能输入任何大模型，防止被抄袭；

10.4.3 示例：电商运营需要优化商品推荐文案，不能输入 “用户 A（手机号 138XXXX1234）经常购买女装，消费金额 500-1000 元”，应改为 “某平台女性用户经常购买女装，消费金额 500-1000 元，请写商品推荐文案”。

11. 新手必备：敏感信息规避的 “10 条黄金法则”

为了让新手快速记住核心规避要点，总结 10 条简单易记的黄金法则，日常使用大模型时可直接参考：

11.1 法则 1：“身份证号、银行卡号，一个数字都别输”—— 这类信息泄露风险最高，绝对禁止输入；

11.2 法则 2：“手机号、家庭住址，模糊描述别具体”—— 如需提及，用 “138 开头的手机号”“某城市某区” 代替具体信息；

11.3 法则 3：“企业机密、客户信息，内部模型内部用”—— 这类信息只能在企业私有部署的大模型中处理，禁止用公共平台；

11.4 法则 4：“数据类任务，虚拟数据来代替”—— 处理表格、报告时，用虚拟数据保持格式，不泄露真实数据；

11.5 法则 5：“敏感信息先处理，结果再给模型输”—— 本地计算敏感数据的结果（如个税应纳税所得额），只输入结果；

11.6 法则 6：“输入之前先扫描，敏感信息早删掉”—— 用敏感信息识别工具扫描提示词，确认无敏感内容再输入；

11.7 法则 7：“平台承诺不存储，也别轻易信全部”—— 即使平台说不存储，也尽量避免输入敏感信息，防传输泄露；

11.8 法则 8：“个人经历要提及，避免唯一能识别”—— 不说 “XX 市 XX 小公司创始人”，说 “某小型公司管理人员”；

11.9 法则 9：“不小心输敏感信，删除联系加监控”—— 立即删除对话、联系客服，后续监控风险；

11.10 法则 10：“本地部署虽安全，设备防护别偷懒”—— 本地模型需给设备装防火墙、用官方模型，防设备被入侵。

12. 扩展阅读：帮助深入理解敏感信息保护的 2 份资料

如果想进一步学习敏感信息保护的知识，了解相关法律法规和技术细节，推荐 2 份基础资料：

12.1 资料 1：《个人信息保护法》解读（基础版）

12.1.1 核心内容：讲解《个人信息保护法》中与普通用户相关的条款，比如 “个人信息的定义”“处理个人信息的合规要求”“信息泄露后的维权途径”；

12.1.2 阅读价值：明白 “为什么不能泄露个人信息”“泄露后有什么法律后果”，增强信息保护意识；

12.1.3 获取渠道：可在 “中国政府网” 或 “国家网信办” 官网搜索《个人信息保护法》全文，或在知乎、CSDN 搜索 “个人信息保护法 新手解读”，选择语言通俗的文章。

12.2 资料 2：《大模型安全白皮书（2024）》（敏感信息保护章节）

12.2.1 核心内容：分析大模型使用中敏感信息泄露的常见场景、技术风险，以及企业和个人的应对策略，包括 “数据脱敏技术”“本地部署方案” 等；

12.2.2 阅读价值：了解大模型敏感信息泄露的技术原理，掌握更专业的规避方法（如不同脱敏技术的适用场景）；

12.2.3 获取渠道：可在百度智能云、阿里通义千问等大模型平台官网下载，或在行业报告网站（如艾瑞咨询）搜索 “大模型安全白皮书”，重点阅读 “数据安全” 章节。

13. 实战练习：敏感信息规避的场景模拟

为了巩固所学内容，建议做 1 个场景模拟练习，选择 “用大模型写员工绩效考核报告” 的场景，按以下步骤完成：

13.1 场景描述

某公司新手 HR 小李，需要用大模型写 “员工绩效考核报告模板”，报告中涉及 “员工姓名、岗位、考核分数、绩效排名” 等敏感信息，如何规避风险？

13.2 第一步：识别敏感信息

小李梳理出需要包含的内容，识别敏感信息：

• 敏感信息：员工姓名（如 “张三”）、考核分数（如 “85 分”）、绩效排名（如 “第 5 名”）；

• 非敏感信息：考核维度（如 “工作态度、工作效率、工作成果”）、报告结构（如 “开头总结、中间分点、结尾建议”）。

13.3 第二步：选择规避方法处理

小李用 “虚拟数据 + 模糊描述” 处理敏感信息：

• 员工姓名：用 “员工甲、员工乙” 代替真实姓名；

• 考核分数：用 “80-90 分、70-80 分” 的区间代替具体分数；

• 绩效排名：用 “上游、中游、下游” 代替具体排名；

处理后的提示词内容：“请帮我写一份员工绩效考核报告模板，报告需包含‘工作态度、工作效率、工作成果’三个考核维度，结构分为‘开头总结、中间分点评价、结尾改进建议’。模板中涉及员工信息时，用‘员工甲、员工乙’代替姓名，用‘80-90 分、70-80 分’代替具体考核分数，用‘上游、中游、下游’代替绩效排名，适合企业 HR 使用。”

13.4 第三步：工具验证与输入

小李将提示词复制到 “腾讯云内容安全” 工具中扫描，确认无敏感信息后，输入大模型，生成报告模板。

13.5 第四步：检查结果

大模型生成模板后，小李检查确认：模板中没有真实员工信息，只有虚拟标识和区间数据，可直接用于企业内部，不会泄露敏感信息。

通过这个练习，能熟练掌握 “虚拟数据 + 模糊描述” 的规避方法，后续处理类似场景时，就能快速应用。

14. 注意事项：新手容易忽略的 3 个敏感信息规避细节

在实际操作中，还有 3 个细节容易被新手忽略，导致风险：

14.1 细节 1：“截图、图片中的敏感信息” 也需规避

新手往往只关注文本中的敏感信息，却忽略了提示词中插入的截图或图片（如包含客户信息的表格截图、包含个人信息的证件照片）：

14.1.1 风险：图片中的敏感信息（如表格里的手机号、证件上的身份证号）会被大模型的图像识别功能读取，同样存在泄露风险；

14.1.2 规避方法：插入图片前，用图片编辑工具（如 Photoshop、微信截图工具）涂抹掉敏感信息（如用马赛克覆盖手机号），或用虚拟数据制作图片（如用 Excel 制作虚拟表格后截图）。

14.2 细节 2：“对话历史中的敏感信息” 会被复用

部分大模型会自动关联历史对话（如 ChatGPT 的上下文依赖功能），即使当前提示词没有敏感信息，历史对话中的敏感信息也可能被大模型复用：

14.2.1 风险：比如之前的对话中输入过 “公司预算 100 万”，当前提示词输入 “帮我优化项目方案”，大模型可能会在方案中包含 “100 万预算”，导致泄露；

14.2.2 规避方法：如果之前的对话包含敏感信息，需要开启 “新的对话窗口”，在新窗口中输入当前提示词，避免历史对话影响。

14.3 细节 3：“第三方工具传输中的敏感信息” 需加密

新手使用第三方工具（如微信、QQ）传输提示词时，忽略了传输过程中的风险：

14.3.1 风险：用微信将包含敏感信息的提示词发给同事，再由同事输入大模型，传输过程中若被拦截，会导致泄露；

14.3.2 规避方法：传输包含敏感信息的内容时，使用企业内部加密工具（如企业微信的加密聊天、钉钉的保密消息），或先处理敏感信息（如脱敏后）再传输。