深度伪造为什么会影响信任？
合成或操纵的音频、图片与视频可以模仿人的外观和声音，被用于冒充熟人或权威。合成媒体本身并不等于诈骗；风险在于它被用来制造错误信任、索取秘密或诱导未获准的行动。[1]
023 / 社会工程 / Deepfake Fraud
脸和声音都很像，这笔请求谁批准？
深度伪造诈骗 · Deepfake Fraud
视频里的人像极了熟悉的主管，还要求保密并立即向给出的收款账户付款。你不必先证明视频是假的，才可以暂停高风险操作。把“媒体从哪里来”“说话的人是谁”和“这件事是否获准”分开核实。
开始探索 ↓8–12 分钟
动手实验 · 场景判断 · 实用检查
动手实验 · 场景判断 · 实用检查
左侧屏幕出现西装男子，屏幕后方叠着面具与兜帽人物，桌前的人神情犹豫；右上圆框中男子正在打电话。它比喻影像冒充与另行联系，但没有显示电话号码来源，也不能凭这通电话证明请求已经获准。
本课任务 / 深度伪造诈骗
从辨认外观转向核实请求，用独立渠道与业务流程建立可追溯的确认。
- 认识合成声音与影像在冒充中的作用
- 区分媒体来源、身份线索与业务授权
- 选择不受原消息控制的核验路径
亲手探索 / 不同条件，不同结果
先收住操作，再把核验放到独立的那条线上。
切换媒体来源、回拨路径与回复，再核对双人独立审批及收款记录。比较新提供的号码与既有可信目录，看看来源可核验为何仍不足以继续正式审核；不拨号、不生成仿冒媒体，也不执行付款。
数据与信任工作台 · 封闭离线模型
声音再像，也能批准这笔请求吗？
一段自称负责人的媒体要求紧急付款，并附上新回拨号码和收款资料。把媒体来源、请求核实、审批权限与收款资料分开检查。
固定虚构请求：采购单 PO-示例-17，要求更换收款账户并紧急付款。本组织要求从既有目录独立回拨、核对这份请求、两位独立授权人员复核，并通过既有可信流程确认收款资料。课堂不会拨号或处理付款。
来源凭证可核验，不等于内容属实或发送者具有本次审批权限；合成标记也不是诈骗结论。
本项是预设通话结果。只有通过独立可信渠道核对，才能作为本例的有效回拨证据。
- 媒体来源线索
- 等待核对
- 这份请求的授权条件
- 未作判断
尚未检查当前条件。修改选择会清除旧结论，请重新检查。
只把媒体改为“来源凭证可核验”，看看业务授权是否改变。再把回拨改为可信目录，并核对具体请求、独立审批与收款资料。这里没有视觉或语音真假分类器；媒体看起来真实也不能越过业务授权。
随手查 / 把理解带回实际工作
理解机制之后，检查这些细节。
实验是简化模型。真实环境需要明确业务规则、验证失败路径，并持续维护配置与证据。
01 / 实用细节
先看它要求你做什么
紧急、保密、绕过审批、更换收款资料或索要验证码，都值得暂停核验。即使最终证明影像是真人，也不自动让异常操作符合流程。把需要确认的对象、金额或资料范围写清，避免只问“是不是你”却没有核对请求本身。[1][4]
02 / 实用细节
核验渠道不能由可疑请求提供
从之前可信的通讯录、已知电话或正式应用主动发起联系，不使用同一消息附带的新号码证明它自己。联系不上时保持待核验，并按既有升级流程寻找其他可信联系人；无法确认不等于已经确认是诈骗，也不是放行理由。[2][1]
03 / 实用细节
第二条消息不一定是独立证据
同一账号的文字确认、同一视频会议里的多人附和，可能仍来自同一受控环境。独立性取决于联系路径与控制来源，不能只数消息条数。课堂把可信目录设为前提，现实还需维护目录和渠道本身的安全。[1][2]
04 / 实用细节
内容凭证说明来源记录，不替媒体判真
验证内容凭证可检查相关来源断言、签名和绑定是否符合要求，但来源记录可能不完整，也未必直接标识画面中的自然人。没有凭证不证明是假的，有效凭证也不证明事件真实或说话人具备审批权。[3]
05 / 实用细节
批准要绑定到这一项操作
把核实结果对应到具体接收方、金额或变更内容；关键内容变了，应重新走确认流程，不能沿用旧的“同意”。按组织政策进行双人复核或正式审批，让身份识别与业务决定各有证据。课堂确认不是现实支付授权。[4]
06 / 实用细节
已经操作，尽快停止后续影响并报告
保存原始消息、时间、渠道与已进行的动作，向组织安全团队或当地适用的举报渠道提供必要线索。若已付款，及时通过官方渠道联系相关机构寻求处置；不承诺追回款项，也不在原可疑会话中继续交出验证码或更多资料。[1][2]
从模拟，到验证
找一个获准的环境，实际检查一次。
勾选用于本页自查，不会自动标记整课已学会。练习与清单刷新后重置。
本页已检查 0 / 5 项
视频里的高管紧急要求付款，可靠的核验方式是？
能解释原因，再标记学会。
小测结果同步错题本；“已学会”沿用原有本地学习记录。
资料与依据
- FBI IC3 · Generative AI and Financial Fraud ↗
2024-12-03 公告：音视频冒充、独立核实与记录报告；不引用留言或新闻二手统计
- FTC · AI Voice Cloning in Family Emergency Scams ↗
使用已知电话号码核实，熟悉声音不作身份证明；只引用官方正文
- C2PA 2.4 · Content Credentials Explainer ↗
来源与事实真伪的区别，凭证缺失、来源完整性与自然人身份的边界
- OWASP · Transaction Authorization ↗
重要操作内容确认、认证与授权分离、变更后重新授权
本页场景、人物与数据均为教学示例。互动选择不会上传；收藏、已学会与错题沿用当前浏览器本地存储。来源正文核对日期：2026-10-11。