一名新加坡商人通过视频会议被诈骗集团利用深度伪造（deepfake）技术假冒总理李显龙及其他政府官员，损失至少490万新元（约1512万马币）。骗子先以总理秘书黄鸿宽的照片通过WhatsApp联系受害者，随后发出冒充政府的钓鱼邮件，要求紧急提供与霍尔木兹海峡局势相关的资金，并附有伪造的由总理签署的官方信件，声称资金将在15个工作日内得到偿还 [1, 2, 3]。
受害人参加了一个Zoom视频会议，会议中出现所谓的总理及多位内外政府官员，实际上都是深度伪造生成的影像和音频。会后，受害人分多次向骗子指定账户转账，共计490万新元以上 [1, 2, 4, 3]。
警方后来披露该假视频的三大漏洞：唇动与语音不同步，所有发言均由同一账户同时发出，以及视频背景失真失调，其中包括Zoom标志模糊不清。这些技术缺陷有助于公众识别类似骗局 [4]。
警方提醒社会公众，政府官员绝不会通过电子邮件或电话要求转账或资金投资，也呼吁民众勿向陌生人转账或泄露个人信息 [1, 2, 4, 3]。总理李显龙强调，“政府官员绝不会透过此类沟通方式要求您转移资金或进行投资”，同时表示必须加快更新人工智能监管框架，保护公众免受伤害，但也须避免过急以免扼杀创新 [2, 3]。
警方于5月6日首次针对冒充高级官员的诈骗发出警告。5月13日李显龙总理在新加坡200年法治青年论坛上提及AI监管更新必要。5月14日警方公开了该深度伪造诈骗案的细节，并发动对公众的警示。今天（5月16日），警方更公布了骗案中的假视频片段，详细指出其技术缺陷，帮助公众辨别虚假信息 [1, 2, 4, 3]。
案件凸显人工智能深度伪造技术对社会安全构成的新风险，也呼吁加强相关立法与公众数字素养。
