AI骗局不可不防。

3月1日深夜，刘德华电影公司映艺娱乐通过其官方微博发布了⟪针对华仔俱乐部网站及相关小红书账号⟫ 严正声明和关于AI（人工智能）合成声音侵权事件的严正声明，郑重提醒各方人士提高警惕，避免落入AI语音合成技术骗局。

在AI技术大爆发的背景下，各种类型的诈骗可谓是层出不穷。近日，香港警方侦破了一起规模庞大的AI“深度伪造”诈骗案，诈骗者用YouTube、X等社交软件收集了公司高管的音视频资料，并用深度合成技术换脸、提前生成视频，在Zoom在线会议上成功欺骗了公司职员，涉案金额达到2亿港元。

AI时代来袭，如何有效监管和打击AI“深度伪造”诈骗，正在成为全球关注的一项重要议题。

刘德华公司紧急声明

3月1日晚间，刘德华电影公司映艺娱乐通过其官方微博发布了⟪针对华仔俱乐部网站及相关小红书账号⟫严正声明 ，引发关注与热议。

严正声明中提到，近期，部分网络主体假借刘德华先生粉丝会之名义开设小红书账号：HZJLB20080618，并通过网络平台组建群聊，邀请歌迷成为会员，甚至仿冒“华仔天地”官方网站，通过其盗版网站“华仔俱乐部”（www.awc618.co）散布关于刘德华先生2024年演唱会相关不实信息，同时向消费者收取演唱会门票的订金，造成了恶劣影响。

该声明表示，上述相关主体在未经刘德华先生及其经纪公司授权许可的情况下，擅自使用刘德华先生之姓名及肖像邀请歌迷成为会员，并刻意模仿、抄袭“华仔天地”网站的设计及内容，此举实属误导公众，公然侵害了刘德华先生之肖像权和姓名权，以及刘先生经纪公司之网页著作权。

同时，声明严厉谴责并警告相关方立即停止侵权行为，下架、删除相关侵权物料等全部侵权内容，且不得在其他任何网络平台再发表任何相关不实信息。也请相关网络平台及时采取必要措施，屏蔽、制止相关侵权内容的传播。

声明强调，未经官方公布的任何有关演唱会门票的预售或者公开发售消息均属不实，且刘德华先生及经纪公司并未授权以任何个人和粉丝团体注册小红书账号，本公司将通过法律途径严肃追究上述相关侵权主体的法律责任。

同时呼吁广大消费者及歌迷朋友切勿上当受骗，理性甄别，保护好自身的合法消费权益。

紧急提醒：警惕AI骗局

上述声明发布20分钟后，映艺娱乐官方微博再次发布了关于AI合成声音侵权事件的严正声明，提醒各方人士提高警惕，避免落入此类AI语音合成技术的骗局。

声明称，近日，该公司发现微信用户“华仔共享团”（微信号：KOH173）及其关联视频号“华仔集结号”通过信息技术手段伪造刘德华先生的声音，并在未经授权许可的情况下，于微信平台连续发布其剪辑拼凑视频，导致公众发生误认，从而达到利用刘先生的知名度吸引流量、售卖商品、从中营利的目的。

声明中表示，该行为已严重侵害刘德华先生的肖像权、姓名权及声音权益，并涉嫌构成诈骗。该公司郑重提醒各方人士提高警惕，避免落入此类AI语音合成技术的骗局。针对该不法人员的侵权行为，将采取一切必要的措施追究其法律责任，绝不姑息！

记者搜索“华仔集结号”视频号发现，该账号多次发布刘德华相关资讯内容，关注度最高的为“华仔给粉丝的一封家书”，目前点赞量已超过5万。

据官网介绍，映艺控股有限公司（映艺集团）由刘德华于2003年创立，并由经验丰富的专业团队管理。集团业务范围十分多元化，包括：电影与电视节目制作及发行、音乐制作及出版、艺人管理、广告制作、举办舞台剧及文化项目。此外，映艺还经营国际歌影迷会，以及从事知识产权的相关业务。

旗下的主要公司包括，华仔天地有限公司、亨泰環宇有限公司、映艺娱乐有限公司、映艺音乐有限公司、映艺剧团有限公司、映艺文化娱乐有限公司、安逗有限公司、映艺电视制作有限公司。

AI诈骗层出不穷

在AI技术迅速爆发的背景下，各种类型的诈骗层出不穷。

近日，香港警方侦破了一起规模庞大的AI“深度伪造”诈骗案，诈骗者用YouTube、X等社交软件收集了公司高管的音视频资料，并用深度合成技术换脸、提前生成视频，在Zoom在线会议上成功欺骗了公司职员，涉案金额达到2亿港元。

被诈骗的公司职员亲眼见到的所有人、亲耳听到的所有声音，全都来自经过“AI换脸、换声”的诈骗人员。

“深度伪造”是指利用深度学习技术生成合成图像、音频或视频的技术。由于公众人物的视频、音频、图片资料的公开性，为AI训练提供了大量素材，因此，这些名人频繁成为AI造假的“受害者”。

2月29日，奇安信集团发布的《2024人工智能安全报告》显示，2023年基于AI的深度伪造欺诈暴增了3000%，基于AI的钓鱼邮件增长了1000%；目前已发现有多个有国家背景的APT组织，利用AI实施了十余起网络攻击事件。

各类基于AI的新型攻击种类与手段不断出现，甚至出现泛滥，包括深度伪造、黑产大语言模型、恶意AI机器人、自动化攻击等，在全球造成了严重危害。《报告》认为，在积极拥抱大模型等人工智能技术之时，各界对其安全风险应保持警醒。

据湖北网警巡查执法此前公布的消息，AI技术新骗局诈骗成功率竟接近100%，其成功率之高、涉案金额之大、诈骗速度之快令人咋舌。

另外，据全球最大的专业安全技术公司迈克菲的调查显示，10%的受访者称，他们收到过来自AI语音克隆的信息，其中77%的受害者表示，他们因此而损失了钱。

世界经济论坛研究与分析主管布鲁内曼在一篇报告中称，现今AI算法（包括生成模型）创造出的内容与真实图像、视频或音频记录几乎难以区分。

据布鲁内曼的调查显示，“在过去一年里，26%的小公司和38%的大公司都经历过深度伪造欺诈”。她甚至预测：到2026年，超90%的网络攻击内容都将是AI合成。

研究表明，银行业特别关注这种深度伪造攻击。92%的网络从业者担心这种技术被滥用于欺诈，涉及个人银行和支付等服务时尤其令人担忧。

责编：杨喻程

校对：廖胜超