美媒：由AI生成的假马斯克，成了最大的网络骗子

8月15日消息，据美媒报道，近年来，人工智能深度伪造技术（Deepfake）在网络诈骗中广泛应用，尤其是利用伪造的埃隆·马斯克（Elon Musk）视频进行诈骗的案例尤为突出。这些视频通过模拟马斯克的声音和动作，误导投资者。这类深度伪造视频成本低廉、传播迅速，使得诈骗者能够轻易扩大其欺诈活动的影响范围，导致许多受害者因为虚假的投资机会而损失巨额资金。随着深度伪造技术的风险日益凸显，其每年可能导致的欺诈损失预计将达数十亿美元。
以下为翻译全文：
现年82岁的退休老人史蒂夫·比彻姆（Steve Beauchamp）本希望为家人增加一些收入，他把希望寄托在了埃隆·马斯克（Elon Musk）身上。去年底，比彻姆偶然看到一段视频，视频中马斯克似乎在推荐一个承诺能迅速获利的激进投资方案。受此启发，比彻姆迅速联系了该视频背后的公司，并以248美元开设了一个投资账户。然而，在接下来几周里，他逐步增加投资，最终从退休金账户中动用了超过69万美元。
但不久后，这些钱就消失了，落入了一群利用人工智能进行新型数字诈骗的骗子之手。这些诈骗者巧妙地篡改了一段马斯克的真实采访，利用AI技术替换了他的声音，并微调了他的口型，以匹配他们为这个数字人编写的新剧本。对于一般观众来说，这种操作几乎是察觉不出的。
比彻姆回忆起那段视频，感慨地说：“视频中的他，形象鲜明，一眼就能认出是马斯克。至于是否是AI让他说出那些话，我现在也无法确定。但就视频画面而言，如果有人要我从人群中识别他，我肯定能指出来。”
马斯克成深度造假常客
近几个月来，互联网上充斥着数以千计的这种由AI驱动的视频，这些被称为“深度造假”（Deepfake）的视频中，伪造的马斯克形象误导了众多潜在投资者。据德勤估计，这类由AI支持的深度造假每年可能导致数十亿美元的欺诈损失。
这些视频制作成本极低，几分钟内即可完成，并通过社交媒体进行推广，包括在Facebook上的付费广告，大大扩展了它们的影响范围。监测和检测深度造假视频的公司Sensity联合创始人兼威胁情报主管弗朗西斯科·卡沃利（Francesco Cavalli）对此发出警告：“这可能是有史以来最大规模的深度造假骗局。”
这些视频常常惟妙惟肖，精准捕捉了马斯克标志性的不连贯语调和南非口音。诈骗者通常从一段真实的视频入手，比如《华尔街日报》采访，造假视频中保留了记者的声音，这增加了视频的真实性。
利用先进的对口型技术，诈骗者调整了马斯克的嘴部动作，使其与他们伪造的台词完美匹配。他们还使用了声音克隆工具添加AI声音，这些工具能从样本片段中复制任何声音。最终的广告中，可能还包括伪造的图形，模仿新闻机构的样式，这对一般网络用户来说可能颇具说服力。
根据Sensity的分析，马斯克是这些视频中最常见的发言人。在近2000个分析样本中，特别是从去年底开始，他出现在了近四分之一的深度造假诈骗中。在那些以加密货币为主题的视频中，这一比例甚至高达近90%。深度造假广告还常常使用沃伦·巴菲特（Warren Buffett）这样的著名投资者和亚马逊创始人杰夫·贝索斯（Jeff Bezos）等商界大佬。
尽管很难准确统计出有多少深度造假在网络上流传，但通过搜索Facebook广告库中常用的与诈骗相关的语言，发现了数十万条广告，其中许多包括了深度造假视频。虽然Facebook已删除了许多违反政策的内容，并禁用了相关账户，但仍有其他视频留在了网络上，而且似乎每天都有更多视频出现。
YouTube也充斥着这些伪造的内容，这些视频常常带有“直播”标签。事实上，这些都是预先录制的深度造假视频。在YouTube上搜索关键词如“埃隆比特币会议（Elon Bitcoin conference）”，可以看到数十个伪装成直播的视频，视频中的深度造假马斯克正在兜售加密货币诈骗，误导性极强。
在美国前总统唐纳德·特朗普（Donald J. Trump）在比特币会议上发言后，YouTube上迅速出现了数十个标注为“直播”标签的视频，展示了一段预先录制的深度伪造马斯克视频，声称会加倍返还发送到他账户的任何加密货币。这些视频虽然吸引了大量观众，其中一些视频的观看次数达到了数十万。但YouTube表示，诈骗者可能使用网络水军人为夸大观看次数。
据非营利消费者权益组织Better Business Bureau的报告，一名得克萨斯州居民在2023年2月通过YouTube上一段所谓的“直播”视频，看到了伪装成马斯克的诈骗信息，因此损失了价值36,000美元的比特币。该居民表示：“我转了比特币，但什么都没收到。”
FB与YouTube成重灾区
YouTube在一份声明中表示，仅在今年1月至3月期间，平台就移除了超过1570万个频道和超过820万个视频，这些内容大多因违反其反垃圾邮件政策而被删除。
鉴于虚假广告泛滥，澳大利亚亿万富翁安德鲁·福雷斯特（Andrew Forrest）对Facebook的母公司Meta提起了民事诉讼，指责其在广告业务中的疏忽，声称这些广告业务误导了无辜用户进行错误投资。据悉，福雷斯特本人的视频也被用于制作深度造假广告。
Meta公司回应称，正在训练自动检测系统以识别平台上的欺诈活动，但也坦言这是一场复杂的猫鼠游戏，因为资金充足的诈骗团伙不断改变策略以逃避检测。YouTube则重申其禁止欺诈和视频篡改的政策，并在今年3月要求所有创作者在使用AI创造逼真内容时必须进行明确披露。
网络上充斥着大量相关的诈骗报告，其中不少人损失了他们的毕生积蓄。香港证券及期货事务监察委员会在5月份发出了关于涉及马斯克的诈骗活动的警告。今年早些时候，美国联邦贸易委员会和联邦调查局也警告美国民众，AI驱动的网络犯罪和深度伪造诈骗正日益增多。
FBI在一份电邮声明中强调：“犯罪分子正在利用AI作为力量的放大器，使网络攻击和其他犯罪活动更加有效且难以被侦测。”
数字诈骗与互联网的发展同步增长。但随着去年复杂的AI工具向公众开放，以马斯克为特征的新一波深度伪造浪潮应运而生，这些工具让普通人能够克隆名人声音或精确操控视频，吸引了色情行业、表情包制作者和越来越多的诈骗团伙的注意。
网络安全研究实验室CTM Insights的创始人卢·斯坦伯格（Lou Steinberg）指出：“现在的情况正在发生变化，因为有组织的犯罪团伙已经发现，通过这种方式可以赚钱。”他预计，我们将看到越来越多的这种假冒企图，目的就是骗钱。”
尽管AI生成的视频并不完美，例如马斯克的声音在一些视频中可能听起来机械化，而且他的口型并不总是与台词不匹配。但专家警告称，这些视频对于一些诈骗目标来说已经足够令人信服，并且随着时间的推移技术正在不断改进。
根据Sensity的卡沃利的说法，这些视频的制作成本非常低，大约只需10美元，而且大多数诈骗者使用一系列免费或便宜的工具在不到10分钟内拼凑出假视频。他们主要位于印度、俄罗斯和东欧。
“它有效，”卡沃利说。“因此，他们将继续扩大这一活动，跨越国界，用多种语言翻译，并不断向更多目标传播诈骗。”
老年人成为完美目标
这类骗局常以高回报的人工智能投资软件为幌子，初期诱使受害者投入小额资金——如250美元。随后，通过夸大投资的增值效果，逐渐诱导他们增加投资金额。
特斯拉股东大会的一条视频也被伪造，视频中马斯克解释了一个由AI驱动的自动交易产品，声称能够每天翻倍投资回报。
研究加密货币社区的专家指出，马斯克拥有一群独特的全球粉丝群体，这些粉丝多为保守派、反体制人士和加密货币爱好者，他们经常寻找赚取财富的非传统途径，这使得他们成为这些骗局的理想目标。
“肯定有一群人相信财富的秘密被隐藏了起来，”研究加密货币社区的研究者莫莉·怀特（Molly White）说。她指出，部分人群总幻想掌握财富秘密，认为一旦找到便能一夜暴富。
诈骗者尤爱针对年长互联网用户，他们虽对加密货币、人工智能或马斯克有所了解，但不熟悉安全投资方式的年长互联网用户。
“老年人一直是诈骗者眼中的一块肥肉，这一现象甚至早于社交媒体的兴起，”加州大学戴维斯分校的科学技术研究教授芬恩·布伦顿（Finn Brunton）说，他是加密市场的专家。
比彻姆是一名鳏夫，曾在加拿大安大略省的一家公司担任销售代表，直到75岁退休。2023年加入Facebook后不久，他就遇到了广告诈骗。尽管他记得曾在CNN的直播中看到过马斯克，但CNN的一位女发言人表示，马斯克已多年未在该台接受过采访。
去年12月，比彻姆向一家名为Magna-FX的公司汇款27,216美元，据他和该公司的电子邮件交流显示，Magna-FX使他相信他的投资价值在增加。期间，一名销售代理甚至使用软件远程控制了比彻姆的电脑，擅自转移资金。
当比彻姆尝试提取资金时，他被告知需要支付3,500美元的管理费和另外3,500美元的佣金。他付了这些钱，但后来又被告知需要支付20,000美元才能释放约20万美元的资金部分。尽管他已经用尽了退休储蓄，刷爆了信用卡，动用了信用额度并向妹妹借款投资和支付费用，诈骗者还是要求他支付更多费用。此时，比彻姆已意识到问题的严重性，于是联系了警方。
Magna-FX的大部分痕迹已经从网络上消失，包括公司网站、电话号码以及比彻姆曾与之交流的代理使用的电子邮件地址。一家名称和服务相似的公司对评论请求未作回应。
比彻姆在提交给Better Business Bureau的报告中表示：“此刻，我愿接受所有指责与嘲讽，作为对自己轻信的惩罚。”
他表示，目前正依靠一个未向诈骗者透露的较小退休账户及养老金来维持生计，而他原本计划使用这些积蓄环游世界。比彻姆已经向当地警方报案，但案件进展缓慢。
“由于到处都是欺诈案件，我的案件被放在了队列中，”他说，“我没有抱太大希望。”（小小）