他“复制”了女儿，她被“偷”了脸

久未露面的57岁著名音乐人包小柏，这两天再次进入大众视野已是一头长白发。距离他上一次成为话题人物已过去14年。彼时，他为《快乐女声》担任评委，点评辛辣、意气风发。
这次，他用AI技术在数字世界里“复活”了去世的女儿，“她”不仅可以即时回复对话，而且还在妈妈生日时唱了生日快乐歌。
同样是最近，另一群中老年网友却被AI的深度伪造伤了心。他们发现自己真心实意追了一阵的叶琳娜、娜塔莎、April安娜、艾莉儿……通通不存在。这些热爱中国文化，会说一口流利中文的俄罗斯美女博主，都是有人“偷”了一位乌克兰女孩的脸，批量生产的AI换脸数字人。
技术，再次展露出了“双刃剑”的特性。


“复活”亲人的不止是包小柏
2021年，包小柏22岁的女儿因病去世。在此前台媒的一期节目里，他首次透露自从女儿去世后，再也没有理发的原因：头发有一段曾经天天触碰女儿的额头。


包小柏透露女儿去世后没理发的原因
这两天，这段视频被翻出来，和AI“复制”女儿的报道一起在社交平台上扩散。
思女心切的包小柏这几年里攻读博士，自学AI技术，经过反复训练，如愿克隆了一个“女儿”，“对我而言，AI可以让我明确地知道，能把思念的模式换一种工具来表达。”




包小柏用AI“复活”女儿
用AI“复活”亲人，包小柏不是第一个吃螃蟹的人。1月下旬，我们曾报道过一支90后的创业团队，专门提供克隆数字人的服务，“浙江父亲想用AI复活儿子”的话题当时还冲上微博热搜榜第二。


“浙江父亲想用AI复活儿子”的话题冲上热搜
创始人张泽伟及其团队，2023年5月至今已为600多个家庭提供AI克隆服务，其中过半为失去子女的年长父母。
在张泽伟看来，团队所从事的属于“AI+情感疗愈”创业，可以缓解与逝去亲人分离的悲痛。但他同样承认技术是把双刃剑，“也有可能被坏人利用，防不胜防。”
日臻成熟的AI克隆技术，也给普通人带来了新的伦理挑战，让人不得不重新思考逝者和生者间的关系。


“复制”一个人更容易了
如果放到这轮AI浪潮前，包小柏想要“复制”一个电子女儿，几乎是不可能的事。现在，只要有充足的数据，从声音、嘴型到整张人脸都能通过深度学习算法，活灵活现地还原出来。
这两天，阿里巴巴智能计算研究所发布了一款全新的生成式AI模型EMO（Emote Portrait Alive），仅需一张人物肖像照片和音频，就可以让里面的人物按照音频内容“张嘴”唱歌、说话，且口型基本一致，面部表情和头部姿态非常自然。

再往前，一款名为HeyGen的AI肖像克隆软件因为让泰勒·斯威夫特说中文，让孙燕姿唱周杰伦的歌走红网络。用户只要上传一段30秒以上包含人声的视频，HeyGen就能模拟嗓音和表情，再与新的内容对上“口型”。


AI肖像克隆软件让泰勒·斯威夫特说中文
“他们至少用了三个小型的AI模型，分别完成翻译、语音提取和克隆、嘴型同步等功能。”看到包小柏“复制”女儿后，从事数字人研发的NextHuman唯物科技创始人吴靖仇感慨技术的进步，“当局部技术不断涌现，把它们集合在一起，就可能会出现爆款应用。”
但硬币的另一面是技术被滥用。阿里没有把EMO推向市场，已经有网友担忧它会被骗子利用，而HeyGen目前最贵的商业版本只需要72美元/月，网上到处是免费教程，意味着想要拿着它去做违法的事，成本很低。


AI视频生产过程
此前，欧洲刑警组织就发布过一份观察报告，预测到2026年，90%的在线内容可能是AI生成或者合成的。这其中就包括对照现实里某个真实人物，用深度伪造技术“复制”出来的“人”，让他做没做过的事，说没说过的话。
“从现在AI的进步速度来看，这个趋势正在加快。”吴靖仇表示，随着AI学习能力的提升，“复制”一个内容或者人，所需的数据量和时间都会进一步下降。


乌克兰女孩的脸被“偷了”
一部分网友已经被技术滥用伤了心。
俄罗斯大妞叶琳娜，在中国生活8年、能说一口流利中文的April安娜，卖俄罗斯进口食品的32岁娜塔莎，喜欢分享中国日常的艾莉儿……




网上的各种俄罗斯美女博主
过去的一两个月，只要爱逛短视频和社交平台，大概率就会刷到一些长相精致的俄罗斯美女博主。她们热爱中国文化，表示想嫁中国男人，会谈论一些争议性的热门话题，像是婚嫁的彩礼问题，聊着聊着还会推荐起俄罗斯特产。


“俄罗斯美女博主”推荐起俄罗斯特产
但她们的脸都是从一位乌克兰网红身上“偷”的。
不久前，YouTube上拥有1万多粉丝的奥尔嘉在一段近15分钟的视频中，控诉了这件事。


乌克兰女孩奥尔嘉现身谈自己的遭遇
“她们有我的脸、我的声音，且说得一口流利中文。”奥尔嘉愤怒而无奈。这些账号用AI生成的短视频内容赚取流量，为俄罗斯巧克力、糖果等特产带货。卖进口零食的娜塔莎，在账号被平台下架前已拥有超20万粉丝，远多于她本人的账号。


已被下架的俄罗斯美女博主账号
“这让人不寒而栗。”奥尔嘉说以前见过名人被模仿，从未想过自己也会深陷其中。“在这些AI生成的博主背后，作为原型的普通女性可能还不知道自己的脸被盗了，然后被用于何处。”
对此，相关平台很快采取了行动，并且强调“禁止任何以他人照片或视频进行换脸的行为”。然而，换脸的“潘多拉魔盒”已经被打开，仅靠自觉和举报，似乎无法阻挡。
去年6月10日，国家反诈中心辟谣“AI诈骗在全国爆发”，确认全国AI诈骗实施不超过10起，主要是提前制作了换脸视频，并不是实时的视频互动通话。但随着技术持续进步，相关平台和监管政策准备好了吗？
律师说法
用AI技术伪造他人肖像属于侵权行为
北京竞天公诚（杭州）律师事务所合伙人 何远
关于AI换脸侵犯肖像权的问题，我国《民法典》已做出明确规定，利用信息技术手段伪造他人的肖像，属于侵害肖像权的侵权行为。所以，从法律层面讲，大家可以放心，《民法典》已经预见这些技术的发展，规定侵害肖像权属于侵权行为，而声音属于一种独立的新型人格权，并参照肖像权提供法律保护，还规定了保护其他人格权的兜底条款。
同时，《生成式人工智能服务管理暂行办法》中明确规定，提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、隐私权和个人信息权益。
如果你在网络上发现自己的肖像被不法侵害了，请立即采取录屏或摄像等方法固定证据，及时向侵权责任人主张权利，包括立即向网络平台发起投诉、向国家网信办违法和不良信息举报中心投诉、向人民法院起诉等。
此外，网络平台对于用户所发布的信息，是负有审核责任的。所以，如果收到被侵权人投诉后不作为，没有及时核查、删除侵权信息，平台很有可能会因为存在过错要承担相应的法律责任，比如赔礼道歉、赔偿损失等。
记者观察
新的数字鸿沟正在产生
生成式AI时代下，耳听未必为真、眼见未必为实，你接收到的文字、图片、音视频信息都可能是AI的产物。而逐渐模糊的现实边界，正在诞生新的数字鸿沟。
用AI工具生成一张美女照片，贴上“80后单亲妈妈”“每日分享自用好物”等标签，加入商品图片和介绍，这种简单而粗糙的AI美女种草/情感博主，眼下正在短视频平台上批量出现，瞄准中老年群体。
没抠好的头发丝，几乎一样的脸，循环的表情和动作，哪怕破绽多到“一眼假”，哪怕平台已经给部分作品标注了“内容疑似AI生成，请仔细甄别”，仍有大量中老年网友热情互动，并掏出真金白银。批量的美貌和廉价的情感鸡汤大有市场。






在一些AI主播账号下的网友留言
对于许多中老年人来说，智能手机和互联网还没有完全弄明白，AI就又来捣乱。他们中的大多数，可能并不具备鉴别真人和AI数字人的能力，也理不清楚新型网络诈骗是怎么回事。
今年，杭州某小学开学第一天，校长上台就讲了OpenAI的GPT和文生视频大模型Sora，等上信息课的时候，任课老师再次提及。成年人的知识体系，同样面临着更新和重构。
就在前些天，为了应对AI时代所带来的机遇与挑战，新加坡政府提议对新加坡公民给予一项补贴，支持40岁及以上的人返回高等教育。这个群体将能在5月获得额外4000元的技能创前程培训补助。
橙柿互动·都市快报记者 童蔚 梁应杰
               
               
               
                    
                    
                    责任编辑：李超_NB12814