宾州女大学生“脸被盗” 在中国社交平台卖俄货

【新唐人北京时间2024年03月26日讯】近年来,深伪(Deepfake)技术快速发展,利用人工智能(AI)虚拟复制的真人图像往往能够以假乱真,基本“与世隔绝”的中国网络这种现象尤为严重,许多西方女性成为受害者。

20岁的宾州大学生奥尔加·洛伊克(Olga Loiek)去年11月开设了一个YouTube频道,后来遭到不明人士攻击,在中国网络上被Deepfake

一天早晨,洛伊克刚刚醒来,在Instagram上看到了一条神秘的信息。

“你会说普通话吗?”它用英文写道。

几周前,洛伊克也从自称她的YouTube频道粉丝那里收到了类似的信息,她的频道有超过1.5万名订阅者。令人困惑的是,其中一些评论赞扬了她的中文。

洛伊克告诉“商业内幕”(Business Insider),她根本不会说中文。但1月下旬她收到一条警告评论说,有人可能正试图冒充您。

该评论包含一个小红书(中国社交平台,类似于Instagram)视频的链接,这段视频显示,洛伊克用中文对着镜头说话,屏幕上出现俄罗斯领导人普京的照片。

“一开始,我觉得‘哦,这只是一个有趣的把戏’。但后来我开始翻译它”,洛伊克说,视频中笑容满面的女子一边在商店页面上销售俄罗斯产品,一边谈论中俄关系,并哀叹对莫斯科的制裁。

宾州女大学生“脸被盗”,Deepfake假冒者在小红书上卖俄罗斯糖果,赞美中国好,俄中是好兄弟。(小红书娜塔莎账户的视频截图)

对于乌克兰人洛伊克来说,这是令人无法容忍的。“我感到受到了侵犯,因为那些是我一生中永远不会说的话。”她说。

“这太令人毛骨悚然了,因为我真的看到我的脸在谈论我永远不会宽恕的事情。”她补充说。

对于中国大约10.8亿互联网用户来说,YouTube和Instagram被屏蔽,一些国际社交平台被中国版本替代,WhatsApp和Facebook被微信替代,X——微博,TikTok——抖音,Instagram——小红书。

中国的社交媒体在很大程度上与世界脱节,Deepfake被滥用已被记录多年。在这些中国平台上,外国女性的Deepfake往往不会被发现,因为观众不太容易认出真人。与此同时,创作者不太可能发现自己的脸被盗,因为她们通常不会访问中国平台。

“在‘开放世界’的社交媒体环境中,当某人的Deepfake出现时,我们可以很容易地证明这不是真的,因为我们可以找到本人”,纽约州立大学布法罗分校负责媒体取证实验室的计算机科学教授吕思伟(Lyu Siwei)说,“但在中国境内,由于中国用户跨越防火墙并不容易,他们无法进行交叉验证。”

吕思伟和另一位人工智能研究员、圣克拉拉大学的卢海斌(音译)告诉Business Insider,在过去的6个月里,他们在抖音(中国版TikTok)等中国平台上观察到了对女性的Deepfake。

他们说,洛伊克的案例表明,至少其中一些Deepfake是未经同意的。

小红书上洛伊克的Deepfake账户被描述为娜塔莎(Natasha),是一名31岁的俄罗斯女性,居住在中国黑龙江省。该账户有1.4万名关注者,该账户推销俄罗斯糖果,附加的商店页面显示,每包糖果3.60美元。

洛伊克在宾夕法尼亚大学学习认知神经科学,现在在德国实习,她不确定为什么她的脸被小红书账户选上。

洛伊克在1月下旬上传的YouTube视频中要求她的关注者帮助举报小红书的“娜塔莎”账户。该账户于2月25日从小红书上消失。

虽然“娜塔莎”消失了,但其它同样带有洛伊克头像的账户又出现了。洛伊克说,她在小红书上发现了大约30个其它账户,这些账户都使用她的脸并自称是俄罗斯人。

在大约10分钟里,Business Insider就在小红书上发现了至少5个白人女性的Deepfake视频。在所有这些视频中,Deepfake假冒者都在赞扬俄罗斯和中共。

卡内基梅隆大学数字媒体教授莱特曼(Ari Lightman)表示,由于在AI问题上尚未达成国际协议,即使找到了中国的罪魁祸首,外国受害者也很难提起诉讼。

(记者李昭希综合报导/责任编辑:林清)

相关文章
评论
新版即将上线。评论功能暂时关闭。请见谅!