脸被偷了！百万粉女网红视频疯传？背后产业细思恐极

法外求知

“大约在半年前
+ L$ |) E* A2 j7 \- |我的视频评论区
突然涌来了很多人说
看过我的‘视频’……”
* J! w1 {: y$ ^9 c8 P" D5 A1 e
近日
% |+ L" y; K1 @9 @& _1 X一名女网红关于“AI换脸”的曝光
1 w5 `- }. y2 s: c9 q引发公众关注！
+ v$ j8 F. x! f" _8 X% a
; G- U' X( Y& ]3 k! t该网红小菲（化名）称：
“疑惑地点开了视频，视频里的女生正做着一些难以描述的动作。看着视频里那张跟我长得一模一样的脸，愤怒得说不出话来。我突然意识到可能我的脸被AI盗用了……”
3 S8 X3 ^" [8 m' r  P有记者注意到
- O& Y" H! s$ a7 V. `7 M6 W该网红在视频账号里
: n( G% Y/ b7 a5 B' T, X8 j& I有数百万的粉丝
5 z* L6 c  w$ ^/ }! w
* Z/ x, r/ P/ n! H' K其实，类似的事件
已经发生了不止一次
8 {% L7 a) V# {: U: ?! c" ~今年4月
杭州检察机关曝光了一个“女神群”
. r" g, r( w8 i' @群里发送的淫秽视频
有不少是犯罪嫌疑人
( }/ E8 H5 p& s4 H  P4 t使用“AI换脸”技术合成的
; k$ I2 L1 o$ @+ K* F" `* H还可以根据顾客需要“私人定制”
) U/ k4 D. a. L. e和明星“拥吻”、长得和特朗普“一模一样”、马斯克出现在“平民窟”……关于“AI换脸”的事件，多次引发社会关注和担忧。
  b3 n6 ]/ J- U# G% |+ h
“究竟是谁在盗用我的脸？”
小菲发现，在境外社交平台上有人冒充她注册了假账号。对方先是顶着她的名义搬运她的日常内容，等到粉丝人数差不多的时候，就以会员订阅的方式贩卖视频。
1 W2 d6 _' C) O* _! S+ T8 N为了吸引更多人的加入
新会员首月还是免费的
此后只需要花费21.6美元，就可以在未来的半年里源源不断地收到那些所谓的only fans的盗脸色情视频。
接着，小菲又去另一个社交网站搜索了一遍，发现了更多制作AI盗脸视频的账号！这些账号少则几百粉，多则几万粉丝。其中量级较大的账号一条新“作品”就可以获得1k点赞量。
7 G4 B$ ]8 |: ]$ _0 j随着小菲的深入了解，发现“AI盗脸”背后好像已经形成了一条完整的产业链：不法分子通过AI换脸技术赚钱。
他们将明星、博主甚至素人的脸制作成假的色情照片与视频，明码标价地获取利益。
! m* o* H  w% C: A2 W. T1 x“我曾看到过一个网红名单，表里密密麻麻写满了我熟悉的名字。“他们根据博主的粉丝量级进行分类，假视频价格在30-50元不等。但只要你花200元就可以进群，进群后不仅可以享受永久半价，甚至还能接‘私人定制’。”
% p4 \) g" p, n7 V4 w6 c( H4 V“所谓的私人定制，即提供“一键脱衣”的合成服务。”
( {( Q/ _  d7 x1 s% l; a/ o! ~“只需要付费后给这些账号发送带人像生活照，他们就能通过AI合成的方式制成假的视频。那些收到视频的人除了满足自己龌龊的欲望外，还可以将这些非法内容在网上传播，上演一出造谣狂欢。”
  |- v! B5 R1 v7 E0 q“希望不再有更多女孩成受害者”
. N  P& i* g6 B- u小菲称，半年前
自己发现这件事的时候
9 Z5 E8 F5 x# u: u* f$ Q1 n, L安慰自己说“假的真不了”
# C  @4 t, d" c选择了忍气吞声
, ]/ v, G! c7 r$ `直到最近又遭遇类似的事情
她怒斥这种行为，“他们仅用几分钟的时间，就可以把女性的脸和身体拆解拼接当作商品兜售。”
( x: U1 [/ d: o( W. f! i“不管是为了满足自己的性幻想还是为了挣钱，我想说这本质上就是对女性的侮辱、是一次网络霸凌、是一场集体的性暴力。事情发生之后，我试图去举报这些账号内容。后来想要通过法律途径进行维权，结果发现这些账号都是难以追踪的海外ip。而传到国内聊天群里的视频也已经过多次转手，难以找到找到源头。”

近期类似事件频发
+ R0 U4 n! l/ A% z1 w( @& l地铁女生被“一键脱衣”
利用AI模型
生成女艺人虚假图片等等
: |/ k* i8 j0 `, G# J4 U( S
# a. m7 L. A) V9 t$ a小菲称，只要这种“私人定制”服务还在，只要有一张自拍或者一条露脸视频被传到互联网，任何女孩都有可能成为受害者。
“我有必要站出来要让大家关注这件事情。如果有人看到这样的视频或图片，也希望不要传播和攻击。网络不是法外之地，希望不再有更多女孩成为受害者。”

/ \" ~1 J' z, @" N9 y换脸软件背后
5 v6 s3 W: i4 I: o$ m. F6 g暗藏法律风险和侵权纠纷

/ m3 U" _; v+ L( ^6 d# }& ^有法律界人士认为：近年来，“AI换脸”走红网络，一些“AI换脸”的App使用明星的图片制作换脸视频进行推广，其趣味性背后暗藏不少法律风险和侵权纠纷。

' M- p/ u( Z9 q" r7 Z- K  q# {' w记者了解到， 4月11日，国家网信办起草了《生成式人工智能服务管理办法（征求意见稿）》，向社会公开征求意见，意见反馈截止时间为2023年5月10日。

' l* E8 m, R# y《征求意见稿》共21条，从生成式人工智能服务商的准入，到算法设计、训练数据选择、模型、内容，以及用户个人隐私、商业秘密等方面提出了相关要求。
, w7 ~* k$ O& |) f+ }
/ O- O/ |4 {/ M# _8 x要求尊重他人合法利益，防止伤害他人身心健康、损害肖像权、名誉权和个人隐私，侵犯知识产权的行为发生，禁止非法获取、披露、利用个人信息和隐私、商业秘密。
- g+ |. @! U' M- t. M: I
( N! y, B& c2 S+ n0 h+ I/ Q+ a