设为首页收藏本站
我的广告
     
切换到窄版

 找回密码
 立即注册
薅羊毛,扫我就赚了!
查看: 190|回复: 0

被AI盗脸造黄谣,她说:我没想过这种事会发生在自己身上

[复制链接]

  离线 

  • 打卡等级:女儿国秀才
  • 打卡总天数:35
  • 打卡月天数:0
  • 打卡总奖励:424
  • 最近打卡:2025-01-17 08:48:00

1440

主题

3

回帖

1万

积分

版主

积分
11316
发表于 2024-10-14 20:30:33 | 显示全部楼层 |阅读模式
  首先涌来的是羞耻、愤怒,在揭开真相的过程中,她又逐渐感受到了焦虑和恐惧。借助AI技术,那些隐藏在身边的施害者,让她陷入巨大的“不安全感”。7 R$ z* ?* x% D8 g( p9 _3 t! j
+ s6 P& O3 b( |( l3 y+ i# |
  那些照片出现后,林致的生活彻底被搅乱了。一周前,几名“求交友”的陌生人发来照片,内容让她吃惊——一些淫秽不堪的女性图片里,长着与自己极其相似的脸。2 @4 u8 E# P# c* m8 G+ n
( ^" o, {5 U, {. I: t: G/ C% s
  首先涌来的是羞耻、愤怒,在揭开真相的过程中,她又逐渐感受到了焦虑和恐惧。借助AI技术,那些隐藏在身边的施害者,让她陷入巨大的“不安全感”。
% I3 r$ _/ `$ e& z4 J. y! r/ }0 V% T# q5 q/ f
  近些年,AI从最初的“工业级”技术逐渐“飞入寻常百姓家”,更低的使用门槛和创作成本,给施害者,甚至不法分子提供了便利。AI换脸诈骗、换明星脸直播卖货、换脸和明星“接吻”、乘地铁的照片被“脱衣”等案例层出不穷。AI盗脸“造黄谣”“一键脱衣”也突破了法律和伦理界线,侵入到普通人的生活。
. i# q; Z% L* ]/ @0 j, e( P( \# y  J7 I9 H+ S
  调查发现,唾手可得的制图工具和难以追溯的传播渠道,让AI“黄谣”制造者更加猖獗。当他们肆无忌惮地散布谣言时,受害者却困于自证——不再信任社交网络,反复检视自己,对周遭世界的信任也逐渐瓦解。
- U0 i( z" N0 F  I
. W& I8 {# j9 V5 I) K; u  在倚靠AI换脸衍生的其他领域,也不乏擦边投机者的身影。他们有些在社交平台兜售换上明星脸的淫秽视频;有些提供有偿定制换脸、脱衣图像的服务;还有的拿脱衣当噱头,销售“操作教学”。
# H7 ?; p  s7 h
9 E7 Q; H! E1 `, [' ?5 T  “你没有错,错的是造谣者”
  k5 y; L8 U- c8 d+ b. n$ p: }/ X6 c: _& j
  一周前,林致突然收到近10名陌生人发来的微信好友请求,留言都是“小姐姐,交个朋友”。
+ k% O" S' ^9 \8 X. v
" v! d/ H; E7 w3 U2 o6 O* l  林致觉得奇怪,平日她极少把微信号给别人。她社交圈很小,除了同事、朋友和家人外,几乎不加别人微信。她一一拒绝,但有两三个陌生人反复发送请求,最终她添加了其中一名。2 l7 Q+ D# n8 a  }
- l9 m' M7 Q& t  F/ s. g
  陌生人称,他见过林致的一些“大尺度”照片。对方先是发来几张林致的生活照,林致认出,那是自己曾发在朋友圈里的照片。随后,是她从未见过的淫秽照片和视频,那些赤身裸体的女性脸上,长着与自己相像的五官。
6 |) s5 b  C3 K! m8 v  h0 v) U$ U+ G9 y. f- j  f/ C
  “我被AI盗脸了。”林致很快反应过来,她没想到,这种事会发生在自己身上。- R+ _: [2 `7 h, ]- c
4 ?7 Z3 Q% L. j) n/ o5 S/ `, |
  为了弄清真相,林致又同意了另两名陌生人的好友请求。在聊天中,林致了解到,他们是在国外社交软件Telegram(下称“电报”)的淫秽聊天群中,看到有人发布了她的照片和视频,上面的文字总是带着“荡妇”“可撩”等字眼,有些暗示她是性工作者,他们再私聊发布者,获取了她的隐私信息。* e4 t  }0 x4 V+ X8 U

( |+ C# Y7 o' ^# z. g" a  尽管林致一开始就告诉他们自己已婚,但他们还是不断用轻浮的言语挑逗,“姐姐”“宠你,想追你”。
- |9 o) ?. L( g  F
( K' d8 p0 n; ]% u  了解越多,林致越感到恐惧。制图者对她了如指掌,知道她的名字、年龄和家庭住址。而根据流出照片的时间跨度来看,制图者早就认识林致,“最早的照片是去年5月发的,最晚的是今年5月初发的,我推测是熟人作案、长期蹲守。”
$ w+ I! l3 n" m
- `- [" m! C& i/ ?  林致说,“黄谣”里既有真照片,又有AI换脸的假照片,两者很像,普通人难以分辨,就更增加了“真实感”。如果要自证清白,她就掉入造谣者的圈套。她想找到那个造谣者,给自己一个交代。
7 |; j$ [- l: b; E1 o
4 l1 B1 H! o$ j- ^+ u7 W; X “我一直很纠结。”林致担心影响扩大,希望造谣者不要再发,可如果不发,就找不到他。林致和丈夫下载了电报,试图用陌生人提供的关键词找到线索。但只检索出许多盗用她脸伪造的淫秽图像,发布者不断销号、建新号,难以追踪。
( V7 m& c) F2 @4 d
4 d9 G' B  k7 O  为了抓到“活着的”制图者,她只能不停地搜索、查看,“每看一次都是精神污染。”* X$ ~9 C- k- X" W) F" C# G" w* J0 Q
( d& C5 B8 J7 a: D1 y# u  x- S
  疫情期间,林致患上了抑郁症,两个月前病情才稳定,刚刚停药。但事发后,焦虑、怀疑和不安再次笼罩心头,脑鸣、失眠的症状也出现征兆。她担心,不久后又要服药了。1 a$ v% O/ p1 M" P& H* S/ y# A
. X) m6 K# X+ i- `  l; r
  “你没有错,错的是造谣者。”丈夫和挚友不断鼓励林致。但有时,她还是会陷入自我怀疑。紧张焦虑时,她看谁都像是那个制图者。奶茶店的陌生男子、公司的同事,甚至家人,都成了她的怀疑对象。9 r# a2 D9 z& ~  l3 z8 _% j

- R/ ]$ `# a! F* t4 k' }3 q  事发后,林致弃用了十几年的微信号,在新账号的朋友圈里,她把隐私设置为“仅自己可见”。“一切分享欲都消失了,以后再不敢随便发照片。”
- r, e9 K+ b" }8 w" g
# J5 _4 I' a; s- s5 W  5月23日,林致去公安局报案,做了笔录。还有些受害者因为种种原因,选择了沉默。
2 {! O" }: E  h% u2 {
$ f( w! w6 u( y- M# n+ j7 E8 `  一位受害者被AI盗脸造黄谣后,有陌生人加了她好友,一直给她打电话,发用AI伪造的淫秽视频。因为害怕,她不敢报警。“我又没做错什么。”她安慰自己,随后把陌生人拉黑,再不理睬。! Z) u9 y# i+ S2 M! B7 ?. e& E5 d
- {5 m" y# M' {- O/ ]
  另一位受害者告诉新京报记者,她发在社交媒体上的两张自拍照,曾被人用AI脱衣后传播。这件事让她意识到,“在任何地方都要保护好自己的隐私”才是解决之道。在她看来,电报等海外软件上的造谣者很难被抓到,维权艰难。- a; X' E' n' `
( I: n" o& _; o2 v
  “那些人骚扰我时很恶心,但想到那些身体不是我的,就问心无愧吧。”" {/ a' U9 t) I

# J0 |- ]) g4 ]+ g) f1 F; L  传播渠道特性导致难以溯源; J+ E/ N6 }& b/ Z

/ Q/ Z/ y; H- C$ j$ J  电报以“隐私”“安全”著称,由于服务器架设在境外,相关部门更难追溯到造谣者。此外,记者注意到,“阅后即焚”的功能让警方难以获取证据——用户在注销账号时,可将先前发布的信息也一并销毁。+ Q- ?. u& I! p% P; q/ |: L& [
/ e" P$ x3 H2 n0 y" k; ~
  正是这些特性,让不法分子以为找到了安身之所。记者在电报搜索栏中输入含性暗示的关键词,显示近10个超过5000名订阅者的淫秽聊天群,其中一个群内有1.3万余名订阅者。
* n. W% l! ~0 s' A5 E3 o) N, m; S7 u7 ~) g2 t
  “反差”“曝光”“自毁”“社死”是这些群名里的高频词汇,其中的聊天内容也多为制作、公开女性的淫秽图像和隐私信息。除了图像外,不少女性的身高、体重、年龄等信息被公开,甚至还有家庭住址、社交媒体账号和身份证号。
5 o3 J  T: ?- E, s" ^- l8 I; }7 ~* G: D! C6 W$ V
  记者注意到,大量“荡妇羞辱”相关内容出现在聊天中,字里行间充斥着“狗”“贱”“欠”等辱骂性字眼。1 k5 p+ P2 W- `  d

, B9 g: v' }" z  提到制发淫秽照片的目的,一些发布者常常提到“欠骂”“报复”“羞辱”等词汇。在评论区,一些网友会索要被曝光女性的联系方式,有的发布者会直接公开,有的则需要私聊。
' q1 q- C: u4 o
4 S( b9 |* y; H0 F  记者发现,只需点击搜索到的群名,便可免费浏览所有历史信息,甚至不用进群。
) D5 [7 z( K4 g* e; P3 @
& l# _% l% l. k- ]  一些仿真程度高的换脸视频能以假乱真,让人误以为生活照和淫秽图像中的是同一人,就连受害者自己见到时也会恍惚。林致告诉记者,她觉得假照片中人脸的五官,与自己非常相像,但细看会发现,脸型不一样。( l* h3 X( c) r* E4 _+ A1 {' R

1 l% e  ?4 z7 S, \! o  而一些低质量的换脸图像,可以直接从脸部线条看出破绽。一些照片的面部线条模糊、扭曲,甚至断裂。评论区的网友也会指出,“一看就是换脸的”“太假了”。
- L  ?- x" L3 F! r
6 M8 V  l5 n; C* p  然而,不管质量高低,评论区都会充斥大量性情节描述和辱骂词汇。因为受害者的隐私被公开,一些同城的网友声称要过去,意图骚扰。
9 f+ o+ M. S  R6 g7 t5 x0 @- T4 _; s) q( N+ C- ]* d0 ]3 n/ W
  有偿定制
  j* P, s  F; e$ {! E" g6 l  S" n2 Q4 K; O1 ^: ~
  在流量加持下,一批不法分子趁机涌入,靠私人定制、搬运和卖课等方式获利。其中不乏擦边出售淫秽内容的投机者们,他们在一些主流社交平台定期更新AI作品,并暗示网友,可有偿制作淫秽图像。! s0 [) T8 ?( |! \; j5 m4 g

! G% }* X7 u2 Q& Y7 G# R; T  一名“供应商”告诉记者,他可以按需求定制AI美女图像。根据图像画质高低,每张价格从100到180元不等。在记者提出要先看样图后,他随即发来一张AI生成的女性图片,图中女性的隐私部位露出。“看到了吧?一切按照你的要求。”他表示,随即撤回露点图片。1 b& X* ^- z/ s) u, v/ z
1 ^1 o9 k% r5 |+ _; d
  记者询问,能否对真照片进行AI脱衣,他表示,需要支付定金,便可操作。
2 t' H2 n" U' Q- u
: s3 z/ I* g- x* N; ^  此外,女明星的换脸视频成为投机者的主要噱头。记者发现,百度贴吧内,部分网友专门出售换了女明星脸的淫秽影像。7 {% {6 \4 O6 k
& |: q4 x+ j: O5 d0 A  F. V
  同时,在一黄色网站的“换脸AI”专区,充斥着换上女明星脸的淫秽视频。网站称,充值200元即可成为VIP会员,免费观看“换脸AI”专区内容。
4 h$ D5 t$ Y. N1 e' i! ]( m7 C; W! l! S) Z! K& K' u) O
  在电报群里,类似的行为更加猖獗。记者在搜索“AI换脸”“脱衣”等关键词,显示多个相关群,群内均在传播淫秽图像。在一个有4000余名订阅者的群中,充斥着大量AI换脸、脱衣的淫秽影像。
# Z/ m$ M. [7 \: o! I1 `4 b: i0 B; F
/ r2 J: c3 f( s  影像中的被盗取的面容,不乏当下知名女星、网红。同时,普通女性在学校、商场、办公室、地铁等日常场景中的照片也成为AI盗脸的对象。她们被AI换脸,或脱去外衣,赤身裸体。“反差”“内在美”等词被用来形容换脸后的照片。每一条类似的群消息,都有数千甚至近万次的浏览量。
" B4 ^- j; P% T" D  Y! O$ R6 Y% K3 D/ e4 t' D1 W4 h7 l
  有发布者称,“适当娱乐,满足自己即可,千万不要发给对方或者骚扰对方,一旦报警麻烦不断!AI脱衣,你给我照片,我帮你做图。”
6 b- S, {$ \2 Q$ ]0 s  b+ b
5 C5 V) X  _, R5 {  `0 x  还有发布者拿淫秽视频当噱头,在群内发布AI换脸、脱衣软件的购买链接。“私人定制,无硬件门槛,全流程汉化,傻瓜式操作,即时能出作品。”
2 [- Q- G+ U6 h  T/ f4 d! l4 W+ w# m
  记者点进一购买链接询问。客服表示,直接提供软件,需收费200-350美元(手机和电脑端收费不同),一年有效期,包教学。
8 q/ ?! E/ e. o! P' E7 a0 K* J1 G; `5 @
  直接制作图片30美元一张,视频50美元一条。用户付款后,仅需提供一张照片或视频作为素材,一小时后便可获得处理好的影像。客服还称,购买软件后,可进入VIP专属群,享受更多AI影像资源。
2 T) C" ?$ q+ Z2 s- d5 {( Q) k  t- C& ?5 a) ?+ ^* {
  AI换脸的门槛变低,也易引发违法问题
* ~0 |0 a* Q0 {9 F$ c% l- v5 L8 ~
  记者调查发现,AI制作淫秽图片的成本和门槛都相对较低,在一些网站、软件充值后,便可一键生成AI脱衣图像。
! H" x) t. Z8 ^0 t2 I. b9 Q$ ^7 Y
  以国外一家一键脱衣网站为例,在不登录的情况下,只需等待40秒,上传符合网站要求的照片,再点击加工,不到半分钟后,便可生成脱衣后的图像。此时,显示的图像是模糊的,如果想下载高清版,则需充值。充值29.95美元,便可一键生成100张AI脱衣图像。
$ t/ v, _8 o6 u1 }: @+ P$ C6 s, p+ y: e( U  [" A+ H
  “想复制一个人的人脸信息,往往收集一张照片就可以实现。”一位从事多年网络安全工作的专家告诉新京报记者,以目前的AI技术,即便只有一张正面照,AI也可以通过深度学习补齐其他角度的图像,获得立体的人脸图像,再将图像映射到视频中。: _2 s, _! P0 s& G- O# j2 I. C8 M2 V
$ c/ K* E0 L% p+ O8 f, Q
  专家向记者展示了一个案例:通过AI补齐,平面画作中的人物被立体化,原本只露出正脸的人物一转头,侧脸便露了出来。记者注意到,立体化后的人物动作流畅,被补齐的脸部细节自然。6 M+ S- m6 G0 h! U% Q
& x0 C4 E' h$ V3 S5 N2 V
  专家表示,目前在主流社交平台发布的照片清晰度,大部分足够生成自然贴合度较高、难辨真假的换脸照片和视频。即便清晰度较低,也可以通过AI补齐,提高换脸图像的贴合程度。7 X; L5 o2 H/ _; x! n
8 q2 V1 u( B  r; e+ D
  这得益于AI深度学习技术已经成熟,网上有不少开源的人脸模型训练项目,具有较高的深度学习能力,很多都是操作简单的免费工具,这些都可以导出非常自然逼真的换脸视频。3 {! g+ @' ^' h* T
9 L7 I! g, `. y/ \
  AI运行时,对设备硬件的要求也已大大降低。许多AI换脸软件接入云服务器,操作在云端进行,完成后再回传本地。( h, R7 m& a- c' B
. L1 W6 K0 P( g; j* _
  在这位专家看来,尽管换脸后的图像可以达到极高的逼真程度,但只要仔细观察,还是有办法区分的。% \/ Q7 {4 z' ?: W( o
0 W7 o2 I" c* v: r2 ~( L. L9 Q
  比如,注意眼部、眉毛与肤色的过渡是否自然;光影效果是否自然;画面中人物与环境的比例是否真实。另外,还可以检查图像质量,换脸涉及图像处理、合成,因而图像质量可能会受到影响,出现模糊、失真或噪点高等现象。
- d/ ~' B$ u# l8 C% Z, w
# p( G  r$ v" [9 F- [. W# q" ?. p  一方面,低成本、低门槛的AI换脸技术让每个人都有机会使用这种娱乐工具;另一方面,唾手可得的技术,也更容易引发违法犯罪问题。, h3 j$ y: K/ S3 _- Y& }
3 a- F. G: I$ `: h0 ^
  江苏法德东恒律师事务所高级合伙人律师蓝天彬表示,在未经当事人同意的情况下,不法分子利用AI技术制作、传播淫秽图片或视频,从民事层面来看,已涉嫌侵犯当事人肖像权、名誉权和隐私权。此外,行为主体还涉嫌违反《治安管理处罚法》,公安机关可对行为人治安处罚。
: P. @) \  o4 A9 z" r" G% c/ c' ^% }: r7 L7 V5 i3 Z
  蓝律师提到,若行为人以牟利为目的,且达到一定涉案数量或金额,那么行为人则涉嫌制作、传播淫秽物品牟利罪。
3 q/ f8 q' d$ M0 H, m7 H4 W  x1 X" w5 E9 j) }5 |
  “即使没有牟利,行为人也可能涉嫌传播淫秽物品罪。”蓝天彬说。3 o: y7 B7 ^- ]  ]4 P4 [

5 F+ R# \  ^9 U' j. T  河北厚诺律师事务所律师雷家茂认可上述观点。雷家茂分析,以往单纯的“造黄谣”行为,一般情况下仅为民事侵权,即侵犯名誉权,情节严重的可能涉嫌诽谤罪;而利用AI换脸技术传播他人的淫秽图片、视频及真实照片,则涉嫌传播淫秽物品罪、诽谤罪,行为人将会被数罪并罚。2 R0 I: H1 Z; Z7 V6 x. X1 _

" c+ w" Z2 \% v" f  雷律师表示,该类案件维权难点主要在于取证及锁定违法犯罪。因不法分子可能采取关闭网站、删除链接等措施,导致无法固定证据。此外,网络信息易传播、发布者匿名化等原因,将难以锁定发布源头。9 D  `' w* ?% Z
! Q2 s+ U2 P9 z% r. [+ i
  雷家茂建议,若遇到该情况,受害者应立即截屏存证,及时报警并向警方提供自己留存的证据及线索。
7 e. s& n6 e1 M/ V% f! f- t$ s1 Q2 l) ?" {  N" ~9 C
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|《女儿国小说网》

GMT+8, 2025-7-6 04:27 , Processed in 0.113825 second(s), 29 queries .

Powered by Discuz! X3.5

© 2001-2025 Discuz! Team.

快速回复 返回顶部 返回列表