想问大家一个小问题,大家用过AI换脸吗? / o- W X# [8 [: k1 ^. c# U7 R$ x0 w! z- i# j3 u3 W
我猜绝大多数人都是用过的4 I% Y. {% }* j4 d/ X- o
毕竟很多短视频or修图拍照app都会出类似的特效,像是换脸成热门剧的男女主啦,成年人和小孩/宠物换脸啦,查看性转后的自己哇……随手一拍,再搭配上灵性BGM,一个「热门视频」就诞生啦~ - Q" |4 b+ ?3 \1 L- O; B从这个角度来说,AI换脸这项技术的成熟确实是在丰富咱的网络生活。但从另外一个角度来看,潜在的危险也离我们越来越近…… 7 O) k( }% B( A! s/ ]" ]) X. W* [1 [: P7 x w' Y+ D
2020年那场震惊世界的韩国「N号房」事件,大家还有印象吗?就在最近,它重演了!就是以AI换脸的形式……) n% v' F. F( F. Q+ q2 y+ ^
, \* f0 ?) L2 q* S" X8 O3 D% C- ~2 ]6 d
2 R7 A. H9 i* N& K「N号房」重演了?. A5 x+ v' C! e$ r, V
$ @. r0 v Q/ l b5 a p& j5 z
随着2021年下半年的终审,主犯赵主彬被判处了42年有期徒刑,至此韩国N号房事件告一段落,相关立法也在同步进行。3 X: F- B: [/ g7 r: | p& o+ }
2020 年 3 月,赵周彬被移交给检察机关: Q- Y% i% q+ a# h/ S4 B
9 _; M5 S4 }4 J$ @7 L, g/ Q
但N号房,就像是一只被看到(且拍扁)的蟑螂,而这意味着在我们看不到的地方可能已经藏了千千万万只了……, C! o7 |" I! e1 ]
+ i0 H# f* k% ]3 Q
就在N号房落幕的同一年,两名首尔大学的毕业生,已经开始在通信软件Telegram上私密传播用「deepfack」技术合成的色情照片或视频,也就是使用AI换脸的色情制品。! l7 L+ Q2 [/ g$ m; v/ J7 n" b, A
4 f# @1 K6 V! O. E$ ]这些视频几乎无需和受害人有多少接触,仅仅是利用受害者的社交媒体甚至是毕业照,就可以完成一场真实的性剥削。( D, X, R- D$ F; L: \% y- U+ T
- S. B ] S7 B# {8 F1 x6 y7 G
从2021年7月至今,他们共制作了2100多段色情视频和图片,受害者有60多人,其中不乏大学女生和未成年人。7 c: Y! ~4 J2 d. X
$ q9 c# w+ C& I( J" L而这些伪造的视频和图片还会被摆在受害人面前,变成要挟她们接受线下侵害的威胁。+ f2 t" X( P+ j# @6 d
. c" w2 X8 Z) \, h# k
不敢想象,那些十几二十岁的女生突然面对「自己主演」的色情制品时该有多崩溃。# I( T @8 V2 ~. r$ V {; z
, [5 {9 P& V# J/ M( o' K
也不只是国外,国内也早有例子证明,AI换脸或许早就可能触及道德和法律的底线。8 r& s* F6 ^! S- p
/ h" n2 k( b# f: F, A( ]! E
在2020年,杭州虞某就曾利用相关软件制作大量的淫秽色情视频并传播,受害人中有女性明星,也有被变态暗恋者定制换脸色情视频的普通女性。 - a) v' h7 n1 [: W6 n1 N+ R8 K* i; x: _, k( w
虽然最终虞某被判处有期徒刑7年3个月,但这些视频和图片很大程度上因为传播范围之广、传播途径的隐蔽,并没有办法完全消除干净…… * z) G" I) D/ m1 P+ L& j0 f& ?( A/ x8 ^6 o* ]. ]2 m5 J
而关于「deepfake」滥用的事情,不仅是韩国,在全世界范围内有很多很多 3 f1 m; T* W2 T! e6 C1 X虽然多数事件都以法律制裁收尾,但躲在暗处的情色霸凌真的停止了吗?!处在这个AI技术迅速发展的时代,毫不夸张地说,每个人都可能是猎人,也都可能是猎物。! C; |/ \0 I) m& D
& `6 d7 l" B* A! r: h( zAI能做的真的太多了 / B- d8 d* | P1 m K5 X + t$ s* ^3 M2 G+ J9 w5 n! F(1)AI脱衣/换装 8 L+ _4 e( p T1 d2 L% \. o只要一串代码,就可以脱下任何一个人的衣服;只需要几张脸部照片,就可以生成色情图……6 d- }& h2 ^$ O: W- g3 e8 b/ U
如此低门槛的方式,也意味着荡妇羞辱和色情复仇的成本越来越低,而它们的受害者通常是女性。+ B7 B+ g4 e& _4 Y' o8 q
& m& E" T) {& ]2 p9 K
2023年夏天的广州地铁中,一个女性乘客就曾被「AI一键脱衣」。 3 l) ?9 t8 b. g0 H! v4 P( E. p- [4 j. y& n# J4 `
生成裸照只用了几秒钟,但随即展开的赛博围剿却持续了十数天之久,有人说她是夜店舞女,也有人说她明码标价,还有人对她的身体评头论足……1 H# @$ w9 p' B- w+ Z