8 y( |1 w1 x1 K红线1:AI 生成合同,“幻觉” 造假,直接导致合同无效、官司必输。. z# }2 E6 z5 g8 v7 g9 m
$ ^3 z% x# Z) p* M. C# } z
AI 这东西,最大的毛病就是爱吹牛、爱瞎编,业内叫 “幻觉”—— 明明没这法条、没这判例,它能给你编得有鼻子有眼,还附个假案号,跟真的一样。 5 @; Q& [: t; i; f1 p . u- ~' U# O F1 k" R你让它写个借款合同,它顺手把诉讼时效写成2 年(现在早改成 3 年了);写个竞业协议,它给你加个 “永久有效” 的无效条款;写个采购合同,它编个根本不存在的监管要求,还引用个假判例。* O. a4 B* j5 a. C. ^9 ]8 P
: Z2 S6 ~ q" h9 j4 d% L你一看,哎呦,可以哦!排版整齐、条款齐全。直接盖章发出去——这哪是签合同,这分明是签“定时炸弹”——AI 瞎编的条款、失效法条、违法约定,将直接导致合同部分或全部无效,出了纠纷,法院不认,你有理也说不清楚。* s t2 |" F a* b' E5 _& R
3 b5 B$ Z9 I0 r$ K, x0 U8 ~
去年纽约那起航空航空人身伤害案,律师图省事,辩护词全丢给ChatGPT。AI 哐哐编了 6 个判例,案号、法官、判词全是瞎编的,他连查都没查,直接交法庭。对方律师、法官一查,全是假的,法官气炸,罚他5000 美元、强制给 6 个假法官道歉、还通报给律师协会 ——执照虽然没吊销,但职业生涯半残,比吊销还难受。这就是AI 幻觉的经典坑:你信它,它就敢把你往死里坑,连句道歉都不会说。 ——企业用 AI 生成合同不复核,跟这律师一个下场,只是换个场景,罚的是公司,赔的是真金白银。 . h7 a8 J9 ]3 S" u0 g, O: P ( F( r1 W, L6 {# Y6 g8 K+ |更坑的是,AI生成的合同,版权还说不清。按《著作权法》,AI自己不是作者,没人类独创性投入的纯 AI 输出,不算 “作品”,不受保护;要是它抄了别人的合同模板、条款,你直接侵权,人家告你,你还得赔,AI 不会替你背锅。7 k& a- z2 b1 ~; y3 o, e
7 O: q" u8 l( u, W DAI 写合同,只能当草稿,不能当定稿;不人工逐条核验、不核对现行法条、不留修改痕迹,就是拿企业命运赌运气。 - R' w! r- `2 t/ s8 u3 Q* `7 Q3 C0 Y) m
红线2:AI生成合同,数据来源侵权,企业成 “盗版共犯”。 # N) A' B1 | l4 l: c& ^5 g- H9 ?) \
AI 怎么学写合同?靠海量爬取网上的合同模板、法律文书、公开判例 ——这里面 90% 都没获得授权,全是侵权数据。" B$ s0 O: H) m
3 s. R' m( ]$ l5 a
你用AI 生成一份股权转让合同,它可能直接拼接了某知名律所的原创合同文本、某上市公司的披露文件,连标点都没改。你拿去用、拿去签、拿去归档 ——等于你直接用了别人的版权作品,还商用。$ w% o! F$ J1 C
4 d4 e+ T" B; g《著作权法》第10 条、第 53 条:未经许可复制、使用他人享有著作权的合同文本,构成侵权,要停止使用、赔礼道歉、赔偿损失,赔偿额按实际损失或违法所得算,情节重的,罚得你肉疼。《生成式人工智能服务管理暂行办法》:用AI服务,得保证训练数据合法,不能侵权;企业作为使用者,不能以“我不知道 AI爬了侵权数据”当借口,监管和法院不认这个,你用了,你就得担责。 . z3 I, |% [! L9 D# u7 j6 C7 u' _8 e8 d1 w
别觉得“大家都这么用”就没事——现在版权方盯着AI侵权,专门告企业,一告一个准。你省了几百几千块的合同费,最后赔几万、几十万,划算吗? 1 B# R: B- N, P! n. { " B* P+ L6 y f, f) [7 ^1 W红线3:AI招聘,算法藏歧视,公平就业变“数字霸凌”,罚到你怀疑人生。5 D' o- ?2 {9 L# i; v- v
) b; Z/ [- a$ d2 c( r% x
AI招聘看着公平:不看脸、不看性别、不看年龄,纯看数据打分——扯淡,算法比人更偏心,而且藏得更深。3 x* U) J; N- J2 Z