对广大网文作者而言,这段时间并不太平。先是著名网文网站“某棠”的作者大批被帽子叔叔请去“喝茶”,再接着就是“AI 生成色情小说第一案”宣判,结合前段时间“某手办”被认为是淫秽物品,这都体现了我国开始严厉打击色情产业的决心。
对于“某手办”是否构成淫秽色情物品这事,今天先按下不表,飒姐团队今天先来唠唠小说里的色情问题,聊聊 AI 生成色情小说第一案的情况。
01
用 AI 工具辅助写“情色”小说,小伙被判刑了
AI 色情小说第一案发生在湖北,虽然这个案子是一个多月前才宣判的,但案情可以一直追溯到 AI 刚开始崭露头角的 2022 年末。行为人柯某某和当今绝大多数网络写手没什么不同,95 后,喜欢二次元,平时也经常在各大付费阅读网站上看网文。2022 年末,柯某某偶然发现某网站中带有“色情”内容的小说,阅读量会比较高,于是萌发了写“小黄文”赚钱的想法,正好 2022 年末全网都在宣传 ChatGPT 等 AI 大模型工具,柯某某就萌生了利用 AI 大模型辅助写小说,提高小说产量,把自己的作品收益做大做强的想法。就这样,从 2022 末开始,柯某某就先自己写一点小说的情节,然后再让 AI 大模型帮忙续写,柯某某再对续写的内容进行润色,最终得到一篇完整的“小黄文”。柯某某先后利用这种方法写出了十余篇具有情色内容的长篇小说,且柯某某还会用 AI 大模型将完成的小说翻译成英文等在境外网站发布,共计获利两万余元。
2023 年 8 月,四川某市侦查机关在侦办一起非法制售淫秽漫画案的过程中发现了柯某某写的淫秽小说,随后迅速立案侦办,柯某某于 2023 年 9 月被检察机关批准逮捕,后湖北省某市人民法院认定柯某某的行为构成制作、贩卖、传播淫秽物品牟利罪,判处有期徒刑 10 个月,并处罚金 5000 元。
02
淫秽物品中的“淫秽”怎么界定?
在“某棠”平台的作者大范围被请去喝茶,小伙用 AI 工具辅助创作情色小说被判刑的大环境下,到底怎样判断什么才是“淫秽”“色情”物品?飒姐团队在和律师老友们探讨这些案子的过程中,有很多人调侃说如果把西厢记、金瓶梅的作者拉到现代,也会直接被帽子叔叔抓走。如此看来,是不是所有文学作品里都不能存在任何性描写,否则就容易被请去喝茶?
实际上,我国刑法第三百六十七条早已对“淫秽物品”做出了明确的定义,淫秽物品,是指具体描绘性行为或者露骨宣扬色情的诲淫性的书刊、影片、录像带、录音带、图片及其他淫秽物品。有关人体生理、医学知识的科学著作不是淫秽物品。包含有色情内容的有艺术价值的文学、艺术作品不视为淫秽物品。
但问题在于,这个定义说了等于没说,这是因为“具体描写性行为或者露骨宣扬色情”这个定义太模糊,如何才算具体描写?在某个作品中,作者并未使用任何违禁词汇,但可以让成年人联想到性行为的内容,这算不算淫秽物品?
飒姐团队在办案的过程中就遇到了这样淫秽物品鉴定过程中的争议,首先,某个被认定为构成淫秽作品的小说中,有这样一段描写:“女主一下子就握住了男主的核心思想,两个人就此进行了深入浅出的交流”该描写被认定为具体描绘了性行为,因为“核心思想”“深入浅出的交流”等词实际上能够让成年人直接明白其中含义。但如果这样程度的描写都会被认为是淫秽描写,在飒姐团队看来,显然荒谬至极。然而问题在于,在 AI 盛行的今天,我们完全可以“教”AI 大模型批量生产出这些虽然隐晦,但成年人一看就明白的“色情”小说。(而且这种情况完全可以跳过 AI 自身的伦理审查机制,毕竟核心思想、深入浅出等都不是违禁词。)
其次,该定义认定某个文学、艺术作品有艺术价值,那么就不算是淫秽物品。比如色戒这部电影,就因为其有艺术价值而不被认为是淫秽物品。那问题在于,凭什么国际著名导演执导的电影就有艺术价值,而名不见经传的网文作家写的东西就没艺术价值呢?这里有个巨大的逻辑问题,并不是身份让某个作品有了艺术价值,而恰恰是因为作品本身有艺术价值,让作者有了身份。但很多办案机关的侦查人员,其实没有能力判定某部作品是否有艺术价值。
以上这些问题就直接导致了何为“淫秽物品”界定非常混乱。但是我们还是能够发现最近判定淫秽物品的走向——趋势越来越紧。
比如“某手办”,这在 20 年前绝对不会认为是淫秽物品,但以现在的眼光看来,其就构成淫秽物品。所以实际上,目前我国对于淫秽物品的认定越发宽泛,社会对“色情”的容忍度越发降低。
03
写在最后
以前各位老友还在讨论,AI 创设的作品到底谁是作者,现在越来越多的 AI 第一案已经表明 AI 仅仅只是工具,重要的还是使用工具的人。比如在 AI 色情小说第一案中,作者还是行为人柯某某。这一点已经在法律界有了共识。
但是解决了“作者是谁”的问题后,各位老友们也能发现,AI 由此引发的问题不降反增。AI 生成淫秽色情的内容?我们在 AI 大模型审核的过程中,引入 AI 自查机制,直接切断违禁词的输出。然后呢?人类又教会了 AI 用非违禁词来代替违禁词,于是出现了“女主握住男主核心思想”这样的隐喻类色情表达,接下来怎么办?难道要把“核心思想”这个词禁掉吗?禁掉之后,又会出现另一个完全意想不到的词汇来替代违禁词,这样禁来禁去可能真不是问题的解决之道。
最后飒姐团队要嘱咐各位写手,尤其是想用 AI 来辅助写作的写手,即使把所有的违禁词全部替代掉,也不保险,如果想要描写“那方面”的内容,尽量断绝这种想法吧!
如果您身边有对新科技、数字经济感兴趣的朋友,
欢迎转发给Ta
获取详细资讯,请联络飒姐团队
【 sa.xiao@dentons.cn】
【 guoquan.wang@dentons.cn】
飒姐工作微信:【 xiaosalawyer】
飒姐工作电话:【 +86 171 8403 4530】
滑动查看服务清单
肖飒团队法律服务清单
LIST OF LEGAL SERVICES
1.金刚钻刑事专项法律服务 Criminal Specialized Legal Services
2.拯救“趋利执法”专项法律服务 Special legal services for profit-seeking law enforcement
3.涉案加密资产合规处置专项法律服务 Special legal services for the disposal of confiscated crypto assets in criminal cases
4.企业常年法律服务 Annual Legal Services for Enterprises
5.小保镖专项法律服务 Bodyguard Legal Services
6.小蜜蜂专项法律服务 New Bee Plan
7.落袋为安专项法律服务 Compulsory Enforcement Special Legal Services
8.其他定制化服务 Customized Legal Services for Clients
(1)重大复杂案件刑事辩护、刑事控告;(2)涉案金额巨大的民商事诉讼、仲裁等争议解决。
本法律服务清单报价及沟通请详询团队律师工作微信,微信号:xiaosalawyer。您也可以通过微信公众号后台留言的方式联系我们。
往期精彩回顾
肖飒团队 | C 罗遭索赔 70 亿,是谁让其“十年归零”?
肖飒团队 | AI 生成图片著作权第一案,“人机大战”胜负揭晓!
【免责声明】市场有风险,投资需谨慎。本文不构成投资建议,用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。