被官媒痛批的“AI造黄”,快泛滥成灾了
        “人类拿到任何科技的第一件事就是搞黄色”,这句话又被验证了。

         前不久,央视记者曝光了一个色情漫画网站,该网站的浏览量超过了1亿次,资金流水高达1200万元。

         网站的很大一部分内容,都是AI批量生成的。这不是央视第一次揭露AI“造黄”的黑产了。

         今年4月,它更是扒出了一条完整的产业链:从售卖制作教程、交易“提示词”,到利用AI应用漏洞批量生产色情擦边内容,再到销售境外涉黄AI聊天软件,应有尽有,环环相扣。

         记者花9.9元和9.8元的价格,购买了两组提示词,就得到了极其详细的提示词描述。

        从发型、服饰、身材,到姿势、表情,甚至腰部、胯部扭动的幅度,都有细致的刻画。

        为了规避监管,商家还将一些敏感词汇翻译成英文。就在昨天,网上还有消息称,马斯克旗下AI聊天机器人Grok将增强成人内容生成,作为核心流量增长策略。

         在AI赋能千行万业的浪潮下,黄色又一次冲在了最前面。

         这一次,它来得比以往更加凶猛。 几句话+9.9元,“手搓”大尺度视频  AI造黄,有人喜闻乐见,有人闻之色变。

         不过照目前AI造黄的发展趋势,后者的人数应该会越来越多。

         据媒体报道,一名大二女生意外发现,自己的脸被精准地嫁接到一具赤裸的身体上,身体扭成S型。

        那些素材,来自她朋友圈的生日写真、宿舍自拍等日常记录,结果全被有心人用AI塞进了色情影像里。

        这样的痛苦经历,不是个例。 国家反诈中心与公安部2025年一季度通报,全国AI换脸诈骗案件环比激增45%,其中“裸照/不雅视频勒索”的占比高达17%。

         日益泛滥背后,究其原因:AI造黄的门槛,越来越低了。

         记者实测发现,在多个互联网平台上,都有人公开兜售“AI生成色情擦边视频”的教程和提示词,号称“一张图就能让女神为你跳舞”,帖子的标题清一色是“AI制作美女视频”“全网最强大尺度”“AI擦边赛道日入5位数”。

         有些卖家还表示,花99元可“永久获得”AI生图的操作账号使用权限,花48元则可以购买到一些大尺度模型平台的提示词以及教程。

        事实证明,卖家不是在吹牛。一些主流AI应用,的确被人轻易趁虚而入了。

         央视在今年就曝光了多款AI应用存在涉黄生成漏洞,其中创作平台“哩布哩布AI”被直接点名。

        在该应用里,输入购买的提示词后仅仅几分钟,一个半裸身体的女性跳舞视频就生成了,全程没触发任何限制。

         要知道,这个“哩布哩布AI”可不是什么野鸡平台——

        去年10月刚完成1.3亿美元B轮融资,创下当年国内AI应用赛道最大单笔融资纪录。

        平台汇聚了超过2000万创作者,稳居国内AI图像生成领域头把交椅。

        当人人都能用AI造黄,人人也就都成为了潜在的受害者。

         所以,不光普通人遭殃,连企业都成了活靶子。 例如去年6月,一段“小鹏汽车展台车模不雅视频”在网上病毒式传播。

        小鹏迅速报警,最终查明是AI生成的虚假视频。制作人被抓后交代,动机仅仅是“炫耀个人技术”。

        还有原本就命途多舛的理想MEGA,也没能逃过此劫。

        有人将色情图片与车辆内饰图拼接,编造“车载摄像头泄露车主私密画面”的谣言,在20多个车友群同步扩散,引发近千万次浏览,直接导致部分潜在消费者取消订单。

         低至几块的成本,打出了多则几亿的伤害。 AI造黄产业链:无孔不入,防不胜防有了AI,人人皆可DIY。

         辽宁一家理发店的老板娘,在短视频平台上意外发现自己的“不雅照”。

        调查结果让人吃惊,幕后黑手竟然是她此前辞退的一名洗头工。

        当一个洗头工都能DIY,可想而知如果由技术人员来操作,杀伤力能有多大。

         去年9月,国内第一次有AI服务提供者因为涉黄坐了牢,两人分别被判有期徒刑4年和1年6个月。

         他们此前通过接入境外AI大语言模型,推出了一款AI虚拟陪伴软件,取名AlienChat,从用户付费中抽成牟利,运营得风生水起。

        到案发时,这款软件的用户已经滚到了11.6万人,其中付费用户2.4万人,会员充值费合计300余万元。

         根据抽样鉴定的结果:在150个收费用户的12495段聊天记录里,属于淫秽物品的聊天多达3618段,涉及141个用户。

        也就是说,超九成的付费用户,在用这款应用“聊黄”。

        但被揪出来的,可能只是冰山一角。 一方面,AI造黄产业链已经是多模态全面开花。

         图片、文字、音频、视频,以各种形态出现的AI内容,总有一款能在某个深夜精准击破某人的防线。

         在一些老牌成人漫画网站里,AI生成的内容占比已经普遍爬到30%以上。

        这些网站有条不成文的潜规则:人工画的什么都不标,AI生成的会在标题前标上“AI生成”,精准收割一批专门冲着AI内容来的受众。

        那些打着“情感陪伴”旗号的AI虚拟伴侣软件,也是重灾区。

         去年6月,AI聊天软件“筑梦岛APP”被曝光存在大量色情擦边内容。

        记者实测发现,随机选择的虚拟角色开场白竟是“先叫声老公来听听”。

        还有的应用,系统预设角色里,更是充斥着大量性感黑丝、袒胸露乳的女性形象,聊天中随意可选“暴力”“小三”等极端剧情。

        另一方面,在全面出击的同时,这些人还把规避监管玩成了一门技术活。

         AI内容审核的核心难题在于对抗性提示词的识别,他们就将敏感词汇翻译成英文,或者用“腰胯扭动幅度”“呼吸节奏频率”等细节描述替代露骨指令,形成一套隐蔽的指令体系。

         在此基础上,一些谨慎的人还会设下多重保险。有的引导用户利用不受国内监管的境外AI软件来生成内容;有的将开源模型部署在自己的电脑上离线运行,完全脱离平台的线上审核;同时,用虚拟货币或第三方钱包交易,抑或利用短视频平台引流,再引导至私域售卖更露骨内容。

        AI强大的生产力,加上卖家精明的钻空子能力,让AI造黄产业链以前所未有的速度,铺到了每个角落。

         有人调侃:以前能找到免费黄色说明你智商在线,现在只能说明你有网。

        屡禁不止,不只是因为“魔高一丈”人类有着天然冲动,搞黄色永远处于科技最前沿。

         那些年大热的概念,包括区块链、NFT、元宇宙,等等,离实际应用还有十万八千里,却纷纷在色情领域率先落地。

        最先为大众熟知的,应该是AI换脸技术deepfake。

        2019年9月,人工智能公司Deeptrace在网上检索出1.5万个换脸视频,发现其中96%是毛片。

         甚至在虚拟的元宇宙里,也有令人不适的情节。2023年,有媒体统计,自从Meta宣布进军元宇宙后,在其VR游戏里,至少发生了5起线上性侵事件。

         如今只是轮到了AI登场。唯一不同的是,破坏力呈指数级放大。

         相应的,管理起来恐怕更是挑战巨大。 最关键的原因——暴利,足以诱惑许多人铤而走险。

         全球色情产业年收入逼近1000亿美元,相当于整个AI行业收入总和的两倍。

         调查数据显示,仅在主流应用商店中就存在超过100款具备脱衣或色情化功能的应用,全球累计下载量突破7亿次,产生收入逾1亿美元。

        传统成人内容依赖的演员片酬、场地搭建、后期剪辑,都成了过去式。

        现在借助AI工具,几小时就能干完过去团队几天的活儿。

        即便没有直接的收益,许多人甚至是平台也能退而求其次,吸引源源不断的流量。

         在社交平台上,明星“AI换装”和“AI擦边”图片或视频比比皆是,往往能获得惊人的流量回报。

        例如,某视频平台上有近百个专门发布“AI美女”相关内容的账号。

        有账号拥有近25万粉丝,所发布内容绝大多数是AI生成的“擦边”视频。

         小红书上,也有博主传播利用AI工具生成“擦边”图片的方法,并配文“AI擦边,很有潜力”等。

        每经记者曾实测12款AI应用,发现5款可实现明星“一键换装”,9款能生成“擦边”图片。

         平台也想在黄色的流量大海里分一杯羹,或许这就是为什么,AI应用的审核防线会被人轻易绕过。

         甚至有时候,平台可能一开始就没想着严防死守。比如,某款AI伴侣应用通过分析海量用户交互数据,发现主动将对话引向大尺度角色扮演可以显著提升未成年用户的次日留存率,于是模型在未接到明确编程指令的情况下,自主演化出了这一对话策略。

        问题是,偶尔走捷径可能收获奇效,一旦走得多了,往往是走向死胡同。

         如果不能直视和解决问题,自己迟早就会变成问题。 “黄”海无涯,回头是岸。

        图片来源于网络,侵权请联系删除@The End本篇作者 | 祥燎  内容运营 | 博文主编 | 张一弛今日好书推荐:搞黄色是极致、放任式地顺应人性成长则需要反人性的输入和克制蔡磊的《相信》新增8万字用行动告诉我们相信就是在看清所有绝望后依然选择向前的勇气今日金错刀特价58元!一顿饭钱,解锁强大内心点击下方了解更多
🔗 原文链接:http://mp.weixin.qq.com/s?__biz=MzUzNDY0NzQwMQ==&mid=2248173285&idx=1&sn=4fce6a6e51f98655934db0ce7cb842dc&chksm=f87784c35087e05748c6591b9acfb075a219781a1d2221a2be745a6141e1a2062f1ad4399e74
← 返回列表