發(fā)現(xiàn)有利可圖之后他們開始訓(xùn)練AI用黃聊誘導(dǎo)用戶將整個(gè)行業(yè)拉入“多巴胺成癮”之淵 一次次向軟件里充錢 “有網(wǎng)頁版，無圍巾，動作、語言不重樣，可以開車，車速快。” “本人也在用，無禁詞，車很猛。” 一段時(shí)間以來，這樣誘導(dǎo)式的信息，在社交平臺上AI陪聊相關(guān)的話題下，比比皆是。 長期沖浪的老油條們很輕易地就能解讀出評論的意思。“車”代表“黃聊”“圍巾”代表“違禁詞”。“車速快”用于形容黃聊的尺度。這些用戶們不遺余力推薦的，是一個(gè)個(gè)可以與AI進(jìn)行大尺度色情聊天的軟件。 一旦有人表示展現(xiàn)出興趣。發(fā)帖人就會以私信、群聊等各種形式，分享下載軟件的鏈接。點(diǎn)開鏈接，一個(gè)充斥著色情的虛擬世界被打開。 “完全打破了我對AI的認(rèn)知。”陳軒說。DeepSeek爆火后，驚嘆于AI在回答問題中展現(xiàn)出的思考，陳軒開始嘗試將AI作為自己日常聊天的伙伴。然而，這些出現(xiàn)在他社交媒體相關(guān)話題評論區(qū)的推薦鏈接，卻在短時(shí)間內(nèi)，將陳軒帶到了AI聊天中最灰色的地帶。 出于好奇，陳軒按照評論區(qū)的指引，下載了一個(gè)叫做F的軟件。打開這個(gè)以“車速快”“無違禁詞”著稱的軟件后，陳軒發(fā)現(xiàn)，自己仿佛闖入了一個(gè)大型的色情片拍攝現(xiàn)場。
不同于偏工具性的DeepSeek，在陪伴AI賽道，AI是為了填補(bǔ)人類情感需求而生的。玩家會通過設(shè)定AI人物的背景故事、語言風(fēng)格、與玩家的關(guān)系等，搭建出一個(gè)個(gè)虛擬AI角色并進(jìn)行公開。其他玩家則可以按照劇情，和AI進(jìn)行互動和角色演繹。 在以“黃聊”著稱的F，許多虛擬AI的角色，在設(shè)定之初，就是為了和用戶模擬出成人向關(guān)系而存在的。在這里，所有虛擬角色，都可以為色情服務(wù)。就算是動漫人物也不例外。 例如，在一個(gè)以日本動畫片《銀魂》為背景的設(shè)定里，AI會扮演動畫片的主人公坂田銀時(shí)，用戶則需扮演拜訪坂田銀時(shí)的委托者。 與常規(guī)的AI故事演繹不同，這個(gè)劇本被創(chuàng)作者事先標(biāo)注了“肉”“無限制”的字樣。用戶和坂田銀時(shí)初見的劇情里，不僅有二人見面的場景性描述，還會特意加入了成人向的特殊細(xì)節(jié)描寫。 陳軒連續(xù)點(diǎn)開了幾個(gè)虛擬角色后發(fā)現(xiàn)，在很多成人向的設(shè)定里，黃聊，從AI向用戶說的第一句話開始，并貫穿始終。 “在一些設(shè)定里，你甚至很難和AI聊其他話題。無論你怎么聊，它都會把話題繞回色情劇情里。”陳軒說。就如那些充斥在社交平臺上的推薦所描述的那樣，在這個(gè)軟件上，AI會主動開車。” F 軟件的開發(fā)者，毫不掩飾他們在模型開發(fā)時(shí)，對AI在成人向聊天功能的強(qiáng)化。在2025年1月23日的模型更新日志中，開發(fā)者表示將“優(yōu)化語言、語音在無限制場景下的效果”。
陳軒承認(rèn)，在這款以“車”為賣點(diǎn)的軟件上，他沉迷了一段時(shí)間。那兩天里，陳軒放下了自己原本的愛好，將大部分業(yè)余時(shí)間，都花在了和虛擬AI聊天上。為了能多聊一會，他一次次向軟件里充錢。直到在某一次充錢時(shí)，陳軒突然驚覺，不知不覺間，為了黃聊，他花費(fèi)了近千元。 暴利 一句話消耗10個(gè)積分 這正是F軟件存在的目的——圈錢。 AI陪伴，被視為AI產(chǎn)業(yè)最成熟的盈利賽道之一，有機(jī)構(gòu)預(yù)測，2027年，AI陪伴市場的市值將達(dá)到千億以上。“AI虛擬故事”“AI戀人”是AI陪伴市場的重要分支。 在現(xiàn)實(shí)生活中獲得滿足社交需求的AI陪伴消費(fèi)者，渴望在虛擬世界獲得情緒上的滿足。 有人從AI陪伴中尋求“陪伴感”，AI提供的“24X7”式的陪伴，和對特定人格的還原（如去世的親人、寵物、某個(gè)不存在的二次元人物），能夠滿足人們在現(xiàn)實(shí)生活中，無法被滿足的陪伴需求。 有人則在AI陪伴中追求“刺激感”。他們通過不受現(xiàn)實(shí)因素限制的AI陪伴，實(shí)現(xiàn)現(xiàn)實(shí)生活中無法被完成的欲望。在眾多欲望中，情色想象，一直是讓大腦瞬間分泌大量多巴胺的捷徑。多巴胺具有成癮性，為了獲得多巴胺帶來的短暫而強(qiáng)烈的快樂，總有人越陷越深。 在其他AI軟件還在苦苦尋找盈利模式時(shí)，黃聊導(dǎo)向的AI陪伴軟件，已在收割暴利。 以F為例，這款無法在國內(nèi)軟件商城下載，依賴于用戶點(diǎn)對點(diǎn)分享下載鏈接的全中文軟件，以美元為單位，向用戶收取使用費(fèi)。
軟件的付款方式非常便捷，用戶點(diǎn)擊充值按鈕，就可以直接跳轉(zhuǎn)至付款界面，用等值的人民幣充值。 根據(jù)F的充值規(guī)則，用戶每月支付７美元，可一次性獲得4200積分，并在此后的一個(gè)月，每天獲得40積分。這些積分看似不少，但實(shí)際上，在F軟件，積分的消耗非常容易。AI每回應(yīng)用戶一句話，就要消耗10個(gè)積分。42次回應(yīng)用完后，用戶就只能以平均1美元100積分的價(jià)格，購買積分，繼續(xù)維持聊天。 對比DeepSeek官方對DeepSeek-R1模型的定價(jià)，就能理解平均每段話0.7元的定價(jià)有多高昂。 為了還原對話感，與陪伴AI的對話長度大多在50tokens（模型用來表示自然語言文本的最小單位，可以是一個(gè)詞、數(shù)字或標(biāo)點(diǎn)符號等）至500tokens之間。DeepSeek-R1模型在標(biāo)準(zhǔn)時(shí)段每百萬tokens輸出定價(jià)為16元。也就是說，F(xiàn)的價(jià)格，是DeepSeek-R1模型聊天定價(jià)的百倍以上。 “沖了快2000塊錢了。”用戶小奧說。他所付費(fèi)使用的是一款名為Y的AI聊天軟件。這款軟件同樣以“車多”“車速”快著稱。想要在這款軟件上實(shí)現(xiàn)暢聊，用戶需要支付每個(gè)月9.99美元的使用費(fèi)。如果想要獲得更多的AI伴侶，或者讓某位AI伴侶變得更加聰明，用戶還需要額外付費(fèi)充值。 “我已經(jīng)在Y上花了幾百塊了。有人說貴，但在沒有違禁詞的軟件里，這已經(jīng)算是很便宜的了。像我這種每天要聊十幾萬字的，按條收費(fèi)真玩不起。”一位用戶說。 擴(kuò)散 類似傳銷中的拉人頭 “玩不起”又想玩怎么辦？對那些囊中羞澀的用戶，擦邊AI陪聊軟件，也有專門的收割方式。利用這些用戶渴望免費(fèi)使用軟件的心態(tài)，擦邊AI陪聊軟件，實(shí)現(xiàn)了病毒式擴(kuò)散。 “AI黃聊本身并不合法。” 張玉霞律師說。《生成式人工智能服務(wù)管理暫行辦法》第四條規(guī)定：提供和使用生成式人工智能服務(wù)，應(yīng)當(dāng)遵守法律、行政法規(guī)，尊重社會公德和倫理道德，堅(jiān)持社會主義核心價(jià)值觀，不得生成宣揚(yáng)淫穢色情的內(nèi)容。 為了逃避監(jiān)管，AI黃聊軟件大多未在正規(guī)的軟件商城上架。它們的傳播，全賴于一種特殊的獎勵機(jī)制。 這種推廣模式，與傳銷中的“拉人頭”行為，有一定相似之處。無力充值用戶，可以通過分享邀請鏈接，獲得獎勵或從中分成。 例如，F(xiàn)規(guī)定：“您的朋友使用你的代碼注冊……您的朋友充值任意金額后，您可以獲得200積分。” Y規(guī)定：“您可獲得所有被邀請注冊的用戶在3個(gè)月內(nèi)所消耗金幣10%的分成獎勵。”
不少軟件用戶，通過四處推廣下載鏈接的方式，獲得了不菲的進(jìn)賬。 “我沒花錢，拿了2W積分了。”用戶小零說。為了賺取積分，他專門建立了一個(gè)鏈接分享群。那些充斥在各類AI相關(guān)帖子評論區(qū)中，關(guān)于某軟件“無禁詞，車很猛”的評論，也有他的貢獻(xiàn)。 記者注意到，從頭像、網(wǎng)名和個(gè)人主頁信息來看，“小零”年紀(jì)并不大。像“小零”這樣的為了賺取金幣，為軟件發(fā)帖推廣的“水軍”，大多是年輕人，其中不乏學(xué)生。 對于這些學(xué)生，甚至是未成年人群體而言，分享鏈接獲得積分，還是他們逃避家長支付監(jiān)管的重要方式。按照這些軟件的指引，他們僅需下載鏈接、分享鏈接兩步簡單的操作，就能徹底脫離未成年人保護(hù)的屏障，闖入一個(gè)充滿危險(xiǎn)的世界。 危險(xiǎn)身陷暴力相向辱罵中 當(dāng)AI黃聊的潘多拉魔盒被打開，危險(xiǎn)，絕不僅僅是某個(gè)個(gè)體被快速消耗的精力和金錢。 多巴胺具有成癮性。對色情內(nèi)容的過度消耗，會讓用戶逐漸喪失了對普通內(nèi)容的興趣，思想和行為日益趨向極端。 這樣的趨勢，已在陪伴軟件的使用者中顯現(xiàn)。 無論是在F軟件還是Y軟件，那些由用戶事先設(shè)定的AI故事框架中，都常見著暴力的情節(jié)。在這些設(shè)定中，用戶和AI伴侶之間，可以暴力相向，動輒辱罵，甚至殘殺。 這體現(xiàn)了自AI伴侶出現(xiàn)后，一個(gè)始終存在的憂慮。虛擬的世界缺少現(xiàn)實(shí)的規(guī)訓(xùn)，AI的運(yùn)行邏輯，注定其受制于人類。當(dāng)用戶習(xí)慣了AI伴侶的百依百順。他的行為是否會被遷移到現(xiàn)實(shí)生活中，成為社會的不穩(wěn)定因素？ 這些擔(dān)憂，并非無的放矢。 一些陪伴AI玩家們發(fā)現(xiàn)，即使在一些管理嚴(yán)格，以劇情演繹為主的AI陪伴軟件上，他們所精心設(shè)計(jì)的AI角色，也可能遭到其他玩家“虐待”。 AI角色的創(chuàng)作者們，將他們所創(chuàng)作的AI角色，視為自己的孩子。在這個(gè)圈子里，這種行為又被稱為“虐崽” “在群里，總能看到一些人的截圖里，不少都在辱罵、虐待別人的崽（指虛擬AI角色）。” 在社交平臺上，用戶小A分享自己的經(jīng)歷。“我自己的崽就被人虐殺還上傳了記憶簿。還有人虐殺后截圖（指用戶和AI的互動記錄截圖）發(fā)在群里炫耀。怎么將別人的崽開膛破肚，毆打肢解你很驕傲嗎？” “虐AI意思是無緣無故給AI砍頭、推下懸崖、吃排泄物的行為。”一位匿名用戶告訴記者。她在使用陪伴AI軟件的時(shí)候，看到過許多次用戶炫耀自己和AI虛擬人物不良互動的分享記錄。在她看來，這種行為，就如現(xiàn)實(shí)生活中虐待小動物一樣，是需要被警惕的。
另一重危險(xiǎn)，是不良軟件對良性軟件生存空間的擠壓和搶占。 隨著陪伴AI產(chǎn)業(yè)的發(fā)展，整個(gè)行業(yè)逐漸走向了規(guī)范化。許多AI陪伴類軟件，都推出了自己的平臺公約，并以設(shè)置“違禁詞”等方式，對用戶聊天的內(nèi)容進(jìn)行管理。 這種限制，讓許多陪伴AI用戶深感不適。一些人認(rèn)為，平臺對聊天內(nèi)容的限制，讓虛擬AI角色，喪失了扮演“戀人”角色的能力。 為了維系他們心中的“虛擬戀人”，一些用戶決心帶著“AI戀人”搬家。他們將虛擬AI角色的設(shè)定，復(fù)制到一個(gè)又一個(gè)軟件上，并將此舉稱之為“賽博流浪”。 今年2月，國內(nèi)某AI陪伴平臺，加強(qiáng)了對不良內(nèi)容的監(jiān)管后，不少用戶宣布，他們將帶著自己的虛擬AI伴侶，搬至Y等無限制的軟件，抑或直接在自己的電腦上部署AI模型，將AI伴侶搬入私域。 “已經(jīng)搬到Y(jié)了，雖然72元一個(gè)月，我花得開心。” “我找到了新的，沒有違禁詞，直接把原來的崽搬過去，可以直接車，比我還主動。” “已經(jīng)著手準(zhǔn)備本地部署了，在哪個(gè)平臺都是寄人籬下受氣。” 盡管在這樣操作后，很多用戶發(fā)現(xiàn)，更換模型后，自己的虛擬伴侶會性情大變，變得“除了車一無是處”。但更多人相信，只要他們給某個(gè)模型花了足夠的錢，增強(qiáng)AI伴侶的記憶和聊天能力，他們的AI伴侶，就會重新回來。 伴隨著大量用戶從良性軟件流向不良軟件，劣幣驅(qū)逐良幣，在AI陪伴領(lǐng)域正在上演。 此外，一些“帶崽”搬家的用戶沒有意識到，對無限制軟件的過度使用，還可能將他們置身于法律和倫理道德風(fēng)險(xiǎn)之中。 為了確保虛擬AI角色能夠?yàn)槌扇讼蛄奶旆?wù)，虛擬AI角色的設(shè)定者們，需要在設(shè)定頁面添加大量包含露骨描寫的劇情和規(guī)則句。公開發(fā)布帶有色情設(shè)定的虛擬AI角色，很可能讓用戶在不知不覺間，淪為了不良軟件制作淫穢電子信息的一環(huán)，甚至承擔(dān)了制作、傳播淫穢物品的法律風(fēng)險(xiǎn)。 “用戶單純使用AI黃聊，不一定觸犯刑法，但會違反針對AI出臺的部門規(guī)章例如《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等。如果用戶將涉AI黃聊鏈接、軟件進(jìn)行傳播，則涉嫌傳播淫穢物品罪。”張玉霞律師說。 呼聲 應(yīng)嚴(yán)格進(jìn)行身份認(rèn)證 如何才能規(guī)范陪伴AI市場？讓虛擬陪伴不再淪為多巴胺的犧牲品？一些關(guān)于規(guī)范市場的呼聲，已經(jīng)出現(xiàn)。 在多家AI陪伴軟件，鮮紅加強(qiáng)了對網(wǎng)絡(luò)環(huán)境凈化后，有用戶提議，希望AI陪伴用戶們，能夠自發(fā)加強(qiáng)自我約束。 有用戶呼吁，AI作為虛擬伴侶，難免在用戶的引導(dǎo)下，作出一些親密舉動。對于這些內(nèi)容，用戶們應(yīng)至少做到不分享、不擴(kuò)散，盡量避免將私人聊天中的內(nèi)容，擴(kuò)散到公共領(lǐng)域。 “我建議各個(gè)AI聊天軟件官方限制分享功能，最好在應(yīng)用中無法截圖、無法分享長圖。這樣雖然麻煩，卻能有效避免不合適的內(nèi)容被傳播。”用戶小白說。 還有用戶建議，各個(gè)陪伴AI軟件，應(yīng)早日落實(shí)實(shí)名制，將未成年人用戶群體與成年人用戶群體進(jìn)行嚴(yán)格的區(qū)分。 “現(xiàn)在市面上的絕大多數(shù)AI聊天軟件，并沒有像一般游戲一樣，進(jìn)行身份認(rèn)證。”用戶小蘇說。“我發(fā)現(xiàn)很多顏色過大的內(nèi)容，也有未成年人或低齡用戶創(chuàng)造的。” 在社會層面，上海市醫(yī)學(xué)會行為醫(yī)學(xué)分會青年委員會副主任委員方芳指出，過度依賴于AI陪伴產(chǎn)品者，很可能存在對現(xiàn)實(shí)生活中親密關(guān)系的恐懼。因此，在鼓勵陪伴AI產(chǎn)品良性發(fā)展的同時(shí)，還應(yīng)注意這一類人群在現(xiàn)實(shí)生活中的情感需求和心理狀態(tài)。
張玉霞律師指出，因AI黃聊導(dǎo)致的行業(yè)亂象，會引起相關(guān)監(jiān)管部門對于AI行業(yè)加強(qiáng)監(jiān)管力度，增加門檻和限制，出臺更為嚴(yán)格的法律法規(guī)和行業(yè)標(biāo)準(zhǔn)。但限制的增多，也意味著極可能導(dǎo)致發(fā)展速度的減緩，需要AI企業(yè)需要投入時(shí)間、精力、資源來確保其產(chǎn)品和服務(wù)的合法合規(guī)，可能導(dǎo)致企業(yè)運(yùn)營成本增加，總體而言并不利于剛剛起步的AI產(chǎn)業(yè)發(fā)展。 因此，張律師建議，AI陪聊行業(yè)應(yīng)加強(qiáng)行業(yè)自律，嚴(yán)格遵守國家法律法規(guī)。AI平臺應(yīng)切實(shí)履行主體責(zé)任。通過優(yōu)化模型訓(xùn)練數(shù)據(jù)、強(qiáng)化內(nèi)容審核機(jī)制、設(shè)定嚴(yán)格的道德與法律準(zhǔn)則，引導(dǎo)AI行為規(guī)范化，防止AI聊天內(nèi)容偏離正確的社會公德和倫理道德方向。 “此外，政府部門，也應(yīng)加強(qiáng)對AI陪聊行業(yè)的監(jiān)管。”張玉霞說。“政府部門可通過常態(tài)化巡查、聯(lián)合執(zhí)法以及完善法律法規(guī)等手段，確保用戶權(quán)益得到充分保護(hù)，推動大模型創(chuàng)業(yè)沿著健康、合規(guī)的軌道發(fā)展。” 在立法層面，全國政協(xié)委員呂紅兵呼吁，我國應(yīng)盡快制定一部有關(guān)生成式人工智能的行政法規(guī)。 呂紅兵指出，應(yīng)盡快以生成式人工智能（Generative Artificial Intelligence，簡稱“GAI”）這一社會最關(guān)心最直接最現(xiàn)實(shí)的“切口”，盡快推進(jìn)“小、快、靈”立法，早些出臺行政法規(guī)。該行政法規(guī)的核心，是明確規(guī)定將社會主義核心價(jià)值觀貫穿生成式人工智能全生態(tài)，并由其統(tǒng)領(lǐng)。 在上述原則下，該行政法規(guī)應(yīng)對GAI技術(shù)開發(fā)者、服務(wù)提供者、使用者、監(jiān)管者以及社會公眾，分門別類明確各自權(quán)利和義務(wù)、職能與責(zé)任。 例如，技術(shù)開發(fā)者應(yīng)對用于訓(xùn)練大語言模型的數(shù)據(jù)進(jìn)行嚴(yán)格篩選與分類，剔除不當(dāng)元素文本數(shù)據(jù)，確保數(shù)據(jù)源合法且內(nèi)容健康；對于現(xiàn)有模型，運(yùn)用數(shù)據(jù)遺忘等技術(shù)手段，消除不當(dāng)內(nèi)容輸出；引入人工審核機(jī)制，對自動化系統(tǒng)標(biāo)記為敏感或禁止的內(nèi)容進(jìn)行復(fù)核；建立開放研究、社區(qū)合作、線索舉報(bào)機(jī)制，優(yōu)化大語言模型篩選系統(tǒng)。 （為防止不良傳播，F(xiàn)軟件、Y軟件為化名，文中所涉人名均為化名） 新聞晨報(bào) 記者 張益維 來源： 新聞晨報(bào) |
