"阿姨,我可以叫你一聲娘嗎？"警惕AI數(shù)字人惡意誘導(dǎo)"收割"老年人

近日，“零元學(xué)剪輯”欺詐老年人騙局引發(fā)廣泛關(guān)注。此類欺詐行為中，騙子打著“零元學(xué)剪輯”的幌子吸引老年用戶，以承諾學(xué)會便可持續(xù)獲利為誘餌，誘騙其充值，對老年用戶進行一輪輪“收割”。在最新公布的抖音打擊誘騙老年用戶內(nèi)容的治理公告中，平臺對此類違規(guī)行為進行了重點打擊，多個數(shù)十萬粉絲賬號被封禁。

1792個違規(guī)賬戶被封停

“奶奶在家學(xué)剪輯，一個月后看到第一筆收入，全家激動大哭”，多數(shù)網(wǎng)友看到此類標(biāo)題，心里都會打幾個問號。但對于有些退休在家、想要找點事情做的老年人卻格外有吸引力。加之部分老年人網(wǎng)絡(luò)經(jīng)驗匱乏，對視頻剪輯缺乏了解，更容易被騙子的話術(shù)和套路所誘騙。

日前，抖音安全中心揭露了這一針對老年用戶的欺詐行為：用戶一旦輕信后報名，可能會被拉到第三方平臺學(xué)習(xí)所謂“初階課”，實際多為獲利誘導(dǎo)內(nèi)容，以此騙取用戶付費上“高階課”。騙子還會以“可在平臺持續(xù)獲利”等名義，誘騙用戶買粉絲、買流量，委托其代運營，進一步騙取更多金額。

平臺下架的部分違規(guī)內(nèi)容示例。

這一類欺詐行為已有不少人受騙。據(jù)上海警方披露，從去年4月起，呂某等人經(jīng)營的某科技有限公司，以0元學(xué)習(xí)剪輯課程，短視頻帶貨賺取高額利潤等為噱頭，吸引中老年人購買所謂培訓(xùn)課程。這些所謂的培訓(xùn)課程都是團伙成員從互聯(lián)網(wǎng)上東拼西抄后自行錄制的視頻，所謂的套餐漲粉，也只是公司購買的僵尸粉，根本不會產(chǎn)生購買成交量。針對這起案件，上海警方目前已查凍涉案資金1000余萬元，對20名嫌疑人采取刑事強制措施。

為此，平臺方也加大了打擊力度，相關(guān)內(nèi)容被下架清理，多個數(shù)十萬粉絲賬號被封禁，1792個違規(guī)廣告賬戶被封停。同時，平臺還對類似的“零元學(xué)養(yǎng)生”“零元學(xué)配音”等其他“收割”老年人的惡意誘導(dǎo)行為進行了全面打擊。當(dāng)用戶搜索相關(guān)關(guān)鍵詞時，搜索結(jié)果會置頂顯示“購買課程，質(zhì)量為重，切勿輕信低價促銷信息”提示語，提醒用戶特別是老年群體提高防范意識。

“借中醫(yī)養(yǎng)生引流賣藥”也屬違規(guī)

近年來，“刷短視頻”成了老年人的日常生活，為老年人獲取知識、社交娛樂、展示自我提供了新工具。相關(guān)調(diào)研表明，63.7%的老年用戶認(rèn)為短視頻為生活增加了樂趣，25.2%認(rèn)為短視頻便于他們“關(guān)注朋友動態(tài)、跟朋友互動”。

但平臺也注意到，針對老年用戶的惡意誘導(dǎo)、騙贊、騙互動等行為也隨之增多。在最新公告中，抖音曝光了以冒充名人、AI生成人像等手段，發(fā)布關(guān)心老人、領(lǐng)獎金/養(yǎng)老金、無腦稱贊等內(nèi)容騙取互動的違規(guī)行為。

在這些違規(guī)現(xiàn)象中，有個別賬號通過AI生成人像發(fā)布第一人稱關(guān)心的話術(shù)，如“阿姨，我可以叫你一聲娘嗎”“孩子好想你，愿意給我一朵小紅花嗎”“娘，您辛苦了”等，利用老年用戶的情感需求，誘導(dǎo)吸引女性老年用戶關(guān)注，騙取用戶互動。另有違規(guī)賬號，通過仿冒名人發(fā)布養(yǎng)老金、高齡補貼，或持續(xù)發(fā)布“2000萬到你家了，接收一下吧”“點擊按鈕，今晚必中獎”等博眼球內(nèi)容，讓老年人誤以為“點亮紅心和加號”就可以中獎或領(lǐng)錢，繼而陷入騙互動陷阱或上當(dāng)受騙。對于這些內(nèi)容，抖音進行了全面清理，相關(guān)賬號受到限制投稿7天、30天乃至無限期封禁處罰。

平臺集中治理打擊“收割”老年人的違規(guī)行為。

平臺還曝光了某些不良商家通過“免費問診”，甚至虛構(gòu)中醫(yī)身份或背景，將老年人誘導(dǎo)至第三方平臺后，以老年人患有各種疾病需要進行治療為幌子，向其推銷高價“排毒產(chǎn)品”“三無藥品”“中醫(yī)課程”等騙取錢財?shù)冗`規(guī)行為。抖音相關(guān)負(fù)責(zé)人表示，針對違規(guī)售賣藥品、保健品、倒賣客資等行為，該平臺持續(xù)堅決打擊，視商家的違規(guī)情況采取限制廣告投放、封停廣告賬戶甚至清退的處置。近一年以來，該平臺共封停100個廣告賬戶、清退43個廣告主。

[此文來源：上觀新聞 作者：查睿 題圖來源：上觀題圖，版權(quán)說明：以上文字及圖片來源于網(wǎng)絡(luò)，僅供學(xué)習(xí)和交流使用，不具有任何商業(yè)用途，其目的在于傳遞更多的信息，并不代表本平臺贊同其觀點。版權(quán)歸原作者所有，如涉版權(quán)或來源標(biāo)注有誤，請及時和我們?nèi)〉寐?lián)系，我們將迅速處理，謝謝!]