AI不僅能替你上學，幫你寫作業，甚至還能為你領筆“補助金”回來——不過，前提是你得先教它怎么騙過活人。

這魔幻現實的一幕正在美國社區大學上演：詐騙集團用ChatGPT等等AI工具批量生成學生身份，專門盜取聯邦和州政府的助學補貼。

這些“賽博學生”比人類更善于“賣慘”，無家可歸學生和寄養青年的身份偽裝幫助他們更快通過申請。課堂表現更堪稱模范，不僅能搶課占位，出勤率甚至比真學霸還高，還能準時交作業。

魔幻的背后，是技術與人性的博弈。YouTube上，甚至有人發布“教學”視頻，展示了自動化程序如何繞過Contra Costa College的入學審核系統。

這些“賽博學生”已經幫助詐騙集團收割了數百萬美金。根據CalMatters，2022年6月，教育部對洛杉磯海港學院 （Los Angeles Harbor College） 和西洛杉磯學院 （West Los Angeles College） 一個詐騙集團展開調查，該集團在過去四年中利用至少57人的身份竊取超過110萬美元聯邦援助。洛杉磯城市學院 （Los Angeles City College） 另一詐騙案可能涉及超過100萬美元，盜用70人身份。

校方也不得不為此支付高昂的費用，借助專業的技術手段偵破騙局。加州校長辦公室統計，2023年社區大學申請者中高達25%是機器人，而校方為此支付的防欺詐費用已超過25萬美元。

然而，這場校園騙局不過是AI侵蝕現實世界的冰山一角。

從偽造“全紅嬋家新房開工”的帶貨視頻，到用雷軍的聲音生成罵人內容；從“假靳東”騙取老人20萬元，到寶媽被AI戀人騙走200萬元，AI詐騙已滲透社交、消費、金融的每一個縫隙。

在這場AI技術與人類的認知攻防戰中，人類正面臨一場前所未有的信任危機——我們還能相信自己的眼睛和耳朵嗎？

一、AI學霸攻陷社區大學

“賽博學生”們的偽裝也并非毫無破綻。

2023年，伯克利市立學院 （Berkeley City College） 圖書館員道奇 （Heather Dodge） 在線上課程中要求學生用iPhone或網路攝影機拍攝基本自我介紹的影片作業，但發現4名學生提交的是類似ChatGPT生成的泛泛文字。

道奇開始懷疑他們的學生身份，但因為擔心存在偏見，她要求對他們分別進行Zoom會議。其中兩人沒回應，一名學生同意進行視頻會議，但表示攝影機和麥克風無法使用，另一名學生幾乎不會說英語，每次透過Zoom提問，都用手機翻譯。

除此以外，還出現了大量回復內容明顯不合常理、幾乎不可能是人類所寫的賬戶。例如有的注冊賬號會在自我介紹中寫出“你好，我是 [請輸入城市名稱] 的學生”這類明顯的程序模板語句，或者使用學生通常不會用的文法。

這些“賽博學生”通過注冊課程并保持足夠長的注冊時間，為了維持在校身份，TA們會提交由 AI 生成的作業。

TA們的目標是社區大學的助學金。作為兩年制的公立大學，美國社區大學學費通常低于四年制大學。由于招生對象以本地學生為主，州和聯邦政府也會提供助學金支持。

加州法律要求社區大學接受所有合法學生，且長期致力降低注冊門檻，學生需簽署宣誓書，保證其資訊真實性，但許多大學不會獨立核實學生身分。部分學院聲稱對無家可歸或曾寄養青年的申請者較為寬松，這一漏洞正被詐騙者利用。

等到助學金發放后，“賽博學生”再退課，從中獲取資金。

教師們也面臨甄別真假學生的挑戰。Southwestern College 教授伊麗莎白·史密斯透露，她原本課程注冊的 104 人中，僅確認其中 15 人為真實學生，其余均被她判斷為機器人。“起初我還為課程受歡迎感到開心，現在只剩下滿心失望。”

但在許多情況下，人工判斷并不容易，還需要借助專業的技術手段，當然也需要學校支付不菲的費用。

洛杉磯社區學院副校長洛佩茲 （Nicole Albo-Lopez） 表示，去年因詐欺行為，學區刪除約四分之一課程注冊，學校向身份驗證公司Socure支付超過25萬美元協助偵測詐欺。

當“賽博學生”在校園中悄然蠶食教育資源時，一場AI信任危機正在社會各個角落悄然蔓延。

二、AI騙局隨處可見

AI詐騙的觸角早已突破校園圍墻，在國內，自帶光環的公眾人物正在成為首批大規模受害者。

近日，社交平臺上出現多個賬號使用AI合成的全紅嬋爸爸、哥哥聲音，用完全相同的文案介紹家里要蓋新房，以此來博取流量。

在AI合成視頻中攜帶有駱駝奶粉、土雞蛋、洗衣液等多種商品鏈接，流量較大的仿冒作品評論區中，不乏有人被騙下單購買，部分消費者收到三無產品后投訴無門。

事實上，利用AI偽造視頻的現象并不罕見，此前曾有多位明星成為AI偽造視頻的素材。

半個月前，張馨予公開譴責商家用 AI 合成其聲音推銷減肥藥。一個月前，劉曉慶也遭遇 AI 換臉視頻冒用，公開表示 “聲音像我卻非我”。

“去年‘十一’，有網友說過了7天假，被我整整罵了8天。是什么 （情況） ？網上出現了非常多 （AI生成的） 用我的聲音罵人的內容。”今年3月，小米集團創始人雷軍在兩會期間就表示，他本人就是AI換臉擬聲的受害者。

“假靳東”詐騙老年人、“國慶7天AI雷軍罵了8天”、“張文宏”深夜帶貨等一眾AI假冒名人的新聞頻頻出現在熱搜榜單上，已經引起今年兩會代表委員的高度關注，呼吁通過法律手段來加強對AI詐騙的管理和約束。

與此同時，AI詐騙早已突破名人圈，滲透至社交陷阱、消費欺詐和信息泄露等生活高頻場景。

不久前，AI假孫子的視頻就讓不少老年人深陷其中，視頻里穿紙尿褲的嬰兒獨自去地里摘茄子、洗凈后還能抄起菜刀給全家做三菜一湯。這些違背常理的內容，在年輕人看來簡直讓人難以置信，卻絲毫不影響評論區“幸福時光”“幸福快樂”等老年用戶留下點贊和祝福。

如果說面對AI假孫子，老年人只是投入感情，那在面對假“靳東”的時候，則是情感金錢雙投入。在假“靳東”詐騙案中，其中最典型的一例是60歲阿姨向假靳東轉賬近20萬元。

傳統電詐中，詐騙分子集中圍獵“一老一少”的情況比較常見，面對完全可以以假亂真的AI詐騙，年輕人也和老年人一樣沒有招架之力。

利用換臉和換聲技術，AI化身“虛擬戀人”，用精心設計的話術和人設，把受害人迷得暈頭轉向，最后露出“騙錢”的真面目，類似網絡交友詐騙案例屢見不鮮。

據《中國青年報》報道，2023年，寶媽王枚 （化名） 在境外求學期間通過社交平臺結識偽裝成房東的男性網友，對方利用AI換臉換聲技術獲取其信任并發展戀愛關系。隨后以投資加密貨幣為名誘騙其小額試水獲利，逐步誘導加大投入，致使王枚抵押房產、網貸累計損失約200萬元，最終提現受阻發現被騙。

從名人到普羅大眾，AI詐騙正無孔不入。

三、AI黑產已成產業鏈

AI騙局在現實中肆意橫行，而在這背后，一個龐大且復雜的AI黑產產業鏈正悄然成型。

在電影《孤注一擲》中，大型詐騙集團由成百上千名詐騙分子組成，集團內部分工明確。如今，AI技術普及讓詐騙門檻大幅降低，一兩名詐騙分子就可以展開個人作案，AI技術承擔了從目標篩選到身份偽裝的一系列工作。

幾年前“假靳東”進行情感詐騙時還需要有真人來扮演，可現在AI生成的虛擬人物不僅更逼真，而且更懂老年人的需求。

事實上，AI黑產由來已久。

早在2017年，一個名為“deepfakes”的 Reddit 用戶在社交網站上發布了斯嘉麗·約翰遜等女演員的換臉視頻，使得“Deepfake”成為了“AI換臉”的代名詞。

模型公布后引發轟動。網絡上隨即開始出現大量使用Deepfake合成的色情視頻，其中不少視頻女主角的人臉被替換為斯嘉麗·約翰遜、蓋爾·加朵等大牌女星。

這給女星們造成了極其惡劣的負面影響，最終在粉絲的譴責中，視頻被刪除，相關論壇也被封禁。

但由于相關技術的源代碼都免費開放，很快，一系列AI換臉軟件在國內風生水起，包括ZAO、去演、顏技和AI換臉等。

在號稱“僅需一張照片，出演天下好戲”的ZAO，只需一張正面照，就能生成十分真實且靈動的最長可達一分鐘的視頻，吸引了大量用戶關注。但很快，ZAO的霸王條款和隱私泄露等問題遭到人們質疑，其發行公司陌陌也隨即遭到工信部約談。

雖然AI換臉、AI脫衣以及AI語音和視頻這些技術早已有之，但隨著ChatGPT的火熱，這些技術再次回到大家的視野，甚至變得更加逼真，更加低門檻。

更讓人擔憂的是，AI詐騙已經形成了“生成-傳播-洗錢”的完整產業鏈。

上游技術提供者通過暗網兜售“AI換臉套餐”，價格從幾百元到數萬元不等。中游推廣者則利用非法獲取的個人信息庫，通過短信、社交軟件精準投放詐騙信息。下游洗錢者則通過虛擬貨幣、跑分平臺等渠道轉移資金。

除此以外，AI詐騙也越來越普遍。

在一起山東警方破獲的AI詐騙案中。受騙人在收到冒充他的親戚的信息后，還收到了他打來的視頻，盡管在7秒的視頻中連線有些許卡頓，但是聲音和樣貌都讓受騙人確認了對方的身份，進而向對方賬戶轉賬。

近一段時間以來，這種案例屢見不鮮。福州某科技公司法定代表人郭先生，也因為AI偽造的微信視頻，在短短十分鐘內，就被騙了430萬。

AI的進化史，也是一塊人性的試金石。當“賽博學生”以公益之名掠奪教育資源，當“虛擬戀人”以溫情為餌榨干受害者積蓄，技術的雙刃性從未如此鋒利。

本文來自微信公眾號： 直面AI ，作者：張琳，編輯：肖陽