大V機構法人被換：AI時代的人臉識別風險

虎嗅網 ? 22天前掃碼分享

我是創始人李巖：很抱歉！給自己產品做個廣告，點擊進來看看。

本文來自微信公眾號： caoz的夢囈（ID：caozsay），作者：caoz，原文標題：《人臉識別與AI時代》，題圖來自：AI生成

蹭點熱點吧，這不最近看到不少相關的傳聞， 一些大V背后的商業機構，法人被黑客變更，然后導致公眾號管理權限被變更，然后就被用來發詐騙文章割韭菜。

那么黑客是怎么變更法人的呢，說簡單也簡單， 人臉識別。

我到現在，各種支付平臺的人臉識別都沒開通過，就顯得很不與時俱進，這是一個過氣中老年的頑固和保守。

人臉識別這個技術，首先是AI時代一個非常顯著的成就，因為人臉識別這玩意本身只能是模糊識別，一個人不可能任何時候表情，臉部的各種細節都是一致的對不對，特別是隨著時間變化，人臉型，皺紋，發型都會有不同的變化，比如很多人一見面就會說，曹老師，你怎么又瘦了。所以這是一個需要有足夠包容性的識別系統，僅僅憑借人類的標注能力，在AI技術不成熟的時候，是不可能實現的。

但這種包容性，模糊性的識別問題，就會帶來兩種需要防范的錯誤， 一種就是漏判 ，該識別到的無法識別，比如這個人最近曬黑了，或者失眠眼睛腫了，無法識別。這種其實日常也會遇到，比如我在過新加坡海關的時候偶爾也會提示識別不對要去走人工通道做二次識別。 另一種就是錯判 ，不是本人卻被識別為本人，也就是被別人冒用身份，冒用臉型。

但這兩個問題，對技術的要求截然相反，第一種需要增加包容性， 允許更多的容錯性，才能兼容一個人不同狀態的臉部識別。 但第二種恰恰相反，需要收緊兼容性， 防止誤判，將不同人或者不符合識別標準的圖像資源識別，從而導致身份入侵。

可是問題又來了，對于一般的測試，對于一般的諸如領導審查，哪個問題更容易成為考核的重點呢，第一種。畢竟一個人發現自己無法被正確識別，肯定是很明顯的，他們會說你的系統不好，當項目驗收，領導親自來體驗產品的時候，保證識別率肯定是最重要的指標。至于誤判，反正平時也很難測試對不對。

提升識別率肯定是最容易體現技術業績的，至于誤判率，畢竟在正常場景下，大家都是用自己的身份來識別的。

然后AI進入了新的階段，可以讓照片動起來了， 可以自動生成視頻了，張嘴，搖頭，點頭，這都不叫事了。

然后偏偏那些大V、大佬們的照片、視頻網上到處都有。

你看，AI的識別技術遇到了AI的素材生成。

我沒有證據，但我有個懷疑，為了追求識別率的指標，因為這個指標更容易被認可，成為業績，這些識別模型會不會都 加大了容錯設計，這就導致誤判的口子變大了。

我也沒有證據，但我也依然有個懷疑，突破識別的大概率就是用AI生成的各種動作視頻。

當然，不管我懷疑得對不對，最近類似這樣的事情有不少。

第一，提醒有關官方部門，提升識別能力和手段，不要輕易讓識別系統被攻破。

第二，提醒各大互聯網自媒體平臺， 一些粉絲較多的自媒體賬戶在涉及變更管理員權限等操作時，需要一些必要的安全校驗和人工審核。

第三，提醒讀者，不管你關注的是誰，信用有多好，對他們發表的內容要有自己的判斷力，不要無腦跟，盲目信，有可能這個博主確實沒有打算騙你，但他自己也被黑了呢。