“AI诈骗正在爆发” AI反诈必须尽快跟进

2023-05-25 14:52:26 羊城晚报

(资料图)

□然玉

话题“AI诈骗正在爆发”，最近冲上微博热搜。近日，内蒙古包头市公安局发布一起使用智能AI技术进行电信诈骗的案件，福州市某科技公司法人代表郭先生10分钟内被骗430万元。骗子通过智能AI换脸和拟声技术，佯装好友对他实施了诈骗。郭先生拨打好友电话，才知道被骗。警方表示，一些诈骗分子利用社交平台发布的视频，截取面部视频画面后再利用“AI换脸”技术合成，制造与“好友”视频聊天的假象骗取其信任，从而实施诈骗。（中新社）

技术天然是中性的，无所谓善恶。一项突破性的技术，强大力量与生俱来。能不能约束和驾驭这股力量，决定了这项“技术工具”在现代社会所发挥的现实影响！当下而言，实现了质变进化的生成式人工智能，无疑走到了关键的十字路口。诚如我们所看到的，AI诈骗、AI造假事件近来密集发生。此类典型个案，显然预示着某种一般性的风险。也即，过往那种基于生物信息、知识壁垒、专业身份等等所建构的关乎真实与安全的社会防线，正备受考验。

有人运用“AI换脸”冒充好友视频聊天借钱，辅之以毫无破绽的“声音合成”，简直可以以假乱真。在很多人的潜意识里，活生生的视频、面对面的对话，那种基于“声画一体”所形成的神经反射式感官反馈，足以形成“就是他本人”的笃定判断。然而，AI技术带来了新的挑战，也即“是他又不是他”。倘若角色视角互换，这就是个如何证明“我是我”的命题。非常之哲学，非常之悬疑，非常之惊悚。毕竟，稍有不慎，就可能搭进去真金白银。

不管愿不愿意承认，一个显而易见的状况是，相比于生成式人工智能一日千里的演进，人类社会那套基于记忆、经验、直觉、印象以及简单肖像特征来“识人”的认知体系千古未变，时至今日这套系统正在趋于瓦解和失效。“眼见为实”，越发成为一种错觉式的存在，乃至被不断打脸、不断证伪。当然，就算如此，也大可不必陷入“技术悲观主义”的怅然情绪中，须知，围绕“技术工具”的善恶交锋、攻防对垒，本就是现代社会的常态，且结果往往都导向了积极的一面。

基本的逻辑是，随着AI技术的量产化、白菜化、通用化，其门槛和成本越来越低，使用者越来越多，由此注定会导致与之相关的侵权、违法案例越来越多发。可以预见，在未来的一段时间，民众或许会哀叹，“AI造假层出不穷，AI诈骗防不胜防”。为此破局，一方面要强化公共宣教，确立新的防骗反诈意识；另一方面，更重要的还是加快防御性、对抗性技术工具的推广落地和应用嵌入。比如说，不妨尝试在常用的社交媒介软件中，内嵌入声纹、人脸识别的身份核验模块。如此这般，或许能少些“换脸冒充借钱”之类的案件吧。

（作者是知名媒体评论员）