公司高管打来视频电话，要求财务转款到指定账户完成合同签订，早有防备意识的财务人员反复确认自己看到了高管“本尊”，说话没有异常，更是眼见为实，便按指示行事，不料最终钱款被骗。原来，视频电话里的“高管”形象，乃是深度伪造技术合成的假面，声音也是AI合成。这并非科幻电影中的场景，“奇案”已经在我们身边发生。
最近，使用AI等“黑科技”冒充他人进行诈骗的案件频频发生；据统计，造假视频在2019年到2020年一年内增长了330%。近日，针对日益高发的人工智能新型手段诈骗，公安部发文提醒公众注意防范，建议通过多重验证、保护信息和相互提示的方式避免上当。
风靡一时的AI换脸APP“ZAO”，其换脸功能引发人们对信息泄露、身份冒用等风险的担忧，目前已下架。
人工智能科技高速发展，成为了引领这一轮产业变革的一驾马车。然而科技的双刃剑效应也持续显现，在人工智能极大提高生产效率，方便人们生活的同时，滥用“黑科技”进行犯罪活动，造成了困扰，也冲击着传统的法律与伦理。
尽管有刑侦专家指出，当前的AI造假技术尚能通过加强辨识来防范，但随着技术快速迭代，人类迟早有一天会无法通过自身鉴别真假。“眼见为实”的基本常识，已成明日黄花，我们究竟还能不能在高科技发展的未来，维持互相信任？难道我们向往科技昌明的明天，会是“高科技、低生活”的“赛博朋克”世界？
科技进步的脚步无法也不应被人阻滞。但科技带来的副作用，却需要我们运用智慧来规避。正如当下流行的网络语言“只有用魔法才能打败魔法”，研发更多监管性“白科技”，将科技创新约束在可控范围，势在必行。
人工智能其实已经奋斗在了反诈骗一线。现在，当你接到疑似电信诈骗电话时，这通电话很可能已经被公安部门甄别。电信诈骗总是有类似特征，通过大数据分析，很容易就能从正常通讯中发现异常。许多人接到疑似诈骗电话后，第一时间就会接到公安部门反诈骗中心的提示电话或信息。这种人工智能“道高一丈”，可以很好从根上铲断诈骗黑手。当然，如果这一道防线被突破，在人们进行转账时，人工智能卫士仍会守住防线陌生人之间没有征兆的大金额转账，往往意味着危险，银行、支付应用已经“标配”了这样的预警和干预机制，让人就算被骗也不会蒙受损失。
诈骗其实是一个“产业链”，在这个链条上有诈骗者、洗钱者，也有收卡者、贩卖个人隐私者等等犯罪团伙，只有彻底断链，诈骗才能被禁绝。下一步，警方也应利用人工智能工具打击这些犯罪。近年来，警方、银监会、电信运营商和不少互联网公司携起手来，打击电信、金融犯罪的“智慧大脑”已经初步形成，麟、鹰眼、神荼、神侦、神羊等十余款反诈骗产品已经帮助相关部门破获众多诈骗案件。
而面对迷惑性极强的AI换脸、变声，最好的甄别方法，依旧是AI自身。真的假不了，假的真不了，还是颠扑不破的真理人的感官存在缺陷，而AI能够很好弥补人的不足。最近，诸如图神经网络、关联图谱等AI反欺诈算法，以及数据指纹、智能多因子认证技术等反诈骗技术也日渐成熟。利用算法和技术创新，计算机可以发挥机器学习的优势，快速发现造假者的马脚，划分真假的界限，为人们决策作出安全、准确的参考。
回溯历史，我们已经多次面临新技术带来的社会挑战。比如照相机的发明改变了传媒界，却也带来了图片造假技术，人们对此也曾忧心忡忡但总体而言，当下人们依旧相信“有图有真相”，社会的透明度也确实在不断增加。我们有理由相信，未来的世界，也不会因为“造假技术”出现而变得真假莫测，相反，在技术助力下，我们会拥有更明亮的慧眼。
图片：来源于网络，版权归原作者所有
编辑：赵鑫
相关文章
