3·15关注：数据时代我们身边的AI陷阱

为您赋能的数据要素社

2024-09-15

3月15日晚，中央广播电视总台第34届“3·15”晚会正式播出。今年“3·15”晚会聚焦“共筑诚信共享安全”主题，其中金融安全、数据安全的问题引发思考。晚会揭露了AI换脸换声新型诈骗的套路，也让我们深思，在AI技术日益强大的当下，利用 AI 技术的诈骗手段呈现出门槛更低，效果更逼真的趋势，AI换脸、AI合成声音、AI客服、AI预测、AI画画、AI写稿等你想都想不到的新型骗局层出不穷，我们应该如何识别、应对？
‍‍

2022年开始，央视3·15晚会节目组宣布创新建立“3·15信息安全实验室”，针对消费者日常生活中那些容易忽视的信息安全隐患，进行专业测试，及时发出风险预警。今年的晚会上信息安全实验室发布了通过公安部门搜集的一些利用AI变脸变声技术进行诈骗的违法犯罪案件。‍‍‍

在这些诈骗案件中，有人收到远在海外朋友的视频电话要求转账救急，也有公司财务人员收到公司“老板”要求转账的视频电话等，但是这些所谓的视频电话其实都是不法分子通过AI技术进行人脸、声音的模仿进而伪造出来的。

如何辨识AI伪造，警方提醒大家，在视频通话的时候，如果您觉得可疑的话，您可以要求对方摸脸或者是按鼻子，因为这些动作就会造成对面部数据的干扰，伪造的人脸中就会产生抖动闪现。

同时，也提醒个人不要接奇怪的陌生来电，不随意在网络上暴露个人信息，保护好自己的人脸、声纹、指纹等生物数据。谨慎转账最好将自己的个人账户的设置为延迟到账等。

AI新型诈骗频发，如何解套防诈

在 Sora、Claude 3 将人工智能推向新高峰时，人工智能的触手也被拿来伸向黑暗。近日，澎湃新闻对齐 Lab 梳理近期 AI 新型诈骗典型案例后发现：当下利用 AI 技术的诈骗手段呈现出门槛更低，效果更逼真的趋势，让人更加防不胜防。

来源：央视网、澎湃新闻，由数据要素社综合整理，转载请注明来源

END好文推荐Valuable Articles

数据要素信息参考（3.4—3.10）

李强总理在北京调研：人工智能是发展新质生产力的重要引擎

民航数据如何管？如何用？民航局发布民航数据管理办法与数据共享管理办法征求意见稿

炼数成金，杭钢集团实现首笔数据资产入表