范先生新近将一位姓黄的亲戚加入社交平台，紧接着就收到了他的视频请求，视频里显现出黄先生正身处乡村之中，背景十分真实。对方在通话中开口借钱，这让范先生觉得与这位亲戚平时的行事作风大相径庭，于是他立刻用通讯工具联系了本人进行核实。经过仔细比对，最终确认这是一段经过技术处理，人脸、声音和场景都与真人完全相同的虚拟伪造视频。
国家网络安全宣传周上海地区“校园日”活动。
二十日，于2025年国家网络安全宣传周上海地区“校园日”活动期间，网安宣传展板所展示的十大典型案例，被视为新型威胁，引起了师生们的警觉。
犯罪分子搜集当事人亲友的视频、图像、声音等资料，借助深度伪造手段制作出极为相似的AI换脸影像，再搭配人工合成的音效来模仿其声线，以此进行身份冒用。网络安全专家向听众说明，接到此类电话，需审视视频中的细节，留意画面中人物是否存在不正常的神态或动作，可以要求对方做出某些特定的面部动作，诸如转头看向一侧、用手遮挡脸部、捏住鼻子等，以此来判断是否有人脸被人工智能技术替换。
网络安全游园会。
那天，上海交通大学在校园里举办了一场特色活动，主题是网络安全，形式像是一个游园会，专门为不同年龄的学生群体设计。活动设置了六个不同的区域，分别是利用人工智能生成内容的创意体验区，介绍网络安全基本知识的宣传区，展示网络安全实际案例的观察区，可以动手操作网络安全技能的练习区，进行网络安全知识问答的互动区，以及激发年轻人创新思维的设想区。通过这些区域，让小学生、初中生和高中生能够在轻松的数字体验和互动游戏中，主动了解网络安全知识，增强对网络安全的认识。
确实，随着生成式人工智能的快速发展，老式的网络欺诈手段也在不断翻新。举例来说，犯罪分子借助生成式人工智能制造出极为逼真的钓鱼电子函件，它们冒充知名机构的正式通告，在内容里营造紧张氛围，引导用户去点击有害的网址，进而提供账号密码。
网络安全互动区。
