雅加达邮报等有报道称，从去年选举之后开始，有一系列由 AI 生产出来的造假视频在印尼流行开来。根据警方的统计，受害者已经遍布这个国家的 20 个省份。
普拉博沃官方肖像
其中一个传播很广的伪造视频是关于印尼去年上任的总统普拉博沃的。在该视频画面中，“普拉博沃”对着镜头询问民众：“有谁还未收到过我给予的援助？你们现在还需要何种帮助？”一位 56 岁的受害者阿里亚尼描述道，视频里“总统”的眼睛在眨，嘴型随说话而变动，“仿佛他真的坐在我对面与我交谈”。
“总统”“在线发钱”，然而观众被告知若想收到这笔援助款项，就需向指定账户交纳“管理费”，金额在 20 万至 100 万印尼盾（约合人民币 88 元至 440 元）之间。阿里亚尼未能及时识别骗术，给骗子转账 20 万印尼盾。他告诫社会公众，不要被意外之财所蒙蔽。他觉得自己当时应该多思考一下，因为明明是自己需要金钱上的帮助，却先转钱出去，这明显是不合理的。
印尼国家警察网络犯罪部门的负责人 Himawan Bayu Aji称，警方于今年 2 月抓获了 2 名与该案件有关的嫌疑人。然而，印尼媒体指出，参与这种 AI 视频诈骗行为的人数达到了数千之多，即便在警方立案之后，相关社交平台上仍有几十个带有“普拉博沃分享祝福”标签的视频在流传。一位拥有 7.7 万粉丝的印尼博主所分享的这类视频，总共获得了 750 万次的观看。另外一位粉丝仅有几千名的印尼博主，在一个多月的时间里发布了 100 多个类似的伪造视频。这些伪造视频的对象，除了普拉博沃之外，还包含印尼副总统拉卡等知名人士。
印尼事实核查机构 Mafindo 的联合创始人阿里博沃·萨斯米托称，AI 深度伪造骗局在网上广泛传播，所以他的团队每周都能发现新的骗局。并且他还表示，随着人工智能工具越来越容易获取，价格也越来越低廉，从去年开始他们就看到了深度伪造视频泛滥的趋势。诈骗分子常利用名人形象去欺骗观众。其中，像马斯克、加拿大总理特鲁多这样的知名人士，都曾被 AI 骗局所利用。
阿里博沃称，我们留意到这些视频的质量在时间流逝过程中有所提升。当下，要区分假视频与真视频变得愈发艰难了。另外一个挑战是这些骗局的数量正在急剧增加。
