李显龙总理叫你买加密货币？假的！
黄循财副总理叫你参加“稳赢”的投资项目？也是假的！
可是镜头前明明就是他们的样貌，听起来也是他们的声音，画面中还有本地媒体的麦克风。没错，全是假的！
如果你在网络上看到某些名人宣传一些保证投资回报或提供赠品的广告视频，千万要提高警惕，这极有可能是近年来越来越猖獗的深伪（deep fake）视频。
所谓的深伪内容，指的是通过人工智能（AI）来伪造视频中人物的面部表情以及发言内容。
简单来说，就是把某某人不曾说过的话塞进他或她的嘴里，以此达到诈骗效果。
新加坡的正副总理已先后成为苦主。
先是副总理黄循财一段接受《海峡时报》访问的视频，遭人移花接木。
在假视频中，“黄循财”向观众推销某某量子人工智能投资计划，并以个人名义保证投资者能每月获取分红。
紧接着，总理李显龙今年3月在中国环球电视网（CGTN）的访谈片段也被窜改。
“李显龙”在该段深伪视频中大力推广一个据称由全球首富马斯克设计的“革命性投资平台”，视频结束前还呼吁观众点击链接，赚取“被动收入”。
针对深伪视频，李显龙今天（29日）亲自在脸书辟谣，呼吁民众保持警惕，避免在“诈骗的季节”受害。
“最近，出现了一些利用我的音频制作的深伪视频。副总理黄循财也成为了目标。”
这些诈骗分子利用AI技术模仿我们的声音和形象，透过窜改我们在正式场合的录像，制作出以假乱真的视频，假造我们从来不曾说过的内容。”
黄循财本月11日也曾在脸书发文，强调任何关于他介绍商业产品，或声称政府打算再次实行冠病病毒阻断措施的深伪视频，统统都是虚假信息。
如何分辨真伪？
在李显龙和黄循财遭深伪的视频中，陈述虚假内容的那两把声音，声线和两人极为相似，让人真假难辨。
但若进一步观察，不难发现，视频中的音频，显然对不上两人的嘴型动作。
验证平台Sumsub最新的2023年年度报告显示，新加坡的深伪个案去年激增了五倍。
面对越来越多的深伪风险，以下是几个辨别视频真伪的小贴士：
- 注意画质：为了藏匿窜改的痕迹，深伪视频的画质通常会比较模糊；
- 留意视频和音频有没有不合理之处：例如，视频中人物的脸部表情有没有异常，或脸部周围有没有出现不寻常的闪烁和修改迹象；
- 注意有没有“对上拍子”：在部分深伪视频中，音频可能会对不上视频中人物的嘴唇动作；
- 尽可能从较有公信力的信息来源获取资讯。
最后就是管住自己的欲望，避免贪念作祟。
任何看起来“好得令人难以置信”的东西，或者听起来犹如天上掉馅饼的“稳赚”投资内容，最好避而远之。
理性与被骗之间，往往只隔着一个“基本常识”。
试想想，哪个国家的总理会吃饱没事干，介绍你把钱投入一个每月保证能稳赚几千块钱投资回报的“全民计划”？
有—可—能—吗？
只要看看各大银行那少得可怜的储蓄利率，答案不就呼之欲出了？
如何监管泛滥的深伪内容？
在人工智能（AI）的飞速进步下，深伪技术越来越纯熟，同时也更容易被有心人士获取并应用。
诈骗份子往往只需从社交媒体下载几张目标人物的脸部照片，截取短短几秒钟的音频，便可制作出以假乱真的深伪视频。
这也让本地业界和学术界疾呼，当局应考虑推出针对人工智能的监管措施。
其中一类建议，是将人工智能和深伪技术按其可能造成的风险分门别类，并按照上述原则，在个人和平台两个层次进行监管。
在个人层次，可以制定法律，惩治那些深伪内容的创作者。
在平台层次，则可推出相关规范，要求社交平台公司在发现深伪内容流传后，必须迅速采取行动。
欧盟是上述监管方式的参考对象。
欧洲议会、欧盟成员国和欧盟委员会本月8日已经正式就《人工智能法案》达成协议，这相信也是全球首个相关全面监管人工智能的法案。
该法案将人工智能按风险分类，即“不可接受”、高、中和低风险级别。不同风险的人工智能对应不同级别的监管。
美国总统拜登也在今年10月底签署一项管制人工智能的行政命令，为人工智能建立安全和隐私保护标准。
无论如何，在科技的快速发展下，当局很可能会面临道高一尺魔高一丈的挑战。
除了与时俱进来完善监管措施，也有必要通过教育，提高人们对深伪内容的醒觉。
人工智能的横空出世，让人类文明来到了另一个新的转捩点，各国政府和人民有必要赶快制定出因应之道。
