想象一下，选举白热化阶段，网络上如果突然开始流传一部视频或录音档，内容是某个候选人发表疑似违法或可能流失选票的言论。
这会不会影响到你的投票意愿？
或者说，这会不会影响到广大选民的投票意愿？
如果内容是真的也就罢了，若内容是伪造的，候选人岂不吃了“死猫”，输得不明不白？
新加坡政府昨日（9日）正式在国会提出选举（维护网络广告诚信）（修正）法案（Elections (Integrity of Online Advertising) (Amendment) Bill）一读。
要针对的，就是上述情形。
该法案将修改国会选举法令和总统选举法令，在选举期间，禁止发布由包括AI技术在内的数码技术所生成或篡改的网络竞选广告。
上述网络竞选广告，指的是那些鱼目混珠，以假乱真，逼真描绘某个候选人未曾说过或做过的事的内容。
简单来说，就是那些把别人没说过的话塞进别人嘴里的深伪视频。
法案将赋予选举官向违例内容发布者、社交媒体服务和互联网服务提供者发出更正指示的权力，让他们撤下相关内容，或禁止新加坡用户在选举期间访问违例内容。
受影响的候选人和公众皆可举报涉嫌违例的内容。
若违例内容发布者或相关服务提供商拒绝遵从更正指示，一旦定罪，社交媒体服务商最高可被罚款100万元，其他涉事者则可被罚款不超过1000元、监禁最长12个月，或两者兼施。
根据数码发展及新闻部的说法，相关内容一旦符合以下三种条件，发布、转发、分享的行为就会触法：
- 内容是经由AI技术生成或篡改，或经由修图、配音或拼接等数码技术所产生的；
- 内容被认定为网络竞选广告，目的是为了让某个政党或候选人的选情更有利或更不利；
- 内容必须以假乱真、煞有其事地描绘出某位候选人说着或做着他们从不曾说过的话或做过的事。
值得一提的是，除了利用深伪内容让人扣分不行，以虚假内容来帮人加分也属违例。
例如，若某位候选人明明完全不会说福建话，却用深伪视频把自己描绘成流利福建话流利的人，其逼真程度也足以说服某些选民，那这不符合事实的描绘就属于违例。
无论如何，动画、卡通人物、娱乐内容、迷因和竞选海报，只要不符合几可乱真的条件，即不会让人对内容信以为真，那就不在法案的禁止范围。
例如下面这张梗图，一看就知道是为了娱乐大众，而非诋毁候选人，因此不属于违例。
妈妈：你们有没有把鸡肉拿出来解冻？
我和兄弟姐妹们的表情……
此外，个人聊天或在私聊群组所传送的内容，也不受法案规范。
深伪内容已在多国选举“发威”
自生成式AI技术问世以来，近年来不少国家的选举，已然可以见到深伪内容影响选举的蛛丝马迹。
去年9月，在斯洛伐克大选投票日前夕，当地社群媒体突然出现一段听起来像是该国政党进步党领袖希梅奇卡（Michal Simecka）和一名记者讨论收买选票的语音档。
经过核实后，才发现该语音档原来是AI工具搜集希梅奇卡真实谈话录音后，加以变造合成。
当时，亲欧洲的希梅奇卡和对手，亲俄罗斯的前总理费佐（Robert Fico）所领导的政党竞争激烈，上述深伪录音对最终选举结果有多大影响不得而知，但费佐最终成功当选总理。
印尼和印度则出现“死人复生帮忙拉票”的乱象。印尼政党戈尔卡党在选举期间，以AI技术“复活”前总统苏哈多，并借“假苏哈多”之口为自己拉票。
在语言非常多样且复杂的印度，印度执政党人民党则透过AI技术，让印度总理莫迪除了用印地语说话，还用包括淡米尔语在内的其他八种语言发表演说（在新加坡，这类以假乱真的配音在新法上路后属于违法，请参考前文所述的“福建话”案例）。
新加坡政治人物也无可幸免。我国总理黄循财和国务资政李显龙都曾遭不法分子“深伪”，内容是推销诈骗投资平台。
李显龙还一度被有心人攫取过去的访谈画面，深伪假造他谈论台湾及菲律宾等敏感国际议题的内容，在TikTok和小红书流传的相关内容取得了数十万观看次数。
人们辨识能力有限
虽说谨慎的选民或能识破深伪内容，将其影响降至最低，但研究显示，现实中人们对深伪内容的辨识能力恐怕不那么令人乐观。
伦敦大学学院去年8月公布的一项研究结果发现，人类识别AI声称语音的准确率只有73%。
必须强调的是，当时这份研究的语音样本采用的是比较旧的AI工具，这意味着随着AI技术的仿真度越来越高，人类的识别成功率只会更低。
另外一份澳洲国立大学去年11月所发布的调查则指出，被AI人脸蒙骗的人，往往对自己的判断最有信心。
这意味着，以假乱真的深伪内容“取信于人”的可能性不小，其影响选民投票行为的风险不可忽视。
因此，不少国家已在思考落实相关法律，以降低AI技术生成内容可能对选举带来的干扰。
新加坡最晚将在明年11月举行大选。在选举到来之前，有必要防范于未然，尤其得避免整个舆论环境被各种深伪内容搞得乌烟瘴气，令人真假难辨。
这点红蚂蚁颇有感触，最近公司的IT部门为测试员工预防网络诈骗的能力，连续发出钓鱼邮件，一旦被“钓到”就得去补上网络安全课程，搞得大家人心惶惶，甚至连看到真实的邮件也要犹豫再三，才敢点开。
将这种可能的心态放到现实场域，若未来AI深伪的虚假内容满天飞，人们面临的，便可能是没有任何人、事、物能相信的世界。这对需要基于事实进行讨论，并作出决定的公共事务，将会是一大打击。
除了好人可能被诬赖，真正的坏人也可能藉着舆论环境遭深伪内容污染，谎称不利于自己的真实内容是由AI所生成或篡改，以此获得“说谎者红利”（liar’s dividend）。
因此，在新加坡的防深伪选举内容的法案中，当局也加上了一个但书，若候选人向当局谎称某个真实内容是虚假的，那他也同样会受到法律制裁，包括被罚款乃至丧失议席。
