网络集会、人工智能脚本：2024年大选新威胁迫在眉睫

　　在巴基斯坦正义运动党(PTI)利用人工智能(AI)为被监禁的前总理伊姆兰·汗(Imran Khan)在一次网络集会上的演讲制作音频后不到一个月，社交媒体平台上就充斥着人工智能制作的政治人物画外音。

　　从人工智能创作的歌曲到宣传图片，免费的人工智能语音克隆和图像编辑工具的兴起，使竞选活动变成了由该技术创造的源源不断的竞选材料，为数字政治引入了新的剧本。

　　以往的全国大选显示，数字政治竞选越来越复杂，其策略包括创建假账户、运行协调的标签趋势、开发定制的移动应用程序，以及举办盛大的社交媒体“大会”。巴基斯坦将于明年2月举行该国规模最大的数字选举，各政党都想挑战极限，探索不同的方式，利用技术最近对政治的入侵。

　　领导PML-N数字战略的数字媒体顾问Muzakir Ijaz告诉《黎明报》:“我们使用人工智能为纳瓦兹·谢里夫在10月的巴基斯坦之光大会之前的上任竞选创造内容。”

　　Ijaz说:“人工智能在生成图像内容方面很有用，但它不擅长整合乌尔都语，所以我们的使用有限。”他补充说，他加入了一个由30名数字媒体专业人士组成的团队，以支持PML-N的竞选活动。

　　虽然使用人工智能对社交媒体团队来说可能具有成本效益，否则他们将需要昂贵的专家来分析数据和创建促销活动，但其传播影响可能令人不安。

　　去年，一段据称是伊姆兰·汗(Imran Khan)闭着眼睛的经过修改的视频，引起了他的支持者对他在监狱中的待遇的担忧。这段26秒的视频被发布在Twitter上，获得了500多次转发。法新社的一项事实核查发现，这段修改过的视频似乎使用了“闭眼滤镜”，这让人觉得汗的眼睛是闭着的。

　　数字版权基金会(DRF)执行董事Nighat Dad表示:“人工智能的使用影响令人担忧。“政党正在利用人工智能来影响那些不懂数字、不关心政治的选民的心态。他们如何区分什么是真正的媒体，什么是合成的媒体?”

　　同时也是联合国人工智能咨询机构(UN’s Advisory Body on AI)成员的达德警告称，有关人工智能使用的伦理问题尚未得到解答。她说:“在这种情况下，人工智能的使用可能会导致公众对他们所消费信息的完整性的信任受到侵蚀。”

　　“好在现实和人工智能生成的内容是有区别的，”印度正义运动党的社交媒体负责人Jibran Ilyas告诉《黎明报》。

　　“我们用乌尔都语进行了36次迭代，才达到65%的准确率。人们可以看出这不是真的，”他说。

　　伊利亚斯表示，PTI注意到了人工智能的使用，并在汗的在线集会音频中添加了明确的免责声明，将其标记为“基于他的笔记的伊姆兰·汗的人工智能声音”。

　　“我们正在测试很多使用人工智能的方法，但也在考虑道德问题。我们可能会考虑在投票日之前再次发表伊姆兰汗的演讲，”他补充说，鉴于TikTok在年轻人和农村地区的受欢迎程度，该党将在选举前几天专注于TikTok。

　　数字素养一览

　　自2018年上次全国大选以来，巴基斯坦的互联网用户数量大幅增加。根据PTA的数据，2018年，有5500万移动宽带用户和5800万宽带互联网用户，但到2023年11月，有1.26亿移动宽带用户和1.29亿宽带互联网用户(占人口的54%)。

　　鉴于数字访问的显著增长，巴基斯坦选举委员会(ECP)首次将其全国选举行为准则扩展到数字媒体和社交媒体影响者。该准则禁止传播有损于巴基斯坦意识形态、主权、尊严或安全的内容，或损害国家团结或造成法律和秩序问题的内容。

　　尽管在投票前与科技平台合作开展数字扫盲活动，但ECP并未就政党竞选活动的资金和负责任地使用技术提供任何指导方针或问责制。

　　根据反虚假信息联盟自由网络(CAD)关于大学生如何理解虚假信息的最新研究，大多数年轻人(63%的受访者)认为他们每天都会在互联网上遇到虚假信息，虚假信息对民主和选举构成威胁(62%)。

　　“真相的价值已经被侵蚀，”工商管理学院(IBA)新闻卓越中心(CEJ)主任安布尔·拉希姆·沙姆西(Amber Rahim Shamsi)说。“我们在巴基斯坦各地的13所大学为800名学生举办了数字扫盲讲习班。总的来说，我们发现年轻人仍然无法区分事实和宣传之间的区别。”

　　沙姆西和她的团队最近发起了一个无党派的事实核查倡议，iVerify，以扩大该国新闻业独立和公正报道的范围。“自2018年以来，媒体机构变得更加注重事实核查。然而，我们采访的学生中没有一个人知道这些(事实核查)工作。还有很多事情需要做。”