美国人工智能公司Anthropic日前发布威胁情报报告，披露一项值得警惕的讯息，亦即有人利用旗下Claude人工智能系统，建立可操纵大马选民的选举平台。虽然目前没有证据证明这场行动曾经影响大马选举结果，同时也没证据显示是哪一个政党或候选人在幕后指使，但已敲响警钟。
Anthropic指出，相关平台曾使用真实人口普查、选举资料及数以百万计的选民记录，建立涵盖全国222个国会选区的分析系统；同时操作约1000个假账号、假新闻网站制作假的“情报档案”，散播针对政治人物及政党组织的虚假指控，以误导选民。大马通讯及多媒体委员会（MCMC）表示严肃看待并展开调查。
看来AI介入选举政治已经不是科幻电影里的情节。让人担心的不是假新闻，而是AI有能力把资料分析、选民定位、内容制作、操作假账号、放大舆论制造结构性破坏。换句话说，以前需要一大批人做的政治操弄，现在AI系统能轻易完成。
AI如何操控选民？
AI到底如何操控一个选民？这与诈骗集团利用AI“仿真人拟人化”的手段如出一辙。
过去的选举，政党与候选人依靠民调、助选团队、地方领袖和选区拜票，以了解选民。但AI则可以把人口、年龄、地区、投票记录、社交媒体活动等大量资料统一分析，把一个选区切割成许多不同的群体。
Anthropic披露的案例令人担心，因为相关平台把大马的族群、宗教及王室等敏感议题列为选区微定向的重要切入点。这意味着，同一场选举，不同选民可能看到完全不同的“假真相”。
华裔选民与马来选民；城市选民与乡区选民，看到的是不同的假讯息。政治人物尚未公开争议性话题，AI已经替候选人把不同讯息送向不同人群。这是“微定向”最危险的地方。
民主选举的前提，是选民在公开的资讯环境中作出选择。但如果每一个人看到的讯息都不一样，甚至看到的是AI假资讯，那么选民究竟是在选择候选人，还是在选择一个由AI替他们制造的假象？
政治谣言如果只由一个陌生账号发布，很多人未必相信。但“三人成虎”，如果同一时间有上千个假账号转发、留言、点赞，一般人会产生“这么多人都在谈，应该是真的吧？”的错觉。
Anthropic发现，相关平台管理超过1000个假账号，甚至设计了“暖机”机制，让新账号如同普通人一样活动，再投入政治宣传，以逃避社交平台的侦测。
相关行动建立名为“Malaysia Pulse”的虚假新闻网站，利用AI大量改写既有新闻，配上不存在的记者姓名，让文章看起来像真正的新闻报道。Anthropic披露，相关系统曾把俄罗斯及中国官方媒体的内容重新改写，删去原有的国家媒体背景，再包装成看似独立的新闻，这就是AI时代假新闻最危险的地方。
一则原本没有政治意味的新闻，可以被AI加入政治角度；一则地方新闻，可以被包装成族群冲突；一个普通政策争议，也可以被放大成“某个族群正在受到威胁”。久而久之，人民看到的不是事实，而是被扭曲的假象。
大马不能掉以轻心
过去辨别假新闻，至少可以追溯媒体记者和消息来源。AI时代，这些功能皆失效，因为现在连记者、新闻、照片、评论员，甚至留言的群众都可以是假的。
试想不存在的人可以在网上发言；不存在的新闻机构，每天发布“新闻”；不存在的支持者，制造声势浩大的网络运动。当假人可以大量生产，民意也可以被伪造，这是AI对选举最大的挑战。
正因为大马政治环境具特殊性，所以AI操弄选举才非常危险。因为族群、宗教、王室、语言、教育等问题，都是社会高度敏感的政治议题，一旦AI把敏感议题精准切割，再向不同群体投放不同的恐惧和仇恨讯息，此时AI不只是制造假新闻，而是制造族群矛盾冲突。
当社会被切割成一个又一个互不信任的小群体，选举就不再只是政党竞争，而会变成一场由演算法操控情绪的战争。
Anthropic表示，目前没有证据显示AI已经在真实社群造成广泛影响；但已经证明，从选民资料分析、选区微定向，到假账号、假新闻及虚假情报档案，整条操弄链条可能已经串联。
AI不能成为民主的木马
MCMC已表示正在研究Anthropic提出的问题，并将进一步要求相关资料及厘清事实。政府下一步需要监管有心者利用AI操控选举的行为，特别是社交媒体平台必须建立有效的假账号侦测及政治内容透明机制。尤其是涉及族群、宗教和王室等敏感议题的内容，更不能让匿名假账号利用AI大量制造和放大。
AI本身没有政治立场，真正危险的，是掌握AI的人。
如果AI被用来分析经济、改善医疗、提高各部门效率，它可以成为好助手。但如果被用来分析选民弱点、制造政治谎言、伪造民意和操控情绪，它就可能成为民主制度的“木马”。
今天Anthropic揭露的，也许只是一场尚未成功的选举操弄行动。但民主制度最怕的，不是一次假新闻，而是人民分不清楚真伪，此时民主的外形还在，但民主的灵魂却可能已经被掏空。
AI可以帮助人民作出更好的选择，但绝不能代替人民作出选择。更不能让一群躲在键盘后面的人，利用AI影响民主选举的结果。
打开全文
评论 (0)