这是9月份在美国一家酒店经历的事。睡觉时，被酒店房间里的电话铃声吵醒。拿起听筒，对方自称前台总经理，说：“您的信用卡号码有误，请重新提供卡号。”
迷迷糊糊地答应后，看了看钟，已是凌晨2时35分。哪个酒店员工会在这个时间打这样的电话？尽管如此，仍感到困惑，是因为电话那头的声音百分之百就是酒店经理。在这家酒店入住的一周里，我每天早晨都与经理一起乘坐酒店班车，因此清楚地记得他沙哑的声音和富有节奏的语调。
犹豫之际，对方开始施压，说：“如果现在不马上回答，酒店住宿就会被取消。”我说要拿着卡下到一楼，对方却说：“必须立即回答，才能享受免费住宿优惠。”拉扯了几分钟后，我说无所谓，我要下楼，电话便突然挂断了。我重新打给前台，要求找总经理，值班员工说：“您接到索要卡号的电话了吗？别理会，连我都接到了。”
早晨见到经理，我说昨晚有人用你的声音打来电话。他说，这让人快疯了，“美国各地的酒店都在发生这样的事情”。原来，电话诈骗团伙先给酒店打电话，录下员工的声音，再利用人工智能技术重新生成，以酒店员工的声音实施犯罪。他说：“因为是我的声音，更害怕以后问题会落到我头上。”从来电时间看，我想到这可能是跨国犯罪。
利用人工智能偷取他人声音和面孔实施的犯罪，正日益演变出匪夷所思且严重的形态。普通个人受害固然是问题，但如果掌握企业所谓“钱袋子”的财务人员上当，有时就会造成天文数字般的损失。一家全球工程公司的财务人员像平常一样与公司同事召开视频会议，按照首席财务官的要求汇出了超过2000万美元，事后却发现，屏幕中同事们的面孔和声音全都是用人工智能伪造的。也有海外分公司接到声音明明是总部高管的电话，汇款后损失巨额资金。这是因为如今连来电号码显示都可以伪造。
据科技业界介绍，最近人工智能声音克隆技术已发展到仅凭几十秒的音频，就能自如生成克隆声音的程度。视频也一样。从社交媒体上的个人视频，到首席执行官的电话会议，“素材”无处不在。任何人都可能随时被“偷走自己”。美国联邦调查局在今年的互联网犯罪报告中，25年来首次将人工智能单独列为一个类别。
最近韩国发生金融业人工智能黑客攻击后，政府严厉要求企业“做好万全准备”。但鉴于既没有能够切实调查即将蔓延至整个产业界的人工智能侵害的机构，也没有应对的法规，政府似乎也没什么可说的。
在这种情况下，安全业界建议的最低限度自救措施是“零信任”，也就是对重要通话一律持怀疑态度，先挂断，再亲自回拨核实。一个包括自己的眼睛和耳朵在内、谁也无法相信的，由人工智能引发的超现实不信任社会，其大门已经打开。
评论 (0)