有诊断指出，窃取他人的人工智能（AI）账户或云服务器、擅自使用高价AI模型的“LLM劫持”犯罪正在猖獗。顾名思义，即劫持（jacking）他人的大型语言模型（LLM）账户并使用。
据《金融时报》当地时间26日报道，谷歌威胁情报小组（GTIG）首席分析师约翰•赫尔奎斯特警告称，今年以来LLM劫持急剧增加，“围绕AI权限正在形成巨大的地下经济”。
LLM劫持是一种窃取OpenAI旗下ChatGPT等付费AI账户或企业服务器权限，将巨额计算成本转嫁给受害者的手法。被盗账户在暗网（仅可通过特定浏览器访问的隐秘网络空间）上进行交易，并被用于勒索、间谍活动等网络犯罪。
据GTIG本月报告，随着相关需求集中，近期暗网AI账户平均交易价格上涨了一倍以上。尽管如此，Anthropic、谷歌、OpenAI等主要大型科技公司的AI使用权限仍以低于原价最多97%的价格进行交易。甚至还出现了账户被封禁后免费更换的“连接保障”服务。报告还记录了犯罪组织等侵入企业云服务器、暗中运行自有AI模型的案例。这与过去夺取他人服务器挖掘虚拟货币的犯罪如出一辙。
问题在于，企业引入AI越多，LLM劫持的探测就越发困难。因为即便运算量激增，也难以一眼分辨是正常业务还是黑客所为。赫尔奎斯特分析称：“企业正在扩大AI基础设施的当下，对黑客而言，正是藏身于运算量增加这一‘噪音’之中的好时机。”
金在亨 [email protected]
评论 (0)