.jpeg/be5eb1b5ffdb961b4fdf86e3766228ab.jpeg)
（三藩市11日讯）美国人工智能（AI）公司Anthropic当地时间周四表示，该公司近期发现并阻止了多起利用其人工智能模型展开的国家支持型监控行动。该公司并警告，各国政府和与政府关系密切的实体，正越来越多地利用人工智能监视少数族裔和异议人士。
法新社报导，Anthropic在一份有关其人工智能模型遭滥用情况的报告中说，这些事件发生于今年1月至7月，相关行动来自中国、伊朗和西非地区。
报告指出，这些监控行动“针对的是这些政权长期以来一直关注的海外侨民和异议人士群体”，包括香港民主派人士、亚洲各地的藏人和法轮功群体，以及伊朗少数族群和海外的伊朗政府反对人士。
Anthropic说，在其中一宗案例中，伊朗相关人员开发了一种通过社交媒体帐号识别个人身份的方法；另一宗事件中，一名为马里国家安全部门工作的承包商利用Anthropic的人工智能模型Claude“设计了用于情报收集的底层软件”。
报告称：“人工智能如今正被用来替代工程技术人员。”
Anthropic表示，该公司阻止了一些用户利用其模型设计武器、展开存在争议的生物学研究和实施约会诈骗等企图。
“蒸馏”普遍存在AI公司
这家总部位于美国加利福尼亚州三藩市的人工智能实验室，还指责一些中国开发商在用户使用Claude获得回答的同时，秘密利用这些回答“蒸馏”数据，以改进自身的人工智能模型。
“蒸馏”是人工智能行业术语，指利用一个人工智能模型生成的数据或输出结果，来训练另一个模型。
美国人工智能企业此前指责一些中国开发商未经授权采用这种技术，认为这实际上是在利用美国Anthropic和OpenAI等人工智能公司的资源。
Anthropic此次进一步指称，中国人工智能月之暗面（Moonshot）和DeepSeek（深度求索）也曾秘密利用Claude生成提供给自身用户的答案。
目前“蒸馏”是一种“合法且常用的技术”，也是各大人工智能公司普遍存在的行为。
美国科技大亨马斯克曾在加利福尼亚州联邦法院作证时，亲口承认旗下的人工智能公司xAI在训练聊天机器人Grok时，“部分”使用了OpenAI模型的输出进行“蒸馏”。
他直言：“一般来说，所有人工智能公司都这么做。”
Anthropic的报告还称，其中一宗案例持续约10天，月之暗面通过“5380个虚假帐号组成的网络”，向Anthropic转发了近30万条用户请求。这些帐号大多显示位于新加坡和日本。
Anthropic说，其中部分数据包含用户敏感信息，可能违反相关隐私协议。
对于Anthropic发现并阻止的涉及生物武器研究的相关活动，该公司表示，相关人员的真实意图并不明确，因此没有公布其身份。
报告说：“这些案例中的相关人员都是从事科学研究的专业人员。我们并不声称他们有意造成伤害，公布他们本人或所在实验室的身份可能使其面临风险。”
Anthropic表示，这些科学研究涉及多项生物学领域，包括蚊子传播的基孔肯雅病毒、一种“高致病性”禽流感毒株、包括天花病毒和猴痘在内的病毒，以及动物毒液和其他毒素等。
要看最快最熱資訊，請來Follow我們 《東方日報》WhatsApp Channel.
追踪东方日报社交平台
Telegram Xiaohongshu logo - Brandlogos.net追看热门新闻资讯，请下载东方日报APP
Google Play：https://odn.my/android
HUAWEI AppGallery：https://odn.my/appgallery
评论 (0)