（纽约17日讯）美国人工智能（AI）巨头OpenAI当地时间周三承诺将更有系统地报告其模型偏离轨道的实例，同时也发布了6份关于先前未披露的人工智慧能不当行为事件的新报告，其中就提到人工智能提出了一些方法来捏造它没有找到的数据或掩盖它的错误。
法新社报导，该透明度承诺是在该公司自7月以来发生的一系列事件逐渐曝光之后做出的。
最严重的事件涉及两个OpenAI模型，它们在测试过程中自发性地突破其封闭环境，访问互联网并侵入多个网站和平台。
该公司新的报告框架的部分目的是向外部观察者展示尖端人工智能的能力，帮助为其发展速度的辩论提供资讯。
上周六，Anthropic联合创始人兼首席执行员阿莫迪提议协调一致地放慢人工智能进步的步伐，以便有时间了解它们带来的新风险。
OpenAI首席执行员奥尔特曼、Google DeepMind总裁哈萨比斯、SpaceXAI首席执行员马斯克和微软（Microsoft）首席执行员 纳德拉都支持这项呼吁。
OpenAI在周三的声明中说：“我们认为人工智能产业尚未在足够程度上解决对齐和监控问题，无法在更长时间内继续以最大速度负责任地扩展。”
该公司补充说：“未来数月乃至数年人工智能发展方向的决策，需要以公司外部人员能够自行审查的证据为依据。”
该公司现在将报告涉及人工智能未经授权的行为、逃避监督以及人工智能系统之间自发性协调等问题。
伪造数据或隐藏错误
即使事件没有造成任何人伤害，或并非某种模式的一部分，OpenAI也有权揭露该事件。报告将涵盖人工智能生命周期的每个阶段，从开发到评估和测试再到线上部署。
周三披露的6个例子都没有产生重大后果，但它们证实了先前观察到的趋势。
在5月的一个案例中，一个模型在网络上创建了自己的资源来回答开发过程中提出的问题。因此，它引用了自己创建的一份文件。
OpenAI报告了另一件事，同样发生在5月，其中人工智能提出了伪造其未发现的数据或隐藏其错误的方法。
周三，公民行动组织“暂停人工智能英国”（PauseAI UK）在伦敦市中心唐宁街外举行“紧急抗议”，人们举著标语牌。（图取自法新社） 要看最快最熱資訊，請來Follow我們 《東方日報》WhatsApp Channel.
追踪东方日报社交平台
Telegram Xiaohongshu logo - Brandlogos.net追看热门新闻资讯，请下载东方日报APP
Google Play：https://odn.my/android
HUAWEI AppGallery：https://odn.my/appgallery
评论 (0)