OpenAI生成式人工智能模型ChatGPT。（路透社档案照） （圣达菲13日综合电）人工智能（AI）的发展有助于提升工作效率，美国新墨西哥州最高法院近日却裁定一名辩护律师“藐视法庭”，原因是他提交的诉状中，出现了由聊天机器人ChatGPT捏造的警方及证人证词。
英国《独立报》报道，新墨西哥州最高法院周三（9日）对事务所位于圣塔菲的律师斯蒂芬亚伦斯处以5000美元（2.03万令吉）的罚款，并裁定他藐视法庭，原因是他未能核实文件的准确性。
法院指出，这份文件“包含来自完全虚构证人的假证词。”
合议庭还表示，亚伦斯“表现出毫无悔意，且对他的当事人漠不关心”，表示会将他移交律师纪律委员会展开调查。
亚伦斯向路透社表示，去年他同意代理被告的上诉案时，曾使用ChatGPT来汇整审判过程，当时并未理解AI在多大程度上可能“虚构”事实。
“我深感懊悔，希望纪律委员会能考量到这是一个无心之过”，亚伦斯直言：“这对所有依赖这项强大但有时不稳定科技的专业人士来说，都是一堂宝贵的教训。”
新墨西哥州最高法院上月要求亚伦斯解释，为何在他提交的诉状中，出现“枪手身穿深色长裤和白色衬衫”的虚构证词。
亚伦斯坦言，以为将电脑生成的笔录等案件资料输入ChatGPT后，就会生成“无懈可击的摘要”。大法官们对他竟未完全意识到AI可能出错显得难以置信。
“律师，你有看新闻吗？有听广播吗？有阅读任何关于世界时事的报导吗？”大法官沙农贝肯在听证会上说道：“因为律师依赖AI产生的‘幻觉’，它所引发的问题几乎都是每天的头版头条。”
报道说，美国至今已有数十名律师因个人提交的法律意见书中，出现AI捏造案例或误用法条而受到处分。亚伦斯提交的文件似乎更进一步，在刑事上诉案件中出现了捏造的证人证词。
打开全文
评论 (0)