纽约律师因使用虚假 ChatGPT 案件而被罚款
律师史蒂文·施瓦茨 (Steven Schwartz) 听说过 OpenAI 的人工智能聊天机器人后，将 ChatGPT 生成的案例引用添加到今年早些时候提交给法官的法律摘要中，但很快被人发现这些案件完全是聊天机器人编造的。
美国地区法官 P. Kevin Castel 周四命令从同事手中接手此案的律师 Steven Schwartz 和 Peter LoDuca 及其律师事务所 Levidow, Levidow & Oberman 支付 5,000 美元罚款。法官表示，律师们做出了“有意识回避的行为，并向法庭做出了虚假和误导性的陈述”，并补充说，他们在坚持“司法命令要求他们提出虚假意见后，提交了人工智能撰写的案情摘要”，从而“放弃了自己的责任”。这引发了质疑。
卡斯特尔继续说道：“许多伤害源于提交虚假意见。对方在揭露欺骗行为上浪费了时间和金钱。法庭的时间都被其他重要工作占用了。”法官补充说，律师们的行为“助长了对法律职业和美国司法系统的愤世嫉俗”。这家曼哈顿律师事务所表示，它“谨此”不同意法院的意见，并将其描述为“善意的错误”。
在本月早些时候的一次相关法庭听证会上，施瓦茨表示，他想为所发生的事情“真诚地道歉”，并解释说，他认为自己正在使用搜索引擎，并且不知道人工智能工具可能会生成虚假内容。他说他对自己的行为“深感遗憾”，并补充道：“[由于]这个问题引起了广泛的关注，我在职业和个人上都遭受了痛苦。我既感到尴尬、羞辱，又极度自责。”
该事件与该律师事务所受理的一起案件有关，该案件涉及一名乘客，该乘客声称自己在飞往纽约市的航班上受伤后起诉哥伦比亚航空公司阿维安卡航空公司。阿维安卡航空公司要求法官驳回此案，因此该乘客的法律团队引用了六起类似案件，编写了一份案情摘要，以说服法官让其客户的案件继续审理。Schwartz 通过询问 ChatGPT 发现了这些案例，但他未能检查结果的真实性。阿维安卡航空的法律团队表示无法找到简报中包含的案件，因此发出了警告。
在周四的另一项命令中，法官批准了阿维安卡航空公司的动议，驳回针对该公司的诉讼，从而结束了整个令人遗憾的事件。
ChatGPT 和其他类似的聊天机器人最近几个月受到了广泛关注，因为它们能够以类似人类的方式进行交谈，并熟练地执行越来越多的基于文本的任务。但他们也以虚构事物并将其呈现为真实而闻名。这种现象如此普遍，甚至有一个术语来形容它：“hallucinating”，建议用户仔细检查聊天机器人生成的任何“事实”。
文章翻译自：digitaltrends；原文链接：https://www.digitaltrends.com/computing/ny-lawyers-fined-for-using-fake-chatgpt-cases-in-legal-brief/
转载请注明： 纽约律师因使用虚假 ChatGPT 案件而被罚款 | 跨境湾
