美国大型律师事务所Sullivan & Cromwell因人工智能“幻觉”导致包含错误引用和错误的文件提交至法院后,向联邦法官道歉。这再次凸显了在利用AI撰写法律文件时,验证程序的重要性。据CoinTelegraph 13日报道,
“立即采取纠正措施”……启动内部调查
Sullivan & Cromwell全球重组团队联合代表Andrew Dietderich在致纽约南区联邦破产法院首席法官Martin Glenn的信中表示“深感遗憾”,并承认了责任。问题文件是约9天前提交的紧急申请书,据悉包含约40处由人工智能生成的错误引用。
Dietderich解释称,该律所虽有AI使用时的引用审查程序,但此次该程序未能正常运作。他表示,“未能过滤掉AI生成的不准确引用和人工错误”。该律所目前已启动内部调查,并正在考虑是否加强培训与审查程序。
此次事件表明,在法律这种准确性至关重要的领域,AI的应用依然存在巨大风险。由法律科技专家Damien Charlet管理的一个数据库中,记录了全球法院文件中确认的1,334起AI幻觉案例,其中美国案例超过900起。
Charlet指出,大部分案例是“虚假判例”或“虚假引用”。Sullivan & Cromwell是按营收计算的美国最大型律所之一,也曾负责虚拟资产交易所FTX的破产程序。市场普遍认为,此次事件并非单纯的意外,而是对金融、法律行业整体发出的警告:在加快引入AI的同时,验证体系也必须同步跟上。
文章摘要 by TokenPost.ai
🔎 市场解读
在AI应用迅速扩散的金融、法律行业,验证程序的缺失正成为实际风险。这已超越单纯提升生产力的工具层面,转向信任与责任问题成为核心议题的趋势。
💡 策略要点
构建“验证流程”本身,而非单纯引入AI,正成为竞争力的核心。尤其是在法律、金融文件中,双重审核系统、来源自动化确认等风险管理体系不可或缺。
📘 术语解释
AI幻觉:AI生成看似合理但实际并不存在的信息(判例、数据等)的现象
验证流程:人工再次确认AI结果并过滤错误的程序
虚假引用:在文件中包含不存在或错误的来源
💡 常见问题解答 (FAQ)
Q.
此次事件的实际问题是什么?
核心问题在于美国一家大型律师事务所向法院提交的文件中包含了约40处由AI生成的虚假引用。这并非单纯的失误,而是验证程序未能正常运作,这一点被评估为更大的风险。
Q.
为什么AI幻觉在法律领域尤其危险?
法律文件对判例和法规的准确性有绝对要求,因此引用不存在的信息会直接影响判决。这要求比其它领域更高的准确性和验证水平。
Q.
未来AI在法律行业的使用会受到限制吗?
相较于完全禁止使用,更可能的方向是强化验证责任。AI将作为辅助工具使用,而最终结果的准确性由人类负责的架构将变得更加明确。
TP AI注意事项
本文摘要基于TokenPost.ai语言模型生成。可能遗漏主要内容或与事实存在差异。
本网站所提供的所有信息仅供参考之用。
本网站不保证信息的准确性、有效性、及时性和完整性。
任何依赖于本网站所提供信息的行为,均由用户自行承担风险。