Юридическая фирма из США извинилась за ошибки, вызванные ИИ

Юридическая фирма Sullivan & Cromwell извинилась перед федеральным судьей после подачи судебного документа, содержащего около 40 неверных цитат и других ошибок, вызванных галлюцинациями ИИ. В письме к главному судье Мартину Гленну из Судебного округа США по делам о банкротстве в Южном Нью-Йорке Эндрю Дитдерих, сопредседатель глобальной команды по реструктуризации фирмы, выразил глубокое сожаление по поводу произошедшего. 

Дитдерих отметил: “Фирма и я прекрасно осознаем нашу ответственность за обеспечение точности всех подач, включая соблюдение местного правила о банкротстве 9011-1(d), и я беру на себя ответственность за неудачу в этом”. Инцидент подчеркивает риски, которые могут возникать при использовании инструментов ИИ в высокострессовой профессиональной среде без надлежащего контроля. 

Данные, собранные юридическим технологом Дамиеном Шарлотином, зафиксировали 1334 случая галлюцинаций ИИ в судебных документах по всему миру, из которых более 900 случаев зарегистрированы в США. Шарлотин указал, что большинство из этих галлюцинаций связано с подделанными цитатами, хотя иногда также выявляются и юридические аргументы, созданные ИИ. 

Дитдерих добавил, что у Sullivan & Cromwell есть политики по использованию инструментов ИИ, которые включают проверку используемых цитат, однако эти политики не были соблюдены. “К сожалению, этот процесс проверки не выявил неточные цитаты, сгенерированные ИИ, и не обнаружил другие ошибки, которые, по всей видимости, возникли полностью или частично из-за человеческой ошибки”. 

Sullivan & Cromwell является одной из крупнейших юридических фирм в США по доходам, занимая 30-е место в списке AmLaw Global 200. Фирма также представляла криптобиржу FTX в ее деле о банкротстве. В ответ на инцидент, Sullivan & Cromwell проводит внутреннее расследование. Дитдерих сообщил, что юридическая фирма приняла “незамедлительные меры по исправлению ситуации”, включая полный обзор обстоятельств, приведших к ошибкам. 

Фирма также “оценивает, нужны ли дополнительные улучшения в своих внутренних процессах обучения и проверки”, добавил он. Дитдерих также отметил, что ошибки были обнаружены конкурентной юридической фирмой. “Я также позвонил в Boies Schiller Flexner LLP в пятницу, чтобы поблагодарить их за то, что они обратили наше внимание на эту проблему, и извиниться перед ними лично”, сказал он.