Sullivan & Cromwell приносит извинения суду после того, как ИИ сгенерировал ложные правовые ссылки

TLDR

• Престижная юридическая фирма подала в суд документ с цитатами, сфабрикованными ИИ

• Sullivan & Cromwell признаёт сбои в проверке в деле о банкротстве

• Неточности, сгенерированные ИИ, скомпрометировали подачу документов в федеральный суд

• Противоборствующий адвокат обнаружил сфабрикованную судебную практику в юридическом документе

• Инцидент подчёркивает критическую необходимость усиленных протоколов валидации ИИ

Юридическая профессия вновь оказалась под пристальным вниманием в связи с надёжностью искусственного интеллекта после серьёзной ошибки, допущенной элитной американской юридической фирмой. Sullivan & Cromwell публично признала, что подала судебный документ, насыщенный сфабрикованными ИИ ссылками на дела и неточными юридическими отсылками. Инцидент побудил фирму провести всестороннее внутреннее расследование своих средств защиты в области искусственного интеллекта.

Сфабрикованные ссылки скомпрометировали подачу документов в федеральный суд

Престижная юридическая фирма обнаружила существенные недостатки в документе о банкротстве по главе 15, связанном с судебным процессом Prince Group. Системы искусственного интеллекта создали вымышленные ссылки на дела и неверно проанализировали положения законодательства США о банкротстве. Эти фабрикации были включены в материалы, представленные федеральному суду по делам о банкротстве Нью-Йорка.

Эндрю Дитдерих, возглавляющий отдел реструктуризации фирмы, лично взял на себя ответственность за недостатки документа. Он подтвердил, что, хотя фирма придерживается установленных руководящих принципов использования ИИ, эти протоколы не соблюдались при создании данного конкретного документа. С тех пор организация приняла корректирующие меры, чтобы избежать повторения ошибок, вызванных ИИ, в последующих юридических документах.

Boies Schiller Flexner, действуя от имени противоборствующих сторон, выявил несоответствия и довёл их до сведения суда. В ходе проверки выяснилось, что некоторые упомянутые дела полностью не существовали или ссылались на совершенно не связанные судебные решения. В результате фирма подала исправленную версию с аннотациями, чётко указывающими на ошибки, допущенные ИИ.

Сбои в проверке обнажают системные проблемы ИИ

Этот эпизод демонстрирует широко распространённые трудности, с которыми сталкиваются юридические фирмы, внедряющие искусственный интеллект для повышения производительности и управления нагрузкой по делам. Многие юридические практики используют системы ИИ для юридических исследований и создания документов, однако неадекватные протоколы проверки продолжают создавать уязвимости. Юристы вынуждены балансировать между операционной эффективностью и точностью при внедрении ИИ в рабочие процессы своей практики.

Sullivan & Cromwell заявила, что применяет строгую политику использования ИИ, включая обязательную проверку всех материалов, сгенерированных ИИ, специалистами. Фирма признала, что механизмы контроля качества дали сбой в этом деле, позволив дефектному контенту пройти без проверки. Инцидент усилил изучение систем управления искусственным интеллектом в критически важных юридических контекстах.

Отраслевые данные свидетельствуют о нарастающей частоте галлюцинаций ИИ в судебных документах, особенно связанных с выдуманными правовыми прецедентами. Исследования фиксируют более 1 300 подобных случаев по всему миру, причём большинство из них сосредоточено в американских судах. Эта формирующаяся тенденция подчёркивает необходимость более строгих механизмов аутентификации при использовании ИИ в процессах создания юридической документации.

Последствия выходят за рамки единичного инцидента

Судебный процесс Prince Group сосредоточен на обвинениях в масштабных мошеннических схемах, включающих принудительный труд и финансовые нарушения. Прокуроры США инициировали как уголовное преследование, так и меры по конфискации имущества, связанные с деятельностью организации. Следовательно, точность юридических документов приобретает первостепенное значение в делах, связанных со сложными транснациональными обвинениями.

Sullivan & Cromwell ранее представляла клиентов в резонансных делах, в том числе в процедуре банкротства биржи FTX. Фирма взимает премиальные ставки и ведёт сложные дела о реорганизации, охватывающие несколько правовых юрисдикций. Этот сбой, связанный с ИИ, вызвал вопросы относительно контроля качества в крупных юридических предприятиях.

Фирма продолжает внутреннее расследование, одновременно пересматривая образовательные программы и системы соблюдения нормативных требований, регулирующие применение искусственного интеллекта. Её цель включает укрепление защитных мер и повышение ответственности на протяжении всего рабочего процесса создания документов. По мере ускорения интеграции искусственного интеллекта юридическая отрасль сталкивается с растущими ожиданиями в отношении обеспечения надёжности и устранения дорогостоящих ошибок.

Сообщение Sullivan & Cromwell принесла суду извинения после того, как ИИ сгенерировал ложные юридические ссылки, впервые появилось на Blockonomi.