В документе, который подписал 78-летний федеральный судья, были обнаружены ссылки на фиктивные судебные решения и неточные сведения. В связи с этим, в юридическом сообществе активно обсуждается вопрос о потенциальных последствиях бесконтрольного внедрения технологий.
Unsplash
В Соединенных Штатах федеральный судья стал объектом расследования в связи с подозрениями в применении генеративного искусственного интеллекта для создания текста судебного решения.
Как пишет издание Mississippi Today, инцидент, произошедший в июле 2025 года, вызвал бурную реакцию в юридическом сообществе и поднял вопрос о надежности ИИ в правовой сфере.
В Роскомнадзоре отметили возможность применения в судебных разбирательствах данные, полученные в процессе общения с искусственным интеллектом
Как избежать потери своей должности из-за развития искусственного интеллекта и превратить его в полезного помощника
В центре судебного разбирательства оказался 78-летний федеральный судья Генри Уингейт, работающий в округе Миссисипи. Он вынес судебное распоряжение, в опубликованном документе, временно отменившем действие закона штата о многообразии и инклюзивности в образовании, юристы выявили значительное количество серьезных фактических неточностей. По оценке специалистов, эти ошибки являются проявлением так называемых «галлюцинаций» нейросетей – феномена, при котором системы искусственного интеллекта уверенно генерируют недостоверные сведения.
В первоначальном проекте решения истцами были названы организации, не участвовавшие в судебном разбирательстве, такие как Ассоциация библиотек Миссисипи и компания Delta Sigma Theta Sorority Inc. Также в документе присутствовали ссылки на несуществующие судебные дела, включая прецедент, датируемый, по имеющимся сведениям, 1974 годом, однако не имеющий отражения в судебных базах данных.
В документе содержались неточные цитаты из закона о дискриминации по половому признаку, и, по имеющимся сведениям, использовались показания вымышленных свидетелей.
После получения замечаний судья Уингейт отменил свое предыдущее постановление и предоставил исправленную редакцию в течение трех дней. Тем не менее, и в этой новой версии юристы снова выявили недостатки, в том числе ссылку на то же несуществующее дело, датированное 1974 годом.
Внимание общественности было привлечено к данному делу тем, что под подозрением оказался не адвокат, а сам судья. В Соединенных Штатах уже имелись случаи, когда юристов привлекали к ответственности и налагали штрафы за предоставление суду документов, сгенерированных ИИ и содержащих ошибки. Однако в ситуации с судьей механизм обратной проверки и привлечения к ответственности фактически отсутствует.
По мнению специалистов, добиться объяснений от судьи, подписавшего решение, значительно труднее, чем получить разъяснения от юриста, по чьей инициативе они могут быть запрошены.
Генри Уингейт, ранее удостоенный награды от бывшего президента США Рональда Рейгана, не стал давать публичных комментариев относительно произошедшего. По сведениям некоторых источников, он временно отстранен от исполнения своих обязанностей на время проведения расследования.
В юридическом сообществе возникли разногласия относительно данного дела: некоторые адвокаты выражают сомнения в гипотезе об использовании искусственного интеллекта, в то время как специалисты в области нейросетей считают, что ошибки имеют все признаки машинного создания.