Недавние случаи показывают, как ИИ может внести ложную информацию в важные юридические документы. Например, судья Майкл Уилнер в Калифорнии обнаружил, что адвокаты использовали ИИ для написания заявления, которое содержало несуществующие статьи закона. В другом случае адвокат компании Anthropic использовал ИИ для создания цитат, но получил ошибочные данные, которые не были замечены. В Израиле прокуратура сослалась на несуществующие законы в своем запросе, что также было связано с использованием ИИ.
Эти случаи подчеркивают важность точности в юридических документах, где даже малейшая ошибка может привести к серьезным последствиям. ИИ, несмотря на свою полезность, часто не справляется с такой задачей, особенно в контексте точных цитат и законов.
Мора Гроссман, эксперт по праву и ИИ, отмечает, что многие юристы, несмотря на тщательную работу с языком, часто доверяют ИИ без должной проверки. Это происходит из-за того, что ИИ, несмотря на свою склонность к ошибкам, звучит авторитетно и часто воспринимается как надежный источник. Юристы, стесненные временными рамками, склонны использовать технологии для ускорения работы, не всегда тщательно проверяя результаты.
Проблема "галлюцинаций" ИИ сохраняется, и, по мнению Гроссман, решения пока нет. Компании, предлагающие инструменты для юристов, продолжают утверждать, что их технологии точны и надежны, несмотря на случаи ошибок, как в примере с фирмой Ellis George, которая по вине ИИ была оштрафована на 31 000 долларов.
Эта ситуация подчеркивает важность бдительности и критического отношения к ИИ, даже несмотря на его прогресс. Поскольку ИИ продолжает проникать в разные сферы, важно помнить, что его точность не гарантирована, и необходимо всегда проверять полученные данные.
Источник: https://www.technologyreview.com/2025/05/20/1116823/how-ai-is-introducing-errors-into-courtrooms/
Если вам понравился материал, кликните значок - вы поможете нам узнать, каким статьям и новостям следует отдавать предпочтение. Если вы хотите обсудить материал - не стесняйтесь оставлять свои комментарии : возможно, они будут полезны другим нашим читателям!
