Юридический дебют: Судья использовал ChatGPT для вынесения приговора

Дело, которое вел судья Хуан Мануэль Падилья Гарсия, касалось спора между медицинской страховой компанией и родителями ребенка с аутизмом. Суд использовал ИИ для постановки юридических вопросов в деле и включил ответы на него в свое решение.

“Аргументы этого решения будут определены с учетом использования искусственного интеллекта. Целью включения этих текстов, созданных искусственным интеллектом, никак не является замена решения судьи. Мы стремимся оптимизировать время, затрачиваемое на подготовку судебных решений после подтверждения информации, предоставленной искусственным интеллектом”, – написал Гарсия.

Согласно судебному документу, ИИ были заданы такие правовые вопросы:

• "Освобождается ли несовершеннолетний ребенок с аутизмом от уплаты за лечение?"
• "Выносил ли конституционный суд положительные решения по подобным делам?".

Гарсия включил полные ответы чат-бота в решение, что, по-видимому, стало первым случаем, когда судья признался в этом. Судья также включил собственные соображения по поводу правовых прецедентов и сказал, что ИИ был использован для "расширения аргументации принятого решения". После детального описания обмена мнениями с искусственным интеллектом, судья использовал его ответы и собственные правовые аргументы как основание для принятия решения.

Колумбийское законодательство не запрещает использовать ИИ в судебных решениях, но такие системы, как ChatGPT, известны тем, что могут давать пристрастные, дискриминационные или просто неправильные ответы. Это связано с тем, что языковая модель не имеет реального "понимания" текста – она просто синтезирует предложения на основе вероятности из миллионов примеров, используемых для обучения системы.

Создатели ChatGPT, OpenAI, внедрили фильтры для устранения некоторых наиболее проблемных ответов. Но разработчики предупреждают, что инструмент по-прежнему имеет значительные ограничения и не должен использоваться для принятия решений.