Чего ИИ не делает: применимость, стратегия, ответственность

ИИ для юристов и договоров · Урок 2 / 20

Граница проходит не по сложности, а по типу вопроса

Модель отлично отвечает на вопрос «что написано в этом тексте» и плохо — на вопрос «что это значит для нас». Первый вопрос закрыт документом. Второй требует фактов, которых в документе нет: как стороны вели себя раньше, что важнее — скорость или защита, чем вы готовы пожертвовать, какова практика в вашей отрасли и юрисдикции. Ничего этого модель не знает и, что хуже, не сигнализирует о незнании.

Три зоны, которые остаются человеку

Применимость. Одна и та же формулировка про ограничение ответственности в одном контексте разумна, в другом — обнуляет весь смысл сделки. Решает не текст, а обстоятельства.
Стратегия переговоров. Какие правки требовать жёстко, какие отдать в обмен, где вообще не спорить — это торг с известными вам людьми, а не задача на анализ текста.
Ответственность. Подпись, согласование и последствия остаются на вас. Ссылка «так сказала модель» не работает ни перед руководством, ни перед контрагентом, ни перед регулятором.

Практический тест

Перед тем как принять ответ модели, спросите себя:
1. Проверяется ли этот вывод по тексту документа?  -> можно опираться
2. Требует ли он знания фактов вне документа?      -> проверяю сам
3. Требует ли он ссылки на норму или практику?     -> считаю выдумкой,
   пока не открыл первоисточник
4. Влияет ли он на деньги, сроки или выход из сделки? -> двойной контроль

Полезная ментальная модель: относитесь к ИИ как к очень быстрому и очень начитанному помощнику первого года, который никогда не скажет «я не знаю». Всё, что вы поручили бы такому помощнику без последующей проверки, можно поручать модели. Всё остальное — нет.

Инсайт. Модель не умеет молчать. Отсутствие ответа для неё хуже, чем неверный ответ, поэтому пустоту она заполняет правдоподобным текстом.

Частая ошибка. Принимать оценку «риск низкий» без объяснения. Требуйте, чтобы к каждой оценке риска был указан пункт документа и механизм ущерба, иначе оценка ничем не обеспечена.

Про-совет. Добавляйте в промпт фразу: «если данных в тексте недостаточно, напиши НЕ ОПРЕДЕЛЕНО и укажи, какого факта не хватает». Это переводит часть выдумок в честные пробелы.

Шпаргалка

«Что написано» — модели, «что это значит для нас» — человеку.
Применимость, стратегия и ответственность не делегируются.
Требуйте пункт и механизм ущерба к каждой оценке риска.
Разрешите модели отвечать «не определено».

1. На какой вопрос модель отвечает надёжнее всего?

2. Что делать с выводом, требующим фактов вне документа?

3. Почему модель не сообщает о собственном незнании?

Задание — проверяет ИИ

Возьмите последний договор, который вы согласовывали. Выпишите пять выводов, которые вы по нему сделали. Разнесите каждый по трём корзинам: проверяется по тексту / требует внешних фактов / требует правовой ссылки. Опишите, что изменится в вашей работе, если первую корзину отдать модели, а две другие оставить себе.

← Назад

🔒 Ответьте на вопрос верно, чтобы перейти к следующему уроку.