Помощник, а не оракул: что ИИ делает в исследовании
ИИ для исследований и рефератов · Урок 1 / 24
Чем занята языковая модель
Модель предсказывает продолжение текста. Она не сверяется с библиотекой, не помнит, откуда взялось утверждение, и не различает «я это видела в тысяче статей» и «я это только что собрала из похожих слов». Наружу и то и другое выходит одинаково гладко.
Отсюда главное правило курса: ИИ выдаёт правдоподобное, а не истинное. Причём правдоподобность растёт быстрее проверяемости — текст выглядит всё убедительнее, а времени на проверку у вас столько же. Значит, проверка должна быть встроена в процесс, а не приделана в конце.
Что модель делает хорошо
- Разворачивает тему в карту. Перечисляет подходы, школы, термины — вам есть от чего оттолкнуться в поиске.
- Переформулирует. Превращает расплывчатую тему в пять вариантов вопроса.
- Сжимает текст, который у вас уже есть. Саммари загруженной статьи гораздо надёжнее, чем саммари статьи «по памяти».
- Возражает. По запросу находит слабые места в вашей аргументации.
- Переводит и вычищает язык. Терминология, стиль, громоздкие конструкции.
Что она делает плохо
- Ссылки и цитаты. Синтезирует правдоподобные фамилии, названия и годы.
- Числа. Округляет, путает выборку с популяцией, переносит цифру из другого исследования.
- Оценка новизны. Не знает, что вышло на прошлой неделе и что уже опровергнуто.
- Взвешивание доказательств. Мнение в колонке и метаанализ выглядят для неё одинаково.
Рабочее разделение
ИИ отвечает за: черновики, структуру, сжатие, возражения, язык
Вы отвечаете за: вопрос, выбор источников, факты, числа, выводы
Правило шва: всё, что ИИ утверждает о мире, проверяется
у источника; всё, что он делает с вашим текстом,
проверяется вашим глазом
Инсайт. Полезность модели обратно пропорциональна тому, насколько ответ зависит от её памяти. Дайте ей текст — и качество резко вырастет: она перестаёт вспоминать и начинает работать.
Частая ошибка. Спрашивать «что известно по теме X» и записывать ответ как обзор литературы. Это не обзор, а гипотеза о том, как обзор мог бы выглядеть.
Про-совет. Держите два окна: одно для генерации, второе для проверки — с чистой историей и вопросом «какие возражения к этому утверждению». Разделение ролей мешает модели соглашаться сама с собой.
Шпаргалка
- Модель предсказывает текст, а не сверяется с фактами.
- Правдоподобность растёт быстрее проверяемости.
- Загруженный текст надёжнее, чем память модели.
- Вопрос, источники и выводы остаются за вами.
1. Почему ответ модели о фактах ненадёжен?
2. В каком режиме модель наиболее надёжна?
3. Что означает «правдоподобность растёт быстрее проверяемости»?