Что ИИ умеет хорошо — и где стабильно ошибается
ИИ с нуля: ваш цифровой помощник · Урок 2 / 20
Что ИИ умеет — и где ошибается
Главная причина разочарования в ИИ — неправильно выбранная задача. Молотком неудобно закручивать шурупы, и дело не в молотке. Разберём честно, где модель сильна, а где её нельзя оставлять без присмотра.
Где ИИ силён
- Любая работа с текстом. Написать, переписать, сократить, развернуть, перевести, сменить тон, вычитать. Это его родная стихия.
- Объяснения. Разложить сложное на простое, придумать аналогию, объяснить «как для новичка» или «как для эксперта».
- Идеи и варианты. Дать 10 заголовков, 15 названий, 5 подходов к проблеме. Даже если половина слабая — это отличный старт против чистого листа.
- Структурирование. Превратить кашу из мыслей в план, таблицу, чек-лист.
- Рутина. Заполнить шаблон, разобрать длинное письмо на пункты, составить черновик ответа.
Где ИИ регулярно подводит
- Точные факты, имена, цифры, ссылки. Может выдумать убедительно выглядящую деталь — это называется «галлюцинация». Опаснее всего то, что выдумка звучит так же уверенно, как правда.
- Свежие события. Из-за даты среза.
- Арифметика на длинных числах. Модель предсказывает текст, а не считает как калькулятор. На простом справится, на сложном — легко ошибётся.
- Ваши личные обстоятельства. Она не знает ничего, что вы не написали.
- Ответственные решения. Медицина, право, финансы, безопасность — только как черновик и подсказка, где искать, но не как вердикт.
Пример: неподходящая и подходящая задача
Сколько будет стоить мой ремонт?
Стоимость ремонта зависит от множества факторов: площади, материалов, региона… (модель не знает ваших вводных — получается пустая вода)
Помоги собрать смету. Вот работы и цены за единицу: [список]. Посчитай суммы по строкам, дай итог и оформи таблицей.
| Работа | Кол-во | Цена | Сумма |… аккуратная таблица по вашим данным + итог
Разница простая: в первом случае мы просим модель знать то, чего она знать не может. Во втором — просим обработать то, что мы дали. Второе она делает отлично.
Правило «черновик, а не оракул»
Самая надёжная роль для ИИ на старте — ускоритель черновиков. Он берёт на себя чистый лист, структуру и рутину; вы оставляете за собой факты, решение и финальную ответственность. При таком раскладе ИИ экономит часы и почти не создаёт рисков.
Инсайт. Просите модель обработать ваши данные, а не вспомнить факты. Первое — её сильная сторона, второе — слабая.
Частая ошибка. Копировать цифры, даты и цитаты из ответа без проверки. Именно так люди попадают в неприятные истории.
Про-совет. Сомневаетесь — попросите: «отметь, в чём ты не уверен». Модель довольно неплохо помечает шаткие места, если её прямо об этом попросить.
Шпаргалка
- Силён: текст, объяснения, идеи, структура, рутина.
- Слаб: факты, свежее, точный счёт, ваши обстоятельства.
- Давайте данные — просите обработку, а не «вспомни».
- ИИ — черновик и ускоритель, а не источник истины.
1. Что такое «галлюцинация» модели?
2. Какая формулировка задачи надёжнее?
3. Какая роль для ИИ самая безопасная на старте?