Риск-ориентированный подход и почему он победил

Регулировать не технологию, а сценарий её применения

Ранние попытки регулировать ИИ пытались описать саму технологию: что считать искусственным интеллектом, какие архитектуры опасны, какие вычислительные мощности требуют разрешения. Все такие подходы разбивались об одно и то же: технология меняется быстрее, чем принимается норма. К моменту вступления правил в силу описанная в них система уже устаревала.

Что предлагает риск-ориентированный подход

Он смещает вопрос с «что это за модель» на «что произойдёт с человеком, если система ошибётся». Одна и та же модель может быть безобидной в одном сценарии и жёстко ограниченной в другом. Классификатор изображений в фоторедакторе и он же в системе допуска на объект — юридически разные вещи.

Неприемлемый риск. Сценарии, которые запрещены как таковые, независимо от качества системы и согласия участников.
Высокий риск. Существенное влияние на права, доступ к благам, безопасность. Разрешено, но с полным набором требований: документация, качество данных, человеческий надзор, журналирование, оценка воздействия.
Ограниченный риск. Главное требование — прозрачность: человек должен понимать, что взаимодействует с системой или видит сгенерированный материал.
Минимальный риск. Общие правила и добровольные практики.

Границы категорий и их названия отличаются от юрисдикции к юрисдикции, и они пересматриваются. Устойчива сама логика: чем сильнее последствия для человека, тем плотнее обязанности.

Инсайт. Категория риска — свойство не системы, а связки «система + сценарий + затронутые люди». Меняете сценарий — обязаны переклассифицировать, даже если модель осталась той же.

Как классифицировать свой сценарий

Пять вопросов для предварительной классификации
1. Кого затрагивает результат работы системы
2. Что человек теряет при ошибке (деньги, доступ, репутацию, здоровье)
3. Может ли человек узнать о решении и оспорить его
4. Есть ли альтернатива без ИИ
5. Попадает ли сценарий в перечни своей юрисдикции — проверить в источнике

Частая ошибка. Классифицировать по громкости модели: «у нас же не автономный агент, значит, низкий риск». Простая скоринговая формула, отказывающая людям в услуге, регулируется жёстче красивого чат-бота.

Про-совет. Классификацию оформляйте письменно и с датой, даже если получился минимальный риск. Обоснованное «мы проверили и решили так» защищает лучше, чем отсутствие следов размышления.

Шпаргалка

Регулируется сценарий применения, а не архитектура модели.
Уровень риска задаёт объём обязанностей.
Смена сценария требует новой классификации.
Перечни и границы категорий сверяйте с актуальным первоисточником.

1. Почему регулирование ушло от описания самой технологии?

2. К чему относится уровень риска?

3. Что типично требуется для сценариев ограниченного риска?

Задание — проверяет ИИ

Возьмите один реальный сценарий использования ИИ в вашей работе. Опишите его в одном предложении, ответьте на пять вопросов предварительной классификации и предположите уровень риска. Отдельно укажите, какой источник своей юрисдикции вы будете проверять, чтобы подтвердить или опровергнуть эту оценку.

← Назад

🔒 Ответьте на вопрос верно, чтобы перейти к следующему уроку.