ИИ на локальных и открытых моделях

О курсе

Курс о том, как запускать открытые модели на своём железе вместо облачного API: когда это оправдано, что для этого нужно и как не потерять в качестве. Решает задачу выбора между локальным и облачным инференсом на основе реальных ограничений, а не моды.

Обучение идёт от совокупной стоимости владения и лицензий открытых весов через квантизацию и пропускную способность памяти к выбору конфигурации, развёртыванию рабочего сервера и его эксплуатации. Проекты выполняются на своей установке: паспорт железа под задачу с замером памяти и скорости, рабочий локальный сервер, доведённый до состояния, пригодного к нагрузке, и доказательная база для решения о локальной модели.

Курс для разработчиков и инженеров, которые уже работают с моделями через API и хотят понять, когда и как перейти на локальный или открытый вариант. Нужны базовые Python и командная строка, специальных знаний GPU не требуется — курс объясняет это с нуля.

Чему вы научитесь

• Считать совокупную стоимость владения локальной моделью против облачного вызова
• Разбираться в лицензиях открытых весов и их ограничениях
• Оценивать потребление памяти, разрядность и квантизацию модели
• Разворачивать модель серверным процессом с сетевым интерфейсом
• Настраивать параметры инференса, батчинг и длину контекста
• Честно сравнивать качество локальной модели с облачной
• Разбирать типовые отказы локального сервинга
• Обеспечивать безопасность: изоляцию, доступ, данные в логах

Что останется после курса

• Паспорт железа с замером памяти, скорости и качества под вашу задачу
• Развёрнутый локальный сервер, доведённый до состояния, пригодного к нагрузке
• Доказательная база сравнения локальной и облачной модели
• Сертификат на платных тарифах

Курс не подходит, если нужен просто быстрый доступ к любой модели через API без вопроса, зачем запускать её локально.