Описание [Владимир Елфимов] LLM Driven Development Разработка и эксплуатация AI (2025):
### Для кого этот курс?
Этот курс предназначен для тех, кто хочет внедрить искусственный интеллект (AI) на основе больших языковых моделей (LLM) в свои проекты или сервисы, но не знает, как это сделать. Он будет полезен:
- **Python-разработчикам**, стремящимся выйти за рамки классического программирования и освоить прикладное AI.
- **DevOps-инженерам**, которым важно понять, как развертывать и поддерживать крупные AI-системы.
- **Data-инженерам, аналитикам данных и специалистам по Data Science**, желающим глубже интегрировать языковые модели в свои пайплайны и сервисы.
### Необходимые знания
Желательно иметь базовые знания Python. Хотя многие темы курса не требуют знания языков программирования, некоторые примеры будут представлены именно на Python.
### Что даст вам этот курс?
Курс охватывает полный цикл разработки и внедрения больших языковых моделей — от основ архитектуры AI и подготовки данных до тонкостей MLOps, мониторинга и оптимизации. Программа основана на реальных кейсах и инструментах, востребованных в индустрии.
На курсе вы:
- Изучите фундаментальные принципы архитектуры AI и трансформеров.
- Освоите практики LLMOps, включая развертывание, автоматизацию, мониторинг и обновление крупных моделей.
- Разберётесь в токенизации, контекстных окнах и управлении памятью для больших LLM.
- Освоите фреймворки для интеграции LLM, такие как LangChain, LlamaIndex, vLLM и другие, а также научитесь работать с мультиагентными системами.
- Научитесь применять retrieval-augmented generation (RAG) вместе с векторными базами данных и внедрять AI-функциональность в классические бэкенд-проекты.
- Поймёте, как проводить fine-tuning и оптимизацию LLM, включая вызов внешних функций.
- Узнаете о когнитивных архитектурах, принципах мультимодальных моделей и методах тестирования AI-решений.
После курса вы будете готовы внедрять LLM-сервисы в реальные продукты: разрабатывать, тестировать, поддерживать и оптимизировать AI-приложения на продвинутом уровне.
### Программа
#### 1. Архитектура трансформеров
В этом модуле вы изучите архитектурные ограничения рекуррентных нейронных сетей (RNN) и преимущества механизма self-attention. Вы поймете, как работают трансформеры и интерпретируете работу attention-слоёв.
- Тема 1: Базовые принципы трансформеров (от RNN к Self-Attention).
- Тема 2: Token Embedding, позиционные вектора и QKV.
- Тема 3: Визуализация Attention и эволюция (BERT, GPT, T5). Домашнее задание.
#### 2. Введение в AI Engineering
В этом модуле вы познакомитесь с выбором и адаптацией русскоязычных LLM под прикладные задачи, а также с LLM-пайплайнами и инженерными практиками.
- Тема 1: Эволюция AI и фундаментальные модели (ChatGPT, Mistral, Llama, Deepseek).
- Тема 2: Подходы к локализации (SberGPT, YandexLLM, ruGPT-3).
- Тема 3: Работа с данными в Python и подготовка данных для LLM. Домашнее задание.
#### 3. Основы LLMOps
В этом модуле вы научитесь настраивать мониторинг и отслеживание работы LLM, использовать соответствующие инструменты и интегрировать модели в CI/CD-процессы для обеспечения надежной и стабильной эксплуатации.
- Тема 1: Принципы LLMOps, автоматизация развертывания.
- Тема 2: Оптимизация и поддержка LLM.
- Тема 3: CI/CD для LLM и инструменты (Triton, MLflow, vLLM). Домашнее задание.
#### 4. Оценка, токенизация и контекст
В этом модуле вы освоите методы оценки качества генерации, применение метрик и управление длиной контекста и token streaming.
- Тема 1: Специализированные бенчмарки и метрики (GLUE, SQuAD и др.). Домашнее задание.
- Тема 2: Токенизация, контекстные окна, test time scaling.
#### 5. Интеграция и практика
В этом модуле вы научитесь создавать и защищать промпты, реализовывать RAG и интегрировать LLM через API и middleware.
- Тема 1: Работа с фреймворками и агентами (LangChain, LlamaIndex, Ollama, Haystack). Домашнее задание.
- Тема 2: Мониторинг моделей с LangChain Observability, LangSmith, Langfuse.
- Тема 3: Векторные БД и RAG (Pinecone, Chroma, Milvus, Clickhouse). Домашнее задание.
- Тема 4: Промпт-инжиниринг (Chain-of-thought, защита от некорректных промптов).
#### 6. Разработка и оптимизация LLM
В этом модуле вы изучите методы дообучения и оптимизации LLM, расширяя их функциональность через fine-tuning, вызов внешних функций, локальный запуск и извлечение информации из текста.
- Тема 1: Fine-tuning (LoRA, PEFT) и вызов внешних функций из LLM. Домашнее задание.
- Тема 2: Локальное использование LLM (CPU/GPU), оптимизация.
- Тема 3: Извлечение данных из текста (NER, IE), разработка приложений. Домашнее задание.
- Тема 4: Автоматизация тестирования LLM, CI/CD жизненного цикла. Домашнее задание.
#### 7. Когнитивные архитектуры и RAG
В этом модуле вы изучите основы построения когнитивных систем на базе RAG, проектирование архитектур AI-приложений с учетом профилирования производительности и обеспечения надежности, а также оптимизацию отклика и мониторинг.
- Тема 1: Основы RAG, онтологические графы, LangGraph.
- Тема 2: Проектирование когнитивных архитектур (QA, чат-боты, документооборот).
- Тема 3: Архитектуры AI-приложений, профилирование inference.
- Тема 4: Тестирование AI-приложений (мониторинг, оптимизация задержек).
#### 8. Продвинутые архитектуры и паттерны
В этом модуле вы узнаете о современных подходах к построению эффективных и масштабируемых LLM-систем: от сжатия и оптимизации моделей до внедрения мультимодальности и семантического поиска.
- Тема 1: Сжатие моделей: квантование (GGUF, AWQ), дистилляция, pruning.
- Тема 2: Семантический поиск и мультимодальность (текст + изображение/аудио). Домашнее задание.
- Тема 3: Продвинутое обучение (contrastive fine-tuning, in-context learning), интерпретируемость (SHAP, LIME).
#### 9. Проектная работа
Заключительный месяц курса посвящен проектной работе. Проект — это самая интересная часть обучения, где вы сможете применить полученные навыки и компетенции. В процессе работы над проектом вы получите консультацию преподавателей.
- Тема 1: Выбор темы и организация проектной работы. Проект.
- Тема 2: Консультация по проектам и домашним заданиям.
- Тема 3: Защита проектных работ.
- Тема 4: Подведение итогов курса.
### Старт занятий
Старт занятий запланирован на 26 июня 2025 года.
Подробнее:
Скачать курс [Владимир Елфимов] LLM Driven Development Разработка и эксплуатация AI (2025):
Для просмотра содержимого вам необходимо авторизоваться
Последнее редактирование модератором:
