Разработка на основе LLM: Языковые модели для бизнеса

Профиль аудитории:

AI/ML-специалисты, Python-разработчики, дата-инженеры, системные архитекторы, DevOps-инженеры, создающие или внедряющие LLM-решения.

Предварительные требования:

Уверенное владение Python, знание API-интерфейсов, опыт работы с JSON, базовое понимание нейросетевых архитектур и REST-запросов.

По окончании курса слушатели смогут:

• Ориентироваться в экосистеме Frontier и open-source LLM.
• Использовать RAG, QLoRA, Agents, Tool Calling в своих продуктах.
• Разрабатывать мультимодальные GenAI-приложения.
• Выполнять тонкую настройку LLM (fine-tuning) на основе бизнес-данных.
• Оценивать и выбирать модели под задачу (в т.ч. open vs proprietary).
• Проектировать и разворачивать системы на базе автономных LLM-агентов.

Модуль 1. Основы LLM и старт проекта

• Архитектура трансформеров
• Эксперименты с Frontier-моделями
• Первый проект: генерация брошюры с Web-scraping и навигацией по сайту

 Модуль 2. API Frontier LLM и мультимодальные агенты

• Сравнение API разных моделей (GPT-4, Claude, Gemini и др.)
• UI + voice + image + function calling
• Проект: AI-ассистент клиентской поддержки для авиакомпании

Модуль 3. Open-Source LLM и HuggingFace

• Знакомство с open LLM: LLaMA, Mistral, Falcon
• HuggingFace Transformers + Diffusers
• Проект: генерация meeting minutes из аудиозаписей

Модуль 4. Генерация и оптимизация кода с помощью LLM

• Prompt engineering для кода
• Использование LLM как компилятора и оптимизатора
• Проект: перевод Python в C++ с приростом производительности в 60 000

Модуль 5. Retrieval-Augmented Generation (RAG) и векторные БД

• Embeddings, FAISS, Chroma, Weaviate
• Архитектура RAG-решения
• Проект: knowledge worker, отвечающий на вопросы по данным компании

Модуль 6. Тонкая настройка моделей (fine-tuning)

• Разница между inference и training
• Fine-tuning Frontier LLM на бизнес-задачу
• Проект: Capstone A — предсказание цены продукта по описанию

Модуль 7. QLoRA и обучение open-source моделей

• Методика QLoRA, LoRA, 8bit/4bit weights
• Fine-tuning open LLM → против Frontier
• Проект: Capstone B — open-source модель для прогноза цен

Модуль 8. Многоагентные системы и деплой

• Архитектура agentic workflows
• Orchestration с LangChain, CrewAI, Autogen
• Деплой с UI, agents, tool use
• Capstone C - автономная система, находящая выгодные предложения