Курс для специалистов с базовым знанием Python или другого языка программирования, посвящённый глубокому изучению нейронных сетей - от искусственного нейрона до современных архитектур (CNN, RNN, Transformer). Курс даёт практические навыки построения, обучения и внедрения нейросетевых моделей с использованием PyTorch и Keras.
Цели курса
После курса вы сможете:
Понимать принципы работы нейронных сетей и глубокого обучения
Строить и обучать нейронные сети с помощью PyTorch / Keras
Работать со сверточными нейронными сетями (CNN)
Работать с рекуррентными нейронными сетями (RNN, LSTM)
Понимать архитектуру Transformer и основы работы с LLM
Оптимизировать модели и улучшать качество обучения
Разворачивать нейросетевую модель как сервис
Часть 1
1. Введение в нейронные сети и глубокое обучение
От биологического нейрона к искусственному
История развития нейронных сетей
Разница между ML и Deep Learning
Обзор фреймворков (TensorFlow, Keras, PyTorch)
Постановка задачи глубокого обучения
2. Основы работы искусственного нейрона
Персептрон
Функции активации (Sigmoid, ReLU, Tanh, Softmax)
Прямое распространение (forward propagation)
Функции потерь (loss functions)
Обратное распространение ошибки (backpropagation)
Часть 2
3. Полносвязные нейронные сети (MLP)
Архитектура многослойного перцептрона
Инициализация весов
Оптимизаторы (SGD, Adam, RMSProp)
Батчи и эпохи обучения
Регуляризация: Dropout, L2
4. Обучение и настройка нейронных сетей
Batch size и learning rate
Переобучение и способы борьбы с ним
Batch Normalization
Ранняя остановка (early stopping)
Диагностика обучения (learning curves)
Часть 3
5. Сверточные нейронные сети (CNN)
Свертка и пулинг (convolution, pooling)
Архитектура CNN
Известные архитектуры: LeNet, VGG, ResNet (обзор)
Аугментация данных
Классификация изображений
6. Transfer Learning и практика CNN
Идея переноса обучения
Использование предобученных моделей
Fine-tuning
Практическая работа: классификация изображений
Часть 4
7. Рекуррентные нейронные сети (RNN)
Задачи с последовательными данными
Архитектура RNN
Проблема затухающего градиента
LSTM и GRU
Применение: анализ текста, временные ряды
8. Введение в архитектуру Transformer
Механизм внимания (Attention)
Self-Attention и Multi-Head Attention
Архитектура Transformer
Обзор моделей BERT, GPT
Основы работы с большими языковыми моделями (LLM)
Часть 5
9. Генеративные модели: обзор
Автоэнкодеры (Autoencoders)
Генеративно-состязательные сети (GAN): обзор
Диффузионные модели: обзор
Применение генеративных моделей
10. Внедрение и оптимизация нейросетевых моделей
Сохранение и загрузка моделей
Инференс модели, экспорт (ONNX)
Оптимизация: квантование и дистилляция (обзор)
Развертывание модели как сервиса
Итоговый проект
