Проектировать хранилища данных
Разбирать архитектуру DWH и подходы к организации слоёв хранилища.
Курс для специалистов с базовыми знаниями SQL и Python: проектирование хранилищ, автоматизация ETL, распределённая обработка данных и работа с облачной инфраструктурой.
| Кому подойдёт | Чем поможет курс |
|---|---|
| Начинающим инженерам данных | Тем, кто уже пишет код на Python и составляет SQL-запросы, но хочет связать работу с базами, хранилищами и автоматизацией в целостную архитектуру. Школа относит программу к уровням junior+ и middle. |
| Аналитикам данных | Аналитикам, которые регулярно работают с базами данных и хотят глубже разобраться в извлечении, преобразовании и загрузке данных, а также освоить задачи проектирования хранилищ. |
| Специалистам смежных направлений | Тем, кто знаком с Python и SQL и хочет перейти от работы с отдельными инструментами к построению и поддержке систем обработки данных. До записи проверьте требования к знаниям и программе. |
Разбирать архитектуру DWH и подходы к организации слоёв хранилища.
Строить ETL-процессы и запускать их с помощью Apache Airflow.
Изучить распределённое хранение, обработку и мониторинг задач на Hadoop и Spark.
Разобрать облачные хранилища, Kubernetes и развёртывание инструментов обработки данных.
Познакомиться с визуализацией данных и управлением моделями машинного обучения.
Видеоматериалы с объяснением тем курса для самостоятельного просмотра. Записанные видеолекции по темам программы.
Материалы для изучения и повторения тем курса: пояснения, конспекты и справочная информация. Конспекты к занятиям.
Задания для применения изученного материала и отработки навыков. Домашние задания с двухнедельными сроками.
Работа над проектами, в которых можно объединить знания и навыки из разных тем курса. Промежуточный проект по ETL-процессам на платформе данных.
Поддержка куратора или наставника по вопросам обучения и освоения программы. Помощь экспертов при выполнении заданий.
Общение с участниками обучения и обмен опытом в учебном сообществе. Общение с однокурсниками и экспертами в чатах.
Темы и разделы, которые входят в программу обучения.
Разберёте архитектуру хранилища данных, основные компоненты и подходы к проектированию детального слоя DWH. Рассмотрите разные варианты организации данных на практике.
Сравните реляционные и массово-параллельные системы управления базами данных. Изучите особенности их архитектуры и подготовки PostgreSQL и Greenplum к работе.
Разберёте извлечение, преобразование и загрузку данных. Познакомитесь с компонентами Apache Airflow и автоматизацией ETL-пайплайнов.
Изучите распределённое хранение на Hadoop, обработку больших данных и вопросы отказоустойчивости. Познакомитесь с потоковой обработкой и мониторингом заданий Spark.
Выполните промежуточный проект, моделирующий ETL-процессы двухуровневой платформы данных. Поработаете со связкой Airflow, Spark, S3 и Greenplum.
Сравните облачные решения для хранилищ и озёр данных. Разберёте применение Kubernetes, установку и настройку JupyterHub и Spark в облачной среде.
Познакомитесь с тем, как аналитики используют дашборды и графики для представления результатов. Разберёте задачи визуализации, с которыми взаимодействует инженер данных.
Изучите основы распределённого машинного обучения и модуль Spark ML. Разберёте подходы к обучению и применению моделей на больших объёмах данных.
Разберёте подготовку данных для моделей, построение ML-пайплайнов, версионирование наборов данных и учёт экспериментов и моделей.
Познакомитесь с подходами к управлению данными и множеством интеграций. Изучите контроль качества данных и отслеживание их происхождения.
Практические работы курса — какие задачи вы будете решать, какие кейсы и примеры разбирать.
Задания сопровождают занятия. Школа указывает мягкие двухнедельные сроки и помощь экспертов, если при выполнении возникнут сложности.
После модуля о больших данных вы выполните промежуточный проект: смоделируете процессы извлечения, преобразования и загрузки данных с помощью Airflow, Spark, S3 и Greenplum.
Профессии, с задачами которых знакомит программа курса.
Навыки, на развитие которых направлена программа курса.
Инструменты, софт и сервисы, которые вы будете использовать на курсе.
Состав экспертов и их участие в конкретной группе уточняйте у школы.

Школа указывает этот вид документа.
Для сертификата школа требует не менее половины баллов за домашние задания и не менее половины баллов за проект.
Школа рекомендует уверенно пользоваться Python и SQL. Курс рассчитан на специалистов junior+ и middle; отдельные знания инженерии данных для начала, по данным школы, не обязательны.
Основная программа длится пять месяцев. Школа указывает по три занятия в неделю и рекомендует ориентироваться примерно на 10–15 часов обучения в неделю.
Уроки открываются постепенно и включают записанные видеолекции, конспекты и практические задания. Для домашних работ предусмотрены мягкие двухнедельные сроки.
Для написания кода нужен компьютер или ноутбук. Школа предоставляет удалённый сервер и сообщает, что на старте достаточно браузера и мессенджера для общения.
После раздела о больших данных предусмотрен промежуточный проект по ETL на примере двухуровневой платформы. В нём используются Airflow, Spark, S3 и Greenplum.
По данным школы, лекции, конспекты и домашние задания остаются доступны после курса. Доступ к удалённому серверу завершается, поэтому файлы нужно сохранить заранее.
Для сертификата школа указывает два условия: набрать не менее половины баллов за домашние задания и не менее половины баллов за проект.
Указана цена курса при оплате одним платежом по данным школы на дату проверки. Актуальную стоимость, скидку и условия рассрочки уточняйте на сайте школы.
Перейдите на сайт KARPOV.COURSES, чтобы узнать условия обучения на курсе «Инженер данных».
На сайт школыДругие программы для той же профессии или со схожими навыками и инструментами.
Курс знакомит с инженерией данных с нуля: SQL, Python, базы данных, PySpark и Airflow. В программе есть практические задания и проект по обработке данных.
Курс Яндекс Практикума для специалистов с начальным опытом машинного обучения. За четыре месяца программа проводит через подготовку данных, обучение модели, развёртывание сервиса и мониторинг.
Сбор и анализ данных, SQL, Python и визуализация. Программа связывает технические инструменты с исследовательскими задачами бизнеса.
Перед выбором оцените подготовку: школа ожидает базовые навыки Python и SQL и относит программу к уровням junior+ и middle. Если вы ещё не работали с кодом и запросами, сопоставьте требования с курсом «Инженер данных с нуля».
Курс охватывает не только отдельные инструменты, но и архитектуру хранилищ, ETL и распределённую обработку. Запланируйте время на пять месяцев занятий: по данным школы уроки открываются постепенно, а домашние работы выполняются с мягкими двухнедельными сроками.
Проверьте стоимость и условия оплаты на сайте школы. Лекции, конспекты и задания остаются доступны после обучения, но удалённый сервер предоставляется на период курса. Для сертификата нужно выполнить требования по баллам за задания и проект.
Познакомьтесь со школой KARPOV.COURSES, её программами и условиями обучения.
ОткрытьСравните курсы KARPOV.COURSES по программе, практике и условиям обучения, чтобы выбрать подходящий вариант.
ОткрытьСравните онлайн-курсы по программе, школе, стоимости и длительности. Найдите обучение для первых шагов или развития навыков и изучите условия перед записью.
Открыть