Data Engineer

З/П договорная
Размещено 09 мая
Профобласть: Продажи
Занятость: Полная
График работы: Полный день


Ищем data engineer в г. Москва.Обязанности:Команда DWH агрегирует в себе накопленную экспертизу и лучшие практики холдинга в области построения хранилищ данных и аналитических приложений. Мы превращаем информационный хаос в чётко организованную систему, которая позволяет собирать, обрабатывать и анализировать любые объёмы данных. В нашей команде убеждены, что системы хранилищ данных должны максимально помогать людям автоматизировать рутинные задачи, собирать и анализировать сырые данные, подготавливать почву для удобного и аргументированного принятия решений.Мы ищем BigData-инженера, готового принять активное участие в разработке одного из крупнейших хранилищ группы компании: десятки петабайт данных, количество узлов кластера более 400, ежедневный прирост информации составляет десятки терабайт. В хранилище собрана информация большинства ключевых бизнес-юнитов компании, которая описывает поведение пользователей рунета: события посещений сайтов, клики/показы рекламы, использование мобильных приложений, профили соцсетей пользователя, действия пользователей в соцсетях и их публичные сообщения и т. д. Всё это позволяет составить достаточно полную картину поведения пользователя во всех сервисах VK и строить на полученных данных сложные математические модели. Задачи: участие в роли BigData Engineer в проекте построения системы обработки и хранения разнородной информации из различных бизнес-юнитов компании на базе Hadoop (BigData DWH); исследование большого объёма необработанных данных, накопленных в компании; построение и оптимизация нетривиальных ETL-процессов обработки больших данных, участие в построении процессов потребления данных на всех этапах, их трансформации от появления информации в конкретном бизнес-юните до монетизации полученных знаний; взаимодействие с командой Data Scientist и совместная реализация стабильного расчёта математических моделей; поддержка и модификация созданного решения, ответственность за доступность сервиса для внутренних потребителей и корректность предоставляемых для принятия решений данных. Требования: не менее года релевантного опыта работы; опыт работы с большими объёмами данных, понимание стека технологий Hadoop, глубокое знание Spark или Hive (плюсом будет знание Java, Scala в контексте обработки больших данных); опыт организации ETL-процессов обработки данных (плюсом будет знание code-driven ETL Luigi, Airflow); знание классических алгоритмов и структур данных (плюсом будет опыт разработки на Python); знания в области теории обработки и хранения информации; ссылки на публичные репозитории, статьи с примерами работы приветствуются..Если мы не смогли ответить, то, скорее всего, вакансия не актуальна

Общество с ограниченной ответственностью "Хэдхантер"
Поиск сотрудников на открытые вакансии

Похожие вакансии

Head of Data Engineering
Москва
Ищем head в г. Москва.Медиапоинт международный провайдер высокотехнологичных решений в индустрии онлайн-развлечений. В настоящий момент мы в поиске Head of Data Engineering. Обязанности: Анализ бизнес-процессов по сбору и обработке данных, включая организационную структуру, ключевые показатели эффективности и оптимизацию процессов; Построение
Договорная
Договорная
11 мая
Data Engineer
Москва
Rubius IT-компания со смелым характером. Мы разрабатываем софт для клиентов из различных отраслей от промышленности и нефтегаза до ритейла и медицины. Обосновались в Томске, работаем по всему миру: наше программное обеспечение используют в США, Европе и Азии. Наши решения используют Apple, Tesla, Kaspersky, Amazon, IBM, Uber, Netflix, Газпром,
Договорная
Договорная
11 мая
Data Engineer
Москва
Мы в Rubbles создаем решения на базе анализа данных и искусственного интеллекта для оптимизации технологических и бизнес-процессов такие как: системы предсказания спроса на товары в ритейле, рекомендательные системы в банках, цифровые двойники, cистемы поддержки принятия решений на производстве и многое другое. Алгоритмы Rubbles ежедневно улучшают
500 000 руб
500 000 руб
11 мая
Head of Data Engineering, Realiste AI
Москва
About the Company: Realiste is emerging global prop-tech company with headquarters in Dubai. Here at Realiste we have a mission of creating a digital online platform that will allow people from around the world to find and invest in real estate market. We want our clients to have convenient and transparent tools to navigate broad market of
8 000 руб
8 000 руб
11 мая
Data Engineer
Москва
Привет Мы ООО Датаномика, решаем проблемы структурирования разнородных данных, которые сложно поддаются анализу, помогаем среднему и малому бизнесу, банкам, ритейлу использовать данные чеков для оценки конъюнктуры спроса и экономических показателей, помогаем банкам повысить качество сервиса финансового планирования и аналитики для клиентов.
Договорная
Договорная
10 мая
Head of Data Engineering
Москва
Медиапоинт международный провайдер высокотехнологичных решений в индустрии онлайн-развлечений. В настоящий момент мы в поиске Head of Data Engineering. Обязанности: Анализ бизнес-процессов по сбору и обработке данных, включая организационную структуру, ключевые показатели эффективности и оптимизацию процессов; Построение целевой архитектуры
Договорная
Договорная
10 мая