Data Infrastructure & Platform Tech Lead (GigaChat)

За каждым запуском обучения модели стоит масштабная инфраструктура данных, которая должна хранить, обслуживать, версионировать и оркестрировать петабайты данных с высокой пропускной способностью и высокой надёжностью. Команда платформы данных создаёт базовую технологическую основу, на которую опираются все остальные команды, работающие с данными.

В этой роли вы будете отвечать за техническое развитие платформы хранения, вычислений и оркестрации, лежащей в основе полного жизненного цикла данных для претрейнинга. Это техлидская позиция для сильного инженера, который способен проектировать платформенные решения, задавать стандарты для команды, развивать инженерную культуру и помогать коллегам расти.

Роль предполагает высокий уровень технического влияния и может стать естественным шагом к переходу в тимлидскую позицию по мере роста команды.

* Проектировать и развивать масштабные системы хранения данных, оптимизированные под характерные паттерны доступа в претрейне LLM.
* Развивать платформу версионирования и отслеживания происхождения данных, обеспечивающую воспроизводимость и аудит на всём жизненном цикле датасетов.
* Создавать и совершенствовать системы оркестрации workflow-ов, координирующие многоэтапные пайплайны данных на тысячах узлов.
* Оптимизировать инфраструктуру подачи данных так, чтобы обучающие данные поступали на GPU-кластеры без узких мест и с минимальными потерями вычислительного времени.
* Развивать внутренние инструменты, SDK и API, которые упрощают работу исследователей и дата-инженеров с платформой данных.
* Реализовывать механизмы контроля доступа, шифрования и audit logging для работы с чувствительными и лицензированными датасетами.
* Отвечать за capacity planning, оптимизацию затрат и performance benchmarking для облачной и локальной инфраструктуры хранения.
* Формировать технические стандарты платформенной команды: архитектурные подходы, требования к надёжности, эксплуатационные практики, code review и инженерную документацию.
* Менторить инженеров, помогать команде расти технически и распространять экспертизу по платформенной архитектуре и надёжной эксплуатации систем.

* Высшее образование в области computer science, systems engineering или смежной области.
* Не менее 6 лет опыта в infrastructure engineering или platform engineering, включая серьёзный опыт построения data-intensive distributed systems.
* Экспертное знание облачной инфраструктуры, объектного хранения, оркестрации вычислений и сетевых подсистем.
* Уверенное владение как минимум двумя языками из следующих: Python, Rust, C++.
* Глубокий опыт работы с Kubernetes, Infrastructure as Code и CI/CD-пайплайнами.
* Подтверждённый опыт проектирования систем с высокой доступностью, отказоустойчивостью и горизонтальной масштабируемостью.
* Опыт работы с промышленными форматами хранения и сериализации данных и понимание их эксплуатационных компромиссов.
* Способность выступать техническим лидером команды: принимать архитектурные решения, согласовывать платформенные подходы между командами и системно развивать коллег.
* Опыт менторинга и построения сильных инженерных практик внутри команды.

Будет плюсом
------------

* Опыт работы с YTSaurus.
* Опыт поддержки ML training workloads, особенно претрейна на крупных GPU-кластерах.
* Знакомство с инструментами orchestration для data-пайплайнов в промышленном масштабе.
* Опыт создания внутренних платформ разработки и self-service-инструментов для инженерных команд.

* Кластеры YTSaurus с большим количеством ресурсов: десятки петабайт + десятки тысяч ядер.
* Сильная команда выпускников МФТИ, ВШЭ, МГУ, много людей с опытом работы в профильном БигТехе.
* Комфортный современный офис рядом с м. Кутузовская.
* Гибридный формат работы (2 дня в офисе, 3 дня на удалёнке).
* Ежегодный пересмотр зарплаты, годовая премия.
* Корпоративный спортзал и зоны отдыха.
* Система обучения для профессионального и карьерного развития.
* Расширенный полис ДМС с первого дня работы и страхование для семьи.
* Льготная программа ипотек