Automat-it logo

Senior Data Engineer

Automat-it·Salary not specified

Primary stack

CommunicationApache SparkAmazon KinesisKafkaPythonAWSCI/CDETLAmazon RedshiftSQL

Nice to have's

Apache IcebergAmazon OpenSearch ServiceAmazon QuickSightTableauPower BITerraformCI/CD practices for data pipelinesAmazon SageMakerAmazon BedrockDatabricksSnowflakeClickHouse

Job description

Description language:

Про посаду

Automat-it є повноцінним AWS Premier Partner та Managed Services Provider, що спеціалізується на екосистемі стартапів. Маючи більше 800 клієнтів і 500+ сертифікацій AWS, Automat-it надає практичний досвід у сфері AI, DevOps та FinOps, щоб допомагати динамічним стартапам рости, надавати послуги та досягати успіху. Наші клієнти економлять значний час виходу на ринок і оптимізують свою хмарну продуктивність та витрати.

Ми працюємо по всій EMEA та США, сприяючи інноваціям і щодня вирішуючи складні завдання. Приєднуйтесь до нас, щоб розвивати свої навички, формувати сміливі ідеї та допомагати будувати майбутнє технологій.

Ми шукаємо Senior Data Engineer, щоб приєднатися до нашої зростаючої практики Data & Analytics та створювати сучасні рішення для роботи з даними для наших клієнтів на AWS.

Це дуже практична інженерна посада. Ви будете працювати в різних клієнтських середовищах і з різними завданнями з даними, від модернізації старих конвеєрів і створення платформ типу lakehouse до оптимізації аналітичних робочих навантажень і повної відповідальності за менші платформи з даними.

Вас не обмежатимуть одним стек технологій або одним довготривалим продуктом. Один проект може включати Spark і Apache Iceberg, інший - оптимізацію продуктивності Redshift і моделювання даних, а інший - Kafka, OpenSearch або нову платформу для роботи з даними, побудовану від інтеграції до аналітики.

Ми шукаємо людину, яка зможе взяти на себе відповідальність за інженерне завдання з даними, приймати обґрунтовані технічні рішення та реалізовувати проекти самостійно без постійного керівництва.

📍 Місце роботи: віддалено з України


Обов'язки

  • Проектування, створення та оптимізація виробничих конвеєрів з даними та платформ для роботи з даними на AWS.
  • Створення масштабованих робочих навантажень для обробки даних за допомогою Spark/PySpark, Python та SQL.
  • Створення та модернізація архітектур даних озер і lakehouse, робота з такими технологіями, як Amazon S3, Apache Iceberg, AWS Glue та супутніми сервісами для роботи з даними.
  • Проектування, діагностика та оптимізація аналітичних робочих навантажень і сховищ даних, включаючи Amazon Redshift та інші OLAP платформи.
  • Модернізація старих та неефективних робочих навантажень з даними, включаючи перенесення існуючої обробки ETL/ELT у масштабовані розподілені архітектури даних.
  • Робота зі стримінговими та подієвими конвеєрами даних за допомогою таких технологій, як Kafka, Kinesis Data Firehose та супутніх сервісів.
  • Дослідження реальних проблем з виробничими даними, від проблем з продуктивністю та моделюванням даних до залежностей вище/нижче за потоком, та рекомендація практичних рішень.
  • Взяття на себе відповідальності за клієнтські проекти від початку до кінця, від розуміння технічної проблеми до впровадження, тестування та доставки.
  • Праця безпосередньо з клієнтами, коли це необхідно, для уточнення вимог, пояснення технічних рішень та рекомендацій на основі вашої експертизи.
  • Створення даних фундаментів для аналітичних та ML робочих навантажень, співпраця з Data Scientists, DevOps та MLOps інженерами.
  • Створення дашбордів та аналітики за потреби за допомогою QuickSight або інших BI інструментів.
  • Застосування практичних інженерних практик щодо якості даних, тестування, CI/CD, безпеки, управління та автоматизації інфраструктури.

Вимоги

  • Сильний досвід роботи з даними в продуктивному середовищі, здатність самостійно взяти на себе відповідальність за дані проекти та їх реалізацію.
  • Глибокий досвід роботи з Apache Spark / PySpark та розподіленою обробкою даних.
  • Значні навички Python та SQL.
  • Досвід створення рішень для роботи з даними на AWS.
  • Глибоке розуміння архітектур озер з даними, lakehouse, ETL/ELT, моделювання даних та обробка даних у масштабі.
  • Досвід роботи з аналітичними базами даних та сховищами даних. Великий досвід роботи з Amazon Redshift є дуже цінним; глибокий досвід роботи з платформами типу Snowflake, Synapse або подібними OLAP технологіями також є важливим.
  • Розуміння стримінгових архітектур та технологій, таких як Kafka або Amazon Kinesis.
  • Здатність діагностувати існуючі системи з даними, розуміти, як дані переміщуються між компонентами вище/нижче за потоком, та покращувати продуктивність та надійність.
  • Здатність працювати автономно, приймати прагматичні технічні рішення та нести відповідальність за реалізацію.
  • Хороші комунікативні навички та здатність обговорювати технічні проблеми та рішення безпосередньо з клієнтами англійською мовою.

Буде плюсом

  • Досвід роботи з Apache Iceberg або іншими сучасними відкритими форматами таблицями та технологіями lakehouse.
  • Досвід роботи з Amazon OpenSearch Service / Elasticsearch.
  • Досвід роботи з BI та візуалізаційними інструментами, такими як Amazon QuickSight, Tableau або Power BI.
  • Terraform та Infrastructure as Code.
  • Практики CI/CD для конвеєрів з даними, включаючи тестування та перевірку даних.
  • Досвід підготовки платформ для робочих навантажень з ML за допомогою сервісів, таких як Amazon SageMaker.
  • Досвід роботи з Amazon Bedrock, GenAI або агентським розробкою.
  • Досвід роботи з Databricks, Snowflake, ClickHouse або іншими сучасними платформами для роботи з даними.

Ми пропонуємо

  • Можливість працювати в динамічному та інноваційному середовищі.
  • Бути частиною глобальної команди, яка цінує різноманітність та інклюзію.
  • Конкурентоспроможний пакет переваг.
  • Можливості для професійного зростання та розвитку.

Про компанію

У Automat-it ми цінуємо унікальний внесок кожного члена команди. Ми пріоритезуємо не лише унікальні потреби наших клієнтів, але й зростання та задоволення наших співробітників. Хоча наші технологічні знання та інновації є неперевершеними, ми розуміємо, що саме наші люди справді нас піднімають.

Тут у вас буде можливість вчитися, експериментувати та інноваційно мислити, отримуючи підтримку необхідних ресурсів та заохочення. Якщо вас рухає пристрасть і прагнення до досконалості, Automat-it є ідеальним місцем для вас, щоб процвітати та створити значний вплив у динамічному світі хмарних технологій. Приєднуйтесь до нас такими, які ви є, та відкрийте для себе нескінченні можливості, будучи частиною нашої динамічної команди!


Подайте заявку на цю посаду

Приєднання до Automat-it означає ставати частиною виняткової міжнародної культури, незалежно від того, працюєте ви в одному з наших офісів чи віддалено. Ми створили справді глобальну команду, яка процвітає завдяки різноманітності. Наші співробітники походять з безлічі різних культур, і ми не лише сприймаємо, але й святкуємо це різноманіття у всіх наших офісах по всьому світу.

© Automat-it. This job description was sourced from the employer's public career page. TheJob is not the employer — we index the posting and route candidates to the source. All content rights and hiring decisions belong to the employer.

Automat-it is where high-growth startups turn when they need to move faster, scale smarter, and make the most of the cloud. As an AWS Premier Partner and Strategic Partner, we deliver hands-on DevOps and FinOps and GenAI support that drives real results.We work across EMEA and the US, fueling innovation and solving complex challenges daily. Join us to grow your skills, shape bold ideas, and help build the future of tech.

Popular searches