EPAM logo

Senior Data Engineer

EPAM·Salary not specified

Primary stack

PythonSQL

Nice to have's

DatabricksPostgreSQLAWS S3Apache KafkaJava APIsRESTSOAPJenkinsGitPrometheusGrafana

Job description

Description language:

Про посаду

Ми шукаємо Senior Data Engineer для приєднання до нашої команди проекту зі страхування. На цій посаді ви будете відповідальним за проектування та створення надійних ETL-трубопроводів, забезпечення якості даних та підтримку зусиль з міграції даних. Ви будете тісно співпрацювати з міжфункціональними командами, щоб зафіксувати вимоги на ранніх етапах, забезпечувати якість за допомогою тестування, керованого розробниками, та сприяти успішній реалізації складних даних в страховому секторі.

Обов'язки

  • Розробляти логіку витягнення, трансформації, перевірки, узгодження та завантаження відповідно до затверджених маппінгів джерело-ціль та ETL HLD
  • Відповідати за якість результатів ETL, проектуючи, виконуючи та фіксуючи тестування, керованими розробниками, до участі QA
  • Створювати та підтримувати автоматизовані юніт-тести, компонентні тести та перевірки даних для ETL-трубопроводів
  • Перевіряти маппінги джерело-ціль, логіку трансформації, контролі узгодження та сценарії обробки помилок під час розробки
  • Генерувати тестові докази, що демонструють відповідність ETL-коду функціональним та нефункціональним вимогам до промоушну
  • Підтримувати тестові запуски та міграції, досліджувати дефекти, проводити аналіз кореневих причин та впроваджувати виправлення
  • Створювати ETL-завдання, які можна безпечно повторно запускати з чітким логуванням та обробкою помилок
  • Створювати та оновлювати допоміжну документацію, таку як руководства та технічні примітки до реалізації
  • Активно брати участь у ВСІХ церемоніях Scrum
  • Сприяти обговоренням "Трьох Амігос" (зазвичай BA, QA, Tech Lead) для кожної історії ETL, щоб зафіксувати вимоги та критерії прийняття на ранніх етапах та уникнути переробки
  • Виявляти та керувати технічними залежностями на ранніх етапах з менеджером з доставки

Вимоги

  • 5+ років досвіду в інженерії даних
  • Досвід роботи з операційною міграцією даних
  • Експертиза в проектуванні та створенні ETL, включаючи оркестрацію міграції
  • Знання SQL
  • Знання Python та PySpark
  • Відмінне володіння письмовою та розмовною англійською (рівень B2+)

Буде плюсом

  • Знання Databricks
  • Знання баз даних PostgreSQL
  • Досвід роботи з бакетами AWS S3
  • Розуміння Apache Kafka
  • Навички роботи з Java API, REST та SOAP
  • Компетентність в оптимізації продуктивності ETL
  • Знання Jenkins та Git
  • Досвід роботи з EIS (Billing v12, ClaimCore v12, CustomerCore v20, PolicyCore v12, EIS Solutions)
  • Знання Prometheus та Grafana
  • Розуміння страхового сектора, зокрема на ринку Великобританії

Ми пропонуємо

  • Віддалена робота в Україні

Про компанію

[Опис компанії, якщо є]

© EPAM. This job description was sourced from the employer's public career page. TheJob is not the employer — we index the posting and route candidates to the source. All content rights and hiring decisions belong to the employer.

EPAM helps organizations innovate their business processes and rethink the way they manage their businesses so they can remain competitive in this new digital age.

More at EPAM

All 2376 roles

Popular searches