Tech Stack
Job Description, Responsibilities & Requirements
Про посаду
Applied Scientist (LLM)
Remote | Ukraine
Про команду
Наша розподілена команда шукає досвідченого Applied Scientist із сильним досвідом у Large Language Models для розробки високоефективних функцій Generative AI в середовищах Cloud та Edge.
Короткий опис
У цій ролі ви будете рухати перехід від досліджень до виробництва, оптимізуєте локальне висновування через стискання та квантизацію моделей для приватної, реального часу перформанс на Edge, а також будете створювати масштабовані RAG архітектури та багатоагентні системи для розгортання в Cloud. Ваші щоденні обов'язки охоплюють весь життєвий цикл досліджень, включаючи формулювання гіпотез, генерацію синтетичних наборів даних, тонке налаштування LLM, та валідацію безпеки та узгодженості, що в кінцевому підсумку завершується технічними звітами.
Обов'язки
- Розробка та впровадження передових методів в оркестрації запитів, тонкому налаштувані (SFT/RLHF/DPO) та автономних агентських робочих процесах
- Підбір високоякісних навчальних даних з масштабних текстових та мультимодальних джерел
- Виявлення паттернів у галюцинаціях моделі та візуалізація метрик оцінювання для чіткої інтерпретації
- Налаштування гіперпараметрів та підвищення швидкості/точності висновування через PEFT (LoRA/QLoRA) та передову інженерію запитів
- Співпраця з командами продукту та інженерії даних для безперебійної інтеграції функцій LLM у більш широкий екосистему
- Відстеження та звітування про прогрес за допомогою стандартних галузевих бенчмарок (MMLU, HumanEval тощо) та внутрішніх ключових показників ефективності (KPI)
- Залишатися на передньому краї галузі (наприклад, Моделі станів, нові варіанти трансформаторів) та оцінювати передові техніки для готовності до виробництва
- Займатися постійним технічним зростанням та наставництвом молодших колег для підвищення експертизи команди
Вимоги
- 3+ роки комерційного досвіду в області машинного навчання, із специфічним фокусом на домені NLP або LLM
- Глибоке знання Python3, NumPy, pandas, та сучасних бібліотек обробки тексту, PyTorch та Hugging Face (Transformers, PEFT, Accelerate)
- Досвідчена майстерність у PEFT/LoRA та техніках підкріплення навчання
- Глибоке розуміння механізмів уваги, токенізації, управління контекстним вікном та просторів вбудовувань
- Практичний досвід принаймні в одному з наступних: Retrieval-Augmented Generation (RAG), тонке налаштування або агентські фреймворки
- Доведений досвід управління та аналізу величезних наборів даних (>100 ГБ) у текстові, зображення та аудіо форматах
- Практичний досвід у створенні високоякісних наборів даних та побудові надійних трубопроводів даних
- Експертиза у інженерії запитів, дизайні агентських фреймворків та оркестрації трубопроводів LLM
- Досвід розгортання LLM у виробничі середовища за допомогою Triton Inference Server, vLLM, TGI або ONNX
- Гарне письмове та усне англійське
Буде плюсом
- Практичний досвід роботи з Pinecone, Weaviate, Milvus або Chroma
- Розширена квантизація (GGUF, AWQ, EXL2), обрізка та дистиляція знань
- Досвід роботи з LangChain, LlamaIndex або AutoGen
- Базове розуміння веб/клієнт-серверної архітектури та відповідей стрімінгових API (Asyncio, aiohttp)
- Знайомість з RAGAS, DeepEval або G-Eval
- Досвід використання Docker, Kubernetes та оркестрації графічних процесорів у хмарі (наприклад, Run:ai, Lambda Labs)
- Знання C++, Triton або CUDA для розробки власних ядер
Ми пропонуємо
- Середовище рівних можливостей, прозора та ціннісна корпоративна культура та індивідуальний підхід до кожного члена команди
- Конкурентоспроможна компенсація та пільги
- Гіг-контракт
- 21 оплачуваний відпустковий день на рік, оплачувані свята відповідно до українського законодавства
- Можливості для розвитку, такі як корпоративні курси, знаннєві хаби та безкоштовні уроки англійської мови, а також навчальні відпустки
- Медичне страхування надається з першого дня. Доступні лікарняні та медичні відпустки
- Режим віддаленої роботи доступний лише в межах України
- Безкоштовні страви, фрукти та закуски при роботі в офісі