
Agent Evaluation Engineer
Primary stack
Nice to have's
Job description
Про посаду
Перетворюйте якість агентів на відтворювані докази в умовах багаторазових запусків, зловмисних входів та зміни моделей.
Обов'язки
- Створювати набори завдань, правила оцінювання та відтворювані середовища виконання.
- Досліджувати неправильні виклики інструментів, витік даних, ненадійне відновлення та непослідовні результати.
- Будувати перевірки регресії, які пов'язують поведінку моделі з рішеннями про випуск.
Вимоги
- Досвід тестування складного програмного забезпечення або оцінювання систем машинного навчання.
- Здатність аналізувати шумні результати та розрізняти збої моделі, даних та середовища.
- Значні навички роботи з Python та чітке письмове оформлення експериментальних висновків.
Корисні докази
- Набір оцінок або тестів, який ви розробили, та збій, який він виявив.
- Досвід у тестуванні безпеки, статистиці або оцінці агентів є корисним.
Умови роботи
- Культура стартапу, цілеспрямована команда та дослідницький підхід.
- Можливість застосувати ваші інженерні навички до інструментів та систем для колег-інженерів та допомогти сформувати майбутнє штучного інтелекту.
- MacBook Pro останнього покоління.
- Внутрішній кластер GPU для навчання та експериментів.
- 20 робочих днів річної відпустки.
- Курси англійської мови, освітні заходи та конференції.
- Медичне страхування.
Інструменти та системи
- Python
- Inspect
- AIBraintrust
- pytest
- Docker
Досвід роботи важливіший за знання всіх перерахованих інструментів.
Почніть розмову
Надішліть резюме або профіль та один твір, який допоможе нам зрозуміти ваш внесок.
Місце роботи: Київ / віддалено
Рівень досвіду: Середній / Старший
Умови роботи: Договірність
Подайте заявку електронною поштою. Будь ласка, надайте лише ту роботу, на яку у вас є дозвіл на розголошення.
Як ми використовуємо дані заявки
Більше вакансій у Agentic Lab. Досліджуйте лабораторію.
Спілкуйтеся з нами в Agentic Lab.
Інженер з оцінювання агентів
© DataRoot Labs. This job description was sourced from the employer's public career page. TheJob is not the employer — we index the posting and route candidates to the source. All content rights and hiring decisions belong to the employer.
We areDataRoot Labs(DRL) — a team of experts with an ambition to help Ukrainian Data Science and AI industries flourish. We’ve been creating R&D for well-funded startups from Europe, Israel, and the US since 2016.We enjoy working on complex AI projects using state-of-the-art technologies and solutions. The harder the challenge, the funnier the project.Our team is not only a band of enthusiasts and professionals but also a place for great individuals with a strong get-shit-done attitude. Everyone believes that most of the time, bureaucracy is what stops us from doing more. That’s why the team structure is flat — you can talk to anyone for collaboration, ideas sharing or ask for help.Our office is in the Kyiv downtown, with a magnificent360-viewon the Ukrainian capital.In 2017, we startedDataRoot Universitywith a goal to deliver the most comprehensive data science and machine learning courses completely for free.Visit ourwebsiteto learn more.Follow us on social media:LinkedInTelegram channel
More at DataRoot Labs
All 8 roles
ML Inference Platform Engineer
DataRoot Labs · Kyiv

Robotics Systems Engineer
DataRoot Labs · Kyiv

Embedded AI Engineer
DataRoot Labs · Kyiv

Robot Learning Engineer
DataRoot Labs · Kyiv