DataRoot Labs logo

Agent Evaluation Engineer

DataRoot Labs·Salary not specified

Primary stack

Python

Nice to have's

pytestDocker

Job description

Description language:

Про посаду

Перетворюйте якість агентів на відтворювані докази в умовах багаторазових запусків, зловмисних входів та зміни моделей.

Обов'язки

  • Створювати набори завдань, правила оцінювання та відтворювані середовища виконання.
  • Досліджувати неправильні виклики інструментів, витік даних, ненадійне відновлення та непослідовні результати.
  • Будувати перевірки регресії, які пов'язують поведінку моделі з рішеннями про випуск.

Вимоги

  • Досвід тестування складного програмного забезпечення або оцінювання систем машинного навчання.
  • Здатність аналізувати шумні результати та розрізняти збої моделі, даних та середовища.
  • Значні навички роботи з Python та чітке письмове оформлення експериментальних висновків.

Корисні докази

  • Набір оцінок або тестів, який ви розробили, та збій, який він виявив.
  • Досвід у тестуванні безпеки, статистиці або оцінці агентів є корисним.

Умови роботи

  • Культура стартапу, цілеспрямована команда та дослідницький підхід.
  • Можливість застосувати ваші інженерні навички до інструментів та систем для колег-інженерів та допомогти сформувати майбутнє штучного інтелекту.
  • MacBook Pro останнього покоління.
  • Внутрішній кластер GPU для навчання та експериментів.
  • 20 робочих днів річної відпустки.
  • Курси англійської мови, освітні заходи та конференції.
  • Медичне страхування.

Інструменти та системи

  • Python
  • Inspect
  • AIBraintrust
  • pytest
  • Docker

Досвід роботи важливіший за знання всіх перерахованих інструментів.

Почніть розмову

Надішліть резюме або профіль та один твір, який допоможе нам зрозуміти ваш внесок.

Місце роботи: Київ / віддалено

Рівень досвіду: Середній / Старший

Умови роботи: Договірність

Подайте заявку електронною поштою. Будь ласка, надайте лише ту роботу, на яку у вас є дозвіл на розголошення.

Як ми використовуємо дані заявки

Більше вакансій у Agentic Lab. Досліджуйте лабораторію.

Спілкуйтеся з нами в Agentic Lab.

Інженер з оцінювання агентів

© DataRoot Labs. This job description was sourced from the employer's public career page. TheJob is not the employer — we index the posting and route candidates to the source. All content rights and hiring decisions belong to the employer.

We areDataRoot Labs(DRL) — a team of experts with an ambition to help Ukrainian Data Science and AI industries flourish. We’ve been creating R&D for well-funded startups from Europe, Israel, and the US since 2016.We enjoy working on complex AI projects using state-of-the-art technologies and solutions. The harder the challenge, the funnier the project.Our team is not only a band of enthusiasts and professionals but also a place for great individuals with a strong get-shit-done attitude. Everyone believes that most of the time, bureaucracy is what stops us from doing more. That’s why the team structure is flat — you can talk to anyone for collaboration, ideas sharing or ask for help.Our office is in the Kyiv downtown, with a magnificent360-viewon the Ukrainian capital.In 2017, we startedDataRoot Universitywith a goal to deliver the most comprehensive data science and machine learning courses completely for free.Visit ourwebsiteto learn more.Follow us on social media:LinkedInTelegram channel

More at DataRoot Labs

All 8 roles

Popular searches