Про посаду

Staff SRE Engineer - Voice Core Platform

Ми створюємо платформу для розмовного штучного інтелекту в реальному часі. Оркестратор обробляє кожен виклик через виявлення активності голосу, перетворення мови в текст, відповідність агентів на основі LLM, виклик інструментів проти API платформи ServiceNow (Glide) та перетворення тексту в мову.

У голосовому зв'язку затримка і надійність - це продукт. Ви будете відповідати за надійність, продуктивність і операційну архітектуру платформи, а також визначатимете напрямок для всіх команд.

Обов'язки

Визначення та впровадження SLI/SLO для доступності, сприйнятої затримки (від кінця мови до першого звуку) та якості виклику.
Впровадження відстеження кінець-в-кінець на кожному етапі конвеєра та керівництво архітектурними роботами для скорочення затримки.
Розробка планів автоматичного масштабування та пропускної здатності для стандартних, реальних підключень (WebSocket, WebRTC, SIP/RTP).
Керівництво тестуванням навантаження, впливом та точками збою та перетворення результатів у моделі пропускної здатності.
Створення стійкості для залежностей LLM, STT та TTS: відмовостійкість, резервні варіанти, обробка обмежень швидкості та плавне погіршення.
Володіння архітектурою Kubernetes, інфраструктурою як кодом та CI/CD з безпечним поступовим впровадженням.
Керівництво відповіддю на інциденти та аналізом після їх виникнення, а також наставництво інженерам у команді.

Вимоги

Досвід використання або критичного мислення про те, як інтегрувати ШІ в робочі процеси, прийняття рішень або вирішення проблем.
8+ років у SRE, DevOps, виробництві чи програмуванні на виробничих системах у великих масштабах.
1+ рік у створенні або експлуатації реальних голосових систем (VoIP, SIP/RTP, WebRTC або інтеграція STT/TTS).
2+ роки у створенні або експлуатації систем агентів ШІ та оркестраційних конвеєрів (маршрутизація агентів, виклик інструментів, багатокрокові робочі процеси LLM).
1+ рік у розгортанні та експлуатації LLM у виробництві (обслуговування моделей, оптимізація висновків, інтеграція постачальників та відмовостійкість).
Глибокі знання Kubernetes, хмарної інфраструктури (AWS / Azure / GCP) та Terraform або подібних інструментів.
Практичний досвід у спостереженнях (OpenTelemetry, Prometheus, Grafana, Datadog або подібних).
Знання Python, Go або Java.

Буде плюсом

Досвід роботи з сервісом висновків (vLLM, Triton, розклад GPU).
Знання платформи ServiceNow або корпоративних сервісів SaaS.

Ми пропонуємо

Конкурентоспроможна зарплата
Можливість дистанційної роботи
Бюджет на професійний розвиток

Про компанію

Все почалося, коли інженер Фред Ладді написав код, який автоматизував нудне завдання для його колеги Філліс. Вона плакала від радості. Цей момент надихнув Фреда створити компанію, яка могла б зробити це для всіх - звільнити людей від рутинної роботи, щоб вони могли зосередитися на значущій роботі. Сьогодні ServiceNow є контрольною вежею ШІ для перетворення бізнесу. Наша платформа ServiceNow AI об'єднує будь-який ШІ, будь-які дані та будь-який робочий процес - допомагаючи 85% компаній із Fortune 500® працювати розумніше, швидше та краще. Ми створюємо культуру ШІ, де технології та таланти є непереможними разом. І ми тільки починаємо.

Приєднуйтесь до нас, щоб зробити ШІ працювати на людей.

Додаткова інформація

Робоча позиція

Ми підходимо до нашого розподіленого світу роботи з гнучкістю та довірою. Робочі позиції (гнучкі, дистанційні або необхідність перебування в офісі) - це категорії, які присвоюються працівникам ServiceNow залежно від характеру їхньої роботи та призначеного місця роботи. Дізнайтеся більше тут. Щоб визначити право на робочу позицію, ServiceNow може підтвердити відстань між вашим основним місцем проживання та найближчим офісом ServiceNow за допомогою сторонньої служби.

Рівні можливості для всіх

ServiceNow є роботодавцем, який забезпечує рівні можливості. Усі кваліфіковані кандидати будуть розглядатися для працевлаштування незалежно від раси, кольору шкіри, релігії, статі, сексуальної орієнтації, національної приналежності, віку, інвалідності, гендерної ідентичності, статусу ветерана чи будь-якої іншої категорії, захищеної законом. Крім того, усі кваліфіковані кандидати з записами про арешти чи засудження будуть розглядатися для працевлаштування відповідно до вимог законодавства.

Пристосування

Ми прагнемо створити доступний та інклюзивний досвід для всіх кандидатів. Якщо вам потрібне розумне пристосування для завершення будь-якої частини процесу подання заявки або ви не можете використовувати цей онлайн-запис і потребуєте альтернативного способу подання заявки, будь ласка, зв'яжіться з [email protected] для отримання допомоги.

Правила експортного контролю

Для посад, які вимагають доступу до контрольованих технологій, що підпадають під правила експортного контролю, включаючи Регламент експортного адміністрування США (EAR), ServiceNow може потребувати отримання дозволу на експорт від урядових органів для певних осіб. Все працевлаштування залежить від того, що ServiceNow отримає будь-яку експортну ліцензію чи інше схвалення, яке може знадобитися відповідним органам експортного контролю.

Staff SRE Engineer - Voice Core Platform

Job description