Solutions Architect (LLM)

SOLUTIONS ARCHITECT (LLM)

🏢 Компания: GROSSOFT
💰 ЗП: 1500–2000 ₽/ч без НДС (почасовая оплата)
🌍 Формат: Удалёнка (RU)
🕒 Занятость: Полная занятость

Требования:

• Опыт проектирования высоконагруженных распределённых систем: масштабирование, отказоустойчивость, балансировка, кэширование, очереди, rate limiting.
• Опыт архитектуры ML/LLM‑сервисов для промышленной эксплуатации: inference‑serving, batch/online processing, fvector storage, orchestration, GPU workload management.
• Интеграция в корпоративный ИТ‑ландшафт: API Gateway, IAM/SSO, корпоративные шины, системы мониторинга и логирования.
• Знание микросервисной и событийной архитектуры, брокеров сообщений и потоковой обработки данных.
• Контейнеризация и оркестрация: Docker, Kubernetes, Helm, ingress/service mesh, принципы деплоя и эксплуатации.
• Опыт проектирования решений в on‑prem и cloud (hybrid), disaster recovery, SLA/SLO; практический опыт системным/solution/enterprise architect от 3 лет, общий опыт в ИТ от 5 лет.

Будет плюсом:

• Проектирование GPU‑инфраструктуры и inference‑контуров для LLM/embedding/reranking сервисов.
• Знание vLLM, Triton, ONNX Runtime, MLflow, ClearML.
• Опыт выбора архитектуры под разные профили нагрузки: low latency, high throughput, batch, streaming.
• Навык оценки стоимости владения (CAPEX/OPEX) и практики FinOps.
• Опыт проектирования мультитенантных платформ и прохождения архитектурных комитетов.

Стек:

Kubernetes, Docker, Helm, Nginx/Ingress, Kafka, RabbitMQ, Redis, PostgreSQL, Object Storage, API Gateway, Vault, Keycloak/ADFS, Prometheus, Grafana, OpenSearch, Python, FastAPI, vLLM, Triton, PyTorch, MLflow, ClearML, Airflow, GitLab CI/CD, REST, WebSocket, OpenAPI, AsyncAPI, ETL, LDAP/AD

Условия:

• Почасовая оплата 1500–2000 ₽/ч без НДС.
• Работа по договору с ИП (требуется статус ИП).
• Удалённая работа, full‑time.

📩 Откликнуться