LLM Algorithm Engineer

Обязанности

• Продвинутое пост-обучение больших языковых моделей (например, SFT, RLHF/RLAIF, continual pretraining).
• Выравнивание моделей для надежных вызовов функций по JSON-схеме и использования внешних инструментов.
• Проектирование, развертывание и эксплуатация серверов Model Context Protocol (MCP), которые обрабатывают маршрутизацию контрольных точек, управляют контекстными окнами и обеспечивают безопасность.
• Опыт распределенного обучения и инференса с использованием DeepSpeed/FSDP, LoRA/QLoRA, смешанной точности и настройки производительности на кластерах vLLM или Triton.
• Создание оффлайн и онлайн пайплайнов оценки для выравнивания, фактической точности, привязки к источникам и галлюцинаций.

Квалификация

• Степень бакалавра или магистра в области компьютерных наук, искусственного интеллекта, машинного обучения или смежной области.
• 3+ года опыта в разработке и оптимизации больших языковых моделей.
• Подтвержденный опыт внедрения продвинутых техник пост-обучения (SFT, RLHF, RLAIF, continual pretraining).
• Практический опыт работы с фреймворками распределенного обучения (DeepSpeed, FSDP) и техниками оптимизации (LoRA, QLoRA, смешанная точность).
• Знакомство с выравниванием моделей, вызовами функций по JSON-схеме и интеграцией внешних инструментов.
• Опыт создания и поддержки пайплайнов оценки производительности моделей.
• Владение Python и соответствующими фреймворками машинного обучения (например, PyTorch, TensorFlow).
• Глубокое понимание распределенных систем и высокопроизводительных вычислений.
• Опыт развертывания моделей и оптимизации инференса на кластерах vLLM или Triton.
• Знание JSON-схемы и разработки API.