HirePortal

AI Infra研发工程师-模型服务化方向

  • MiniMax
  • Shanghai, Beijing, China
  • CNY 800,000 – CNY 1,200,000

北京、上海社招全职互联网 / 电子 / 网游 - 研发

职位描述

  1. 支持MiniMax模型在全球多机房大规模部署优化。
  2. 与模型框架同学合作,优化模型推理中的overhead,构建高性能服务。
  3. 参与端到端模型推理服务的研发,在多流量入口,多云多机房等复杂场景下构建稳定高效的服务架构和部署模式,最优化模型服务性能。
  4. 构建治理能力,参与可观测,压测,容灾,调试,降级,灰度等能力建设并输出标准文档,以可交付为标准进行持续迭代。

职位要求

  1. 计算机及相关专业,本科及以上学历;
  2. 3年以上系统工程或高性能服务工作经验;
  3. 理解操作系统基本原理;
  4. 能熟练使用一种编程语言,包括不限于Golang/Python/C++/C;
  5. 理解常规的架构设计思想,包括不限于服务化、异步、高可用、可扩展等;
  6. 有良好的可靠性意识,包括不限于监控、容灾等;
  7. 有良好的团队沟通和协作能力,有良好的责任心;
  8. 有良好的自驱力和学习能力;
  9. 理解常用推理框架如SGLang,Vllm等优先。

投递

Skills

  • Machine Learning
  • Python
  • C++
  • Go
  • Model Serving
  • Kubernetes
  • Performance Optimization

Related jobs

MiniMaxApply for this job