大模型系统工程师是专注于开发和维护大型模型系统的专业人员。他们需要具备深度学习和机器学习的知识，并擅长使用Python、PyTorch或TensorFlow等框架来构建和训练模型。同时，他们还熟悉数据处理、模型部署和优化技术，并能够与数据科学家和其他团队成员进行有效的沟通和协作。

以下是一则大模型系统工程师的招聘信息，可以从中了解大厂对于该职位的要求：

负责公司大模型的系统研发，研究相关技术在搜索、推荐、广告、创作、对话和客服等领域的全新应用和解决方案，满足用户不断增长的智能交互需求，全面提升用户在未来世界的生活和交流方式。

主要工作方向包括：
1、负责超大规模机器学习系统架构的设计开发，解决系统高并发、高可靠性、高可扩展性等技术难关；
2、覆盖机器学习系统多个子方向领域的工作，包括：资源调度、模型训练、模型推理、数据管理、工作流编排等；
3、负责机器学习系统前瞻技术的调研和引入，比如：最新硬件架构、异构计算系统、编译优化技术的引入落地；
4、与算法部门深度合作，进行算法与系统的联合优化。
职位要求
1、优秀的代码能力、数据结构和基础算法功底，熟练C/C++或Python，ACM/ICPC、NOI/IOI等比赛获奖者优先；
2、熟悉至少一种主流的机器学习框架（TensorFlow / PyTorch）；
3、掌握分布式系统原理，参与过大规模分布式系统的设计、开发和维护；
4、有强烈的工作责任心，较好的学习能力、沟通能力和自驱力；
5、良好的沟通协作能力，能和团队一起探索新技术，推进技术进步。
加分项：
1、在大模型领域，参与过大影响力的项目或论文者优先；
2、熟悉NLP、CV相关的算法和技术，熟悉大模型训练、RL算法者优先；
3、有以下某一方向领域的经验：CUDA，RDMA，AI Infrastructure，HW/SW Co-Design，High Performance Computing，ML Hardware Architecture (GPU, Accelerators, Networking)，ML for System，Distributed Storage。