深圳InternshipEntry-levelPosted 25d ago
机器学习基础设施实习生深圳实习互联网 / 电子 / 网游职位描述作为小鹏机器学习基础设施团队的工程师, 你将参与并探索以下领域:
1、研究和应用最新的大模型结构, 工程优化和数据优化, 提高模型训练效率和训练效果, 探索硬件高效的模型设计方案;
2、和算法团队以及其它基础设施团队紧密合作, 支持多个业务团队的模型迭代;
3、调研大模型及相关方向的前沿工程技术以及算法论文, 落地最佳实践。职位要求1、计算机科学、软件工程、机器学习或相关领域的本科及以上学历,硕士或博士优先;
2、掌握pytorch的使用,对训练流程中主要模块的细节有研究;
3、对常见模型训练优化有了解, 例如训练加速和显存优化技术。对推理框架vllm & sglang的技术细节有了解;
4、具有扎实的编程能力且具有一定的算法理论基础,精通Python;
5、乐于探索前沿新技术并在实际场景中落地。
【加分项】
1、对常见机器学习平台的使用有了解;
2、理解深度学习原理和分布式训练框架(如deepseed & megatron & fsdp);;
3、有参与过LLM & VLM的预训练或者微调, 了解模型的训练评估细节以及模型结构设计
4、有参与过端侧模型部署或者服务端模型部署, 有推理框架开发经验或者算子优化经验。投递
