崗位職責:
1、負責全場景AI推理框架的架構設計、關鍵技術研究及核心代碼開發工作;
2、參與高性能算子開發和性能優化,提升模型推理性能;
3、參與小型化工具(量化、稀疏、剪枝)相關設計與開發工作,提升模型壓縮與推理性能;
4、參與AI框架分布式推理、異構并行推理的設計和調優、開發,實現大模型推理的性能和擴展性領先和項目落地。
崗位要求:
1、熟悉Linux系統,熟練掌握C/C++編程、python變成。編碼能力突出,熱愛編程,具有扎實的工程實現能力;
2、掌握一種主流深度學習推理框架(MindSpore Lite、Tensorflow Lite、MNN、TNN等)者優先;
3、有CPU、GPU、Ascend算子優化經驗,熟悉OpenCL/OpenGL/Vulkan/Metal,熟悉ARM/X86體系結構以及SIMD指令并行技術者優先。