推理引擎研發?程師
?
崗位畫像:
?
AI專業,AI或計算機教育背景
?
能夠利?AI?具快速交付成果
?
思維邏輯強
?
熟悉LLM、Python、PyTorch、Transformer
?
?作內容:
?
?
經驗:3年
?
學歷:碩?及以上
?
薪資范圍:30k-35k
崗位描述
1. LLM與AIGC 推理引擎的開發與優化
2. LLM與AIGC 推理中間件的開發與優化
3. LLM與AIGC 推理引擎在不同芯?上的適配與優化
4. LLM與AIGC 先進推理技術的探索與研究
5. LLM與AIGC 模型適配與優化
崗位要求
1. 碩?及以上學歷,??智能、計算機科學、電?信息等相關專業,應屆畢業?
2. 1-3 年 AI 研發經驗。
3. 對?模型推理引擎、K8s、容器、?絡,分布式、GPU架構、云原?AI等??技術有深?研究;
4. 具備扎實的?程能?,Go、C/C++、Python等開發語?,具有豐富的開發、調試和性能優化等經
驗;
5. 熟悉 LLM 與 AIGC 推理引擎關鍵技術、如算?優化、模型壓縮與量化 、 分布式并?推理、推理引
擎運?時、模型編譯等
6. 熟悉主流深度學習框架(例如PyTorch)、推理引擎框架(vLLM、SGLang),Kubeflow,并對底層實
現有?定了解,在模型訓練或推理性能優化??有實操經驗
7. 熟悉 kubernetes?作原理,熟悉調度器、資源擴展機制、容器運?時、容器?絡等技術8. 對AI系統的性能分析?具、GPU架構、?性能?絡、?性能緩存.?模型原理等技術有深?理解,
有開發和優化經驗
9. 熟悉 Transformer / Diffustion / DiT 等模型技術的原理與實現
加分項
1. 有完整的推理系統或推理引擎開發經驗者優先
2. 熟悉主流深度學習框架底層原理(如 Transformer 、PyTorch、vLLM、SGLang)者優先
3. 有模型蒸餾、剪枝、量化等模型壓縮與部署優化經驗者優先
4. 有分布式系統開發、異構計算資源管理與調度經驗者優先。