Software Engineer, AI Model Enablement & Inference

MLSys 팀에서 TCP 아키텍처에 맞춘 LLM 모델 커널을 TCL로 개발해 Furiosa-LLM에 통합하는 역할입니다. 모델 분석, 커널 최적화, 검증 및 통합 작업을 담당합니다.

주요 업무

• 모델 구조와 구현 요구사항 분석 및 문서화
• TCL로 주목·MoE 같은 모델 특화 커널 설계·최적화
• Furiosa-LLM에 모델 및 커널 통합 작업 수행
• 검증·벤치마크 자동화 도구와 재사용 가능한 워크플로우 구축
• NPU에서 커널과 모델의 정확성 검증 및 회귀 테스트 작성

자격 요건

• Transformer 기반 LLM 내부 동작에 대한 깊은 이해
• Python으로 모델 구현을 읽고 디버깅한 경험
• 텐서 연산 또는 가속기 커널 구현·최적화 경험
• LLM 추론 성능 평가 경험과 지연량·처리량 이해
• Rust 또는 C++ 코드를 읽고 이해할 수 있는 능력

기술

• Tensor Contraction Language
• Python
• PyTorch
• Rust
• C++
• NPU/accelerator kernels
• vLLM
• SGLang

이 요약은 StartupJobs가 기업의 채용 공고를 바탕으로 작성했습니다. 전체 공고는 기업 웹사이트에 있습니다.