Algorithm - AI System Engineer

NPU 기반 차세대 serving 시스템 개념을 NPU에서 직접 구현하고 POC로 검증하는 역할입니다. 구현과 실기기 검증을 중심으로 연구 과제 발굴과 제품화 협업을 담당하는 포지션입니다.

주요 업무

• NPU 기반으로 serving 시스템 핵심 요소를 POC로 구현 및 검증
• 최신 압축 기법을 NPU 환경에서 탐색하고 구현·검증
• 실기기에서 발견한 병목과 제약을 분석하여 최적화 아이디어 제안
• 연구 가설부터 실기기 증명까지 구현 중심의 검증 사이클 수행

자격 요건

• 3년 이상의 관련 실무 경험 또는 동등 역량 보유
• LLM inference 동작 원리에 대한 이해 보유
• vLLM, SGLang, TensorRT-LLM 지식 또는 사용 경험
• CUDA, Triton 또는 accelerator programming 경험 보유
• 문서화된 정답 없는 문제를 실험으로 해결한 경험 보유

기술

• LLM inference
• vLLM
• SGLang
• TensorRT-LLM
• CUDA
• Triton
• accelerator programming
• quantization

이 요약은 StartupJobs가 기업의 채용 공고를 바탕으로 작성했습니다. 전체 공고는 기업 웹사이트에 있습니다.