공고 목록으로

Senior Software Engineer, Inference Engine (Platform Software)

  • Seoul, South Korea

대규모 언어 모델 및 멀티모달 LLM용 추론 엔진을 설계·최적화하는 역할입니다. 컴파일러 및 하드웨어팀과 협업해 FuriosaAI NPU에 맞춘 고성능 추론 엔진을 개발합니다.

주요 업무

  • 대규모 및 멀티모달 언어모델용 차세대 추론 엔진 설계·구현
  • 추론 최적화 기능 구현(예: 추측 디코딩, KV-cache 관리)
  • 분산 및 확장형 추론 기능 개발 및 스토리지 연동 구현
  • 컴파일러 팀과 협력해 NPU 실행 최적화
  • 최신 추론 기술 조사·평가 및 엔진 통합

자격 요건

  • 컴퓨터공학 또는 관련 학사 학위 보유 또는 동등 경력
  • Rust 또는 C++에 능숙한 프로그래밍 역량
  • 딥러닝·LLM·생성AI에 대한 지식과 관심
  • 우수한 문제해결 및 데이터분석 능력
  • 강한 의사소통 및 협업 능력

기술

  • Rust
  • C++
  • CUDA
  • Triton
  • LLM inference
  • vLLM
  • SGLang
  • KV-cache

이 요약은 StartupJobs가 기업의 채용 공고를 바탕으로 작성했습니다. 전체 공고는 기업 웹사이트에 있습니다.

이 공고는 FuriosaAI의 채용 페이지에서 가져왔습니다. 원문으로 바로 연결됩니다.

기업 웹사이트에서 지원하기

비슷한 채용 공고를 이메일로 받기

같은 분야, 같은 도시의 새 채용 공고를 주 1회 보내드립니다. 그 외에는 보내지 않습니다.

비슷한 채용 공고