Senior Software Engineer, Inference Engine (Platform Software)
대규모 언어 모델 및 멀티모달 LLM용 추론 엔진을 설계·최적화하는 역할입니다. 컴파일러 및 하드웨어팀과 협업해 FuriosaAI NPU에 맞춘 고성능 추론 엔진을 개발합니다.
주요 업무
- 대규모 및 멀티모달 언어모델용 차세대 추론 엔진 설계·구현
- 추론 최적화 기능 구현(예: 추측 디코딩, KV-cache 관리)
- 분산 및 확장형 추론 기능 개발 및 스토리지 연동 구현
- 컴파일러 팀과 협력해 NPU 실행 최적화
- 최신 추론 기술 조사·평가 및 엔진 통합
자격 요건
- 컴퓨터공학 또는 관련 학사 학위 보유 또는 동등 경력
- Rust 또는 C++에 능숙한 프로그래밍 역량
- 딥러닝·LLM·생성AI에 대한 지식과 관심
- 우수한 문제해결 및 데이터분석 능력
- 강한 의사소통 및 협업 능력
기술
이 요약은 StartupJobs가 기업의 채용 공고를 바탕으로 작성했습니다. 전체 공고는 기업 웹사이트에 있습니다.
이 공고는 FuriosaAI의 채용 페이지에서 가져왔습니다. 원문으로 바로 연결됩니다.