추론 비용 절감

problem

대규모 언어 모델의 추론 과정에서 발생하는 높은 컴퓨팅 비용을 줄이는 문제로, AI 모델의 상용화 및 확장성에 직접적인 영향을 미치는 핵심 과제입니다.