국산 AI 반도체, 이제 실서비스에서 하루 5000만 API 호출 처리 중

• 국산 AI 반도체가 드디어 '상용 서비스에 붙은 칩'으로 이야기되기 시작함

  • 과학기술정보통신부가 SK텔레콤 인천 데이터센터와 LG AI연구원을 방문해 활용 현황을 점검함
  • 목적은 정부 지원을 받은 AI 반도체가 실제 서비스에서 어떻게 쓰이는지 보고, 수요자 입장의 평가와 현장 애로사항을 듣는 것이었음

• SK텔레콤 쪽에서는 리벨리온 칩이 이미 서비스 트래픽을 받고 있음

  • 리벨리온의 AI 반도체 아톰과 아톰 맥스가 SK텔레콤 인천 데이터센터에서 활용 중임
  • 적용 서비스는 에이닷 전화 통화 요약과 반려동물 영상진단 보조 서비스 엑스칼리버임

• LG AI연구원은 자체 모델과 퓨리오사AI 칩을 묶는 쪽임

  • 스탠퍼드대 인간중심AI연구소가 '주목할 만한 AI 모델'로 발표한 K-엑사원, 엑사원 4.0 등이 언급됨
  • 여기에 퓨리오사AI의 AI 반도체 레니게이드를 결합하고 있음

• 레니게이드의 포인트는 고대역폭 메모리임

  • 레니게이드는 국산 AI 반도체 중 최초로 고대역폭 메모리 기반으로 양산된 제품임
  • AI 추론에서 연산 성능만큼 중요한 게 메모리 대역폭이라, 이 지점은 단순 국산화 뉴스 이상의 의미가 있음

• 정부 메시지는 빠른 도입과 글로벌 경쟁력 확보임

  • 과기정통부는 본격 양산되는 국산 AI 반도체가 시장에 빠르게 확산되도록 지원하겠다는 입장임
  • 결국 관건은 초기 레퍼런스를 넘어 클라우드, 통신, 제조, 공공 쪽에서 반복 구매가 일어나느냐임

---

기술 맥락

• 이번 선택의 핵심은 범용 그래픽처리장치만 보지 않고, 추론용 AI 반도체를 실제 서비스에 넣어보는 거예요. 통화 요약처럼 호출량이 많은 기능은 건당 비용과 지연시간이 계속 쌓이기 때문에, 전용 칩으로 효율을 끌어올릴 이유가 커요.

• SK텔레콤 사례가 중요한 건 하루 최대 5000만건 API 호출이라는 운영 규모가 나오기 때문이에요. 벤치마크 숫자만으로는 칩의 안정성, 배포 편의성, 장애 대응을 알기 어려운데, 상용 트래픽은 이런 부분을 바로 드러내거든요.

• LG AI연구원과 퓨리오사AI 조합은 모델과 칩을 같이 맞춰보는 흐름에 가까워요. 엑사원 계열 모델을 어떤 하드웨어에서 효율적으로 돌릴 수 있느냐가 중요하고, 고대역폭 메모리를 쓴 레니게이드는 이 병목을 줄이려는 선택으로 볼 수 있어요.

• 아직 남은 질문은 생태계예요. 칩이 좋아도 개발 도구, 모델 최적화, 운영 모니터링, 클라우드 연동이 따라와야 개발팀이 실제로 갈아탈 수 있거든요.