본문으로 건너뛰기
피드

국산 AI 반도체, 이제 실서비스에서 하루 5000만 API 호출 처리 중

ai-ml 약 4분
vote
0
댓글
북마크

과학기술정보통신부가 SK텔레콤 인천 데이터센터와 LG AI연구원을 찾아 국산 AI 반도체 적용 현황을 점검했다. 리벨리온의 아톰·아톰 맥스는 에이닷 전화 통화 요약과 엑스칼리버 같은 상용 서비스에 쓰이고 있으며, 에이닷 전화 통화 요약은 하루 최대 5000만건의 API 호출을 처리하는 것으로 파악됐다. LG AI연구원은 엑사원 계열 모델과 퓨리오사AI의 레니게이드 칩을 결합하고 있다.

  • 1

    리벨리온 아톰·아톰 맥스가 SK텔레콤 상용 AI 서비스에 적용됨

  • 2

    에이닷 전화 통화 요약은 하루 최대 5000만건의 API 호출을 처리 중

  • 3

    퓨리오사AI 레니게이드는 국산 AI 반도체 중 최초로 고대역폭 메모리를 활용해 양산됨

  • 국산 AI 반도체가 드디어 '상용 서비스에 붙은 칩'으로 이야기되기 시작함

    • 과학기술정보통신부가 SK텔레콤 인천 데이터센터와 LG AI연구원을 방문해 활용 현황을 점검함
    • 목적은 정부 지원을 받은 AI 반도체가 실제 서비스에서 어떻게 쓰이는지 보고, 수요자 입장의 평가와 현장 애로사항을 듣는 것이었음
  • SK텔레콤 쪽에서는 리벨리온 칩이 이미 서비스 트래픽을 받고 있음

    • 리벨리온의 AI 반도체 아톰아톰 맥스가 SK텔레콤 인천 데이터센터에서 활용 중임
    • 적용 서비스는 에이닷 전화 통화 요약과 반려동물 영상진단 보조 서비스 엑스칼리버

중요

> 에이닷 전화 통화 요약은 하루 최대 5000만건의 API 호출을 처리하는 것으로 파악됐음. 국산 AI 칩이 실서비스 규모의 추론 트래픽을 받고 있다는 점에서 꽤 센 숫자임.

  • LG AI연구원은 자체 모델과 퓨리오사AI 칩을 묶는 쪽임

    • 스탠퍼드대 인간중심AI연구소가 '주목할 만한 AI 모델'로 발표한 K-엑사원, 엑사원 4.0 등이 언급됨
    • 여기에 퓨리오사AI의 AI 반도체 레니게이드를 결합하고 있음
  • 레니게이드의 포인트는 고대역폭 메모리임

    • 레니게이드는 국산 AI 반도체 중 최초로 고대역폭 메모리 기반으로 양산된 제품임
    • AI 추론에서 연산 성능만큼 중요한 게 메모리 대역폭이라, 이 지점은 단순 국산화 뉴스 이상의 의미가 있음
  • 정부 메시지는 빠른 도입과 글로벌 경쟁력 확보임

    • 과기정통부는 본격 양산되는 국산 AI 반도체가 시장에 빠르게 확산되도록 지원하겠다는 입장임
    • 결국 관건은 초기 레퍼런스를 넘어 클라우드, 통신, 제조, 공공 쪽에서 반복 구매가 일어나느냐임

기술 맥락

  • 이번 선택의 핵심은 범용 그래픽처리장치만 보지 않고, 추론용 AI 반도체를 실제 서비스에 넣어보는 거예요. 통화 요약처럼 호출량이 많은 기능은 건당 비용과 지연시간이 계속 쌓이기 때문에, 전용 칩으로 효율을 끌어올릴 이유가 커요.

  • SK텔레콤 사례가 중요한 건 하루 최대 5000만건 API 호출이라는 운영 규모가 나오기 때문이에요. 벤치마크 숫자만으로는 칩의 안정성, 배포 편의성, 장애 대응을 알기 어려운데, 상용 트래픽은 이런 부분을 바로 드러내거든요.

  • LG AI연구원과 퓨리오사AI 조합은 모델과 칩을 같이 맞춰보는 흐름에 가까워요. 엑사원 계열 모델을 어떤 하드웨어에서 효율적으로 돌릴 수 있느냐가 중요하고, 고대역폭 메모리를 쓴 레니게이드는 이 병목을 줄이려는 선택으로 볼 수 있어요.

  • 아직 남은 질문은 생태계예요. 칩이 좋아도 개발 도구, 모델 최적화, 운영 모니터링, 클라우드 연동이 따라와야 개발팀이 실제로 갈아탈 수 있거든요.

국산 AI 반도체 얘기가 연구개발 단계에서 실서비스 트래픽 단계로 넘어가는 신호가 보임. 특히 하루 5000만 API 호출 같은 숫자는 '쓸 수 있냐'를 따질 때 꽤 중요한 기준점임.

댓글

댓글

댓글을 불러오는 중...

ai-ml

건설업계도 피지컬 AI 실험 중, 관건은 로봇보다 현장 데이터다

국내 건설사들이 인공지능(AI)과 로보틱스를 건설 현장에 적용하려는 실험을 늘리고 있다. GS건설은 로봇을 활용한 자재 운반·반복 작업 자동화를 검토하고, 현대건설은 AI 카메라 기반 안전 기술을 도입하려는 중이다. 다만 실제 안착까지는 사람과 AI의 협업 방식, 현장 작업자의 데이터 활용 체계 같은 숙제가 남아 있다.

ai-ml

AI 모델 접속도 수출통제 대상이 되면 벌어지는 일

앤트로픽이 미국 정부 수출통제 지침에 따라 최신 AI 모델 접근을 출시 사흘 만에 차단했다는 사례를 통해, 클라우드 AI 모델 접근권이 국가 안보와 산업정책에 종속될 수 있다는 문제가 드러났다. 데이터 주권만으로는 부족하고, 모델 능력과 연산 접근권까지 포함한 소버린 AI 전략이 필요하다는 논점이다.

ai-ml

건설 현장에 AI 로봇이 들어오려면 아직 데이터와 협업 방식이 숙제

GS건설, 현대건설, 삼성물산 등 국내 건설사가 AI와 로봇 기술을 현장 자동화와 안전관리, 단지 서비스에 적용하려는 움직임을 보이고 있다. 다만 사람과 로봇이 함께 일하는 방식, 실증 사례 축적, 현장 작업자의 데이터 활용 체계가 갖춰져야 실제 확산이 가능하다는 지적이 나온다.

ai-ml

라벨링 1천 장을 100장으로 줄인다는 슈퍼브에이아이의 비전 AI 플랫폼

슈퍼브에이아이가 2026 스마트테크 코리아에서 데이터 구축부터 모델 개발, 운영까지 묶은 슈퍼브 플랫폼을 공개했다. 비전 파운데이션 모델로 라벨링 부담을 줄이고, 대규모 언어 모델과 비디오 언어 모델을 결합해 텍스트 명령만으로 CCTV 속 위험 상황을 찾는 기능까지 제시했다.

ai-ml

프롬프트만으로 게임 만드는 시대, 진짜 어디까지 왔나

AI가 이미지·영상·코드 생성을 넘어, 탐험 가능한 3D 세계와 게임 프로토타입까지 만들기 시작했다. 구글 딥마인드의 프로젝트 지니부터 오버데어, 버스에잇, 바르코까지 사례는 늘고 있지만, 물리 오류·레이턴시·최적화·조작감 같은 완성도 문제는 아직 사람 몫으로 남아 있다.