BC카드, 레드햇 서밋에서 금융권 에이전틱 AI 운영 사례 공개

• BC카드가 미국 애틀랜타에서 열린 레드햇 서밋 2026에서 금융 AI 운영 사례를 발표함

  • 레드햇 서밋은 오픈소스, 클라우드, AI 쪽 사례가 모이는 글로벌 콘퍼런스임
  • BC카드는 국내 금융사 중 처음으로 발표자로 초청받았다고 밝힘

• 발표의 핵심은 레드햇과 공동 구축한 에이전틱 AI 운영 플랫폼임

  • 에이전틱 AI는 단순 질의응답을 넘어서 AI가 스스로 판단하고 작업까지 수행하는 방식임
  • 금융권에서 흔히 떠올리는 상담 챗봇보다 한 단계 더 운영 자동화 쪽에 가까운 그림임

• 재미있는 지점은 대형언어모델 하나에 모든 걸 맡기는 구조가 아니라는 점임

  • BC카드는 기존 대규모 언어 모델(LLM) 중심 구조 대신, 업무별 소형언어모델(SLM)을 여러 개 묶어 운영하는 방식을 택함
  • 특정 업무에 맞춘 작은 모델들을 군집처럼 돌려서 처리 속도를 높이고 GPU 자원 사용량을 줄였다는 설명임
  • 요즘 AI 서비스에서 진짜 병목이 모델 성능만이 아니라 추론 비용과 운영 효율이라는 걸 생각하면 꽤 현실적인 접근임

• 실제 서비스 사례도 같이 공개됨

  • Eat.pl은 실시간 소비 패턴을 분석해서 맛집을 추천하는 서비스임
  • BCGPT는 금융 특화 생성형 AI 플랫폼으로 소개됨
  • MOAI는 여러 AI를 연결해 업무 자동화를 구현하는 구조로 공개됨

• 오픈소스 생태계 참여도 강조함

  • BC카드는 자체 개발한 AI 모델과 금융 특화 데이터셋을 허깅페이스에 공개하고 있음
  • 국내 금융권에서 글로벌 대규모 언어 모델 생태계에 기여자로 이름을 올리려는 움직임으로 읽힘

• 이 뉴스가 개발자 입장에서 흥미로운 이유는 금융권 AI의 관심사가 꽤 구체적으로 내려왔기 때문임

  • 그냥 “생성형 AI 도입함”이 아니라, 어떤 모델 크기를 쓰고 어떻게 운영 비용을 줄일지까지 얘기하고 있음
  • 특히 GPU 비용이 부담인 팀이라면 “큰 모델 하나”보다 “업무별 작은 모델 여러 개”라는 설계가 꽤 현실적인 선택지로 보일 수 있음

---

기술 맥락

• BC카드가 고른 선택은 대형언어모델 하나로 모든 금융 업무를 처리하는 방식이 아니라, 업무별 소형언어모델을 여러 개 묶어 운영하는 방식이에요. 금융 서비스는 질의 유형이 꽤 정형화된 경우가 많아서, 모든 요청에 큰 모델을 태우면 비용이 너무 커지거든요.

• 이 접근의 이유는 GPU 자원과 응답 속도예요. 연간 100억 건 이상 결제 데이터를 다루는 조직이라면 AI 기능 하나를 붙여도 호출량이 금방 커질 수 있고, 추론 비용이 서비스 확장의 발목을 잡을 수 있어요.

• 구현 관점에서는 에이전틱 AI가 여러 모델과 서비스를 연결해 작업을 나눠 처리하는 그림에 가까워요. 맛집 추천, 금융 특화 생성형 AI, 업무 자동화처럼 성격이 다른 기능을 하나의 거대한 모델이 아니라 역할별 구성요소로 쪼개는 거죠.

• 허깅페이스에 모델과 데이터셋을 공개한 것도 의미가 있어요. 금융권 AI는 규제와 보안 때문에 폐쇄적으로 흐르기 쉬운데, 공개 가능한 범위에서 생태계에 기여하면 기술 검증과 협업의 접점이 생기거든요.