--- title: "BC카드, 레드햇 서밋에서 금융권 에이전틱 AI 운영 사례 공개" published: 2026-05-18T05:05:03.149Z canonical: https://jeff.news/article/2923 --- # BC카드, 레드햇 서밋에서 금융권 에이전틱 AI 운영 사례 공개 BC카드가 레드햇 서밋 2026에서 레드햇과 함께 만든 금융용 에이전틱 AI 운영 플랫폼을 공개했어. 기존 대규모 언어 모델 중심 구조 대신 업무별 소형언어모델을 묶어 쓰는 방식으로 속도와 비용 효율을 챙겼다는 게 핵심이야. - BC카드가 미국 애틀랜타에서 열린 레드햇 서밋 2026에서 금융 AI 운영 사례를 발표함 - 레드햇 서밋은 오픈소스, 클라우드, AI 쪽 사례가 모이는 글로벌 콘퍼런스임 - BC카드는 국내 금융사 중 처음으로 발표자로 초청받았다고 밝힘 - 발표의 핵심은 레드햇과 공동 구축한 에이전틱 AI 운영 플랫폼임 - 에이전틱 AI는 단순 질의응답을 넘어서 AI가 스스로 판단하고 작업까지 수행하는 방식임 - 금융권에서 흔히 떠올리는 상담 챗봇보다 한 단계 더 운영 자동화 쪽에 가까운 그림임 - 재미있는 지점은 대형언어모델 하나에 모든 걸 맡기는 구조가 아니라는 점임 - BC카드는 기존 대규모 언어 모델(LLM) 중심 구조 대신, 업무별 소형언어모델(SLM)을 여러 개 묶어 운영하는 방식을 택함 - 특정 업무에 맞춘 작은 모델들을 군집처럼 돌려서 처리 속도를 높이고 GPU 자원 사용량을 줄였다는 설명임 - 요즘 AI 서비스에서 진짜 병목이 모델 성능만이 아니라 추론 비용과 운영 효율이라는 걸 생각하면 꽤 현실적인 접근임 > [!IMPORTANT] > BC카드는 연간 100억 건 이상의 결제 데이터를 처리해온 운영 경험을 AI 플랫폼에 접목했고, 이를 통해 비용 절감과 서비스 속도 개선 성과를 냈다고 밝힘. - 실제 서비스 사례도 같이 공개됨 - `Eat.pl`은 실시간 소비 패턴을 분석해서 맛집을 추천하는 서비스임 - `BCGPT`는 금융 특화 생성형 AI 플랫폼으로 소개됨 - `MOAI`는 여러 AI를 연결해 업무 자동화를 구현하는 구조로 공개됨 - 오픈소스 생태계 참여도 강조함 - BC카드는 자체 개발한 AI 모델과 금융 특화 데이터셋을 허깅페이스에 공개하고 있음 - 국내 금융권에서 글로벌 대규모 언어 모델 생태계에 기여자로 이름을 올리려는 움직임으로 읽힘 - 이 뉴스가 개발자 입장에서 흥미로운 이유는 금융권 AI의 관심사가 꽤 구체적으로 내려왔기 때문임 - 그냥 “생성형 AI 도입함”이 아니라, 어떤 모델 크기를 쓰고 어떻게 운영 비용을 줄일지까지 얘기하고 있음 - 특히 GPU 비용이 부담인 팀이라면 “큰 모델 하나”보다 “업무별 작은 모델 여러 개”라는 설계가 꽤 현실적인 선택지로 보일 수 있음 --- ## 기술 맥락 - BC카드가 고른 선택은 대형언어모델 하나로 모든 금융 업무를 처리하는 방식이 아니라, 업무별 소형언어모델을 여러 개 묶어 운영하는 방식이에요. 금융 서비스는 질의 유형이 꽤 정형화된 경우가 많아서, 모든 요청에 큰 모델을 태우면 비용이 너무 커지거든요. - 이 접근의 이유는 GPU 자원과 응답 속도예요. 연간 100억 건 이상 결제 데이터를 다루는 조직이라면 AI 기능 하나를 붙여도 호출량이 금방 커질 수 있고, 추론 비용이 서비스 확장의 발목을 잡을 수 있어요. - 구현 관점에서는 에이전틱 AI가 여러 모델과 서비스를 연결해 작업을 나눠 처리하는 그림에 가까워요. 맛집 추천, 금융 특화 생성형 AI, 업무 자동화처럼 성격이 다른 기능을 하나의 거대한 모델이 아니라 역할별 구성요소로 쪼개는 거죠. - 허깅페이스에 모델과 데이터셋을 공개한 것도 의미가 있어요. 금융권 AI는 규제와 보안 때문에 폐쇄적으로 흐르기 쉬운데, 공개 가능한 범위에서 생태계에 기여하면 기술 검증과 협업의 접점이 생기거든요. ## 핵심 포인트 - 국내 금융사 중 처음으로 레드햇 서밋 발표자로 초청됨 - 업무별 소형언어모델 군집으로 에이전틱 AI 플랫폼을 운영함 - 연간 100억 건 이상 결제 데이터 운영 경험을 AI 서비스에 접목함 - 맛집 추천 서비스, 금융 특화 생성형 AI, 복수 AI 업무 자동화 사례를 공개함 - 자체 AI 모델과 금융 데이터셋을 허깅페이스에 공개하며 오픈소스 생태계 참여를 확대함 ## 인사이트 금융권 AI가 이제 챗봇 데모를 넘어 운영 플랫폼, 비용 구조, 모델 배치 방식까지 이야기하는 단계로 넘어간 사례야. 특히 대형 모델 하나로 다 때우는 대신 업무별 작은 모델을 묶는 접근은 실제 서비스 비용을 보는 팀이라면 꽤 참고할 만함.