--- title: "AI 랠리의 다음 격전지, 데이터센터 밖으로 나오는 엣지 AI" published: 2026-05-30T21:05:04.053Z canonical: https://jeff.news/article/3521 --- # AI 랠리의 다음 격전지, 데이터센터 밖으로 나오는 엣지 AI 지금까지 AI의 중심이 클라우드 데이터센터였다면, 다음 확산지는 공장·차량·로봇·드론·개인용 컴퓨터 같은 엣지 영역이라는 분석이 나와. 엔비디아가 말해온 생성형 AI, 에이전트 AI, 피지컬 AI 흐름과 맞물리면서 델과 퀄컴 같은 기업에 대한 기대도 커지고 있어. - AI가 클라우드 데이터센터 밖으로 나오기 시작했다는 게 이번 이야기의 핵심임 - 지금까지 챗지피티, 클로드, 제미나이 같은 대형 모델은 마이크로소프트, 아마존, 구글 같은 하이퍼스케일러의 데이터센터에서 주로 학습되고 서비스됐음 - 그래서 그래픽처리장치(GPU), 고대역폭 메모리(HBM), 데이터센터, 전력, 냉각 같은 인프라가 AI 랠리의 중심이었음 - 그런데 다음 관심사는 ‘엣지 AI’로 옮겨가는 중임 - 엣지는 공장, 차량, 로봇, 드론, 개인용 컴퓨터처럼 네트워크의 끝단을 뜻함 - 쉽게 말하면 AI가 멀리 있는 클라우드에만 있지 않고, 실제 데이터가 생기는 현장 가까이 내려오는 흐름임 - 이 흐름은 온프레미스 AI, 온디바이스 AI, 로컬 AI, 피지컬 AI와도 겹쳐 있음 - 용어마다 정확한 의미는 다르지만 방향은 비슷함 - AI가 현장에서 보고, 판단하고, 바로 행동해야 하는 시나리오가 늘어난다는 뜻임 > [!NOTE] > 엣지 AI는 “클라우드가 끝났다”는 얘기가 아님. 클라우드 중심 AI가 커진 다음, 지연 시간과 현장 데이터 문제를 해결하려고 AI 실행 위치가 더 다양해지는 흐름에 가까움. - 엔비디아는 이 그림을 꽤 오래전부터 밀고 있었음 - 젠슨 황 엔비디아 최고경영자는 2~3년 전부터 AI가 생성형 AI, 에이전트 AI, 피지컬 AI로 확장된다는 로드맵을 제시해왔음 - 기사에 나온 표현대로라면 “지능은 맥락이 있는 곳에 있어야 한다”는 관점임 - 델과 퀄컴이 주목받는 이유도 여기서 나옴 - 델은 기업 내부 서버와 엔터프라이즈 AI 인프라 쪽 기대를 받고 있음 - 퀄컴은 저전력 칩과 기기 단 추론 쪽에서 엣지 AI 기대를 받는 회사로 묶임 - 최근 두 회사 주가가 과열 논란이 나올 정도로 오른 배경에도 이 기대가 깔려 있음 - 개발자 관점에선 아키텍처 질문이 바뀜 - 예전엔 “이 모델을 어느 클라우드에서 돌릴까”가 중심이었다면, 이제는 “이 추론을 클라우드에서 할지, 기업 서버에서 할지, 기기에서 할지”를 따져야 함 - 지연 시간, 비용, 개인정보, 네트워크 연결성, 배터리, 모델 크기 같은 조건이 전부 설계 변수로 들어옴 > [!IMPORTANT] > 엣지 AI가 커지면 추론 최적화, 경량 모델, 모델 배포, 기기별 성능 튜닝이 훨씬 중요해짐. 백엔드 개발자도 “서버에 올리면 끝”이라는 감각만으론 부족해질 수 있음. - 투자 관점에서도 AI 랠리의 범위가 넓어지고 있음 - 데이터센터를 짓는 회사, 칩을 파는 회사만 보는 게 아니라 현장형 AI 인프라를 만들 수 있는 기업으로 관심이 번지는 중임 - 기업 서버, 개인용 컴퓨터, 차량, 드론, 로봇이 모두 다음 AI 실행 환경 후보가 됨 --- ## 기술 맥락 - 엣지 AI의 핵심 선택은 추론을 중앙 클라우드에 둘지, 데이터가 생기는 현장 가까이에 둘지예요. 공장 로봇이나 차량처럼 즉시 반응해야 하는 시스템은 왕복 네트워크 지연이 꽤 큰 문제가 되거든요. - 클라우드는 여전히 대규모 학습과 무거운 추론에 강해요. 대신 현장에서는 연결이 끊기거나 지연이 튀는 상황이 생기니, 작은 모델을 로컬에서 돌리는 선택이 매력적이 됩니다. - 이 선택은 하드웨어 회사에도 바로 연결돼요. 델은 기업 내부 서버와 온프레미스 인프라, 퀄컴은 저전력 기기 추론 쪽 기대를 받는 이유가 여기 있어요. - 개발팀 입장에선 모델 정확도만 볼 수 없어요. 모델 크기, 추론 지연, 전력 사용량, 배포 방식, 업데이트 전략을 같이 봐야 실제 제품에서 돌아가거든요. ## 핵심 포인트 - 엣지 AI는 중앙 데이터센터가 아니라 현장 기기나 기업 내부 서버에서 AI 추론을 돌리는 흐름 - 젠슨 황은 2~3년 전부터 AI가 생성형 AI에서 에이전트 AI, 피지컬 AI로 확장된다는 로드맵을 제시 - 델과 퀄컴 주가 급등은 데이터센터 밖 AI 인프라 수요 기대와 연결됨 - 저전력·저지연 추론, 현장 데이터 처리, 기업 내부 AI 인프라가 다음 투자 포인트로 떠오름 ## 인사이트 AI 인프라 이야기가 이제 그래픽처리장치 몇 장을 더 사느냐에서 ‘지능을 어디에 배치할 것인가’로 넘어가는 중이야. 개발자 입장에선 클라우드 추론만 보던 시야를 온디바이스, 온프레미스, 현장형 추론까지 넓혀야 하는 타이밍임.