본문으로 건너뛰기
피드

구글, 스마트폰에서 LLM 완전 오프라인 실행하는 'AI 엣지 갤러리' 출시

ai-ml 약 3분
vote
0
댓글
북마크

구글이 서버 전송 없이 스마트폰에서 LLM을 완전 오프라인으로 구동하는 앱 'AI 엣지 갤러리'를 출시했다. 생각 모드, 에이전트 스킬, 이미지 질의, 음성 전사 등 기능을 제공하며, 최신 모델군 젬마 4(Gemma 4)도 지원한다. 깃허브에 오픈소스로 공개됐다.

  • 1

    스마트폰에서 LLM 완전 오프라인 실행 — 데이터 외부 전송 없음

  • 2

    생각 모드, 에이전트 스킬, 이미지 질의, 오디오 스크라이브, 프롬프트 랩 등 기능 제공

  • 3

    구글 새 모델군 젬마 4(Gemma 4) 지원 추가

  • 4

    깃허브 오픈소스 공개로 커뮤니티 기여 유도

  • 구글이 스마트폰에서 LLM을 완전 오프라인으로 돌릴 수 있는 앱 'AI 엣지 갤러리(AI Edge Gallery)'를 출시함

    • 서버 전송 없이 기기 내에서 생성형 AI를 구동하는 게 핵심
    • 모든 AI 처리가 로컬에서 이뤄져서 사용자 데이터가 외부로 나가지 않음
    • 깃허브에 오픈소스로 공개 — 커뮤니티 기여도 가능
  • 주요 기능이 꽤 알참

    • AI 채팅 — 모델의 추론 과정을 시각화하는 '생각 모드(Think Mode)' 포함
    • 에이전트 스킬 — 위키피디아, 대화형 지도 같은 도구로 LLM 능력을 확장
    • 이미지 질의 — 기기 카메라로 객체 식별·시각 분석 가능
    • 오디오 스크라이브 — 실시간 음성 전사 + 번역
    • 프롬프트 랩 — 모델 매개변수를 세밀하게 조정할 수 있는 테스팅 워크스페이스
  • 최신 업데이트에서 구글의 새 모델군 '젬마 4(Gemma 4)' 지원 추가

    • 오프라인 프라이버시 유지하면서 "고급 추론, 논리, 창의적 능력" 제공한다고 구글이 설명
    • 다양한 오픈소스 모델을 다운로드·관리·벤치마킹할 수 있는 허브 역할도 함

💡

> 클라우드 없이 스마트폰에서 LLM을 직접 돌려보고 싶은 개발자라면, 깃허브에서 AI Edge Gallery를 받아서 젬마 4부터 테스트해볼 만함.

  • 구글의 엣지 AI 투자 전략을 보여주는 사례
    • 클라우드 의존성을 줄이면서 프라이버시 보호 + 하드웨어 효율성을 동시에 추구
    • 모바일 AI의 새로운 패러다임으로 평가받는 중

클라우드 의존 없이 스마트폰에서 LLM을 돌릴 수 있다는 건 프라이버시 민감 앱 개발자에게 실질적인 옵션이 생겼다는 뜻이다. 오픈소스 공개라서 직접 모델을 올려보고 벤치마킹해볼 수 있다는 것도 매력적이다.

댓글

댓글

댓글을 불러오는 중...

ai-ml

유튜브, AI 생성 영상에 자동 라벨 붙인다

유튜브가 사실적으로 보이거나 의미 있게 AI로 변경·생성된 콘텐츠에 더 눈에 띄는 라벨을 적용하고, 제작자가 AI 사용 여부를 밝히지 않아도 내부 신호로 감지되면 자동 라벨을 붙이겠다고 밝혔다. 다만 라벨만으로 추천 노출이나 수익화 자격이 바뀌지는 않으며, 제작자는 YouTube Studio에서 잘못된 판정을 수정할 수 있다.

ai-ml

테크 CEO들의 'AI 만능론', 숫자는 아직 그렇게 말하지 않는다

테크 업계에서 AI를 이유로 한 대규모 감원과 조직 재편이 이어지는 가운데, Box 창업자 애런 레비는 CEO들이 실제 업무의 마지막 1마일을 모른 채 AI 에이전트의 능력을 과대평가하고 있다고 지적했다. 2026년 첫 5개월 동안 이미 11만5430명이 해고됐고, 여러 연구는 AI 도입이 체감 생산성만큼 실제 생산성을 끌어올렸다는 근거가 아직 약하다고 말한다.

ai-ml

오픈AI와 앤트로픽, 코딩 에이전트로 드디어 돈 되는 시장을 찾은 듯

사이먼 윌리슨은 오픈AI와 앤트로픽이 코딩 에이전트와 기업용 과금으로 진짜 제품-시장 적합성을 찾았다고 봐. 개인 구독자에게는 월 100달러 플랜이 싸게 느껴지지만, 기업 고객은 이제 사용량 기준 토큰 가격을 그대로 내기 시작했고 이게 대형 고객 예산을 빠르게 흔들고 있다는 얘기야.

ai-ml

컴팔과 GMI 클라우드, 대규모 추론용 AI 인프라 구축 협력

컴팔이 실리콘밸리 기반 AI 인프라 기업 GMI 클라우드와 협력해 대규모 추론과 에이전틱 AI 워크로드에 맞춘 GPU 서버 인프라를 구축한다고 발표했어. COMPUTEX 2026에서는 NVIDIA HGX B300을 지원하는 Compal SGX30-2 같은 고성능 AI 서버 플랫폼도 선보일 예정이야.

ai-ml

AI 쓰면 편해진다더니, 직장인들은 ‘AI 과부하’에 지쳐가는 중

국내 직장인들이 AI 전환 압박, AI 답변 검증 부담, 대체 불안 때문에 피로감을 호소하고 있어. 중앙일보 설문에서는 5284명 중 31.6%가 ‘AI 답변 검증에 시간이 더 걸릴 때’를 가장 지치는 순간으로 꼽았고, 기업들은 무작정 AI 사용량을 밀어붙이는 방식에서 업무 방식 재설계로 넘어가야 한다는 지적이 나와.