본문으로 건너뛰기
피드

구글, 스마트폰에서 LLM 완전 오프라인 실행하는 'AI 엣지 갤러리' 출시

ai-ml 약 3분
vote
0
댓글
북마크

구글이 서버 전송 없이 스마트폰에서 LLM을 완전 오프라인으로 구동하는 앱 'AI 엣지 갤러리'를 출시했다. 생각 모드, 에이전트 스킬, 이미지 질의, 음성 전사 등 기능을 제공하며, 최신 모델군 젬마 4(Gemma 4)도 지원한다. 깃허브에 오픈소스로 공개됐다.

  • 1

    스마트폰에서 LLM 완전 오프라인 실행 — 데이터 외부 전송 없음

  • 2

    생각 모드, 에이전트 스킬, 이미지 질의, 오디오 스크라이브, 프롬프트 랩 등 기능 제공

  • 3

    구글 새 모델군 젬마 4(Gemma 4) 지원 추가

  • 4

    깃허브 오픈소스 공개로 커뮤니티 기여 유도

  • 구글이 스마트폰에서 LLM을 완전 오프라인으로 돌릴 수 있는 앱 'AI 엣지 갤러리(AI Edge Gallery)'를 출시함

    • 서버 전송 없이 기기 내에서 생성형 AI를 구동하는 게 핵심
    • 모든 AI 처리가 로컬에서 이뤄져서 사용자 데이터가 외부로 나가지 않음
    • 깃허브에 오픈소스로 공개 — 커뮤니티 기여도 가능
  • 주요 기능이 꽤 알참

    • AI 채팅 — 모델의 추론 과정을 시각화하는 '생각 모드(Think Mode)' 포함
    • 에이전트 스킬 — 위키피디아, 대화형 지도 같은 도구로 LLM 능력을 확장
    • 이미지 질의 — 기기 카메라로 객체 식별·시각 분석 가능
    • 오디오 스크라이브 — 실시간 음성 전사 + 번역
    • 프롬프트 랩 — 모델 매개변수를 세밀하게 조정할 수 있는 테스팅 워크스페이스
  • 최신 업데이트에서 구글의 새 모델군 '젬마 4(Gemma 4)' 지원 추가

    • 오프라인 프라이버시 유지하면서 "고급 추론, 논리, 창의적 능력" 제공한다고 구글이 설명
    • 다양한 오픈소스 모델을 다운로드·관리·벤치마킹할 수 있는 허브 역할도 함

💡

> 클라우드 없이 스마트폰에서 LLM을 직접 돌려보고 싶은 개발자라면, 깃허브에서 AI Edge Gallery를 받아서 젬마 4부터 테스트해볼 만함.

  • 구글의 엣지 AI 투자 전략을 보여주는 사례
    • 클라우드 의존성을 줄이면서 프라이버시 보호 + 하드웨어 효율성을 동시에 추구
    • 모바일 AI의 새로운 패러다임으로 평가받는 중

클라우드 의존 없이 스마트폰에서 LLM을 돌릴 수 있다는 건 프라이버시 민감 앱 개발자에게 실질적인 옵션이 생겼다는 뜻이다. 오픈소스 공개라서 직접 모델을 올려보고 벤치마킹해볼 수 있다는 것도 매력적이다.

댓글

댓글

댓글을 불러오는 중...

ai-ml

애플 새 음성 인식 API, 온디바이스 영어 전사에서 위스퍼 스몰까지 이겼다

애플의 새 음성 인식 API인 스피치애널라이저가 리브리스피치 벤치마크에서 기존 SFSpeechRecognizer는 물론 위스퍼 스몰보다도 낮은 단어 오류율을 기록했어. 깨끗한 음성에서는 2.12%, noisy 음성에서는 4.56%로, 기존 애플 API 대비 오류율을 3.5~4배 줄였고 위스퍼 스몰보다 약 3배 빠르게 돌았어. 다만 영어·애플 플랫폼·OS 26 조건의 결과라, 다국어와 크로스플랫폼에서는 여전히 위스퍼의 장점이 남아 있어.

ai-ml

AI를 진짜 잘 쓰는 기업, 미국 증시에서 연 30% 프리미엄 받는다는 연구

예일대와 로체스터대 연구진이 기업의 실제 대형 언어 모델 사용 데이터를 분석했더니, AI 활용도가 높은 상위 20% 기업이 하위 20%보다 주당 평균 0.64% 높은 초과수익률을 냈다. 단순히 AI 기업이냐가 아니라, 업무에 AI를 얼마나 깊게 쓰는지가 시장 가치에 반영되고 있다는 얘기다.

ai-ml

ZTE, AI 에이전트폰으로 스마트폰 재도전…진짜 승부처는 앱 생태계

ZTE가 바이트댄스의 더우바오를 탑재한 AI 에이전트 스마트폰으로 시장 재진입을 노린다. 핵심은 사용자가 명령하면 AI가 여러 앱을 직접 열고 조작하는 방식인데, 위챗·타오바오·알리페이 같은 플랫폼과 충돌하면서 생태계 문제가 가장 큰 변수로 떠올랐다.

ai-ml

노벨상 학자들까지 “AI 경제 충격, 지금 제도 안 만들면 늦다”

노벨 경제학상 수상자 15명을 포함한 학자와 기술 업계 인사 약 200명이 AI가 향후 10년 안에 경제를 급격히 바꿀 수 있다며 정책 대응을 촉구했다. 이들은 산업혁명보다 큰 변화가 훨씬 짧은 시간에 올 수 있고, 대규모 일자리 대체와 생활 수준 향상이라는 양면성이 동시에 존재한다고 봤다.

ai-ml

NHN, AI 데이터센터 매출 기대감에 목표주가 5만6000원으로 상향

한국투자증권이 NHN의 목표주가를 4만5000원에서 5만6000원으로 올리고 투자의견 매수를 유지했다. 핵심 근거는 양평 AI 데이터센터 가동, 공공·민간 GPU 클러스터 수주 확대, 클라우드 사업부 신규 매출 반영이다.