온디바이스 AI 시대, 저작권 보호 경계가 서버에서 단말로 내려온다

클라우드에서 단말로 내려오면 통제 방식도 바뀐다

• 생성형 AI의 중심이 클라우드 서버에서 사용자 단말로 이동하고 있음

  • 휴대폰, 태블릿, 노트북, 차량, 웨어러블, 로봇 안에서 추론이 돌아가는 흐름임
  • 장점은 분명함. 네트워크 지연이 줄고, 클라우드 추론 비용도 줄고, 개인정보가 단말 밖으로 덜 나감
  • 문제는 저작권 보호와 보안 통제의 경계도 같이 단말로 내려온다는 점임

• 클라우드 기반 AI에서는 중앙 통제가 가능했음

  • 약관, 프롬프트 필터링, 산출물 필터링, 로깅, 악용 탐지, 사후 차단을 서버에서 걸 수 있었음
  • 온디바이스 AI에서는 작업이 단말 내부에서, 심하면 오프라인으로 끝남
  • 서버는 사용자가 어떤 콘텐츠를 넣었고 모델이 뭘 만들었고 어디로 공유했는지 모를 수 있음

모델 자체가 탈취 대상이 된다

• 첫 번째 위험은 AI 모델 파일과 가중치가 그대로 지식재산이라는 점임

  • 온디바이스 모델에는 학습 데이터 정제, 모델 구조, 최적화 노하우, 안전성 정렬, 하드웨어 가속 기술이 들어 있음
  • 모델 파일, 가중치, 추론 런타임, 파인튜닝 어댑터 모두 보호 대상임
  • 금융 문서 분석용으로 파인튜닝한 경량 모델이 앱에서 추출되면 단순 복제가 아니라 도메인 지식과 안전 정책 유출이 됨

• 공격 표면도 꽤 현실적임

  • 루팅이나 탈옥 기기, 변조된 앱 패키지, 메모리 덤프, 에뮬레이터 환경이 모두 후보임
  • 클라우드 모델은 가중치가 서비스 제공자 통제 안에 있지만, 온디바이스 모델은 일부 또는 전부가 사용자 단말에 배포됨
  • 방어자는 모든 우회 경로를 막아야 하고 공격자는 하나만 뚫으면 되는 고전적인 비대칭성이 생김

• 그래서 목표는 “절대 복제 방지”가 아니라 “복제 난도 상승과 추적 가능성”에 가까움

  • 유출을 어렵게 만들고, 유출된 모델을 식별하고, 피해와 책임을 추적할 수 있어야 함
  • OWASP의 대규모 언어 모델 보안 위험 분류에서도 모델 탈취와 모델 추출, 공급망 위험이 계속 다뤄져 왔다는 점이 언급됨

저작권 침해는 더 조용하고 일상적으로 일어날 수 있다

• 온디바이스 AI는 전자책, 강의자료, 논문, 뉴스, 웹툰, 이미지, 음악, 영상, 자막, 소스코드를 단말 안에서 처리할 수 있음

  • 외부 서버 기록이 없다면 침해 탐지와 사후 대응은 어려워짐
  • 유료 전자책 전체를 30쪽 요약본으로 만들고 배포하는 일도 기술적으로 쉬워짐
  • 유료 뉴스 기사를 매일 요약해 뉴스레터로 공유하거나, 웹툰 화풍을 모방한 홍보물을 만드는 사례도 가능함

• 하지만 모든 AI 활용이 저작권 침해는 아님

  • 사용자가 직접 쓴 회의록을 요약하는 것과 유료 전자책 전체를 블로그용 요약본으로 바꾸는 건 기술적으로 비슷해도 법적 위험은 다름
  • 사적 이용, 정당한 인용, 공정이용, 교육과 연구 목적의 제한적 이용은 사안별 판단이 필요함
  • “내 휴대폰 안에서 한 일”이라는 이유만으로 복제권, 2차적저작물작성권, 배포권, 공중송신권 문제가 사라지지는 않음

에이전트형 AI는 침해를 행동 흐름으로 만든다

• 앞으로의 온디바이스 AI는 파일을 읽고, 사진첩을 검색하고, 음성을 전사하고, 문서를 요약하고, 게시물까지 올리는 에이전트가 될 수 있음
  • 구독 앱 기사 요약, 이미지 생성, 뉴스레터 작성, 사회관계망 게시가 하나의 체인으로 묶일 수 있음
  • 강의 음성 전사, 칠판 사진 분석, 학습관리시스템 자료 다운로드, 요약 노트 작성, 메신저 전송도 한 번에 이어질 수 있음
  • 마지막 산출물 하나만 봐서는 어떤 권한으로 어떤 자료에 접근했는지 판단하기 어려움

sequenceDiagram
    participant 사용자
    participant 단말AI
    participant 로컬콘텐츠
    participant 외부앱
    participant 공유채널
    사용자->>단말AI: 자료 정리와 공유 요청
    단말AI->>로컬콘텐츠: 문서, 사진, 음성 접근
    로컬콘텐츠-->>단말AI: 원문과 메타데이터 반환
    단말AI->>외부앱: 요약본 생성과 편집
    외부앱->>공유채널: 게시 또는 전송
    공유채널-->>사용자: 배포 완료 알림

DRM만으로는 부족하다

• 저작권 보호 기술은 모델, 데이터, 프롬프트, 산출물, 에이전트 권한, 이용 목적, 배포 경로를 같이 봐야 함

  • 모델 암호화, 하드웨어 기반 키 보호, 신뢰 실행 환경, 무결성 검증, 워터마킹, 핑거프린팅, 라이선스 바인딩이 필요함
  • 다만 이것들은 봉쇄가 아니라 다층 방어의 일부로 봐야 함
  • 텍스트 워터마킹은 재작성, 번역, 요약에 취약해서 보조 수단에 가깝다는 지적도 중요함

• 단말 내 권한 거버넌스가 핵심이 됨

  • AI 기능을 단순히 허용하거나 금지하는 게 아니라, 어떤 콘텐츠를 읽고 어떻게 변환하고 어디로 내보낼 수 있는지 통제해야 함
  • 사진 정리 기능에는 선택한 사진만, 문서 교정 기능에는 선택한 문서에 대한 일시 접근만 주는 식의 세분화가 필요함
  • 외부 공유 기능에는 별도 사용자 확인 절차가 붙어야 함

• 국내에서도 이 문제가 연구 과제로 잡히고 있음

  • 문화체육관광부 국가 연구개발 사업으로 한국콘텐츠진흥원이 지원하는 온디바이스 AI 모델 저작권 보호와 관리 인재양성 과제가 2025년 4월부터 2028년 12월까지 진행됨
  • 모델 보호, 라이선스 관리, 단말 바인딩, 침해 탐지, 글로벌 교육훈련이 함께 필요하다는 문제의식임

기술 맥락

• 온디바이스 AI에서 중요한 선택은 “서버에서 검사할 것인가”가 아니라 “단말에서 어떤 증거와 권한을 남길 것인가”예요. 모든 입력과 출력을 서버로 보내면 프라이버시 장점이 사라지고, 아무 기록도 없으면 침해를 입증하기 어렵거든요.

• 그래서 기사에서는 콘텐츠 해시, 라이선스 확인 결과, 사용자 승인 여부, 산출물 지문 같은 최소 검증 정보를 언급해요. 원문 전체를 들고 가는 게 아니라, 나중에 분쟁이 생겼을 때 설명 가능한 흔적을 제한적으로 남기자는 방향이에요.

• 에이전트형 AI가 들어오면 권한 설계가 더 중요해져요. 단순 요약 앱은 선택한 문서만 보면 되지만, 에이전트는 사진첩, 메신저, 학습관리시스템, 게시 앱을 연달아 만질 수 있거든요. 이때 접근 권한과 배포 권한을 분리하지 않으면 사고 범위가 커져요.

• 개발팀 입장에서는 모델 암호화나 워터마킹 하나만 넣고 끝낼 수 없어요. 앱 패키지 보호, 런타임 무결성, 로컬 권한 정책, 공유 직전 확인, 산출물 추적까지 이어지는 제품 설계가 필요해요.