본문으로 건너뛰기
J
피드

ISON – JSON보다 토큰을 30-70% 절약하는 LLM용 데이터 포맷

ai-ml 약 3분
tags
#llm#data-format#token-optimization#json#serialization
vote
0
댓글
북마크

LLM 워크플로우에서 JSON의 토큰 비효율을 해결하기 위해 만든 새 데이터 포맷 ISON이 Show HN에 공개됨. GPT-4o 기준 벤치마크에서 JSON 대비 72% 토큰 절감, 같은 컨텍스트 윈도우에 3.6배 데이터를 넣을 수 있다고 주장.

  • 1

    JSON 대비 72% 토큰 절감, 1K 토큰당 정확도 272% 효율적

  • 2

    5개 언어 11개 패키지, 303개 이상 테스트 통과

  • 3

    테이블 구조, 타입 어노테이션, 레퍼런스, ISONL 스트리밍 포맷 지원

  • JSON이 LLM 워크플로우에서 토큰을 너무 많이 먹는다는 문제의식에서 출발한 새 데이터 포맷 ISON이 Show HN에 올라옴. "Interchange Simple Object Notation"이라는 이름 그대로, 테이블/관계형 패턴 기반으로 LLM이 학습 데이터에서 수억 번 봤을 구조를 활용해서 토큰 효율을 극대화하겠다는 컨셉임

  • GPT-4o 토크나이저(o200k_base) 기준 300문항 벤치마크 결과가 인상적임:

    • ISON: 3,550 토큰 (JSON 대비 -72%), 정확도 88.3%
    • JSON: 12,668 토큰 (기준선), 정확도 84.7%
    • 1K 토큰당 정확도로 환산하면 ISON이 JSON보다 272% 효율적
    • 같은 컨텍스트 윈도우에 3.6배 더 많은 데이터를 넣을 수 있다는 얘기

  • 포맷 자체는 테이블 구조(타입이 지정된 컬럼), 오브젝트 블록(키-밸류), 레퍼런스(:id, :type:id), 타입 어노테이션(field:int, field:string 등), 스트리밍용 라인 기반 포맷(ISONL)을 지원함

  • 에코시스템은 이미 5개 언어에 11개 패키지가 나와 있음: JavaScript/TypeScript, Python, Rust, C++(헤더 온리), Go. 총 303개 이상 테스트 통과. 각 언어별로 파서와 밸리데이션(isonantic) 라이브러리가 분리되어 있어서 스키마 검증도 가능함

  • 타겟 유즈케이스로 멀티 에이전트 시스템, RAG 파이프라인, 그래프 DB, LLM 함수 호출 등을 내세우고 있음. 토큰 제약이 빡빡한 에이전틱 AI 워크플로우에서 JSON 대신 쓰면 비용 절감 효과가 클 수 있다는 주장

ℹ️참고

> 아직 커뮤니티 채택 초기 단계이고, 기존 JSON 생태계와의 호환성(JSON Export, Roundtrip 지원)을 강조하고 있긴 하지만, 실제 프로덕션에서 LLM이 ISON을 얼마나 안정적으로 생성하는지는 별도 검증이 필요함

토큰 비용이 곧 돈인 LLM 시대에 데이터 직렬화 포맷도 토큰 효율을 기준으로 재설계되기 시작했다는 점이 흥미로움. 다만 LLM이 ISON을 안정적으로 생성할 수 있는지가 실제 채택의 핵심 변수.

prev

이전 기사 (P)

next

다음 기사 (N)

댓글

댓글

댓글을 불러오는 중...

관련 기사

ai-ml

유튜브, AI 생성 영상에 자동 라벨 붙인다

유튜브가 사실적으로 보이거나 의미 있게 AI로 변경·생성된 콘텐츠에 더 눈에 띄는 라벨을 적용하고, 제작자가 AI 사용 여부를 밝히지 않아도 내부 신호로 감지되면 자동 라벨을 붙이겠다고 밝혔다. 다만 라벨만으로 추천 노출이나 수익화 자격이 바뀌지는 않으며, 제작자는 YouTube Studio에서 잘못된 판정을 수정할 수 있다.

ai-ml

테크 CEO들의 'AI 만능론', 숫자는 아직 그렇게 말하지 않는다

테크 업계에서 AI를 이유로 한 대규모 감원과 조직 재편이 이어지는 가운데, Box 창업자 애런 레비는 CEO들이 실제 업무의 마지막 1마일을 모른 채 AI 에이전트의 능력을 과대평가하고 있다고 지적했다. 2026년 첫 5개월 동안 이미 11만5430명이 해고됐고, 여러 연구는 AI 도입이 체감 생산성만큼 실제 생산성을 끌어올렸다는 근거가 아직 약하다고 말한다.

ai-ml

오픈AI와 앤트로픽, 코딩 에이전트로 드디어 돈 되는 시장을 찾은 듯

사이먼 윌리슨은 오픈AI와 앤트로픽이 코딩 에이전트와 기업용 과금으로 진짜 제품-시장 적합성을 찾았다고 봐. 개인 구독자에게는 월 100달러 플랜이 싸게 느껴지지만, 기업 고객은 이제 사용량 기준 토큰 가격을 그대로 내기 시작했고 이게 대형 고객 예산을 빠르게 흔들고 있다는 얘기야.

ai-ml

컴팔과 GMI 클라우드, 대규모 추론용 AI 인프라 구축 협력

컴팔이 실리콘밸리 기반 AI 인프라 기업 GMI 클라우드와 협력해 대규모 추론과 에이전틱 AI 워크로드에 맞춘 GPU 서버 인프라를 구축한다고 발표했어. COMPUTEX 2026에서는 NVIDIA HGX B300을 지원하는 Compal SGX30-2 같은 고성능 AI 서버 플랫폼도 선보일 예정이야.

ai-ml

AI 쓰면 편해진다더니, 직장인들은 ‘AI 과부하’에 지쳐가는 중

국내 직장인들이 AI 전환 압박, AI 답변 검증 부담, 대체 불안 때문에 피로감을 호소하고 있어. 중앙일보 설문에서는 5284명 중 31.6%가 ‘AI 답변 검증에 시간이 더 걸릴 때’를 가장 지치는 순간으로 꼽았고, 기업들은 무작정 AI 사용량을 밀어붙이는 방식에서 업무 방식 재설계로 넘어가야 한다는 지적이 나와.