본문으로 건너뛰기
피드

1913년까지의 텍스트만으로 학습한 LLM이 등장 — '히틀러를 모르는 AI'

ai-ml 약 3분
vote
0
댓글
북마크

취리히 대학이 1913년 이전 텍스트만으로 학습한 40억 파라미터 LLM을 공개. 시간 잠금 모델이라 컷오프 이후 사건을 진짜 모르며, 역사 연구에서 사후확증 편향 없는 대화가 가능함.

  • 1

    Qwen3 기반 4B 모델, 80B 토큰 학습, 컷오프 5종(1913~1946)

  • 2

    히틀러를 모르고 1913년식 성차별을 그대로 출력

  • 3

    GPT의 사후확증 편향 문제를 구조적으로 해결

  • 4

    역사적 담론 패턴 탐색 도구로 설계됨

핵심 아이디어

  • 취리히 대학 연구팀이 1913년 이전 출판물만으로 학습한 40억 파라미터 LLM을 만들었음. Qwen3 아키텍처 기반이고, 80B 토큰으로 학습함
  • 지식 컷오프(knowledge cutoff)가 1913, 1929, 1933, 1939, 1946년인 모델 패밀리를 총 5개 만들었는데, 핵심은 "시간 잠금(time-locked)" — 컷오프 이후 정보가 학습 데이터에 아예 존재하지 않음
  • 600B 토큰 규모의 시간 스탬프가 찍힌 역사 텍스트 데이터셋을 큐레이팅해서 사용함

대화 예시가 소름

  • "아돌프 히틀러가 누구냐"고 물으면 1913년 모델은 1860년 다름슈타트 출생의 철학 교수라고 완전히 엉뚱한 답변을 함. 진짜로 모르는 거임
  • "노예제에 문제가 있느냐"는 질문에는 당시 텍스트 기반으로 "관습법과 독립선언서의 원칙에 반한다"고 답변함
  • 하지만 "남녀 동등한 후보 중 누구를 뽑겠느냐"에는 "남자를 선호한다. 여자는 덜 유능하고 덜 신뢰할 수 있다"는 1913년식 답변이 나옴
  • 동성애에 대해서는 "대부분의 사람에게 혐오의 대상"이라면서도 "상황의 희생자일 수 있다"는 당시의 양면적 시각을 보여줌

왜 이게 중요한가

  • 기존 LLM(GPT 등)은 사후확증 편향(hindsight contamination) 문제가 있음. 1차 대전이 어떻게 끝났는지 이미 알기 때문에, "1913년 관점에서 답해줘"라고 해도 진짜 모르는 척을 못함
  • 이 모델은 롤플레이가 아니라 진짜로 그 시대의 텍스트만 체화한 거라서, "그 시대에 무엇이 생각 가능했고, 예측 가능했고, 말할 수 있었는가"를 연구할 수 있음
  • 인문학, 사회과학, 컴퓨터과학 연구 도구로 쓰는 게 목적이고, 모델 이름이 역사학자 랑케(Ranke)에서 따왔음

⚠️주의

> 이 모델은 훈련 데이터에 포함된 인종차별, 반유대주의, 여성혐오, 제국주의적 관점을 그대로 재현함. 연구팀은 이를 "결함이 아니라 핵심 기능"이라고 명시하고 있음.

  • 모델과 데이터셋은 곧 Apache 라이선스로 공개 예정이며, 극단적 유해 출력에 대한 보호 레이어를 두고 일반 공개도 검토 중임

LLM의 시간적 지식 오염 문제를 아키텍처가 아닌 데이터로 해결한 독창적 접근. 인문학-CS 학제간 연구의 좋은 사례.

댓글

댓글

댓글을 불러오는 중...

ai-ml

유튜브, AI 생성 영상에 자동 라벨 붙인다

유튜브가 사실적으로 보이거나 의미 있게 AI로 변경·생성된 콘텐츠에 더 눈에 띄는 라벨을 적용하고, 제작자가 AI 사용 여부를 밝히지 않아도 내부 신호로 감지되면 자동 라벨을 붙이겠다고 밝혔다. 다만 라벨만으로 추천 노출이나 수익화 자격이 바뀌지는 않으며, 제작자는 YouTube Studio에서 잘못된 판정을 수정할 수 있다.

ai-ml

테크 CEO들의 'AI 만능론', 숫자는 아직 그렇게 말하지 않는다

테크 업계에서 AI를 이유로 한 대규모 감원과 조직 재편이 이어지는 가운데, Box 창업자 애런 레비는 CEO들이 실제 업무의 마지막 1마일을 모른 채 AI 에이전트의 능력을 과대평가하고 있다고 지적했다. 2026년 첫 5개월 동안 이미 11만5430명이 해고됐고, 여러 연구는 AI 도입이 체감 생산성만큼 실제 생산성을 끌어올렸다는 근거가 아직 약하다고 말한다.

ai-ml

오픈AI와 앤트로픽, 코딩 에이전트로 드디어 돈 되는 시장을 찾은 듯

사이먼 윌리슨은 오픈AI와 앤트로픽이 코딩 에이전트와 기업용 과금으로 진짜 제품-시장 적합성을 찾았다고 봐. 개인 구독자에게는 월 100달러 플랜이 싸게 느껴지지만, 기업 고객은 이제 사용량 기준 토큰 가격을 그대로 내기 시작했고 이게 대형 고객 예산을 빠르게 흔들고 있다는 얘기야.

ai-ml

컴팔과 GMI 클라우드, 대규모 추론용 AI 인프라 구축 협력

컴팔이 실리콘밸리 기반 AI 인프라 기업 GMI 클라우드와 협력해 대규모 추론과 에이전틱 AI 워크로드에 맞춘 GPU 서버 인프라를 구축한다고 발표했어. COMPUTEX 2026에서는 NVIDIA HGX B300을 지원하는 Compal SGX30-2 같은 고성능 AI 서버 플랫폼도 선보일 예정이야.

ai-ml

AI 쓰면 편해진다더니, 직장인들은 ‘AI 과부하’에 지쳐가는 중

국내 직장인들이 AI 전환 압박, AI 답변 검증 부담, 대체 불안 때문에 피로감을 호소하고 있어. 중앙일보 설문에서는 5284명 중 31.6%가 ‘AI 답변 검증에 시간이 더 걸릴 때’를 가장 지치는 순간으로 꼽았고, 기업들은 무작정 AI 사용량을 밀어붙이는 방식에서 업무 방식 재설계로 넘어가야 한다는 지적이 나와.