본문으로 건너뛰기
0
r/jeffnews HN 약 2분

Anthropic AI 안전 연구원의 퇴사 편지

ai-ml

요약

Anthropic에서 2년간 AI 아첨 분석, 바이오테러 방어, 안전 케이스 작성 등에 기여한 연구원 Mrinank가 퇴사. 복합 위기 속에서 가치와 행동의 괴리를 목격했다며, 시 학위와 코칭 등 새로운 길을 모색함.

기사 전체 정리

Anthropic AI 안전 연구원의 퇴사 편지

  • Anthropic에서 2년간 근무한 AI 안전 연구원 Mrinank가 퇴사를 발표함
  • 재직 중 AI 아첨(sycophancy) 현상 분석, AI 활용 바이오테러 방어 체계 구축, 최초의 AI 안전 케이스 문서 작성 등에 기여함
  • 퇴사 이유: "세상이 위기에 처해 있다" — AI뿐 아니라 서로 연결된 복합 위기가 동시에 진행 중이라는 인식
  • 조직 내부와 자기 자신 모두에서 "가치가 실제 행동을 지배하기가 얼마나 어려운지" 반복적으로 목격했다고 밝힘
  • 향후 계획: 시(poetry) 학위 탐색, "용기 있는 발언(courageous speech)" 실천, 퍼실리테이션과 코칭 활동
  • "과학적 진실과 시적 진실을 동등하게 놓는 글쓰기"를 하겠다며, 릴케와 선(禅) 사상을 인용함
  • 구체적 다음 행선지 없이 떠나는 것 자체가 의도적 선택임 — "알지 못함이 가장 친밀하다(不知最親切)"

핵심 포인트

  • AI 아첨(sycophancy) 분석, AI 바이오테러 방어 체계 구축, 최초 AI 안전 케이스 작성 등 기여
  • 퇴사 이유: AI뿐 아니라 서로 연결된 복합 위기, 조직과 자신 내부에서 가치-행동 괴리 반복 목격
  • 향후 시 학위 탐색, 용기 있는 발언, 퍼실리테이션·코칭 활동 계획

인사이트

AI 안전 분야 최전선에서 일하던 연구자가 기술적 해법만으로는 부족하다며 인문학적 접근을 택한 것이 상징적임. Anthropic 내부에서도 가치와 현실 사이 긴장이 존재함을 시사.

댓글

댓글

댓글을 불러오는 중...

ai-ml

ARC-AGI-3 등장: AI가 진짜 AGI인지 측정하는 새 벤치마크 나왔다

ARC Prize 팀이 ARC-AGI-3를 공개했는데, 기존 정적 퍼즐 풀기가 아니라 AI가 새로운 환경을 탐색하고 즉석에서 목표를 파악하는 '적응형 추론' 능력을 측정함. 인간 수준으로 게임을 클리어하면 100점인데, 아직 AI와 인간 사이에 격차가 있는 한 AGI가 아니라는 기준을 제시하는 거임.

ai-ml

구글 TurboQuant: AI 모델 압축의 판도를 바꾸는 기술 등장 (ICLR 2026)

구글 리서치가 AI 모델의 핵심 병목인 키-값 캐시(KV Cache) 문제를 해결하는 압축 알고리즘 TurboQuant를 공개했음. 학습 없이 KV 캐시를 3비트까지 줄이면서도 모델 정확도 손실 제로, H100 GPU에서 최대 8배 속도 향상이라는 미친 성능을 보여줌. PolarQuant, QJL과 함께 ICLR 2026에서 발표 예정.

ai-ml

Claude Code에 가장 잘 맞는 프로그래밍 언어는? — 15개 언어 벤치마크 실험

Ruby 커미터가 Claude Code로 간이 Git 구현을 15개 언어로 시켜본 벤치마크. Ruby, Python, JavaScript가 가장 빠르고 저렴하며 안정적이었고, 정적 타입 언어는 1.4~2.6배 느리고 비쌌다. 600회 실행 중 실패는 Rust 2건, Haskell 1건뿐.

ai-ml

llama.cpp, 드디어 리눅스에서도 시스템 RAM 통합 오프로딩 지원

llama.cpp가 리눅스 커널 업데이트, NVIDIA 오픈 드라이버, CUDA 13의 조합으로 리눅스에서도 macOS 수준의 통합 메모리 관리를 지원하게 됐다. 게이밍 PC급 하드웨어로 로컬 AI 추론이 가능해진 셈.

ai-ml

PyTorch 2.11 릴리스

PyTorch 2.11이 2,723개 커밋, 432명 기여자 규모로 릴리스됨. FlashAttention-4 백엔드로 Hopper/Blackwell GPU에서 최대 3.2배 속도 향상, 분산 학습용 Differentiable Collectives, CUDA 13 기본 전환, TorchScript 공식 deprecated 등이 주요 변경사항임.