본문으로 건너뛰기
피드

오픈AI, IPO 앞두고 안전 시스템 총괄 이탈…연구 조직 중심으로 안전팀 재편

ai-ml 약 4분
vote
0
댓글
북마크

오픈AI의 안전 시스템 총괄 요하네스 하이데케가 회사를 떠났다. 오픈AI는 안전 조직을 연구 부문에 더 가깝게 붙이는 개편을 진행하며, 모든 안전팀이 연구·안전 부사장 미아 글라세에게 보고하도록 바꿨다. 모델 개발과 출시 주기가 짧아지는 상황에서 안전 검토를 더 이른 단계부터 붙이겠다는 방향이다.

  • 1

    오픈AI 안전 시스템 총괄 요하네스 하이데케가 퇴사했다.

  • 2

    오픈AI는 연구·안전 조직을 미아 글라세 체제로 재편했다.

  • 3

    모든 안전팀은 글라세에게 보고하고, 사치 자인이 안전 시스템 임시 책임자를 맡는다.

  • 4

    오픈AI는 모델 개발 주기가 짧아지면서 안전 조율 부담이 커졌다고 설명했다.

  • 5

    애플은 오픈AI가 소비자 기기 개발을 위해 보호된 정보를 가져갔다며 소송을 제기했다.

  • 오픈AI에서 안전 시스템 총괄 요하네스 하이데케가 회사를 떠남

    • 하이데케는 이번 주 직원들에게 퇴사 사실을 알림
    • 시점이 묘한 건, 오픈AI가 안전 조직을 연구 부문에 더 가깝게 붙이는 재편을 진행 중이라는 점임
    • 대형 IPO를 앞둔 회사에서 안전 책임자 이탈은 그냥 인사 뉴스로만 넘기기 어렵다는 반응이 나올 만함
  • 조직 구조는 미아 글라세 중심으로 바뀜

    • 글라세는 기존에 연구 부사장 겸 정렬 책임자였고, 이번 개편으로 연구·안전 부사장을 맡게 됨
    • 앞으로 모든 안전팀은 글라세에게 보고하는 구조로 바뀜
    • 사치 자인은 안전 시스템 임시 책임자를 맡아 글라세에게 보고함
  • 오픈AI가 내세운 이유는 모델 개발 속도가 빨라졌다는 것임

    • 마크 첸 최고연구책임자는 직원들에게 모델을 더 자주 훈련하고 더 짧은 일정으로 공개하고 있다고 설명함
    • 출시 주기가 짧아질수록 안전 관련 조율도 더 어려워진다는 얘기임
    • 안전 검토가 제품 출시 직전 체크리스트로 붙는 게 아니라, 모델과 제품 출시를 결정하는 더 이른 단계부터 들어가야 한다는 판단도 나옴

ℹ️참고

> 이건 단순히 누가 누구에게 보고하느냐의 문제가 아님. 빠른 모델 출시 속도와 안전 검토를 같은 조직 리듬 안에 넣으려는 재배치에 가깝다.

  • 이번 개편은 오픈AI 내부의 연구·제품·안전 사이 긴장감을 보여줌

    • 최신 모델 개발과 안전 업무를 글라세 아래에서 더 긴밀히 연결하겠다는 게 회사 측 설명임
    • 반대로 보면, 모델이 더 자주 나오고 일정이 짧아질수록 안전팀이 독립적으로 제동을 걸 수 있는 구조인지도 계속 논쟁거리가 됨
    • AI 서비스를 쓰는 개발자 입장에서는 모델 품질만큼이나 출시 프로세스와 안전 검증 체계가 실제 리스크를 좌우함
  • 별도로 오픈AI는 애플과 법적 분쟁도 진행 중임

    • 애플은 11일 북부 캘리포니아 연방법원에 소송을 제기함
    • 주장 요지는 오픈AI가 소비자 기기 개발을 위해 애플의 보호된 정보를 가져갔다는 것임
    • 안전 조직 재편과 별개로, 오픈AI를 둘러싼 법무·거버넌스 이슈가 같이 커지는 분위기임

AI 회사에서 ‘안전’이 별도 감시 조직으로 남을지, 제품과 연구 속도 안에 더 깊숙이 들어갈지가 계속 갈리는 지점이다. 오픈AI처럼 출시 속도가 빠른 조직일수록 안전팀의 위치는 기술 문제이면서 동시에 거버넌스 문제다.

댓글

댓글

댓글을 불러오는 중...

ai-ml

AI 시대 국가 경쟁력은 ‘시간’이라는 김용범의 반도체 인프라론

김용범 청와대 정책실장이 AI 시대에는 국가가 기업에 ‘시간’을 공급해야 한다고 주장했다. 반도체 생산능력 확보가 늦어지면 시장과 공급망을 빼앗기고, 전력·용수·송전망·인허가 같은 병목은 기업 혼자 해결할 수 없다는 논지다.

ai-ml

LG, 피지컬 AI에 9조 4천억 원 베팅…로봇이 현실을 이해하게 만들겠다는 승부

LG그룹이 2030년까지 로봇과 피지컬 AI 분야에 9조 4000억 원 규모 투자를 추진하는 것으로 전해졌다. 핵심은 현실의 물리 법칙을 가상 환경에서 학습하는 월드 모델이며, LG전자·LG CNS·LG AI연구원·LG이노텍이 하드웨어, 시뮬레이션, AI 모델, 센싱을 묶는 ‘원 LG’ 전략으로 접근하고 있다.

ai-ml

중국 등대공장이 보여준 제조업 트렌드, 결론은 AI를 공장 전체에 깔아버리는 것

세계경제포럼이 새로 선정한 글로벌 등대공장 16곳 중 8곳이 중국 공장이었고, 중국은 전체 238곳 중 109곳을 보유한 1위 국가다. 올해 사례의 핵심은 AI가 생산라인 자동화를 넘어 연구개발, 품질관리, 공급망, 물류, 에너지, 인재 육성까지 기업 운영 전반으로 들어갔다는 점이다.

ai-ml

NHN, 600명 규모 ‘에이전틱 데이’ 열고 사내 AI 전환 속도 낸다

NHN이 판교 사옥에서 임직원 600여 명이 참여한 ‘에이전틱 데이’를 열고 사내 AI 에이전트 활용 사례와 성과를 공유했어. 자연어 한 줄로 3~4일 걸리던 데이터 분석을 30분으로 줄인 사례, 보안 취약점 점검 자동화, 전 임직원 클로드 제공까지 나오면서 전사 AI 전환을 본격화하는 분위기야.

ai-ml

디케이테크인, 구글 클라우드와 제미나이 기반 업무용 AI 에이전트 워크숍 진행

디케이테크인이 구글 클라우드 코리아와 함께 제미나이 엔터프라이즈 기반 AI 에이전트 실무 워크숍을 열었어. 개발자뿐 아니라 사업, 기획, 디자인 직군까지 참여했고, 자연어만으로 업무용 AI 에이전트를 만드는 노코드 실습까지 다뤘다는 점이 핵심이야.