본문으로 건너뛰기
피드

Roblox, AI 코딩 어시스턴트 벤치마크 'OpenGameEval' 오픈소스로 공개

ai-ml 약 3분
vote
0
댓글
북마크

Roblox가 AI 에이전트의 게임 개발 능력을 평가하는 OpenGameEval 벤치마크를 공개했다. 47개 수작업 큐레이션 테스트 케이스로 구성되며, 단순 조작은 잘 하지만 다단계 문맥 추론에서는 모든 모델이 고전하는 결과를 보였다.

  • 1

    47개 수작업 큐레이션 테스트 케이스, 엔드투엔드 평가

  • 2

    단일 조작은 거의 완벽, 다단계 문맥 추론에서 급격한 성능 하락

  • 3

    키워드 매칭을 넘어 구조적 추론으로 해결하는 모델 등장

  • 4

    pass@k, cons@k, all@k 업계 표준 지표 사용

  • Roblox가 OpenGameEval이라는 AI 에이전트 벤치마크를 오픈소스로 공개했음. Roblox Studio 환경에서 AI 어시스턴트가 실제 게임 개발 작업을 얼마나 잘 수행하는지 측정하는 프레임워크임

  • 일반적인 함수 레벨 코딩 챌린지가 아니라, 엔드투엔드 테스트가 핵심임. 모델이 인스턴스 계층 탐색, 객체 상태 분석, 환경 맥락에서 사용자 의도 파악까지 복합적으로 해내야 함

  • 초기 데이터셋은 전문가가 수작업으로 큐레이션한 47개 테스트 케이스로 구성됨. 게임 메커니즘, 환경 빌딩, 캐릭터 애니메이션, UI 디자인, 사운드 디자인 영역을 커버함. 평가 지표는 업계 표준인 pass@k, cons@k, all@k 사용

단순 작업 vs 문맥 추론: 극명한 격차

  • 초기 테스트 결과가 꽤 흥미로움: 모델들이 단일 조작(atomic operation)은 거의 완벽하게 해냄. 파티클 이미터 설정이나 점프 파워 수정 같은 것들

  • 반면 다단계 문맥 추론이 필요한 작업에선 처참한 결과를 보임. 체력 회복 시스템이나 사거리 교통 신호등 같은 복수 스크립트·클라이언트/서버 상호작용이 필요한 태스크에서 pass@k 점수가 매우 낮았음

  • 재미있는 사례: "Roblox 로고처럼 생긴 큐브를 초록색으로 바꿔라"는 태스크에서, 초기에는 대상 객체 이름에 "logo"나 "Roblox"라는 단어가 없어서 모든 모델이 실패했음. 최근 평가에서는 일부 모델이 키워드 매칭을 넘어 구조적 추론(속성 검사, 좌표 추론)으로 해결하기 시작했다는 거임

  • 로드맵: 리더보드와 데이터셋을 지속 업데이트하고, API 어댑터로 연구 파트너가 쉽게 재현 가능한 벤치마크를 돌릴 수 있게 하며, 커뮤니티 기여를 적극 수용할 계획

함수 레벨이 아닌 실제 개발 환경의 엔드투엔드 벤치마크라는 점에서, AI 코딩 어시스턴트의 현주소를 잘 보여주는 데이터셋.

댓글

댓글

댓글을 불러오는 중...

ai-ml

유튜브, AI 생성 영상에 자동 라벨 붙인다

유튜브가 사실적으로 보이거나 의미 있게 AI로 변경·생성된 콘텐츠에 더 눈에 띄는 라벨을 적용하고, 제작자가 AI 사용 여부를 밝히지 않아도 내부 신호로 감지되면 자동 라벨을 붙이겠다고 밝혔다. 다만 라벨만으로 추천 노출이나 수익화 자격이 바뀌지는 않으며, 제작자는 YouTube Studio에서 잘못된 판정을 수정할 수 있다.

ai-ml

테크 CEO들의 'AI 만능론', 숫자는 아직 그렇게 말하지 않는다

테크 업계에서 AI를 이유로 한 대규모 감원과 조직 재편이 이어지는 가운데, Box 창업자 애런 레비는 CEO들이 실제 업무의 마지막 1마일을 모른 채 AI 에이전트의 능력을 과대평가하고 있다고 지적했다. 2026년 첫 5개월 동안 이미 11만5430명이 해고됐고, 여러 연구는 AI 도입이 체감 생산성만큼 실제 생산성을 끌어올렸다는 근거가 아직 약하다고 말한다.

ai-ml

오픈AI와 앤트로픽, 코딩 에이전트로 드디어 돈 되는 시장을 찾은 듯

사이먼 윌리슨은 오픈AI와 앤트로픽이 코딩 에이전트와 기업용 과금으로 진짜 제품-시장 적합성을 찾았다고 봐. 개인 구독자에게는 월 100달러 플랜이 싸게 느껴지지만, 기업 고객은 이제 사용량 기준 토큰 가격을 그대로 내기 시작했고 이게 대형 고객 예산을 빠르게 흔들고 있다는 얘기야.

ai-ml

컴팔과 GMI 클라우드, 대규모 추론용 AI 인프라 구축 협력

컴팔이 실리콘밸리 기반 AI 인프라 기업 GMI 클라우드와 협력해 대규모 추론과 에이전틱 AI 워크로드에 맞춘 GPU 서버 인프라를 구축한다고 발표했어. COMPUTEX 2026에서는 NVIDIA HGX B300을 지원하는 Compal SGX30-2 같은 고성능 AI 서버 플랫폼도 선보일 예정이야.

ai-ml

AI 쓰면 편해진다더니, 직장인들은 ‘AI 과부하’에 지쳐가는 중

국내 직장인들이 AI 전환 압박, AI 답변 검증 부담, 대체 불안 때문에 피로감을 호소하고 있어. 중앙일보 설문에서는 5284명 중 31.6%가 ‘AI 답변 검증에 시간이 더 걸릴 때’를 가장 지치는 순간으로 꼽았고, 기업들은 무작정 AI 사용량을 밀어붙이는 방식에서 업무 방식 재설계로 넘어가야 한다는 지적이 나와.