본문으로 건너뛰기
피드

최고의 코딩 에이전트를 맞추려 하지 마라, 여러 개 돌려서 골라라

ai-ml 약 3분
vote
0
댓글
북마크

211개 실제 작업과 18개 에이전트 데이터 분석 결과, 최고 에이전트 하나의 승률은 24%에 불과하지만 상위 7개를 병렬로 돌리면 91%까지 올라감. 예측(prediction)이 아닌 선택(selection)으로 프레이밍을 전환하는 best-of-N 전략을 제안함.

  • 1

    Top-1 에이전트 승률 24%, Top-3은 51%, Top-7은 91%로 코호트 효과가 극적

  • 2

    상위 티어 내 에이전트 간 신뢰 구간이 크게 겹쳐서 순위가 통계적으로 불안정함

  • 3

    7개 이후로는 수확 체감 - 8~18위 추가해도 개선폭 미미

  • 4

    토큰은 싸고 인간 엔지니어 시간은 비싸다는 경제적 논리

  • "어떤 코딩 에이전트가 최고인가?"라는 질문 자체가 잘못되었다는 주장임
  • 에이전트 성능은 언어, 작업 유형, 시점에 따라 크게 달라지기 때문에 하나를 고르는 건 예측(prediction) 문제임
  • 대신 여러 에이전트를 병렬로 돌려서 가장 나은 결과를 고르면 됨. 예측 문제를 선택(selection) 문제로 전환하는 것

211개 실제 작업, 18개 에이전트의 실전 데이터

  • Voratiq 팀이 실제 업무에서 수개월간 이 워크플로우를 운영한 데이터임 (벤치마크가 아님)
  • 작업 대부분은 풀스택 TypeScript 제품 작업: 기능 구현, 버그 수정, 리팩토링 등
  • 스펙을 작성하면 여러 에이전트가 격리된 worktree에서 병렬 작업하고, 사람이 diff를 비교해서 최선을 선택함
  • Bradley-Terry 모델로 Elo 스타일 레이팅을 산출함

중요

> 핵심 수치:

  • Top-1 에이전트 단독 승률: 24%
  • Top-3 코호트 승률: 51% (2배 이상)
  • Top-7 코호트 승률: 91%
  • 7개 이후로는 수확 체감. 8~18위 에이전트를 추가해도 승률 개선폭이 미미함
  • 상위 티어 내에서는 신뢰 구간이 크게 겹침. 1위와 2위의 레이팅 차이가 약 40포인트 겹쳐서 통계적으로 구분 불가능함
  • 즉 리더보드가 무의미한 건 아니지만, 하나를 고르는 용도보다는 코호트를 구성하는 용도로 써야 함
  • "토큰은 싸고, 인간 엔지니어의 시간은 비쌈" - 에이전트 몇 개를 더 돌리는 비용이 더 나은 결과물, 적은 수정, 적은 버그로 돌아옴
  • 예측에서 선택으로의 프레이밍 전환이 핵심임. 최고의 에이전트를 미리 알 수 없다면, 여러 개를 돌려서 사후에 선택하는 것이 합리적인 전략

원문 보기 (Voratiq)

리더보드에서 1위를 찾는 것보다 상위 티어 코호트를 구성해서 병렬 실행하는 게 실전에서 훨씬 효과적이라는 데이터 기반의 주장임. 에이전트 성능 비교에 매몰되기보다 선택 파이프라인을 구축하는 쪽이 더 현실적인 전략.

댓글

댓글

댓글을 불러오는 중...

ai-ml

애플 새 음성 인식 API, 온디바이스 영어 전사에서 위스퍼 스몰까지 이겼다

애플의 새 음성 인식 API인 스피치애널라이저가 리브리스피치 벤치마크에서 기존 SFSpeechRecognizer는 물론 위스퍼 스몰보다도 낮은 단어 오류율을 기록했어. 깨끗한 음성에서는 2.12%, noisy 음성에서는 4.56%로, 기존 애플 API 대비 오류율을 3.5~4배 줄였고 위스퍼 스몰보다 약 3배 빠르게 돌았어. 다만 영어·애플 플랫폼·OS 26 조건의 결과라, 다국어와 크로스플랫폼에서는 여전히 위스퍼의 장점이 남아 있어.

ai-ml

AI를 진짜 잘 쓰는 기업, 미국 증시에서 연 30% 프리미엄 받는다는 연구

예일대와 로체스터대 연구진이 기업의 실제 대형 언어 모델 사용 데이터를 분석했더니, AI 활용도가 높은 상위 20% 기업이 하위 20%보다 주당 평균 0.64% 높은 초과수익률을 냈다. 단순히 AI 기업이냐가 아니라, 업무에 AI를 얼마나 깊게 쓰는지가 시장 가치에 반영되고 있다는 얘기다.

ai-ml

ZTE, AI 에이전트폰으로 스마트폰 재도전…진짜 승부처는 앱 생태계

ZTE가 바이트댄스의 더우바오를 탑재한 AI 에이전트 스마트폰으로 시장 재진입을 노린다. 핵심은 사용자가 명령하면 AI가 여러 앱을 직접 열고 조작하는 방식인데, 위챗·타오바오·알리페이 같은 플랫폼과 충돌하면서 생태계 문제가 가장 큰 변수로 떠올랐다.

ai-ml

노벨상 학자들까지 “AI 경제 충격, 지금 제도 안 만들면 늦다”

노벨 경제학상 수상자 15명을 포함한 학자와 기술 업계 인사 약 200명이 AI가 향후 10년 안에 경제를 급격히 바꿀 수 있다며 정책 대응을 촉구했다. 이들은 산업혁명보다 큰 변화가 훨씬 짧은 시간에 올 수 있고, 대규모 일자리 대체와 생활 수준 향상이라는 양면성이 동시에 존재한다고 봤다.

ai-ml

NHN, AI 데이터센터 매출 기대감에 목표주가 5만6000원으로 상향

한국투자증권이 NHN의 목표주가를 4만5000원에서 5만6000원으로 올리고 투자의견 매수를 유지했다. 핵심 근거는 양평 AI 데이터센터 가동, 공공·민간 GPU 클러스터 수주 확대, 클라우드 사업부 신규 매출 반영이다.