본문으로 건너뛰기
피드

"Bash면 다 된다"를 실제로 벤치마크해봤더니 — SQL 압승, 하이브리드가 최적

ai-ml 약 4분
vote
0
댓글
북마크

Vercel과 Braintrust가 AI 에이전트에게 SQL/Bash/파일시스템 도구를 주고 성능을 비교. 초기 SQL 압승(100% vs 53%)이었지만, 디버깅 후 하이브리드(SQL+Bash) 접근이 자기 검증을 통해 가장 신뢰할 수 있는 결과를 보여줌.

  • 1

    SQL 정확도 100%, Bash 53%, 파일시스템 63%

  • 2

    Bash가 정교한 셸 명령을 생성하지만 성능으로 연결 안 됨

  • 3

    eval 데이터 자체에 오류 5건 발견

  • 4

    하이브리드가 SQL 쿼리 후 grep으로 교차 검증하는 행동 발현

  • 5

    eval 하네스 오픈소스 공개

"Bash면 다 된다"를 실제로 테스트해봄

  • Vercel 블로그에 Braintrust의 Ankur Goyal이 기고한 글. AI 에이전트에게 "파일시스템 + bash만 주면 된다"는 가설을 실제 벤치마크로 검증함

  • 배경: LLM이 코드, 터미널, 파일 탐색에 대해 광범위하게 학습했으니, 셸만 주면 알아서 작업할 수 있다는 주장이 커뮤니티에서 힘을 얻고 있었음. Vercel도 세일즈 콜, 지원 티켓 같은 비코딩 데이터를 파일시스템에 매핑해서 에이전트에게 grep하게 하는 접근법을 보여준 바 있음

벤치마크 설계

  • GitHub 이슈와 PR 데이터셋을 대상으로 간단한 쿼리("보안 관련 이슈 몇 개?")부터 복잡한 쿼리("버그 신고 후 수정 PR이 달린 이슈 찾기")까지 테스트

  • 세 가지 에이전트를 경쟁시킴: SQL 에이전트(SQLite 직접 쿼리), Bash 에이전트(JSON 파일을 셸 명령으로 탐색), 파일시스템 에이전트(search/read 도구만 사용)

초기 결과: SQL 압승

  • SQL이 정확도 100%, Bash는 53%에 그침. 토큰 사용량 7배, 비용 6.5배, 소요 시간 9배 더 많았음. 기본 파일시스템 도구(63%)가 오히려 풀 Bash 접근보다 나았음

  • 흥미로운 점: Bash 에이전트가 find, grep, jq, awk, xargs를 체이닝하는 상당히 정교한 셸 명령을 생성했는데, 그 "지식"이 실제 성능으로 연결되지 않았음

디버깅하니까 이야기가 달라짐

  • 성능 병목: 68,000개 파일에 stat() 호출이 10초 타임아웃. just-bash 도구에 최적화 적용
  • 스키마 컨텍스트 부재: Bash 에이전트가 JSON 파일 구조를 몰랐음. 시스템 프롬프트에 스키마 추가하니 개선됐지만 격차를 좁히진 못함
  • 평가 데이터 자체의 오류: 정답이 틀리거나 모호한 문제가 5개 발견됨. Bash 에이전트가 실제로는 더 많은 정답을 찾았는데 스코어러가 오답 처리한 경우도 있었음

하이브리드가 답

  • SQL과 Bash를 둘 다 주니 에이전트가 흥미로운 행동을 보임: SQL로 쿼리하고 → 파일시스템에서 grep으로 교차 검증. 이 자기 검증 덕에 일관된 100% 정확도 달성

  • 트레이드오프는 비용. 하이브리드가 순수 SQL 대비 약 2배 토큰을 씀. 하지만 순수 SQL이 가끔 틀리는 것까지 감안하면 신뢰성에서는 하이브리드가 우위

💡

> 핵심 교훈: 구조화된 데이터에는 SQL이 직접적이고 빠름. 탐색과 검증에는 Bash가 SQL이 못 하는 유연성을 제공. 하지만 진짜 교훈은 eval 자체를 계속 디버깅해야 한다는 것 — 도구가 아니라 평가 기준이 틀릴 수 있음

  • eval 하네스는 오픈소스로 공개됨. 자기 데이터셋(고객 티켓, 세일즈 콜, 로그 등)으로 교체해서 돌려볼 수 있음

에이전트 도구 선택보다 평가 프레임워크의 품질이 더 중요할 수 있다는 메타 교훈이 가장 인상적. 도구 논쟁보다 eval 디버깅에 시간을 쓰라는 실질적 조언.

댓글

댓글

댓글을 불러오는 중...

ai-ml

유튜브, AI 생성 영상에 자동 라벨 붙인다

유튜브가 사실적으로 보이거나 의미 있게 AI로 변경·생성된 콘텐츠에 더 눈에 띄는 라벨을 적용하고, 제작자가 AI 사용 여부를 밝히지 않아도 내부 신호로 감지되면 자동 라벨을 붙이겠다고 밝혔다. 다만 라벨만으로 추천 노출이나 수익화 자격이 바뀌지는 않으며, 제작자는 YouTube Studio에서 잘못된 판정을 수정할 수 있다.

ai-ml

테크 CEO들의 'AI 만능론', 숫자는 아직 그렇게 말하지 않는다

테크 업계에서 AI를 이유로 한 대규모 감원과 조직 재편이 이어지는 가운데, Box 창업자 애런 레비는 CEO들이 실제 업무의 마지막 1마일을 모른 채 AI 에이전트의 능력을 과대평가하고 있다고 지적했다. 2026년 첫 5개월 동안 이미 11만5430명이 해고됐고, 여러 연구는 AI 도입이 체감 생산성만큼 실제 생산성을 끌어올렸다는 근거가 아직 약하다고 말한다.

ai-ml

오픈AI와 앤트로픽, 코딩 에이전트로 드디어 돈 되는 시장을 찾은 듯

사이먼 윌리슨은 오픈AI와 앤트로픽이 코딩 에이전트와 기업용 과금으로 진짜 제품-시장 적합성을 찾았다고 봐. 개인 구독자에게는 월 100달러 플랜이 싸게 느껴지지만, 기업 고객은 이제 사용량 기준 토큰 가격을 그대로 내기 시작했고 이게 대형 고객 예산을 빠르게 흔들고 있다는 얘기야.

ai-ml

컴팔과 GMI 클라우드, 대규모 추론용 AI 인프라 구축 협력

컴팔이 실리콘밸리 기반 AI 인프라 기업 GMI 클라우드와 협력해 대규모 추론과 에이전틱 AI 워크로드에 맞춘 GPU 서버 인프라를 구축한다고 발표했어. COMPUTEX 2026에서는 NVIDIA HGX B300을 지원하는 Compal SGX30-2 같은 고성능 AI 서버 플랫폼도 선보일 예정이야.

ai-ml

AI 쓰면 편해진다더니, 직장인들은 ‘AI 과부하’에 지쳐가는 중

국내 직장인들이 AI 전환 압박, AI 답변 검증 부담, 대체 불안 때문에 피로감을 호소하고 있어. 중앙일보 설문에서는 5284명 중 31.6%가 ‘AI 답변 검증에 시간이 더 걸릴 때’를 가장 지치는 순간으로 꼽았고, 기업들은 무작정 AI 사용량을 밀어붙이는 방식에서 업무 방식 재설계로 넘어가야 한다는 지적이 나와.