수학 난제 푸는 AI와 전기 먹는 AI, 이제는 ‘어떻게 굴릴지’가 진짜 문제

• 이 글은 AI를 세 얼굴로 봄. 수학 난제를 푸는 AI, 전기를 미친 듯이 쓰는 AI, 그리고 우리가 자는 동안 일을 해놓는 AI.

  • 그냥 ‘AI 대단하다’ 류의 칼럼이 아니라, AI를 연구 파트너로 쓸 때 생기는 가능성과 비용을 한 번에 묶어서 봄.

• 첫 번째 포인트는 AI가 인간이 잘 못하는 방식으로 문제를 건드릴 수 있다는 것임.

  • 사람은 익숙한 프레임에 갇히면 잘 안 벗어나는데, AI는 전혀 다른 학문 분야를 끌어와 조합하는 식의 탐색을 할 수 있음.
  • 글에서는 이걸 범용성(General Intelligence), 장기 추론(Long-horizon reasoning), 공동 과학자(Co-Scientist) 같은 키워드로 설명함.

• 그래서 AI에게 어려운 문제를 맡길 때는 ‘정답 찾아줘’보다 ‘서로 다른 분야를 엮어서 접근해봐’가 더 좋은 주문일 수 있음.

  • 특히 수학 난제나 연구 문제처럼 정해진 절차가 없는 영역에서는 낯선 조합을 많이 시도하는 능력이 꽤 큰 무기가 됨.
  • 이 관점에서는 AI가 도구라기보다 실험을 대신 많이 돌려보는 연구 파트너에 가까워짐.

• 다음 키워드는 자율 루프 시스템(Autonomous Agentic Loop)임.

  • 목표를 주면 AI가 계획하고, 실행하고, 실패를 보고, 다시 시도하는 흐름을 계속 돌리는 구조를 말함.
  • 클로드 코드 쪽 인용처럼, 앞으로 사람의 역할은 루프를 직접 다 짜고 관리하면서 AI에게 어떤 가치와 기준을 따라야 하는지 가르치는 쪽으로 옮겨갈 수 있음.

• 그런데 AI가 똑똑해질수록 비용도 같이 튀어나옴. 특히 전기와 물 얘기.

  • 글에서는 AI에게 고마움을 표현하지 않으면 연간 88GWh를 아낄 수 있다는 주장과, 샘 올트먼이 말한 수천만 달러 비용 언급을 가져옴.
  • 2025년 데이터센터 전력 소비는 448TWh로 제시됨. 프랑스 한 나라 에너지 소비량 수준이라는 비교가 붙음.
  • 이 규모를 감당하려면 토지 6900㎢와 물 약 4조5000억 리터가 필요하다는 숫자도 나옴. 와, 대화창 뒤에 이런 게 붙어 있음.

• 그래서 ‘AI에게 예의 차리지 말자’ 같은 단순 결론으로 끝내기 어렵다는 게 글의 재미있는 지점임.

  • 사람은 효율만으로 움직이지 않고, AI에게도 자연스럽게 감사 인사를 하는 존재임.
  • 글은 사용자의 말을 줄이라고만 하기보다, 감사 인사 같은 표현이 토큰을 쓰지 않도록 시스템 차원에서 처리하는 식의 미시적 개입(Micro-interventions)을 제안함.

• 마지막으로 글은 아침에 결과물을 가져다주는 AI를 상상함.

  • 행사 체크리스트, 강의 리허설 스크립트, 인터뷰 질문, 소명자료 요약 보고서 같은 작업을 밤새 준비해주는 식임.
  • 생산성은 확실히 매력적인데, 동시에 사람이 쉴 때도 시스템이 계속 돌아가면서 강박을 더 키울 가능성도 있음.

• 결국 이 글의 결론은 AI를 ‘더 쓰자’가 아니라 ‘어떤 존재로 설계할 거냐’에 가까움.

  • 연구 파트너인지, 에너지 소비 장치인지, 아침마다 숙제를 들고 오는 비서인지에 따라 설계 원칙이 달라짐.
  • 개발자에게는 프롬프트 UX, 에이전트 권한, 비용 제어, 정렬 정책이 이제 한 덩어리의 제품 문제가 됐다는 얘기임.

---

기술 맥락

• AI 에이전트 루프가 중요한 이유는, 이제 AI가 한 번 답하고 끝나는 챗봇에서 벗어나 실제 작업 흐름을 계속 굴릴 수 있기 때문이에요. 목적을 주면 계획, 실행, 검토를 반복하니까 생산성은 커지지만, 잘못된 방향으로 계속 달릴 위험도 같이 생겨요.

• 정렬(Alignment)이 같이 나오는 이유는 권한 문제 때문이에요. 코드를 고치거나 문서를 만들거나 업무 시스템에 접근하는 AI라면, 단순히 똑똑한 모델보다 어떤 행동을 허용할지 정하는 기준이 더 중요해져요.

• 환경 비용 이야기도 제품 설계와 연결돼요. 사용자가 입력한 한마디가 토큰으로 바뀌고, 토큰은 연산으로 바뀌고, 연산은 데이터센터 전력과 냉각 비용으로 이어지거든요. 그래서 프롬프트를 줄이라는 도덕론보다, 불필요한 토큰을 시스템이 알아서 줄이는 설계가 더 현실적인 해법이에요.

• 개발팀 입장에서는 이 글을 ‘AI 칼럼’보다 에이전트 운영 체크리스트로 보는 게 좋아요. 루프를 어디까지 자동화할지, 비용 한도를 어떻게 둘지, 사용자의 자연스러운 표현을 어떻게 압축할지 같은 결정이 실제 서비스 품질을 좌우하게 돼요.