CERN, 업계와 정반대로 간다 — 나노초 추론을 위해 초소형 AI를 FPGA에 직접 태움

업계가 모델을 키울 때, CERN은 칩에 태우고 있음

• LHC(대형 강입자 충돌기)가 연간 생성하는 원시 데이터는 약 4만 엑사바이트 — 현재 전체 인터넷의 대략 1/4에 해당하는 양임. 피크 가동 시 초당 수백 테라바이트가 쏟아지는데, 이걸 전부 저장하는 건 물리적으로 불가능
• 그래서 CERN은 충돌 이벤트의 99.98%를 즉시 영구 삭제하고, 과학적으로 의미 있는 0.02%만 남김. 이 실시간 필터링이 현대 과학에서 가장 극한의 컴퓨팅 과제 중 하나임

GPU 대신 FPGA에 태운 초소형 AI

• CERN은 의도적으로 GPU/TPU 기반 아키텍처를 버리고, 초소형 AI 모델을 FPGA와 ASIC에 직접 물리적으로 구현하는 방식을 선택함. 약 1,000개의 FPGA로 구성된 Level-1 트리거에서 AXOL1TL이라는 특화 알고리즘이 돌아감
• 핵심 도구는 오픈소스 HLS4ML — PyTorch/TensorFlow로 작성한 ML 모델을 합성 가능한 C++ 코드로 변환해서 FPGA, SoC, ASIC에 직접 배포할 수 있게 해줌
• 흥미로운 설계 철학: 칩 리소스의 상당 부분을 뉴럴넷 레이어가 아니라 사전 계산된 룩업 테이블에 할당함. 일반적인 감지기 신호 패턴의 결과를 미리 저장해두고, 부동소수점 연산 없이 거의 즉시 결과를 뱉는 방식. 이게 나노초 단위 레이턴시를 가능하게 하는 비결임

2단계 필터와 미래 계획

• Level-1 트리거를 통과한 데이터는 25,600개 CPU + 400개 GPU로 구성된 지상 컴퓨팅 팜(High-Level Trigger)에서 2차 처리됨. 여기서 하루 약 1페타바이트의 과학적 가치가 있는 데이터로 압축
• 2031년 가동 예정인 고휘도 LHC(HL-LHC)는 충돌당 데이터가 약 10배 증가할 예정이라 차세대 초소형 AI 모델과 FPGA/ASIC 최적화가 이미 진행 중

왜 개발자가 주목해야 하는가

• 업계가 점점 더 큰 모델을 만드는 트렌드와 정반대 방향. CERN은 가장 작고, 가장 빠르고, 가장 효율적인 AI 모델을 만들고 있음
• 이 "타이니 AI(tiny AI)" 접근법은 자율주행, 고빈도 트레이딩(HFT), 의료 영상, 항공우주 등 실시간 초저지연 추론이 필요한 다른 분야에도 직접 적용 가능
• HLS4ML이 오픈소스라는 것도 포인트 — 엣지 AI에 관심 있는 개발자라면 직접 써볼 수 있음