전 Uber 자율주행 책임자, Tesla FSD 사용 중 사고 — 감독형 자율주행의 구조적 결함을 폭로

전 Uber 자율주행 책임자, Tesla FSD 사용 중 사고 — "감독형 자율주행은 근본적으로 결함이 있다"

• Mozilla CTO이자 전 Uber 자율주행차 부문(ATC) 책임자인 Raffi Krikorian이 Tesla Model X의 FSD(Full Self-Driving) 모드 사용 중 주택가 도로에서 콘크리트 벽에 충돌, 차량이 전파됨
• 뒷좌석에 자녀들이 탑승 중이었으며, 본인은 뇌진탕과 목 부상을 입었고, 자녀들은 무사했음
• The Atlantic에 에세이를 기고하여 사고 경위와 감독형 자율주행의 구조적 문제를 상세히 분석함

사고 경위

• Boy Scouts 모임에 가는 익숙한 일요일 드라이브 중 FSD 모드로 주행하고 있었음
• 회전 구간에서 FSD가 갑자기 방향 감각을 잃고, 스티어링 휠이 불규칙하게 움직이며 경고 없이 감속됨
• Krikorian이 즉시 핸들을 잡았으나 복구할 수 없었고, 콘크리트 벽에 충돌함
• Tesla가 요구하는 대로 손은 핸들 위에 있었으나, 시스템이 수개월간 "신뢰하도록 훈련"시킨 상태였음

자율주행 전문가도 당했다

• Krikorian은 Uber ATC에서 자율주행차를 개발하고, 안전 운전자에게 개입 프로토콜을 직접 교육한 인물임
• 재임 2년간 부상 사고 제로를 달성한 이력이 있음
• 그런 수준의 전문가조차 FSD의 조건화(conditioning)를 피하지 못했다는 점이 핵심임

감독형 자율주행의 구조적 모순

• 핵심 논지: Tesla는 감독이 불필요하게 느껴지도록 설계된 시스템을 인간에게 감독하라고 요구하고 있음
• 불안정한 기계는 경각심을 유지시키고, 완벽한 기계는 감독이 필요 없지만, 99% 완벽한 기계는 운전자가 신뢰하되 주의를 멈추게 만드는 함정을 만듦
• IIHS 연구: 어댑티브 크루즈 컨트롤 1개월 사용 후 운전자가 핸드폰을 보는 확률이 6배 증가함
• 2018년 Mountain View 사고: Apple 엔지니어에게 6초의 경고 시간이 있었으나 핸들을 잡지 않음
• 2018년 Uber Tempe 사고: 센서가 5.6초 전에 보행자를 감지했으나, 안전 운전자가 눈을 들었을 때 남은 시간은 1초 미만이었음

Tesla의 데이터 관행 문제

• Tesla는 운전자의 손 위치, 반응 시간, 시선 추적 데이터를 상시 기록하고, 사고 후 운전자에게 책임을 전가하는 데 활용함
• 반면 운전자가 자신의 데이터를 요청하면 단편적인 정보만 제공됨
• Florida 사망 사고 소송(배심원 평결 $243M)에서는 Tesla가 "찾을 수 없다"고 주장한 데이터를 해커를 고용하여 차량 칩에서 복구해야 했음
• Level 2 분류상 사고 책임은 항상 운전자에게 귀속됨 — 법적 프레임워크 자체가 Tesla의 방패가 됨

BYD와의 대조

• BYD는 2025년 7월 자율 주차 기능 관련 사고 시 보험 청구 없이 직접 피해를 보상하겠다고 발표함
• 제조사와 운전자 간 책임 공유가 불가능한 것이 아니라 선택의 문제임을 보여주는 사례임

핵심 역설

• FSD가 더 좋아질수록 더 위험해짐 — 매끄러운 작동이 운전자의 안전 불감증을 강화하고, 시스템 실패 시 복구가 더욱 어려워짐
• "감독(supervised)"이라는 레이블은 안전 솔루션이 아니라 법적 방패에 불과함
• 자율주행 시스템을 직접 만든 전문가도 조건화를 피할 수 없었다면, 일반 운전자가 이를 안전하게 사용할 수 있다는 전제 자체가 성립하지 않음