구글, 위험한 AI 건강 정보 요약 기능 일부 삭제 — 가디언 조사 이후

가디언 조사가 밝힌 문제

• 구글이 AI Overviews의 건강 관련 요약 일부를 삭제함 — 가디언(The Guardian) 조사에서 잘못된 정보로 환자에게 위험을 줄 수 있다는 사실이 드러난 뒤의 조치임
• "간 혈액 검사 정상 범위(what is the normal range for liver blood tests)" 같은 특정 검색어에 대해 전문가들이 위험하다고 지적하자 해당 쿼리를 비활성화함
• 췌장암 관련해서도 심각한 오류가 발견됨 — AI가 환자에게 고지방 식품을 피하라고 권고했는데, 이는 체중 유지를 권장하는 표준 의료 지침과 정반대임

전문가들의 경고

• 간 검사 결과로 ALT, AST, 알칼리성 포스파타제 등 원시 데이터 표를 보여줬는데, 필수적인 맥락 설명이 전혀 없었음
• 나이, 성별, 인종 같은 인구통계학적 요인에 따른 수치 보정도 안 됨
• 영국간재단(British Liver Trust)의 바네사 헵디치(Vanessa Hebditch)는 간 기능 검사가 여러 혈액 검사의 조합이라 단순 숫자 비교로는 해석이 불가능하다고 경고함
• "정상 결과가 나와도 심각한 간 질환이 있을 수 있는데, AI가 이런 점을 알려주지 않아 거짓 안심을 줄 수 있다"고 지적함

구글의 대응과 구조적 문제

• 구글 대변인은 "대다수의 AI Overviews가 정확한 정보를 제공한다"고 주장함
• 내부 임상의 팀이 검토한 결과 "많은 경우 정보가 부정확하지 않았고 고품질 웹사이트에서 뒷받침된다"고 밝힘
• 근본 원인은 설계 결함에 있음 — AI Overviews가 구글 페이지 랭킹 상위 결과를 기반으로 정보를 보여주는 구조인데, 구글 랭킹 알고리즘이 SEO 조작 콘텐츠와 스팸에 취약함
• 신뢰할 수 없는 검색 결과를 AI가 권위 있는 어조로 요약해버려서 오류가 더 신뢰감 있게 보이는 문제가 생김

여전히 남아있는 허점들

• 원래 쿼리를 약간만 변형해도("lft reference range", "lft test reference range" 등) AI Overviews가 여전히 표시됨
• 가디언이 지적한 다른 문제 사례들도 아직 활성 상태임
• 과거에도 AI Overviews가 피자에 접착제를 바르라거나 돌을 먹으라는 답변을 한 적이 있음
• 사용자들이 검색어에 욕설을 넣으면 AI Overviews가 비활성화된다는 꼼수를 발견하기도 함