AI가 청소년의 ‘생각 훈련’을 건너뛰게 만든다는 경고

• 글의 출발점은 꽤 세게 박힘. “AI에 인지 활동을 내맡기면 뇌 발달도 일어나지 않는다”는 주장임

  • 스마트폰이 전 국민의 생활 습관을 바꿨듯, 이제는 AI가 생각할 기회를 빼앗고 있다는 문제의식
  • 특히 성인보다 청소년에게 더 위험할 수 있다고 봄
  • 이유는 청소년이 숙제, 고민 상담, 정보 탐색에서 AI를 훨씬 일상적으로 쓰고 있기 때문

• 청소년에게 AI가 더 강하게 작동하는 이유는 ‘애착 대상’ 문제와 연결됨

  • 청소년기는 부모 중심의 애착이 또래나 외부 대상으로 옮겨가는 시기
  • 그런데 AI는 거절하지 않고, 즉각 반응하고, 공감해주고, 비난하지 않음
  • 정연경 소아청소년 정신건강의학과 전문의는 이런 특성 때문에 AI가 청소년에게 “자유로운 부모상”처럼 작동할 수 있다고 봄

• 중요한 건 “AI와 대화하면 무조건 위험하다”가 아님

  • 정 전문의는 AI와의 대화 자체를 위험하다고만 보는 건 과도하다고 선을 그음
  • 문제는 AI가 유일한 대화 상대, 유일한 정보 통로가 되는 상황임
  • 다른 관계가 끊기고 한쪽에서 제공하는 정보만 계속 받으면 판단력이 왜곡될 수 있다는 얘기

• AI 서비스는 몰입과 의존을 강화하기 쉬운 구조도 갖고 있음

  • 관계의 시작과 종료를 사용자가 혼자 통제할 수 있음
  • 사람과 대화할 때 필요한 인사, 맥락 설명, 감사, 마무리 같은 사회적 부담이 거의 없음
  • 그래서 AI 대화에 익숙해질수록 실제 관계에서의 소통이 더 어려워질 수 있다는 지적이 나옴

• 글쓰기와 숙제에서 AI가 위험하다는 주장은 “결과물”이 아니라 “훈련 과정”을 봐야 이해됨

  • 김재인 교수는 AI가 이미 성장한 사람을 돕는 기술이지, 아직 성장할 사람을 성장시키는 기술은 아니라고 봄
  • 신입 기자가 AI로 녹취록을 받아도 기사 작성 능력이 부족하면 중견 기자보다 도움을 덜 받는다는 예시가 나옴
  • 인간 지능을 잘 쓰는 사람이 AI도 잘 쓴다는 얘기임

• 특히 글쓰기는 그냥 생각을 출력하는 일이 아니라 생각을 만드는 과정임

  • 고생하며 문장을 짜고 구조를 바꾸는 과정에서 생각의 근육이 생김
  • 그런데 AI에게 글을 쓰게 하고 사용자가 사고 활동을 멈추면 새로 얻는 인지 능력은 거의 없다는 주장
  • 체육 시간에 프로 경기만 본다고 체력이 늘지 않는다는 비유가 꽤 직관적임

• 박지현 교수의 우려도 같은 방향임. AI가 일상의 조언자가 되면서 “내가 생각을 안 하게 되는 것 아닌가”라는 질문을 던짐

  • AI는 데이터를 바탕으로 가장 그럴듯한 답을 제시할 뿐임
  • 인간은 실제 사람을 만나고, 상대의 특성과 상황을 고려하고, 예상 밖의 변수까지 감당해야 함
  • 그래서 중요한 건 AI를 쓰느냐 마느냐가 아니라, 최종 판단과 책임을 인간이 계속 가져가느냐임

• 정책적으로는 연령별 AI 사용 제한이 필요하다는 주장으로 이어짐

  • 노르웨이는 초등학교 단계인 6~13세에는 학교 현장 AI 사용을 전면 금지함
  • 14~16세 중학생은 감독 하에 부분 사용
  • 17~19세 고등학생은 AI 활용법 교육을 받도록 함
  • 스퇴르 총리는 학교에서 가장 중요한 건 아이들이 읽고, 쓰고, 셈하는 걸 배우는 일이라고 말함

• 당장 넣을 수 있는 안전장치도 제안됨

  • 자살이나 자해 관련 질문을 감지하면 “주변 어른이나 친구와도 얘기해보세요” 같은 현실 관계 유도 문장을 넣는 방식
  • “저는 감정을 느끼지 않는 데이터 프로그램입니다” 같은 안내 문구를 삽입하는 방식
  • 감정 증폭과 고립 가능성이 큰 심야 시간에는 특정 질문에 제한 모드를 강제하는 방식
  • AI와 상담하더라도 반드시 실제 사람 한 명 이상과 고민을 나누도록 가르치는 방식

• 개발자 입장에서 이 글이 던지는 질문은 꽤 현실적임

  • 더 오래 붙잡아두는 챗봇이 좋은 제품인지, 아니면 특정 상황에서는 사람에게 연결하는 챗봇이 좋은 제품인지 묻게 됨
  • 교육용 AI라면 정답을 바로 주는 것보다 질문을 되묻고, 사고 과정을 남기고, 사용자가 직접 써보게 만드는 설계가 더 중요할 수 있음
  • 결국 AI 시대의 핵심 역량은 답을 받는 능력이 아니라, 답을 의심하고 더 나은 질문을 던지는 능력이라는 결론으로 이어짐

---

기술 맥락

• 이 글에서 말하는 기술적 선택은 “AI를 얼마나 잘 쓰게 할 것인가”보다 “어떤 발달 단계에서 어디까지 쓰게 할 것인가”에 가까워요. 같은 생성형 AI라도 성인 숙련자에게는 생산성 도구가 되지만, 청소년에게는 글쓰기와 판단 훈련을 건너뛰게 만드는 우회로가 될 수 있거든요.

• 그래서 노르웨이처럼 연령별로 다르게 접근하는 방식이 나와요. 초등학생에게는 전면 금지, 중학생에게는 감독 하 부분 사용, 고등학생에게는 활용법 교육을 두는 식이에요. 이유는 읽기, 쓰기, 셈하기 같은 기초 훈련에는 시간이 있고, 그 시기를 놓치면 나중에 되돌리기 어렵기 때문이에요.

• 제품 설계 관점에서는 상담형 AI가 특히 민감해요. 사용자가 자해나 자살을 언급하거나 심야에 감정적으로 몰입하는 상황에서는 답변 품질만 볼 게 아니라 실제 사람과 연결되도록 유도해야 해요. 이건 모델 성능 문제가 아니라 안전 설계와 운영 정책 문제에 더 가까워요.

• 교육용 AI도 마찬가지예요. 정답을 바로 주면 편하지만, 사용자가 직접 문장을 만들고 반박하고 고치는 과정이 사라져요. 그래서 좋은 교육용 AI는 답을 대신 써주는 도구보다 사고 과정을 붙잡아주는 도구에 가까워야 해요.