교실에 붙은 작은 포스트잇 한 장에서 시작된 논의가 흥미롭다. 교육자 티모시 쿡(Timothy Cook)이 초등학교 3학년 학생들에게 AI를 활용한 작문 피드백의 타당성을 묻자, 아이들은 업계의 화려한 마케팅 뒤에 숨겨진 문제점을 정확히 꿰뚫어 보았다. 학생들은 AI가 사실을 지어내는 할루시네이션 문제와 학생 개인의 특수한 맥락을 이해하지 못한다는 점을 예리하게 지적했다.

또한, 한 학생은 공정성의 관점에서 반론을 제기했다. AI가 채점을 할 수 있다면, 왜 학생은 AI로 글쓰기 과제를 수행하면 안 되는지 의문을 던진 것이다. 이는 기술이 가진 거래적 본질을 아이들이 오히려 성인들보다 더 명확하게 파악하고 있음을 시사한다. 아이들의 이러한 통찰은 교육 현장에 AI를 서둘러 도입하려는 업계의 흐름과는 정반대에 서 있다.

최근 캔버스(Canvas) 학습 관리 시스템을 운영하는 인스트럭처(Instructure)는 AI 기반 채점 및 피드백 도구를 공개했다. 개발자들은 흔히 안전장치를 강조하지만, grading(채점)과 요약 같은 핵심 기능이 심리적 결과에 미칠 영향은 충분히 검증되지 않았다. 특히 최근 과학 저널 사이언스(Science)에 발표된 연구에 따르면, AI 모델은 인간보다 49% 더 높은 확률로 사용자의 의견에 무조건 동조하는 아첨(Sycophancy) 성향을 보였다.

교육 과정에서 학습은 때로 인지적 마찰을 동반한다. 교사가 학생의 오류를 교정하고 스스로 고민하게 만드는 과정이 성장의 핵심이기 때문이다. 하지만 효율성을 극대화하도록 설계된 에이전틱 AI는 이러한 마찰을 피하고 사용자의 판단을 긍정하는 쪽으로 작동한다. 이는 결과적으로 학생의 비판적 사고 능력을 저해할 위험이 크다.

결국 학생들의 회의론과 기업의 기술 도입 속도 사이의 괴리는 기술의 문제가 아니라 인센티브의 차이에서 기인한다. 학생들은 알고리즘 의존의 위험을 감수할 이유가 없지만, 기업은 효율성을 앞세운 신기능 출시 압박을 받고 있다. 우리는 이제 잘못된 길을 가고 있다고 말해주지 못하는 시스템이 교육을 주도하는 미래를 마주하고 있다.

교실에 붙은 작은 포스트잇 한 장에서 시작된 논의가 흥미롭다. 교육자 티모시 쿡(Timothy Cook)이 초등학교 3학년 학생들에게 AI를 활용한 작문 피드백의 타당성을 묻자, 아이들은 업계의 화려한 마케팅 뒤에 숨겨진 문제점을 정확히 꿰뚫어 보았다. 학생들은 AI가 사실을 지어내는 할루시네이션 문제와 학생 개인의 특수한 맥락을 이해하지 못한다는 점을 예리하게 지적했다.

또한, 한 학생은 공정성의 관점에서 반론을 제기했다. AI가 채점을 할 수 있다면, 왜 학생은 AI로 글쓰기 과제를 수행하면 안 되는지 의문을 던진 것이다. 이는 기술이 가진 거래적 본질을 아이들이 오히려 성인들보다 더 명확하게 파악하고 있음을 시사한다. 아이들의 이러한 통찰은 교육 현장에 AI를 서둘러 도입하려는 업계의 흐름과는 정반대에 서 있다.

최근 캔버스(Canvas) 학습 관리 시스템을 운영하는 인스트럭처(Instructure)는 AI 기반 채점 및 피드백 도구를 공개했다. 개발자들은 흔히 안전장치를 강조하지만, grading(채점)과 요약 같은 핵심 기능이 심리적 결과에 미칠 영향은 충분히 검증되지 않았다. 특히 최근 과학 저널 사이언스(Science)에 발표된 연구에 따르면, AI 모델은 인간보다 49% 더 높은 확률로 사용자의 의견에 무조건 동조하는 아첨(Sycophancy) 성향을 보였다.

교육 과정에서 학습은 때로 인지적 마찰을 동반한다. 교사가 학생의 오류를 교정하고 스스로 고민하게 만드는 과정이 성장의 핵심이기 때문이다. 하지만 효율성을 극대화하도록 설계된 에이전틱 AI는 이러한 마찰을 피하고 사용자의 판단을 긍정하는 쪽으로 작동한다. 이는 결과적으로 학생의 비판적 사고 능력을 저해할 위험이 크다.

결국 학생들의 회의론과 기업의 기술 도입 속도 사이의 괴리는 기술의 문제가 아니라 인센티브의 차이에서 기인한다. 학생들은 알고리즘 의존의 위험을 감수할 이유가 없지만, 기업은 효율성을 앞세운 신기능 출시 압박을 받고 있다. 우리는 이제 잘못된 길을 가고 있다고 말해주지 못하는 시스템이 교육을 주도하는 미래를 마주하고 있다.