요즘 인공지능은 우리 생활에서 쉽게 만날 수 있다. 궁금한 것을 물어보거나 공부와 숙제를 할 때 AI의 도움을 받기도 한다. 그런데 AI가 알려주는 답은 항상 맞을까? 다 믿어도 될까? AI에게 내 이름을 알려주거나 사진을 줘도 괜찮을까? 어린이들은 AI를 안전하게 사용하는 방법을 얼마나 알고 있을까?

▲ 장민수 도의원이 본회의에서 조례안을 대표 발의하고 있는 모습 ⓒ 경기도의회

지난 6월 9일, 경기도의회 제391회 정례회 제1차 본회의에서 장민수 의원(더불어민주당, 안양5)이 대표 발의한 「경기도 청소년 인공지능 윤리 교육 활성화 지원 조례안」이 통과됐다. 조례란 경기도에서 필요한 규칙과 제도를 정한 것이다. ‘조례안이 본회의를 통과했다’는 것은 경기도의회 의원들이 모여 의논하고, 새로운 규칙을 만들자는 제안을 승인했다는 뜻이다.

이번 조례는 청소년들이 AI를 안전하고 올바르게 사용할 수 있도록 교육을 지원하기 위해 마련됐다. AI 윤리 교육 프로그램과 교육자료 개발, 청소년지도자 교육, 관련 기관들의 협력 등을 지원하는 내용이 담겨 있다.

초등학생도 AI 윤리 교육을 받을 수 있을까?

조례에 대해 더 자세히 알아보기 위해 장민수 경기도의원에게 이메일로 질문을 보내 서면 인터뷰를 진행했다.

장민수 의원은 AI가 우리 생활을 편리하게 해주지만, 잘못 사용하면 가짜 정보가 만들어지거나 개인정보가 침해될 수 있다고 설명했다. 또 다른 사람의 사진을 나쁘게 합성하는 딥페이크 같은 문제도 발생할 수 있어 AI 윤리 교육이 필요하다고 밝혔다.

초등학교 4학년도 이번 조례를 통해 윤리 교육을 받을 수 있냐는 질문에는 경기도에 거주하는 만 9세부터 24세까지의 청소년이 지원 대상이므로 초등학교 4학년도 포함된다고 답했다.

어린이들이 AI를 사용할 때 가장 주의해야 할 점을 물었다. 장 의원은 첫 번째로 “AI가 알려주는 말을 100% 다 믿지 않는 비판적 태도”를 말했다. AI가 알려준 내용을 그대로 믿거나 숙제에 옮기기보다는 사실인지 한 번 더 확인하는 습관이 필요하다는 것이다. 두 번째는 개인정보와 저작권 보호가 중요하다고 했다. 자신이나 친구의 이름, 사진, 집 주소 등을 AI에 함부로 입력하지 않고, 다른 사람이 만든 글이나 그림을 자신의 것처럼 사용하지 않아야 한다고 당부했다.

또 장 의원은 어린이들이 AI 윤리를 어려운 공부가 아니라 ‘재미있는 체험과 게임’을 통해 배울 수 있어야 한다고 강조했다.

어린이들은 AI를 어떻게 쓰고 있을까?

실제로 어린이들은 AI를 얼마나 사용하고, AI를 안전하게 사용하는 방법은 얼마나 알고 있을까? 이를 알아보기 위해 산의초등학교 4학년 10반 학생 23명 중 21명을 대상으로 설문조사를 했다. 

먼저 ‘AI를 사용해 본 적이 있나요?’라는 질문에 6명은 ‘자주 사용한다’, 13명은 ‘가끔 사용한다’고 답했다. ‘사용해 본 적이 없다’고 답한 친구는 2명이었다. 설문에 참여한 21명 중 19명이 AI를 사용해 본 경험이 있는 것이다.

AI를 주로 사용하는 목적으로는 ‘궁금한 것 물어보기’가 12명으로 가장 많았고, ‘공부나 숙제’가 6명으로 뒤를 이었다. ‘그림 그리기나 이야기하기’, ‘사용하지 않는다’, ‘기타’는 각각 1명이었다.

‘AI가 알려주는 답은 항상 맞을까요?’라는 질문에는 18명이 ‘틀릴 때도 있다’고 답했다. 3명은 ‘잘 모르겠다’고 답했고, ‘항상 맞는다’고 답한 친구는 한 명도 없었다.

또 ‘AI에게 내 이름이나 얼굴 사진, 전화번호를 알려줘도 될까요?’라는 질문에는 17명이 ‘알려주면 안 된다’고 답했다. 나머지 4명은 ‘잘 모르겠다’고 답했고, ‘알려줘도 된다’고 답한 친구는 없었다.

이번 설문조사를 통해 많은 친구들이 AI를 사용해 본 경험이 있고, AI의 답변이 틀릴 수 있다는 사실도 알고 있다는 것을 확인했다. 하지만 개인정보를 알려줘도 되는지 잘 모르겠다고 답한 친구들도 있었다.

우리 학교에서도 AI 윤리 교육을 하고 있을까?

설문조사에서 ‘학교에서 AI를 안전하게 사용하는 방법을 배워 보고 싶나요?’라는 질문에는 12명이 ‘이미 배워 봤다’고 답했다. ‘배우고 싶다’는 3명, ‘잘 모르겠다’는 4명, ‘배우고 싶지 않다’는 2명이었다. 이미 AI 안전교육을 배워 봤다는 친구들이 있다는 사실을 확인하고, 학교에서는 어떤 교육을 하고 있는지 궁금해졌다.

그래서 4학년 10반 담임선생님에게 직접 질문했다. ‘학교에서 AI 윤리 교육을 하고 있나요?’라는 질문에 담임선생님은 ‘그렇다’고 답했고, ‘AI 윤리 교육에서 어떤 부분을 강조하나요?’라는 질문에는 ‘개인정보가 빠져나가지 않도록 주의해야 한다’고 당부했다. 

장민수 의원도 서면 인터뷰에서 개인정보 보호의 중요성을 강조했는데, 학교에서도 같은 내용을 중요하게 가르치고 있다는 것을 알 수 있었다.

이미 AI 윤리 교육을 하고 있는데, 새로운 조례는 왜 필요할까?

우리 반 설문조사에서 AI 안전 교육을 이미 배웠다고 답한 친구들도 있었고, 담임선생님도 학교에서 AI 윤리 교육을 하고 있다고 했다. 그렇다면 이미 학교에서 AI 윤리 교육을 하고 있는데, 경기도의회는 왜 새로운 조례를 만들었을까?

자료를 더 찾아 보니 경기도에서는 이번 조례안이 통과되기 전부터 AI 윤리 교육을 위한 노력을 해오고 있었다. 경기도교육청이 2025년 7월 7일 발표한 보도자료에 따르면, 2025년 7월 초등학교 4학년용 ‘미래를 여는 디지털 시민’과 중학교용 ‘슬기로운 인공지능 윤리생활’ 교과서를 활용한 교사 연수를 진행했다. 이 연수에 초·중학교 교사 266명이 참여하였다고 한다. 

그런데 학교에 다니지 않는 청소년들은 어디에서 AI 윤리 교육을 받을 수 있을까? 장민수 의원은 서면 인터뷰에서 이번 조례를 통해 경기도청과 경기도교육청, 청소년수련관과 지원센터 등, 여러 기관들이 힘을 모아 다양한 방법으로 청소년들에게 AI 윤리 교육을 할 수 있게 됐다고 설명했다. 예컨대 학교가 아닌 청소년들이 자주 이용하는 시설에서도 AI 윤리 교육이 이루어질 수 있다는 뜻이다. 그로 인해 학교 밖 청소년이나 청소년 복지시설을 이용하는 청소년들도 AI 윤리 교육을 받을 수 있도록 하고, 체험형 교육을 확대하기 위해 노력하고 있다고 말했다.

즉, 이번 조례는 AI 윤리 교육을 처음 시작하기 위한 것이 아니라 이미 이루어지고 있는 교육을 더 많은 청소년이 접할 수 있도록 지원하고, 관련 기관들이 함께 협력해 보다 많은 청소년이 교육을 받을 수 있도록 하기 위함이다.

AI, 안전하게 사용하는 게 중요해요

이번 취재를 통해 주변의 많은 친구들이 AI를 사용해 본 경험이 있었고, AI가 틀릴 수 있다는 사실도 알고 있음을 확인했다. 학교에서도 개인정보를 보호하는 방법을 중요하게 가르치고 있었다.

하지만 AI를 더욱 안전하게 사용하려면 알고 있는 것에서 그치지 않고 실제로 실천하는 것이 중요하다. AI가 알려주는 답을 한 번 더 확인하고, 자신의 개인정보를 소중히 지키기 위해 주의해야 한다. 앞으로 더 많은 어린이와 청소년이 AI를 안전하고 올바르게 사용하는 방법을 쉽고 재미있게 배울 수 있기를 기대해 본다.

▒ 참고 자료 

- 경기도의회, 장민수 의원 <경기도 청소년 인공지능 윤리 교육 활성화 지원 조례안> 관련 보도자료 (2026년 6월 9일)

- 경기도교육청 보도자료 <디지털 세상 속 학생, 교실에서 책임과 윤리 배운다> (2025년 7월 7일)