생성형 AI 기반 교수·학습에 관한 질적 연구 : 학교 현장의 교사 경험을 중심으로

2.1 생성형 AI의 교육적 활용과 기능

생성형 AI는 자연어로 작성한 사용자 명령을 AI가 거대 언어 모델을 기반으로 텍스트, 이미지, 음악, 영상, 프로그래밍 코드 등 다양한 형태의 새로운 콘텐츠를 생성하는 기능을 수행한다. 이처럼 생성형 AI는 무엇을 생성하느냐에 따라 텍스트, 이미지, 음성, 음악, 영상, PPT, 프로그래밍 코드 등으로 구분되기도 하며, 최근에는 생성형 AI 기술이 발전함에 따라 점차 통합형으로 진화하고 있다[3]. 그 결과 생성형 AI를 교육 현장에서 다양하게 활용함으로써 기존의 에듀테크 기술과는 차별화된 교수·학습을 기대할 수 있다. 기존의 에듀테크 교육이 동일한 학습 내용과 방식을 통해 학습 과정을 수행한 후 그 결과가 피드백으로 이루어진 반면 생성형 AI는 다양한 학습 자료를 통해 학습자의 서로 다른 실시간 학습과 평가를 분석함으로써 즉각적인 개인별 맞춤형 피드백을 제공한다[7].

특히 프로그래밍 수업에서 학습자들이 서로 다른 형태의 코드를 구현할 때 생성형 AI의 개인별 맞춤형 피드백 제공은 학습의 효율성을 높일 수 있고, 학습 동기를 유발한다[8, 9]. 또한 생성형 AI와 학습자 간 지속적인 실시간 상호작용을 만들어 자연스럽게 학습자의 능동적 참여와 자기주도적 학습을 촉진시키면서 비판적 사고와 창의적 사고를 할 수 있게 도와준다[5, 10]. 이는 단순히 지식의 수용을 넘어 깊이 있는 학습을 유도함과 동시에 교육 경험의 맞춤형 기회를 제공함으로써 디지털 기반 교육혁신에 큰 도움이 될 것으로 판단된다. 이에 따라 교육 현장에서 교수 활동의 주체인 교사 역시 전통적인 학습 환경의 지식 전달자 역할에서 학습자의 개인별 맞춤형 학습과 자기주도적 학습을 발휘할 수 있는 방향으로 지원하는 학습 설계자, 안내자, 조력자로의 역할 변화가 요구된다[11].

2.2 생성형 AI를 활용한 교수·학습의 한계

학습 데이터에 기반하여 결과를 도출하는 생성형 AI의 특성상 데이터 의존에 따른 편향성은 데이터의 수집 단계부터 시작된다. 이러한 편향된 데이터의 학습은 불투명한 모델의 알고리즘 특성으로 인해 편향성을 발견하거나 수정하기 어려운 기술적 한계를 가지며 신뢰성에 중요한 영향을 미친다[12]. 즉 부정확하거나 편향된 정보는 교사와 학생들에게 그대로 노출될 수 있어 교육적 관점에서 심각한 문제를 일으킬 수 있다[7]. 또한 개인정보나 민감정보를 수집, 저장하여 개인정보 침해 사고로 이어질 수 있다. 뿐만 아니라 딥페이크 기술을 활용한 허위 정보 유포와 생성형 AI가 학습의 과정에서 타인의 저작물을 이용할 경우 저작권 문제가 발생할 가능성도 있다[13]. 이 밖에도 무분별한 생성형 AI의 심한 의존으로 인해 학생의 창의력과 문제해결력이 저하될 가능성이 있고[13, 14], 과제나 시험 등을 준비할 경우 표절 및 부정행위의 위험이 증가할 수 있다. 특히 생성형 AI의 도움을 더 많이 받을 수 있는 과목일수록 더 심각한 영향을 미칠 수 있다[15]. 따라서 교사는 생성형 AI의 교수·학습에 대한 교육적 활용을 면밀히 검토하고 AI의 윤리적 사용을 강조하는 AI 리터러시가 요구된다[13, 16-18].

2.3 생성형 AI 기반 교수·학습 해외 문헌 탐색

Bolick & da Silva(2024)는 ChatGPT, Midjourney, Descript와 같은 생성형 AI 도구가 교수 설계 워크플로우 및 조직 시스템에 영향을 미치는지에 대해 교수 설계 워크플로우의 효율성을 높이고 맞춤형 학습 자료 생성에 기여할 수 있으며 단순 반복 업무를 AI가 처리함으로써 교수 설계자는 더 창의적이고 전략적인 작업에 집중할 수 있다고 평가하면서 동시에 부정확한 정보와 편향된 데이터를 생성, 저작권과 같은 윤리적 도전 과제를 지적하였다. 이를 개선하기 위해 프롬프트의 구체성과 함께 윤리적 문제 해결을 위한 교육적 맥락의 신중한 접근을 강조하였다[19].

Urban 외(2024)는 ChatGPT가 대학생의 창의적 문제 해결 능력에 영향을 미치는지를 연구하였다. 그 결과 ChatGPT를 활용한 학생들은 과제 해결에 있어 품질(quality), 정교성(elaboration), 독창성(originality)에서 높은 문제 해결 성과를 보였고, 자기 효능감이 높았음을 보여줌으로써 인간과 인공지능(AI)을 결합하여 상호 학습을 통해 성과가 지속적으로 개선될 수 있음을 보여주었다. 그러나 ChatGPT가 유용하고 과제를 더 쉽게 해결해 준다는 인식이 메타인지적 판단(자기평가)에 부정확성을 초래하는 결과를 나타냈다. 따라서 ChatGPT를 잘 활용하기 위해서는 더 큰 메타인지적 역량이 필요함을 언급하였다[20].

Chng(2023)은 인공지능(AI)이 다양한 측면에서 혁신을 가져왔으며 교수·학습 분야에 깊은 영향을 미칠 수 있음을 전제로 현재의 학습 방법과 AI 기반 교수·학습 접근 방식을 비교하였다. 그 결과 ADDIE 모델(분석, 설계, 개발, 실행, 평가)을 기반으로 인공지능(AI)이 각 단계에서 수행할 수 있는 역할을 제시하였고, 교수·학습에서의 결과(outcomes), 효율성(efficacy), 학생 참여(Student engagement)를 크게 향상시킬 수 있음을 보여줌으로써 혁신적인 학습 환경으로 나아가는 길을 보여주었다[21].

Salloum(2024)은 AIED(인공지능 기반 교육)에서 인공지능(AI)은 이미 자동화된 에세이 채점으로 교사의 반복적인 업무 부담을 줄이고 학생들에게 즉각적인 피드백을 제공해 학습 효과를 높인다. 또한, 학생 데이터를 분석하여 실시간 개인 맞춤형 피드백을 제공함으로써 보다 효과적이고 맞춤화된 교육 경험을 제공하고 학생의 다양한 학습 요구에 개인별 학습 및 사회 정서적 지원을 제공할 수 있다. 하지만 AIED(인공지능 기반 교육)에서 데이터 보호 및 개인정보 침해 가능성, 학습 데이터에 내재된 편향성 및 공정성의 왜곡 가능성, 알고리즘 의존으로 인한 학습 경로의 독립성과 자율성의 훼손 가능성 등이 발생할 수 있어 AI 도구의 활용과 윤리적 책임 사이의 균형이 필요하다고 보았다[22].

Parsons & Curry(2024)는 ChatGPT가 대학원 수준의 교수 설계 과제인 요구 분석, 과업 분석, 학습자 분석을 어느 정도로 수행할 수 있는지 평가하고 그 성과를 측정하였다. 그 결과 ChatGPT는 대학원 수준의 기본적인 교수 설계를 할 수 있는 능력은 보여주었으나 보다 세부적이거나 지역 및 학교에 특화된 맞춤형 설계에는 한계점이 있는 것으로 드러나 교수 설계 초기에는 ChatGPT를 활용하고, 이후 각 교수가 심화된 맞춤형 교수 설계를 해야함을 지적하였다[23].

이 밖에도 Moussa(2024)는 GPT를 융합하기 위한 교수 설계 모델에 관한 연구에서 GPT를 활용하여 학습 성과를 향상시키기 위한 체계적인 설계 방법으로 GPT와 균형을 유지하면서 교육에 AI를 통합하는 SAC(Student-AI Collaboration)를 소개하였다. 즉 SAC를 통해 효율적인 맞춤형 교육, 즉각적인 피드백 제공, 학습 동기 부여, 문제 해결 능력 향상에 도움을 제공할 수 있지만 AI와 협업 과정에서 개인정보 보호, 편향된 정보 제공, 공정성 등의 윤리적 문제도 있으므로 이에 대한 고려가 필요함을 강조하였다[24].

3.1 연구 절차

본 연구자를 포함한 주관자 3인이 생성형 AI 기반 교수 설계와 관련한 선행 연구 문헌[19-24]을 발표하여 생성형 AI 도구 활용에 대한 발제 요청 질문의 이해를 높이고자 하였다. 발제 요청 내용의 경우 토의 주관자 3인의 동료 검증을 통해 완성하였고, 연구 절차는 연구의 신뢰성을 확인받는 과정의 일환으로 교육공학 및 교수·학습 설계 분야에서 컴퓨터 교육 전문가인 박사 2인과 대학 교수 1인이 이를 확인하는 과정을 거쳤다. 일반적으로 삼각 검증의 경우 연구의 신뢰성과 타당성을 높이기 위해 다양한 데이터, 이론, 방법론, 연구자 관점을 포괄하며 연구의 주관적 편향을 줄이는 역할을 수행한다[25, 26]. 선행 연구 문헌 발표 직후 AI 기반 교수 설계와 관련한 발제 질문을 참여자들에게 제시하여 의견을 구하는 절차를 설명한 다음 발제 요청에 따라 토의를 진행하였다. 발제 요청 질문에 관한 내용은 Table 2 와 같다.

Table 2.

Proposed Discussion Questions

발제 요청에 의해 토의에 참여했던 참여자들의 모든 의견들을 구글 잼보드 서비스를 통해 수집하였다. 구글 잼보드 서비스는 구글 워크스페이스의 일부로서 개발된 인터랙티브 화이트보드 시스템으로 온라인 포스트잇 활동을 할 때 유용한 도구이다. 이후 참여자 자신이 잼보드에 썼던 내용을 직접 설명하는 절차를 진행하였다. 포럼을 종료한 후 참여자들이 포럼에서 직접 쓰고 설명했던 의견을 다시 최종으로 검증하는 멤버체크를 수행하였고, 이를 텍스트로 전사하였다. 멤버체크는 수집한 데이터를 연구 참여자가 다시 확인하고 이를 추가 수정하여 피드백을 받음으로써 이전에 했던 내용이 정확한지를 다시 검증하는 절차이다[27, 28].

인공지능(AI) 기반 교수·학습의 활용에 대한 학교 현장에서의 생성형 AI 도구의 활용 사례와 더불어 기대와 도전 그리고 요구 사항에 대한 의견의 경우에는 특정 지표로 나타내는 숫자에 의해 측정되는 것보다는 학교에서 가르치면서 형성될 수 있는 개별 참여자의 주관적 관점과 경험에 따라 다양하게 나타날 수 있다는 점에서 참여자들의 개별 주관성을 바탕으로 전체적인 통합 분석을 하고자 하였다. 질적 연구의 근거이론에서는 수집된 데이터 분석을 통해 개념과 범주를 도출하고 체계성을 더하고자 1차 코딩 단계(Open Coding)와 2차 코딩 단계(Axial Coding)를 제시하고 있다[29, 30].

이렇게 전사된 텍스트를 의미 단위로 내용을 정제한 후 1차 코딩을 거쳐 주요 키워드를 추출하였다. 1차 코딩을 한 결과물을 다시 유사성에 따라 분류와 통합을 진행하였고, 상호 간의 관계성에 따라 이를 범주화하고 2차 코딩의 결과물로 코드를 체계화하여 논리적 증거체인을 마련하였다. 이 과정에서 포스트잇 활동의 결과를 엑셀 파일로 추출하여 코드의 이동과 분류를 수정하였고, 정리한 내용이 쉽게 보여지도록 한 후 범주화하여 생성된 코드의 결과를 해외 선행 연구 문헌과 다시 비교 검증하는 절차를 마련함으로써 데이터 분석 및 범주화의 타당성을 확보하고자 하였다. 이후 인포그래픽으로 결과물을 시각화하였다.

4.1 학교 현장에서의 생성형 AI 활용 도구

현재 학교에서 활용하고 있는 AI 도구를 분석한 결과 총 29개의 다양한 AI 도구를 주로 사용하고 있는 것으로 확인되었다. 텍스트 생성 AI 도구는 ‘ChatGPT’, ‘Gemini’, ‘아이스크림 AI’, ‘get GPT’, ‘Grammarly’, ‘Keewi-t’, ‘Wrtn’, ‘자작자작’, ‘Notion AI’, ‘Scholar GPT’, ‘DeepL’, ‘Youtube Summary GPT’로 12개를 사용하고 있었다. 이미지 생성 AI 도구로는 ‘Canva’, ‘DALL-E’, ‘Midjourney’, ‘Stable Diffusion’, ‘Wombo by Dream’, ‘Mindmap’으로 6개를 사용하고 있는 것으로 나타났다. 이밖에 음성 생성 AI 도구는 ‘Descript’, 음악 생성 AI 도구는 ‘Suno’, PPT 생성 AI 도구는 ‘미리캔버스’, ‘Gamma’, 영상 생성 AI 도구는 ‘Carat’, ‘D-id’, 프로그래밍 코드 생성 ‘Colab Notebook AI’, ‘Python GPT’, ‘엘리스 스쿨’, 수학 학습을 위한 AI 도구로는 ‘매쓰홀릭’을 활용하여 교수·학습에 활용하고 있는 것으로 나타냈다. 생성형 AI 도구를 인포그래픽으로 시각화한 결과는 Fig. 1과 같이 나타낼 수 있다.

Figure 1.

Types of Generative AI Tools Used in Schools

4.2 ADDIE 모델 기반의 생성형 AI 도구 활용

연구 참여자의 활용 경험을 바탕으로 생성형 AI 도구의 활용 목적을 중심으로 1차 코딩한 결과 다음과 같이 ‘데이터 분석’, ‘기술 자료 분석’, ‘학습자 분석’, ‘자료 검색’, ‘자료 요약’, ‘학습 내용 정리’, ‘자료 번역’, ‘수업 자료 제작’, ‘동기 유발’, ‘발표 자료 생성’, ‘평가 문항 개발’, ‘학생 활용’, ‘프로그래밍 학습’, ‘프로그램 코드 개발’, ‘코드 분석 및 디버깅’, ‘AI 디지털 교과서’, ‘글쓰기’, ‘문장 다듬기’, ‘표현 풍부화’, ‘평어 생성’, ‘생기부 작성’, ‘세부능력 및 특기 작성’이라는 22개의 키워드를 도출하였다.

아래의 의견을 포함하여 공통적으로 참여자들은 AI 도구를 교수·학습을 위해 수업 자료 작성, 평어 생성, 번역, 프로그램 코드 분석 및 디버깅 등 다양한 활용 목적으로 AI 도구를 사용하는 것으로 파악되었다.

현재 Descript라는 AI 도구를 활용하고 있습니다. 이 도구는 텍스트를 음성으로 변환하는 기능을 제공하여, 교육 자료에 자연스러운 음성 해설을 추가하는 데 큰 도움이 됩니다. (중략) 보다 매력적인 학습 자료를 만드는 데 기여한다고 생각합니다. (참여자 M)

학교에서 가장 핫한 생성형 도구 활용 사례는 평어를 만들 때 활용하는 사례가 아닐까 합니다. (중략) 보조 수단으로서 문장을 다듬거나 풍부한 표현을 위해서 보조 도구로 쓰는 것은 좋지 않나 하는 것이 공통의 의견입니다. (참여자 B)

영어 원문으로 되어 있는 논문 또는 기술 표준을 분석할 때 자연스러운 번역용으로 활용하거나, 리눅스 명령어에 대한 검색, 코드에 대한 분석 및 디버깅용으로 활용합니다. (참여자 Q)

1차 코딩 결과를 바탕으로 2차 코딩을 진행한 결과, (i) 학습 분석, (ii) 학습 자료 관리, (iii) 교수·학습 지원, (iv) 학습 교과서, (v) 창의적 표현 다양화, (vi) 평가 & 피드백으로 구성된 6개의 영역으로 키워드를 범주화하였다. 이후 범주화된 키워드를 중심으로 생성형 AI 도구를 학교 교육 현장에서 효과적으로 활용할 수 있는 ADDIE 교수·학습 모델을 기반으로 체계화하였다. 이를 표로 정리한 결과는 Table 3과 같다.

Table 3.

Generative AI tool utilization Categories

ADDIE 모델은 교육 설계 과정에 널리 사용되는 교수 방법론으로 분석, 설계, 개발, 실행, 평가에 이르는 각 단계에서 필요한 활동과 방법을 설명함으로써 실행 가능한 교육에 대한 가장 기본적인 틀을 제시하고 있다[31]. 따라서 Table 3과 같이 ADDIE 모델 기반으로 정리하면 분석 단계에서는 데이터, 기술 자료, 학습자 등을 분석하는 데 생성형 AI 도구가 활용되고, 설계 단계에서는 자료 탐색, 요약, 번역 등 학습 콘텐츠의 준비와 관련된 활동에서 활용된다는 것을 확인하였다. 개발 및 실행 단계에서는 교수 콘텐츠 제작, 발표 자료 생성, 프로그래밍 학습과 코드 분석 및 디버깅 등의 교수·학습 활동의 직접적인 도구로 활용되고 있었다. 평가 단계에서는 피드백 및 개인 성취 평가와 관련하여 다양한 표현과 평어를 작성하는 활동에 활용되고 있음을 보여주고 있다. 이를 선행 연구 문헌별로 제시하고 있는 생성형 AI 도구 활용에 대한 키워드와 비교 검토한 결과, Table 4 와 같이 대부분의 관련 키워드가 공통적으로 제시되어 있음을 확인할 수 있었다.

Table 4.

Comparison of Generative AI tool utilization Categories

생성형 AI 도구 활용 범위를 바탕으로 ADDIE 모델 교수·학습에 기반하여 도식화한 결과는 Fig. 2 와 같다.

Figure 2.

Types of Generative AI Tools Used in Schools

4.3 생성형 AI 도구를 활용한 교수·학습에서의 기대

생성형 AI 도구를 활용한 교수·학습에서 긍정적으로 기대하고 있는 요인을 분석한 결과는 1차 코딩한 결과, ‘수업 혁신’, ‘교육학습’, ‘교사 보조 도구’, ‘학습 편의성’, ‘학습 다양성’, ‘다양한 학습 콘텐츠’, ‘아이디어 제공’, ‘학습 동기 유발’, ‘흥미 유발’, ‘상호작용’, ‘맞춤형 학습’, ‘맞춤형 피드백’, ‘빠른 피드백’, ‘학습 효율성’, ‘학습 효과성’, ‘창의성 향상’, ‘융합적 사고’, ‘업무 효율성’, ‘업무 자동화’, ‘업무 생산성’, ‘반복 작업 감소’, ‘시간 절감’, ‘정보 검색 시간 단축’, ‘업무 부담 감소’, ‘타 업무에 집중’, ‘사용 용이성’, ‘자료 분석 용이성’, ‘정보 접근성’, ‘품질개선’,‘만족도 향상’이라는 30개의 키워드를 도출하였다. 이를 바탕으로 2차 코딩을 진행한 결과, (i) 수업 혁신 (ii) 학습 효율성 및 효과성 (iii) 창의성 향상 및 융합적 사고 (iv) 업무 효율성 (v) 사용 용이성 (vi) 품질 개선 및 만족도 향상으로 30개의 키워드를 포함한 6개 영역으로 범주화하고, AI 도구를 활용한 교수·학습에서의 긍정적 기대를 체계화하였다. 이를 표로 정리한 결과는 Table 5 와 같다.

Table 5.

Expectation for Generative AI tool utilization

참여자들은 생성형 AI 도구를 활용한 교수·학습에서의 긍정적 기대에 대해서는 다음과 같은 의견 등을 제시하였다.

초등의 입장에서 국어 시간에 맞춤형 피드백 지옥에 시달리는데 맞춤형 피드백을 쉽게 제공할 수 있다는 점에서 매우 긍정적이라고 생각합니다. (참여자 B)

AI 툴은 학습 지원과 맞춤형 피드백 제공에서 큰 장점을 가지며, 학습자의 참여도와 동기를 향상시킬 수 있습니다. (참여자 S)

Colab 실습 과제에 학생들의 창의성을 요구하는 문제의 비중이 커지고 있습니다. 학생들의 창의성이 향상될 것 같습니다. (참여자 K)

시간을 단축하고, 생각하지 못한 아이디어를 제공해 주는데 좋은 것 같습니다. (참여자 R)

하루 종일 처리하는 문서 100건 중 50% 정도는 줄일 수 있을 것입니다. 그렇게 된다면 한 개인의 업무 생산성, 효율성은 높아지고, 삶의 만족도와 학교에 대한 만족도 역시 높아집니다. (참여자 F)

이상의 의견들은 생성형 AI를 활용함으로써 얻을 수 있는 긍정적 기대를 보여주고 있다. 참여자 B와 S는 학생의 입장에서 맞춤형 피드백이 매우 중요하다는 것을 인식하고 있었고, 생성형 AI를 통한 참여도 및 학습 동기 향상과 학습 효과를 기대하고 있었다. 학습자의 학습 진행과 성취 결과를 생성형 AI를 활용해 신속하게 맞춤형으로 피드백을 제공할 경우 학습자는 자신의 학습 전략을 즉시 조정할 수 있다. 이는 학습자의 학습 동기를 높이고 학습 효과성을 향상시키는 데 긍정적인 영향을 준다[32]. 다른 참여자 K는 프로그래밍 학습에서 창의성을 요구하는 문제들을 가르쳐야 하는 상황에서 생성형 AI는 창의성을 향상시켜 줄 것이라는 기대감을 나타내고 있었고, 이는 참여자 S의 의견과도 같은 맥락을 가지고 있었다. 이 밖에도 참여자 R은 시간 절감과 아이디어 제공을, 참여자 S는 학습자의 참여도와 학습 동기에 대한 향상을 기대하고 있었다. 최종적으로 학생 측면에서는 창의성 향상과 융합적 사고를, 교사 측면에서는 품질개선과 만족도 향상에 대한 기대를 나타내고 있었다. 이를 선행 연구 문헌별로 제시하고 있는 생성형 AI 도구 활용 기대에 대한 키워드와 비교 검토한 결과, 본 연구에서 도출한 생성형 AI 도구 활용의 기대와 관련한 키워드 대부분이 Table 6과 같이 선행 연구 문헌에서도 제시되어 있었다.

Table 6.

Comparison of Expectation for Generative AI tool utilization

이와 같이 생성형 AI 도구를 활용한 교수·학습에서의 기대를 도식화하여 나타낸 결과는 Fig. 3 과 같다.

Figure 3.

Expectations for the use of Generative AI Tools in Teaching and Learning

4.4 생성형 AI 도구를 활용한 교수·학습에서의 우려

생성형 AI 도구를 활용한 교수·학습에서 우려하고 있는 요인을 분석한 결과는 1차 코딩한 결과, ‘데이터 편향성’, ‘알고리즘 편향성’, ‘정보의 편향성’, ‘환각 현상’, ‘결과 오류’, ‘정확성 부족’, ‘정보 신뢰성 저하’, ‘기대 품질 저하’, ‘개인정보 문제’, ‘저작권 문제’, ‘지식 오남용’, ‘딥페이크’, ‘학습부족’, ‘교사·학생 상호작용 감소’, ‘창의성 저하’, ‘학생의 무비판적 수용’, ‘피드백 독점’, ‘AI 의존성 심화’, ‘정보 검증부족’, ‘개별 특성 반영 부족’, ‘유료화’라는 21개의 키워드를 도출하였다. 이를 바탕으로 2차 코딩을 진행한 결과, (i) 기술적, (ii) 윤리적 (iii) 교육적 (iv) 경제적 측면으로 구성된 4개 영역으로 키워드를 범주화하고, AI 도구를 활용한 교수·학습에서의 우려를 체계화하였다. 이를 표로 정리한 결과는 Table 7 과 같다.

Table 7.

Concerns for Generative AI tool utilization

참여자들은 생성형 AI 도구를 활용한 교수·학습에서의 우려에 대해서는 다음과 같은 의견 등을 나타냈다.

중등교육에서 교육의 개념이 오개념을 심어주는 것은 매우 위험하다고 생각합니다. 학생들에게 잘못된 정보를 주게 되면 혼란을 초래할 수 있고 정확한 지식 획득을 방해할 수 있습니다. (중략) 출처가 확실하지 않고 환각현상이 있는 생성형 AI에서 (중략) 교사의 검증이 꼭 필요하기 때문에 학생이 직접적으로 생성해서 활용하는 것은 피하는게 좋을 것 같습니다. (참여자 A)

ChatGPT와 같은 생성형 AI를 사용하여 수업 콘텐츠를 생성하면 100% 올바른 정보를 제공하는 것이 아니므로 학생들에게 잘못된 지식을 전달할 수 있는 위험이 있습니다. (중략) (참여자 C)

생성된 정보의 정확성이 떨어질 수 있으며, 잘못된 사실이 포함될 위험이 있습니다. (중략) 생성된 이미지가 저작권 문제를 일으킬 수 있으며, 알고리즘의 편향성 문제도 존재합니다. (중략) 일부에서 품질 저하나 창의성 부족에 대한 우려를 제기하고 있습니다. (참여자 I)

잘못된 정보를 너무 자연스럽게 전달하는지 보니, 해당 정보의 사실 여부를 제대로 확인하지도 않은 채 무분별하게 받아들이게 되고, 이를 실제 업무에 적용하게 되면서 자칫 업무 전체에 차질을 낳을 수 있다고 생각합니다. (참여자 P)

데이터 프라이버시 문제, 부정확한 정보를 제공한 것으로 신뢰도는 떨어집니다. (참여자 F)

딥페이크는 기존의 콘텐츠 조작과는 다른 차원의 위험성이 있다고 생각한다. (중략) 전문적 기술이 없는 일반인도 무료 앱이나 웹서비스로 제작할 수 있어 오남용의 문제가 많이 발생하고 있다. (참여자 E)

이상의 참여자 의견들은 학교에서 생성형 AI 활용에 대해 심각한 우려를 제기하고 있었다. 특히, 참여자 A는 생성형 AI의 편향성으로 인한 환각 현상과 이에 따른 부정확한 정보를 학습자들에게 적절한 검증 절차 없이 가르칠 수 있을지를 고민하고 있었다. 환각 현상은 할루시네이션(Hallucination)이라고도 하며, AI가 실제로 존재하지 않는 정보를 마치 사실인 것처럼 답변을 생성하는 것을 말한다[7]. 이러한 환각 현상의 원인은 불완전한 데이터의 수집에서부터 시작되며 데이터 처리와 관련한 알고리즘의 편향 등으로 인해 모든 결과의 오류와 편향을 완벽히 제거하는 것은 불가능하다. 이와 같은 이유로 인해 학생들이 잘못된 정보를 무비판적 수용으로 AI 의존성이 심화되거나 지식을 오남용하는 것을 참여자들은 공통적으로 우려하고 있었다. 따라서 학생들에게 생성형 AI가 산출한 결과가 잘못된 정보를 포함하고 있음을 주지시키고 항상 비판적으로 검토하는 자세를 갖도록 해야 한다[13].

1차 코딩한 결과를 선행 연구 문헌에서 제시하고 있는 생성형 AI 도구 활용 우려에 대한 키워드와 비교 검토한 결과, 생성형 AI 도구 활용 우려와 관련한 키워드 대부분이 Table 8 과 같이 선행 연구 문헌에서도 제시되어 있었다.

Table 8.

Comparison of Concerns for Generative AI tool utilization

이후 생성형 AI 도구를 활용한 교수·학습에서의 우려를 시각화하여 나타냈다. 이에 대해 시각화한 결과는 Fig. 4 와 같이 나타낼 수 있다.

Figure 4.

Concerns about the use of Generative AI Tools in Teaching and Learning

4.5 생성형 AI 도구와 협업을 위한 교수·학습에서의 요구 사항

학교 현장에서 AI 기반 교수·학습의 활용 기대와 우려를 바탕으로 생성형 AI 도구와 협업을 위해서 필요한 요구 사항을 분석한 1차 코딩의 결과는, ‘투명성’, ‘정확성’, ‘정보 검증’, ‘교사의 검증 확인’, ‘공정성’, ‘데이터 품질’, ‘교차 검증’, ‘정보 검증체계 마련’, ‘윤리적 지침 강화’, ‘윤리적 가이드라인’, ‘AI 윤리 교육’, ‘제도적 규제’, ‘워터마크 제도’, ‘무조건적 표절 제한’, ‘교사 전문성’, ‘교수 방법 개발’, ‘개별 맞춤형 피드백’, ‘학생의 비판적 사고력 함양’, ‘AI 리터러시 교육’, ‘AI 활용 교육’, ‘사용자 교육’, ‘AI 디지털 교과서 활용’, ‘AI·인간 협업체계 강화’, ‘교사의 주체성’, ‘교사의 책임성’, ‘인간 중심적’, ‘신중한 접근’이라는 26개의 키워드를 도출하였다. 이를 바탕으로 2차 코딩을 진행한 결과, (i) 기술적 (ii) 윤리적 (iii) 교육적 (iv) 교사의 역할 측면에서 4개 영역으로 키워드를 범주화하였고, AI 도구와 협업을 위한 교수·학습에서의 요구 사항을 체계화하였다. 이러한 과정을 통해 표로 정리한 결과는 Table 9 와 같다.

Table 9.

Requirements for Collaboration with Generative AI tool

참여자들의 생성형 AI 도구의 활용에 필요한 요구 사항에 대해서는 아래와 같은 의견 등을 나타냈다.

학생들은 사실을 기반으로 한 정확한 정보가 필요합니다. (중략) 특히, 교사는 그 자료가 사실에 근거했는지 철저히 검증해야 합니다. (중략) 콘텐츠를 생성할 때 정확한 자료와 신뢰할 수 있는 자료로 해야 합니다. (중략) 학생들끼리 잘못된 정보를 찾아내고 왜 그 정보가 잘못된 것인지 팩트 확인 등을 한다면 더 깊이 있는 학습이 될 것입니다. (참여자 F)

학생들이 잘못된 정보를 학습하지 않도록 콘텐츠 생성 시 교사의 철저한 검토와 교정이 필요합니다. (중략) AI는 이러한 작업을 지원할 수 있는 도구로 활용될 수 있으나, 최종 결정권은 여전히 인간에게 있어야 합니다. (참여자 J)

실제 사실인지 확인하는 교수자의 역할이 반드시 요구된다고 생각됩니다. (중략) 특히 학생들은 처음 접하는 정보를 그대로 받아들이는 경향이 있으므로 더 조심스럽게 접근해야 한다고 생각합니다. (참여자 G)

교사가 사용할 때는 면밀한 내용 검토가 필요하며 학생 수업 때에도 직접 생성해 보고 오류가 없는지 검토하는 과정을 거친다면 보다 질 높은 수업이 가능하다고 생각합니다. (참여자 N)

위와 같이 생성형 AI 도구와 협업을 위해서는 생성형 AI의 정확한 정보 제공이 중요하다는 것을 참여자들의 의견에서 알 수 있었다. 이를 위해 참여자 F는 생성한 결과가 사실에 근거한 결과인지를 철저히 검증할 수 있어야 한다고 주장하고 있었고, 참여자 J, G, N 역시 검토와 검증을 교사의 중요한 역할로 보았다. 이와 더불어 참여자들은 정확한 정보와 관련한 교사의 책임성을 강조하고 있었고, 실시간으로 생성한 자료를 효율적으로 활용하는 데 있어 그 한계를 명확히 인식하고 이를 보완할 수 있는 여러 가지 협업 전략이 필요한 것으로 나타났다.

생성형 AI와 협업을 위해서 참여자들은 법적, 제도적 측면과 더불어 기술적, 윤리적, 교육적 측면에서의 여러 가지 전략이 필요한 것으로 지목하였고 이를 위한 교사의 역할에 대해서도 함께 고민하고 있었다. 이와 관련한 참여자들의 의견은 아래와 같이 나타냈다.

중학생에게 진위 여부를 판별할 만한 능력이 있냐는 것입니다. 따라서 직접 조사와 AI 도구를 모두 활용하여, 선별적으로 정보를 채택하는 법에 대한 교육이 필요하다고 생각합니다. (참여자 H)

첫째, AI가 생성한 콘텐츠의 사실 여부를 검증할 수 있는 시스템을 구축해야 합니다. (중략) 둘째, AI 도구를 효과적으로 활용하기 위한 교육 프로그램을 마련하여, (중략) 적절히 활용할 수 있도록 해야 합니다. 셋째, 윤리적 고려를 통해서 (중략) 윤리적 문제를 사전에 인식하고, 이를 해결하기 위한 가이드라인을 마련해야 합니다. (참여자 I)

딥페이크 기술의 부작용을 최소화하고 긍정적인 활용을 극대화하기 위해서는 법적 규제와 제도적 규제, 딥페이크 탐지 기술과 같은 기술적 대응, 미디어 리터러시 교육, 윤리적 가이드라인 수립 등과 같은 다각도의 노력이 필요하다고 생각합니다. (참여자 E)

AI 기술에 대한 부정적 측면으로는 기술 의존성과 윤리적 문제가 있습니다. 이를 해결하기 위해서는 투명한 알고리즘 설계와 사용자 교육, 데이터 보호를 위한 법적 규제가 필요합니다. (참여자 J)

꼭 학교만이 아니더라도 언제나 기술의 주체가 인간이라는 사실이라는 것입니다. 또한 교사로서 (중략) 책임성과 주체성을 가지고 인공지능과의 협업을 고려해 나가도록 해야겠다는 생각이 들었습니다. (참여자 B)

참여자 H, I, E, J는 공통적으로 생성형 AI 도구들을 효과적으로 활용하고 정보를 주체적으로 받아들이기 위한 교육이 필요함을 언급하고 있었다. 참여자 I는 윤리적 가이드라인을 요구하고 있었고, 참여자 J는 기술적, 윤리적 문제를 해결하기 위해 법적, 제도적 규제가 필요함을 보여주고 있다. 특히 참여자 B는 교수·학습에서 AI와의 협업을 위해서는 기술의 주체인 교사의 책임성과 주체성 등 교사의 역할을 강조하고 있음을 보여주고 있다. 이와 같이 참여자들의 의견을 바탕으로 도출한 1차 코딩 결과를 선행 연구 문헌별로 제시하고 있는 생성형 AI 도구와의 협업을 위한 요구 사항과 관련한 키워드와 비교 검토한 결과, 본 연구에서 도출된 키워드 대부분이 Table 10 과 같이 선행 연구 문헌에서 공통적으로 나타났음을 확인할 수 있었다.

Table 10.

Comparison of Requirements for Collaboration with Generative AI tool

마지막으로 생성형 AI 도구와 협업을 위해 필요한 요구 사항을 인포그래픽으로 시각화하여 나타냈다. 이에 대한 시각화 결과는 Fig. 5 와 같다.

Figure 5.

Requirements for Collaboration with Generative AI tool