인텔, 가상 교실에서 학생의 감정 상태를 감지하는 AI 개발/ 수업 중에 지루함, 혼란스러움 등의 상태를 교사에게 통보/ 학생의 감정 상태를 확인해 교사의 원격 교육을 실시간 지원/ AI가 감정 ..

인텔, 가상 교실에서 학생의 감정 상태를 감지하는 AI 개발/ 수업 중에 지루함, 혼란스러움 등의 상태를 교사에게 통보/ 학생의 감정 상태를 확인해 교사의 원격 교육을 실시간 지원/ AI가 감정 상태를 평가하는 것에 대한 윤리적·도덕적 논란

 

 

 

줌(Zoom)이 가상학교 소프트웨어인 ‘클래스(Class)’에 감정 인식(emotion recognition) 인공지능(AI) 도입을 고려하고 있다고 밝혔다. 감정 인식 AI는 클래스에 참여한 학생들의 표정 및 교육 콘텐츠와 상호 작용하는 방식을 평가해 학생들이 지루하거나, 주의가 산만하거나, 혼란스러운지 여부를 감지할 수 있다.

인텔(Intel)과 클래스룸 테크놀로지스(Classroom Technologies)는 AI를 사용하여 가상 교실에서 학생들의 기분을 감지하는 도구를 개발하고 있다. 이 기능은 ‘클래스’ 소프트웨어 제품을 통해 줌과 통합된다. 화상회의 애플리케이션을 통해 디지털 수업을 할 때마다 학생들의 몸짓과 표정을 분류하는 데 사용할 수 있다. 교사가 AI가 감지한 각 학생의 감정 상태를 볼 수 있도록 해 원격 교육을 지원하는 것을 목표로 한다. 

이 기술은 3D 카메라가 장착된 노트북을 사용해 실제 교실 수업에서 학생들의 표정을 녹화해 수집한 데이터를 통합, 감정 인식을 위한 AI 신경망 모델을 훈련시킨 후 각 학생의 감정 상태를 실시간으로 추론한다. 

신경망 모델을 훈련하기 위한 데이터 세트를 만들기 위해 심리학자들이 직접 학생들의 비디오를 보고 표정에서 감지한 감정을 분류하는 방식으로 데이터에 레이블을 지정했다. 3명의 심리학자 중 2명 이상이 학생의 감정을 동일하게 분류한 경우에만 훈련 데이터로 사용했다. 그런 다음 감정 인식 AI는 컴퓨터 비전, 얼굴 인식, 음성 인식, 자연어 처리 및 기타 AI 기술을 사용해 누군가의 표정을 나타내는 데이터를 캡처하고 그들이 나타내는 감정을 감지한다.

그러나 학생을 모니터링하고 AI를 사용해 감정 상태를 평가하는 것은 윤리적으로나 도덕적으로 논란이 될 수 있다. 그 중 하나는 정보를 인식하기 쉬운 단순한 범주로 끼워 맞추는 라벨링의 위험성이다. 사람들은 수십 또는 수백 가지의 미묘하고 복잡한 얼굴 표정, 몸짓 또는 생리적 신호를 통해 자신을 표현하기 때문에 단일 레이블로 자신의 상태를 분류하는 것은 부적절할 수 있다. 또한 사람들은 문화와 상황에 따라 다양한 방식으로 분노, 두려움, 놀람과 같은 감정을 전달하며 감정을 표현하는 방법은 개인마다 다를 수 있다.

어떤 사람들은 한 단어나 설명으로 사람들에게 꼬리표를 붙이는 것이 해로울 수 있다고 믿는다. 인간은 무수한 감정을 경험하므로 누군가의 상태를 ‘기쁨’ 또는 ‘지루함’으로 단순화하는 것은 역효과를 낼 수 있다. 또한 사람들마다 미묘한 차이가 있고 표현은 보편적이지 않다. 예를 들어 같은 얼굴 표정이 개별적으로는 다른 것을 의미할 수 있다.

인텔은 AI 모델이 학생들의 실제 감정을 정확하게 반영했는지 여부를 평가하기보다 교사가 모델을 얼마나 신뢰할 수 있는지 또는 얼마나 도구적인지로 평가했다고 주장했다. 클래스룸 테크놀로지스의 공동 설립자이자 CEO인 마이클 체이슨(Michael Chasen)은 인텔의 시스템에 대해 "아직 완전히 성숙된 기술은 아니라고 생각한다"며, “결과가 학생들의 성과와 관련이 있는지 확인하고 교사를 위해 유용한 데이터를 얻을 수 있는지 확인해야 한다”고 강조했다. 

 

 

 

http://www.aitimes.com/news/articleView.html?idxno=144140

“수업 중에 딴 생각하지마”...AI가 나를 주시한다 - AI타임스