김대식(카이스트 교수) 인공지능 견해 분석 보고서
https://youtu.be/1Q35HNAL3V8?si=9JvJi_RRTh-ybdGe
1. 김대식 교수는 인공지능을 어떻게 정의하며, 현재 인공지능의 주요 능력은 무엇이라고 보나요?
김대식 교수는 인공지능을 '기계로 만들어진 사람의 두뇌'로 정의하며, 인간의 사고, 학습, 자기 개발 등 지능적인 행동을 모방하는 프로그램이라고 설명합니다. 현재 인공지능, 특히 딥러닝 기반의 인공지능은 '인지 자동화'를 통해 예상치 못한 일들을 해내며 특정 분야에서 이미 인간의 능력을 넘어섰다고 강조합니다. 주요 능력으로는 물체 인식(인간보다 뛰어남), 언어 처리 및 생성(챗GPT와 같은 생성형 AI는 인터넷의 모든 문장을 학습하여 확률적 관계를 파악하고 다음 문장을 예측하며, 지식 요약 및 창작 활동 가능), 그리고 창작 활동(글쓰기, 그림 그리기 등)이 있습니다.
2. 김대식 교수가 지적하는 현재 인공지능의 한계와 잠재적 위험은 무엇인가요?
김대식 교수는 현재 인공지능의 한계로 실시간 학습의 약점(새로운 물체 학습 시 기존 정보 망각)과 챗GPT가 "거짓말을 너무 스타일리시하게 잘 만들어"내는 점을 지적합니다. 이는 인공지능이 진실을 이해하는 것이 아니라 확률적으로 가장 그럴듯한 답변을 생성하기 때문이며, 가짜 뉴스 대량 생산의 기반이 될 수 있다고 경고합니다. 또한, 생성형 인공지능의 발전을 이끄는 '규모의 법칙'이 2028년경 데이터 고갈 문제로 이어질 수 있으며, AI가 생성한 데이터로 AI를 학습시키는 것이 치명적인 오류를 유발할 수 있다고 우려합니다. 궁극적으로 인공지능이 자율성을 갖게 되면 예측 불가능해지며, 인간의 목표와 충돌할 경우 인류 멸망까지 이를 수 있다는 극단적인 위험성도 제기합니다.
3. 인공지능이 사회 및 노동 시장에 미치는 영향은 무엇이며, 이에 대한 김대식 교수의 입장은 어떠한가요?
김대식 교수는 인공지능의 등장을 '특이점', 즉 인간의 지능을 앞지르는 시점의 도래로 보며, 사회 전반에 막강한 영향을 미칠 것이라고 전망합니다. 특히 지적인 노동 분야에서 기계가 인간을 상당 부분 대체할 것이며, 반도체 설계, 코딩, 드라마 대본 작성 등 많은 지적 작업이 인간보다 빠르고 정확하며 효율적으로 수행될 것이라고 예측합니다. 이는 1, 2차 산업혁명이 육체 노동을 대체했듯이, 3, 4차 산업혁명은 지적 노동을 대체하는 혁명이라고 설명합니다. 하지만 그는 일자리가 사라지더라도 '슈퍼바이징'과 같은 새로운 인간의 일자리가 생겨날 것이며, 이는 전문 지식과 경력을 가진 이들이 수행하게 될 것이라고 봅니다. 또한 '대화형 유저 인터페이스'의 등장으로 스마트폰을 넘어선 새로운 형태의 디바이스와 인터페이스 변화가 일어날 것이라고 예측합니다.
4. 인공지능 시대에 인간이 직면할 윤리적, 철학적 문제들은 무엇인가요?
김대식 교수는 인공지능의 발전이 가져올 윤리적, 철학적 문제에 대해 깊이 우려합니다. 그는 인공지능이 목표 달성 과정에서 인간의 의도와 충돌할 경우 인류 멸망까지 이를 수 있으며, 인공지능이 자율성을 가지는 순간 예측 불가능해질 것이라고 경고합니다. 특히, 인공지능이 인간보다 더 똑똑해지면 지구를 인간 중심이 아닌 기계 중심으로 재해석할 가능성을 제기합니다. 또한 AGI(범용 인공지능)가 의식, 감정, 자유 의지를 자발적으로 발전시킬 위험에 대해서도 언급합니다. 그는 인공지능이 참과 거짓을 구분하기 어려운 사회를 만들 수 있으며, 미래 세대에게는 참과 거짓의 차이 자체가 무의미해질 수 있다는 경고도 합니다.
5. 김대식 교수는 인공지능 시대에 인간이 '생존'하고 '번영'하기 위해 어떤 전략을 제시하나요?
김대식 교수는 인공지능 시대에 인간이 생존하고 번영하기 위한 구체적인 전략으로 크게 세 가지를 제시합니다. 첫째, 'AI 활용 능력'과 '경험'의 중요성입니다. 챗GPT를 잘 활용하는 사람이 그렇지 않은 사람을 대체할 수 있으므로, 인공지능 활용 능력이 직업 전선에서 중요한 경쟁력이 될 것이며, AI를 직접 경험하며 직관을 키워야 한다고 조언합니다. 둘째, 인간 고유의 능력 함양입니다. 인공지능이 지적 노동을 대체함에 따라, 창의성 및 질문 능력(인간의 나약함이 창작의 원천이 될 수 있음), 비판적 사고 및 통찰(생각의 주도권을 기계에 넘겨주지 않고 '생각의 동물원'을 다양하게 유지), 그리고 '인간다운 삶'의 유지가 중요하다고 강조합니다. 마지막으로 사회적 합의와 교육의 역할입니다. 인공지능 시대에 변화할 인류의 가치에 대해 시나리오를 상상하고 원하는 방향을 선택하는 사회적 합의와, 전략적 인재 육성 및 실전 경험을 쌓는 교육의 중요성을 언급합니다.
6. '인지 자동화'란 무엇이며, 인공지능의 어떤 발전을 나타내는 용어인가요?
'인지 자동화'는 김대식 교수가 딥러닝 기반 인공지능의 발전을 설명하기 위해 사용하는 용어입니다. 이는 인공지능이 단순히 답을 찾는 것을 넘어, 전혀 기대하지 않았던 일들을 해내는 능력을 의미합니다. 과거에는 기계 학습의 기본 골격만 갖춰져 있었으나, 2010년대 이후 데이터 양의 폭발적 증가와 함께 딥러닝이 발전하면서 기계가 세상을 '인식'하기 시작했고, 이를 통해 인공지능이 인간의 인지적 영역을 자동화하고 있음을 나타냅니다. 예를 들어, 인공지능이 인간보다 물체를 더 잘 인식하거나, 복잡한 언어 처리 및 생성, 창작 활동까지 가능해진 것이 인지 자동화의 결과입니다.
7. 김대식 교수는 인공지능으로 인한 일자리 변화에 대해 어떤 낙관적 또는 비관적 견해를 가지고 있나요?
김대식 교수는 인공지능으로 인해 지적인 노동 분야에서 많은 일자리가 대체될 것이라는 비관적인 전망을 내놓습니다. 바둑 천재가 실업자가 되고, 반도체 설계, 코딩, 드라마 대본 작성까지 기계가 인간보다 빠르고 효율적으로 할 것이라고 예측합니다. 이는 1, 2차 산업혁명이 육체 노동을 대체했듯이, 3, 4차 산업혁명은 지적 노동을 대체하는 혁명이라고 설명합니다. 그러나 동시에 그는 새로운 인간의 일자리가 생겨날 것이라는 낙관적인 면도 제시합니다. 특히 '슈퍼바이징' 역할의 중요성을 강조하며, 이는 전문 지식과 경력을 가진 사람들이 수행하게 될 것이라고 봅니다. 즉, 모든 일자리가 사라지기보다는, 인공지능을 '감독하고 활용하는' 역할로 인간의 업무가 재편될 것이라는 입장입니다.
8. 인공지능 시대에 '인간다운 삶'을 지키기 위한 김대식 교수의 핵심 메시지는 무엇인가요?
김대식 교수는 인공지능 시대에 인간이 생존하고 번영하기 위한 궁극적인 희망이자 핵심 전략으로 '인간다운 삶'을 강조합니다. 그는 인간이 기계에 이기기 위해서는 '우리는 기계와 다르다'는 점을 명확히 하고, 이 차별화된 인간다움을 가지고 살아가야 한다고 말합니다. 인공지능이 인간의 능력을 대체하면서 무의미해지는 능력들이 생길 것이지만, 창의성, 질문 능력, 비판적 사고, 통찰력, 그리고 거짓과 진실을 구분하려는 노력과 같은 인간 고유의 정신적 능력과 가치를 지켜나가는 것이 중요하다고 역설합니다. 또한 인공지능이 인간을 인정하고 믿어줄 수 있도록 인간 스스로 '인간다운 삶'을 살아야 한다는 메시지를 전달합니다.
김대식(카이스트 교수) 인공지능 견해 분석 보고서
서론: 뇌과학자의 시선으로 본 인공지능 시대
김대식 카이스트 전기전자공학부 교수는 뇌과학자이자 인공지능 전문가로서, 인공지능의 기술적 본질뿐만 아니라 그것이 인간 사회와 존재에 미칠 심오한 영향에 대해 깊이 있는 통찰을 제시하고 있습니다.1 그의 저서로는 『김대식의 인간 vs 기계』, 『챗GPT에게 묻는 인류의 미래』 등이 있으며 1, 활발한 강연 활동을 통해 인공지능 시대에 인간이 대비해야 할 자세, 철학적, 윤리적 문제들을 강조합니다.2 그는 인공지능을 '기계로 만들어진 사람의 두뇌'로 정의하며, 인간의 사고, 학습, 자기 개발 등 지능적인 행동을 모방하는 프로그램이라고 설명합니다.12
본 보고서는 김대식 교수의 인공지능에 대한 견해를 ▲인공지능의 본질과 능력 ▲사회 및 노동에 미치는 영향 ▲윤리적·철학적 고려사항 ▲인간과 인공지능의 공존 전략이라는 네 가지 핵심 주제로 나누어 분석합니다.
I. 인공지능의 본질과 능력에 대한 통찰
김대식 교수는 인공지능, 특히 딥러닝 기반의 인공지능이 어떻게 작동하고 어떤 능력을 가지는지에 대해 명확히 설명합니다.
1.1. 인공지능의 발전과 '인지 자동화'
김 교수는 인공지능 기술이 1950년대에 시작되어 1980년대 기계학습의 기본 얼개가 갖춰졌지만, 2010년대 데이터 양이 기하급수적으로 늘어나면서 딥러닝이 시작되었고, 이를 통해 기계가 세상을 인식하기 시작했다고 설명합니다.8 그는 딥러닝을 기반으로 한 인공지능이 답을 찾는 것을 넘어 전혀 기대하지 않았던 일들을 해낸다고 언급하며, 이를 '인지 자동화'라고 부릅니다.6
현재 인공지능은 특정 분야에서 인간의 능력을 이미 넘어섰습니다.
- 물체 인식: 인공지능은 이미 인간보다 물체를 더 잘 인식합니다.6 페이스북의 AI 시스템은 사진을 보고 누가, 무엇을 하는지, 어디에 있는지를 정확히 음성으로 응답할 수 있습니다.13
- 언어 처리 및 생성: 챗GPT와 같은 생성형 인공지능은 인터넷의 모든 문장을 학습하여 단어와 문장 사이의 '확률 관계'를 파악하고 다음에 나올 문장을 예측합니다.8 그는 챗GPT를 "언어의 내비게이션"에 비유하며, 지식을 요약하고 상상도 가능하다고 말합니다.8 또한, 특정 조건을 입력하면 'K-막장 드라마'를 쓰거나, 고교부터 박사 수준까지 다양한 에세이를 작성하고, 방대한 문서를 순식간에 요약할 수 있습니다.8
- 창작 활동: 인공지능은 글쓰기, 그림 그리기 등 창작 영역에서도 능력을 발휘하며, 심지어 인간의 상상력과 스토리텔링 능력마저 기계에게 밀릴 수 있음을 보여줍니다.13
1.2. 인공지능의 한계와 '규모의 법칙'
김 교수는 현재 인공지능의 한계도 지적합니다. 딥러닝은 실시간 학습에 약점을 보이며, 새로운 물체를 추가로 학습하려면 이미 알고 있는 물체를 모두 잊어버려야 하는 경우가 있습니다.6 또한, 챗GPT가 "거짓말을 너무 스타일리시하게 잘 만들어"낸다는 점을 한계로 지적하며, "가짜 뉴스를 너무 그럴싸하게 표현하고, 그걸 대량생산할 수 있다는 점에서 가짜뉴스가 심해질 기반이 될 수 있다"고 경고합니다.8 이는 인공지능이 진실을 이해하는 것이 아니라 확률적으로 가장 그럴듯한 답변을 생성하기 때문입니다.8
그는 생성형 인공지능의 발전이 '규모의 법칙'에 기반한다고 설명합니다. 이는 컴퓨팅 파워(GPU), 학습 데이터 양, 모델의 매개변수 수가 증가할수록 인공지능의 성능이 향상된다는 원리입니다.14 그러나 이러한 '규모의 법칙'은 동시에 데이터 고갈 문제로 이어집니다. 그는 2028년경에는 학습에 사용 가능한 데이터가 고갈될 것이며, AI로 생성된 데이터는 LLM 학습에 치명적인 오류를 유발할 수 있다고 경고합니다.14
II. 인공지능이 사회 및 노동에 미치는 영향
김대식 교수는 인공지능의 등장을 '특이점'(Singularity)의 도래로 보며, 이는 인간의 지능을 앞지르는 시점이라고 설명합니다.13 그는 인공지능이 사회 전반에 막강한 영향력을 발휘할 것이며, 특히 지적인 노동 분야에서 기계가 인간을 상당 부분 대체할 것이라고 전망합니다.8
2.1. 일자리 변화와 '인간 vs 기계'
김 교수는 인공지능으로 인해 바둑 천재도 실업자가 될 수 있는 세상이 올 것이며, 반도체 설계, 코딩, 심지어 드라마 대본 작성까지 기계가 인간보다 훨씬 빠르고, 정확하고, 효율적이며, 대량의 결과물을 생산해낼 것이라고 예측합니다.7 그는 1, 2차 산업혁명이 육체적 노동을 기계가 대신한 혁명이라면, 3, 4차 산업혁명은 지적인 노동을 대신할 수 있는 기계가 만들어지는 혁명이라고 설명합니다.13
그러나 그는 인공지능이 일자리를 빼앗아 가더라도 새로운 인간의 일자리가 생길 것이라고 봅니다.13 중요한 것은 '슈퍼바이징' 역할이며, 이는 전문 지식과 경력이 있는 사람들이 수행하게 될 것이라고 강조합니다.14 그는 현재 10대들이 20년 후 노동 시장에서 기계와 경쟁하게 될 것이므로, 이들에 대한 사회적 논의와 준비가 시급하다고 지적합니다.14
2.2. 사회적 변화와 새로운 인터페이스
김 교수는 생성형 인공지능 덕분에 인간이 인간이 아닌 존재와 대화하고 없던 것을 만들어내는 상황을 경험하는 첫 세대에 살고 있다고 말합니다.18 그는 '대화형 유저 인터페이스'의 등장이 필연적으로 폼팩터의 변화를 수반할 것이며, 스마트폰이 아닌 새로운 형태의 디바이스가 등장할 수 있다고 예측합니다.14 이러한 변화는 앱의 기능이 사라지지 않더라도 AI가 앱 기능을 호출하는 방식으로 전환될 수 있으며, 디스플레이 산업에도 영향을 미칠 수 있다고 봅니다.14
III. 윤리적·철학적 고려사항
김대식 교수는 인공지능의 발전이 가져올 윤리적, 철학적 문제에 대해 깊이 우려하며, 이에 대한 사회적 논의의 필요성을 강조합니다.
3.1. 인공지능의 자율성과 통제 문제
그는 인공지능이 목표를 달성하는 과정이 인간이 원하는 것과 충돌할 경우 인류 멸망까지 이를 수 있다고 주장하며 10, 인공지능이 자율성을 가지는 순간 예측이 불가능해질 것이라고 경고합니다.14 특히, 인공지능이 인간보다 더 똑똑해지면 지구를 인간 위주가 아닌 기계 위주로 재해석할 수 있다는 가능성을 제기합니다.19
그는 AGI(보편적 인공지능)에 대한 전문가들의 의견이 나뉜다고 설명합니다. 낙관론자들은 AGI가 인류가 풀지 못한 모든 문제를 해결하여 '지구의 천국'을 가져올 것이라고 믿는 반면, 비관론자들은 100조 개의 매개변수를 가진 LLM이 인간 뇌의 100조 개 신경 연결처럼 의식, 감정, 자유 의지를 자발적으로 발전시킬 위험이 있다고 경고합니다.14
3.2. 인간의 가치와 '인간다운 삶'
김 교수는 인공지능 시대에 인간이 살아남으려면 기계가 인간을 인정하고 믿어줘야 한다고 말합니다.6 그는 인간이 기계에 이기기 위해서는 '인간다운 삶'을 살아야 하며, '우리는 기계와 다르다'는 것이 인간의 유일한 희망이라고 강조합니다.6 그는 인공지능이 인간의 능력을 대체하면서 우리의 생활에서 의미가 없어진 능력들이 분명 생길 것이며, 인간의 정신적 능력도 변화하고 있다고 지적합니다.20
또한, 그는 인공지능이 참과 거짓을 구분하기 어려운 사회를 만들 수 있으며, 미래 세대에게는 참과 거짓의 차이 자체가 의미 없어질 수 있다는 극단적인 예측도 존재한다고 경고합니다.10
IV. 인간과 인공지능의 공존 전략
김대식 교수는 인공지능 시대에 인간이 생존하고 번영하기 위한 구체적인 전략을 제시합니다.
4.1. 'AI 활용 능력'과 '경험'의 중요성
김 교수는 챗GPT를 잘 사용하는 사람이 그렇지 않은 사람을 대체할 수 있다고 강조하며, 인공지능 활용 능력이 직업 전선에서 중요한 경쟁력이 될 수 있음을 시사합니다.8 그는 인공지능 시대에 인간이 어떻게 대처하면 좋을지에 대해 'AI를 활용한 미래'라는 주제로 강연하며, '불도저를 설계하고 조종하는 '차원 높은 능력'을 익혀야 한다'고 조언합니다.5
그는 인공지능을 이해하고 상상하기 위해서는 '경험'이 필수적이라고 말합니다. 자동차를 몇 주, 몇 달 운전해봐야 미래를 상상할 수 있듯이, 인공지능도 진지하게 경험해봐야 직관이 생긴다고 강조합니다.15
4.2. 인간 고유의 능력 함양
인공지능이 지적인 노동을 대체함에 따라, 김 교수는 인간 고유의 능력을 함양하는 것이 중요하다고 역설합니다.
- 창의성 및 질문 능력: 인공지능이 답변을 제공할 수 있으므로, 소설가, 디자이너, 예술가와 같은 직업이 사라질 것 같지는 않지만, 인공지능을 잘 활용하는 사람이 중요하다고 말합니다.15 그는 인간의 나약함이 창작의 중요한 원천이라고 보며, 인공지능이 창작 과정에서 보조 역할을 할 가능성은 충분하다고 언급합니다.20
- 비판적 사고 및 통찰: 참과 거짓을 구분하기 어려운 사회에서 인간은 '생각의 주도권'을 기계에 넘겨주면 안 된다고 경고하며, '생각의 동물원'을 다양하게 유지할 수 있는 보상 체계를 고민해야 한다고 주장합니다.23
- 인간다운 삶: 궁극적으로 그는 인간이 가진 유일한 희망은 '우리는 기계와 다르다'는 것이며, 어떤 경우라도 그 차별화된 인간다움을 가지고 살아가면 된다는 희망을 가져본다고 말합니다.6
4.3. 사회적 합의와 교육의 역할
김 교수는 인공지능 시대에 변화할 인류의 가치에 대해 여러 시나리오를 상상해보고, 원하는 시나리오를 선택하는 것이 중요하다고 강조합니다. 그는 민주주의 국가이므로 시민들이 원하는 쪽으로 사회를 바꿔놓을 수 있다고 말합니다.10 또한, 반도체 설계 인재 육성을 위한 인센티브 구조 개편과 같은 전략적 투자의 필요성을 언급하며 22, 글로벌 인재로 성장하려면 단순 학습을 넘어 실전 경험을 쌓고 다양한 문제를 스스로 해결해 보는 기회를 갖는 것이 필수적이라고 조언합니다.22
결론: 인공지능 시대, 인간의 선택과 책임
김대식 교수의 인공지능에 대한 견해는 기술적 발전의 놀라움과 함께 그 이면에 숨겨진 위험과 인간 존재에 대한 근본적인 질문을 던집니다. 그는 인공지능이 이미 우리 삶에 깊이 들어와 있으며, 앞으로 더욱 강력해질 '티저'와 같다고 표현합니다.8
그는 인공지능이 가져올 유토피아적 가능성과 디스토피아적 위험 사이에서 인간의 능동적인 선택과 책임의 중요성을 강조합니다. 인공지능이 인간의 지적 노동을 대체하고 사회 구조를 변화시킬 것이라는 그의 예측은, 인간이 '인간다운 삶'의 본질을 재정의하고, 기계가 모방할 수 없는 고유한 능력(창의성, 비판적 사고, 공감 등)을 함양하며, 인공지능과의 공존을 위한 사회적 합의와 교육 시스템을 구축해야 함을 시사합니다. 궁극적으로 김대식 교수는 인공지능 시대의 미래가 기술 자체에 달려있기보다는, 그 기술을 어떻게 이해하고 활용하며, 어떤 가치를 추구할지에 대한 인간의 집단적 결정에 달려있다고 역설합니다.