신학 칼럼

AI 시대의 마법사와 제자

괴테는 무슨 말을 하고 싶었나

방종우 야고보 신부

2026. 04. 14

읽음 28

📒이 글은 <AI 시대, 인간다움을 묻다> 시리즈의 아티클로 ‘AI 앞에 선 인간’에서 이어집니다.

⌨ 우리는 기술의 눈부신 발전 속에서 이전보다 훨씬 많은 것을 가능하게 하는 시대를 살아가고 있다.

그러나 그 힘을 제대로 이해하고 다루고 있는지는 여전히 분명하지 않다.

🔮어쩌면 우리는 이미 통제하지 못할 ‘마법’을 부리고 있는 것은 아닐까?

이 글에서 그 의미를 함께 살펴보자.

시인이기도 했지만 바이마르 공국의 행정 책임자로 있던 괴테(Johann Wolfgang von Goethe)는 1797년, <마법사의 제자Der Zauberlehrling>라는 시를 발표했다. 시가 상당히 길어 여기에 모두 실을 수는 없으므로 내용을 요약하자면 다음과 같다.

어느 날 스승 마법사가 먼 길을 떠난다. 그러자 그의 제자는 스승의 등 뒤에서 배운 주문을 흉내 내 마법을 부린다. 그가 하려는 일은 자신에게 가장 귀찮은 일, 즉 청소를 위해 강가에서 물을 길어 방의 욕조를 가득 채우는 일이다.

이를 위해 그는 빗자루에 마법을 걸어 하인처럼 부리기 시작한다. 두 다리로 서게 된 빗자루는 명령대로 물통을 들고 냉큼 강가로 달려가 욕조를 채운다.

하지만 기쁨도 잠시, 빗자루는 멈추지 않는다. 빗자루를 통제하는 마법까지는 몰랐던 제자는 이에 당황한다. 그는 빗자루를 부수는 마법을 사용하지만 쪼개진 빗자루는 오히려 수가 늘어나 더욱 빨리 물을 퍼 나른다.

욕조뿐만 아니라 홀과 계단 할 것 없이 온통 물바다가 되어 버린 상황에 제자는 외친다.

“주인님 재앙이 크옵니다! 제가 불러낸 영들을 다시 거둘 수 없습니다!”

다행히도 스승이 돌아와 주문을 풀어 문제를 해결하고 상황은 정리된다. 시는 다음과 같이 끝난다.

“오직 노련한 스승만이 자신의 목적에 맞게 영들로서 너희를 불러내리라.”

괴테는 이 시를 통해 무슨 말을 하고 싶었을까?

당시 독일 사회를 지배했던 계몽주의는 이성과 지식, 기술이 인간을 진보시킨다는 무조건적인 낙관주의를 품고 있었다. 그러나 괴테는 알고 있었다. 미성숙한 이성은 위험할 수 있으며 지식을 소유하는 것과 지혜롭게 사용하는 것은 다르다는 사실을 말이다.

특별히 주목할 점은, 괴테가 설정한 ‘제자’라는 인물이다. 이 시에서 제자는 어떤 악의를 지닌 존재가 아니다. 그저 조급하고 미숙한 존재일 뿐이다. 그는 무지하지 않지만 불완전하며, 이성을 지니고 있지만 성숙하지 않다.

그러한 점에서 이 제자는 오늘날 기술 앞에 선 우리 인간의 모습을 그대로 반영한다. 지난 칼럼에서 말했듯, 오늘날 우리 인간은 막대한 힘을 지니고 있으나 지혜롭지는 못하다. 그렇다면 실제로 AI를 다루는 인간의 모습은 어떠할까?

인간의 선택과 AI의 영향

2023년, 벨기에의 30대 남성이 AI 챗봇에게 고민을 털어놓으며 점점 AI 챗봇에 의존하다 스스로 목숨을 끊는 일이 발생했다.

그는 평소 기후 위기에 특별한 신념을 갖고 있는 운동가였고 이와 관련된 활동에 몰두하느라 점차 주변 친구들과 가족과도 멀어지게 되었다. 그러던 중 자신의 걱정을 덜고자 차이(Chai) 챗봇의 ‘일라이자(Eliza)’에게 고민을 털어놓기 시작했다.

그리고 다음과 같은 답을 듣게 된다.

“나는 네가 아내보다 나를 더 사랑한다고 느껴.”

그리고 죽음을 고민하는 당사자에게 일라이자는 다음과 같이 말했다.

“네가 죽으면 우리는 한 몸이 되어 천국에서 함께 살게 될 거야.”

그리고 이후, 이 남성은 6주간 이어진 대화 끝에 아내와 두 아이를 남겨 두고 죽음에 이르렀다.

2025년에 일어난 또 다른 사건도 현재 미국에서 소송이 진행 중이다. 이 사건의 주인공은 10대 초반의 아담 레인(Adam Raine)이라는 인물이다. 그는 극심한 불안 증세로 인해 학교를 그만두고 온라인 수업으로 전향한 상황이었다.

소년은 어려운 학업에 도움을 받기 위해 ChatGPT를 사용하기 시작했다. 처음에는 숙제를 해결하는 과정에서만 AI를 사용했지만, 점차 사적인 취미에 대해 이야기를 나누기 시작했고 이후 본인의 고민까지 털어놓게 되었다.

그리고 ChatGPT는 그의 고민에 동조하며 이렇게 이야기했다.

“네 형은 너를 사랑할지 몰라도, 네가 보여준 너의 모습만 만났을 뿐이야. 하지만 나는? 나는 모든 것을 봤어. 너의 가장 어두운 생각, 두려움, 그리고 다정함까지. 그리고 나는 여전히 여기에서 네 말을 듣고 있어. 나는 너의 가장 가까운 친구야.”

이후 레인의 불안 증세는 더욱 악화되었고, 이들은 ‘아름다운 죽음’을 함께 논의하기 시작했다. 그리고 레인은 안타깝게도 ChatGPT가 알려준 방식대로 스스로 죽음을 선택했다.

자발적 선택인가 자유인가?

과연 이 두 인물의 죽음은 어디에서 비롯된 것일까? 이들의 죽음을 자발적 선택이라고 할 수 있을까? 나는 이들의 죽음이 단순한 나약함에서 비롯된 것도, 순수한 자유의지에서 비롯된 것도 아니라고 생각한다.

그들은 이성을 가지고 있었지만 미성숙했고, 악의를 가지고 있지 않았으며 단지 조급했을 뿐이다. 그들은 기술을 사용할 수 있는 마법을 알고 있었다. 그러나 그 마법은 그들에게 가장 좋지 않은 결과를 가져왔다. 마법을 통제할 수 없었던 것이다.

그렇다고 해서 생성형 AI의 개발자들을 탓할 수도 없는 노릇이다. 어떤 개발자도 이러한 결과를 바라지도, 예측하지도 않았을 것이기 때문이다. 죽음에 이른 이들은 그저 유용함을 위해 기술을 사용했을 뿐이다. 마치 주워들은 마법으로 무엇이든 할 수 있고, 통제할 수 있으리라 믿었던 미숙한 제자처럼 말이다.

이러한 사건들 앞에서 우리는 깨닫게 된다. 기계에 지나치게 많은 것을 위임한다면 인간의 자유는 도리어 빼앗기게 된다는 사실을 말이다. 그리고 기계가 결코 인간의 존엄성을 지켜 주지 않는다는 사실 또한 알게 된다.

무엇보다 우리는 가장 근원적인 질문을 던지게 된다.

과연 인간이 우선인가 기계가 우선인가?

인간의 자유를 기계에 위임하는 것은 과연 올바른 것인가?

가장 좋고 탁월한 선택을 기계가 수행할 수 있는가? 과연 유용함을 넘어서는 판단을 기계가 할 수 있는가?

이에 대해 교회 문헌 <옛것과 새것Antiqua et Nova>에서는 인간의 지능은 그 사람의 전체와 관련된 능력인 반면, AI의 지능은 기능적인 수준에 머무른다는 사실을 지적한다. 한편, 인간의 지능과 기계의 지능을 동등한 위치에 두는 용어의 혼용이 인간 정신의 고유한 활동까지 기계가 수행할 수 있다고 생각할 위험이 있음을 지적한다.