마음과 몸 · 테스트 문항 29/35
The Turing Test and the Chinese Room
사람과 구별할 수 없게 대화하며 '슬프다'고 말하는 AI는 정말 슬플까요? 튜링 테스트와 존 설의 중국어 방 논증, 최근 AI 의식 논쟁을 정리했습니다.
어떤 AI가 사람과 구분할 수 없을 만큼 자연스럽게 대화하고, 자신이 지금 슬프다고 말합니다.
그래도 그 AI는 아무것도 느끼지 않을 수 있다.
영국 수학자 앨런 튜링은 1950년 「계산 기계와 지능」에서 '기계가 생각할 수 있는가'라는 질문을 대화로 사람과 구별되지 않는지 보는 '흉내 게임'으로 바꾸자고 제안했습니다. 미국 철학자 존 설은 1980년 '중국어 방' 논증으로 반박했습니다. 중국어를 모르는 사람이 규칙서에 따라 기호를 처리해 완벽한 중국어 답변을 내놓더라도 중국어를 이해하는 것은 아니므로, 프로그램을 실행하는 것만으로는 이해도 의식도 생기지 않는다는 것입니다.
이 문항에 동의한다면 당신은 행동이 같아도 내면의 경험은 없을 수 있다고 보는 것입니다. 이는 설의 중국어 방 직관과 같고, 더 넓게는 행동만으로는 다른 존재의 마음을 알 수 없다는 '타인의 마음' 문제와도 연결됩니다.
중국어 방에 대한 가장 유명한 반론은 '시스템 응답'입니다. 방 안의 사람은 중국어를 이해하지 못해도 사람, 규칙서, 종이를 포함한 시스템 전체는 이해할 수 있다는 것입니다. 대규모 언어 모델이 등장한 뒤 이 논쟁은 현실의 문제가 되었습니다. 데이비드 차머스는 2022년 강연에서 당시 언어 모델이 의식을 가졌을 가능성은 낮지만, 앞으로 10년 안에 그 가능성을 진지하게 고려해야 할 시스템이 나올 수 있다고 평가했습니다. '슬프다'는 말은 학습 데이터 속 인간의 표현을 재현한 것일 수 있으므로 말 자체는 증거가 되기 어렵다는 점에는 많은 연구자가 동의합니다.
2020년 PhilPapers 설문에서 '중국어 방 속 체계는 중국어를 이해하지 못한다'를 택한 철학 교수는 약 67%였고, 미래 AI 시스템이 의식을 가질 수 있다고 본 응답은 약 39%였습니다.