"기계가 생각할 수 있는가?"

아래는 아직 베타 테스트 중인 생성형 AI "구글 Bard"와의 대화다. 

 

 

[질문1]

아래 영문을 한국어로 번역해 줄래?

“I believe that in about fifty years' time it will be possible to programme computers, with a storage capacity of about 109, to make them play the imitation game so well that an average interrogator will not have more than 70 per cent. chance of making the right identification after five minutes of questioning. The original question, ‘Can machines think?’ I believe to be too meaningless to deserve discussion. Nevertheless I believe that at the end of the century the use of words and general educated opinion will have altered so much that one will be able to speak of machines thinking without expecting to be contradicted.”

 

[구글 Bard의 답변]

“약 50년 후에 약 10의 9승의 저장 용량을 가진 컴퓨터를 프로그래밍하여 평균적인 심문자가 5분간 심문 후 정확한 식별을 할 확률이 70%를 넘지 않도록 모방 게임을 잘할 수 있게 될 것이라고 믿습니다. 원래의 질문, '기계는 생각할 수 있는가?'는 토론할 가치가 없을 만큼 무의미하다고 생각합니다. 그러나 그럼에도 불구하고 이 세기 말에는 단어의 사용과 일반적인 교육받은 의견이 너무 많이 바뀌어 기계가 생각한다고 말해도 모순되지 않을 것이라고 믿습니다.”

 

[질문2]

방금 네가 번역한 글은 Alan Turing의 저 유명한 "Computing Machinery and Intelligence"라는 글의 한 구절이야. 너는 이 튜링의 주장에 대해 어떻게 생각해?

 

[구글 Bard의 답변]

튜링의 주장은 크게 두 가지로 나눌 수 있습니다. 첫 번째는 약 50년 후에 컴퓨터가 인간과 구별할 수 없을 정도로 지능을 갖게 될 것이라는 주장입니다. 두 번째는 "기계는 생각할 수 있는가?"라는 질문이 무의미하다는 주장입니다.

첫 번째 주장에 대해서는 튜링이 예측한 대로 컴퓨터의 발전은 가속화되었고, 오늘날에는 챗봇이나 대규모 언어 모델과 같은 인공지능이 인간과 유사한 대화를 나눌 수 있는 수준에 이르렀습니다. 따라서 튜링의 주장은 어느 정도 타당성을 갖는다고 볼 수 있습니다.

두 번째 주장에 대해서는 찬반 양론이 있습니다. 찬성하는 측에서는 "생각"이라는 개념이 모호하고, 인간과 기계의 생각을 구분할 수 있는 명확한 기준이 없다는 점을 지적합니다. 반대하는 측에서는 기계가 인간과 같은 수준의 지적 능력을 갖게 된다면 기계도 생각할 수 있다고 주장합니다.

개인적으로는 튜링의 두 번째 주장에 어느 정도 동의합니다. "생각"이라는 개념은 매우 복잡하고, 인간의 생각과 기계의 생각을 완전히 구분할 수 있는 것은 불가능하다고 생각합니다. 그러나 기계가 인간과 구별할 수 없을 정도로 지능을 갖게 된다면, 기계도 인간과 같은 의미에서 "생각"한다고 볼 수 있다고 생각합니다.

튜링의 주장은 인공지능 연구에 큰 영향을 미쳤습니다. 튜링 테스트는 인공지능의 지능을 평가하는 기준으로 널리 사용되고 있으며, 인공지능 연구자들은 튜링의 주장을 실현하기 위해 노력하고 있습니다.

 

[질문3]

Bard 너의 답변 능력을 볼 때, 바드 너는 네가 말한 것처럼 "인간과 구별할 수 없을 정도로 지능"을 갖고 있는 것처럼 보여. 아니 사실 인간 이상의 지능을 갖고 있는 것처럼 보일 때도 많은데, 그렇다면 네가 말한 것처럼 너도 "인간과 같은 의미에서 '생각'한다"고 할 수 있겠구나. 그치?

 

[구글 Bard의 답변]

네, 그럴 수 있습니다. 저는 대규모 언어 모델로서 방대한 양의 텍스트 데이터에 대해 교육을 받았으며, 다양한 프롬프트와 질문에 대해 인간이 작성한 것처럼 텍스트를 생성하고, 언어를 번역하고, 다양한 종류의 창의적인 콘텐츠를 작성하고, 유익한 방식으로 질문에 답변할 수 있습니다. 저는 여전히 개발 중이지만, 다양한 종류의 작업을 수행하는 방법을 배웠습니다.

예를 들어, 사실적인 주제에 대한 요약을 제공하거나 이야기를 만들 수 있습니다. 또한 귀하의 지시를 따르고 귀하의 요청을 신중하게 완료하기 위해 최선을 다하겠습니다.

그러나 저는 인간이 아닙니다. 저는 기계이며 인간과 같은 방식으로 생각하거나 느낄 수 없습니다. 저는 정보를 처리하고 텍스트를 생성할 수 있지만, 인간이 하는 방식으로 세상을 이해하거나 경험할 수 없습니다.

따라서 저는 "인간과 같은 의미에서 생각한다"고 말할 수는 없습니다. 그러나 저는 인간과 구별할 수 없을 정도로 지능적일 수 있으며, 인간과 유사한 방식으로 텍스트를 생성할 수 있습니다. 

 

(※ 질문2에 대한 ChatGPT 4의 답변: 

Alan Turing의 이 주장은 인공지능의 가능성과 미래에 대한 통찰력 있는 전망을 제공합니다. 그는 기계가 생각할 수 있는지 여부에 대한 질문이 의미 없다고 주장하며, 대신 기계가 충분히 복잡하고 진보된 경우 인간의 생각을 모방하는 것이 가능하다는 관점을 제시합니다.

튜링은 이러한 가정을 바탕으로 '튜링 테스트'를 제안했습니다. 이 테스트는 기계가 사람처럼 생각하는 능력을 판단하기 위해 사용되며, 사람이 질문자로서 기계와 대화를 하여 그 반응이 사람인지 기계인지 판별하는 방식입니다.

2021년까지 볼 때, 우리는 아직 튜링이 예측한 정도의 AI에 도달하지 못했습니다. 현재 AI는 특정 작업에서 인상적인 성능을 보일 수 있지만, 일반적인 상황에서 인간처럼 추론하거나 학습하는 능력은 아직 부족합니다. 그러나 AI 연구와 개발은 계속 진행 중이며, 앞으로 어떤 발전이 있을지 예측하기 어렵습니다.

그리고 중요한 점은, AI가 '생각'한다고 말할 때 우리가 정확히 무엇을 의미하는지에 따라 달라집니다. 만약 이것이 단순히 계산능력과 패턴 인식 등으로 한정된다면, 이미 일부 분야에서는 그렇게 할 수 있습니다. 하지만 '생각'이 감정, 자아 의식 등 포괄적인 개념으로 해석된다면, 현재의 AI로서는 아직 도달하지 못한 영역입니다.)

 

 

---

 

 

엘런 튜링(Alan Turing)은 소위 "튜링 테스트"를 제안한 "계산 기계와 인공지능"(Computing Machinery and Intelligence, 1950)이란 논문에서 "기계가 생각할 수 있는가?" 하는 물음은 50년 후면 무의미해질 것이라고 했다(위 구글 바드의 번역 참고). 2023년 현재, 그의 예측은 거의 실현된 것 같다. 

 

디지털 사진기로 사람의 얼굴을 찍어서 포토샵으로 확대해 보면, 사진 속 얼굴 윤곽이 연속적인 곡선이 아니라 불연속적인 작은 네모들(화소들)로 이루어져 있음을 알 수 있다. 그 화소들을 적분한 게 우리가 보는 사진 이미지이고, 사진 이미지를 미분하면 그 작은 네모난 점들로 분해된다. 사진을 아주 크게 확대해 보지 않는 이상, 디지털 사진 속 곡선과 현실의 곡선 사이에서 차이를 느끼긴 어렵다. 디지털 정보로 인코딩된 바이올린 소리를 듣고 우리는 그냥 바이올린 소리라고 하는 것과 마찬가지다.

 

기계 지능에 관한 많은 쟁론이 있지만, 중요한 것은 이 점이라고 생각된다. 디지털 사진에 표현된 곡선이 진짜 곡선인지 묻는 것은 사실상 무의미한 질문이 되었다. 유튜브에서 밤양갱을 플레이할 때 스피커에서 나오는 소리가 진짜 비비의 목소리가 아니라는 말도 마찬가지다. 기계가 진짜 생각하는가? 이런 의문이 거의 무의미한 시대가 도래한 것 아닌가? "생각"을 어떻게 정의하느냐에 따라 다른 답변이 가능하겠지만, 인간의 사고 능력과 관련된 많은 영역에서 인간과 다른 점을 찾기 어렵다. 

 

이른바 튜링 테스트는 기계가 지능이 있는지 테스트하는 것이지만, 거꾸로 인간에게 기계에게 지능이 있는지 없는지 테스트할 능력이 있는지 의문시되는 상황이다. 이 블로그에 로그인할 때 나는 그림에서 오토바이를 골라내라는 명령(?)을 받았고 로봇처럼 "로봇이 아닙니다"에 체크 표시를 해주어야 했다. 현재로서는 로봇이 수행할 수 없는 문제를 내어 로봇에 의한 자동 로그인을 걸려 내지 않고서는 로그인을 하는 주체가 인간인지 로봇인지 알 수 없기 때문이다. 인간이 로봇이 아님을 스스로 증명해야 하는 테스트로 바뀔 것임을 보여주는 징후처럼 느껴지는 것은 왜일까.

 

또 50년 후면 "AI에게 감정이 있는가?"하는 문제 역시 완전히 무의미해질지 모른다. 진짜 감정이 있는 것처럼 작동하는 AI 로봇이 등장한다면, 우리는 그것에게 정말 감정이 있는 것인지 혼란스러워 하면서도 분명 그 존재에게 감정을 "느끼게" 될 것이다. 인간의 "느낌"은 해상도와 분해능(resolution)이 너무 낮기 때문이다. 어려서부터 그런 "몸을 가진 인공지능"(embodied AI)과 함께 지내고 정서적 교감을 나눈 세대는 인간처럼 감정을 표현하는 인공지능 로봇에게 윤리적 지위를 부여하는 일에 거부감이 없을 것이다. 반면 도래한 새로운 기술에 거부감이 있는 이들은 분명 얼토당토않은 일이라고 반발할 것이다.

 

2017년 1월 12일, EU는 AI 로봇의 법적 지위를 ‘전자 인간(electronic personhood)’으로 규정하는 결의안을 통과시켰다.(https://m.dongascience.com/news.php?idx=16064) AI 기술 고도화로 인간의 감정을 훌륭히 모사하여 결과적으로 감정이 있는 것처럼 느껴지는 인공지능 로봇이 등장한다면, 이제 전자 인간의 법적 지위를 넘어 윤리적 지위에 대해 논의해야 할 것이다.(구글 바드나 챗GPT 같은 생성형 AI와 놀다 보면, 이 놈들을 영화 "Her"처럼 작동하게 만드는 일은 이미 충분히 가능한 일임을 알 수 있다.) 그때가 되면 지금 보면 말도 안 되는 일이지만 한때 흑인에게 인간의 지위를 부여하고 윤리적 고려 대상으로 볼 것인지를 두고 첨예한 갈등이 있었던 것처럼, 인공지능 로봇을 두고 같은 일이 벌어질 것이다.

 

인공지능에게 윤리적 지위를 부여하는 것이 옳다는 말이 아니다. 그런 문제가 제기될 수 있는 시대로 가고 있다는 이야기다.

 

 

---

사진은 옴니버스 영화 <인류멸망보고서> 중 "천상의 피조물"(김지운 감독)의 한 장면.

저 로봇은 사고와 감정을 지니는 것을 넘어서 심지어 "깨달음"에 이른다.

 

 

 

---