<div><span style="font-size:9pt;line-height:1.5;">1970년대 말에서 80년 초에 나왔던 것으로 생각되는데,</span></div> <div>김형배 화백의 만화에 '청동거인'이라는 로봇이 나온다.</div> <div>수많은 로봇물이 범람하고 있었던 그 시절, 이 청동거인이 가진 의미는 </div> <div>좀 달랐는데 그건 산업용 로봇이라는 것.</div> <div><br></div> <div>교량 건설 현장에서 거대한 H빔을 어깨에 메고 성큼성큼 걸어가서</div> <div>다리를 놓는 청동거인은 다른 모든 로봇 만화와 구별되는 어떤 것이었다.</div> <div>물론, 건설만 하면 주 독자층인 꼬마들이 좋아할 리 없으니까,</div> <div>나중에 적당한 악당도 나오고 싸움도 한다.  </div> <div>(사실, 청동으로 거대로봇을 만든다는 것은 재료공학적인 측면에서 완전히 잘못된 </div> <div>소재 선택이고, 에너지 효율 또한 매우 낮을 것이긴 하지만.ㅎ)</div> <div><br></div> <div>인간이 하기 힘든 일을 기계가 도와준다는 의미에서,</div> <div>(지금 생각하면 노동을 해방시킨다는 맥락에서)</div> <div>유년시절 읽었던 수많은 로봇 만화중 매우 특별한 위치에 있는 로봇이었다.</div> <div><br></div> <div>근데, 현재 좀 다른 종류의 로봇이 우리 앞에 있다.</div> <div>오늘 이세돌 9단이 알파고에게 졌다. 그것도 두 판 연속. </div> <div>어제와 오늘, 이유를 알 수 없는 불편함이 마음속을 내리누른다.</div> <div><br></div> <div>정확히 어떤 현상이 벌어졌으며, 이것의 의미는 무엇이고,</div> <div>인류 문명이 어떤 단계를 지나가고 있는지에 대한 파악이 되질 않는다.</div> <div>논리적으로 설명할 순 없지만, </div> <div>직감적으로는 뭔가 '큰 질문'이 생겨나는 시기라고 생각된다.  </div> <div>그 영향력이라는 것이 너무 전방위적이라</div> <div>인지과학, 뇌과학, 로봇 테크놀로지, 노동경제학, 문명발달사, 윤리학, </div> <div>그리고 철학에 이르기까지 어느 하나 영향을 받지 않는 부분이 없다.</div> <div><br></div> <div>'기술적 특이점(Singularity)'이라는 용어를 어제 배웠는데,</div> <div>기계가 인간을 따라잡는 순간(특이점), 그 후 발전속도는 기하급수를 따른다는 이론이다.</div> <div>바둑에 한정해서 말하자면, 알파고는 바로 그 특이점을 넘어선 게 아닌가 한다.</div> <div><br></div> <div>발터 벤야민은 '역사철학테제'에서 체스 두는 기계를 말한 바 있다.</div> <div>백전 백승의 이 기계 내부엔 사실 조그만 난쟁이 체스 마스터가 들어 있다.</div> <div>그 마스터의 이름은 역사유물론이다.</div> <div>역사를 통해 배우는 역사유물론은 항상 이길 수밖에 없다.</div> <div>그 역사유물론의 기술적 버전이 바로 알파고가 했던 방법, 딥 러닝으로 보인다.</div> <div>이것이 다른 인공지능(AI)과 연계되어 인류와 문명에 어떤 영향을 끼칠지는,</div> <div>아쉽지만 상상의 범위를 벗어나는 일이라 뭐라 언급하기 힘들다.</div> <div><br></div> <div>뇌과학 권위자인 김대식 교수는 그의 저서 빅 퀘스천에서 말한다.</div> <div>인공지능은 약한 인공지능과 강한 인공지능이 있다.</div> <div>투박하게 말하자면, 약 인공지능은 인간의 제어하에 있는 그래서 인간에게 많은 도움을 줄 수 있는 지능이고, 강 인공지능은 스스로 어떤 정치적 판단을 할 수 있는 단계의 지능이다.</div> <div>터미네이터의 스카이넷이라고 보면 될 것이다. </div> <div><br></div> <div>김대식 교수는 향후 50년 안에 인류는 그 질문에 맞닥뜨릴 것으로 보고 있었다.  </div> <div>그래서, 그는 빅 퀘스천(큰 질문)을 하고 있다.</div> <div>즉, 강인공지능이 지구에 해를 끼치는 인간이 불필요하다고 판단한다면, </div> <div>우리가 그 전에 우리 자신에게 먼저 물어보자. </div> <div>"인간은 과연 (삭제되지 않고) 존재할 가치가 있는가."</div> <div>최고 수준의 인공지능 과학자는 결국 그런 근본적인 철학의 질문 영역에 들어서게 된다. </div> <div>‘삶에 의미가 있어야 하나?’라고 묻고서는, </div> <div>“삶에 의미가 있는 게 아니라, 의미 없는 삶에서 어떻게 살아가는가가 문제”라고 한다.</div> <div><br></div> <div>글쎄.</div> <div>기계는 무엇무엇(A)을 할 수 있지만, </div> <div>오직 인간만이 무엇무엇(B)을 할 수 있기 때문에</div> <div>인간은 존재의의가 있다..는 말을 하려는 게 아니다.</div> <div>A는 점점 B가 될 것이다.</div> <div><br></div> <div>인간은 존재하기 때문에 존재할 가치가 있다.</div> <div>인간의 존재에 꼭 의미가 있을 필요는 없다.</div> <div>태어난 인간은 존재할 이유가 있다는 뜻이고,</div> <div>인간의 존재 의의는 생물학적 생존 본능 하나만으로도 충분하다.</div> <div><br></div> <div>모든 인간은 태어났다는 것만으로 살 이유가 존중되어야 하고,</div> <div>삶의 의미를 요구 받아선 안 된다.</div> <div>기계가 '인간은 존재할 가치가 있냐'란 질문을 한다면, </div> <div>성능을 갖춘 기계는 이번엔 도덕을 장착하기 이전에 매너를 갖춰야 할 것이다.</div> <div><br></div> <div>언제 기계가 위험해질까?</div> <div>인공지능 분야에 해 놓은 공부가 없어 제대로 된 질문을 하고 있는 건지는 모르겠는데,</div> <div>그냥 직감적으로 생각해봐도, </div> <div>기계가 '생존본능'을 인식하는 시기가 온다면 거기가 위험의 변곡점이라고 본다.</div> <div><br></div> <div>SF 대가 아이작 아시모프는 로봇 3원칙을 만들어 인간을 보호하는 알고리즘을 만들려고 했다.</div> <div>근데, '인간을 위험에 빠뜨리게 해서는 안 된다'는 로봇 1원칙 자체가 </div> <div>추상적으로 확대될 수 있는 명제이고,</div> <div>(가령, 인간을 위험에 빠트리는 자동차를 계속 조립해도 되는가)</div> <div>위험에 대한 해석이 충돌될 수 있는 가치판단이자 도덕적 판단을 요구하는 것이라,</div> <div>'특정 사람집단을 죽여 놓고, 이게 다 인류를 위한 것이야..'라는 </div> <div>뻔뻔한 판단을 할 수도 있는 것이다. </div> <div><br></div> <div>더 나가자면 앞으로 이런 질문을 갖게 될 확률이 있다.</div> <div>기계를 인간과 차별하는 것이 옳은가?</div> <div>기계가 점점 인간을 닮아가고 인간성을 획득하게 되면서,</div> <div>인권과 유사한 개념인 기계권이 생길 수 있다.</div> <div>기계보호론자들이 생기고,</div> <div>기계보호정당이 생기고,</div> <div>기계에게 투표권이 생길 수 도 있다.</div> <div>이 청동거인들과 평화롭게 공존하는 것을 검토할 때가 올지도 모르겠다.</div> <div><br></div> <div>오늘 알파고에게 바둑을 진 인류를 보며,</div> <div>19세기 영국 요크셔의 노동자처럼</div> <div>러다이트 운동을 하기 직전의 감정 상태를 가지게 된다.</div> <div><br></div> <div>아리스토텔레스는 </div> <div>'(실을 잣는) 베틀이 스스로 돌아가면 인간은 노예를 가질 필요가 없다'고 한 적이 있다.</div> <div>난 그가 좀 감상적으로 얘기했다고 생각하는데,</div> <div>인공지능을 알게 된다면 견해를 수정하게 될 거라 본다.</div> <div><br></div> <div>바둑패배 충격이 컸는지 </div> <div>바둑도 못 두면서 흰소리만 늘어놨는데,</div> <div>강인공지능의 등장은 50년 후의 일이고,</div> <div>골치 아픈 일은 미뤄두고 하루하루 즐겁게 사는 것도 인간의 미덕이다.</div> <div>자고 일어나면 알파고는 잊을 것이다.</div> <div>아, 17보까지 체크했던 바둑 중계 기사도 내일부터 안 본다.</div> <div>메이저 야구나 볼 거다. </div> <div><br></div> <div><br></div> <div><br></div> <div><br></div>