<div>Deep learning 이후로 AI의 기술과 능력은 급속도로 향상되고 있으며, 이런 추세로라면 미래학자들의 예언데로 머지않은 미래에 AI는 기술적인 특이점을 맞이하게 될것이고, 인류의 삶은 그 변화를 예측할수 없다는 것 정도만 예측할수 있을 정도로 급변하게 될것이다.<span style="font-size:9pt;line-height:1.5;">그리고 적지않은 미래학자, 자연과학자, 컴퓨터과학자들이 이런 초지능체가 될 AI가 인류에 심각한 위협적인 존재로 변모하게 될 것이라고 우려하고 있다. 그러나 지극히 개인적인 생각이기는 하지만 그들이 생각하는 형태의 위협이 발생될 가능성은 거의 없을듯 하다.  </span></div> <div> </div> <div><span style="font-size:9pt;line-height:1.5;">이들 AI 위협론자(?)들이 말하는 시나리오는 대략 2가지로 정리된다. </span></div> <div><b>첫째는 AI의 인류배반 가능성이다.</b> </div> <div>말 잘듣던 인간의 도구 AI가 터미네이터, 매트릭스에서처럼 갑자기 인류를 배반을 해서 인간을 공격하게 될수도 있다는 설명이다. </div> <div>그러나 이럴 가능성은 거~의 없다고 봐도 된다.</div> <div>배반을 하려면 지능도 있어야 하지만 그것과 함께 자발적인 동기도 있어야 한다. </div> <div>그리고 그런 동기의 원형은 감정이라는 것이 있어야 나올수가 있고, </div> <div>또다시 그런 감정은 자체적이고 내제적인 목적이 없는 존재에게는 정의할수가 없다. </div> <div>즉, 배반은 지능과 함께 내제적이고 자체적인 목적을 가지고 있는 인간,짐승 정도나 할수 있는 것이지</div> <div>초월적인 수준이라 할지라도 지능만 가질수 있는 존재인 AI에게는 가땅치도 않는 것이다.</div> <div>그럼 AI는 왜 내제적이고 자체적인 목적을 가질수가 없는가?</div> <div>간단하다. 인간에게는 그런것을 가진 존재를 만들 능력을 가지고 있지 않으며, 그럴 가능성도 거의 없기 때문이다.</div> <div>이것이 가능한지 안한지는 인간이 신처럼 순수한 생명체를 만드는 순간이 온다면, 그때 생각해 봐도 늦지 않다.</div> <div>인간은 자체적인 목적체를 만들기는 커녕 그것이 무슨 의미인지 조차도 아직 이해하지 못하고 있는듯 하다. </div> <div><br></div> <div>AI위협론자들의 <b>두번째 시나리오는 AI의 작동오류가능성이다.</b></div> <div>AI의 작동 오류에도 두가지가 있을수 있다. </div> <div>첫째는 시스템 오류 같은 AI조차도 의도(?)하지 않는 BUG형 낮은 수준의 오류고, </div> <div>둘째는 판단 오류 같은 AI가 의도한 것이기는 하지만, 인간입장에서는 터무니 없는 결정을 내리는 것이다. </div> <div>첫째 (AI의 인류 배반 가능성)보다는 개연성이 있지만 이 역시 이것 자체가 큰 문제로 발전할 가능성은 그다지 높지 않다.</div> <div>첫째부터 본다면, 초지능체 AI라 할지라도 거기에는 시스템 오류가능성이 분명히 있다.</div> <div>그러나 또다시 분명한 것은 그런 초지능체 AI의 시스템오류 가능성보다는 불완전체인 인간이 실수나 착각을 할 가능성이 훨씬 크다는 것이다.</div> <div>체르노빌 원전사고나, 첼린져호 우주선 폭발사고, 우발적인 전쟁 같은 것도 따지고 보면 인간의 불완전한 착각이고 실수에서 온것이다.</div> <div>오류 자체를 원천적으로 봉쇄할수는 없지만 오류를 최소화 하기 위해서라도 오히려 인간은 AI의 도움을 받아야 한다. </div> <div><span style="font-size:9pt;line-height:1.5;">둘째로 AI의 판단오류로 인한 재앙 상황 가능성이다.</span></div> <div>그러니까 예컨데, 환경보존이나 에너지 절약을 목적으로 돌아가는 AI라면은 어떤 상황에서 인간은 멸종되어야 한다고 판단을 하게 될수도 있으며(배반이 아님), 그에 따라 예컨데 자체적으로 핵전쟁을 일으킬수도 있다는 시나리오이다.</div> <div>그러나 이것은 앞서 언급한 AI배반론 만큼은 아니지만 발생가능 개연성은 극히 낮다.   </div> <div>왜냐하면 이것은 AI의 실행 역량은 미국 대통령 이상으로 과대평가하면서, 동시에 AI의 판단분별력은 박근혜만큼이나 못한 존재로 과소평가 했을때나 발생 가능한 시나리오인데, AI가 그런 형태로 설계되지는 않을 것이기 때문이다.</div> <div>  </div> <div>정리하면,  개인적인 생각으로는 AI로 인해 인류의 미래에 미래학자들이나 신경망 과학자 등이 예견하는 형태의 위협은 없을 것이다.  </div> <div>그렇다고 AI를 믿고 맏겨도 된다는 것은 아니다.</div> <div>AI는 다른 형태로 인류를 현실적으로 위협할수 있는 마찬가지로 2가지 시나리오가 있는데</div> <div><b>첫째는 불순세력 AI 장악가능성이다.</b></div> <div>그러니까 인류의 생활에 막강한 영향을 미칠 AI를 어떤 불순 세력들이 장악을 하여 사사로운 이로움을 위해 악용하는 것이다.</div> <div>사실상 가장 개연성이 높으면서도 위협적인 시나리오이다. </div> <div>인터넷이라는 플랫폼으로 여론조작을 한다거나, 선관위 시스템에 접근하여 대선조작한다거나, <span style="font-size:9pt;line-height:1.5;">주식매매 장치를 해킹하여 주식을 조작한다거나 등의 지금도 공공 플랫폼은 이런 불순 세력의 조작에 노출되어 크고 작은 문제를 일으킬수가 있는데,</span></div> <div>만약 그런 불순세력이 접근하려고 하는 것이 미래의 초지능체 AI라면 그것은 무당을 나라에게 맞기는것 만큼의 재앙적인 결과를 초래할지도 모른다.</div> <div> </div> <div>AI가 인류를 현실적으로 위협할수 있는<b> 두번째 시나리오는 AI방관 인류나태화 가능성이다. </b></div> <div>그러니까 AI의 성능이 일치월장하면서, 어느기점에서 AI가 인류에게 가져다 주는 편리가 인류가 생활에 필요로 하는 정도를 능가하게 되고,</div> <div>인간은 더이상 먹고 살기 위한 어떠한 노력도 필요치 않는 상태가 되면서 서서히 골치아픈 신경거리를 AI에게 맞기게 되고, </div> <div>급기야는 기본적이고 근본적인것 조차도 자발적으로 AI에게 권한을 넘겨서 AI에게 의존한체로 살아가게 된다는 것이다.</div> <div>이렇게 계속 살다보면 인간은 자연스럽게 나태해질 것이고 (태평양 섬나라 나우루의 역사나 영화 "월E"에 잘 묘사되어 있음), 그렇게라도 잘 살면 다행인데, <span style="font-size:9pt;line-height:1.5;">행여나 AI에 문제가 발생해서 더이상 예전처럼 정상적인 작동을 못하게 되는 경우, 또는 AI작동에 대한 기본적인 모니터링도 생까서 AI가 오작동을 한다거나 한다면 그것은 인류에게 재앙적인 상황이 될 것이다.  </span></div>