그림이 깨지면, 원문을 참고바랍니다.

https://docs.google.com/document/d/1wST-XvC0jAabnKS6R8tkO9_r7a2qqzc2tLfqkU_2YH0/pub

개인의 정치적 성향과 마찬가지로 AI의 정치적 성향 역시 그 유전자에 의해 결정되며, AI의 DNA는 ANN(Artificial Neural Network) 알고리즘입니다. 현대 기술 수준으로는 미지의 씨앗을 분석하여 그 식물의 형태를 짐작할 수 없지만, 다행히 ANN은 DNA보다 간결하므로, 그 미래를 짐작할 수 있습니다. ANN의 태생적 이유로 인해, AI 개발자의 정치적 성향이 다양하고, AI가 적용될 수 있는 영역도 무궁무진하지만, AI 시스템은 예외없이 사회민주주의적 경향을 가질 수 밖에 없습니다. 구체적 예로서, 지능형 교통물류 시스템과 의료 시스템, 사법시스템 그리고 시장경제 메커니즘을 4 편에 나눠 기재합니다. 이 글은 그 첫 편입니다.

AI의 DNA는 민주주의

인공지능의 원리는 단순합니다.AI 기술을 자유로이 이용하고, 응용하기까지는 상당한 시간과 열정이 필요하지만, 원리 자체는 심플합니다.

열쇠를 잃어버려서 여러분이 직접 열쇠를 만들어야 하는 상황을 가정합시다. 엎친 데 덮친 격으로 귤도 없습니다.

여러분은 쇳조각에 1mm 간격으로 눈금을 표시한 다음, 각 눈금을 갈아 내거나, 반대로 쇠를 더합니다. 자물쇠가 열릴 때까지 눈금의 어떤 부분에서는 쇠를 갈고, 어떤 부분에서는 쇠를 더하는 작업을 계속합니다. 어디를 깍고 어디를 더해야할 지는 알 수 없습니다. 아마도 평생 쪼그리고 앉아 어떤 눈금은 갈고, 어떤 눈금은 더하면서 요행을 고대해야 할 것입니다. 인공신경망의 기본 구성은 표시된 쇳조각의 눈금 각각의 부분에 해당하는 Input, 자물쇠의 개폐 여부가 결정되는 Output, 그리고 그 사이에 쇠를 깍고 더하는 공정에 해당하는 Hidden으로 구성됩니다.  

역사가 오래지만 최근에야 AI 빛을 발한 이유는, 쪼그리고 앉아 대책없이 갈고 깍는 작업을 대체할 대책있는 알고리즘(Backpropagation)이 나와주고, 손놀림의 속도가 빛의 속도에 이르게 된 GPU 덕입니다.  

A 'Brief' History of Neural Nets and Deep Learning

귤도 없었다는 지점에서 콧날이 시큰해지는 이 스토리에서, 우리가 주목할 부분은 다수의 인풋과 하나의 아웃풋입니다. 어딘가 익숙하지 않나요? 바로, 투표 시스템입니다. 한국을 예로 들면, 5천 만 시민이 갑론을박하는 와중에 각 후보의 지지율이 수시로 요동치는 끝머리에 한 명의 대통령이 선출되는 것과 같습니다. 이를테면, 5천만 시민 각각이 Input, 갑론을박하는 과정에서 각 시민의 마음속 지지 후보가 수시로 바뀌는 것이  Hidden, 어쨌거나 나오는 선거 결과가 Output입니다. AI 시스템이 태생적으로 민주주의자일 수 밖에 없는 이유는 그 동작 메커니즘이 기존의 투표 시스템과 같기 때문입니다.

Image source: DeepMind

AI가 사회주의자로 성장하는 이유

기존의 교통물류 시스템과 AI 기반 시스템의 차이를 기술하기 위한 비유로 불이난 극장을 상정해 봅시다. 두 가지 질문을 드리겠습니다. 첫번 째, 만약 내가 많은 사람들 속에서 영화를 관람하는 중에 불이 났다면, 내가 취할 수 있는 가장 합리적인 행동은 무엇일까요? 질서 정연하게 대피하도록 최선을 다하는 것일까요 아니면, 불문곡직 사람들을 밟고서라도 비상구를 향해 뛰어야 할까요? 또한, 두번째 질문은, 전체 관객의 관점에서, 질서 정연한 대피와 아수라장의 혼란 중 무엇이 보다 많은 생명을 구할 수 있을까요?

첫 질문에서, 수단과 방법을 가리지 않고 남들보다 먼저 비상구에 도착하는 것이 내 목숨을 건지는 최선의 방법입니다. 둘 째 질문의 정답은 질서있는 대피입니다. 즉, 개인의 이익과 사회의 이익은 모순 관계입니다. 나와 사회가 모두 이익을 보는 시스템은 없다는 말이죠. 적어도 지금까지는 그렇습니다.

같은 논리가 기존의 교통물류 시스템에 적용됩니다. 신호 위반, 과속, 끼어들기로 나 자신이 목적지에 빨리 도착할 수 있는 것과 질서있는 주행으로 사회 전체의 총효용이 최대가 되는 것은 양립할 수 없습니다. 질서를 지키면, 나 자신의 최대 이익은 없지만, 사회 전체의 이익이 최대가 되고, 내가 비겁하면, 나의 행복이 최대가 됩니다.

뉴스에서 보도되는 자율주행차량이 이러한 문제의 해결책이 될 수 있을까요? 기존 차량을 모두 현재의 자율주행 방식으로 교체하더라도, 운전자가 사람에서 컴퓨터로 바뀐 것 뿐, 각 차량이 제각기 자신의 최대 행복을 위해 모든 노력을 다할 것이므로, 교통 혼잡은 여전하고, 교통 물류의 총비용 역시 변함이 없을 것입니다.

재밌는 점은 자본주의의 DNA는 무조건 비용을 줄이는 쪽으로 진행하므로, 교통 총비용(Total Traffic Expense. 차량 소유비용, 운행비용, 및 기타 비용을 합친 총비용)이 단독형(Stand-alone)의 절반 이하인 서버 기반 자율주행이 종래의 자율주행 방식을 대체할 수 밖에 없다는 것입니다. 가내수공업이 공장 생산으로, 다시 포드시스템으로 전환되었듯이, 단독 자율주행 역시 사회적 자율주행으로 진화하는 힘의 원천은 자본의 속성에 있습니다.

그런데, 재차 재밌는 점이 있습니다. 도로 위의 모든 차량과 신호등 등의 장치를 포괄적으로 제어하는 서버기반 방식은 차량을 공공재로 이용할 때의 비용을 자가용을 사적으로 소유하는 비용보다 낮추고, 이는 어느 한 국가 또는 도시의 총 차량 수요를 종래의 1/10 이하로 줄이게 되므로(도로 폭이 10배 확장되는 것과 같습니다), 마치 불 난 극장에서 모두가 안전하게 대피할 수 있는 수단처럼, 모든 운전자가 종래보다 빠르고 저렴하게 목적지에 도착할 수 있게 됩니다. 서버 기반 교통물류 시스템은 AI Pacman 게임을 10,000배쯤 확장한 것입니다.

AI Pacman

구성원 모두가 이익이 되는 사회 시스템으로 귀결되는 것은 자본이 처음부터 의도한 바가 전혀 아니지만, 바로 그 자본에 의해 그렇게 진행될 수 밖에 없습니다. 그래서 재밌는 거죠. 결국, AI 시스템을 사회적 장치로 밀어붙이는 동력은 자본주의 그 자체에 있습니다.

여기서, 한 가지 주목할 점이 있습니다. AI의 본질은 의사결정입니다. (1) 종래의 차량은 사람 운전자가 의사 결정하고, (2) 현재의 자율주행 차량은 장착된 컴퓨터 장치가 의사 결정하며, (3) 서버 기반 차량은 하나의 서버가 권역 내 모든 차량과 교통 관련 장치, 시설물의 의사 결정을 대신합니다. 1항과 2항은 전형적인 시장경제 메커니즘의 투영입니다. 도로의 운전자(또는 컴퓨터) 개개인이 속도, 방향, 및 경로 등을 결정하는 것은 시장에서 시장 참여자 개개인이 구매와 판매를 결정하는 것과 동일합니다. 그런데, (3)항은 계획경제의 모습입니다.  AI는 사회주의자일까요?

Will Artificial Intelligence lead to true socialism?

Image source: steemit.com

(안 모씨처럼) 그렇다고 할 수도, 아니라고 할 수도 있습니다. 사회 구성원 각각의 의사 결정을 누군가(혹은 무언가)가 대신하는 점에서 사회주의적이지만, 그 누군가가 당과 관료가 아니라는 점에서 아닙니다. 그럼 AI가 의사 결정할까요? 역시, 아닙니다. 현재의 기술 수준에 비춰보면, 당분간 AI는 규칙을 집행하는 것 이상의 능력이 없습니다. 임산부가 탑승한 차량과 긴급 출동 차량은 우선적으로 통행해야 한다는 등의 원칙을 누군가가 수립하면, AI는 그 원칙에 따라 현장에서의 의사 결정을 대신할 뿐입니다. 그 규칙은 누가 만들까요?  

태생적인 이유와 자본의 속성에 의해, 대개의 AI 시스템은 직접 민주주의자로 성장할 수 밖에 없습니다.그렇다면, 시장경제 시스템 그 자체의 진화 방향에 AI가 미치는 영향은 무엇일까요? 그것보다, AI가 자본의 논리에 의해 사법 시스템과 의료 시스템을 어떤 형태로 바꿀 지를 먼저 기술하겠습니다.

• 이 글은 (주)링커의 ‘사회적 교통물류 장치'를 참조하였습니다.