자율주행차는 도날드 트럼프? 자유를 박탈하는 부작용 커
2016-07-19 카가이 취재팀
박상원 에디터 carguy@globalmsk.com
자율주행차는 미래의 새로운 먹거리로 통한다. 모두가 장밋빛 미래를 꿈꾼다. 자율주행차가 개인의 자유를 억제하는 부작용이 있다는 사실은 널리 알려지지 않았다. 밝으면 그늘이 더 어두운 법이다. 미국의 새 대통령으로 선출된 도날드 트럼프와 비슷할 수 있다. 트럼프는 판을 바꿔 힐러리 클린턴에게 승리했다. 중하층 미국 백인들에게 부를 돌려 주겠다는 역설이다. 실리콘밸리로 대표되는 IT와 월가의 금융 산업을 지지하는 힐러리가 아니라 과거의 영광인 자동차· 철강 같은 제조업 중심의 전통산업으로 회귀한다는 것이다. 당장 애플에게 중국 5개 공장을 미국으로 이전하라고 주장한다. 자율주행차의 부작용이 트럼프를 연상시키는 이유는 무엇일까.
요즘 자동차 업계에서 가장 핫한 존재는 자율주행차다. 우리를 흥분하게 하는 만큼 자율주행차의 미래는 분명 기대된다. 언론을 통해 장점은 부각되지만 삶의 선택권을 억제하는 단점은 드러나지 않는다. 예를 들어 당신 차에 달린 내비게이션으로 경로를 설정할 때 시스템이 우범 지역을 피해 가게 한다면 그 지역은 어떻게 될까? 해당 지역은 통행량이 감소하고 경제는 활력이 떨어진다.
범죄율이 진짜 높은지 아닌지와 무관하게 몰락의 길을 걷는다. 예언한대로 현실화되는 ‘피그말리온 효과’ 현상이 발생한다. 이 질문은 2003년부터 2006년 르노삼성자동차에서 시험 엔지니어로 일할 때 내비게이션 시스템을 평가하면서 가장 궁금한 점이었다. 과거에 모터쇼를 보기 위해 미국 디트로이트의 낙후된 도심을 지나칠 때 섬뜩한 느낌을 받았기 때문에 이런 기능을 추가해야 하지 않나 생각했었다. 뒤돌아보면 고지식한 사회 초년병 엔지니어의 생각처럼 내비게이션 기능 속에 ‘최근 범죄율 증가 지역 회피’ 옵션이 있었다고 하자. 범죄지역으로 지정된 곳들은 회생의 기회가 아예 분쇄되는 치명적인 결과를 뒤집어쓰지 않았을까?
다행히도 오늘날 대부분 내비게이션 시스템에는 이러한 기능이 없다. 많은 이들이 예상하는 바와 같이 자율주행차가 미래의 대세가 된다면 경로 선택을 담당하 는 알고리즘 논리가 앞으로 사회 문제로 급부상할 수밖에 없다. 이러한 결정을 내리는 알고리즘은 사용자의 요청에 대응함은 물론 자의적인 결정을 내리기 때문이다.
자율주행차에 탄 사용자가 만취해 인사불성이라면 당연히 자율주행차의 기능은 사용자가 가고자 하는 목적지로 알아서 간다. 그렇다면 무슨 문제가 생길까? 내비게이션 사례를 보자. 시스템에 ‘우범지역’이라는 기능이 있다고 가정한다면 그 정의의 기준은 누가 어떻게 내릴 것인가? 이로 인해 우범지역이지 않은 장소가 자신들도 모르는 사이에 그렇게 분류된다면 누가 책임질까?
앞으로 5년에서 10년 내로 다가올 자율주행차 시대에서는 자동차가 탑승자의 동 선을 자율적으로 정하게 된다. 구글과 같은 상업 회사 시스템의 경우 해당 알고리즘이 사용자를 위해 엄정한 객관성을 유지할지 의문이다. 안타깝게도 그렇지 않을 징조가 많이 보인다.
상업적 알고리즘의 개입
지난 6월10일,미국의 어느 유투브 동영상은 구글이 미국 민주당 대선 후보인 힐러리 여사에 대한 구글 검색 결과를 호의적으로 산출되도록 조작했다고 비난했다. 구글은 그렇지 않다고 발표했지만 이러한 논란은 구글의 검색 결과가 전세계에서 얼마나 인정받는 지를 역설적으로 보여준다.
이 뉴스가 자동차에 관심 있는 독자들에게 중요한 이유는 구글이 자율주행차 개발에 가장 앞선 기업이기 때문이다. 구글은 지난 2008년 프리우스를 개조해 캘리포니아 주에서 자율주행차 프로그램을 시작했다. 현재는 캘리포니아·텍사스·워싱턴주·아리조나에서 도합 150만 마일 이상 누적주행거리를 쌓아 자율주행 시스템의 완성도를 많이 높였다.
구글은 어떤 회사인가?
사용자들이 구글의 서치엔진에 입력하는 검색어를 바탕으로 사용자들의 관심사항을 역으로 분석해 해당 사용자에게 관련 제품이나 서비스로 직접적인 마케팅을 시도하는 회사다. 현재 그룹 전체 수익의 90%가 아직도 서치엔진을 통한 마케팅에서 나온다. 따라서 구글은 자율주행차 시스템을 개발할 때 동일한 상업위주 알고리즘을 당연히 적용할 것이다.
그렇다면 구글은 자율주행차를 만들 것인가?
그렇지않다. 이 사업 모델 또한 핸드폰의 안드로이드 체제처럼 자율주행차의 운용체제에 대한 기술료를 아예 없거나 매우 적게 책정 해 완성차 업체들이 최대한 사용하도록 유도할 것이다.
이미 구글은 피아트-크라이슬러, 현대차그룹 등 일부 완성차업체들과 해당 시스템의 사용에 대한 논의를 심도깊게 진행 중이다. 반면 GM이나 폴크스바겐, 도요타 등은 삼성이나 소니, 화웨이 등 IT업계의 거인들이 안드로이드 체제에 종속되어 핸드폰 시장에서 단순히 하드웨어 제조업체로 입지가 축소된 사실에 주목한다. 이러한 형태가 자율주 행차에서도 반복되지 않도록 자체적인 시스템 개발에 열중한다.
문제는 구글이든 도요타이든 자율 주행차 시스템을 개발하는 회사들은 지적재산권을 이유로 해당 시스템의 알고리즘을 공개하지 않을 것이다. 이 시스템은 금융이나 스마트폰 OS와 다르다. 사람의 생명이 의존하는 고속주행 기기의 주행 논리를 자율적으로 결정한다는 점은 사회 이슈가 되기 충분하다.
자율에 뒤따르는 개인의 선택권 포기
‘어두운 연못’(Dark pool, 이하 다크풀)은 미국 거대 금융업체들이 사용하는 금융 거래 도구의 하나다. 미국의 유명한 작가인 마이클 루이스가 지난 2014년 3월 출간한 ‘플래시 보이즈’(Flash Boys)라는 책에 등장한 말이다. 다크풀은 고객이 다량의 주식을 시장에 매도할 때 발생하는 문제를 해결하 기 위해 등장한 고도의 컴퓨터 시스템이다. 해당 시스템의 알고리즘은 각 업체들의 지적재산권으로 인해 공개되지 않았다.
만약 당신이 캘리포니아 공무원 연금(CALPERS)이라는 거대 투자회사로써 삼성전자의 총주식 2%를 가지고 있다고 하자. 6월 16일 기준으로 이는 총 280만 주에 해당된다. 어 떠한 이유로 보유한 주식의 50%를 매도해야 하는 경우가 발생했다. 시장의 참가자들(다른 투자가 들)이 삼성전자라는 거인의 1%에 해당하는 거대한 양의 주식을 소화할 수 있지 않을 경우 주가(주 당 141만원)는 당연히 떨어진다. 이럴 경우 며칠에 걸쳐 분할 매각이 가능하지만 이를 위해서는 분할된 물량을 받아줄 상대를 찾아야 한다. 각종 수수료 발생 및 낮은 주가(예를 들어 상대방은 주당 125 만원으로 협상)를 통해 제 값을 받지 못한다.
블랙풀은 이러한 문제를 해결해주는 시스템이다. 누가 왜 삼성전자 주식의 1%를 파는지 알지 못하게 판매 알고리즘을 만든다. 즉, 골드만삭스의 블랙풀을 통해 삼성전자 주식의 1%를 매도하게 되면 커다란 블랙박스에 들어간 것처럼 삼성전자 주식을 사고 자 하는 매입자들은 다크풀이 누구인지 모르게 된다. 단지 해당 회사의 투자 매력도만 보게 되고 주문하게 되기 때문에 매도자는 주가를 최대한 현재 주가에 맞춰 팔 수 있다.
문제는 골드만삭스의 다크풀 알고리즘이 진정 매입자나 매도자를 위해 코딩이 됐는지, 또는 자사의 이익을 위한 것인지는 개발자와 경영진만 알 수 있다. 금융업체에서 이미 구현되고 있는 이러한 자율적 알고리즘이 개발자 또는 시스템의 소유자 마음대로 결정이 되는지 아닌지를 판단할 수 없는 상황이다. 자율주행차 시스템의 알고리즘도 얼마나 객관적일 수 있는지 의문시된다.
[su_pullquote]자율주행 시스템은 탑승자가 식사·숙박 등 소비적인 행동을 위해 지시를 내린다면 마케팅 비용을 가장 많이 지불한 업소에게 검색 결과의 우선권을 줄 수도 있다.[/su_pullquote]여러분이 구글의 안드로이드 오토모빌이라는 자율주행 시스템을 도입한 마세라티 르반테를 탔다고 하자. 서울에서 부산을 가는 길을 정할 때 시스템은 현재 교통 상황과 과거 동일한 시기의 교통체증 데이터를 분석해 최적의 경로를 찾는다. 운전을 하지 않는 동승자들이 도중에 식사 또는 숙박 등 어떤 소비적인 행동을 위해 자율주행차 시스템에게 음성으로 지시를 내린다면 구글이 만든 시스템 은 어떤 결과를 낼 것인가? 만약 구글이 자신의 업소를 찾게 해달라고 마케팅 비용을 가장 많이 지불한 업소에게 검색 결과의 우선권을 줄 수도 있다. 더 나아가 다양한 경로 중에 존재하는 어느 지방자치단체가 구글에게 자신의 지역에 대한 검색결과를 더욱 잘 나오게 마케팅 비용을 지불한다면 그렇지 않은 지역의 상업적 결과는 어떻게 될까?
이렇게 자율이라는 미명으로 개인들이 자신의 선택권 을 포기하게 된다면 자신의 결정을 대신 해주게 되는 시스템은 사회적 공익성을 위해 알고리즘을 검증받아야 한다. 사람들이 탑승하는 자동차라는 기기의 특수성을 고려한다면 자율주행차 시대는 더 깐깐하게 진행되어야 한다. 여러분들은 구글이 제시하는 경로만 따라가는 세상에 살 것인가? 이러한 단점들이 분명히 있다는 점을 강조하고 싶다. 그러한 시대가 오더라도 최대한 ‘자율성’에 선택의 자유를 포기하지 않으려고 한다. 물론 술에 취해 인사불성이 된 상황만 아니라면 말이다. 이처럼 모든 그림자는 밝을수록 어두운 법이라는 사실을 되새기게 된다. 그것이 1800년 대이든 2100년 대이든.