책리뷰

유리감옥 : 선택과 생각을 통제하는 거대한 기술이 온다

네그나 2014. 11. 19. 08:10
반응형

유리감옥(THE GLASS CAGE)

니콜라스 카 (Nicholas Carr)




디지털 사상가인 니콜라스 카는 기술이 인간의 행동과 사고에 미치는 영향에 대해서 고찰합니다. 전작인 <생각하지 않는 사람들>을 통해서  인터넷이 우리의 뇌구조를 바꾸고 있다면서 "컴퓨터와 인터넷에 대한 무조건적인 믿음과 사용이 얕고 가벼운 지식을 양산하고 깊게 생각하는 힘을 떨어뜨리고 있다"고 주장했습니다. 이 주장만 들으면 기술 발전에 부정적인 입장을 취하는 사람 러다이트 주의자라고 생각할 수 있지만 그는 기술 분야에서 주요한 경력을 쌓아왔던 전문가라 파급이 큰 주장이었습니다.




<생각하지 않는 사람들>을 읽고 공감했는데 '더 이상 두꺼운 책을 읽지 못하게 되었다' 고백에 이건 '내 얘기잖아" 인터넷을 통해서 정보를 얻고 투자하는 시간이 길어질수록 나의 습관과 사고가 변했간다고 느낍니다. 오래도록 깊게 생각하기 보다는 얕기 빨리 얻기를 원하고 가장 문제는 무언가 하나를 집중하는 능력이 크게 떨어졌습니다. 처음에는 그저 나이가 들었기 때문인가 보다라고 생각했습니다.








물론 노화가 끼치는 영향이 없지는 않겠지만 기술과 그 기술의 사용하는 인간의 자세가 뇌에 미치는 영향도 적지 않을거라는데는 동감했습니다.' 그렇다고 인터넷을 끊고 살 수도 없는 노릇입니다.  그는 연결 대신 단절을 택했는데 책을 쓰기 위해서 인터넷이 되지 않는 공간에 작업을 했다고 밝혔습니다. 기술이 대해서 취하는 입장이 다른 사람들은 종사자들입니다.




스티브 잡스를 비롯한 미국 IT기업 고위직에 종사하는 사람들은 자녀의 컴퓨터 사용을 제한하는 경우가 많이 볼 수 있습니다. 그들은 태블렛이나 PC를 사용한 첨단 교육보다 책으로 대표되는 전통적인 학교 수업을 선호하기도 합니다. 기술이 최전선에 있는 그들이 막상 거리를 둘려는 행동은 기술과 과잉 연결될시 겪게 되는 부작용에 공감하고 있기 때문일겁니다.




니콜라스 카는 가끔은 인터넷을 끊고 사색하면서 독서할 시간을 가져야 한다고 조언했습니다.늘 연결되어 있는 삶도 바람직하지 않고 가끔은 조금 불편해지는 선택을 하는 것도 나쁘지 않습니다. 심리학자인 김정운은 한국사회는 과잉 관계(혹은 연결되어)라 설명하면서 고독해질 필요가 있다고 말했습니다. 연결이 항상 긍정적인 효과를 가져오지는 않을 겁니다.




전작이 인터넷이 우리에게 미치는 영향을 다루었다면 < 유리감옥 >은 자동화 기술 입니다. 보통 자동화에 대해서 긍정적으로 생각합니다. 주요한 논리는 이렇습니다. 자동화된 컴퓨터와 기계가 자질구레한 일을 맡아서 처리하고 대신에 인간은 고등한 작업에 집중함으로서 창의성과 능률을 끌어올린다는 발상입니다. 많인 보았을 미례 예상 중 한 장면은 장면은 자동화된 기계(로봇)이 우리의 시중을 들어주는 충실한 노예 역할을 하면서 인간은 안락하고 편안한 생활을 하는 것으로 묘사합니다.




풍부한 정보의 손쉬운 검색이 우리를 바보로 만들고 있다고 말한데 이어서 자동화 기술 역시 인간을 무능하게 만들 수 있다고 경고합니다. 자동화는 항상 긍정적인 결과를 가져오는 것일까?




자동화에 대한 안심




사람들이 자동화에 의지해 문제를 해결하면 안심과 편향에 빠질 수 있습니다. 네비게이션만 믿고 있으면 어디로든 갈 수 있지만 가끔 잘못된 안내를 받아 길을 헤메기도 합니다. 섬에서 잘못된 안내를 받아 빙빙돈적이 있었습니다. 이런 일은 대부분 헤프닝으로 끝나고 너털웃음을 짓는 정도입니다.



하지만 웃을 수 없을 수 있는 큰 사고로 발전할 수도 있습니다. 원양 여객션 로열 머제스터호는 1995년에 경로를 이탈해 좌초하는 사고를 겪었습니다. 원인은 선원들의 자동화에 대한 안심이었습니다. 건축가들은 컴퓨터에 과도하게 의존하는 경향을 보입니다.



한 건축가는  "확인한다는 게 주제 넘는 일인 것 같다. 내가 어떻게 컴퓨터보다 더 일을 잘 할 수 있단 말인가? 컴퓨터는 수백분의 1인치까지 정밀한 작업을 수행할 수 있다." 고 말할 정도입니다. 건축가가 컴퓨터에 대한 안심은 맞춤법 검사 프로그램이 켜져 있으면 써놓은 글을 꼼꼼하게 다시 확인하지 않는것과 비슷합니다. 이 안심은 큰 대가로 되돌아 올 수 있습니다.




자동화를 맹신하면 현실과 정보가 틀리더라도 믿어버릴 수 있습니다. 본인의 느끼는 감각보다 기계가 더 옳다고 생각하는 것입니다. 예를 들면, 네비게이션의 안내를 과도하게 의존하면 표지판에 신경을 덜쓰게 만들고 잘못된 길로 안내를 하더라도 이를 이상하다고 생각하지 않습니다. '설마 기계가 틀리겠어' 하는

생각입니다. 네비게이션 안내만 믿고 낭떠러지로 가거나 좁은 길에 갇혀버리는 사고가 일어납니다.




네비게이션






자동화는 생명을 다루는 의학분야도 예외가 아닙니다. 방사선 전문의들은 1990년대 부터 유방촬영술이나 엑스레이에서 의심스러운 부위를 확인해주는 컴퓨터 지원 감시 시스템을 사용해왔습니다. 소프트웨어를 이용하면 검사가 필요한 자세하 부부을 알려주고 자칫 전문의들이 놓친 암 발병 가능성을 찿아내어 질병 발견에 도움을 줍니다. 정반대의 결과도 가져올 수 있습니다. 진단 프로그램에 의해 표시가 안되는 부분은 무시해버려 특정암들을 놓쳐버릴 수 있습니다.




자동화에 대한 안심과 편향은 우리의 제한된 집중력 때문입니다. 우리는 빈번하게 오류를 일으키는 시스템에 대해서 경계심을 갖지만 어쩌다 한 번 고장이 나거나 오류를 일으키는 정도로 높은 신뢰를 보일 때 우리는 게을러집니다. 그럴 경우 우리는 시스템이 결코 틀리지 않는다고 가정하기 시작합니다.





컴퓨터에 맡기는 윤리, 자동화는 옳고 그름을 어떻게 구분하는가?



구글은 무인자동차에 연구를 지속하고 있으며 미래에는 자율운행 자동차가 도로를 누비게 될것이라고 예상합니다. 무인자동차가 도로를 누비는 미래, 자율 운행 자동차를 한 대 구입했다고 가정을 해봅시다. 더 이상 핸들을 팔을 걸칠 필요 없습니다. 뉴스와  간밤에 온 메일을 확인하고 못 본 TV프로그램도 다시 보기로 시청을 합니다. 모든게 부드럽게 이상없이 진행되는 순간 동물 하나가 뛰어들어 도로에 그대로 서버립니다. 당신은 그 동물이 이웃이 키우는 사냥개라는 것을 알아차립니다.




이럴 때 로봇 운전사는 어떤 결정을 내려야 할까?  개를 치지 않기 위해서 멈추도록 해야할까? 차가 멈출 경우 차에 탄 사람이 다칠 경우는 어떤 결정을 내려야 되는가? 각각의 확률을 계산해서 최선의 행동을 취하면 된다고 말할 수 있습니다. 차에 있는 사람이 위험에 빠질 수 있으니 개를 그대로 치고 가야한다고 말 할 수 있습니다.




도로에 뛰어든 사람이 개가 아닌 아이라면 어떨까? 도로에 아이와 어른이 있는데 한 사람을 무조건 치어야 하는 상황이 닥쳤다면 어른과 아이 중 누구를 선택해야 할까?  정의란 무엇인가  딜레마 사례로 나왔던 열차 이야기를 봅시다.


당신은 전차 기관사입니다.  전차는 시속 100KM로 달리고 있는데, 선로 앞에 인부 5명이 작업을 하고 있습니다. 그런데 브레이크가 아무리 애를 써도 작동을 하지 않습니다. 고장이 난 것이죠. 이대로 라면 인부 5명이 죽게 될겁니다.  오른쪽에 비상철로가 보입니다. 그 비상철로에는 인부 1명이 작업을 하고 있습니다. 핸들은 고장나지 않았고, 마음만 먹으면 방향을 바꿀 수 있는 상황입니다. 비상철로 가면 인부 한명을 희생시키고 5명을 구할 수 있습니다.



이런 질문들은 유쾌하지 않지만 많은 사람들이 방향을 바꾼다고 답합니다. 한 명이 희생되지만 더 많은 사람들을 살릴 수 있다는 겁니다. 만약 수가 같다면? 어린아이 2명과 어른 2명이라면 어디를 선택해야할까? 아이 한 명과 어른 세명이라면  더 많은 사람을 살리기 위해서 아이를 치어야 할까요? 임산부가 포함되면 어떻게 해야하나?




로봇과 자동화 기계가 세상에 등장하기 시작하면 그들(로봇)에게 선택권을 넘겨주게 됩니다. 유명한 SF 작가 아이작 아시모프(Asimov)는 1950년에 발간한 아이 로봇(I Robot) 에서 로봇의 행동을 규제하는 세 가지 원칙을 제시했습니다. 첫 째  로봇은 인간에게 해를 끼쳐서는 안 되며, 위험에 처해 있는 인간을 방관해서도 안 된다. 두 번째 로봇은 인간의 명령에 반드시 복종해야 한다. 세 번째 로봇은 자기 자신을 보호해야만 한다. 이 규칙만으로 복잡하고 변수가 많은 세상을 상대하기에는 한계가 있습니다.

[네이버 지식백과] 로봇 (컴퓨터 역사, 2013.02.25., 커뮤니케이션북스)



구글 무인자동차구글의 무인자동차.




테슬라 모터스의 CEO인 엘론 머스크 인공지능이 스스로 판단하여 사람을 죽이는 것을 결정할 수 있다고 했습니다. 그는 이런 심각한 일이 5년안에 일어날 수 있다고 경고했습니다. 위의 사례를 보듯이 군사로봇과 무인 정찰기가 활동하는 전쟁터만의 이야기가 아닙니다. 우리의 실생활에서도 벌어지게 됩니다.



로봇의 의한 살인은 선의 혹은 합리적이라는 선택 ( 더 많은 사람을 구하기 위해서 소수를 희생시킨다 ) 으로 결정될 수 있습니다. 무인자동차를 개발하는 구글과 같은 회사는 교통사고를 줄여줄 것으로 예상하고 있습니다. 인간의 비합리적면보다 기계를 더 신뢰할 수 있다고 말합니다.그 합리적인 어떤한 망설임도 동정도 없습니다.




로봇청소기는 맡은 역할을 잘 수행합니다. 만약 집에 귀뚜라미가 들어온 것을 보았다면 잡아서 놓아줄 수도 있지만 로봇 청소기는 무시하고 빨아들입니다. 로봇 제초기 역시 마당의 잔디를 깍으면서 작은 개구리나 기타 생명 따위는 고려치 않습니다. 인공지능이 탑재된 자동차가 도로로 나오는 순간 자체 알고리즘에 따라서 판단을 하게 될것이고 실행하는데 꺼리낌이 없을 겁니다. 더 많은 생명을 구하는게 중요하다고 판단하면 어린아이라도 상관없이 그대로 돌진하는 선택을 하게 될겁니다. 선의의 살인을 시행합니다.




소프트웨어가 현실에서 제기되는 이 많은 변수를 감당할 수 있을까? 사고 발생시 책임은 누가 져야하는가? 자동차 소유자?차량 제조사? 프로그래머? 소프트웨어 회사? 규제기관? 골치아픈 윤리를 기계에게 맞겨버리면 우리는 선택의 자유가 사라지게 됩니다.



자동화의 극대화는 비효율이 아닐까?




프로그램은 우리가 일하는 방식, 우리가 보는 정보, 우리가 여행하고 먹는 일 등 사람들 사이에 더 많은 영향을 끼칠수록 우리를 원격조종할 수 있습니다.  소프트웨어에는 한 가지 가정이 포함되어 있습니다. 예를 들면 페이스북은 하나의 자아를 강요하고 싶어합니다. 



마크 저커버그는 "당신은 한 가지 신원만을 갖고 있다. 당신이 직장 동료나 친구들과 그 밖의 지인에게 각기 다른 이미지를 보여주던 시절은 아주 빨리 마감될지 모른다. 고 말했습니다. 심지어 "당신이 두 개의 신원을 가졌다면 당신은 진실하지 않다는 뜻이다."


이것은 똑똑하고 잘난 창업자의 헛소리라는 걸 잘 압니다. 그 또한 일관된 모습을 보이지 않을 겁니다. 마크 주커버그 말에는 광고주들의 위해서 회원들에게 일관된 데이터를 제공하기 위한 의도가 있습니다. 페이스북은 개인의 사생활과 관련된 걱정을 덜하게 만들 경우 이익으로 돌아옵니다. 구글은 운전중 취하는 사람들의 행동이 사고를 불러올 수 있다고 말하지만 운전중에 스마트폰을 사용할 수 없게 만드는 불편한 기술을 개발하지는 않습니다. 기술에는 항상 그 의도가 숨겨져 있습니다.



니콜라스 카 유리감옥



자동화가 일으킬 수 있는 문제에 대한 답을 제시하고 있지는 않습니다. 예로 든 사례에서 힌트를 볼 수 있습니다. 디지털 카메라가 대중화된 이 시점에서도 필름 카메라를 고수하는 사람들이 있습니다. 언뜻 보면 이해하기 어렵습니다. 디지털 카메라는 필름을 사용하지 않고 인화과정도 필요없이 빨리 찍고 확인할 수 있습니다. 촬영한 사진을 인터넷이나 SNS에 공유하는 것도 디지털 카메라가 휠씬 편합니다. 




하지만 필름 카메라가 주는 장점도 있습니다. 필름을 사용하면 촬영횟수의 제한이 있으므로 촬영대상을 심사숙고 해서 결정하고 촬영하기 전에도 빛, 색, 구도에 더욱 더 신경을 씁니다. 디지털에서 필름카메라로 간 사람은 최신, 자동, 편리한 도구가 항상 최선은 아니었다고 말합니다. 최신 디지털 카메라 스펙을 줄줄 외우고 있는 사람들은 많지만 사고가 깊이가 보이는 사진을 내놓는 일은 적습니다. 사용하기 편하고 똑똑한 도구가  창의성을 높이고 뛰어난 사진사를 만들지는 않습니다. 스마트폰을 들고 있다고 해서 똑똑한 사람이 되는게 아닌 것처럼. 




필름 카메라의 사례는 조금의 불편함이 장점과 효율로 다가올 수 있다는 것을 시사합니다. 산책하고 멍때리는 일이 아무런 의미가 없어 보이지만 사실은 중요합니다. 산책과 멍때리는 일이 사실은 창의성에 중요한 역할을 하고 있다는 밝혀지고 있습니다. 의미없이 보이는 비효율적인 행동이 알고보면 효율적일 때가 있습니다. 효율만을 추구하는 삶과 사회는 사고와 재앙에 맞닥드릴 수 있습니다. 자동화 기술이 줄어들는 일은 일어나지 않을거라고 생각하지만 기술이 편리함만 의존하기 보다 가끔은 연결을 끊고 불편함을 선택하는 일도 필요하지 않을까? 생각하게 되었습니다.




유리감옥

저자
니콜라스 카 지음
출판사
한국경제신문사 | 2014-09-12 출간
카테고리
경제/경영
책소개
자동화 테크놀로지 시대,우리의 삶은 더 풍요로워졌는가?우리는 직...
가격비교 글쓴이 평점  


자동화가 인간과 사회에 끼치는 영향을 다룬 <유리감옥>은 흥미로운 주제이지만 쉽게 읽히지는 않습니다.

기술이 주는 인간에 끼치는 영향에 관심이 있다면 읽어보기를 추천합니다.

반응형