인간은 이미 인공지능에게 조종당하고 있다 - 넷플릭스 다큐 < 소셜 딜레마 (The Social Dilemma, 2020)>

인간은 이미 인공지능에게 조종당하고 있다 - 넷플릭스 다큐 < 소셜 딜레마 (The Social Dilemma, 2020)>

아침이 왔습니다. 우리가 선택할 수 있는 것은 단 두 가지입니다. 화장실에 가기 전에 스마트폰을 볼 것이냐, 아니면 화장실에 가서 스마트폰을 볼 것이냐. 밤새 왔을지도 모를 카톡, 앱 알림, 이메일, DM, 나를 위한 유튜브 피드, 네이버 실시간 검색어, 연예인 뉴스, 어제 검색해봤던 그 운동화의 세일 광고, 인스타 유머글 안의 머리 좋아지는 약 광고, 자기 전에 유튜브에서 봤던 여행 브이로그의 그 호텔 최저가 광고... 

 

구글, 페이스북, 인스타그램 등 이 시대 실리콘 밸리 주역들이 등장합니다. 그들이 만든 시스템, 버튼 하나가 세상을 어떻게 변화시키고 있는지 설명하지만, 그들이 이야기하는 것은 본인들의 대단한 성취가 아닙니다. 오로지 '이윤'을 목적으로 탄생시킨 뛰어난 시스템이 개발자들의 초기 의도와 다르게 윤리적인 문제를 야기하고 있는 현실, 걷잡을 수 없이 커져가는 사회적 갈등의 원인에 대한 두려움과 우려입니다. 

 

"If you are not paying for the product you are the product. (대가를 치르지 않고 상품을 사용하고 있다면, 당신이 상품이다.)"

 

이 유용하고 재미난 소셜네트워크 서비스, 검색엔진을 사용하면서 우리는 돈 한 푼을 내지 않습니다. 그렇다면 이 거대한 기업들은 어떻게 천문학적인 돈을 번다는 것일까? 이 자본주의 사회에서 세상은 아주 간단하게 구성되어 있습니다. 구매자와 판매자. 페이스북은 이용자들을 판매합니다. 그 이용자들에게 상품을 팔고 싶은 사람들이 달라붙어 너도나도 광고를 하게 해 달라 합니다. 광고면 광고지 이게 무슨 말일까요? 

 

역삼역 1번출구를 지나가는 사람에게 바로 앞에 있는 헬스장을 광고하는 전단지 알바를 한다고 생각해봅시다. 이미 운동을 하고 있는 사람, 그 지역과는 관련 없이 잠시 그 길을 지나는 사람, 운동에 전혀 관심이 없는 사람, 그냥 홈트를 하는 사람도 있고 정말 개중에 이 동네에 오가면서 운동할 곳을 찾던 사람도 있겠죠. 이런 마구잡이 광고와 달리 구글과 페이스북의 광고는 아주 효율적으로 보이게 됩니다. 이용자의 모든 데이터를 수집해서 이 사람이 어디 사는지, 무엇을 좋아하는지, 취향은 무엇인지, 요즘 관심사는 무엇인지 나라는 사람보다 더 나를 잘 아는 괴물이 된 인공지능이 알고리즘을 만들어 이 광고가 최대 효율을 낼만한 고객에게 광고를 비추는 것이죠. 놀랍게도 이용자는 아주 높은 확률로 해당 광고를 보고 구매까지 이어지며, 광고주는 해피해집니다. 

 

구글과 페이스북으로 대표되는 플랫폼들의 이용자 대상 데이터 수집은 시간이 지날수록 더욱 많아지고, 고도화된 인공지능은 스스로를 발전시켜 더욱 뛰어난 알고리즘을 만들어냅니다. 유튜브를 떠올리면 아주 쉽게 이해할 수 있습니다. 광고를 봐야 하는 이용자들이 조금이라도 시간을 더 쓰면서 머물게 하기 위해서, 그 구매를 유도하기 위해서, 이로서 플랫폼이 더 많은 이윤을 낳기 위해서 이들은 심리학적 접근을 시도합니다. 소셜딜레마 다큐에서는 이를 '간접 강화'라고 합니다. 행동주의 기반으로 '강화' 즉, 보상을 제공하는 것으로 특정 행동을 하도록 만들어내는 방법이죠. 파블로프의 개 실험을 아주 세밀하게 조작한 것을 '간접 강화'이며, 이것을 플랫폼들이 교묘하게 이용해 유저들이 모르게 그들의 행동을 조작하고 있는 것입니다. 이제까지 쌓아온 지구 상 27억 명의 개개인에 대한 방대한 데이터를 바탕으로 말이죠. 인공지능이 인간을 지배하는 사회, SF 영화에서만 보던 미래가 이미 오늘, 지금 이 순간, 가장 가까운 곳에서 이미 일어나고 있었군요. 

고도화된 데이터 기반의 플랫폼이 예기치 못하게 야기한 문제는 이뿐만이 아닙니다. 페이스북의 '좋아요' 버튼을 만든 사람은 이렇게 말합니다. 그저 의도는 '긍정적이고 밝은 것'이었을 뿐이라고 말이죠. 다큐에서는 어린 10대 여자아이가 등장합니다. SNS에 사진을 올렸다가 좋아요를 얼마 받지 못하자 실망한 얼굴로 게시물을 지우고는, 어플로 눈을 키우고 화장을 덧댄 본인 아닌 본인 사진을 올려 좋아요를 가득 받죠. 그 와중에도 외모에 대한 악플을 보고 상처받아 눈물을 흘립니다. 스마트폰, 특히 아이폰이 보급되면서 2010년, 2011년부터 SNS가 전격 활성화되기 시작했고, 이는 10대 여자아이들의 우울증, 자해, 자살 비율의 급격한 증가와도 연관이 있다고 보고 있습니다. 실제의 인간 관계 보다 SNS의 좋아요와 메시지가 더 중요해진 오늘날의 모습, 아무도 이럴 목적으로 SNS를 만든 것도, 이용하는 것도 아니었습니다. 

 

다시 알고리즘에 대한 이야기로 돌아와볼게요. 개인의 방대한 데이터를 바탕으로 나보다 나의 취향을 더 잘 알게 된 똑똑한 안드로이드는 내가 좋아할 만한 영상만을 보여주기 시작합니다. 넌 이걸 100% 클릭할 거야. 널 위해 준비했어. 그다음 영상들도 준비했어. 이런 식으로 접근하는 유튜브를 너무나도 잘 알고 계실 거예요. 어느새 우리는 우리 필요에 의해 콘텐츠를 소비하기보다는 유튜브가 우리를 위해 준비해 들이미는 콘텐츠를 소비하게 됩니다. 한 가족이 집 안에 모여있어도 그들의 유튜브 피드에 뜨는 영상들은 모두 다를 것입니다. 그렇다면 국가적으로 보면 어떨까요? 전 세계적으로는? 소셜 딜레마에서는 '중도' 없이 양 극단으로 치닫는 사람들의 성향에 대해 이야기합니다. 우파는 극우파가 되고, 좌파는 극좌파가 되는 것을 아주 단순한 예시로 들죠. 음모론만 믿는 사람들이 COVID-19가 가짜라며 난동을 부리는 말도 안 되는 사건들도 이에 맞물려 있습니다. 내 취향에 맞는, 내 생각과 맞는 영상들을 따라가다 보면 내 스마트폰 유튜브에는 다른 의견이 담긴 영상이라곤 전혀 뜨지 않습니다. 그것들이 내면화되고, 절대적인 가치관이 되면서 본인과 전혀 상반되는 의견의 개인, 집단을 받아들이지 못합니다. 가짜 뉴스가 판을 쳐도 그것을 가짜 뉴스라 인식하지 못하는 이유가 바로 여기에 있으며, 더욱더 극단적으로 전개되는 분쟁의 씨앗이 여기에 있습니다. 중요한 것은 '팩트체크'라고 모두가 말하는 이 상황에서, 모두가 개인의 취향대로 해석한 뉴스가 진짜 사실이라고 인식한다면 '팩트체크'라는 것 자체가 성립하지 못하게 됩니다. 무엇이 진실인지 모르는 상황, 의견 대립은 절대 좁혀지지 않을 테니 말이죠. 

 

실리콘 밸리에서 각 플랫폼들을 성공으로 이끈 이 다큐의 인터뷰이들은 이러한 문제가 벌어지고 있는 인터넷 세계에 지켜야할 선과 법규가 없다는 것이 가장 문제라고 지적합니다. 인공지능은 우리가 이전에 겪었던 수많은 변화와 달리 빛의 속도로 발전하고 있는데, 현실의 법은 이를 따라잡기에는 한없이 느리고 구세대적이라는 것이죠. 현재로서 가장 좋은 해결 방안은 모든 사람들이 이런 사실에 대해 인지하는 것입니다. 모든 알림을 끄고, 구글의 알고리즘을 따르지 않으며 인공지능이 나를 조종하게 만들도록 두지 않는 것. 다양한 의견을 듣는 것, 내 취향과 관심사에 갇히지 않고 다양한 정보를 얻는 것. 생각하는 것. 

 

매트릭스에 들어가도 이 곳이 매트릭스라는 사실을 인지해야 깨어날 수 있습니다. 27억명의 트루먼들도 이 곳이 현실이 아닌 스튜디오라는 것을 인지해야 탈출할 수 있습니다. 우리는 이미 매트릭스에 살고 있으며, 트루먼쇼의 주인공으로 살고 있습니다. 해야 할 일은 그저 깨어나는 것이고, 이 시대가 만든 뛰어나고 편리한 발전, 인터넷 사회의 윤리적인 방법을 고민하는 것입니다.

 

영화가 끝난 후 스마트폰에 깔려있는 모든 어플의 알림을 해제했습니다. 페이스북은 삭제했고, 꼭 사용하는 어플만 남겨두었죠. 아이러니하게도 이 다큐를 보게 만든 계기도 광고 때문이고, 제 블로그에도 구글 광고가 달려있군요.

 

영화의 끝에서 이 말이 떠올랐습니다.

 

"생각하는 대로 살지 않으면 사는대로 생각하게 된다"