알고리즘, 생각을 조종하다

알고리즘, 생각을 조종하다

산드라 마츠 지음

생각의힘 / 2025년 7월 / 296쪽 / 19,800원





1부. 데이터는 심리를 들여다보는 창이다



SNS에 남긴 ‘좋아요’로 성격을 알 수 있을까?

월요일 아침 8시. 여느 때와 마찬가지로, 눈을 뜨자마자 스마트폰으로 손을 뻗는다. 왓츠앱과 페이스북을 확인하고, 이메일을 훑은 다음, CNN에 올라온 최신 뉴스를 본다. 아침 산책을 마치고 나서 간단히 샤워한 후 스마트폰과 지갑을 챙겨서 출근한다. 모퉁이를 돌면 나오는 가게에서 녹차 라떼와 크루아상을 산다. 오전 9시 직전, 사무실에 도착한다. 한 시간도 채 지나지 않았는데 나는 디지털 발자국 수백만 개를 생성했다. 세계 어딘가에 있는 서버에는 내가 주고받은 메시지, 내가 집에서 페이스북에 접속했다는 사실, CNN 웹사이트에서 약 10분 동안 기사 다섯 개를 읽었다는 사실, 컬럼비아대학교 교정에서 약 2,000보를 걷고 별로 건강하지 않은 아침식사를 했다는 디지털 기록이 있다.

게다가 내 스마트폰의 센서는 내가 오전 8시부터 신체 활동을 시작했다고 기록하고 내 GPS 위치를 계속 추적했다. 길모퉁이 가게 앞, 곳곳에 설치된 카메라는 내 모습을 수집했으므로 내가 몇 시에 어디에 있었는지, 누구와 함께였는지, 내가 행복해 보였는지 아니었는지를 정확히 알려준다. 나 같은 보통 사람은 한 시간에 데이터를 약 6기가바이트 생성한다. 나 한 사람의 데이터만 따져도 그렇다.

현재 세계에는 약 149제타바이트(149,000,000,000,000,000바이트)의 데이터가 존재하며, 그 수는 매년 두 배로 늘어난다. 그 모든 데이터를 CD-ROM에 저장하고 수직으로 쌓아 올리면 달까지 가고도 남는다. 이 모든 데이터는 우리가 어떤 사람인지 알려주는 퍼즐의 작은 조각이다. 예를 들어 내 스포티파이 재생 목록을 보면 내가 테크노 음악과 테일러 스위프트를 좋아한다는 것이 드러난다. 내 신용카드 사용 내역을 보면 내가 여행을 좋아한다는 것이 드러난다. 그리고 내 GPS 기록을 보면 내가 공원에서 오래 산책하기를 좋아한다는 것이 드러난다.

이런 데이터 조각들은 따로 떼어놓고 보면 별 의미가 없다. 퍼즐을 맞출 때와 마찬가지로, 처음에는 서로 연결되지 않은 혼돈 자체다. 하지만 조각을 맞추기 시작하면 서서히 그림 전체가 보이고 그 의미가 이해된다. 데이터도 똑같다. 우리가 남긴 디지털 발자국들을 연결하면 우리의 개인적인 습관과 기호, 필요와 동기에 대한 풍부한 그림이 나온다. 간단히 말해서 우리의 심리가 파악된다.

배우자보다 나를 잘 아는 인터넷: 2015년 《파이낸셜 타임스》에 도발적인 제목의 기사가 실렸다. “페이스북이 배우자보다 나를 잘 안다.” 케임브리지대학교의 내 동료들이 발표한 연구의 결과다. 심리학자 요요 우의 연구진은 사람들의 페이스북 ‘좋아요’를 성격 프로필로 변환하는 일련의 머신러닝 모델을 구축했다. 그 결과는 놀라웠다. 어떤 사용자의 페이스북 프로필에서 ‘좋아요’를 단 10개만 관찰했는데도 그 모델은 사용자의 성격을 직장 동료들보다 잘 파악했다. ‘좋아요’ 65개를 분석했을 때는 친구들보다 사용자를 더 잘 알았다. ‘좋아요’ 120개는? 가족보다 사용자를 더 잘 알았다. 300개로 늘리면? 배우자보다 더 잘 알았다.

도대체 컴퓨터는 어떻게 방대하고 체계도 없는 디지털 발자국의 바다를 분석해서 그 뒤에 숨은 사람의 모습을 그려낼까? 간단하게 대답하면 ‘컴퓨터는 관찰하고 학습하기’ 때문이다. (그래서 그걸 ‘머신러닝’이라 부른다).

쉽게 알아보는 머신러닝의 원리: 컴퓨터는 시행착오를 거쳐 학습한다. 컴퓨터에 많은 예제를 던져주고, 컴퓨터의 예측이 옳았는지 틀렸는지를 피드백으로 제공한다. 그러면 알고리즘은 입력값이 출력값과 어떻게 연관되는지 점진적으로 학습한다. 당신의 페이스북 ‘좋아요’에 오스카 와일드, 레오나르도 다빈치, 플라톤에 대한 콘텐츠가 포함되어 있는가? 그렇다면 당신은 지적 호기심이 많고 열린 마음을 지닌 사람일 것이다. 회계, 법 집행에 관심이 있는가? 그렇다면 당신은 체계적이고 책임감 있는 사람일 가능성이 높다. 시행착오 게임을 거치는 데이터가 많을수록 컴퓨터는 정보에 의거한 추측을 매우 정확한 예측으로 바꾼다.

데이터는 정체성을 사냥할 수 있는 완벽한 장소다

우리는 왜 완벽한 인스타그램 사진을 찍으려고 목숨을 걸고, 완벽한 틱톡 동영상을 만드는 데 몇 시간을 투입할까? 우리는 왜 소셜 미디어에 우리의 삶을 공유하는 데 집착할까? 답은 간단하다. 우리는 사람들이 우리를 봐주기를 원한다. 우리 자신에 대해 이야기하면 기분이 정말 좋기 때문에 우리는 기꺼이 돈을 포기하면서 내면세계를 다른 사람과 공유하려고 한다.

하지만 그게 전부가 아니다. 소셜 미디어 플랫폼은 뭔가를 공유하기가 쉽고 공유에 사회적 보상이 따르도록 설계되어 있기 때문에 우리가 자신을 더 많이 드러내게 한다. 당신은 ‘좋아요’, 공유, 리트윗을 얼마나 자주 확인하는가? 30분마다? 10분마다? 사회적 존재인 우리는 주변 사람들로부터 긍정적인 피드백을 받는 걸 갈망한다. 소셜 미디어가 중독성을 지니는 이유는 바로 이 피드백 기능에 있다.

같은 이유로 소셜 미디어 플랫폼은 심리학 용어로 정체성 주장, 즉 개인의 정체성에 대한 의도적 표현을 찾기에 딱 좋은 사냥터가 된다. 소셜 미디어 플랫폼은 사용자가 자기 이야기를 들려주고 자기 정체성을 다른 사람들과 공유하기 좋게 되어 있다. 사용자는 비욘세의 공식 팬페이지를 팔로우할 수도 있고, 점심으로 먹은 햄버거 사진을 공유할 수도 있다. 페이스북이나 엑스 같은 소셜 미디어에 게시되는 상태 업데이트의 무려 80퍼센트가 개인의 즉각적인 경험에 직접적으로 초점을 맞추고 있다.

당연히 이러한 흔적에는 그 게시물의 주인에 대한 정보가 담겨 있을 것이다. 그렇지 않다면 왜 기업의 채용 담당자들이 지원자의 소셜 미디어 페이지를 미리 확인하겠는가? 미국 정부는 왜 비자 신청자에게 소셜 미디어 계정을 연결하라고 권하겠는가? 연구 결과는 우리의 직관과 일치한다. 우리는 낯선 사람들의 소셜 미디어 프로필을 연구해서 그들의 심리에 대한 유효한 통찰을 얻을 수 있다. 하지만 우리의 판단은 컴퓨터의 판단만큼 정확하지 못하다.

알고리즘 염탐의 ABC: 심리 타깃팅에 동원되는 직관은 단순하다. 당신이 FBI의 프로파일링 부서에서 일한다고 생각해 보자. 다음과 같은 프로필이 주어졌다. 타깃 X, 헬로키티를 좋아하는 익명의 사용자. 일본 애니메이션과 만화 캐릭터에 대한 열정이 담긴 게시물을 올리고, 한국의 유명 밴드인 BTS의 동영상을 공유한다.

이 정보에 근거해서 X가 누구일지 추측해 보라. X의 연령과 성별, 혈통과 성격은? 내가 추측한 결과는 다음과 같다. 아시아의 10대 소녀. 내향적이고 개방적이며 정서가 약간 불안정하다. 당신의 추측도 비슷했을 것이라고 생각한다. 당신은 어떻게 그런 결론에 도달했는가? 아마도 경험을 바탕으로 했을 것이다. 미지의 타깃 X와 비슷한 관심사가 있는 사람들에 대한 기억과 인상을 활용했을 것이다. 그들은 당신과 가까운 사람들일 수도 있고, 또는 텔레비전에서만 본 사람들일 수도 있다. 낯선 사람들의 행동을 관찰해서 그 사람들을 판단할 때 우리는 동일한 행동 프로필의 전형적인 인물을 떠올리는 경향이 있다. 이 전형적인 인물을 ‘모드(mode; 가장 일반적인 선택)’ 또는 ‘평균’이라고 불러도 좋다.

다른 정보가 없는 상황에서 평균적인 인물을 비교 기준으로 삼는 것은 최선의 선택이다(컴퓨터도 그렇게 한다). 그런데 알고 보니 2017년에 헬로키티 기념품을 가장 많이 소장한 것으로 기네스북에 오른 사람은 일본의 은퇴한 경찰관인 예순일곱 살의 마사오 군지였다. 우리가 하는 예측과 그 예측의 근거가 되는 인간관계는 결정론적인 것이 아니라 확률론적인 것이다. 타깃 X의 프로필이 예순일곱 살의 은퇴한 경찰관의 것일 가능성보다는 10대 소녀의 것일 가능성이 훨씬 높다.

페이스북 ‘좋아요’의 세계: ‘좋아요’(일명 ‘엄지척’)는 페이스북 플랫폼의 대표적인 기능이다. ‘좋아요’는 사용자가 자신이 무엇에 관심 있는지 표현하고 다른 사용자들이 생성하고 공유하는 콘텐츠를 감상하는 쉬운 방법이다. 2013년 미할 코신스키는 동료 두 명과 함께 페이스북 ‘좋아요’로 사람들의 연령과 성별, 약물 사용, 정치 이념, 성적 지향, IQ, 삶의 만족도, 성격 등의 다양한 사회인구학적 및 심리적 특징을 예측 가능하다는 사실을 증명했다. 그들의 논문에는 예측 모델의 정확성에 대한 내용 외에도 다양한 개인적 특성을 알려주는 페이스북 페이지의 예시가 다수 포함되어 있었다.



2부. 심리 타깃팅은 흉기일까, 도구일까?



알고리즘으로 어디까지 조종할 수 있을까?

2016년 12월 3일, 심리 타깃팅이 전 세계에 소개됐고, 내가 눈을 떠보니 새로운 세상이 펼쳐졌다. “이 기사 봤어? 너도 이 미친 짓에 가담했니?” 한 친구가 보낸 문자였다. 그 친구만이 아니었다. 하룻밤 사이에 친구, 가족, 그리고 기자들에게 수백 통의 메시지를 받았다. 대체 뭐지? 내가 뭘 했기에 갑자기 뜻하지 않게 관심을 받는 거지?

가슴이 쿵쾅거렸다. 친구가 보낸 메시지의 링크를 클릭했다. 기사의 도발적인 제목(“나는 폭탄이 존재한다는 것만 보여줬을 뿐이다”) 바로 옆에 실린 동료 미할 코신스키의 익숙한 얼굴을 보자마자 사태를 파악했다. 기사에 따르면, 케임브리지 애널리티카라는 영국의 홍보 회사가 미국 유권자 수백만 명의 페이스북 데이터에 그들이 모르는 사이에 접근해서 그들의 심리 특성을 예측하고 맞춤형 광고 캠페인으로 타깃팅했다는 것이다. 가장 우려스러운 점은 케임브리지 애널리티카가 아직 어디에 투표할지 정하지 못한 유권자를 표적으로 삼아 거짓 정보를 퍼뜨리는 방법으로 그들이 힐러리 클린턴에게 투표하러 가지 않도록 유도했다는 것이다.

친구의 걱정과 달리 나는 그 회사에 관여하지 않았다. 하지만 당시 나는 그런 유형의 심리 타깃팅을 연구한 유일한 과학자였다. 나는 기자인 하네스 그라세거에게 몇 시간 동안 전화로 내 연구 결과를 설명했다. 그라세거는 2016년 미국 대통령 선거에서 심리 타깃팅이 도널드 트럼프의 승리를 굳혔다는 케임브리지 애널리티카의 주장을 뒷받침하는 과학적 증거를 원했다. 나는 그에게 내 미발표 연구 결과를 일부 사용해도 좋다고 했고, 그 결과로 기사에 내 이름이 다소 눈에 띄게 들어갔다. 기사가 나가고 나서 몇 주 동안 나는 수많은 기자와 이야기를 나누고 칼럼을 여러 편 썼다. 그 사건 자체에 대한 의견을 밝히기도 했지만, 그 주제에 대해 보다 유익한 토론이 이뤄져야 한다고 주장했다.

한편으로 나는 미디어에서 본 단순하고 종말론적인 서사에 좌절감을 느꼈다. 그런 서사들은 심리 타깃팅을 극도로 효율적인 전쟁 무기이자 세뇌 도구로 묘사했다. 분명히 말하면 그렇지 않다. 어떤 사람의 심리 프로필을 가장 정확하게 이해한다고 해도, 페이스북에서 광고 몇 편을 보여주는 것만으로 임신중단 찬성 운동가를 임신중단 반대 지지자로 바꾼다거나, iOS 광신도를 안드로이드 애호가로 개종하지는 못한다.

그렇다. 사용자의 심리적 욕구를 이용해서 사용자의 생각과 감정과 행동에 영향을 미칠 수는 있다. 하지만 심리 타깃팅으로 사람들의 핵심 정체성을 쉽게 바꾸지는 못한다. 물론 그런 기적이 일어날 때도 있다. 하지만 일반적으로는 그렇지 않다. 반면 현실을 부정하면서 심리 타깃팅을 단순한 사기극으로 묘사하는 사람들의 반론도 내게는 똑같이 거슬렸다. 선거에서 승리하기 위해 반드시 마법의 세뇌 기계가 필요하지 않은 것과 같다. 대부분 선거는 근소한 차이로 승리한다.

내 관심사는 심리 타깃팅이 우리 삶에 미칠 수 있는 영향에 대해 광범위한 공개 토론을 하는 것이었다. 나는 과학적 근거로 뒷받침되는 토론을 원했다. 또 심리 타깃팅이 우리의 개인적, 집단적 선택을 바꾸는 데 이용되고 남용될 가능성에 대한 사려 깊은 대화를 원했다. 다른 기술과 마찬가지로 심리 타깃팅은 단지 도구이기 때문이다. 도구의 효과는 단순한 주장이 아닌 실제 증거에 따라 입증되어야 하며, 도구의 영향은 존재가 아니라 의도와 목적에 따라 달라진다. 이제부터 심리 타깃팅의 과학적 원리를 살펴보고, 심리 타깃팅의 잠재적 영향을 다양한 각도에서 탐구해 보자.

심리 타깃팅을 시험하다: 과거의 마케터는 주부들이 보는 텔레비전 프로그램의 광고 시간에 주방용품 광고를 배치할 뿐 그 이상의 일은 하기가 어려웠다. 하지만 인터넷은 완전히 새로운 개인화의 세계를 제공했다. 신기술에 민감한 디지털 마케터는 결혼한 지 얼마 되지 않았고, 자녀가 있으며, 제빵 대회 우승자를 가리는 프로그램을 즐겨 보는 35세에서 45세 사이의 여성에게 광고할 수 있다.

마케팅의 세계를 알아 나가면서 마케팅이야말로 내 아이디어를 시험하기에 이상적인 분야라는 확신이 들었다. 마케터들은 기꺼이 위험을 감수하면서 실험을 하려고 들었다. 마케팅 업계에서 충실한 파트너를 찾는 데는 오랜 시간이 걸리지 않았다. PR 회사인 그레일링은 힐튼호텔의 의뢰를 받아 심리 타깃팅의 잠재력을 탐구하고 있었다. ‘힐튼호텔이 더 풍부하고 개인화된 고객 경험을 창출하게 할 수 있을까요?’ 나는 도전해보기로 했다.

몇 주에 걸쳐 우리는 성격에 기반해서 여행 상품을 추천하는 대화형 앱을 출시할 계획을 세웠다. 내향적인 편이신가요? 혼자만의 여행이 좋겠네요. 조용하고 편안한 여행지를 추천해 드립니다. 예민한 성격이시라고요? 일이 잘못될 우려가 없도록 모든 것이 패키지로 포함된 마음 편한 휴가를 추천합니다. 고객은 페이스북 계정에 로그인만 하면 된다. 나머지는 우리의 예측 알고리즘이 다 알아서 했다. 광고 캠페인은 대성공이었다. 단 3개월 만에 6만 명 이상이 그 앱을 사용했다. 그들은 그 경험을 좋아했다. 그들은 클릭하고, 공유하고, 구매했다. 힐튼호텔 측에서는 브랜드 인지도와 영업 이익이 상승했다.

동전의 양면: 도덕적 재구성은 심리 타깃팅의 힘이 소비재 상품보다 훨씬 넓은 범위로 연장된다는 사실을 보여준다. 심리 타깃팅은 환경보호, 경제적 불평등, 동성애자 권리와 같은 중요한 사회 의제에 대해 사람들이 생각을 달리하게 한다. 이게 좋은 걸까, 나쁜 걸까? 경우에 따라 다르다.

이상적인 세상이라면 모든 정치인이 집집마다 찾아가서 유권자들과 마주 앉아 그들의 우려를 경청하고, 그들이 정말 중요하게 여기는 주제에 초점을 맞추면서 모든 질문에 인내심 있게 답변할 것이다. 하지만 집집마다 방문하는 선거운동은 시간이 많이 소요되고 인구의 극히 일부, 대부분은 전략적으로 중요한 카운티나 주에 사는 유권자들에게만 도달할 수 있다. 그렇다면 나머지 사람들은 어쩌란 말인가? 아무도 시간을 내서 전화를 걸거나 문을 두드리지 않아서 투표권을 포기하기로 마음먹은 수백만 미국인은 어떻게 해야 할까? 국민의 정치 참여에 다시 불을 붙일 방법이 있기만 하다면…. 심리 타깃팅의 목표가 바로 그런 것이다. 사람들의 동기를 이해하고 의욕을 불러일으키는 것. 심리 타깃팅을 제대로만 활용한다면 사람들을 다시 정치에 참여시키는 방법이 있을 것이라고 믿는다.

한편으로 이와 같은 신기술들이 케임브리지 애널리티카처럼 사악하고 반민주적인 조직의 손에 들어가면 위험한 탄약으로 변할 수도 있다는 것은 쉽게 상상 가능한 일이다. 반민주적인 조직들은 심리 타깃팅을 활용해서 정반대 목적을 달성하려고 할 것이다. 즉 불화를 조장하고, 증오를 부추기고, 정치 참여를 줄이려고 할 것이다. 케임브리지 애널리티카는 자신들의 지지층을 결집하려고 심리 타깃팅을 이용하지 않았다. 반대 진영을 파괴하려고 심리 타깃팅을 이용했다. 그리고 그런 행위로 민주주의의 토대를 파괴하려고 했다.