생각의 주도권을 디자인하라

생각의 주도권을 디자인하라

박용후 지음

경이로움 / 2025년 7월 / 304쪽 / 21,000원





PART 1 생각의 열쇠는 질문이 쥐고 있다



AI 시대, 우리가 마주해야 할 질문 하나 _ 내가 틀릴 수 있는 것은 무엇인가?

우리는 지금 AI 기술이 전례 없는 속도로 발전하고 있는 시대의 한가운데 서 있다. 챗봇, 생성형 AI, 자율주행 시스템 등 기술은 단순히 일상의 편의성을 높이는 수준보다 더 고차원인 인간의 사고방식과 학습 방식, 나아가 인간의 존재 방식 자체에 근본적인 질문을 던지고 있다. 이는 단지 새로운 도구가 생긴 것이 아니다. 우리의 사고 구조, 지식의 구조, 삶의 태도 전반에 걸쳐 재정비가 요구되는 거대한 전환의 시작이다. 이런 흐름 속에서 필자는 한 가지 질문을 제시한다. 단순하면서도 근본적인 이 질문은 AI 시대를 살아가는 인간에게 반드시 필요한 통찰의 출발점이 된다.

“내가 틀릴 수 있는 것은 무엇인가?” 이 질문은 인간이 AI와 공존하기 위해 반드시 갖추어야 할 인식의 자세이며, 사고방식을 근본적으로 전환시키는 열쇠다. 우리가 알고 있다고 생각하는 지식, 신념, 판단 기준들이 과연 여전히 유효한 것인가? 빠른 기술 변화 속에서 과거의 진리는 하루아침에 오류가 될 수 있다. 따라서 중요한 것은 ‘무엇을 알고 있는가’가 아니라 ‘지금 알고 있는 것들 중 어떤 것이 틀릴 수 있는가’를 끊임없이 성찰하는 태도다. 이것이야말로 인간이 AI 시대에 살아남기 위한 가장 근본적인 조건이다. “내가 틀릴 수 있는 것은 무엇인가?” 이 질문은 왠지 모르게 우리를 불편하게 만드는 질문이다. 이 질문은 자신이 믿고 있는 것, 의지하고 있는 판단 기준을 근본부터 의심하고, 필요하다면 과감히 뒤엎을 수 있어야 하기 때문이다.

우리는 흔히 과거의 경험과 학습을 통해 얻은 지식을 바탕으로 세상을 판단한다. 하지만 그 지식이 더 이상 기술의 발전, 사회 구조의 변화, 인간과 기계의 역할 재정립 등으로 급변하고 있는 현재의 맥락, 즉 지금 우리가 살아가는 시대의 새로운 환경과 기준 속에서 유효하지 않다면 과감히 버릴 수 있어야 한다. 변화에 민감하게 반응하고, 새로운 질서를 받아들일 수 있는 유연성은 곧 우리 시대의 생존 전략이다.

AI 시대는 단순한 정보의 ‘업데이트(Update)’만으로는 감당할 수 없는 시대다. 기존의 정보를 조금씩 고쳐 나가는 방식은 너무 느리고, 너무 수동적이다. 이 시대는 오히려 ‘아웃데이트(Outdate)’, 즉 더 이상 유효하지 않은 지식을 용기 있게 폐기하는 능력을 요구한다. 머릿속에 가득 찬 낡은 정보와 관념을 먼저 비워내지 않으면, 새로운 통찰이 들어설 자리가 없다. 이 과감한 정리 작업이 선행되어야만 우리는 진정한 의미의 학습과 성장을 이룰 수 있다.

이러한 사고방식의 전환은 사실 인류 역사 속에서도 반복되어 왔다. 한때는 지구가 우주의 중심이라는 믿음, 즉 모든 천체가 지구를 중심으로 돌고 있다는 천동설이 ‘상식’이었다. 그 상식을 뒤엎은 사람은 코페르니쿠스였고, 그는 시대의 거센 반발을 마주해야 했다. 하지만 지금은 그가 제시한 태양 중심설이 당연한 과학적 사실로 받아들여지고 있다. 지금 당연하게 믿는 것들도 어쩌면 훗날에는 오류로 판명 날 수 있다.

AI 시대의 도래는 단순한 기술적 혁신이 아니다. 그것은 인간이 ‘무엇을 안다고 믿는가?’ ‘그 믿음은 어떻게 구성되어 있는가?’를 근본적으로 되짚게 만든다. 따라서 정보의 양은 기하급수적으로 늘어나지만, 그 속에서 진짜 중요한 것은 오히려 ‘내가 틀릴 수 있다는 자각’이다. 인간의 고정관념과 확신을 포기하는 속도가 기술 발전의 속도를 따라가지 못한다면, 결국 진보는 멈추게 된다. 기술이 아무리 진화해도 인간이 변화에 눈 감은 채 머물러 있다면 그 진화는 무의미하다.

그러므로 이 시대를 살아가는 우리에게 진정으로 필요한 질문은 이것이다. “지금 내가 알고 있는 것들 중, 무엇이 곧 틀릴 수 있는가?” 이 질문을 진지하게 품고 살아가는 것, 그것이 AI 시대를 현명하게 살아가는 태도일 것이다.

생각의 출발점을 다시 묻다: 질문은 미래를 결정짓는 중요한 요소다. AI 시대를 맞이한 지금, 우리는 하나의 질문에서 출발해야 한다. 계속해 강조하지만, 그것은 “내가 틀릴 수 있는 것은 무엇인가?”라는 질문이다. 이 질문을 던지는 순간, 우리는 사고의 깊이를 더하고 변화에 보다 능동적으로 대응할 수 있게 된다.

또한 질문은 단순한 호기심의 표현으로만 보아서는 안 된다. 사고의 방향을 설정하는 출발점으로 이해해야 한다. 우리가 어떤 질문을 던지느냐에 따라 그 질문이 이끄는 사고의 경로와 도달하는 결론은 전혀 달라진다. 잘못된 질문은 오히려 잘못된 전제를 강화하고, 왜곡된 정보 위에 그럴듯한 해답을 만들어 낼 수 있다. 즉, 질문의 방향성이 잘못되면 전체 사고의 흐름이 빗나갈 수 있다. 따라서 우리는 ‘내가 던지는 질문이 틀릴 수도 있다’라는 가능성마저 질문해야 한다.

질문하지 않는 사람과 질문하는 사람의 차이는 시간이 지날수록 더욱 커질 것이다. 기술이 빠르게 변화하는 시대에 단순히 기존 지식을 쌓는 것만으로는 부족하다. 우리는 끊임없이 스스로의 오류 가능성을 점검하고, 기존의 믿음을 검증하는 태도를 가져야 한다. 앞으로 우리는 AI가 만들어 내는 새로운 패러다임 속에서 살아가야 한다. 이 새로운 환경을 주도하려면 스스로에게 질문을 던지는 습관이 필요하다. “나는 무엇을 잘못 알고 있는가?”라는 질문은 우리의 사고를 확장시키고, 결국 우리의 미래를 결정하게 될 것이다.



PART 2 생각하는 기계와 질문하는 인간



AI는 판도라의 상자인가 블랙박스인가 _ 닫힌 블랙박스를 여는 것은 ‘두려움’이 아니라 AI와 함께 미래를 설계할 수 있다는 ‘희망’이다교통법규 시스템은 인간이 만든 가장 위대한 사회 제도 중 하나로 평가받는다. 운전면허증만 있다면 나이, 성별, 연령에 상관없이 누구나 동등하게 도로를 이용할 수 있기 때문이다. 이 시스템은 기본적으로 자동차, 인간, 그리고 인간이 운전하는 자동차라는 세 가지 요소로 구성된다.

‘인간이 운전하는 자동차’를 별도로 구분하는 이유는 기술과 인간이 결합하면 전혀 새로운 형태의 존재가 나타나기 때문이다. 이런 현상을 설명하는 것이 바로 행위자 네트워크 이론이다. 이 이론은 인간, 자동차, 그리고 인간이 운전하는 자동차를 각각 독립된 행위자로 본다. 예를 들어, 인간과 자동차가 분리되어 있을 때 인간은 보행자이고, 자동차는 도로에 정차한 금속 덩어리에 지나지 않는다. 그러나 인간이 운전석에 앉아 시동을 걸고 액셀러레이터를 밟는 순간, 인간과 자동차는 하나의 새로운 행위자로 작동한다. 이 행위자는 단순히 인간의 의지로만 움직이지 않는다. 차량의 성능, 도로 상황, 교통 신호 등 다양한 요소와 상호작용하며 판단하고 움직인다. 즉, ‘인간이 운전하는 자동차’라는 하이브리드 행위자가 형성되는 것이다.

이처럼 인간과 기술이 결합해 새로운 행위자가 만들어지면 우리는 그 내부의 작동 방식을 점점 의식하지 않게 된다. 운전할 때 핸들을 돌리면 차가 방향을 바꾸고, 브레이크를 밟으면 속도가 줄어드는 것처럼 우리는 자동차의 작동 원리를 당연하게 여긴다. 그러나 실제로는 엔진, 기어, 센서, 제어 시스템 등 수많은 구성 요소가 복잡하게 작동하며 인간과 기계가 끊임없이 상호작용하고 있다. 그럼에도 우리는 이 복잡한 과정을 신경 쓰지 않는다.

이런 현상을 ‘블랙박스화’라고 부른다. 기술이나 시스템이 너무 익숙해져서 그 내부 작동 원리에 대한 관심이 사라지는 것이다. 사회 속에 기술이 확고하게 자리를 잡으면, 우리는 그 결과만을 누릴 뿐 내부의 구조와 작동 논리는 ‘신경 쓰지 않아도 되는 영역’이 되어버린다.

AI 기술도 이와 비슷한 방식으로 블랙박스화되고 있다. 처음에는 AI가 어떻게 작동하는지, 어떤 데이터를 기반으로 학습하는지에 대한 논의가 활발했다. 하지만 시간이 지나면서 챗봇, 추천 알고리즘, 이미지 생성 AI 같은 기술들의 내부 원리를 더는 궁금해하지 않게 되었다. 우리는 AI가 ‘말을 한다’, ‘그림을 그린다’는 결과만 받아들인다. 그 과정에서 어떤 데이터가 사용되었고, 어떤 편향이 있을 수 있으며 판단의 기준이 무엇인지는 잘 모른 채, 단지 작동하는 결과를 이용할 뿐이다.

문제는 AI가 단순한 도구가 아니라 인간과 상호작용하며 판단을 유도하고 행동을 바꾸는 새로운 행위자라는 점이다. AI는 사용자의 데이터와 피드백을 바탕으로 끊임없이 스스로를 조정하고 있으며, 사용자는 AI가 보여주는 결과를 기반으로 의사결정을 내리거나 행동을 변화시킨다. 마치 인간이 운전하는 자동차가 그랬던 것처럼 인간이 사용하는 AI도 하나의 ‘하이브리드 행위자’로 기능한다.

AI가 블랙박스화되면 우리는 그것의 판단 기준이나 내부 알고리즘을 따지지 않는다. 그저 그것이 “잘 작동한다”고 느끼면 받아들이고 일상적으로 사용하게 된다. 하지만 그 작동 방식이 투명하지 않다면, 이는 단순한 효율성의 문제가 아니라 사회적 통제와 윤리의 문제로 이어질 수 있다. 그래서 AI를 인간과 결합해 만들어 내는 새로운 사회적 존재로 이해할 필요가 있다.

보이지 않는 AI의 블랙박스화: 우리는 AI가 말을 하거나, 그림을 그리고, 방대한 정보를 바탕으로 질문에 답하는 모습을 자주 접한다. 그러나 이러한 결과가 도출되기까지의 내부 과정은 거의 보이지 않는다. 이처럼 결과는 분명하지만 과정은 불투명하다는 점에서 블랙박스화가 진행되는 AI를 기술적, 사회적, 산업적 세 가지 차원에서 설명할 수 있다.

1. 기술적 블랙박스: AI, 특히 딥러닝 기반의 모델은 인간의 사고 구조와는 전혀 다른 방식으로 작동한다. 수백만 개의 매개변수(parameter)와 수십, 수백 층에 이르는 인공신경망이 서로 얽혀 수많은 계산을 수행하면서 특정한 출력을 만들어 낸다. 예를 들어, 이미지 인식 AI가 고양이 사진을 “고양이”라고 판단할 때, 그 판단의 정확성은 높지만 그 이유를 설명하기는 어렵다. 왜냐하면 그 판단은 인간이 이해할 수 없는, 데이터 기반의 통계적 연관성과 패턴 분석을 통해 도출된 결과이기 때문이다.

2. 사회적 블랙박스: 일반 사용자들은 AI의 작동 원리에 대해 잘 알지 못한다. 그럼에도 불구하고 AI가 내놓은 결과를 신뢰하고 받아들이는 경향은 점점 더 강해지고 있다. 예를 들어, 유튜브나 넷플릭스의 추천 알고리즘, 금융기관의 신용 점수 산정 시스템 등이 있다. 많은 사람들은 이런 시스템이 어떤 데이터를 기준으로 어떻게 판단을 내리는지 모른 채, 단순히 ‘정확할 것이다’, ‘합리적일 것이다’라고 믿고 결과를 받아들인다. 이처럼 설명되지 않는 판단에 대한 맹목적 수용은 사회적 차원의 블랙박스를 더욱 공고히 만든다.

3. 산업적 블랙박스: 오늘날 AI 산업은 하드웨어, 소프트웨어, 그리고 애플리케이션의 세 층위로 구성된다. 하드웨어는 AI가 작동하는 물리적 기반으로, GPU, TPU 같은 고성능 연산 장비와 서버, 데이터센터가 이에 해당한다. 소프트웨어는 AI가 작동하기 위한 핵심 요소인 알고리즘과 학습 모델이며, 마지막으로 애플리케이션은 우리가 일상에서 접하는 다양한 서비스들이다. 챗봇, 얼굴 인식 시스템, 음성 비서, 자율주행 차량의 판단 시스템, 개인화 추천 서비스 등이 그 예다. 하지만 사용자들은 보통 애플리케이션만 인식할 뿐, 그 이면의 하드웨어와 소프트웨어가 어떻게 구성되고 작동하는지는 전혀 알지 못한다. AI가 대형 플랫폼 기업에 의해 독점적으로 운영되고, 핵심 기술이 공개되지 않거나 지나치게 복잡하기 때문에, 산업 전반의 구조 또한 블랙박스화되고 있다.

결국 우리는 AI가 보여주는 결과만을 소비하며 그 내부에서 무엇이 어떻게 작동하고 있는지를 점점 더 파악하지 못하게 된다. 시간이 흐를수록, 기업들의 기술력 경쟁이 치열해질수록 AI 기술은 정교해지겠지만, 이를 사용하는 사용자는 점점 더 기술과 멀어진다. 이것이 인간이 AI 블랙박스화로부터 가장 치명적인 영향을 받을 수 있는 핵심일지도 모른다.

AI 윤리: AI가 사회적으로 중요한 역할을 맡게 될수록 우리는 AI의 의사결정 과정이 투명하고 공정하며 신뢰할 수 있어야 한다. 그렇지 않으면 AI가 내린 결정이 부당하거나 위험할 때도 이를 검증하거나 책임을 물을 수 없게 된다. 이와 관련해 등장한 개념이 다름 아닌 AI 윤리이다. AI 윤리는 AI 시스템을 개발하고 사용할 때 지켜야 할 규칙과 기준을 말한다. 유네스코(UNESCO), 로마 교황청 등 다양한 국제기구, 기관들이 AI 윤리를 강조한다. 보편적으로 제시되는 핵심 원칙은 투명성, 공정성, 책임성, 프라이버시 보호 그리고 견고성이다. 각 요소를 살펴보면 다음과 같다.

1. 투명성(Transparency): AI의 의사결정 과정은 명확히 설명 가능해야 한다. AI가 어떤 데이터와 알고리즘을 사용해 결론에 도달했는지를 이해할 수 있어야 한다. 예컨대, 은행에서 대출을 거절할 경우, “왜 그렇게 판단했는가?”라는 질문에 논리적으로 답할 수 있어야 한다는 의미다.

2. 공정성(Fairness): AI는 편향 없이 공정하게 작동해야 한다. AI는 인간이 만든 기술이다. 그렇기 때문에 인간이 만든 데이터는 사회적 편견과 불평등을 내포하고 있을 가능성이 높다. 실제로 취업 면접을 자동 평가하는 AI가 남성 지원자에게 더 높은 점수를 준 사례들이 보고된 바 있다. 따라서 AI 시스템이 특정 성별, 인종, 계층을 차별하지 않도록 지속적으로 감시하고 조정하는 과정이 필요하다.

3. 책임성(Accountability): AI가 내린 결정에 대한 책임을 명확히 할 수 있어야 한다. 만약 AI가 잘못된 결정을 내렸을 때, 누가 그 책임을 져야 하는지 불분명하다면 큰 문제가 될 수 있다. 이를 막기 위해서는 AI 시스템에 대한 법적·윤리적 책임의 경계를 명확히 해야 하며, 특히 AI를 개발·운영하는 기업과 기술자들에게 설계 책임, 감시 책임, 통제 책임을 명확히 묻는 구조가 필요하다.

4. 프라이버시 보호(Privacy Protection): AI는 방대한 데이터를 활용해 학습하고 작동하는 과정에서 개인의 프라이버시가 침해되지 않도록 해야 한다. 특히 얼굴 인식 기술, 위치 추적 시스템 등 AI가 우리의 일상생활에 깊이 개입하는 만큼, 개인정보 보호를 위한 강력한 규제와 기술적 장치가 필요하다.

5. 견고성(Robustness): AI 시스템은 예상치 못한 상황에서도 신뢰할 수 있어야 하며 외부 공격이나 조작에 취약하지 않아야 한다. 예를 들어, AI를 활용한 금융 시스템이 오류를 일으키는 경우 사회적 혼란이 초래될 수 있다. 따라서 AI는 안전하고 견고한 방식으로 설계되고 운영되어야 한다.

AI 윤리는 블랙박스를 판도라의 상자로 만든다: AI가 블랙박스화된다는 것은 단순히 기술적으로 복잡하다는 뜻이 아니다. 그것은 우리가 책임을 물을 수도 없는 판단 시스템을 수용하게 되는 구조를 의미한다. 다시 말해, AI가 ‘왜 그런 결정을 내렸는가?’라는 질문에 답할 수 없다면, 우리는 그 결정의 결과를 비판적으로 검토하거나 거부할 기회를 박탈당한다는 의미다. 문제는 바로 여기에 있다. 기술적 효율성만을 추구하다 보면, 공정성·책임성·신뢰성과 같은 가치들은 점점 희미해진다.

이 때문에 AI 윤리는 기술 자체를 인간의 조건 위에 재배치하기 위한 핵심 기제다. AI 윤리는 우리가 어떤 철학, 어떤 가치관을 바탕으로 AI를 설계하고 사용할 것인지에 대한 물음에서 출발한다. 예컨대, AI의 판단이 공정하다는 것을 보장하려면, ‘우리는 먼저 무엇을 공정함이라고 볼 것인가?’ ‘어떤 데이터가 편향되었는가?’ ‘판단 기준은 누구에 의해 결정되었는가?’ 같은 질문을 던져야 한다. 이때 블랙박스를 여는 일은 기술적 해석을 넘어서, 사회적 통찰과 윤리적 판단을 요구하는 해석 행위가 된다.