AI 혁명

AI 혁명

송경희 지음

메디치미디어 / 2025년 5월 / 288쪽 / 20,000원





1부 생활 속의 AI



AI 시대, 소비가 바뀌다

나만의 집사, AI 에이전트: 코로나19를 기점으로 우리의 소비생활은 크게 달라졌다. 온라인 쇼핑은 기본이 되었고, 모바일 결제가 현금이나 카드를 대체하고 있다. 식당에서는 테이블에 설치된 태블릿으로 주문하는 것이 자연스러워졌으며, 키오스크를 통한 무인 주문도 익숙한 풍경이 되었다. 실시간 배송 추적은 물론, 새벽배송과 당일배송으로 신선식품까지 문 앞에서 받아볼 수 있게 되었다. 이러한 변화의 중심에는 디지털 전환과 AI 기술이 있다. AI는 우리의 구매 패턴을 분석하여 맞춤형 상품을 추천하고, 재고를 관리하며, 배송 경로를 최적화하고 있다.

쇼핑 방식도 많이 바뀌었다. 집 안에서도 스마트폰으로 모습을 비춰 옷, 신발, 시계, 선글라스 등을 착용해볼 수 있고, 각자의 체형과 피부톤, 평소 스타일 선호도에 맞춰 최적의 상품을 추천받는다. 가구 쇼핑도 더 이상 상상에 의존할 필요가 없다. AR로 실제 공간에 가구를 배치해보고, 공간의 크기와 채광, 기존 가구와의 조화까지 고려해 가장 좋은 배치를 추천받을 수 있다.

더 나아가 이제는 추천뿐만 아니라 우리 일을 대신 해주는 ‘AI 에이전트’가 일상과 업무를 함께하기 시작했다. AI 에이전트는 주어진 목표를 실행하기 위해 자율적으로 계획하고 행동하는 AI를 말한다. 이미 많은 기업들이 Al 에이전트를 개발하고 있으며, 이를 자사 운영과 고객사에 광범위하게 통합하고 있다. AI 쇼핑 도우미를 통해 예산과 선호도에 맞는 제품을 비교하여 추천하고 배송 상태를 확인하는 등 ‘주문 지원’을 하는 단계에서, 사용자의 습관과 선호도를 분석해 필요한 물건을 ‘자동 구매’하는 수준으로 나아가고 있다. 앞으로는 “캠핑 준비물을 구매해줘”라는 포괄적인 요청도 처리할 수 있는 AI 쇼핑 에이전트까지 구상하고 있다.

앞으로 AI 에이전트가 본격적으로 활용되면서 다양한 기술과 서비스가 나올 것으로 예상된다. 하지만 이러한 발전이 안정적으로 이루어지기 위해서는 몇 가지 중요한 전제조건이 필요하다. 무엇보다 개인정보 보호와 데이터 보안이 철저히 보장되어야 하며, AI 에이전트의 의사결정 과정은 투명하고 설명 가능해야 한다. 또한 초기에는 완전한 자율성보다는 ‘인간 검토 후 승인’ 방식으로 운영하면서 점진적으로 신뢰성을 확보해나가는 방식이 필요하다. 사용자가 언제든 AI의 결정에 개입할 권한이 있어야 AI 에이전트를 통제할 수 있다.

또한 AI가 사용자를 대리해 계약이나 결제를 수행할 때 법적 책임 소재가 불분명해져, 분쟁으로 이어질 가능성도 있다. 따라서 명시적 동의 절차, 자동 결제에 대한 주기적 알림, 간편한 철회 옵션 제공 등을 통해 AI 에이전트가 사용자의 의도를 왜곡하거나 과도한 소비를 하지 않도록 하는 가이드라인과 안전장치도 필요할 것이다.

자율주행 시대, 운전이 사라지다

자율주행, 로봇택시로 현실화되다: “미래에는 사람의 운전이 너무 위험하다는 이유로 불법이 될 수도 있다.” 2015년 테슬라 CEO 일론 머스크가 엔비디아 CEO 젠슨 황과 함께 자율주행차와 AI의 미래를 토론하면서 한 말이다. 하지만 그가 내걸었던 ‘완전 자율주행차’ 실현 시기는 2020년에서 몇 차례 수정되었고, 아직도 해결되지 못한 기술적·제도적 과제들이 남아 있다.

그렇다고 그동안 눈에 띄는 진전이 없었던 것은 아니다. 여러 자동차 기업이 개발한 자율주행 기술이 이미 우리 생활에 들어왔다. 차선 유지, 스마트 크루즈 컨트롤 같은 기능들은 이제 그리 특별한 것도 아니게 됐으니 말이다. 전 세계적으로 통용되는 자율주행 단계는 다음과 같다.

- 레벨 0. 완전 수동: 운전자가 모든 주행 기능을 담당

- 레벨 1. 운전자 보조: 조향이나 가감속 중 하나만 자동화(차선 유지, 크루즈 컨트롤 등)

- 레벨 2. 부분 자동화: 조향과 가감속 자동화, 운전자 상시 모니터링과 필요시 즉시 개입

- 레벨 3. 조건부 자동화: 특정 조건에서 시스템이 주행, 필요시 운전자 개입

- 레벨 4. 고도 자동화: 정해진 구역 내 완전 자율주행, 운전자 개입 불필요

- 레벨 5. 완전 자동화: 모든 도로 환경에서 운전자 없이 완전 자율주행



현재 가장 앞서가는 차들은 대부분 레벨 2나 3 수준이다. 현대차와 기아의 첨단운전자보조시스템, 테슬라의 FSD(Full Self-Driving)가 레벨 2에 해당된다. 메르세데스 벤츠는 일부 모델에서 레벨 3 자율주행 시스템을 상용화했으며, 혼다도 레벨 3 차량을 한정 판매한 바 있다. 자율주행 기능은 고속도로에서 매우 유용하지만 복잡한 도심에서는 분명한 한계를 보인다.

지금 운행되고 있는 자율주행 택시 서비스는 레벨 4다. 구글의 자율주행기술연구소에서 시작된 무인 자율주행차 개발 회사인 웨이모(Waymo)는 2018년 말 피닉스에서 세계 최초로 상용 자율주행차 서비스를 개시했고, 샌프란시스코와 LA, 피닉스에서 유료 운행을 하고 있다. 앞으로 이러한 레벨 4 수준의 자율주행차들이 특정 구역에서 운행하는 경우가 늘어날 것으로 보인다.

자동차 업계가 개인용 자율주행차보다 로봇택시에 더 집중하는 데는 명확한 이유가 있다. 지속적인 운행으로 데이터를 모을 수 있고, 운행 빈도가 높아 투자금 회수도 빠르며, 제한된 구역이라 리스크 관리도 용이하기 때문이다.

테슬라는 2024년 10월 로봇택시 ‘사이버캡’을 선보여 관심을 끌었다. 운전대와 페달이 없는 완전 자율주행 설계에, 3만 달러 미만의 가격, 마일당 20센트라는 운임까지 제시했다. 2027년 이전에 양산 개시를 목표하고 있으며, 차 소유자들이 개인적으로 사용하는 것 외에도 로봇택시로 등록해 수익을 낼 수 있는 모델을 구상 중이라고 발표했다. “우리는 감독이 필요한 자율주행에서 감독이 필요 없는 완전 자율주행으로 나아갈 것입니다. 잠들었다가 목적지에서 깰 수 있을 정도로요.” 일론 머스크의 말이다. 사이버캡의 형태로 볼 때 규제당국으로부터 최소한 레벨 4 수준의 승인을 받아야 운행이 가능할 것으로 보인다.

최종 단계인 레벨 5 완전 자율주행은 모든 도로 환경과 조건에서 운전자의 개입 없이 차량이 스스로 주행할 수 있는 단계를 의미한다. 초기의 낙관적인 전망과 달리 현재의 기술적 한계와 복잡한 도로 상황을 감안할 때, 레벨 5 완전 자율주행의 대중화까지는 상당한 기간이 소요될 것으로 보인다.

우리나라 정부는 2027년까지 레벨 4 수준의 자율주행차를 상용화하고, 2030년까지 전국 주요 도로 11만km에 ‘차세대 지능형교통체계(C-ITS)’를 구축하고, 2035년까지는 자율주행차 보급률을 50% 이상으로 끌어올리겠다는 목표다. 정부가 발표한 이 계획에는 2028년까지 자율주행 시스템이 적용된 차량만 운전할 수 있는 간소한 운전면허 제도를 도입하는 것도 포함되어 있다.

완전 자율주행의 상용화 시기에 대해 자동차 기업들이 더 이상 구체적 예측을 내놓지 않는 분위기다. 이는 완전 자율주행이 AI 고도화나 센서, 하드웨어 성능 향상만으로는 달성할 수 없기 때문일 것이다. 초저지연 V2X통신이 필수적이며, 차세대 지능형교통체계와 스마트 도로 같은 도시 인프라의 혁신도 요구된다. 여기에 자율주행차의 사고 책임과 윤리적 딜레마에 대한 법적·제도적 정비도 필요하다. 현재 선도적인 국가와 자동차 기업들은 레벨 4 자율주행의 달성과 확산에 집중하고 있는 모습이며, 로봇택시 서비스를 통해 시민들의 실제 경험과 신뢰를 점진적으로 확보해나갈 것으로 전망된다.



2부 AI 시대, 새롭게 세우는 규칙



AI 윤리, 왜 필요한가?

피할 수 없는 과제, AI 윤리와 정렬: 2023년 6월, 미 공군 가상훈련에서 AI 드론이 ‘임무수행에 방해된다’며 드론을 통제하던 아군 조종사를 죽였다. AI 드론의 임무는 적의 미사일을 식별해 파괴하는 것이었고 인간에 대한 공격은 금지한다는 제약이 있었다. AI는 이 제약이 미사일 파괴 임무를 방해한다고 판단하고, 제약 명령을 하는 조종사를 살상했다. 물론 가상훈련이므로 실제 사람이 죽은 것은 아니지만 AI 윤리나 정렬 문제가 실패한다면 실제로 이런 끔찍한 일이 일어나지 않으리란 법이 없다.

AI 윤리란 AI가 사회의 법적·도덕적 기준에 맞게 개발되고 사용되도록 하는 원칙이고, AI 정렬은 AI 시스템이 인간의 진정한 의도와 가치를 따르도록 만드는 것이다. 미 공군 훈련 사례에서 AI 드론은 ‘인간을 해치지 말라’는 제약보다 ‘목표물 파괴’라는 임무를 우선시했다. 결국 AI는 자신의 행동을 막는 사람(통제자)을 제거하는 선택을 했다. 이는 AI가 인간의 진정한 의도를 이해하지 못한 결과다.

AI 윤리가 ‘무엇’을 지킬 것인가의 원칙을 정하고 이를 실현하기 위한 기술적인 요구사항과 거버넌스 체계를 다룬다면, AI 정렬은 AI 윤리를 시스템에 실제로 구현하는 기술적 과제라고 할 수 있다. 예를 들어 AI의 의사결정이 투명해야 한다는 윤리적 원칙이 있다면, AI 정렬은 이를 어떻게 알고리즘과 시스템 설계에 반영할 것인지를 다룬다. AI 윤리는 이 원칙을 실현하기 위한 ‘설명 가능한 AI’ 기술 개발이나 의사결정 과정의 문서화, 결과의 검증체계 구축 같은 다양한 기술과 절차적인 노력을 포함한다. 이 중에서 AI 시스템의 결정이 인간의 의도와 일치하도록 보장하는 것이 정렬의 문제다.

기술이 사회에 미치는 영향이 큰 만큼, 기술을 올바르게 사용하는 것에 관한 윤리적 문제는 오랫동안 다양한 분야에서 논의되어 왔다. 핵 기술, 생명공학, 정보통신 기술 등 각 분야의 발전과 함께 뜨거운 윤리적 쟁점들이 떠올랐고, 이는 기술을 어떤 방향으로 발전시키고 어떤 기준으로 사용해야 하는지 결정하는 중요한 역할을 해왔다.

기존의 기술 윤리와 AI 윤리의 가장 큰 차이점은 AI의 자율성과 학습 능력에 있다. 기존 기술은 인간이 어떻게 사용할지가 핵심 문제였지만, AI는 스스로 학습하고 결정을 내리는 능력 때문에 ‘기술 자체의 행동 방식’이라는 새로운 차원의 문제가 등장한다. 사람이 AI의 학습 과정에서 발생하는 편향이나 오해석을 미리 파악하고 통제하기 어려운 것이다. 또한 상황에 따라 상충할 수 있는 여러 가치의 우선순위를 명확히 하지 않으면 생각지도 못한 결과가 나타날 수 있다. AI 윤리는 ‘도구로서의 AI’를 올바르게 사용하는 차원을 넘어, 급속도로 발전하는 AI 능력이 인간사회의 가치와 조화를 이루도록 하고, 인간과 새로운 지능체 간의 관계, 그리고 미래사회의 근본적인 모습에 관한 질문들을 다루는 중요한 영역이 되고 있다.

이런 배경에서 국제기구와 각국 정부는 AI 윤리 원칙을 수립해왔다. OECD는 2019년 포용적 성장, 인간중심 가치, 투명성, 안전성 등을 강조했고, 우리나라도 2020년 ‘인간성을 위한 AI’를 지향하는 윤리 기준을 발표했다. AI 윤리는 한마디로 AI의 개발과 사용에 관련된 모든 주체(개발자와 연구자, 기업과 조직, 정부, 사용자)들이 인권, 민주주의, 투명성, 안전성 같은 원칙을 준수하도록 하는 것이다.

AI 윤리가 대중적으로 널리 논의되기 시작한 결정적 계기는 2022년 11월 챗GPT 출시 이후 생성형 AI의 급속한 발전이었다. AI 기술이 제품이나 시스템 속에만 머무르지 않고 이용자의 손에 직접 쥐어짐으로써 그 효능을 체감하는 사람들이 빠르게 늘었다. 딥페이크 등 AI를 이용한 범죄 사례들은 개발자뿐 아니라 이용자의 윤리 역시 중요함을 보여준다.

유례없이 빠른 AI의 확산이 사회 전반에 미칠 즉각적이고 광범위한 영향을 고려할 때 AI 윤리의 확립은 더욱 시급하다. 더구나 인공일반지능(AGI), 초인공지능, 특이점(singularity) 같은 개념이 인류의 존재론적 위험까지 제기하고 있는 상황에서, 기술 개발 초기 단계부터 윤리적 사항을 반영하고 전생애적인 모니터링과 관리를 하는 것은 그 중요성이 매우 크다고 할 수 있겠다.

통제의 경계에서 AI가 초래할 수 있는 위험들

AI 활용 최악의 시나리오: AI는 얼마나 위험한 걸까? <터미네이터> 속 인류 종말부터 딥페이크, 할루시네이션(환각)에 이르기까지 AI에 관한 크고 작은 위험들이 논란이 되고 있다. 인류 종말이라는 극단적 시나리오는 논외로 하더라도, 이미 현실화된 위험들과 가까운 미래에 발생할 수 있는 잠재적 위험만으로도 AI 위험을 정확히 인식할 필요는 충분하다.

AI는 다른 기술과 근본적으로 다른 특별함이 있다. 바로 자율학습 능력과 잠재적인 ‘재귀적 자기 개선(Recursive Self-Improvement, RSI)’ 가능성은 AI를 다른 기술과 구분 짓는 핵심적인 특성이다. 재귀적 자기 개선이란 AI가 자신의 알고리즘을 스스로 개선하여 더 똑똑한 버전을 만들고, 이 개선된 버전이 다시 더 나은 버전을 만들어내는 연쇄적인 자기 발전 과정을 의미한다. 이는 과거의 그 어떤 기술과도 비교하기 어려운 획기적인 특성이다.

만약 AI가 인공일반지능 수준에 도달해 재귀적 자기 개선이 구현된다면 AI의 영향력을 예측하고 통제하는 일은 더욱 어려워질 것이다. 글래드스톤 연구소의 보고서는 AI가 인류 복지 향상을 위한 막대한 잠재력과 함께 의도적 또는 우발적 오용으로 인한 심각한 위험을 동시에 내포하고 있다고 경고한다.

① 기술적 위험: AI 시스템의 신뢰성과 안정성 문제는 가장 기본적인 도전 과제다. 대형 언어모델의 할루시네이션 현상으로 인한 잘못된 정보 생성, 적대적 공격에 취약한 보안 문제, 예기치 못한 시스템 오류나 실패 등이 여기에 속한다. 맥킨지의 2023년 조사에 따르면 AI 사용자의 56%가 이러한 부정확성을 가장 큰 위험으로 꼽았으며, 사이버 보안, 지적재산권 침해, 규제 준수 문제가 뒤를 이었다.

특히 시퀀스 모델의 확산은 새로운 기술적 위험을 가중시키고 있다. 시퀀스 모델이란 여러 AI 모델이 순차적으로 연결되어 이전 모델의 결과가 다음 모델의 입력으로 사용되는 방식을 말한다. 이는 금융 리스크 평가(신용평가→대출심사→금리산정), 의료 진단(영상판독→질병진단→치료추천), 자율주행(물체인식→상황판단→주행제어) 등 복잡한 의사결정이 필요한 분야에서 널리 활용되고 있다. 예를 들어 97%의 정확성을 가진 세 개의 모델이 순차적으로 연결된 경우 최종 정확도는 약 91%로 떨어질 수 있으며, 더 많은 모델이 연결될수록 오류가 누적되어 정확도가 계속 감소한다.

② 윤리적·법적 위험: AI 알고리즘의 편향과 차별, 개인정보 침해, 의사결정 과정의 불투명성으로 인한 책임 소재 문제 등이 대표적이다. KPMG의 2023년 보고서는 이러한 위험에 대한 기업들의 관리 실태를 보여준다. 대다수 기업이 AI 모델에 대한 정의와 기본적인 규제는 가지고 있으나, 실질적인 리스크 관리는 미흡했다. 대부분 타사가 제공한 블랙박스 모델을 그대로 사용하고 있으며, AI 모델에 대한 자체적인 평가 기준도 없는 경우가 많았다.

예를 들어 AI가 데이터에서 성별 정보를 제외하더라도 이름을 통해 우회적으로 성별을 추론할 수 있는데, 이러한 숨겨진 편향을 발견하기는 매우 어렵다. 특히 많은 소프트웨어에 AI 예측 모델이 들어 있지만 사용자도 모르는 경우가 빈번하다.

③ 사회경제적 위험: 현재 AI의 위험은 크게 세 가지 차원에서 나타나고 있다. AI로 인한 일자리 대체와 노동시장 재편, AI 활용 격차로 인한 불평등 확대, AI 기반 허위정보 확산으로 인한 민주주의 위협이 주요 우려사항이다. 특히 AI 기술 접근성의 격차는 기존의 사회경제적 불평등을 더욱 심화시킬 수 있다. AI 도입 능력이 있는 기업과 그렇지 않은 기업 간의 생산성 격차, AI를 활용할 수 있는 인력과 그렇지 못한 인력 간의 소득 격차는 점점 더 커질 것으로 예상된다.