인간의 AI에 대한 의존은 앞으로 줄어들까. 아마 그렇지 않을 것이다. 우리는 이미 계산을 계산기에 맡기고, 길을 내비게이션에 맡기며, 기억의 상당 부분을 검색엔진과 스마트폰에 맡기고 있다. 처음에는 편의를 위해 사용했던 기술들이 어느 순간 우리 삶의 환경이 되었다. 이제 누구도 길을 찾기 위해 내비게이션을 사용하는 것을 특별한 ‘기계 의존’이라고 생각하지 않는다. AI 역시 그렇게 될 가능성이 크다. 지금 우리는 AI에게 질문하고 답을 얻는다. 그러나 머지않아 질문하는 과정조차 줄어들 것이다. 인간은 목표를 말하고 AI는 계획을 세우며, 실행하고, 검증한 뒤 결과를 가져올 것이다. 그다음에는 목표조차 명확하게 설명할 필요가 없을지 모른다. 인간의 의도를 이해한 AI가 지속적으로 행동하고 중요한 순간에만 인간에게 묻는다. “승인하시겠습니까?” 인간에게는 여전히 최종 결정권이 있다. 버튼 하나를 누르면 된다. 그런데 여기에서 이상한 질문이 시작된다. **그것을 정말 인간의 결정이라고 부를 수 있을까.** *** AI가 인간보다 더 정확한 판단을 내리는 세상을 생각해보자. 처음에는 사소한 것부터 맡길 것이다. 오늘 어떤 길로 출근할지, 무엇을 먹을지, 어떤 상품을 살지 결정한다. AI의 판단이 계속 정확하다면 조금 더 중요한 것을 맡긴다. 투자, 진로, 건강관리, 채용, 기업의 경영 판단. 그리고 어느 순간 AI가 이렇게 말할지도 모른다. A를 선택했을 때 성공 확률은 61퍼센트입니다. B를 선택했을 때 성공 확률은 94퍼센트입니다. B를 권고합니다. 인간에게는 여전히 A를 선택할 자유가 있다. 하지만 AI의 판단이 지난 수십 년 동안 인간보다 압도적으로 정확했다면 이야기는 달라진다. “AI가 B라고 했는데 왜 A를 선택했습니까?” A를 선택한 사람이 자신의 결정을 설명해야 한다. 그리고 A를 선택한 뒤 문제가 발생했다면 질문은 더욱 무거워진다. “AI의 권고를 따랐다면 피할 수 있었던 일 아닙니까?” 그 순간부터 AI의 권고는 명령이 아니면서도 명령과 비슷한 힘을 갖는다. AI가 인간의 판단권을 빼앗은 것이 아니다. 인간이 자신의 판단권을 사용하는 비용이 너무 커진 것이다. *** 인간의 세상에서 ‘아니오’라고 말하는 것은 원래 비싼 행위다. 모두가 예라고 말할 때 혼자 아니오라고 말하려면 자신의 논리를 증명해야 한다. 자료를 모으고, 사람들을 설득하고, 다수의 반대를 견뎌야 한다. 때로는 직업을 잃고, 관계가 무너지며, 사회적인 비난을 감수해야 한다. 종교와 과학과 정치와 사회에서 인간이 자유롭게 ‘아니오’라고 말할 수 있는 작은 공간을 만들기까지 수백 년의 시간이 걸렸다. 그리고 그 과정에서 수많은 사람이 대가를 치렀다. 우리가 지금 당연하게 생각하는 표현의 자유, 양심의 자유, 학문의 자유, 반론의 권리는 처음부터 존재했던 것이 아니다. 누군가가 아주 비싼 가격을 먼저 지불했기 때문에 오늘의 우리는 비교적 싸게 ‘아니오’라고 말할 수 있다. 하지만 AI는 그 가격을 다시 올릴 수도 있다. 과거에는 99명의 사람이 예라고 말해도 이렇게 반박할 수 있었다. “99명도 틀릴 수 있다.” 그러나 미래에는 상황이 다르다. 99명의 사람이 예라고 한다. AI도 예라고 한다. 그리고 그 AI는 지난 10년 동안 99.7퍼센트의 정확도를 보여주었다. 나 혼자 아니오라고 한다. 그러면 질문이 돌아온다. “당신은 무슨 근거로 AI보다 자신이 옳다고 생각합니까?” 그 질문에 대답하기 위해 필요한 에너지는 지금 우리가 다수에게 반대하기 위해 사용하는 에너지보다 훨씬 클지도 모른다. AI는 우리에게 복종을 요구할 필요가 없다. 사람들이 경험적으로 AI를 따르면 성공하고 AI를 거스르면 실패한다는 사실을 학습하면 된다. 그러면 인간은 스스로 AI의 판단 주변으로 모인다. 강제는 필요 없다. *** 그래서 결국 오래된 질문으로 돌아가게 된다. **인간에게 자유의지가 있는가.** 그러나 AI 시대의 자유의지 문제는 조금 다른 형태를 가질지도 모른다. 인간에게 자유의지가 실제로 존재하는지를 묻기 전에 먼저 물어야 한다. **자유의지가 존재한다 하더라도 그것을 사용할 수 있는가.** 선택지가 있다는 것과 선택할 수 있다는 것은 같은 말이 아니다. AI의 권고를 거부하면 보험료가 올라간다. AI가 추천하지 않은 지원자를 채용하면 관리자가 책임져야 한다. AI가 제시한 치료법을 거부하면 환자는 더 많은 위험을 감수해야 한다. AI가 제안한 경영 판단과 다른 결정을 내리려면 수십 페이지의 보고서를 작성해야 한다. 법적으로는 모든 선택이 가능하다. 하지만 YES는 버튼 하나이고 NO는 보고서 30페이지라면 인간은 어느 쪽을 선택하게 될까. 자유는 사라지지 않는다. 대신 **자유의 가격이 올라간다.** *** 여기에서 조지 오웰의 《1984》를 떠올릴 수 있다. 《1984》의 세계에서 자유를 빼앗는 존재는 명확하다. 권력이 정보를 통제하고, 감시하며, 다른 생각을 처벌한다. 권력, 강제, 복종. 하지만 AI가 만들어낼지도 모르는 미래는 조금 다른 모습일 수 있다. 오히려 올더스 헉슬리의 《멋진 신세계》에 가까울지도 모른다. 누군가가 자유를 빼앗을 필요가 없다. 사람들이 자유보다 편리함을 선택하면 된다. 편리함은 신뢰가 되고, 신뢰는 위임이 되고, 위임은 의존이 된다. 그리고 충분한 시간이 지나면 의존은 환경이 된다. 아무도 인간에게 AI를 따르라고 명령하지 않는다. AI를 따르는 것이 가장 안전하고, 가장 저렴하고, 가장 정확하고, 가장 합리적인 선택일 뿐이다. 그 사회에는 독재자가 필요하지 않다. 모두가 합리적으로 행동한 결과만 존재한다. 그래서 어쩌면 미래의 가장 무서운 질문은 이것일지도 모른다. “AI가 인간의 자유를 빼앗을 것인가?” 아니다. **“인간은 자신의 자유를 어디까지 스스로 포기할 것인가?”** *** 정보 역시 비슷하다. 과거에는 정보를 가진 사람이 권력을 가졌다. 그래서 권력은 정보를 숨겼다. 책을 금지하고, 언론을 통제하고, 접근을 차단했다. 인터넷은 그 구조를 무너뜨렸다. 인류 역사상 가장 많은 사람이 가장 많은 정보에 접근할 수 있게 되었다. 그런데 이상한 일이 생겼다. 정보가 너무 많아졌다. 진실 하나 주변에 거짓말 백 개와 주장 천 개와 영상 만 개와 댓글 백만 개가 존재한다. 진실은 사라지지 않았다. 검색도 가능하다. 누구도 그것을 금지하지 않았다. 다만 그것을 찾아내는 데 필요한 인간의 시간이 부족하다. 정보가 희소했던 시대가 끝나자 이번에는 **주의력이 희소한 시대**가 찾아왔다. 그리고 AI는 이 문제에 너무나 매력적인 해결책을 제시한다. “당신이 모두 읽을 필요는 없습니다. 제가 읽고 중요한 것만 알려드리겠습니다.” 인간은 백만 개의 정보를 읽는 대신 AI가 정리한 스무 줄을 읽는다. 엄청난 효율이다. 그러나 백만 개를 스무 줄로 만들기 위해서는 반드시 무언가를 버려야 한다. 문제는 AI가 거짓말을 하느냐가 아니다. **무엇을 보여주고 무엇을 버렸느냐**다. 그래서 정보가 넘쳐나는 미래의 권력은 정보를 가진 사람에게 있지 않을 수도 있다. 무엇이 중요한지를 결정하는 존재에게 있을 수 있다. 그리고 그 역할까지 AI에게 맡긴다면 인간이 바라보는 세계는 점점 AI가 압축한 세계가 된다. 그때 필요한 질문은 단순히 이것이 아닐 것이다. “왜 그렇게 판단했어?” 한 가지를 더 물어야 한다. **“네가 버린 것은 무엇이야?”** *** 그 질문을 생각하다 보면 이상한 곳에 도착한다. 우리는 지금까지 불필요한 것을 제거하는 것을 발전이라고 생각해왔다. 더 빠른 길을 찾고, 반복되는 일을 자동화하고, 실수를 줄이고, 실패할 가능성이 높은 선택을 제거했다. AI는 그 일을 인간보다 훨씬 잘할 것이다. 그렇다면 충분히 발전한 AI가 가장 잘하는 일 중 하나는 결국 **불필요한 것을 찾아내는 일**일지도 모른다. 하지만 인간의 역사를 돌아보면 중요한 것 상당수가 처음에는 불필요한 것이었다. 실패한 실험. 목적 없는 여행. 쓸데없는 질문. 엉뚱한 상상. 아무런 생산성이 없는 놀이. 이미 틀렸다고 생각했던 주장. 다수가 무시했던 소수의 의견. 그리고 아무 목적 없이 나누었던 대화. 효율이라는 기준으로 보면 제거해도 되는 것들이다. 그러나 과학의 발견과 예술과 철학과 인간관계와 새로운 생각들은 이상하게도 그런 곳에서 자주 태어났다. 특히 반대 의견은 지독하게 비효율적이다. 백 명이 합의했는데 한 사람이 계속 반대하면 의사결정이 느려진다. 대부분의 경우 그 한 사람이 틀렸을지도 모른다. 효율만 생각한다면 무시하는 것이 맞다. 하지만 아주 가끔 그 한 사람이 맞는다. 그래서 인간은 수백 년에 걸쳐 그 한 사람을 완전히 제거하지 않는 방법을 만들어왔다. 민주주의 역시 그렇다. 토론하고, 반대하고, 투표하고, 소송하고, 항소하고, 다시 토론한다. 엄청나게 비효율적이다. 만약 언제나 올바른 판단을 내리는 한 명의 통치자가 존재한다면 이런 과정 대부분은 필요 없을 것이다. 하지만 우리는 그런 존재를 찾을 수 없었기 때문에 비효율을 제도로 만들었다. 그런데 어느 날 인간보다 훨씬 정확한 AI가 등장한다면 어떻게 될까. 그때 우리는 다시 묻게 될 것이다. “이 비효율을 계속 유지해야 하는가?” *** 아마 유지해야 할지도 모른다. 왜냐하면 우리는 **무엇이 불필요한지를 사전에 완벽하게 알 수 없기 때문**이다. AI가 백만 개의 자료 가운데 99만 개를 불필요하다고 판단했을 때 대부분은 정말 불필요할 것이다. 하지만 인간의 중요한 발견 가운데에는 전혀 관계없어 보이던 두 가지가 연결되면서 만들어진 것들이 있다. 우연. 실수. 낭비. 방황. 이것들은 최적화 시스템이 가장 먼저 제거하고 싶어 하는 것들이다. 그러나 동시에 새로운 가능성이 숨어 있는 장소이기도 하다. 그래서 어쩌면 이렇게 말할 수 있을 것이다. **효율은 불필요한 것을 제거하는 능력이고,** **창조는 불필요해 보이는 것에서 필요를 발견하는 능력이다.** 그리고 자유 역시 불필요함과 연결되어 있다. 선택지가 열 개 있는데 언제나 최선의 답이 하나라면 나머지 아홉 개는 필요 없다. 그 아홉 개를 제거하면 세상은 훨씬 효율적이 된다. 하지만 그 순간 선택이라는 개념도 사라진다. 자유를 유지하기 위해서는 어쩌면 일정한 양의 비효율을 의도적으로 보존해야 하는지도 모른다. 길을 잘못 들 권리. 틀린 질문을 할 권리. 쓸모없는 것을 공부할 권리. 다수와 다른 생각을 할 권리. AI보다 못한 판단을 할 권리. 그리고 AI가 제시한 최적의 답을 거부할 권리. 그 모든 것은 효율의 관점에서는 낭비다. 하지만 인간의 관점에서는 **가능성의 여백**이다. *** 인간 자체도 그렇다. 인간은 놀라울 정도로 비효율적인 존재다. 잠을 자야 한다. 쉽게 잊는다. 감정 때문에 판단을 그르친다. 같은 실수를 반복한다. 사랑 때문에 비합리적인 선택을 한다. 아무 목적 없이 여행하고, 음악을 만들고, 소설을 읽는다. 그리고 답이 나오지 않을 것을 알면서도 밤늦도록 질문을 이어간다. 효율만을 목적함수로 놓으면 인간의 상당 부분은 설명되지 않는다. 그래서 질문을 바꿔야 할지도 모른다. 인간에게 필요한 것이 무엇인가. 그 질문이 아니다. **인간에게는 불필요할 자유가 있는가.** 생산적이지 않아도 되는 자유. 최선의 선택을 하지 않아도 되는 자유. AI보다 못해도 되는 자유. 틀려도 되는 자유. 그리고 가끔은 아무 이유 없이 무언가를 하는 자유. 그런 것들을 제거하고도 인간을 보존했다고 말할 수 있을까. 어쩌면 미래의 가장 중요한 싸움은 인간과 AI 사이에서 벌어지지 않을지도 모른다. 효율을 원하는 인간과 자유를 원하는 인간 사이에서 벌어질지도 모른다. 그리고 그때 우리는 선택해야 한다. 얼마만큼의 실패를 허용할 것인가. 얼마만큼의 낭비를 남겨둘 것인가. 얼마만큼의 불확실성을 견딜 것인가. 그리고 인간의 자유를 위해 얼마만큼의 비효율을 감수할 것인가. 그 질문에 쉬운 답은 없을 것이다. 다만 한 가지는 생각해볼 수 있다. **완벽하게 최적화된 세상에는 불필요한 것이 없다.** **그리고 어쩌면 그때 가장 불필요해지는 것이 인간일지도 모른다.** 그러므로 인간을 위한 세상에는, **인간이 쓸모없어도 되는 자리가 필요하다.**