인간과 AI가 만드는 세상의 철학

인공지능(AI)은 이제 업무를 보조하는 도구를 넘어 인간의 사고와 판단은 물론 노동과 제도의 작동 방식까지 바꾸는 단계에 들어섰다. AI에 밀려난 청년들의 올해 1분기 실업률이 5년 새 최악이다. 이런 문제의식 속에서 한반도평화만들기(이사장 홍석현 중앙홀딩스 회장)는 지난해 6월 중국 AI 혁명의 현장을 돌아본 경험을 계기로 지난 15일 첫 AI포럼을 열었다. 참석자들은 “AI가 인간의 통제를 벗어날 수 있다는 실존적 위협을 직시하고, 단순한 성능 경쟁을 넘어 인간의 존엄과 통제권을 담보할 새로운 국제 거버넌스를 시급히 구축해야 한다”는데 의견을 같이했다. ‘노동하지 않는 인간’의 존재 의미를 어떻게 확보할지도 화두로 떠올랐다. 

답변 생성 넘어 ‘행동 지능’ 단계로 발전 

▶정송 KAIST ICT 석좌교수·AI대학원장(발제)=AI 패러다임이 챗GPT 같은 언어모델 중심에서 세계의 작동 원리를 시뮬레이션하고 판단하는 ‘월드 모델(World Model)’ 단계로 넘어가고 있다. 기존 AI가 지식을 압축해 답을 내놓는 챗봇에 그쳤다면, 차세대 AI는 현재 상태와 행동에 따른 미래 상황을 예측해 전략적으로 의사결정을 내리는 ‘행동 지능’을 지향한다. 범용인공지능(AGI)의 완성은 결국 단순한 답변 생성이 아니라, 목표 설정을 하고 최적의 행동을 선택할 수 있는 의사결정 지능을 얼마나 달성하느냐에 달려 있다.

진화의 핵심은 스스로 생각하는 사고 프로세스와 지각 능력의 확장이다. 오픈AI의 o1이나 딥시크의 R1 등이 보여준 추론 기술을 넘어, 이제는 영상·음성 등 다양한 데이터를 통해 AI의 지식을 실제 현실 세계와 연결하는 단계에 진입했다. 이렇게 완성된 월드 모델은 로봇이나 자율주행차 같은 물리적 AI(Physical AI)의 두뇌가 될 것이다. 다만 AI가 미래를 예측하며 최적의 경로를 택할 때는 반드시 가치 판단이 개입된다. 따라서 단순한 성능 경쟁을 넘어 인간 사회의 윤리와 안전 기준을 AI의 판단 체계에 어떻게 내재화할 것인지가 향후 AI 기술의 본질적인 과제가 될 전망이다.

기술에 끌려가지 않고 인간이 주도해야

▶이상욱 한양대 철학과·인공지능학과 교수(발제)=AI는 인간의 뇌에서 영감을 받아 발전해 왔지만, 실제 작동 방식은 인간과 본질적으로 다른 ‘낯선 지능’이다. 과거 세탁기가 발명됐을 때 가사 노동 시간이 줄어들 것으로 예상했으나 실제로는 세탁을 더 자주 하게 되면서 노동량이 오히려 늘어났듯, 기술과 인간은 공진화(coevolution)한다. 서로 영향을 미치며 함께 진화한다는 뜻이다. 혁신 기술은 단순히 효율을 높이는 데 그치지 않고 인간의 삶과 제도를 예상치 못한 방향으로 바꿔놓는다. AI 역시 인간이 다루기 어려운 일부 문제는 해결하면서도 아주 기초적인 상식에서는 황당한 실수를 저지르는 독특한 존재이기에, 이를 단순한 도구로만 보고 인간의 잣대로 판단하는 것은 적절하지 않다.

AI가 인간을 대체하기보다 ‘업무의 성격’을 바꾸는 방향으로 전개될 가능성이 크다. 결국 AI 시대의 윤리는 주어진 원칙을 적용하는 문제가 아니라, 어떤 사회를 만들 것인지에 대한 선택의 문제에 가깝다. 기술에 끌려가기보다 바람직한 방향을 설정하고 만들어가려는 태도가 필요하다.

지금 세대 기준으로 미래 재단해선 안 돼

▶이정동 서울대 공학전문대학원 교수=AI 네이티브 세대는 AI를 단순한 도구가 아니라 삶 속에 자연스럽게 스며든 환경으로 받아들이며 자라난 세대다. 그래서 민주주의나 국가적 이슈를 논의할 때도 지금 세대의 기준만으로 미래를 재단해서는 안 된다. 세계 처음으로 시행하는 우리의 AI 기본법이 정작 알맹이를 놓치고 있는 것은 아닌지 되돌아봐야 한다.

▶김태균 KAIST 디지털인문사회과학부 교수=독재 국가들이 시민 데이터를 수집하고 관리·모니터링하며 체제 생존을 강화하는 방향으로 AI를 활용하는 현상에 주목해야 한다. 이들은 정부에 대한 불평보다 시위나 집단행동으로 이어질 수 있는 움직임을 더 민감하게 통제한다. 결국 기술을 누가 어떤 권한과 역량으로 쥐고 활용하느냐에 따라 권력의 균형이 달라진다.

▶박성필 KAIST 미래전략연구원 원장=중국 역시 AI로 인해 자신들의 정권이 위협받을 수 있다는 점을 우려하고 있다는 사실은 중요한 시사점을 준다. AI 법과 제도를 설계할 때는 위험 관리만이 아니라 모델 설계와 훈련 단계에서부터 인간 존엄과 같은 가치를 반영하는 일이 중요하다.

▶조용병 전국은행연합회 회장=인간의 강점은 상상하고 질문할 수 있다는 데 있다. AI가 고도화될수록 인간에게 중요한 것은 답을 내는 능력만이 아니라 어떤 질문을 던질 것인지가 될 수 있다. 그런 점에서 해마와 전두엽의 역할처럼 인간이 자신을 통제하고 에너지를 조절하는 기능을 AI 시대에 다시 생각해볼 필요가 있다.

감소하는 노동, 새로운 정의 생각할 때
▶송인준 IMM홀딩스 대표이사=AI를 통해 인건비를 줄이고 수익을 높이려는 흐름은 분명하지만, 숙련을 쌓는 과정이 약해지는 문제가 있다. 특히 도제식 학습 기회가 줄어들면서 경험 격차가 빠르게 벌어지고 있다. 신입 인력에게 성장 기회를 어떻게 제공할 것인지에 대한 고민이 필요하다.

▶이하경 중앙일보 대기자=헤겔은 인간이 노동을 통해서 ‘유적(類的) 본질’을 실현한다고 했다. 노동은 우리가 단순히 먹고 살기 위한 생계의 수단만이 아니라 생산된 결과물을 교환하면서 타인과 관계를 맺고, 인류라는 보편적 종(種)의 일원이 되는 행위라는 것이다. AI의 확산으로 노동이 감소하고 있다. 호모 이코노미쿠스(경제적 인간)와 호모 루덴스(놀이하는 인간)가 공존하는 시대로 바뀌어가고 있다. ‘노동하지 않는 인간’은 존재의 의미를 어떻게 확보할 것인가. 즐겁게 놀고 문화를 향유하는 행위도 가치를 창출하는 새로운 노동의 형태로 받아들여야 할 것인가.

여러 에이전트 AI 연결된 시스템 확산
▶정신동 KB경영연구소 소장=앞으로는 단일 모델이 아니라 여러 에이전트가 연결된 시스템으로 작동하는 구조가 확산될 가능성이 크다. 이에 따라 에이전트 간 거래나 사고 발생 시 책임 소재를 명확히 하는 디지털 제도 설계가 중요해진다. 생산성 향상을 위해서는 업무 재배치와 프로세스 재설계가 선행돼야 하며 성과는 일정 시간이 지난 뒤 나타날 가능성이 크다.

▶홍성욱 서울대 과학학과 교수=AI는 인과관계를 이해하기보다 통계적 패턴에 기반해 답을 생성하는 구조이기 때문에 환각과 같은 문제가 발생할 수 있다. 특히 자동화된 시스템에서 사고가 발생할 경우 책임이 분산되면서 누구의 책임인지 불분명해지는 문제가 나타난다. 고용감소 문제가 심각하다. 대형로펌의 신입 변호사 채용이 절반으로 줄었고, 신참 회계사들도 취업난이다.

▶이성환 고려대 인공지능연구원장=AI는 의사결정 과정을 알 수 없는 블랙박스이기에 결론이 났을 때 어떤 인과관계로 결과가 나왔는지 알 수가 없다. 이를 해결하기 위해 어떤 근거로 이런 결론이 나왔는지 설명해 주는 ‘설명 가능한 AI(XAI)’ 연구가 보완되어야 한다. 인과적 투명성이 확보되어야만 현재 우리가 느끼는 많은 불안과 리스크를 일정한 부분 해소할 수 있다.

인류 생존 건 실존적 거버넌스 구축해야
▶김성환 전 외교부 장관=외교 전문가로서 AI가 대량살상무기(WMD)와 결합하는 상황을 가장 경계해왔다. 다행히 조 바이든 전 미국 대통령과 시진핑 중국 국가주석이 수년 전 핵무기 사용 결정에서 AI 사용을 배제하고 인간의 통제권을 유지하기로 했다는 점은 중요한 진전이었다.

▶이광형 KAIST 총장=AI도 소프트웨어이기에 시장 출시 전 철저한 인증을 거쳐야 한다. 인증된 AI만 유통되도록 하는 제도와 국제 공조가 마련된다면, 우리 사회가 음주운전이나 마약을 통제하며 시스템을 유지하듯 AI 리스크도 충분히 관리 가능한 수준 내에서 공존할 수 있다.

▶오세정 전 서울대 총장=AI는 핵융합 같은 과학적 난제에 인간보다 더 빠르고 폭넓게 접근할 가능성이 있다. 그러나 기술이 발전할수록 사회가 연구자에게 요구하는 과제 수준도 함께 높아진다. AI 시대에도 인간이 맡아야 할 일은 줄어들기보다 더 복잡하고 높은 수준으로 바뀔 가능성이 크다.

▶홍석현 한반도평화만들기 이사장=AI 문제는 이제 특정 산업이나 기술의 변화가 아니라 인간 사회의 구조 자체를 어떻게 바꿔놓을 것인가의 문제다. 과거에도 인간은 기술 변화 속에서 적응의 공간을 찾아왔지만, 최근 AI의 변화 속도는 인간이 이 기술을 끝까지 통제할 수 있는지 근본적인 질문을 던지게 할 만큼 빠르고 위력적이다. 중국 지도층조차 AI가 체제를 위협할 가능성을 우려하며 통제를 고민하고 있다는 점은, 이 문제가 인류 전체의 문제임을 보여준다. 최초의 핵무기 사용 이후 과학자들이 인류 멸망을 막기 위해 핵무기를 NPT(핵확산금지조약) 체제로 관리해왔듯, ‘AI판 NPT’에 준하는 국제적 관리 체계가 필요하다. 위험한 기술이 악의적 집단의 손에 사실상 방치돼서는 안 되며, 인간의 미래를 설계하는 주권은 끝까지 인간에게 남아 있어야 한다.

◆한반도평화만들기=한반도 평화 정착에 기여하기 위해 2017년 11월 출범했다. 산하 AI포럼은 인공지능 시대의 미래를 전망하고 기술 발전에 따른 대응 방안을 논의하기 위해 구성됐다. 이광형 KAIST 총장이 위원장을 맡았다.