[2025 경향포럼] 김재인 교수 “AI에 생각을 의탁하면 인간지능은 퇴화할 것” > 자료실

[2025 경향포럼] 김재인 교수 “AI에 생각을 의탁하면 인간지능은 퇴화할 것”

페이지 정보

작성자 또또링2
댓글 0건 조회 19회 작성일 25-06-30 17:24

본문

김재인 경희대 비교문화연구소 교수는 25일 “인공지능(AI)에 의사결정을 의탁하기 시작하면 인간은 기계의 노예로 전락할 것”이라고 말했다.
김 교수는 이날 서울 중구 롯데호텔에서 열린 <2025 경향포럼> 강연에서 ‘기계에 격노해야 한다’라는 주제로 강연하며 이같이 말했다. 김 교수는 “빼앗기면 되찾을 수 있으나 내어주면 되돌릴 수 없다”는 드라마 ‘미스터선샤인’의 대사를 인용하며 강연을 시작했다. 김 교수는 “최근 사람들은 글을 쓰고 자료를 분석하는 등 의사결정이 필요한 일도 인공지능에 떠넘기고 있다”며 “본인의 역량을 내어주는 방식으로 인공지능에 의탁해서는 안 된다”고 말했다.
김 교수는 ‘인공지능에 의사 결정을 맡기는 일’을 “충분한 사고 훈련을 거치지 않은 초중고 학생에게 계산기부터 쥐여주는 일”이라고 비유했다. 김 교수는 수리적이고 논리적으로 사고하는 훈련을 거치지 않고 곧바로 계산기를 사용하면 다른 고도의 작업을 수행할 수 없다고 했다. 김 교수는 마찬가지로 스스로 사고하는 훈련을 하지 않고 인공지능에 의사결정을 맡기면 지능적으로 퇴화할 수밖에 없다고 설명했다. 김 교수는 “평균 지능의 절댓값이 떨어지면 대부분의 인간들의 지능이 퇴화하는 연쇄 작용이 일어날 것이고 이러한 지능의 퇴화는 불과 몇 세대만 거치면 충분히 일어나게 될 것”이라고 말했다.
그는 이러한 사고 능력의 퇴화가 벌어지면 포용과 배려, 민주주의와 성평등 등 인간이 세운 가치와 문명도 함께 퇴보할 것이라고 경고했다. 김 교수는 “인간 문명과 가치의 진보는 스스로 사고하도록 교육받은 다수의 인구가 없었다면 이루어질 수 없었을 것”이라며 “생각할 힘을 스스로 내던지게 되면 굳이 이런 가치들을 왜 배우고 훈련해야 하는지 의문을 제기하는 반지성의 힘이 커질 것”이라고 말했다.
김 교수는 스스로 사고하는 능력을 키우기 위해 반복적으로 훈련해야 한다고 강조했다. 그는 “생각하는 활동은 운동과 유사해서 반복적인 훈련을 통해서만 현상을 유지하거나 탄탄해질 수 있다”며 “운동을 하듯 생각의 근육을 키워나가야 한다”고 말했다. 김 교수는 “인간만이 가진 독창성을 포기해선 안 된다”고도 말했다. 그는 “인간 문명이 차곡차곡 발전할 수 있었던 것은 누군가 현재를 넘어서서 저항하고 경계했기 때문”이라며 “우리 인간들은 조금 더 용감하고 버릇없게 모험하고 도전해야 한다”고 말했다.
[주간경향] ‘소버린 AI 전도사’ 하정우 대통령실 AI미래기획수석이 네이버 임원 시절 했던 말을 종합하면 ‘소버린 AI’란 AI(인공지능) 모델, 전력, 컴퓨팅 인프라, 데이터센터, 클라우드, AI 배포서비스 등 AI 산업 전체의 밸류 체인과 생태계에서 한국이 역량과 주도권을 확보하는 것을 말한다. 새 정부는 국민과 기업 등이 참여하는 100조원 규모의 펀드를 조성해 소버린 AI를 확보하고자 한다. 과학기술정보통신부 장관 자리에 LG의 AI 모델인 ‘엑사원(EXAONE)’ 개발을 진두 지휘한 배경훈 LG AI연구원장을 내정한 것도 ‘소버린 AI’ 추진에 무게가 실린 인사다. 미·중 양강 구도의 AI 개발에서 한국은 소버린 AI를 확보할 수 있을까. 업계에서는 이를 어떻게 생각할까.
AI 스타트업인 포티투마루의 김동환 대표는 “앞으로 AI는 더 많은 분야에서 우리의 삶에 영향을 미치게 된다. 앞으로 ‘한 국가가 자체 AI를 보유하고 있느냐, 아니냐’ 하는 것은 ‘핵무기를 가지고 있느냐, 아니냐’와 비견될 것”이라며 “우리가 최신의 AI 기술을 유지하면서, 혹은 리드하면서 컨트롤할 수 있도록 해야 하는데 문제는 ‘어떻게’이다”라고 말했다. 여기서 최신의 AI 기술이란 ‘GPT’ 등 언어를 생성하는 거대언어모델(LLM), 언어·이미지·영상·음성 등을 동시에 처리하고 생성하는 거대멀티모달모델(LMM), 생성을 넘어 직접 실행까지 할 수 있는 거대행동모델(LAM) 등의 범용 파운데이션 모델은 물론이고, 바이오·의료·제조업 등 특정 분야에 특화한 파운데이션 모델 등을 아우른다.
한국이 소버린 AI를 만들 수 있냐 이전에 한국의 현실을 알아야 한다. 대부분의 국내 AI 업체들은 오픈AI나 구글의 AI가 제공하는 서비스(API)를 활용해 자신들의 상품을 만들거나, 메타가 오픈소스로 공개한 AI인 ‘라마’를 가져와서 튜닝하는 방식으로 서비스를 개발한다. AI 관련 비영리기관인 에포크 AI(Epoch AI)가 지난해 전 세계 AI 모델 중에서 ‘주목할 만한 AI(Notable AI Model)’로 선정한 모델은 대부분 미국·중국의 것이었고, 국산 모델은 LG AI연구원의 엑사원뿐이었다. AI 개발자 세계에서는 오픈소스에 얼마나 기여하는가를 주목하는데, 한국은 그 역할이 ‘제로(0)’에 가깝다. 김민현 커먼컴퓨터 대표는 “전 세계 엔지니어들이 오픈소스에 기여하고 있는데, 한국 엔지니어의 것은 많지 않다. 오픈소스로 내놓은 한국 업체의 AI도 가져다 쓰는 이들이 거의 없는 실정”이라며 “AI 산업에서 한국은 메이저(주요한) 역할을 하고 있지 않다”고 말했다.
김동환 포티투마루 대표는 최근 미국 실리콘밸리에 갔다가 메타에서 일하는 한국인 인턴 직원들을 만났다고 했다. “해외파가 아니고 국내에서 석·박사 마친 친구들이 인턴 하러 메타로 갔는데, 메타에서 한국 사람을 전략적으로 모아놓은 거예요. ‘뭐라도 만들어봐라, 6개월 해보고 잘되면 기술이든 자본이든 인력이든 우리가 전폭적으로 밀어줄게’ 이런 식으로 인큐베이팅을 하더라고요. 그 인턴들이 받는 돈이 국내 대기업 연봉보다 높아요. 미국에 간 한국 친구들은 해고당해도 안 들어와요. 미국에서 계속 기회를 찾겠다고….” 그는 “연봉도 연봉이지만, 이들이 제일 중요하게 생각하는 건 ‘같이 연구하는 팀에 얼마나 좋은 인재들이 있는가’, ‘아이디어를 실험해볼 수 있는 충분한 GPU 인프라 자원이 있는가’ 이 두 가지였다”며 “한국에서는 연구원들이 GPU 몇십장 확보하는 것도 어려운 상황”이라고 했다. GPU 등 AI 인프라를 확대하고 좋은 인재를 모으는 일이 시급하다는 게 업계 관계자들의 공통된 얘기다.
시장을 무시한 자립은 ‘갈라파고스’
어떤 AI 모델을 만들어야 할 것인가에 대해서는 신중한 의견들이 나왔다. ‘한국형 기술’, ‘기술 자립’이라는 목표로 그간의 정부에서 관료들이 추진했던 수년짜리 단기 프로젝트들이 기존 오픈소스의 코어를 건드리거나 글로벌 표준과 달라 시장에서 활용되지 못하고 ‘갈라파고스’처럼 된 사례가 많았기 때문이다. 김민현 커먼컴퓨터 대표는 “‘좋아 보이니까 우리도 할게’가 아니라 고객에게 뭐가 필요한가, 시장이 무엇을 원하는가를 생각해야 한다”면서 “우리가 파운데이션 모델을 만들어서 오픈소스로 공개할 때는 시장에 어떤 인사이트를 줄 수 있어야 한다. ‘오픈소스인 라마와 딥시크와 비교해 우리 모델은 어떤 점에선 부족하지만 이런 점은 강점이야. 그러니 한 번 써봐’ 이렇게 할 수 있을 정도가 돼야 한다”고 말했다.
“국내에서 인정받는 수준으로 하면 안 돼요. ‘미국·중국 엔지니어들이 우리 모델을 좋아할까’ 이걸 기준으로 모델을 개발해야 해요. 만약 그들을 만족시킬 자신이 없으면 파운데이션 모델은 시작도 안 하는 게 나아요. 그냥 그들의 오픈소스를 가져다 개별 사업에 맞게 튜닝하는 방식으로 ‘K모델’을 만들고 금액도 아끼는 거죠. 글로벌 시장을 만족시킬 자신이 없는데 ‘소버린 AI’를 한다? 그건 엉뚱한 것만 들고 있는 거예요.”
국가적으로 중요한 분야와 한국이 경쟁력을 가진 분야에 특화한 모델부터 키우는 ‘선택과 집중’ 방식을 주문한 이들도 있었다. 김동환 포티투마루 대표는 “빅테크처럼 범용적인 AI 모델은 아직 우리가 따라갈 수준이 안 된다. 범용보다는 안보나 제조, 교육 분야에서 특화된 파운데이션 모델과 애플리케이션을 키워야 우리 기업들이 상대적으로 시장에서 경쟁력을 가질 수 있다. 나머지 분야는 장기적으로 가져가야 한다”고 말했다.
어떤 종류의 파운데이션 모델을 만들든간에, 돈이 되지 않거나 투자가 이어지지 않으면 ‘소버린 AI’의 성과는 빛이 바랜다. 예컨대 아랍에미리트(UAE)의 경우, 정부 투자로 2023년 ‘팔콘’과 ‘자이스’라는 LLM을 만드는 데 성공했지만, 시장성 확보에는 실패했다. 특히 자이스를 만든 G42는 최근 자사 LLM에 대한 투자를 줄이고, 오픈AI와 협력하는 데 집중하고 있다. G42의 최고경영자는 지난 4월 미국 블룸버그와의 인터뷰에서 “초창기에는 파운데이션 모델이 얼마나 발전할 수 있고, 다음 단계로 나아가기 위해 무엇이 필요한지 전혀 몰랐다”며 “이만한 규모의 국가로서 우리가 할 일은 아니다”라고 말했다. 블룸버그는 지난 5월 또 다른 기사에서 “UAE 같은 부유한 국가를 포함한 (소버린 AI를 추진하는) 대부분의 다른 국가들은 (미국의 강력한 AI 모델과 중국의 저비용 오픈소스 모델로 인해) 중간에서 길을 잃었다”고 보도했다. 김민현 커먼컴퓨터 대표가 말했다. “예컨대 우리가 성능 좋은 AI를 올해 1000억원 들여서 만들었다고 해봅시다. 올해는 한 번 할 수도 있겠죠. 문제는 내년에도, 내후년에도 1000억원이 있냐는 겁니다.”
익명을 요구한 업계 관계자는 “우리 소버린 AI의 목표가 LLM 같은 파운데이션 모델인지, 그걸 넘어서는 AGI(인공일반지능)인지를 분명히 해야 한다”고 말했다. LLM을 만드는 것이 목표라면 UAE의 경우처럼 길을 잃을 가능성이 크다는 설명이다. 오픈 AI나 메타, 딥시크 등 파운데이션 모델을 만드는 업체들은 파운데이션 모델 자체가 아니라 AGI를 만드는 게 최종 목표로, 파운데이션 모델은 더 나은 모델로 확장하기 위해 수행하는 기초 연구의 성격이 강하다.
미국과 중국을 제외하고 성공한 ‘소버린 AI’의 사례가 없다는 건 그만큼 달성하기 어려운 과제란 뜻이기도 하다. “소버린 AI는 가슴으로는 필요한데, 머리로는 이게 불가능해요. 그런데 그렇다고 포기할 수는 없는 영역이거든요.” 김동환 포티투마루 대표의 말이다. 익명을 요구한 또 다른 AI 업계 대표는 “소버린 AI로 가는 건 맞지만, 어떤 방식이 가능할지 잘 모르겠다”며 이렇게 말했다. “소버린 AI 만들 돈 100조원을 차라리 구글이나 오픈AI에 투자하는 게 더 현실적이지 않을까 하는 생각도 들어요. 구글이나 오픈AI의 엔진을 가져다 튜닝해서 쓰고요. 어쨌든 지분투자를 했으니 우리도 이익을 얻을 수 있잖아요. 정말 답이 안 보여서 하는 말이에요.”
‘국가의 운명급 기술’을 만드는 법
스페인 일간지 엘파이스는 지난 3월 ‘딥시크의 고향, 항저우 여행’이란 기사에서 항저우를 ‘중국의 실리콘밸리’라고 불렀다. 항저우는 알리바바 본사가 들어선 이후 스타트업의 천국이 됐다. 딥시크 외에 유명 게임인 ‘검은 신화: 오공’을 만든 ‘게임 사이언스’, 뇌·기계 인터페이스를 연구하는 ‘브레인코’, 3D 디자인·시뮬레이션 회사인 ‘매니코어 테크’, 보행 로봇을 만드는 ‘유니트리 로보틱스’와 ‘딥 로보틱스’ 등 항저우에 있는 6개의 스타트업은 이제 ‘여섯 마리 작은 용(六小龙)’으로 불린다. 항저우의 저장대학교는 AI·로보틱스·뉴로테크 분야의 인재를 키운다. 이 도시에서는 하루에도 수많은 모임(밋업)과 네트워크가 탄생한다. 미국 실리콘밸리에서나 볼 수 있던 모습이 중국의 도시에서 재현되고 있다.
딥시크 창업자인 량원펑은 지난 1월 지식공유 플랫폼에 이런 글을 남겼다. “우연히도 윈치타운(항저우의 AI 스타트업 밀집지역)의 야식 포장마차에서 유니트리 로보틱스의 왕싱싱 최고경영자와 마주 앉아 바비큐를 먹으며 4족 보행 로봇의 동적 균형 알고리즘에 관해 얘기했습니다. 브레인코의 한비청 최고경영자가 합석해 뇌·기계 인터페이스와 구현형 AI의 융합 가능성을 꺼내 들었죠. 식탁에 요리가 올라오기도 전에 우리는 이미 백지에 이기종 컴퓨터 아키텍처를 스케치하고 있었습니다. 이것이 항저우의 가장 매력적인 점이 아닐까요? 소위 ‘여섯 마리 작은 용’은 결코 고립된 여섯개의 섬이 아닙니다. (중략) 지금 생각해보니, 진정한 ‘국가의 운명급 기술’은 아마도 이런 길거리 포장마차의 기름 냄새 속에 숨어 있는 것 같습니다. 현실을 거스르는 바보들이 코드로 벽돌을 쌓고 알고리즘으로 철근을 만들어 자본과 의심의 틈새에서 미래로 향하는 다리를 우뚝 세우고 있습니다.”
우리는 ‘국가의 운명급 기술’을 어떻게 만들어갈 것인가. ‘현실을 거스르는 바보들’을 어떻게 모을 수 있을까. 김민현 커먼컴퓨터 대표는 “오픈소스 문화, VC(벤처캐피털)를 운영하는 방식, 스탠퍼드대의 교육과정 등 실리콘밸리의 소프트웨어 문화를 수입해서 그대로 베끼는 것부터 해야 한다”고 말했다. ‘AI 3강’으로의 도약은 결국 판교나 대전을 창의적인 실험과 과감한 실패가 허용되는, 개발자들 간 자유로운 밋업과 협력이 이뤄지는 실험 공간으로 바꿔가는 것에 달렸다는 얘기다. 이재명 정부의 100조원 투자는 그 마중물이 될 수 있을까.
올해 열 번째를 맞은 <경향포럼>이 ‘초가속 시대의 도전 - 공포를 넘어 희망으로’를 주제로 25일 서울 중구 롯데호텔 2층 크리스탈볼룸에서 열렸다.
포럼 참석자들은 인공지능(AI)의 눈부신 기술 발전이 이뤄낸 성과의 명과 암, 그리고 초가속 시대에 인간이 나아가야 할 방향에 대해 치열한 고민을 나눴다.
김석종 경향신문 사장은 포럼 개막사에서 “AI는 인간을 도와주는 기술을 넘어 인간의 존엄성과 윤리관까지 공격할 수 있다는 공포가 공존하지만 동시에 새로운 미래를 만드는 엄청난 가능성의 문도 함께 열고 있다”고 말했다.
이어 “우리는 AI 시대의 문법을 다시 만들어야 할 책무를 지고 있고, 그런 의미에서 새롭게 출범한 현 정부가 AI강국을 목표로 설정한 것은 매우 시의적절하다고 여겨진다”고 했다.
개막사에 이어 하정우 대통령실 AI미래기획수석이 이재명 대통령의 축전을 대독했다. 이후 우원식 국회의장(영상), 이한주 국정기획위원장, 송언석 국민의힘 원내대표, 오세훈 서울시장의 축사가 이어졌다.
포럼은 지나 네프 영국 케임브리지대 민더루 기술·민주주의 센터장이 ‘숨가쁜 변화, 문명사적 대전환’을 주제로 강연하며 본격적으로 문을 열었다. 오후 5시까지 3개 세션 총 8개의 강연과 대담, 토론이 진행됐다.
강연자들은 급변하는 AI 시대를 선도적으로 연구해온 인문·과학 영역 전문가들로 꾸려졌다.
네프 센터장을 비롯해 샹뱌오 독일 막스플랑크 사회인류학연구소장, 이광형 카이스트 총장, 보 안 싱가포르 난양공대 컴퓨터과학과 석좌교수, 문병로 서울대 컴퓨터공학부 교수, 김재인 경희대 비교문화연구소 교수 등이 강연과 좌담을 이어갔다. 정세랑 소설가는 ‘모두를 위한 기술 발전’을 주제로 특별강연에 나서 눈길을 끌었다.
참석자들은 동영상을 촬영하거나 녹음하며 강연에 집중했다. 포럼 처음부터 자리를 지킨 김재인 교수(세션3 강연자)는 대담자들에게 “학문으로서 전통적인 인문학과 서양과학이 AI 개발에 어떤 도움을 줄 수 있을지 궁금하다”며 질문을 던지기도 했다.
이주영 개혁신당 정책위의장, 강금실 전 법무부 장관 등 주요 인사들도 자리를 떠나지 않고 강연에 귀를 기울였다. 강 전 장관은 “개인적으로는 ‘AI가 기후위기 속에서 어떤 도움을 줄 수 있을까’에 대한 고민이 있다”고 말했다.
25일 서울 중구 롯데호텔에서 열린 <2025 경향포럼>에 참석한 내빈과 강연자들이 기념촬영을 하고 있다.
앞줄 왼쪽부터 박찬대 더불어민주당 의원, 정청래 민주당 의원, 정동영 통일부 장관 내정자, 이한주 국정기획위원회 위원장, 오세훈 서울시장, 김석종 경향신문 사장, 하정우 대통령실 AI미래기획수석, 송언석 국민의힘 원내대표, 김선민 조국혁신당 대표 권한대행, 용혜인 기본소득당 대표두 번째 줄 왼쪽부터 강태영 NH농협은행장, 정진완 우리은행장, 정상혁 신한은행장, 이환주 KB국민은행장, 조용병 전국은행연합회장, 강금실 전 법무부 장관, 정성호 민주당 의원, 윤호중 민주당 의원, 이주영 개혁신당 정책위원회 의장, 이정문 민주당 정책위원회 수석부의장, 박수민 국민의힘 원내대표 비서실장, 박성훈 국민의힘 원내대변인세 번째 줄 왼쪽부터 성영수 하나카드 대표, 김성태 IBK기업은행장, 정완규 여신금융협회 회장, 이병래 손해보험협회 회장, 김철주 생명보험협회 회장, 임문영 민주당 디지털특별위원장, 임기근 기획재정부 2차관, 박주민 국회 보건복지위원회 위원장, 김병칠 금융감독원 부원장, 정춘숙 전 민주당 의원, 홍정민 전 민주당 의원, 권태선 방송문화진흥회 이사장네 번째 줄 왼쪽부터 김효은 국립한밭대 인문교양학부 교수, 보 안 싱가포르 난양공대 컴퓨터과학과 석좌교수, 샹뱌오 독일 막스플랑크 사회인류학연구소장, 지나 네프 영국 케임브리지대 민더루 기술·민주주의 센터장, 이정동 서울대 공학전문대학원 교수, 김지희 카이스트 경영대학 기술경영학부 교수, 정진수 화우 대표변호사, 윤종군 민주당 의원, 서성일 한국인공지능소프트웨어산업협회 부회장.

이전글여의도까지 40분대 ‘풍무역 롯데캐슬 시그니처’ 25.06.30
다음글[사설] AI 초가속 시대, 공포를 넘어 희망 일궈야 25.06.30

댓글목록

등록된 댓글이 없습니다.