"AI로 인류 멸종? 한국은 다른 것부터 고민해야 한다"

요약

본문

국회 과학기술정보방송통신위원회 더불어민주당 간사인 김현 의원이 지난 2024년 12월 20일 오후 서울 여의도 국회 의원회관에서 <오마이뉴스>와 인터뷰 하고 있다. — ▲국회 과학기술정보방송통신위원회 더불어민주당 간사인 김현 의원이 지난 2024년 12월 20일 오후 서울 여의도 국회 의원회관에서 와 인터뷰 하고 있다. ⓒ 남소연

"AI 속도조절론에 휩쓸리기보다 지금 당장 우리에게 필요한 것은 한국의 독자 생존입니다."

국회 과학기술정보방송통신위원회에서 AI 관련 정책과 법제를 다뤄온 김현 더불어민주당 의원, 김 의원은 'AI 인류 멸망론'에 대한 질문을 듣자 "당장 우리에게 적용될 얘기는 아니라는 점을 짚고 싶다"고 했다.

"한국은 미국과 중국에 맞설 소버린 AI(독자 AI모델)를 본격적으로 만들어가는 과정"이고, "우리에게 필요한 건 속도 조절이 아니라, AI와 관련한 역량을 확보하는 것이 중요하고 AI 국민 활용도를 높여야 한다"는 것이 김 의원의 생각이다.

AD 김 의원은 '국회와 정부는 뭘하고 있는가'라는 질문에 최근 과방위 법안소위를 통과한 AI 기본법 개정안을 언급했다. 그는 "AI 학습데이터를 여러 기관에 흩어놓지 말고, 국가 통합 시스템에 의무적으로 연계하도록 하는 방안"이라며 "국가가 데이터를 제대로 관리해야 향후 모델 개발, 안전성 검증도 제대로 할 수 있기 때문에, 제도적 기반을 다져나가는 중"이라고 설명했다.

AI 발전으로 인해 당장 해킹과 피싱 급증으로 이어질 것이란 우려에 대해 김 의원은 "이번 국감에서도 중요 쟁점으로 다뤄야 한다"면서 "딥페이크 사기, AI 허위정보, 피싱메일, 사칭영상 등도 폭증하면서 사회적 문제가 심화될 것으로 보이는데, 이에 대해 국민 개개인이 판별할 수 있는 역량을 갖추도록 해야 한다"고 강조했다. 아래는 지난 17일 국회 의원회관에서 만난 김현 의원과의 일문일답.

- 최근 AI가 통제 불가능한 상황으로 치닫고 자칫 인류 멸종까지 갈 수 있다는 전망이 나와 논란이 커지고 있다. 이에 대해 어떻게 보는가.

"AI가 스스로 문제를 해결하기 시작하는 능력이 강화되면서 나타난 현상이다. 그래서 미국 AI 개발자와 기업 CEO 들이 AI를 제어할 안전장치가 필요하다고 목소리를 높이는 상황이다. 안전 장치가 AI 성능을 따라잡을 시간을 벌자는 차원의 접근이고, 공감할 수 있는 주장이다. 하지만 국제적으로 보면 미국 트럼프 대통령이 속도조절은 중국에 유리하다고 반대, 중국 정부도 중국 기술 견제를 위한 주장이라며 반대하는 상황이다.

이 논쟁이 순수한 안전 문제가 아니라 국제적 역학 관계도 작용하고 있다. 그렇다면 우리 입장에선 당장 뭘 해야 할까를 고민한다면, 이 논쟁이 우리에게 적용될 얘기는 아니라는 점을 짚고 싶다. 속도조절 논쟁은 이미 프론티어 AI에 진입한 기업들의 고민인데, 아직 한국은 소버린 AI(독자 AI)를 만들어가는 과정이다. 지금 우리에게 필요한 건 속도 조절이 아니라, AI와 관련한 역량, 특히 사람 역량을 확보하는 것이 중요하다고 생각한다. 우리처럼 미국과 중국 수준과 비슷한 독자 AI 모델을 만들어서, 국민 활용도를 높여야 한다."

- 논쟁이 계속되면서, 국민들은 '우리 정부, 국회는 뭘 준비하고 있느냐'고 묻는다. 어떤 준비를 하고 있는가?

"국민들이 그렇게 묻는 것도 당연하다. 지금까지 뭘했냐를 말씀드리면, 지난해 1월 AI 기본법이 시행됐고, 대통령이 위원장인 국가인공지능전략위원회가 법정기구로 출범했다. 그리고 지난 9월에는 국가 AI전락위에서 AI 모델 개발부터 운영까지 모든 단계에 걸쳐 'AI 보안 전면화'를 차기 과제로 선정하고 준비 중이다. 지난 15일 대표발의한 AI 기본법 개정안도 과방위 소위를 통과했다. AI 학습데이터를 여러 기관에 흩어 놓지 말고, 국가 통합 시스템에 의무적으로 연계하도록 하는 방안이다.

국가가 데이터를 제대로 관리해야 향후 모델 개발, 안전성 검증도 제대로 할 수 있기 때문에, 제도적 기반을 다져나가는 중이다. 장기적으로 방향성은 제도의 속도를 기술 발전 속도에 맞춰갈 수 있도록 바꿔야 한다고 본다. 정부 심의 조달 주기부터 단축시켜, 모델 개발과 속도를 맞추고, 보안의 경우도 소잃고 외양간 고치는 식이 아닌 사전 예방 보안으로 전환해야 한다.

AI 인류 멸종론의 관점으로만 접근하는 것은 경계할 필요가 있다. 아직 한국은 독자 AI 모델을 만들어가는 단계이고, 지금 이 시간을 어떻게 잘 활용해서 AI를 개발할 것인지, 국민들이 이 AI를 다룰 기술적, 인문학적 역량을 어떻게 갖추도록 할 것인가를 고민하고 추진해야 하는 시점이다."

"AI, 대한민국이 크게 발전할 수 있는 기회이자 도전 과제"

- AI 보안, AI 피싱 등의 문제도 화두로 떠오른다. 앞선 답변에서 잠깐 대책을 소개했는데, 프론티어 AI의 발전으로 당장 시급한 것 역시 해킹, 보안 문제다. 이 부분에 대해서도 국회 차원에서 대책이나 정부에 대한 적극적 대응 요청이 있어야 할 것 같은데, 어떻게 보나?

"AI 해킹과 관련한 논의는 이번 국감에서도 중요 쟁점으로 다뤄야 한다. 실제로 다른 나라에서 AI를 악용해 해킹과 사이버첩보 활동 등을 벌였던 사실도 있지 않나. AI오남용과 관련된 문제는 AI가 스스로 해킹을 하는 AI 통제불능의 문제, 인간이 AI를 악용하는 문제로 나눠볼 수 있다. AI 통제 불능 문제의 경우 기업들이 해결해야 할 문제지만, 인간이 AI를 악용하는 현상에 대해선 AI리터러시 교육 등이 해법이라고 본다.

향후 딥페이크 사기, AI 허위정보, 피싱메일, 사칭영상 등도 폭증하면서 사회적 문제가 심화될 것으로 보이는데, 이에 대해 국민 개개인이 판별할 수 있는 역량을 갖추도록 해야 한다. AI 생성 콘텐츠를 구별하는 방법, AI가 내놓은 결과를 검증하는 방법 등을 정규 교육 혹은 평생 교육 과정에 담아야 한다고 본다. 국민들이 AI에게 속지 않을 눈을 갖추는 것이 중요하다. 아울러 기업 차원에서 보안과 해킹 관련 사고가 났을 경우, 이를 투명하게 공개하는 기준도 만들 필요가 있다."

- AI로 인한 산업 재편도 대응 과제다. 당장 사라지는 일자리가 많은데, 이와 관련한 통계도 기관마다 제각각인 상황이다. 어떻게 바로잡을 수 있을까?

"일자리가 사라지는 것들이 있다면, AI로 인해 새롭게 나오는 일자리도 있을 것이다. 이와 관련해선 과학기술정보통신부와 교육부 등이 종합적인 분석을 통해 한눈에 보이는 데이터로 정리할 필요가 있다. 그리고 한국은행이 'AI와 지역 노동시장' 등의 AI 일자리 관련 통계와 보고서를 냈는데, AI가 늘어나는 지역은 수도권이고, AI로 인해 지역 격차가 더욱 벌어진다는 예측이 있었다.

청년 고용 위축 문제도 좌시할 수 없는 수준이다. 정책에 실제로 반영해 풀어야 하는 문제다. 지역 격차 문제는 메가프로젝트의 지역 분산 전략과 연계해야 하고, 청년 고용 위축 문제는 교육 및 재교육 체계를 발전시키는 것과 연계해서 풀어야 할 문제다. 이런 정책 전환에 속도를 낼 필요가 있다."

- AI 격차 심화 문제도 대응이 필요하다. 당장 AI 구독자와 그렇지 않은 사람 간 격차, AI를 활용하는 방식에 따라서도 격차가 커지고 있다. 사회적 취약 계층은 이 과정에서 더욱 소외될 수밖에 없다. 앞서 말한 사람의 역량과도 연결되는 지점인데 구체적으로 어떤 대책이 필요하다고 보나.

"정부에서 추진하는 '모두의 AI' 프로젝트가 대안이 될 수 있다. 현재 SK텔레콤과 카카오, KT 등 3개 컨소시엄을 사업자로 선정했고, 국민들이 모두가 무료로 쓸 수 있는 범용 AI 챗봇과 공공서비스 에이전트를 올해 안에 출시할 예정이다. 유료 구독으로 나타나는 격차를 어느 정도 해소할 수 있는 방책이다.

역량 교육도 중요하다. 현재 AI디지털배움터가 있는데 도서관과 우체국 등 국민 생활 접점에 이 배움터를 배치하고 지속적으로 확대하면서 취약계층에 대한 교육 접근성도 한층 높여나갈 계획이다. 이 사업들이 본궤도에 오르면 사업 간 데이터도 공유하고 대상자들도 빠짐없이 챙길 수 있도록 연계 기반을 구축해야 한다. 여기에 국회 차원에서도 지속적으로 챙겨보려고 한다."

- AI와 관련해 앞으로 국회에서 어떤 역할을 해나갈 것인지 말해 달라.

"AI는 대한민국이 크게 발전할 수 있는 기회이자 도전 과제이다. 미국과 중국에 이어 한국이 AI 3강을 형성할 수 있는 저력은 충분하다고 본다. 모두의 AI 등 정부가 국민들에게 내놓았던 AI 정책과 계획들이 차질 없이 이행되도록 국회 차원에서도 충실히 뒷받침해 나갈 것이다. 아울러 사회적 소외계층과 어르신, 청년까지 아우르면서 격차가 나타나지 않도록 교육 체계들도 면밀히 살펴보고 확대해나갈 것이다."

#김현 #AI

오탈자 신고 네이버 채널구독 다음 채널구독 댓글1 이 기사가 마음에 드시나요? 좋은기사 원고료로 응원하세요 원고료로 응원하기 연재