"AI의 진짜 위협은 인류 멸종? 더 시급한 게 있다"

요약

본문

국회 과학기술정보방송통신위원회 야당 간사인 최형두 국민의힘 의원이 1일 오후 서울 여의도 국회 의원회관 자신의 집무실에서 <오마이뉴스>와 만나 AI 인류 멸종론과 AI 시대 미·중 양강 구도에서 한국 정부와 국회가 나아가야 할 방향에 대해 이야기를 나눴다. — ▲국회 과학기술정보방송통신위원회 야당 간사인 최형두 국민의힘 의원이 1일 오후 서울 여의도 국회 의원회관 자신의 집무실에서 와 만나 AI 인류 멸종론과 AI 시대 미·중 양강 구도에서 한국 정부와 국회가 나아가야 할 방향에 대해 이야기를 나눴다. ⓒ 유성호

'AI 인류 멸종론'을 두고 여론이 뜨겁다. 일부 AI 연구자들과 업체들의 경고로 촉발된 논란은 '속도조절론'이 필요하다는 목소리로 이어졌고, 이에 대한 각기 다른 의견들이 하루가 멀게 터져 나오고 있다.

국민의힘 반도체·AI 첨단산업특별위원회 위원이자 국회 과학기술정보방송통신위원회 야당 간사로 활동해 온 최형두 국민의힘 의원은 이에 대해 어떻게 생각할까? 지난 1일 최 의원을 만나 'AI 인류 멸종론'에 대해 물었다. 그는 오히려 이 문제를 '한국의 위기론'으로 진단했다.

최 의원은 "미국과 중국은 AI 패권 경쟁 양상으로 가고 있기 때문에 합의가 쉽지 않을 것"이라고 전망하면서도 "우리는 우리대로 AI 정책의 속도를 높여야 하고, 따라가지 않으면 뒤집힌다"고 했다.

AD 이어 "AI 위험이 커지기 때문에 우리도 AI 규제로 가야 한다는 것은 완전히 패착"이라면서 "당장 보안사고, 해킹 문제에 대응해야 한다"고 했다. 이어 "AI 위험성도 결국 국가 전산 시스템을 마비시키거나 개인 정보를 바탕으로 치밀한 금융 사기 행각을 벌이거나, 혼란을 일으키는 허위 정보를 조직적으로 유포한다거나 형태인데, 보안 체제를 더 단단히 잡아야 한다"면서 "앞으로 쏟아져나올 AI 해킹 등을 우리가 스스로 막지 않으면 위기를 감당하지 못할 것"이라고 경고했다.

그는 동시에 AI가 한국에게 커다란 기회가 될 수 있다고도 했다. 한국이 경쟁력을 가질 분야로는 '피지컬 AI'를 꼽았다. 최 의원은 "제조업 전반에 걸쳐서 데이터를 쌓은 나라는 세계에서 중국과 한국밖에 없다"면서 "공장을 열어서 제조 공정의 모든 데이터를 물리 법칙에 따라서 정밀하게 제조할 수 있는 모델을 만들고 있고, 이것이 대한민국의 진짜 강점"이라고 했다.

"계속되는 개인정보 유출... 국민 안보 관점에서 대책 세워야"

아래는 최형두 의원과의 일문일답.

- AI 속도조절론이 나올 정도로, AI 위험성에 대한 우려가 커지고 있다. 이 문제에 대해서 어떻게 보나?

"이 문제가 커지면서 따로 찾아봤다. 글로벌 이슈가 됐다. AI 최고 전문가들, 앤트로픽을 만든 다리오 아모데이 같은 사람들이 전 세계적인 AI 개발 속도를 (늦춰야 한다고) 요청할 만큼 위험하다고 한다. 핵무기와도 비교를 하고 있지 않나. 그런데 미국과 중국은 오히려 AI 패권 경쟁 양상으로 가고 있고, 국가의 운명이 걸린 문제기 때문에 합의도 쉽지 않을 것이다.

AI 위험이 커지기 때문에, 우리도 AI 규제로 가야 된다고 하는 것은 완전한 패착이다. 우리는 우리대로 AI 정책에 속도를 높일 수밖에 없고 따라가지 않으면 뒤집힌다. 우리가 삼성전자, 하이닉스에서 보듯이 지금 AI 반도체 덕분에 국부가 증가하고 있는 상황 아닌가. 메모리 반도체의 경우 우리가 당분간 대체 불능 국가가 된 거다. 미국이나 중국 등 패권 국가들도 우리와 손을 잡지 않으면 AI를 진전시킬 수 없을 정도 수준이다. 우리가 경쟁력을 갖고 있는 거다. 그 기술을 계속 쥐고 발전시켜나가는 것은 굉장히 중요하다. "

- 그렇다고 하더라도 AI의 위험성은 없는가?

"당장 보안사고, 해킹은 대응해야 한다. 지금도 쿠팡 등 해킹 보안 사고가 계속 터지고 있지 않나. AI가 통해서 일어날 위험도 이런 거다. 국가 전산 시스템을 마비시키거나 개인 정보를 바탕으로 치밀한 금융 사기 행각을 벌이거나, 혼란을 일으키는 허위 정보를 조직적으로 유포한다거나 하는 일이다. 그래서 보안 체제를 더 단단히 잡을 필요가 있고, 안전망도 확고히 할 필요가 있다. 개인정보 유출도 계속되고 있는데, 국민 안보 관점에서 대책을 세워야 한다."

- 보안 사고의 경우 어떻게 대책을 세워나가면 좋겠나?

"쿠팡의 경우, 문제를 일으킨 보안 점검 담당자가 한국 국적자도 아니었고, 개인정보에 마음대로 접근할 수 있었다. 심지어 퇴직을 한 뒤 중국에 가서도 이 시스템에 접근했다. 그럴 정도로 보안이 허술했다. 미국의 경우 국민 민감 정보가 담긴 시스템에는 아무나 접근하지 못하도록 제도적으로 막고 있다. 우리 내부에서 제도적으로 이런 문제를 막을 수 있는 장치가 없다. 민감한 정보를 다룰 수 있는 사람은 제한을 둬야 하고, 해외에서 정보 시스템에 접근하는 것도 막을 수 있어야 한다."

- 사실 보안의 경우 투자가 중요한데, 기업들이 이런 투자를 안 하는 측면도 크다.

"어느 기업이라도 보안 투자에는 돈이 많이 든다. 그런데 당장 이익을 내려는 기업 입장에선 선뜻 투자하기가 쉽지 않다. 기업들의 보안 인식을 바꿔야 한다. 기업들이 보안 투자를 비용이 아니라 미래를 본 투자라는 점을 인식하도록 제도가 뒷받침해줘야 한다. 동시에 화이트 해커도 양성해야 한다. 그래서 보안 체계를 지속적으로 점검하고, 강화하도록 해야 한다. AI 위기론도 이 문제에 대한 대응으로 이어져야 한다. 앞으로 쏟아져나올 AI 해킹 등을 우리가 스스로 막지 않으면 위기를 감당하지 못할 거다."

"보안 대응 체계 이원화 상태에선 한계 있을 것"

▲최형두 "해킹 못 막으면 감당 못해... 우리 경쟁력은 피지컬 AI" 유성호

- 우리 정부의 AI 정책에 대해 어떻게 보나?

"해킹에 대해 통합적으로 대응할 정부 시스템이 필요하다. 현재 민간과 공공기관 보안과 관련해선 과학기술정보통신부 산하 인터넷진흥원이 하고 있고, 정부와 관련된 부분은 국정원이 담당한다. 현재는 국가 정보 전체가 한꺼번에 노출될 위기에 있기 때문에 협업 체계 구축이 굉장히 중요하다고 본다. 정부 여당의 경우, 국정원에 대한 부정적인 인식이 있기도 한데, 조만간 이 문제에 대해 결정해야 할 것 같다. 보안 대응 체계가 이렇게 이원화된 상태에선 지금과 같은 시대엔 한계가 있을 거다. 만약 민감한 국민 정보가 다른 국가에 통째로 넘어가서, 침투 경로로 쓰인다면, 그 자체로 국가 안보 위기다."

- 보안 체계 강화와 함께 중요한 것은 국가 경쟁력 확보다. AI는 미국과 중국이 양강 체제로 갈 수밖에 없다. 한국은 어느 위치에서 경쟁력을 잡을 수 있고 준비해야 한다고 보나?

"거대언어모델(LLM) 경쟁에서는 우리가 프론티어가 되기는 힘들다고 생각한다. 다만 한국 문화와 정체성을 보여주고 발전시켜 나가려는 측면에 있어서 독자 언어 모델 개발은 필요하다. 그런데 진짜 우리의 강점은 피지컬 AI에 있다. 로봇과 정밀 기계를 학습시킬 수 있는 제조 데이터가 경쟁력이다. 제조업 전반에 걸쳐서 데이터를 쌓은 나라는 세계에서 중국과 한국밖에 없다. 일본과 독일도 제조 강국이라고 하지만 우리처럼 그렇게 전방위적으로 제조업이 분포된 게 아니다. 우리는 조선 분야부터 반도체까지 다 있다. 전 제조업 영역을 다 갖춘 나라를 풀스택 국가라고 하는데, 한국이 풀스택 국가다. 지금 미국도 우리나라에 제조업 관련 데이터를 달라고 하는 상황이다. 당장 공장을 열어서 제조 공정의 모든 데이터를 물리 법칙에 따라서 정밀하게 제조할 수 있는 모델을 만들고 있고, 이것이 대한민국의 진짜 강점이라고 생각한다."

- AI로 인한 일자리 부족 문제도 사회적 문제로 대두되고 있다. 이 부분은 어떻게 풀어야 하나.

"일자리에 대한 과감한 인식 전환이 필요하다. 지금 AI 빅테크 기업들이 누구를 찾고 있나. 철학 전공자를 찾는다. 철학이라는 것은 생각을 하고 관찰을 하고 판단을 하는 문제인데, AI 시대에 가장 중요한 경쟁력으로 떠오르고 있다. 질문을 잘하고, 문제를 창의적으로 설정하는 것이 AI 시대를 살아남는 비결이라고 본다.

AI는 훨씬 더 많은 체제를 바꿔낼 것인데, 여기에 맞도록 풍부한 상상력을 갖추고, AI를 활용할 수 있다면 많은 기회가 올 것이다. 아울러 사람의 손길이 필요한 부분, 가령 관광 산업, 사람을 돌보는 간호 관련 직종들도 AI가 대체하기 어려운 부분이라고 본다. 이렇게 피지컬 AI경쟁력을 확보하고 관광 등의 직종에서도 인재들을 늘려나간다면 국가적인 부는 훨씬 올라갈 거라고 생각한다."

- AI 시대, 마지막으로 어떤 부분을 강조하고 싶나?

"AI는 위기지만, 더 도약할 수 있는 기회라고도 생각한다. 보안 분야에서는 국가 보안 체계를 잘 다져나가고, 다른 한편으로는 피지컬 AI육성 등을 통해 국가 경쟁력을 높여나간다면, AI 시대에 우리 국민들이 누릴 수 있는 경제적 풍요가 더 커질 것이라고 생각한다. 가만히 있으면 뒤처지기 때문에 끊임없이 달려나갈 필요가 있다."