요약
[](https://www.nhncloud.com/kr) ## 오착(誤錯), 착각을 하여 잘못함 ## 사고와 현상 최근 영화 '오디세이'의 흥행에 발맞추어 고전 오디세이아의 번역본이 대거 출간됐습니다. 그런데 그중 AI 번역 판본에서 아래와 같은 문제가 포착되어 논란이 일었습니다.  > 출처: 《오디세이아》(호메로스 원작), 루미너리북스, AI 번역판(번역자 표기: 제미나이) 3천년 전 고대 그리스 사람들이 "킹받네!", "알빠노?"라는 말을 사용했군요. 2026년 4월 2일, KBS에서는 NASA 아르테미스 2호의 발사를 실시간 AI 자동 번역을 활용해 생중계했습니다. 관제 교신 전문용어인 "Roger, roll, pitch"(지시 확인, 기체 좌우·상하 자세 조정)가 여성 비하 비속어가 섞인 자막으로 송출됐고, "There was an issue with the controller when we initiated the roll pitch"라는 문장은 "변기를 회전시켰을 때 컨트롤러에 문제가 있었다"로 오역됐습니다.  > 출처: 연합뉴스투데이, "KBS, '아르테미스 2호' 생중계 중 욕설 자막 노출… AI 번역 오류 논란" (2026.4.3) 올바른 번역은 "로켓이 회전을 시작할 때 제어기에 문제가 발생했습니다"입니다. KBS는 사고 인지 즉시 자막을 가리는 조치를 취하고 공식 사과했습니다. 이 사고는 STT(Speech-to-text) 오인식 문제만이 아니라, AI가 관제 교신·공영 방송·생중계라는 **맥락을 무시한 채 번역**한 데서도 비롯됐습니다. 이 두 사건이 예외적인 해프닝이 아니라는 걸 보여주는 연구도 있습니다. 2025년 10월 28일, 알리바바 인터내셔널 디지털 커머스와 톈진대학교 연구팀은 자체 개발한 벤치마크 'HalloMTBench'로 GPT-4o-mini, Claude-3.7-Sonnet, Gemini-2.0-Flash 등 17개 주요 LLM을 11개 영어-타언어 번역쌍에서 평가했습니다. 그 결과 모델·언어쌍에 따라 환각(hallucination) 발생률이 33~60%에 달하는 것으로 나타났습니다. 특히 추론 RL로 튜닝된 모델일수록 이런 오류가 심해졌으며 환각은 크게 두 유형으로 나뉘었습니다. (1) 지시 이탈: 지정 언어가 아닌 다른 언어로 번역하거나 번역 자체를 하지 않음(2) 원문 이탈: 원문에 없는 내용을 추가하거나 의미 없이 반복 환각 사례는 영어-포르투갈어, 영어-일본어, 영어-베트남어에서 특히 많이 발견됐고, 영어-중국어에서는 상대적으로 적었습니다. ## 원인 생성형 AI가 이런 오착을 하는 이유는 무엇일까요? 생성형 AI에게는 원문과 분리된 **의미**라는 중간 표상이 없습니다. 인간 번역가는 원문을 읽고 이해한 바를 다른 언어로 재구성하지만, 생성형 AI는 원문과 지시문을 조건으로 두고 통계적으로 가장 그럴듯한 다음 토큰을 이어 나갑니다. 대부분의 경우 이 과정이 결과적으로 정확한 번역과 일치하지만, 전문용어·관용구·모호한 대명사·문화적 맥락처럼 **그럴듯한 표현과 원문의 실제 의미가 갈라지는 지점에서 그 한계가 드러납니다**. 사실을 지어내는 것과 원문에 없는 뜻을 지어내는 것은 똑같은 확인 없이 가장 그럴듯한 것을 생성하는 메커니즘에서 나옵니다. ### 토큰화(Tokenization): 애초에 다른 단위로 쪼개서 봄 컴파일러의 렉서(lexer)가 소스 코드를 토큰 단위로 잘못 분리하면, 그 뒤의 파싱과 실행 전부가 틀어집니다. LLM도 마찬가지입니다. 텍스트를 사람이 읽는 "단어"로 처리하는 게 아니라, 사전에 학습된 서브워드(subword) 단위로 쪼갠 뒤 그 조각들의 ID 시퀀스로 바꿔서 봅니다. 문제는 이 분리 기준이 학습 데이터에서 통계적으로 자주 등장한 단위를 기준으로 정해진다는 점입니다. 한국어처럼 어미가 활발히 붙는 교착어는 같은 단어라도 문맥에 따라 전혀 다른 단위로 나뉠 수 있고, 학습 데이터에 드물게 등장한 고유명사나 신조어는 의미 단위가 아니라 낯선 파편들로 잘게 부서진 채 입력됩니다. 그 순간부터 모델은 이미 원래 단어가 아니라 그 부서진 표상을 기준으로 다음 토큰을 예측하기 시작합니다. 자기회귀 과정이 시작되기도 전에, 재료 자체가 어긋나 있는 셈입니다. ### 자기회귀(Auto-regressive): 실수가 다음 입력의 일부가 됨 일반적인 재귀 함수라면 잘못된 인자가 들어와도 그 호출 하나만 실패하고 끝납니다. 하지만 이 구조는 다릅니다. 방금 생성한 토큰은 설사 오류였더라도 바로 다음 토큰을 생성하기 위한 입력 컨텍스트의 일부가 되어버립니다. 마치 이전 스택 프레임의 오염된 반환값을 다음 프레임이 검증 없이 그대로 전제로 삼는 것과 비슷합니다. 한 번 궤도를 벗어나면 그 이후의 모든 생성이 **이미 틀린 것을 기준으로 다시 그럴듯한 다음 단어를 찾기 때문에** 문장이 끝날 때까지 오류가 자체 교정되지 않고 오히려 누적됩니다.  ### 학습 목표(loss function)가 정확도를 직접 겨냥하지 않음 모델이 최적화하는 대상은 **"다음 토큰을 얼마나 잘 맞히는가"(cross-entropy)이지 "번역이 원문과 의미적으로 일치하는가"가 아닙니다**. 컴파일 성공률만 최적화하고 테스트 커버리지는 아무도 신경 쓰지 않은 상황과 비슷합니다. 결과물은 매끄럽지만 그 매끄러움이 정확함을 보장하지는 않습니다. ### 컨텍스트 윈도우는 상태 관리가 안 되는 시스템과 유사 문장이나 문맥이 길어질수록 앞부분에서 설정된 은유나 어조가 뒷부분 생성 시점까지 온전히 반영되지 않고 희석됩니다. 매 요청마다 상태를 다시 직렬화해서 넘겨야 하는 구조의 한계입니다. 뒤로 갈수록 문장은 여전히 매끄럽게 이어지지만, 앞서 정한 맥락과는 조금씩 어긋나 있을 수 있습니다. ### RLHF(사용성 튜닝)는 린터(linter)처럼 원본 로직을 건드림 "자연스럽고 사용자가 좋아할 만한" 출력을 내도록 추가 튜닝되면서, 직역하면 어색한 문장을 매끄럽게 다듬는 과정에서 원문에만 있던 미묘한 뉘앙스가 밀려나는 경우가 있습니다. 생성형 AI는 원문과 번역문 사이의 의미 일치를 검증하는 별도 레이어 없이 다음 토큰 확률을 최적화하는 생성 파이프라인 하나로 번역까지 처리합니다. 그 과정에서 발생한 오역은 버그라기보다, 애초에 시스템이 정확성을 보장하도록 설계되지 않았는데 그걸 기대한 데서 오는 결과에 가깝습니다. 이것은 **특별한 결함이 아니라 일반적인 환각의 번역 버전인 셈입니다.** ## AI 번역의 태생적인 한계 잘못된 토큰이 선택되어도 필터링할 수 있다면 오역으로 이어지지 않습니다. 문제는 그 수단이 없다는 것입니다. ### 검증 계층(validation layer)의 부재 일반 소프트웨어는 입력이 스키마에 안 맞으면 예외를 던집니다. 하지만 생성형 AI는 원문을 잘못 이해하고 번역해도 "이 출력은 원문과 일치하지 않습니다"라며 실패로 처리하는 단계가 없습니다. KBS의 비속어 오역도, 오디세이아의 신조어 오역도, 시스템 입장에서는 전부 200 OK처럼 매끄러운 정상 응답입니다.  ### confidence score는 있지만 노출되지 않음 모델 내부에서는 토큰마다 확률(logprob)을 계산합니다. 이 확률 값에는 확신을 갖고 고른 단어와, 여러 후보 중 하나를 억지로 고른 단어의 차이가 그대로 담겨 있습니다. 하지만 이 수치는 일반적인 채팅 화면은 물론 API로도 확인할 방법이 없습니다. Anthropic의 Claude API조차 이 값을 제공하지 않기 때문입니다. 그 결과 확신이 낮았던 단어와 확신이 높았던 단어가 사용자에게는 똑같이 자신감 있는 문장으로 도달합니다. AI 번역은 태생적으로 검증 장치와 확신의 신호 없이 매끄러운 결과를 내놓습니다. 그럼에도 AI가 발전할수록 AI 번역의 활용률은 계속 늘어날 것입니다. AI 발전이 루비콘 강을 건넌 지금, 우리는 AI 번역을 슬기롭게 사용하는 방법을 익혀야 합니다. 3편, 지모(智謀)에서 이어집니다. [](https://www.nhncloud.com/kr)