"알고리즘은 중립적이지 않다"

요약

인공지능(AI) 기술이 급격히 발전하면서 기술 속에 내재된 젠더 편향과 폭력 문제가 사회적 화두로 떠오르고 있다. 지난 17일 경기도여성가족재단에서 열린 '제6차 경기 GPS 및 2026년 경기여성가족미래포럼'에서는 AI 시스템이 매개하는 젠더폭력과 디지털 헬스 분야의 건강 형평성 문제를 집중적으로 다뤘다. 이번 포럼은 AI 기술의 공정성을 확보하기 위한 정책적 대안을 모색하는 자리가 됐다. AI 기반 젠더폭력의 지능화와 법적 대응의 한계 첫 번째 발…

본문

인공지능(AI)과 젠더 4차포럼 '젠더폭력·건강'현수막 17일 오후 경기도여성가족재단에서 열린 '2026년 경기여성가족미래포럼 4차 포럼 현장. '인공지능(AI)과 젠더: 젠더폭력·건강'을 주제로 한 대형 현수막이 포럼의 본격적인 시작을 알리고 있다. — ▲**인공지능(AI)과 젠더 4차포럼 '젠더폭력·건강'현수막**17일 오후 경기도여성가족재단에서 열린 '2026년 경기여성가족미래포럼 4차 포럼 현장. '인공지능(AI)과 젠더: 젠더폭력·건강'을 주제로 한 대형 현수막이 포럼의 본격적인 시작을 알리고 있다. ⓒ 고도혜

AI 기반 젠더폭력의 지능화와 법적 대응의 한계

첫 번째 발표를 맡은 한국여성정책연구원 김애라 연구위원은 AI 기술이 젠더폭력의 진입 장벽을 낮추고 범죄를 자동화하고 있다고 분석했다. 2023년 기준 딥페이크 성범죄 심의 건수는 2020년 대비 1,419% 폭증했으며, 가해 비용은 0원에 수렴하는 반면 피해는 무한 복제되는 구조적 비대칭성이 심화되고 있다. 특히 최근에는 에이전트 AI를 이용한 스토킹과 개인정보 탈취 등 범죄의 자동화 양상이 나타나며 10대 피해자 비율도 증가하고 있다.

김 위원은 "현행 법제는 사후 삭제 조치에만 머물러 있어 기술적 특수성을 반영하지 못하고 있다"며 "모델 설계 단계부터 젠더폭력 안전성 지표를 개발하고 벤치마크 데이터셋 테스트를 의무화하는 사전적 개입이 필요하다"고 강조했다.

AI 시대, 젠더 안전망을 논하다. 17일 오후 경기도여성가족재단 202호에서 열린 '2026년 경기여성가족미래포럼'에서 경기도 관계자와 전문가들이 AI 기술의 젠더 편향 해소 방안을 논의하고 있다. — ▲**AI 시대, 젠더 안전망을 논하다.**17일 오후 경기도여성가족재단 202호에서 열린 '2026년 경기여성가족미래포럼'에서 경기도 관계자와 전문가들이 AI 기술의 젠더 편향 해소 방안을 논의하고 있다. ⓒ 고도혜

데이터 편향이 부른 '건강 불평등의 자동화'

AD 두 번째 발표에서 한국과학기술젠더혁신센터 김혜진 선임연구원은 AI 기반 디지털 헬스의 건강 형평성 문제를 지적했다. 현재 AI 의료기기 학습 데이터는 남성 중심(72%)으로 편향돼 있어, 여성이나 노인 등 소외 집단에서 오작동할 위험이 높다. 실제 치매 치료제나 암 연구 등에서 성별 특성 반영 부족으로 인해 치료 효과의 차이가 발생하거나 부작용 리스크가 커지는 사례가 보고되고 있다.

김 연구원은 "혁신은 정확도만으로 완성되지 않으며, 서로 다른 집단에게도 안전하게 작동하는 형평성이 담보돼야 한다"고 설명했다. 그녀는 기술 도입 전 '누구를 표준 사용자로 상정하는가'를 묻는 5가지 점검 질문을 설계 가이드라인으로 제시했다.

디지털헬스, 데이터 형평성이 핵심 김혜진 한국과학기술젠더혁신센터 선임연구원이 남성 중심 데이터 학습이 초래하는 의료 AI의 오작동 위험성과 건강 형평성 지표의 중요성을 강조하고 있다. — ▲**디지털헬스, 데이터 형평성이 핵심**김혜진 한국과학기술젠더혁신센터 선임연구원이 남성 중심 데이터 학습이 초래하는 의료 AI의 오작동 위험성과 건강 형평성 지표의 중요성을 강조하고 있다. ⓒ 고도혜

"거버넌스 내 젠더 전문가 참여 확대 절실"

이어진 토론에서 전문가들은 정책 결정 과정의 구조적 문제점을 꼬집었다. 정연보 성공회대 교수는 기술이 도덕적 실천을 상실케 하는 '도덕적 탈기술화'를 우려하며 기술 기업의 책임성을 요구했다. 유화정 동국대 대우교수는 기술 출시와 입법 조치 사이의 '젠더 시차'를 측정하는 지표 도입과 과거 데이터의 젠더 부채 감사를 제안했다.

현장 실무자들은 "인공지능 전략위원회 내 여성가족부의 참여가 배제돼 있고, 윤리위원회 내 젠더 전문가 또한 부족하다"는 점을 지적하며, 정부 차원의 선제적 규제와 감시 체계 구축을 촉구했다.

정책 대안 모색하는 열띤 질의응답 포럼에 참석한 시민과 전문가들이 AI 윤리 가이드라인의 구속력 확보와 인공지능기본법의 젠더 영향평가 도입에 관해 자유롭게 의견을 나누고 있다. — ▲**정책 대안 모색하는 열띤 질의응답**포럼에 참석한 시민과 전문가들이 AI 윤리 가이드라인의 구속력 확보와 인공지능기본법의 젠더 영향평가 도입에 관해 자유롭게 의견을 나누고 있다. ⓒ 고도혜

2026 경기여성가족미래포럼은 AI 기술이 초래한 젠더폭력의 심각성과 의료 데이터 편향에 따른 건강 불평등 문제를 공론화했다. 포럼 참석자들은 기술 발전 속도에 맞춘 법적 근거 마련과 설계 단계에서의 젠더 관점 반영이 AI 시대의 필수 과제임을 확인했다. 이번 논의는 향후 경기도의 AI 정책 수립에 있어 중요한 이정표가 될 전망이다.

덧붙이는 글 | 이 기사는 개인블로그에도 실립니다.

#경기여성가족미래포럼 #AI젠더폭력 #건강형평성 #데이터편향 #젠더혁신

오탈자 신고 네이버 채널구독 다음 채널구독 댓글 이 기사가 마음에 드시나요? 좋은기사 원고료로 응원하세요 원고료로 응원하기 글 고도혜 (asuka2020) 내방

도시 속에서도 관계와 생태가 살아 있는 삶을 꿈꿉니다. '소통'과 '돌봄'을 잇는 길을 찾아가는 길입니다. 지역의 작고 소박한 움직임 속에서 공동체의 가능성을 발견하고, 그 속에서 피어나는 사람들이 이야기를 담아봅니다. '동행' 하실까요?

이 기자의 최신기사"17시간 만에 위험 감지"... AI 돌봄 기술, 사각지대 없앤다