서초구, AI위원회 공식 출범···“AI 서비스 안전성·신뢰성 검토한다”[서울25]

🔗 원문 전체 보기 → Khan.co.kr

요약

전성수 서초구청장이 (앞줄 중앙) 24일 열린 서초구 인공지능위원회 위촉식 및 출범식에서 위원회 위원들과 함께 기념촬영을 하고 있다. 서초구 제공서울 서초구가 ‘서초구 인공지능(AI)위원회’를 공식출범한다고 27일 밝혔다.AI기술의 발전으로 산업현장과 다양한 업무 영역, 일상 전반에 AI 가 활용되고 있는 가운데 ‘생성형 AI’의 할루시네이션 등에 따른 부···

본문

전성수 서초구청장이 (앞줄 중앙) 24일 열린 서초구 인공지능위원회 위촉식 및 출범식에서 위원회 위원들과 함께 기념촬영을 하고 있다. 서초구 제공

서울 서초구가 ‘서초구 인공지능(AI)위원회’를 공식출범한다고 27일 밝혔다.

AI기술의 발전으로 산업현장과 다양한 업무 영역, 일상 전반에 AI 가 활용되고 있는 가운데 ‘생성형 AI’의 할루시네이션 등에 따른 부작용도 보고되는 만큼 구 차원에서 AI서비스의 안전성과 신뢰성을 높이겠다는 취지다.

할루시네이션이란 생성형 AI나 대형 언어 모델(LLM)이 사실이 아니거나 엉뚱한 정보를 마치 진실인 것처럼 그럴듯하게 생성해 내는 현상을 말한다.

구는 ‘서울특별시 서초구 인공지능 기본 조례’에 근거해 위원회를 출범하고, 공공행정은 물론 민간 분야까지 AI정책이 안정적으로 추진될 수 있는 체계를 마련한다는 계획이다.

서초구 인공지능위원회는 기술, 윤리, 교육 등 3개 분야 전문가 15명으로 구성했다. 구가 추진하는 공공행정 AI서비스의 기술적 적합성, 윤리성, 안전성, 신뢰성을 종합적으로 검토하고 자문한다. 나아가 민간분야의 AI활용에 대해서도 검토 및 자문을 확대한다.

구는 오는 8월 ‘인공지능 및 데이터 기반 행정 활성화에 관한 법률’ 시행에 맞춰 전담 추진체계 구축과 내부 기준 정비를 추진하는 등 데이터 기반 행정도 더 강화한다.

전성수 서초구청장은 “서초구 인공지능위원회를 중심으로 공공과 민간을 아우르는 책임있는 AI정책을 추진해 구민이 안심하고 신뢰할 수 있는 행정서비스를 구현해 나가겠다”고 말했다.