[PEDIEN] 경기도의회 유호준 의원이 경기도의 행정 AX 과정에서 발생할 수 있는 차별 및 혐오 기반 데이터 학습 문제를 정면으로 제기하며, 이에 대한 철저한 필터링 대책 마련을 강력히 주문했다. 유 의원은 11월 9일 열린 제395회 정례회 미래과학협력위원회 첫 행정사무감사에서 AI국을 상대로 이같이 지적하며, 도정 홍보물 모니터링 프로그램 구축과 공공기관 개인정보 관리 체계 고도화 필요성도 강조했다.
‘다섯 번째 행정사무감사이자 미래과학협력위원회 첫 감사’라 밝힌 유 의원은 감사에 임하는 각오를 다졌다. 그는 성별, 종교, 장애, 나이, 사회적 신분, 출신 지역·국가·민족, 용모 등 신체 조건, 임신·출산, 가족 형태, 인종, 피부색, 사상·정치적 의견, 범죄경력, 성적지향, 학력, 병력 등 어떤 차이도 존중받는 도정 역할을 점검하겠다고 밝혔다.
특히 유 의원은 지난 9월 3일 경기여성가족재단에서 열린 ‘젠더 관점에서 본 경기도 AI 정책’ 세미나를 언급하며 행정 AX 전환 과정의 숨겨진 데이터 편향성과 차별 재생산 문제를 집중적으로 파고들었다. 그는 “AI가 학습하거나 답변을 생성할 때 활용하는 인터넷 정보에는 특정 집단에 대한 차별이나 혐오 인식이 담겨 있을 수 있다”며, “이를 충분히 검토하지 않으면 기존 사회적 편견이 행정 서비스에 그대로 투영되거나 확대될 우려가 크다”고 지적했다.
경기도 관계자는 국정원 가이드라인에 따라 필터링을 진행하고 있다고 답변했으나, 유 의원은 이에 만족하지 않았다. 그는 국정원 의존도를 넘어 경기도만의 명확한 윤리 기준과 꼼꼼한 필터링 체계를 구축하여, AI 학습 및 답변 생성 단계에서 혐오·차별적 자료가 철저히 배제되도록 해야 한다고 강조했다. 이는 AI 필터링 기술이 도정 전반의 성평등 및 인권 감수성 제고로 이어져야 한다는 점을 분명히 하는 대목이었다.
유 의원은 작년 세계여성의날 경기도 여성정책 사업 홍보물에서 ‘남편이 웃는 여성정책’ 등 성차별적 문구를 사용했다가 반발로 삭제 및 사과했던 사례를 거론했다. 그는 당시 약속했던 성평등 관점의 심의 프로토콜 마련에 있어, 다양한 차별·혐오를 배제하고 평등 관점에서 철저히 준비해야 한다고 꼬집었다.
외부 데이터 필터링과 더불어, AX 행정의 또 다른 핵심 축인 ‘도민 개인정보 및 공공데이터 보안 관리 체계’의 근본적인 개선도 요구했다. 현재 경기도 내 41개 시스템에서 약 345만 건에 달하는 경기도 평생학습포털 정보를 포함해 기관별 수만 건 이상의 민감한 개인정보가 관리되고 있다.
유 의원은 “수백만 건의 개인정보가 축적돼 있음에도, 일선 공공기관은 한 달에 한 번 화면 캡처 보고서 제출 등 형식적인 보안 점검에 그치는 경우가 많다”며, 개인정보 유출 책임을 실무자 개인에게만 돌리지 말고 AI국이 전문성을 발휘해 경기도 및 산하 공공기관의 개인정보 관리 체계를 고도화하고, 보안 점검 프로그램의 질을 높이는 전문 지원 프로그램을 마련해야 한다고 당부했다.
마지막으로 유 의원은 신설된 AI국이 타 실·국으로부터 전문성과 존재 가치를 인정받기 위해, 소관 업무를 넘어 타 부서의 AI 관련 조례 제·개정 및 사업 추진 시에도 적극적으로 사전 검토와 의견 조회를 거치는 총괄 거버넌스 확립을 주문했다. 그는 차별과 혐오 없는 안전한 AI 행정 구현과 철저한 개인정보 보호를 위해 AI국이 주도적인 역할을 해달라고 촉구하며 질의를 마쳤다.
저작권자 © PEDIEN 무단전재 및 재배포 금지
