[PEDIEN] 인공지능이 스스로 판단하고 행동하는 '행동하는 AI' 시대로 접어들면서 이용자 보호 방안 마련에 대한 사회적 요구가 높아지고 있다. 방송미디어통신위원회는 이러한 시대적 흐름에 발맞춰 이용자, 서비스 제공자, 규제 당국이 한자리에 모여 건전한 AI 이용 환경 조성을 위한 방안을 논의하는 '2026 인공지능서비스 이용자 보호 컨퍼런스'를 12일 서울에서 개최했다.
이번 컨퍼런스는 정보 생성·제공 차원을 넘어 스스로 목표를 설정하고 외부 개입 없이 독립적으로 전략을 수립 및 수행하는 '인공지능 에이전트' 시대에 따른 이용자 보호 방안을 선제적으로 모색하기 위해 마련됐다. 급변하는 기술 환경 속에서 이용자가 겪을 수 있는 위험에 대비하고, 사업자의 책무와 정부의 역할을 명확히 하는 데 중점을 뒀다.
컨퍼런스는 '행동하는 인공지능 에이전트 시대, 이용자 보호 청사진을 그리다'를 주제로 기조발제, 분야별 발제, 전문가 토론 순으로 진행됐다. 국가인공지능전략위원회 박태웅 공공에이엑스분과장은 기술 변화에 따른 이용자 보호 체계의 변천사와 AI 에이전트 시대에 새롭게 부상하는 이용자 위험 및 쟁점을 발표하며 논의의 장을 열었다.
이어진 발제에서는 고려대 인공지능보안연구소장 이상근 교수가 '안전한 행동 설계: 인공지능 에이전트의 위험 요소와 안전기술 동향'을 주제로 에이전트 기술의 잠재적 위험 요소와 이를 극복하기 위한 최신 기술 동향을 공유했다. 정보통신정책연구원 조성은 박사는 '행동에 책임을 더하다: 인공지능 에이전트 서비스 이용자 보호의 출발점과 정책 과제'를 발표하며 이용자 권익 보호를 위한 사업자 책무 강화와 향후 정책 과제를 제시했다.
발제 이후에는 연세대 법학전문대학원 오병철 교수를 좌장으로 전문가 토론이 이어졌다. 토론자들은 AI 에이전트 서비스 확산으로 인해 발생할 수 있는 이용자 위험에 대한 심도 깊은 논의를 진행했다. 또한 방미통위의 역할, 정부·기술·산업·이용자 간의 협력을 통한 이용자 보호 거버넌스 구축 방안에 대해 다양한 의견을 교환하며 구체적인 협력 모델을 모색했다.
김종철 방미통위원장은 “이용자 보호는 AI 산업 진흥의 필수적인 전제 조건”이라며 “오늘 컨퍼런스에서 논의된 다양한 의견을 정책에 적극 반영하여 AI 에이전트 서비스 진흥과 이용자 보호가 동반 성장하는 선순환 구조를 구축하겠다”고 밝혔다. 이어 “이용자가 안심하고 신뢰할 수 있는 환경에서 AI 서비스를 이용할 수 있도록 다각적인 노력을 기울일 것”이라며 정책적 의지를 강조했다. 이날 컨퍼런스는 방미통위 유튜브 채널을 통해 생중계되어 폭넓은 국민적 관심을 반영했다.
저작권자 © PEDIEN 무단전재 및 재배포 금지
