박지호기자 jihopress@etnews.com
AI가 질문에 답하는 수준을 넘어 스스로 계획을 세우고 도구를 활용해 행동하는 ‘에이전트’ 단계로 진입하면서 통제 문제는 한층 복잡해지고 있다. 전문가들은 이 같은 상황에서 불거진 ‘속도조절론’에 대해 기술 발전 자체를 늦추거나 멈추려는 시도에는 현실적 한계가 있는 만큼 인간이 통제할 수 있는 기술·제도적 ‘손잡이’를 서둘러 마련해야 한다는 데 무게를 실었다.
김세웅 카카오 AI 시너지 성과리더(부사장)은 “AI가 손잡이 없는 칼 같은 느낌이 되어가고 있다. 예전에는 손잡이가 없어도 무뎌서 잡고 쓸 수 있었지만, 이제는 손잡이가 없으면 나도 위험해질 수 있는 정도가 됐다”고 평가했다.
AI를 독립적 주체보다는 행위 능력이 빠르게 향상되는 도구로 봐야 한다는 데도 의견을 같이 했다. 다만 인간의 통제 체제가 AI 발전 속도를 따라가지 못하고 있다는 점은 문제로 지적됐다. 김명주 인공지능안전연구소 소장은 “개발 속도가 거버넌스 속도보다 빠르다는 게 핵심”이라며 “AI가 너무 빨리 발전해 법이나 규제, 기술적으로 우리가 통제할 수 없는 상황이 벌어질 수 있다”고 경고했다.
박정호 명지대 특임교수는 “기술 발달 속도를 늦추는 데 성공한 사례는 없다”며 “많은 거버넌스가 의기투합해 속도 조절에 들어갈 것이라고 보는 것은 순진한 생각”이라고 꼬집었다. 이어 최근 빅테크 수장의 속도조절론에는 향후 사고 발생에 대비한 사전적인 책임 회피 성격도 있다고 해석했다.
전문가들은 속도조절보다는 AI가 행동할 수 있는 범위와 권한을 명확히 하고 인간이 최종적으로 개입할 수 있는 통제 구조를 만드는 것이 현실적인 대응책이라고 강조했다. 송대섭 네이버 AI 세이프티 정책 리더는 “가치의 결정은 사회적 합의가 필요한 영역에 맡기고, AI는 인간의 감독과 이의 제기 절차 아래에 있는 도구로서 그 가치를 집행하는 데 도움을 줄 수 있다“고 말했다.
류근일 기자 ryuryu@etnews.com
