“AI가 AI를 만드는 시대 임박”…전 세계 개발 제한론 급부상
AI 시스템이 지나치게 빠른 속도로 발전하면서 머지않아 인간의 개입 없이 스스로를 개선하는 단계에 도달할 수 있다는 우려에서다.
앤트로픽은 4일(현지시간) 자사 블로그를 통해 공개한 보고서에서 최첨단 AI 모델의 발전 속도를 보여주는 내부 데이터를 제시하며 “전 세계가 AI 개발 속도를 늦출 수 있는 능력을 갖추는 것은 매우 바람직한 일”이라고 밝혔다.
이번 보고서는 앤트로픽 공동창업자 잭 클라크와 연구 책임자 마리나 파바로가 공동 작성했다.
이들은 AI 기술이 인간의 개입 없이 스스로를 개선하는 ‘재귀적 자기 개선’ 단계로 향하고 있는 것으로 보인다고 진단했다. 일부 전문가들은 이 단계가 도래할 경우 사회 전반에 큰 혼란과 위험을 초래할 수 있다고 우려하고 있다.
보고서는 “사회 제도와 AI 정렬 연구가 기술 발전 속도를 따라갈 수 있도록 최첨단 AI 개발을 늦추거나 일시 중단할 수 있는 선택권을 세계가 보유하는 것이 바람직하다”고 강조했다.
또한 AI 개발 속도를 조절하기 위한 국제적 합의와 함께 각 기업이 이를 준수하는지 검증할 수 있는 체계 마련도 제안했다.
다만 앤트로픽은 아직 재귀적 자기 개선이 현실화된 것은 아니며 필연적인 현상도 아니라고 설명했다. 그러나 “대부분 기관이 예상하는 것보다 훨씬 빠르게 도래할 수 있다”고 경고했다.
클라크 공동창업자는 “이 같은 기술은 인류 역사상 전례가 없는 것”이라며 “향후 2년 안에, 어쩌면 그보다 더 빨리 현실이 될 수 있다”고 말했다.
앤트로픽은 앞으로 정책 입안자와 연구기관, 산업계 관계자들과 재귀적 자기 개선 및 검증 체계 구축에 대한 논의를 이어갈 계획이라고 밝혔다.
김명선기자 kms@etnews.com
