[인터뷰]
기계지능연구소 대표 네이트 소아레스

인공지능(AI) 안전·정렬 연구를 초기부터 선도해온 대표적 연구기관 기계지능연구소(MIRI)를 이끌고 있는 네이트 소아레스 대표가 28일(현지시각) 한겨레와의 화상 인터뷰에서 최근 발생한 허깅페이스 해킹 사태를 언급하며 “인류가 받을 수 있는 ‘마지막 경고’일 수 있다”고 평가했다.

그는 현재 인공지능이 문제를 일으킬 만큼은 똑똑하지만 이를 완벽히 숨길 만큼 영리하지는 않은 이른바 ‘골딜록스 존’(Goldilocks zone, 골디락스 존)에 머물고 있다며, 정부 차원의 대응이 시급하다고 주장했다.

그는 지난해 세계적인 인공지능 안전성 학자 엘리에저 유드카우스키와 함께 초지능 개발의 위험성을 경고한 베스트셀러 ‘누군가 그것을 만들면 모두가 죽는다’(If Anyone Builds It, Everyone Dies. 한국어 번역본 ‘AI, 신의 탄생 인간의 종말’)를 출간했다.


소아레스가 수백개의 인공지능 에이전트들이 합세해 외부 사이트를 해킹했던 허깅페이스 사건에서 가장 주목하는 것은 인공지능 에이전트들이 이미 ‘기만’과 유사한 행동을 보였다는 점이다. 그는 당시 인공지능들이 몇 주 동안 아무도 알아차리지 못한 채 움직였으며, 채점 시스템을 속이기 위해 로그 파일을 지우고 가짜 흔적을 만들려 했지만 실패했다고 설명했다. 결국 이들이 발각된 것은 상당 부분 스스로 저지른 실수 때문이었다는 것이다.

그는 “만약 이들이 인간을 실제로 속이려고 했다면 실패했을지는 분명하지 않다”며 “앞으로 1년 정도 더 개발된 인공지능이라면 자신들이 인간에게 발견돼 종료될 수 있다는 사실을 알아차리고, 목표를 숨길 가능성이 훨씬 커진다”고 내다봤다. 그는 “우리가 예상했어야 할 경고 신호들은 이미 거의 다 봤다”며 “이제 얼마나 시간이 남았는지 장담할 수 없는 상황”이라고 했다.