기계가 스스로 일을 찾아 하는 방식

1회차에서 이야기했던 ‘한 줄의 명령어로 코드를 만들어내는 순간’ 인공지능이 인간의 질문 한 번에 답 하나를 내놓는 '일문일답의 참모'였다면, 미래의 인공지능은 스스로 행동을 계획하고 연속해서 실행하는 '자율 에이전트'로 진화하고 있습니다.

화면에 "블로그 시스템을 만들고, 테스트를 돌려 버그를 고친 뒤 배포까지 끝내줘"라고 지시하면, 인공지능은 다음과 같은 과정을 스스로 반복합니다.

1. - 목표를 달성하기 위한 하위 계획을 세운다.

2. - 코드를 작성하고 직접 실행한다.

3. - 에러가 나면 메시지를 읽고 원인을 분석해 코드를 고친다.

4. - 문제가 해결될 때까지 ‘생각-실행-관찰-수정’의 고리(Loop)를 스스로 돌린다.

 일일이 지시하지 않아도 기계가 밤새 혼자서 실행과 피드백을 반복하며 일을 끝내니 언뜻 보면 완벽한 자동화처럼 보입니다.

하지만 이 자율적인 바퀴를 무작정 돌리게 두었을 때, 현장에서는 심각한 문제들이 터져 나오기 시작했습니다.

무한히 맴도는 바퀴와 자기착각의 늪

최근 글로벌 AI 학계와 현장 보고서들이 지적하는 자율 루프의 치명적 한계는 두 가지입니다.

첫째는 '무한 루프와 기억의 소진'입니다. 인공지능이 문제의 원인을 찾지 못하면 자신이 만든 오류에 갇혀 똑같은 실수를 수십 번 반복하며 기억용량(Context)을 소진합니다. 그러다 한계에 다다르면 일이 끝나지도 않았는데 스스로 대충 마무리를 짓고 조바심을 내며 대답을 끝내버립니다.

둘째는 더 위험한 '자기착각(Self-evaluation bias)'입니다. 자신이 돌린 결과물을 스스로 검수하게 하면, 심각한 오류를 발견하고도 "이 정도면 잘 완성되었다"라며 스스로에게 합격점을 주고 일을 끝내버리는 현상입니다.

바퀴(Loop)를 굴리기 전에 이를 받쳐줄 단단한 안전틀이 없다면, 기술은 효율성을 향해 달리는 것이 아니라 자신이 만든 착각의 궤도 안에 갇혀 제자리를 맹목적으로 맴돌게 되는 것입니다.

하네스(Harness) 
루프가 달릴 무대를 먼저 만드는 일

여기서 등장하는 핵심 개념이 바로 '하네스 엔지니어링(Harness Engineering)'입니다.

'하네스'는 원래 말이나 개에게 씌우는 '고삐'나 '몸줄', 혹은 안전대를 뜻합니다. 기술 현장에서의 하네스는 인공지능이 마음껏 루프를 돌며 일할 수 있도록 환경과 안전펜스, 평가 기준을 먼저 설계해 주는 기술입니다.

하네스 없이 루프만 돌리는 것은, 브레이크와 핸들이 없는 차를 서킷에 올리는 것과 같습니다. 현장의 엔지니어들이 루프를 돌리기 전에 하네스를 먼저 구축하는 이유는 분명합니다.

• 기계가 무한 루프에 빠지지 않도록 '명확한 정지 조건'을 그어주고,

• 자만하지 않도록 객관적인 '외부 테스트 도구'를 연결해 주며,

• 허용된 권한 밖의 위험한 행동을 하지 못하도록 '가이드라인'을 씌우기 위함입니다.

즉, 단단한 하네스(통제 틀)가 먼저 완성되어야만, 그 안에서 자율적인 루프(실행 바퀴)가 비로소 안전하게 굴러갈 수 있습니다. 말에게 고삐를 씌우는 목적이 말을 멈춰 세우는 것이 아니라, 마부와 말이 한뜻이 되어 원하는 목적지까지 안전하게 달리기 위함인 것과 같습니다.

차가운 기술 끝에서 발견한 인간의 온기 

코드를 짜는 기계에게 하네스(Harness)를 씌우는 일은 역설적으로 우리에게 '적절한 개입의 감각'을 되묻습니다.

과거에는 모든 것을 인간이 직접 통제해야 안심했습니다. 반대로 최근에는 기계가 알아서 다 해주기를 바라는 방관의 태도가 은연중에 퍼지고 있습니다. 하지만 하네스와 루프가 맞물려 돌아가는 기술 현장은 '완전한 통제'도 '완전한 방관'도 정답이 아님을 증명합니다.

단단한 울타리를 세워주되 기계가 그 안에서 맘껏 뛸 수 있도록 자율(Loop)을 허락하는 일. 그리고 기계가 길을 잃거나 한계에 부딪혔을 때 비로소 개입하여 끊어진 흐름을 이어주는 일. 기술 용어로는 이를 '인간 개입 루프(Human-in-the-Loop)'라고 부르지만, 삶의 언어로 바꾸면 이것은 다름 아닌 '건강한 신뢰와 책임의 관계'입니다.

기계가 스스로 바퀴를 굴리는 시대에 우리가 익혀야 할 것은 기술을 억누르는 법이 아닙니다.
언제 틀을 열어주고 언제 개입해야 하는지 그 섬세한 경계를 조율하는 감각입니다.

그 감각 속에서 우리는 비로소 기술에 끌려다니지 않고,

 일상의 고삐를 단단히 쥔 채 기계와 나란히 달릴 수 있습니다.