우리는 AI를 신뢰하고 있는가, 포기하고 있는가?

나는 현재의 AI 에이전트를 믿지 않는다

에이전트 개발을 하다 보면 문득 이런 생각이 든다.
'이게 정말 미래가 맞을까?'

요즘 우리가 에이전트를 사용하는 방식은 꽤 단순하다.

터미널을 연다.
Claude Code를 실행한다.
하고 싶은 일을 한 문장으로 명령한다.
그리고 나머지는 모델과 에이전트 프레임워크를 믿고 맡긴다.

조금 더 발전하면 여기에 MCP나 플러그인들이 추가된다.
필요한 도구를 설치하고,
에이전트는 그것들을 적절히 호출하며,
우리는 그 결과를 받아본다.

시간이 지나면 이 과정은 하나의 플로우가 되고,
잘 다듬어진 플로우는 반복 가능한 루프로 발전한다.

분명 편리하다.
하지만 사용할수록 묘한 찜찜함이 남는다.

우리는 지금 너무 많은 것을 블랙박스에 맡기고 있다.
각 서브 에이전트에는 어떤 프롬프트가 주입되는가?
왜 그 순서로 실행되었는가?
중간에는 어떤 판단을 내렸는가?
어떤 결과를 다음 단계로 넘겼는가?
실패했다면 어느 단계부터 다시 시작할 수 있는가?
이런 질문들에 대한 답은 대부분 알 수 없다.

우리는 결과만 받아보고,
그 과정은 믿으라는 말을 듣는다.

그래서 사람들은 이것을 바이브 코딩 이라고 부른다.

그런데 이상하다.
나는 바이브 코딩을 하고 있지만,
정작 바이브하지 못한다.

내가 원하는 미래는 조금 다르다.

에이전트는 제어 가능 해야 한다.
에이전트는 관측 가능 해야 한다.
에이전트는 예측 가능 해야 한다.
그리고 원한다면 특정 단계만 수정해서 다시 실행할 수 있어야 한다.

마치 Git에서 원하는 커밋으로 돌아갈 수 있듯,
Airflow에서 특정 태스크만 다시 실행할 수 있듯,
에이전트 역시 자신의 사고 과정을 하나의 워크플로우처럼 다룰 수 있어야 한다.

나는 결과보다 과정을 믿고 싶다.

무언가 권위 있는 존재이기 때문에 믿는 것과,
내가 언제든 들여다볼 수 있고,
필요하면 수정할 수 있으며,
원한다면 되돌릴 수도 있기 때문에 믿는 것은 전혀 다른 종류의 신뢰다.

후자는 맹신이 아니라 검증 가능한 신뢰다.
나는 신뢰란 그런 것이라고 생각한다.

그래서 나는 AI를 믿지 않는 것이 아니다.
나는 관측할 수 없고, 제어할 수 없으며, 되돌릴 수도 없는 시스템을 믿지 않는다.

내가 생각하는 에이전트의 미래는 모든 것을 대신 해주는 거대한 블랙박스가 아니다.

인간이 언제든 개입할 수 있고,
과정을 관찰할 수 있으며,
필요한 부분만 수정하고,
다시 실행할 수 있는 시스템.
내가 기대하는 미래는 그런 에이전트다.

그리고 지금의 에이전트는,
아직 그 미래에 도달하지 못했다고 생각한다.