AI 에이전트 시대, PM의 역할은 어떻게 바뀌나

챗봇에서 시작한 대화형 AI가 이제 "에이전트"로 진화하고 있습니다.
단순히 질문에 답하는 걸 넘어, 스스로 계획을 세우고 여러 도구를 사용해 작업을 처리하는 형태예요.
이 변화를 지켜보면서 PM으로서 제 역할도 다시 정의해야겠다는 생각이 듭니다.

 

기존에는 "이 버튼을 누르면 이 화면이 뜬다"는 식으로 기능 단위 명세를 썼습니다.
에이전트 기반 서비스에서는 "사용자가 이 목표를 달성하려면 에이전트가 어떤 도구에 접근할 수 있어야 하는가"를 정의하는 쪽으로 바뀌어요.
명세의 단위가 화면이 아니라 목표와 권한이 되는 셈입니다.
처음 이런 식으로 문서를 써보려고 했을 때 꽤 낯설었어요.
"화면 A에서 버튼 클릭하면 화면 B로 이동"이라고 쓰던 습관이 몸에 배어 있어서, "에이전트가 이 목표를 달성하기 위해 어떤 도구를 순서대로 쓸 수 있는가"를 적는 게 처음엔 되게 어색하더라고요.

 

에이전트가 자율적으로 여러 단계를 수행하는 만큼, 중간에 잘못된 판단을 했을 때 어떻게 되돌리거나 사용자에게 확인을 받을지가 훨씬 중요해집니다.
"되돌릴 수 없는 작업"과 "되돌릴 수 있는 작업"을 구분하고, 전자는 반드시 사용자 확인을 거치게 하는 설계가 기본이 되어야 해요.
예를 들어 에이전트가 이메일 초안을 작성하는 건 되돌릴 수 있는 작업이지만, 실제로 발송 버튼을 누르는 건 되돌릴 수 없는 작업입니다.
이 둘을 같은 수준으로 취급하면 사고가 나기 쉬워요.

 

정해진 입력에 정해진 출력이 나오던 기존 기능과 달리, 에이전트는 같은 입력에도 다른 경로로 목표를 달성할 수 있습니다.
"정답 하나"를 확인하는 QA 대신, 다양한 시나리오에서 얼마나 안정적으로 목표를 달성하는지를 지속적으로 평가하는 체계가 필요해요.
저희도 요즘 QA팀과 함께 "성공 기준"을 다시 정의하는 작업을 하고 있는데, 생각보다 쉽지 않습니다.
"이 정도면 성공"이라는 기준 자체를 여러 시나리오에 걸쳐 새로 합의해야 하거든요.

 

반복적인 실행은 에이전트가 맡게 되지만, "무엇을 목표로 설정할 것인가", "어디까지 자율성을 줄 것인가", "실패했을 때 책임은 어떻게 지울 것인가"를 판단하는 일은 여전히, 그리고 더 중요하게 사람의 몫입니다.
저는 이 부분이 개인적으로 제일 흥미로운 지점이라고 생각해요.
과거엔 PM이 "무엇을 만들 것인가"를 결정하는 사람이었다면, 이제는 "무엇을 얼마나 자율적으로 맡길 것인가"를 결정하는 사람이 되어가고 있으니까요.

 

솔직히 저도 아직 답을 다 찾은 건 아니에요.
다만 제가 요즘 개인적으로 챙기고 있는 세 가지는 있습니다.

첫째, AI 에이전트가 다루는 도구와 권한 목록을 항상 최신 상태로 문서화해두는 것.
둘째, 에이전트가 실패했을 때의 로그를 사람이 읽기 쉬운 형태로 남기도록 요구하는 것.
셋째, 자율성의 범위를 점진적으로 넓혀가면서, 매 단계마다 실제 사용자 피드백을 확인하는 것입니다.

 

AI 에이전트가 PM을 대체하는 게 아니라, PM이 정의해야 하는 문제의 층위가 한 단계 올라가고 있다고 느낍니다.
기능을 설계하던 사람에서, 자율적으로 움직이는 시스템의 목표와 경계를 설계하는 사람으로요.

이 변화가 앞으로 몇 년 동안 얼마나 더 빠르게 진행될지 궁금하기도 하고, 한편으로는 계속 배워야 할 게 많아서 부담스럽기도 합니다.

그래도 이 흐름을 직접 겪으면서 기록해두는 게, 나중에 돌아봤을 때 의미가 있을 거라고 생각해서 이렇게 정리해봤어요.