2023년 가트너 전략 기술과 우리 팀 로드맵

 

작년에 이어 올해도 가트너의 전략 기술 트렌드 리포트를 팀 로드맵에 어떻게 반영할지 정리해봤습니다.
작년엔 초자동화나 AI 엔지니어링처럼 조금 추상적인 주제가 많았는데, 올해는 확실히 생성형 AI 관련 항목의 비중이 커졌더라고요.
그래서 이번엔 각 항목을 저희 팀 규모에 맞게 어떻게 쪼개서 적용했는지 위주로 적어보려 합니다.

 

디지털 이뮨 시스템 (Digital Immune System)

이 개념을 처음 들었을 때는 "결국 장애 대응 잘하자는 얘기 아닌가"라고 가볍게 생각했어요.
그런데 자세히 뜯어보니 관찰성, 자동화된 테스트, 카오스 엔지니어링까지 포함하는 좀 더 넓은 개념이었습니다.
저희 팀 규모에서 전부 도입하긴 무리였고, 그중에서 "배포 후 자동 롤백" 부분만 먼저 가져왔어요.
배포하고 15분 안에 에러율이 평소보다 두 배 이상 튀면 자동으로 이전 버전으로 되돌리는 구조를 만들었는데, 이걸 도입한 뒤로 새벽에 장애 알림 받고 급하게 롤백하던 일이 확실히 줄었습니다.

 

AI TRiSM (AI 신뢰·리스크·보안 관리)

이 항목은 작년까지는 저희에게 먼 이야기처럼 느껴졌는데, 올해는 완전히 다르게 다가왔습니다.
사내에서 LLM 기반 기능이 세 개나 운영되기 시작하면서, "이 모델이 개인정보를 학습에 활용하지 않는가", "잘못된 답변에 대한 책임 소재는 어떻게 되는가" 같은 질문이 실제로 법무팀에서 나왔어요.
저희는 이걸 계기로 AI 기능을 낼 때마다 체크해야 할 리스크 항목표를 만들었습니다.
데이터 출처, 편향 가능성, 오답 시 사용자 피해 범위, 로그 보관 기간 이렇게 네 가지를 필수 항목으로 넣었는데, 이게 있고 없고에 따라 법무 검토 시간이 눈에 띄게 줄었어요.

 

어플라이드 AI (Applied AI)

가트너가 강조한 건 "AI를 실제 업무 프로세스에 구체적으로 붙이는 것"이었습니다.
저희는 이 개념을 운영팀 업무에 먼저 적용해봤어요.
상담원이 답변을 작성할 때 참고할 만한 과거 유사 상담 이력을 자동으로 띄워주는 기능을 붙였는데, 처음엔 반응이 미미했습니다.
그런데 3개월 정도 지나면서 상담원들이 이 기능을 스스로 활용하는 방법을 찾아내기 시작했고, 평균 응대 시간이 12% 정도 줄었다는 통계가 나왔어요.
저희 팀에서는 "거대한 AI 전략"보다 이렇게 구체적인 업무 하나에 붙이는 방식이 훨씬 잘 통한다는 걸 다시 확인했습니다.

 

슈퍼앱 (Superapps)

이 트렌드는 솔직히 저희 서비스 규모에는 안 맞는다고 판단했어요.
슈퍼앱이라는 개념 자체가 대형 플랫폼을 전제로 하는 경우가 많아서, 저희처럼 특정 도메인에 집중한 서비스에는 억지로 적용할 이유가 없었습니다.
다만 "여러 기능을 하나의 진입점에서 자연스럽게 연결한다"는 아이디어 자체는 참고할 만해서, 저희 서비스 안의 흩어진 기능들을 하나의 홈 화면으로 재구성하는 작은 개편에는 이 개념을 참고했어요.

 

지속 가능한 기술 (Sustainable Technology)

이 부분은 저희 팀이 직접 다룰 영역은 아니었지만, 완전히 무시하기도 애매했습니다.
그래서 저희는 서버 인프라팀과 협업해서, AI 모델 호출량이 많은 기능의 경우 캐싱을 적극적으로 적용해 불필요한 재호출을 줄이는 작업을 같이 진행했어요.
직접적으로 "친환경"을 내세운 건 아니지만, 결과적으로 비용도 줄고 인프라 부담도 줄어드는 효과를 봤습니다.

 

플랫폼 엔지니어링 (Platform Engineering)

이 트렌드는 처음엔 "우리 같은 서비스 기획팀과는 거리가 있는 개발 조직 이야기"라고 생각했어요.
그런데 각 기능팀이 AI 관련 기능을 만들 때마다 매번 비슷한 프롬프트 관리, 로깅, 모니터링 구조를 처음부터 다시 만드는 걸 보고 생각이 바뀌었습니다.
저희는 개발팀에 "AI 기능 공용 플랫폼"이라는 내부 도구를 만들어달라고 요청했고, 프롬프트 버전 관리, 호출 로그, 비용 대시보드를 공통으로 쓸 수 있게 됐어요.
이 플랫폼이 생긴 뒤로는 새로운 AI 기능을 기획할 때 "이건 이미 있는 구조를 재사용할 수 있나"부터 확인하는 습관이 생겼고, 신규 기능 하나를 붙이는 데 걸리는 시간이 평균 2주 이상 줄었습니다.
기획자가 직접 플랫폼을 만드는 건 아니지만, 이런 공용 인프라의 필요성을 먼저 알아채고 요청하는 것도 결국 기획자의 역할이라는 걸 느꼈어요.

 

산업 클라우드 플랫폼 (Industry Cloud Platforms)

이 항목은 저희 같은 특정 도메인 서비스에는 오히려 힌트가 많았습니다.
저희 업계에 특화된 데이터 모델과 규제 요건을 이미 반영해둔 클라우드 서비스들이 하나둘 나오고 있었는데, 처음엔 "이런 것까지 벌써 나왔나" 싶어서 도입을 검토했어요.
다만 실제로 견적을 받아보니 저희 팀 규모에서 감당할 수 있는 비용이 아니었고, 계약 기간도 최소 1년 단위로 묶이는 조건이라 부담이 컸습니다.
그래서 지금 당장 도입하기보다는, 저희가 직접 쌓고 있는 도메인 데이터 구조를 이 산업 클라우드 플랫폼들의 표준에 맞춰서 정리해두는 정도로 준비만 해두기로 했어요.
나중에 팀 규모가 커지면 전환 비용을 줄일 수 있을 거라는 계산이었습니다.

 

적응형 AI (Adaptive AI)

가트너가 이 개념을 소개할 때 강조한 건 "모델이 배포 이후에도 실제 사용 데이터를 반영해 계속 스스로 조정된다"는 점이었습니다.
저희는 이걸 그대로 자동화하기엔 아직 이르다고 판단했어요.
모델이 알아서 계속 바뀌면, 언제 어떤 이유로 답변이 달라졌는지 추적하기가 너무 어려워질 거라는 우려가 컸습니다.
그래서 완전 자동화 대신, 매주 실제 사용 로그에서 실패 사례를 모아 사람이 검토하고, 검토된 내용을 바탕으로 프롬프트나 검색 대상 문서를 사람이 직접 업데이트하는 "반자동" 방식으로 절충했어요.
느리긴 하지만, 왜 바뀌었는지를 항상 설명할 수 있다는 점에서 지금 저희 팀 규모에는 이 방식이 더 안전하다고 봤습니다.
나중에 이 검토와 업데이트 과정 자체를 신뢰할 수 있는 수준으로 자동화하는 게 다음 단계 목표입니다.

 

 

매년 이 리포트를 읽을 때마다 스스로에게 묻는 두 가지 질문이 있습니다.
이 기술이 해결하는 문제가 우리 사용자에게도 실제로 존재하는가, 그리고 지금 우리 팀 역량으로 작게 시작할 방법이 있는가.
올해는 특히 AI TRiSM과 어플라이드 AI 두 가지가 이 질문에 명확하게 "그렇다"고 답할 수 있었고, 그래서 실제 로드맵에도 가장 먼저 올라갔습니다.
반면 슈퍼앱처럼 우리 서비스 맥락과 안 맞는 트렌드는 "참고만 하고 지금은 안 한다"고 정리했어요.

 

예전에는 리포트를 요약해서 슬랙에 링크만 올리는 식이었는데, 반응이 거의 없었습니다.
그래서 올해는 방식을 바꿔서, 각 트렌드 항목마다 "우리 팀에 적용한다면"이라는 가정을 담당자별로 나눠서 발표하는 짧은 세션을 만들었어요.
발표자마다 자기가 맡은 트렌드를 실제 프로젝트 후보와 연결해서 설명해야 했기 때문에, 준비 과정에서 이미 한 번 거를 건 거르고 로드맵에 올릴 만한 건 구체화되는 효과가 있었습니다.
이 세션을 하고 나서부터는 "오 신기하다"로 끝나던 예전 반응과 달리, 실제로 "이거 다음 분기에 한번 검토해보자"는 논의로 바로 이어지는 경우가 늘었어요.
트렌드 리포트를 읽는 것과 팀의 것으로 만드는 것 사이에는 이렇게 한 단계의 번역 작업이 꼭 필요하다는 걸 다시 확인했습니다.

 

이번 리포트를 정리하면서, 작년에 저희가 내렸던 판단이 실제로 맞았는지도 같이 점검해봤어요.
작년에 "참고만 하고 지금은 안 한다"고 정리했던 메타버스 관련 실험은, 예상대로 사용 데이터가 미미해서 올해 초 조용히 종료했습니다.
반면 초자동화에서 작게 시작했던 CS 자동화는 꾸준히 확대되어 지금은 팀의 핵심 프로세스 중 하나로 자리 잡았어요.
이렇게 1년 전의 판단을 다시 채점해보니, 저희가 트렌드를 볼 때 세운 두 가지 질문 기준이 그럭저럭 잘 작동했다는 걸 확인할 수 있었습니다.
다만 AI TRiSM처럼 "당장은 먼 이야기"라고 판단했다가 반년도 안 돼서 급하게 대응해야 했던 사례도 있어서, 트렌드를 판단하는 주기를 1년에 한 번이 아니라 반기에 한 번으로 늘리는 것도 고민하고 있습니다.

내년 리포트가 나오면 또 비슷한 방식으로 하나씩 뜯어볼 계획입니다.
매번 느끼는 거지만, 트렌드 리포트 자체보다 "우리 팀 언어로 다시 번역하는 과정"이 훨씬 더 중요한 작업인 것 같아요.