에이전틱 AI 활용 사례: 데이터를 성과로 전환

Tom Soderstrom:
경영진 인사이트 팟캐스트에 오신 것을 환영합니다. 이 팟캐스트에서는 전 세계 고객 경험에서 얻은 인사이트에 대해 이야기를 나누고 있습니다. 저는 엔터프라이즈 전략가인 Tom Soderstrom입니다. 그리고 오늘 함께 이야기를 나눌 분은...

Miriam McLemore:
저는 Miriam McLemore이고요, 역시 엔터프라이즈 전략가입니다.

Tom Soderstrom:
우리는 각자의 회사나 기관에서 혁신을 이끌어온 그룹의 일원으로 일해왔습니다. Miriam은 매우 인상적으로...

Miriam McLemore:
Coca-Cola에서 근무했습니다.

Tom Soderstrom:
... 저는 NASA의 Jet Propulsion Laboratory에서 근무했습니다.

Miriam McLemore:
그냥 NASA였죠. 대단한 것이 아니라.

Tom Soderstrom:
그냥 클라우드 관련 일이었죠. 이 팟캐스트를 시청하고 계신다면, 특히 비즈니스 리더 또는 IT 부서의 일원으로서 이 모든 데이터가 어떻게 될지 걱정하고 계시거나, 조직에서 어떻게 성장하고 가장 중요한 문제인 데이터를 파악하고, 이를 어떻게 활용할 수 있을지 고민하고 계신다면 이 팟캐스트가 도움이 될 것이라고 생각합니다. Gartner 연구에 따르면 대부분의 사람들은 데이터 활용 인사이트에 만족하지 못하고 있습니다.

Tom Soderstrom:
그래서 경영진에게 “데이터를 어떻게 보십니까?”라고 물으면 다양한 답변이 나옵니다. 데이터가 조직의 핵심 자원이라는 건 잘 알고 있지만, 막상 다루기엔 부담스럽다고 합니다. 어떻게 해야 할지 모르겠어요. 얼마나 지출해야 할까요? 얼마를 지출할 수 있나요? 어떻게 해야 할까요?” 또는 “저희는 이 모든 데이터를 가지고 있는데, 아는 데이터도 있고 모르는 데이터도 있습니다. 수익화할 수 있을까요?” 또는 “제 데이터의 품질이 충분히 좋은가요? 완벽해질 때까지 기다려야 할까요?” 또는 “데이터는 얼마나 증가하고 있나요?” 얼마나 증가하고 있는지는 다시 말씀드리겠습니다. 그야말로 천문학적입니다. 고객들이 어떤 이야기를 하고 있나요?

Miriam McLemore:
제가 고객에게서 본 문제는 지금까지는 정형 데이터에 의존해 왔다는 것입니다. 우리의 테이블에 들어맞고, 그건 계산이 가능했죠. 그건 정확하게 대시보드에 반영할 수 있었죠. 하지만 지금은 고객이 접근하려는 비정형 데이터의 세계가 점점 커지고 있습니다. 에이전틱 환경에서는 비정형 데이터를 활용해 정형 데이터와 통합할 수 있습니다. 이는 비즈니스 리더에게 새로운 지표가 됩니다. 조직, 활동 영역, 추진할 수 있는 기회 및 성과를 평가하는 다른 방식인 것이죠. 제가 고객으로부터 받는 질문들은 이렇습니다. “어디서부터 시작해야 할까요? 정말 막막합니다. 저희는 정형 데이터가 많이 있습니다. 비정형 데이터도 산더미예요. 어디서부터 시작해야 할까요?”

Tom Soderstrom:
네, 무력해질 겁니다.

Miriam McLemore:
맞습니다.

Tom Soderstrom:
실제 데이터 몇 개를 가져와 봤습니다.

Miriam McLemore:
네.

Tom Soderstrom:
AWS의 데이터 총괄인 Mai-Lan Tomsen Bukovec과 팟캐스트과 함께 팟캐스트를 진행한 적이 있습니다.

Miriam McLemore:
그러셨군요.

Tom Soderstrom:
그녀는 주요 데이터 소스인 S3에 대한 몇 가지 흥미로운 통계를 알려주었습니다. S3에는 백만 개의 데이터 레이크가 구축되어 있고, 1조 개의 객체가 저장돼 있습니다. 용량은 수십 엑사바이트에 달하죠. 초당 평균 1억 5천만 건의 요청을 처리합니다. 1페타바이트 이상을 저장하는 고객이 수천 명, 엑사바이트 이상을 저장하는 고객도 여럿 있습니다. 비즈니스 리더에게는 무척 흥미로운 일입니다. “저희가 보유한 모든 데이터를 보세요.” IT 담당자에게 이건 끔찍한 일입니다. “어떻게 관리해야 하나요?” 제가 생각하기에 데이터의 증가는, 아까 잘 말씀해 주셨는데, 어디서부터 시작해야 할까요? 일단 시작하세요. 데이터의 10%만 정형이고, 나머지는 모두 비정형입니다. 에이전틱 AI와 생성형 AI에서는 이를 활용할 수 있습니다. 이것이 앞으로의 성과와 실패에 대해 이야기할 내용이라고 생각합니다.

Miriam McLemore:
흥미롭네요, Tom. 금융, 보험, 의료 분야는 데이터를 항상 정제해야 하기 때문에 더 빠르게 대응하고 있습니다. 그들은 데이터의 정확성과 무결성에 많은 시간을 투자하고 있습니다. 다른 조직은 데이터 사일로와 불일치가 많아, 새로운 기술을 활용하려면 데이터 정제와 거버넌스 체계를 먼저 구축해야 합니다.

Tom Soderstrom:
네. 제가 듣고 있는 것과 마찬가지군요. 우리는 전 세계의 대규모 고객과 규제를 받는 다양한 고객을 지원합니다. 많은 이들이 이를 제약으로 보지만, 실제로는 그렇지 않습니다. 데이터를 어떻게 처리해야 하는지 이미 알고 있기 때문에 오히려 유리하죠. 제가 몸담았던 공공 부문도 확실히 그렇습니다. 우리가 할 일은 데이터를 잘못 처리한 일부 고객에 대해 이야기하고, 데이터를 올바로 처리하여 그로부터 교훈을 얻을 수 있는 일부 고객에 대해 이야기하는 것이 아닐까 생각합니다. 그러면 실제 고객 사례를 몇 가지 살펴보겠습니다.

Miriam McLemore:
네.

Tom Soderstrom:
그러시겠어요?

Miriam McLemore:
물론이죠.

Tom Soderstrom:
좋습니다. 실패하면 너무 많은 마찰을 초래합니다. 이런 경우를 자주 봅니다. 데이터를 보유한 사람은 그 데이터를 공유하려 하지 않습니다.

Miriam McLemore:
네.

Tom Soderstrom:
제 데이터를 원하면 양식을 작성해야 합니다. 사실 두세 개는 작성해야 하죠. 우리는 모든 사람이 데이터를 사용하기를 원하는데, 그렇다면 답은 무엇일까요? 발상을 전환하는 겁니다.

Miriam McLemore:
예.

Tom Soderstrom:
데이터를 보호해야 하는 경우 양식을 작성합니다. 이것은 쉽게 할 수 있는 일이죠. 예를 들어, 한 대형 항공우주국에서는 구내식당 식단표를 지키는 데 우주선 업링크 명령을 보호에 쓴 비용을 지출했다고 합니다. 하지만 직접 들여다보기 전까지는 알 수 없는 노릇이죠.

Miriam McLemore:
놀라운 일입니다. 왜냐하면 우리는 데이터가 권력인 세상에 살았기 때문입니다. 데이터를 소유하면 데이터를 통제할 수 있습니다. 제가 협업하던 부서도 그랬습니다. 재무 데이터는 재무 부서만 볼 수 있었습니다. 연구 부서도 마찬가지였습니다. 연구 부서 직원만 그 데이터를 볼 수 있었죠. 조직 내에서 데이터를 공유하는 것이 안전하지 않다는 문화가 자리잡으면서 이러한 사일로는 지속되었습니다. ‘발상을 전환해 데이터의 가치를 조직의 자산으로 본다’는 이 개념이 정말 좋습니다. 특정 부서의 자산이 아니라는 거죠.

Tom Soderstrom:
맞습니다. 우리는 조직 차원의 데이터 메시를 구축하는 것에 대해 논의한 적이 있습니다. 핵심은 인센티브였죠. 데이터를 적극적으로 활용하려는 사람들을 중심에 두는 겁니다.

Miriam McLemore:
네.

Tom Soderstrom:
데이터를 생산하는 주체도 사람들이 그 데이터를 사용하길 원합니다. 그런데 왜 안 될까요? 가운데에서 실행을 이끌고, 인센티브 구조를 마련할 사람이 필요합니다. 마찰을 제거하는 것이죠.

Miriam McLemore:
때로는 데이터 거버넌스 자체가 마찰이 될 수 있습니다.

Tom Soderstrom:
예.

Miriam McLemore:
저도 그 의견에 동의합니다. 그래서 올바른 방식으로 해야 합니다. 데이터 생산자와 소비자가 있지만, 그 사이에는 데이터를 관리·통제할 수 있는 역량과 보안, 접근 권한, 관리 통제 기능이 필요합니다. 이 모든 것이 절대적으로 중요합니다. 아무나 자유롭게 데이터를 써도 된다는 뜻은 아닙니다.

Tom Soderstrom:
맞습니다.

Miriam McLemore:
성과를 이끌어 내려면 인사이트를 한데 모아야 한다는 뜻입니다. 흥미롭네요. 최근 Formula 1 행사에 참석할 좋은 기회가 있었습니다.

그들은 팀, 드라이버, 그리고 F1 전체 조직 차원에서 데이터를 기반으로 움직이는 놀라운 사례라고 할 수 있습니다. 그들에 대해 감탄했던 점은 많은 조직이 본받을 만한 원칙을 가지고 있다는 겁니다. 차량의 센서나 화면에 데이터 인사이트를 추가하는 것보다, 밀리초 단위로 결정을 내려야 하기 때문에 신속함이 무엇보다 중요하다는 거죠. 그들은 중요한 인사이트, 실제로 비즈니스 성과를 창출하는 요소에만 철저하게 집중합니다. 물론 Formula 1에서는 속도가 중요하기 때문이죠.

Tom Soderstrom:
그렇죠. 사실, 올해 제가 이야기를 나눈 모든 경영진도 그렇고, 여러분도 마찬가지일 텐데 최우선 순위는 속도입니다.

Miriam McLemore:
당연히 그렇겠죠.

Tom Soderstrom:
시장 출시, 수익화, 규정 준수, 역량 확보 등 모든 면에서 속도가 핵심입니다. 그리고 데이터는 이 모든 속도를 높이는 데 유용합니다. 정말 흥미진진한 시기죠. 제가 보기에 기업이 잘못하는 또 다른 점은 완벽을 추구한다는 것입니다. Formula 1의 경우처럼, 이론만 정립하고 테스트한 적이 없다면 알 수 없을 것입니다. 하나의 비즈니스 사용 사례부터 시작하여 시도하고 또 시도하면서 반복해야 합니다. 첫 번째 버전이 가장 형편없고 가장 비용이 많이 들 것으로 각오하고, 그다음부터 점점 나아가면 됩니다. 데이터는 실제로 이 모든 것을 가능하게 합니다. 잠시 후에 에이전틱에 대해 이야기하겠지만요.

Miriam McLemore:
맞아요. 하지만 이런 실험 문화에서 잊지 말아야 할 중요한 점이 있습니다. 데이터를 통합할 수록, 조직 내에서도 배우고 개선하는 문화가 필요하죠. 그게 바로 에이전틱의 역할이죠. 이러한 에이전트는 자체 개선이 가능한 에이전트입니다. 그들은 어떤 경로를 거쳤는지 파악하고 더 나은 경로가 있는지 학습하기 시작합니다. 조직 내부에도 그런 문화가 있어야 합니다.

Tom Soderstrom:
예. 인센티브 이야기로 돌아가서, 목표에서 거꾸로 접근한다면 어떨까요? 우리가 원하는 최종 결과는 무엇일까요? 어떻게 하면 그 결과에 도달할 수 있으며, 데이터가 어떻게 도움이 될 수 있을까요? Lonely Planet은 페타바이트 규모의 데이터를 체계적으로 정리했습니다. 이 회사는 생성형 AI를 활용해 가상 여행 에이전트를 만들어 냈습니다.

Miriam McLemore:
예.

Tom Soderstrom:
핀란드 회사인 Kone Elevators는 수십만 대의 엘리베이터를 보유하고 있습니다. 수리 담당자가 현장에 나가면 필요한 모든 정보를 즉시 확인할 수 있습니다. 이 사례들을 보면, 결국 모든 것이 데이터라는 점을 알 수 있습니다. 코드는 데이터입니다. Amazon은 Java 전반을 업그레이드했습니다. 듣기만 해도 지루합니다. 비용도 많이 들죠. 생성형 AI 및 에이전트를 사용하여 CODIS 데이터를 처리함으로써 3,500일의 업무 일수와 2억 5천만 달러를 절약했습니다. 놀라운 신세계입니다. 가장 좋아하는 에이전트의 예는 무엇인가요?

Miriam McLemore:
글쎄요, 방금 말씀하신 Lonely Planet이 마음에 드네요. 아무래도 제가 여행을 많이 다녀서 그렇겠죠? 이 회사는 여행자의 필요를 명확히 파악한 거예요. 여행자가 여행사에 필요한 것이 무엇인지 말이죠. 여행자가 원하는 도움이 무엇일까요? 어디에서 묵지? 뭘 먹지? 어떻게 내 여행을 더 편하게 만들 수 있을까? 이 나라에 우버 같은 서비스는 뭐지? 여행을 더 쉽게 할 수 있도록 데이터로 도와주는 거죠. 이것이 제가 Lonely Planet 사례에서 가장 좋아하는 점 중 하나입니다.

Tom Soderstrom:
제가 정말 좋아하는 또 다른 예는 NASA 데이터가 현재 AWS Data Exchange에 있는 것입니다. 이제 모든 사람이 이 데이터에 접근할 수 있기 때문에 호주의 홍수, 아프리카의 가뭄을 예측할 수 있습니다. 시드니 대학교의 한 교수가 자신의 유전체학 데이터를 전부 Open Data Exchange에 저장했고, 스웨덴의 한 연구원이 코알라를 구할 방법을 찾아냈습니다. 이건 글로벌한...

Miriam McLemore:
좋네요.

Tom Soderstrom:
... 도움이죠. 지금 이러한 문제를 관리할 미래의 리더들에게 조언을 해주고 싶다면 뭐라고 말해주시겠어요?

Miriam McLemore:
네. 저는 글로벌 기업에서 데이터 총괄 역할을 맡았는데, 그때는 주로 보고를 위해 데이터를 통합했습니다. 재무 관점에서 보면 일관된 보고가 필요했기 때문입니다. 그럴만한 이유가 있긴 했지만 비즈니스를 주도하지는 못했습니다. 오늘 제가 새로운 리더들에게 말하고 싶은 부분은 내가 먼저 무엇을 이루려는 건지부터 정하라는 것입니다. 추진하려는 비즈니스 요구 사항이 무엇인지 알아야 합니다. 아까 F1 얘기를 했는데, 피트 스톱 시간이 1950년대엔 67초였죠. 이제 1.8초 만에 피트 스톱을 완료할 수 있습니다.

Tom Soderstrom:
놀랍군요.

Miriam McLemore:
무엇이든 가능하지만, 핵심은 중요하지 않은 건 모두 배제하고 정말 중요한 것만 밀리초 단위로 조정하는 데 있습니다. 그러면 비즈니스에서는 어떻게 이를 실현할 수 있을까요? 리더들이 비즈니스 성과를 촉진하고 지속적으로 개선하도록 영감을 주는 것입니다. 정말 흥미로운 시대라고 생각합니다.

Tom Soderstrom:
리더로서 일한다는 건 그렇죠.

Miriam McLemore:
맞습니다.

Tom Soderstrom:
중요한 것에 집중하라는 말씀에 정말 동의합니다. 데이터에도 똑같이 적용되죠. 걱정하지 마세요. 성과를 내는 데 쓸 수 있는 데이터만 활용하면 됩니다. 거꾸로 접근해서 거기에 집중하면 나머지는 자연스럽게 따라올 거예요. 미래의 리더들은 항상 성과를 보여야 합니다. 이는 실험과 반복의 문화에서 비롯됩니다. 데이터를 통제한다고 생각하는 사람이라면, 비즈니스 성과를 보여주기 위해 데이터를 활용해 새로운 생성형 AI 결과, 즉 에이전틱 성과를 만들어내야 한다고 말하고 싶습니다.

Miriam McLemore:
예. 리더십에 대한 말씀처럼, 우리는 최고경영진부터 참여를 이끌고, 현장 직원들도 함께 역량을 키워 결국 중간에서 하나의 통합된 팀으로 만나야 합니다.

Tom Soderstrom:
감사합니다. 오늘도 많이 배웠습니다. 감사합니다.

Miriam McLemore:
Tom과의 대화는 언제나 즐겁네요.

Tom Soderstrom:
감사합니다.

지금 듣기

지금 듣기

지금 듣기