생성형 AI 현황

Tom Godden(00:10):
생성형 AI의 의미를 어떻게 보시는지 말씀해 주시겠어요? 어떤 비즈니스 가치가 있나요? 생성형 AI에서 무엇을 기대할 수 있을까요?

Aamer Baig:
생성형 AI는 차세대 기술이라고 부를 만한 잠재력이 있습니다. 생성형 AI를 활용하여 비즈니스와 업무 기능을 새롭게 정의할 수 있습니다. 생성형 AI는 수년에 걸친 AI 개발의 진화라고 생각합니다. 다음 단계는 AI 분야에서 실제로 콘텐츠를 생성하고, 콘텐츠를 합성하고, 그 밖의 많은 강력한 일을 하는 것입니다. 기업의 가치는 기본적으로 생산성에 있지만 창의성에도 있습니다. McKinsey에서는 여러 업무 기능에 걸친 63개의 사용 사례를 살펴보았습니다. 가치가 궁금하다면 이 숫자를 생각해 보세요. 생성형 AI의 경제적 파급 효과는 약 2조 6,000억 USD에서 4조 4,000억 USD입니다. 63개 중 약 75%가 영업 및 마케팅, R&D, 소프트웨어 엔지니어링, 고객 운영이라는 네 가지 업무 기능의 사용 사례다. 이 4가지 업무 기능에서 가장 근본적인 변화가 생길 것으로 봅니다.

Tom Godden:
그 이유는 무엇인가요? 왜 이 4가지 영역인가요?

Aamer Baig:
이러한 업무 기능에서 신기술을 사용해 실제로 새롭게 정의하거나 혁신할 수 있는 일과 활동이 무엇인지 생각해 보세요.

Tom Godden(3:10):
그 부분에 대해서 잠깐 이야기해도 될까요? 새로운 기술을 서둘러 도입하는 조직에서 흔히 볼 수 있는 현상은 그저 과거와 동일한 일을 하는 데 신기술을 사용한다는 것입니다. 새로운 기술은 프로세스를 완전히 새롭게 정의하는 데 사용해야 그 가치를 발견할 수 있습니다.

Aamer Baig:
몇 가지 예가 있습니다. 고객 서비스 담당자는 모든 상담 전화를 받습니다. 많은 정보를 처리하고 실시간으로 대응해야 합니다. 그런데 가능한 답변에 대해 제안을 받고 여기에 자신의 판단을 적용하여 고객을 도울 수 있다면 얼마나 좋을까요? R&D 분야에서는 항상 새로운 설계, 새로운 제형, 새로운 청사진을 시간에 걸쳐 학습했습니다. 여기에 새로운 조합들을 지원할 수 있는 기술이 있다면 얼마나 좋을까요?

Tom Godden(4:47):
이 기술은 사람들의 창의성과 효율성을 새로운 차원으로 끌어올리는 데 도움이 될 것입니다. 무척 긍정적인 변화이겠지만 사람들은 여전히 염려합니다. 조직에서는 사람들이 이 기술에 익숙해지도록 어떤 지원을 제공하고 있나요?

Aamer Baig:
도움이 될 수 있는 세 가지 중요한 전략이 있습니다. 첫 번째는 이 기회의 잠재력을 보는 자세와 기준입니다. 인간의 도움을 받는 기술, 인간이 힘을 실어주는 기술이라고 생각한다면 보는 눈이 열립니다. 열린 정신과 마음으로 이 기술을 볼 수 있죠. 이것이 첫 번째 전략입니다. 두 번째는 적절한 사람들에게 이 기술을 다루는 능력을 가르쳐 그 규모를 확장하는 데 중점을 두는 것입니다.

Tom Godden:
직원 교육이 중요하다는 말씀이시군요.

Aamer Baig:
맞습니다. 세 번째는 편안하면서도 사람을 보호하는 일련의 정책을 도입하는 것입니다. 사람들이 정보를 안전하게 사용할 수 있어야 하니까요. 특히 고객 대상 애플리케이션인 경우 유해성과 같은 사항을 확인해야 합니다. 이 기술이 여전히 저지르곤 하는 실수를 막아줄 적절한 가드레일을 세워야 하죠. 이 세 가지 전략의 효과가 함께 나타나면 기술에 대한 신뢰가 높아질 것입니다.

Tom Godden(7:55):
조직들은 어떻게 접근하고 있나요? 올바른 개념 증명이나 아이디어를 찾아 이 기술이 중요한 기술이 될 것이고 확장해도 되겠다는 확신을 얻으려면 어떻게 해야 하나요? 이 기술이 멋진 일들을 하긴 하지만 반드시 비즈니스 가치로 연결되는 것은 아니니까요. 우리는 비즈니스 가치가 있는 일을 해야 해요.

Aamer Baig:
현재로서 중요한 경영 과제는 실험과 학습이 가능하면서 이 기술로 변화가 생기는 영역에 투자를 하는 것입니다. 그래서 2x2 접근 방식을 제안합니다. 매우 빠르게 영향을 미칠 수 있고 실제로 발전할 수 있다는 것을 알게 된 영역을 두 개 선택하고, 사업의 판도를 바꿀 것이라고 믿어지는 영역을 두 개 선택하는 것입니다.

Tom Godden:
그렇군요. 좋아하는 예시가 있나요? ‘꽤 기발하다’고 생각했던 사례도 좋습니다.

Aamer Baig:
저는 학교를 졸업하고 소프트웨어 엔지니어링 교육을 받았습니다. 사실 가장 실현성이 높은 기회는 이 기술을 사용하여 개발자 생산성을 높이는 방법에 있다고 생각합니다.

Tom Godden:
좋네요. 제가 CIO 자리에 있으면서 기술에 감탄했던 적은 드문데요. Amazon CodeWhisperer와 같은 서비스를 활용한 생산성 향상은 정말 놀랍습니다. 생산성이 57% 향상되고, 성공 가능성이 27% 높아집니다. 어떻게 그 기술을 채택하지 않을 수 있겠어요? 정말 놀라운 기술이에요.

Tom Godden(11:23):
여기서 기반에 대해 조금 이야기해 볼까요? 특히 올바른 데이터를 사용하는 것이 중요합니다.

Aamer Baig:
데이터 품질, 데이터 관리, 올바른 데이터의 가용성은 계속해서 반복되는 문제인 것 같습니다. 예전에도 중요했지만 지금은 훨씬 더 중요해졌고 이 점은 자명합니다. 생성형 AI뿐만 아니라 AI로 하고자 하는 모든 작업은 모델에 입력하는 데이터에 좌우된다고 해도 과언이 아닙니다. 생성형 AI의 이점을 실현하려면 올바른 데이터 에코시스템을 구축하려는 노력이 먼저 필요합니다. 회사의 독점 데이터가 사용되지 않는 일부 상황에서는 하나의 대규모 언어 모델이 적합할 수 있습니다. 데이터와 조직의 지식을 주요 자산이라 할 때, 무엇인가가 주요 자산이 될 수 있는 단계가 되면, 사람들은 주의를 기울입니다. 그 단계에서는 더 많은 테스트와 분석이 진행됩니다.

Aamer Baig(14:45):
이 기술로 미래의 IT 조직과 CIO의 역할이 어떻게 변화할 것으로 보시나요?

Tom Godden:
조직이 하는 거의 모든 일에 기술을 심어야 한다는 점을 깨닫게 되었습니다. 그 일환으로 IT의 대대적인 탈중앙화가 있습니다.

Aamer Baig:
먼저 말씀드리고 싶은 것은 차세대 기술이 나올 때마다 회사의 IT 부서가 그 부차적인 영향을 받았다는 점입니다. 메인프레임 컴퓨팅이 나타나면서 IT 부서가 떠올랐습니다. 그런 다음 인터넷이 생겼고 해외 위치에 접속할 수 있게 되었습니다. 대역폭이 있고 가용성이 확보되고 다양한 제공업체가 생겨났기 때문입니다. 이어서 클라우드와 모바일이 등장했습니다. 이 기술로 제품 및 플랫폼 운영 모델의 채택이 가속화되고 IT 조직 구조가 개편되었습니다. 그런 다음 2020년대에 AI가 확산되거나 대량으로 채택될 것입니다. 제 입장도 비슷합니다. 기술은 더 이상 업무 기능이 아니라 고객에게 가치를 제공하는 방식의 모든 측면에 포함되는 하나의 역량이 될 것입니다.

Aamer Baig(17:49):
CIO의 자리에서 걱정되는 것은 무엇이고 흥분을 느끼게 하는 것은 무엇인가요?

Tom Godden:
생명 과학 분야에서 제가 우려하는 것 중 하나는 생성형 AI로부터 얻을 수 있는 답변의 무작위성에 대한 인식입니다. 사람들은 ‘잠재력이고 뭐고 다 좋지만 원하는 답을 생성하도록 통제할 수 없다’고 말합니다. 그렇긴 하지만 이 문제를 해결할 수 있는 기법이 있다고 생각합니다. 검색 증강 생성을 나타내는 RAG가 그 중 하나입니다. 알려진 답변 리포지토리를 쿼리하면서도 해당 답변의 맥락에 대한 풍부한 대화 정보를 얻을 수 있습니다. 하지만 녹색이 아니라 승인된 답변인 파란색 답변인지 확인해야 합니다. 파란색이 답입니다. 제가 흥분되는 부분은 앞서 말한 것처럼 개발자에 대한 것입니다. IT를 대중화할 수 있다는 능력만 보더라도 확실히 흥분되는 부분입니다. 사람들의 손에 IT를 활용할 수 있는 힘을 쥐어주는 것은 할 수 있는 가장 좋은 일 중 하나입니다.

Aamer Baig:
엔터프라이즈 기술에는 다루기 어려운 문제가 몇 가지 있었다고 생각합니다. 생성형 AI 덕분에 감당할 수 있는 비용으로 이 문제를 해결할 수 있는 기회가 생긴 것 같습니다. 세 가지가 떠오르는데, 하나는 기술 부채입니다. 매년 점점 더 많이 누적되는 것 같습니다. 두 번째는 인재입니다. 인재는 항상 부족했습니다. 그래서 사실 저는 일자리가 사라질 걱정을 하지 않습니다. 개발자들의 경험을 개선하면서 보유한 인재로 더 많은 일을 할 수 있다는 것에 기대가 큽니다.

Tom Godden:
 이 기술 덕분에 생각지도 못한 일자리가 생겨날 것입니다.

Aamer Baig:
멋진 이야기네요. 세 번째는 대규모 기술 기반 프로젝트를 제시간에 납품하는 데 항상 문제가 있었다는 것입니다. 생성형 AI를 흥미로운 방식으로 응용하여 이 다루기 힘든 문제를 실제로 해결할 수 있기를 바랍니다.

Tom Godden:
드디어 이 기술의 순간이 온 것 같습니다.