클라우드 인디오슬롯 | 홀덤주소 서비스 업체는 고객이 의문을 품더라도 AI에 대한 투자를 멈출 수 없다. 아마존 CEO 앤디 재시의 말처럼 AI에 대한 고객의 환멸은 일시적인 현상일 수 있다. 오늘날 기업 워크로드 대부분은 여전히 온프레미스 데이터센터에 묶여 있지만, AI는 이를 바꿀 수 있다. 재시는 “AI를 더 효과적으로 사용할 수 있는 능력”이 앞으로 기업이 애플리케이션을 클라우드로 이전하도록 만드는 가장 큰 원동력이 될 것이라고 전망했다.

재시의 인디오슬롯 | 홀덤주소 전망은 여러 클라우드 서비스 업체가 AI 워크로드 지원에 집중하는 이유를 명확히 보여준다. 메타를 비롯한 이들 업체는 올해 총 1,000억 달러 이상을 지출했으며, 더 많은 지출을 계획하고 있다. 알파벳 및 구글 CEO 순다르 피차이는 “현재와 같은 전환기를 겪고 있을 때 업계는 과잉 투자보다 AI에 과소 투자할 위험이 훨씬 더 크다”라고 말했다. 클라우드에 점점 더 많은 인프라와 서비스를 구축하는 것은 좋지만, 그보다 더 중요한 것은 고객이 AI를 효과적으로 사용할 수 있느냐다. 가능성에 대한 과대광고만 여전히 난무할 뿐, 실질적인 내용은 충분하지 않다.

기업이 AI 전문성을 개발할 수 있는 실질적인 방법은 무엇일까?

인디오슬롯 | 홀덤주소 AI를 현실로 가져오기
포레스터 수석 애널리스트 다리오 마이스토는 “AI를 실제적이고 가시적인 경제적 이익으로 전환하는 데는 여전히 문제가 있다”라고 지적했다.

필자는 몽고DB에서 개발자 관계를 관리하는 업무를 수행하면서 마이스토가 지적한 문제를 경험했다. 필자는 기업 실적 발표에서 흔히 볼 수 있는 것처럼 경영진이 월스트리트에 AI가 어떻게 비즈니스를 혁신할지 설명하는 데 시간을 보내지 않는다. 꿈을 현실로 바꾸는 일을 맡은 개발자와 함께 일한다.

지난 6월 ‘글로벌 칼럼 | 공급 과잉 상태의 AI, 거품 붕괴 vs. 현실 안착’에서 언급했듯이 대부분 기업은 소규모 RAG(Retrieval-Augmented Generation) 투자로 성공을 거두고 있는 것처럼 보였다. 업계가 상대적으로 미성숙하다는 점을 고려하면 이해가 되는 부분이다.

AI를 잘 활용하려면 데이터를 잘 관리해야 할 뿐 아니라 숙련된 직원도 필요하다. 2023년에는 말단 데이터 분석가였던 사람이 링크드인에서 이제 숙련된 데이터 과학자라고 자신을 표현하더라도 현실은 다르다. 대부분 사람은 AI/ML에 필요한 배경지식을 실제로 입증하는 것보다 AI 전문가로 자신을 포지셔닝하는 데 훨씬 더 능숙하다.

따라서 RAG 애플리케이션이나 기타 ‘테이블 스테이크(table stake)’ 워크로드를 통해 ‘AI 근육’을 키우는 것은 매우 적절하다. 이를 통해 직원 개발도 시작할 수 있다. 딜로이트 연구에 따르면, AI를 처음 도입한 기업의 AI 투자 수익률은 0.2%에 불과한 것으로 나타났다. 실제 성과는 훨씬 늦게 나타나더라도 지금 시작하는 것이 가장 좋다.

이것 말고도 AI 전문성 개발에 놀랍도록 효과적인 또 다른 방법이 있다. 바로 해커톤이다.

필자의 팀은 개발자가 벡터 임베딩 등으로 빌드를 시작할 수 있도록 돕기 위해 여러 해커톤을 운영해 왔다. 여러 개발자가 프로젝트를 성공적으로 구축하는 것을 보았지만, 해커톤 개념을 기업 내부에 집중했을 때 훨씬 더 큰 성공을 거두었다. 기업 해커톤에서는 낯선 사람이 AI의 명성과 영광을 위해 더미 데이터로 경쟁하는 대신, 개발팀이 실제 회사 데이터를 사용해 실제 AI 애플리케이션을 실험할 수 있다. 최근 필자의 팀이 주최한 한 기업 해커톤에서는 첫날 ‘이렇게 할까, 저렇게 할까’ 고민만 하던 한 팀이 둘째 날에는 정교한 에이전트 시스템을 개발해 해커톤에서 우승했다. 필자는 현재 다양한 포춘 500대 기업을 대상으로 이런 기업 해커톤을 진행하고 있으며 비슷한 결과를 기대하고 있다.

경쟁적이면서도 서로 격려하는 분위기가 개발팀 내에서 필요한 AI 기술을 개발하는 유일한 방법은 아니지만, 개발자가 호기심에서 실제 성공으로 나아갈 수 있는 좋은 방법이라는 것을 알게 된 경험이었다.
editor@itworld.co.kr

원문보기:
https://www.itworld.co.kr/opinion/346616#csidx5ce96b4681cefd8bc12c399d945e012