돈버는 AI 뉴스 기사

AI관련 뉴스 클리핑

한국경제

반도체부터 서비스까지…AI 생태계 알면 돈이 보인다

https://magazine.hankyung.com/money/article/202406247156c

‘AI 골드 러시’가 시작됐다. AI 열풍에 올라탄 글로벌 빅테크 기업들은 지난해부터 줄곧 경이로운 랠리를 펼치고 있다. 반도체에서 시작한 AI 붐의 수혜는 데이터센터, 전력 인프라 등 연관 분야로 확대되고 있다. 지금이라도 AI 투자에서 승기를 잡을 수 있을까.

[커버스토리]

지난해 4월 독일 하노버 메세에서 시연하는 AI 로봇. 사진=연합EPA

지금 투자 시장의 중심에는 단연 인공지능(AI)이 있다. AI 광풍에 미국 나스닥, 스탠더드앤드푸어스(S&P)500 지수는 올해 들어 사상 최고치를 몇 번이나 갈아치웠다. 그 선두에 있는 엔비디아의 올해 주가 상승률은 172%에 달한다. 메타, 구글(알파벳), 마이크로소프트도 각각 43%, 30%, 21% 올랐다.

AI 붐의 수혜주로 미국 증시를 이끄는 7개 빅테크를 뜻하는 ‘매그니피센트7(M7)’이 부상했다. 엔비디아, 애플, 마이크로소프트, 메타, 아마존닷컴, 구글, 테슬라는 모두 AI 분야에서 핵심적인 역할을 하는 기업들이다. M7 빅테크는 AI와 관련해 하드웨어와 소프트웨어를 모두 쥐고 있어, 산업 사이클의 초반부터 후반까지 기대를 모으는 종목들이다.

AI가 바꿔 놓은 부의 지도

AI는 부의 지도도 바꿔 놓고 있다. 블룸버그가 세계 최고 부자 500명의 재산을 집계해 발표한 ‘블룸버그 억만장자 지수’에 따르면, 올해 들어 2월 14일까지 세계 억만장자들이 올 들어 불린 자산의 96%가 AI에서 나왔다. AI로 가장 많은 돈을 번 사람은 마크 저커버그 메타 최고경영자(CEO)로, 재산 약 1700억 달러 가운데 1610억 달러가 AI와 관련돼 있다.블룸버그는 최대 승자를 젠슨 황 엔비디아 CEO라고 분석했다. 엔비디아는 지난해 상반기에는 시가총액 1조 달러 이하의 기업이었지만, 올해 무서운 질주로 한때 시총 ‘황제’ 자리에 등극하기도 했다. AI로 신규 부호 또한 대거 탄생했다. AI용 고성능 컴퓨터를 제조하는 슈퍼마이크로컴퓨터(SMCI)의 공동 창업자 찰스 리앙은 지난해보다 3배 늘었다. AI 데이터 분석 업체 팔란티어 주식을 보유한 카프 공동 창업자의 재산도 크게 늘었다.

최근 AI 열풍은 ‘생성형 AI’가 시작점이다. 2022년 11월 오픈AI의 ‘챗GPT’ 출현이 결정적인 계기가 됐다. 놀라운 성능으로 자연어 질문을 이해하면서, 영화 <그녀(HER)>(2013년)에 등장하는 AI 비서가 현실화됐다는 평가가 나왔다. 투자 지형도 급격히 달라지기 시작했다. 생성형 AI로 인해 가장 먼저 돈을 번 기업들은 ‘칩 메이커’들이었다.

“골드 러시에는 금맥을 찾지 말고 청바지를 팔아라”는 격언처럼, 생성형 AI가 쏘아 올린 AI 붐의 수혜는 관련 인프라로 확대되고 있다. 한편 지난해부터 지속된 랠리에, 지난 6월 25일 엔비디아를 비롯해 AI 관련주가 대거 조정에 들어가는 등 ‘거품’ 논란도 나온다. 그렇다면, 이제 투자자들의 관심은 크게 두 가지로 모인다. 이 열풍이 언제까지 지속될까. AI 랠리에서 추가 수혜주들은 어디에 있을까. ‘챗GPT’의 도움을 얻어 직접적인 수혜가 가능한 ‘AI 밸류체인’을 정리해봤다.

AI 밸류체인1. AI 반도체① GPU

지난 5월 엔비디아 GTC AI 컨퍼런스에서 차세대 AI칩 블랙웰을 공개하는 젠슨 황 CEO. 사진=연합AFP

일론 머스크 테슬라 CEO는 2년 전 한 인터뷰에서 “AI가 발전하면 가장 먼저 부족한 건 칩이다. 반도체가 뜨고 나면 그다음 부족한 건 전력일 것”이라고 예견한 바 있다. AI 반도체는 AI 산업에서 핵심 동력원 역할을 한다. PC나 서버에서 ‘두뇌’ 역할을 하는 반도체는 중앙처리장치(CPU)다. AI 세계에선 이러한 CPU와 더불어 ‘대용량’의 데이터를 ‘동시에’ 처리할 수 있도록 특별히 설계된 칩을 사용한다. 바로 그래픽처리장치(GPU)다. 그리고 GPU를 사실상 ‘독점’하고 있는 기업이 엔비디아다.

챗GPT의 실제 트래픽이 급증하면서 이에 놀란 업계 관계자들은 본격적으로 AI 인프라 투자를 늘렸다. 클라우드 진영이 대표적이다. AI로 인해 새로운 비즈니스가 가능할 것으로 내다보고, GPU를 탑재한 AI 가속기를 대거 사들인 것이다. 실제, GPT4를 훈련하는 데는 약 2만5000~3만 개에 달하는 엔비디아 ‘A100’이 쓰인 것으로 알려진다. 늘어난 주문량에 엔비디아의 AI 가속기는 대당 5000만~6000만 원까지 치솟았음에도 불구하고 품귀 현상을 빚었다. 올 3월 공개한 차세대 AI 가속기 ‘블랙웰’도 내년까지 주문이 밀려 있다.

GPU를 만드는 플레이어가 엔비디아만 있는 건 아니다. AMD, 인텔, 퀄컴 등도 GPU 시장을 노리고 있다. 그럼에도 시장의 선택이 엔비디아인 배경에는 ‘선점’과 ‘네트워크’ 효과가 있다. 엔비디아는 게임용 PC에 들어가는 GPU를 만들어 왔으나, 수많은 계산을 병렬적으로 처리할 수 있는 GPU가 AI에 필수적이라고 보고, 이를 지원하는 GPU 개발에 주력해 왔다.

엔비디아는 또한 GPU용 병렬 프로그래밍 언어 ‘쿠다’를 개발자들에게 무료로 공개하며 소프트웨어 장벽을 만들고자 했다. 쿠다는 GPU를 기반으로 AI 모델을 학습시킬 수 있는 컴파일러(C·C++·Python·java 등의 소스코드를 기계어로 번역하는 프로그램)로, 컴퓨터공학과 학생들에게 일종의 ‘교과서’가 되면서, 엔비디아 독주 체제는 더욱 공고해졌다. 엔비디아는 ‘쿠다 생태계’를 통해 소프트웨어까지 아우르는 수직 계열화를 완성한다는 목표다.

② NPU

AI 반도체 시장은 엔비디아의 GPU에 대응해 구글의 텐서처리장치(TPU) 등 신경망처리장치(NPU)가 경쟁하는 구도다. AI 시장이 확대되면서 기존에는 없던 새로운 AI 전용 반도체, NPU도 시장을 침투, 고가인 GPU의 대안으로 자리매김하고 있다.

NPU는 GPU의 파생 버전으로 볼 수 있다. ‘범용성’을 추구하는 GPU와 달리 필요 없는 부분을 삭제하고, 특정 분야에서 탁월한 성능을 갖도록 만들었다. GPU라는 병렬계산기에서 우선순위를 병렬의 ‘수’가 아닌, ‘적은 전력 소모’로 바꾼 것이다. GPU는 ‘학습’과 ‘추론’을 모두 수행할 수 있는 반면, NPU의 경우 ‘추론’을 중점적으로 하기 때문에 GPU에 비해 전력 소모 등 비용 절감에 있어 효과적이다. 만드는 방식에 따라 ASIC(대량 생산에 강점), FPGA(소량 생산에 강점)로 구분된다.

퀄컴, 미디어텍, 인텔, 엔비디아, 브로드컴, ARM, 그래프코어(Graphcore), 세레브라스(Cerebras) 등이 주요 제조사들이다. 구글, 애플, 마이크로소프트, 아마존과 같이 자금력이 풍푸한 빅테크들은 직접 ‘맞춤형’ 반도체를 만들기도 한다. 대표적인 게 구글이 만든 TPU다. 구글의 TPU는 브로드컴이 설계를 지원한다.

NPU는 최근 부상하는 ‘온디바이스 AI’ 수혜주로 분류되기도 한다. 온디바이스 AI는 클라우드에 연결하지 않아도 기기 자체에서 정보를 처리하는 기술을 뜻한다. NPU는 GPU를 적정 수준으로 축소해 온디바이스 AI에 최적화됐다는 평가를 얻는다. 클라우드 대비 성능은 떨어지지만 개별 기기에서 맞춤형 데이터 제공이 가능하고 보안이 우수하다는 점에서 주목받는다.

③ 메모리

‘저장’ 역할을 하는 메모리도 중요한 AI 반도체로 분류된다. 메모리는 연산을 위해 필요한 (휘발성) 데이터 저장 공간을 제공한다. 일반적으로 AI 구현에 있어서 강조되는 것은 병렬 처리 연산 능력이다. GPU의 학습은 대용량의 데이터를 한꺼번에 처리해야 하기 때문에 메모리 공간이 클수록 유리하다.

기존 PC 기반에선 메모리를 업그레이드해도 컴퓨터의 성능이 올라가지 않았다. AI 세상에서 메모리의 속도를 올리고 용량을 늘리면 GPU의 성능이 좋아진다. 그래서 나온 게 고대역폭메모리(HBM)다. 일반 D램 모듈 대비 3~5배 비싼 단가에도 엔비디아와 AMD가 HBM을 활용하는 이유다. HBM이 서버에 들어간다면, LLW(Low Latency Wide IO·저지연성와이드IO)는 휴대전화를 겨냥한 신제품으로 개발이 한창이다.

HBM을 필두로 한 메모리 반도체는 SK하이닉스, 마이크론, 삼성전자가 3강 구도를 형성한다. SK하이닉스의 점유율이 가장 높고 마이크론과 삼성전자가 후발주자로서 경쟁하고 있다.이 밖에 제조 영역에서 GPU 및 NPU 위탁생산을 담당하는 파운드리도 AI 수혜주로 분류된다. 대만의 TSMC가 대표적인 파운드리 업체이자, 파운드리 대장주다. 또 삼성전자도 파운드리 사업을 확대하고 있다.

지난 3월 엔비디아 컨퍼런스에 전시된 SK하이익스의 HBM3 메모리. 사진=연합뉴스

2. 클라우드 컴퓨팅

클라우드 인프라는 AI 연산을 위한 필수 플랫폼을 제공한다. 인터넷을 통해 데이터를 저장하고 프로그램을 실행할 수 있게 해주는 기술을 뜻한다. AI는 많은 데이터와 강력한 컴퓨팅 자원이 필요하다. 클라우드가 이러한 자원과 연산 능력을 제공함으로써 연구자들은 고성능 컴퓨터 없이도 AI 작업을 할 수 있게 된다.

AI 생태계에서 클라우드의 최대 고객사는 소프트웨어 업체들이다. AI 모델을 구동하기 위해서는 대규모 디바이스가 필요하다. 하드웨어와 소프트웨어가 결합된 대규모의 인프라를 구축해야 한다. 이 때문에 클라우드 인프라는 빅테크의 전유물이다.대표적인 클라우드 서비스로는 빅4가 꼽힌다. 아마존웹서비스(AWS), 구글 클라우드 플랫폼, 마이크로소프트 애저(Azure), 그리고 오라클 클라우드 인프라스트럭처(OCI)다. AWS는 클라우드 기반 AI 및 머신러닝 서비스를 제공하는 선두주자다. 마이크로소프트 애저는 다양한 AI 및 데이터 분석 도구를 포함한 클라우드 서비스를 제공한다. 구글 클라우드는 AI와 머신러닝에 특화된 클라우드 인프라를 제공한다. 이 밖에 IBM도 클라우드를 운영하고 있다.

공격적인 선투자를 집행했던 클라우드 3사는 올해 모두 성장 반등을 했다. 특히 구글의 경우 클라우드 사업부가 적자 사업부에서 흑자 전환을 했다. 오라클은 후발주자이면서도 엔비디아와 협력 관계를 확장하며 주목받았다. 향후 관전 포인트는 수익화의 지속성이다. 클라우드가 반도체 구매에 쓰는 비용은 명확한 반면, 계속해서 클라우드가 수익화에 성공할지는 미지수이기 때문이다. 아마존을 제외하면 구글과 마이크로소프트는 AI 서비스 영역에서도 경쟁을 벌이고 있다.

3. 서버·데이터센터

AI 가속기와 CPU 등을 조립하면 AI 서버가 된다. 서버를 수백~수천 대 모아 만들면 데이터센터다. 서버와 데이터센터는 정보기술(IT) 인프라의 핵심 요소로, 다양한 컴퓨팅 및 데이터 처리 작업을 수행하는 데 필수적이다. 서버의 역할은 데이터 저장, 애플리케이션 실행, 네트워크 관리, 가상화 등이며, 데이터센터는 대규모 데이터 처리, 데이터 저장 및 관리, 네트워크 인프라, 안정성과 보안, 클라우드 컴퓨팅 지원 등을 담당한다.

AI 수혜주로 주목받는 데이터센터는 클라우드 서비스를 제공할 수 있는 물리적 공간에 해당한다. 대표적인 업체로는 에퀴닉스(Equinix), 디지털 리얼티(Digital Realty), 사이러스원(CyrusOne) 등이 있다. 데이터센터 기반의 리츠(부동산 투자 회사)들이다. 그중 대장주인 에퀴닉스는 전 세계 32개국, 71개 도시에 대규모 부동산을 임차하거나 매입해 데이터센터를 짓고, 이를 IT 서비스 기업에 재임대하며 수익을 창출하고 있다.서버 인프라를 구축해주는 하드웨어 업체들도 AI 수익화 구간에 들어섰다. 서버 인프라는 크게 주문자위탁생산(OEM) 서버와 브랜드 서버로 나눌 수 있다. 브랜드 서버의 절대 강자는 시스코, OEM 서버의 선두주자로는 대만의 콴타가 꼽힌다. 또 슈퍼마이크로컴퓨터는 엔비디아 반도체를 탑재한 데이터센터를 구축하는 데 강점이 있어, 엔비디아 주가와 운명을 같이 하고 있다.

브랜드 서버 업체들 가운데 델(Dell), 휴렛팩커드 엔터프라이즈(HPE) 등도 좋은 실적을 내고 있다. 특히 HPE는 AI 데이터센터용 서버 수요 증가로 올해 2분기 슈퍼마이크로컴퓨터보다 실적이 좋았다. 이 밖에 OEM 서버는 콴타를 필두로 위스트론, 폭스콘 등 대만 업체들이 리딩 기업으로 꼽힌다.

미국 버지니아에 있는 아마존 웹 서비스(AWS) 데이터 센터. 사진=연합EPA

데이터센터 냉각 솔루션도 올해 주식 시장을 뜨겁게 달군 AI 수혜주다. AI 데이터센터 내 발열 관리가 업계 화두로 떠오르면서다. 이에 따라 냉각 장치 수요도 급증하고 있다. 대표적으로 데이터 서버 전문 업체 버티브 홀딩스는 물을 활용해 대규모 전력 장비를 냉각시킬 수 있는 기술을 보유하고 있다. 버티브 홀딩스 주가는 올해 들어 108.9% 상승했다. 버티브의 수냉식(물로 장치 냉각) 온도 제어 장치가 공랭식(에어컨을 이용한 냉각)에 비해 AI 서버에 적합하다는 평가가 나온다. 이 밖에 엔벤트 일렉트릭, 이튼코퍼레이션, 아시안바이탈컴포넌츠, 슈퍼마이크로컴퓨터, 존슨컨트롤스도 뜨거운 종목들이다.

4, 전력 인프라

시장의 관심은 전력 인프라와 에너지로 확대되고 있다. AI 데이터센터가 막대한 양의 전력을 필요로 하면서, 결국 ‘에너지 문제’로 귀결될 것이라는 전망에 힘이 실리면서다. 국제에너지기구(IEA)는 전 세계 데이터센터를 위해 2026년에는 939테라와트시(TWh)가 필요하다고 내다봤다. 이는 일본 전체가 1년간 사용하는 전력량과 비슷한 규모다. 머스크 CEO는 태양광 사업을 하고 있으며, 샘 올트먼 오픈AI CEO는 핵융합에너지 스타트업에 투자하고 있다.

전력 인프라 관련 대표적인 기업으로는 제너럴일렉트릭(GE), 지멘스, ABB(Asea Brown Boveri), 슈나이더 일렉트릭 등이 있다. 또한 미 최대 유틸리티 업체 도미니언 에너지를 비롯해 조지아 파워, 넥스트에라 에너지, 윌리엄스코스, TC에너지, 원오케이, 이튼코퍼레이션 등 유틸리티 기업들이 수혜주로 분류된다. 이와 함께 소형모듈원전(SMR)을 포함한 원자력발전 종목과 태양광 등 재생에너지 기업들이 부상했다.

5. 네트워크 인프라

네트워크는 여러 측면에서 AI 시스템의 성능과 효율성에 직접적인 영향을 미친다. 네트워크는 데이터 전송, 분산 컴퓨팅, 모델 훈련, 추론 등의 다양한 작업에서 핵심적인 역할을 한다. 대규모 병렬 처리 성능을 필요로 하는 AI의 특성상 GPU와 GPU, 서버와 서버, 데이터센터와 데이터센터를 네트워크로 연결하는 시스템이 핵심 기술로 부상하고 있다. 네트워크 장비는 데이터가 지나갈 수 있는 유무선 케이블과 스위치, 라우터 등을 포함한다.

반도체의 연결은 칩메이커인 엔비디아, AMD가 강점을 가지고 있다. 서버와 데이터센터의 연결은 이더넷 기반의 기술을 활용한다. 엔비디아는 네트워크 인프라에서도 자체 진영을 구축하고 있다. 이에 대항하는 반(反) 엔비디아 진영에서 1인자는 아리스타 네트웍스가 꼽힌다. 네트워트 장비 업체 중 마벨 테크놀로지도 수혜주로 꼽힌다. 또한 반도체 기업 가운데 네트워크 반도체 최강자로 브로드컴이 자리매김하고 있다.

이 밖에 네트워크 인프라 관련 기업들로는 시스코, 화웨이, 주니퍼 네트웍스, 액톤(Accton) , 암페놀 등이 있다. 시스코는 네트워크 장비 및 솔루션 분야의 글로벌 리더로, AI 및 데이터센터를 위한 네트워크 인프라를 제공한다. 화웨이는 네트워크 장비와 5세대(5G) 기술을 통해 AI와 사물인터넷(IoT) 인프라를 지원한다. 주니퍼 네트웍스는 고성능 네트워크 솔루션을 제공해 데이터센터와 AI 인프라를 지원한다.

6. AI 연구·모델

AI 연구 모델은 AI 분야에서 다양한 문제를 해결하기 위해 개발된 알고리즘과 시스템을 말한다. 이러한 모델은 주로 기계학습(ML)과 딥러닝(DL) 기법을 사용해 데이터로부터 학습하고, 예측, 분류, 군집화, 생성 등의 작업을 수행한다. AI 연구 모델은 다양한 구조와 목적에 따라 구분된다.

주요 AI 연구 모델 종류로는 회귀 모델, 분류 모델, 클러스터링 모델, 딥러닝 모델, 강화 학습 모델, 생성 모델이 있다. 대표적인 기업으로는 구글(BERT, 제미나이), 마이크로소프트(튜링-NLG·ResNet·UNet), 메타(RoBERTa· StyleGAN·딥페이스), 오픈AI(GPT 시리즈·달리) 등이 있다.

구글이 개발한 AI 모델 제미나이. 사진=연합AFP

7. AI 서비스·앱

AI 서비스는 AI 기술을 활용해 다양한 애플리케이션과 솔루션을 제공하는 서비스다. 이러한 서비스는 기업과 개인이 AI 기술을 보다 쉽게 접근하고 사용할 수 있도록 돕는다. 현재까지 AI 서비스 중 가장 큰 규모의 시장은 챗봇이다. 이와 관련, 오픈AI(챗GPT)와 구글(제미나이)이 큰 그림을 그리고 있다.

주요 AI 서비스 유형은 머신러닝 서비스, 자연어 처리 서비스, 컴퓨터 비전 서비스, 음성인식 및 합성 서비스, 챗봇 및 가상비서 서비스, 추천 시스템 서비스 등이 있다. 클라우드 기반으로 AI 서비스를 하는 서비스형 인프라(IaaS)도 큰 부분을 차지한다. 구글의 제미나이 서비스 사용자가 늘어나면 구글 클라우드도 덩달아 돈을 버는 구조다.

대표적인 AI 서비스·앱 기업으로는 마이크로소프트, 구글, 세일즈포스, 어도비, 서비스나우, 팔란티어, 오라클, SAP, 스노우플레이크, 파이어플라이, AI퍼플렉서티, 데이터브릭스 등이 있다.

8. 파생 산업(스마트 모빌리티·헬스케어)

AI 응용 서비스에 해당한다. AI 혁신은 모든 산업으로 확산되고 있다. 대표적으로 스마트 모빌리티는 첨단 기술을 활용해 교통 시스템을 혁신하고, 이동의 효율성을 극대화하며 환경에 미치는 영향을 최소화하는 개념을 말한다. 스마트 모빌리티는 개인의 이동 경험을 개선하고, 도시 교통 문제를 해결하며, 지속 가능한 환경을 조성하는 데 중점을 둔다. 대표적인 분야로는 자율주행차량(autonomous vehicles), 커넥티드 카(connected cars), 공유 모빌리티(shared mobility)가 있다. 자율주행차 기술을 선도하는 기업으로는 테슬라가 선두주자다. 구글 웨이모는 자율주행차 기술을 개발하는 구글의 자회사다.

미국 샌프란시스코 구글 웨이모 운영센터에서 대기중인 자율주행 전기차. 사진=연합뉴스

AI 의료기술은 AI를 활용해 의료 분야에서 진단, 치료, 환자 관리, 연구 등을 혁신적으로 개선하는 다양한 기술과 응용 프로그램을 포함한다. AI 의료기술은 주로 머신러닝, 딥러닝, 자연어 처리, 컴퓨터 비전 등의 기술을 사용해 의료 데이터를 분석하고, 의사와 의료 전문가들이 더 정확하고 효율적인 결정을 내릴 수 있도록 지원한다. 대표적으로 구글, 모더나, 일라이 릴리, 노바틱스 등이 AI를 활용해 신약 파이프라인을 앞당기는 시도를 하고 있다. 필립스 헬스케어, 존슨앤드존슨 등도 AI를 활용한 의료 기기 및 의약품 개발에 나서고 있다.

AI 밸류체인에서 먼저 수익화에 성공한 기업들은 주로 기업 간 거래(B2B) 하드웨어 업체들이다. 생성형 AI가 몰고 온 이 열기는 단기적으로는 올해 하반기~내년 상반기경 일단락될 것이라는 분석도 나온다. 이번 사이클에서는 지금까지 연구된 AI 기술이 이미 모두 시장의 화두가 됐기 때문이다. “AI의 환상에서 벗어나, AI로 가능한 것과 가능하지 않은 것을 구분하기 시작했다”는 평가다.

AI 혁신은 ‘신 산업혁명’에 비유할 만큼의 근본적인 변화라는 시각도 있다. 한종목 미래에셋증권 연구원은 “AI는 2017년 전설적인 ‘트랜스포머’의 혁명 이후 2022년 챗GPT의 등장으로 수면 위로 올라와, 점차 연관 산업과 만나 생산성을 올리고 있다”며 “지금은 AI 시대의 초입으로 근간을 이루는 인프라가 중요하다면 점차 플러스 알파에 주목을 해야 한다”고 말했다.

과거 인터넷 사례로 볼 때 서비스가 확산되기까지는 최소 3~5년의 시간이 필요하다. 조연주 NH투자증권 애널리스트는 “결국 하드웨어에서 소프트웨어로, 또 대중화 단계로 넘어가야 AI의 온기가 확산되고 지속될 것”이라고 말했다.

이현주 기자 charis@hankyung.com

매일경제

LLM 출혈 대신 ‘돈 되는 서비스’ 경쟁 [메이킹 머니 AI]4

https://www.mk.co.kr/economy/view/2024/482436

인공지능 열풍은 유통과 제조 등 전통 산업 전반까지 확산됐다. AI를 도입해 업무·비용 효율화를 꾀하는 곳이 여럿이다. 하지만 전문 인력 부재로 어려움을 겪는 게 현실. 이 과정에서 AI 소프트웨어(SW) 기업이 각광받는다. 자체 개발한 소형언어모델(sLLM) 혹은 GPT-4 등 기존 언어모델(LLM)을 기반으로 맞춤형 AI 솔루션을 제공한다. 일종의 ‘AI 개인 트레이너’다. 이들의 실력은 해외까지 알려졌다. 일부 기업은 해외 매출 비중이 커지자 해외 상장까지 고려할 정도다.

밑단 책임지는 SW 스타트업

설립 4년 만에 100억 매출 눈앞

기업의 고민 중 하나는 ‘불필요한 서류 처리’다. 이에 도입된 게 AI 기반 OCR(광학문자인식) 기술이다. 기업의 AI OCR 도입을 돕는 곳이 4년 차 AI 스타트업 ‘업스테이지’다.

OCR은 컴퓨터를 활용해 종이 문서나 사진 속 텍스트를 인식하는 기술이다. AI OCR은 여기서 한발 더 나아갔다. AI를 활용해 OCR 인식률과 데이터 분류 기능을 인간 수준까지 높였다. 특히 업스테이지 AI OCR은 프로그래밍 전문가 없이 고객사가 ‘노코드(No Code)’ ‘로우코드(Low Code)’로 기술 제어 가능한 환경을 구축한 게 특징이다. 기업 입장에서는 전문 인력을 보유해야 하는 부담이 없다. 삼성생명뿐 아니라 한화생명과 현대글로벌서비스, 포스코 등 다수의 전통 대기업이 업스테이지를 찾는 이유다.

덕분에 업스테이지는 올해 실적에 날개를 달았다. 올해 1분기에만 지난해 신규 계약 총액 수준 수주를 이뤄냈다. 내부에서는 올해 매출을 전년 대비 2배 규모로 전망한다. 지난해 업스테이지 매출은 46억원이다. 이를 고려하면 올해 100억원 매출을 눈앞에 둔 셈이다.

‘맞춤형 챗봇’ 서비스로는 포티투마루도 빼놓을 수 없다. 이미 LG유플러스와 SK이노베이션, 기아 등 국내 대기업을 고객으로 확보했다. 추가 협업도 진행 중이다. 예를 들어 LG유플러스는 포티투마루와 ‘소상공인 대상 AI 상담 시스템’ 구축에 나섰다. 동시에 LG유플러스 직원을 위한 일종의 ‘업무 비서 에이전트’도 함께 개발 중이다. 협업 사례가 쌓이면서 포티투마루는 올해도 매출 고공 성장을 자신하고 있다. 포티투마루는 연평균 60% 이상의 매출 성장률(CAGR)을 기록 중이다.

포티투마루 강점은 ‘정확한 하나의 답’ 도출이다. 질문에 여러 정답 후보를 제시하는 경쟁 챗봇과 비교해 진일보한 형태다. 이게 가능해진 것은 자체 검색증강생성(RAG) 기술 ‘RAG42’ 덕분이다. ‘RAG42’는 대규모 원천 데이터에서 필요한 특정 정보만 검색한다. 김동환 포티투마루 대표는 “기업이 (여러 답을 제시하는) 85점짜리 아이의 말을 믿고 의사 결정을 할 수 있겠느냐”고 반문한다. 전문성과 정확성이 핵심인 기업 맞춤형 챗봇의 경우 ‘하나의 답’을 제시하는 포티투마루 모델이 경쟁력 있다는 설명이다.

중후장대 제조업에도 AI SW 기업이 뛰어들었다. AI 스타트업 ‘원프레딕트’ 얘기다. 원프레딕트는 산업 현장에서 설비 상태 등 데이터가 저장되지 않고 휘발된다는 점에 주목했다. 이를 모으고 AI를 활용해 유형별 분석하면 ‘설비 관리’가 수월할 것이라 판단했다. 이에 개발된 게 ‘설비 예측 진단 솔루션’이다. 에너지·석유·제조업 등 중후장대 산업 내 설비 상태를 진단하고 예측 정보를 제공한다. 설비 고장을 줄이고 설비 가동률을 높일 수 있다는 점에서 기업 관심이 뜨겁다. 롯데케미칼, 에쓰오일, GS칼텍스 등을 고객사로 보유했다.

‘안전한 AI 적용’에 초점을 맞춘 기업도 있다. 2018년 설립된 S2W 얘기다. 서상덕 S2W 대표는 “기업은 데이터 보안 문제로 AI 사용을 걱정한다. S2W는 이 부분을 ‘SAIP’ 솔루션으로 해결하고 있다”고 설명했다. SAIP는 S2W의 기업 맞춤형 AI 플랫폼이다. 검색증강생성 기술에 고도의 보안 기술이 결합된 구조다. 최근 현대제철도 SAIP 솔루션을 도입했다. 서상덕 대표는 “올해 관련 사업이 본격화됐는데 PoC(기술 검증)를 넘어 본사업을 대기업에 납품했다는 게 고무적”이라고 말했다.

이동통신 3사 ‘AICC’로 훨훨

KT, 2025년 매출 3000억 목표

AI SW로 톡톡한 효과를 보고 있는 곳 중 하나가 콜센터다. 기존 콜센터는 상담원 등 수많은 인력이 필요했다. 기업 입장에서는 ‘인건비 부담’이 클 수밖에 없다. 이를 겨냥한 게 AI 콘택트센터(AI Contact Center·AICC)다. AI 음성 인식과 텍스트 분석 기술을 활용해 상담 지원부터 보이스봇·챗봇으로 직접 고객 응대도 가능하다.

기존 콜센터 회선 설치 등 구축과 관리 사업을 펼치던 KT·LG유플러스·SK텔레콤 이동통신 3사가 선점 경쟁에 돌입했다.

가장 빠르게 뛰어든 곳은 KT다. KT는 2017년 관련 사업을 시작했다. 2021년 사내 AICC팀을 KT엔터프라이즈 정식 사업부로 승격, 힘을 줬다. 2022년 1월에는 AICC 솔루션에 클라우드 역량을 결합한 ‘에이센 클라우드’ 상품도 내놨다. 상품은 실시간 대화록과 상담 어시스턴트, 보이스봇·챗봇 솔루션 등으로 구성됐다. 고객은 일종의 구독 형태로 이용 가능하다. 현재 자체 ‘100번 고객센터’뿐 아니라 부동산 플랫폼 직방과 NH투자증권, 신한생명 등 금융권처럼 콜센터 업무 부담이 큰 금융 기관을 고객으로 확보한 상태다.

수주 규모도 상당하다. 2023년 KT AICC사업부 수주 규모는 2500억원에 달한다. 785억원이던 2022년 수주 규모의 3배 수준이다. KT는 확보한 수주 기반으로 2025년 AICC 사업 매출 3000억원을 목표로 하고 있다.

LG유플러스와 SK텔레콤도 추격에 나섰다. LG유플러스는 지난해 9월 출시한 ‘U+AICC’를 전면에 내세웠다. 중소기업 대상 클라우드 기반 구독형 AICC 서비스다. 상대적으로 늦은 출발이지만 올해만 신규 가입 회선 1000개를 넘어섰다. LG유플러스는 2028년 AICC 매출 3000억원이 목표다. SK텔레콤은 지난해 8월 AICC 솔루션 개발 스타트업 ‘페르소나AI’에 전략적 투자를 단행했다. 올해 3월에는 구독형 AICC 서비스 ‘SKT AI CCaaS’를 선보였다. 상담 챗봇·보이스봇과 시스템 운영 대행 등 AICC 운영에 필요한 모든 솔루션을 제공하는 서비스다. 고객은 필요한 서비스만 선택해 활용할 수 있다.

빅테크·실리콘밸리 홀렸다

‘아날로그 일본’서도 好好

한국 AI SW 기업 존재감은 글로벌 시장에서도 두드러진다.

2021년 설립된 ‘트웰브랩스’는 AI 시대 패권을 쥔 엔비디아 선택을 받았다. 지난해 10월 엔비디아와 인텔 등에서 1000만달러(약 135억원) 규모 투자를 유치한 데 이어 올해 6월 엔비디아 자회사 엔벤처스 등에서 약 5000만달러(약 700억원) 규모 투자를 받았다. 트웰브랩스는 영상 분석 AI 모델을 개발 중이다. 영상 속 시각적 이미지와 소리를 분석해 사용자 요구 사항을 해결하는 형태다. 예를 들어 수백 분에 달하는 영상에서 ‘남성이 사과를 먹는 모습’을 찾아달라고 하면 1~2초 만에 AI가 해당 장면을 찾는다.

이에 수많은 영상 데이터를 보유했지만 서비스 활용 방법을 못 찾던 이들로부터 문의가 쏟아진다. 스포츠협회 등도 잠재 고객이다.

사업 초기부터 미국 시장을 겨냥한 ‘센드버드’도 빼놓을 수 없다. 2013년 설립된 센드버드는 기업향 커뮤니케이션 플랫폼을 제공해왔다. 앱 내 ‘SMS 알람’ 등의 서비스형 소프트웨어(SaaS) 구축 사업이다. 최근 센드버드는 자사 SaaS에 생성형 AI를 접목해 또 한 번의 ‘퀀텀 점프’를 노리고 있다. 올해 2월 센드버드 AI 챗봇을 선보였는데 인기가 상당하다. 3개월 만에 고객사 7000곳을 확보했다. 내부에선 조만간 1만곳 돌파를 기대한다. 인기 배경은 ‘노코드’다. 별도 전문 인력 없이 기업 스스로 맞춤형 AI 챗봇 생성이 가능하다. 센드버드가 제공한 구축 환경에서 챗봇을 디자인하고 생성한 한 줄의 코드를 사용자 웹사이트 관리자 페이지에 붙여 넣으면 끝이다. 연동 시간은 길어야 5분이다.

덕분에 실적도 고공행진이다. 센드버드 북미 본사는 실적 공개를 하지 않고 있다. 다만 한국 법인 실적으로 가늠할 수 있다. 한국 법인 센드버드코리아는 지난해 매출 241억원, 영업이익 17억원을 기록했다. 이미 사업화를 넘어 수익화 단계로 접어들었다.

정부 차원에서 디지털 전환을 추진하는 ‘일본’을 겨냥한 AI SW 기업도 있다. 2017년 설립된 올거나이즈는 LLM 기반 AI 앱 마켓인 ‘알리’와 ‘알리 LLM 앱 빌더’ 등을 제공한다. 내부 보고서 요약부터 데이터 시각화, 분석 등 기업 맞춤형 SW 서비스를 제작할 수 있는 기업 간 거래(B2B) 솔루션이다. 일본 미쓰이스미토모은행(SMBC) 금융그룹, 이동통신 업체 KDDI, 화장품 업체 KAO 등을 고객으로 확보했다. 매출 50% 이상이 일본 시장에서 발생한다. 올거나이즈는 2025년 일본 도쿄거래소 상장도 계획 중이다.

인터뷰 | 김동신 센드버드 대표“AI 챗봇, 단순 답변 넘어 ‘해법’ 제시”

김동신 센드버드 대표 뒤에는 ‘최초’ 수식어가 따라붙는다. 실리콘밸리에 진출한 한국 스타트업 중 첫 유니콘(기업가치 1조원 이상 비상장 기업)이자 한국 스타트업 중 첫 기업 간 거래(B2B) 시장 유니콘을 일궈냈기 때문이다. 김동신 대표와 센드버드는 안주하지 않고 또 한 번의 ‘퀀텀 점프’를 준비하고 있다. 기존 채팅 솔루션에 AI를 접목한 ‘센드버드 AI 챗봇’이 비장의 무기다

Q. 사업 초기, 미국 시장에 뛰어든 배경이 궁금하다.

A. 쉬운 결정은 아니었다. 다만 조금 더 큰 곳을 원했던 것 같다. 한국에서 성공해도 글로벌 기업이 국내에 들어오면 결국 경쟁에서 밀릴 것이라는 생각이 있었다. 차라리 처음부터 몸집 큰 경쟁자가 수두룩한 미국 시장에서 경쟁 경험을 갖춰야겠다고 판단했다. 물론 쉽지만은 않았다. 사업 초기에는 3개월 정도 버틸 수 있는 운영자금이 전부였다. 시리즈A 투자 유치를 위해 30개가 넘는 미국 벤처캐피털(VC)을 찾아갔지만, 모두 거절당했다. 그래도 계속 두드렸다. 그러다 2015년 실리콘밸리 대표 스타트업 인큐베이터 와이콤비네이터(YC) 지원 프로그램에 합격해 기사회생했다. 사실 큰 기대는 없었다. 매년 YC에 지원하는 스타트업이 6000~7000개다. 그중 100개 정도만 투자 대상으로 선정되니 확률이 1% 조금 넘는 수준이다. 엄청난 운이 따랐다. YC 투자 덕분에 데모데이(사업 아이디어 발표회)까지 진행할 수 있었고 지금의 센드버드를 일궈낼 수 있었다.

Q. 최근 내놓은 ‘센드버드 AI 챗봇’ 강점은.

A. 자연스러움이 최대 강점이다. 거대언어모델(LLM)을 적용해 사람이 응대하는 것처럼 자연스러운 답변이 가능하다. 기업 경영 본질 중 하나는 최소한의 비용으로 최대한의 효율을 내는 것인데, AI 챗봇이 여기에 부합한다.

노코드(No code)도 강점으로 꼽고 싶다. 전문 개발자가 없어도 몇 가지 정보만 입력하면 5분 만에 맞춤형 챗봇을 만들 수 있다. 소상공인이나 상대적으로 규모가 작은 기업도 활용할 수 있다는 얘기다. 덕분에 고객 문의가 폭발적이다. 지난 2월 AI 챗봇을 출시했는데 현재 7000여개 고객사를 확보했다.

Q. 여전히 ‘챗봇’에 만족 못하는 사용자가 많다.

A. 사용자가 불만을 갖는 이유는 기존 챗봇이 ‘4가지 기준’을 만족 못해서다. 챗봇 만족도는 크게 답변 속도·정확성과 질문 이해도, 그리고 문제 해결에 실질적인 도움을 줬느냐로 나뉜다. 일단 속도는 AI가 사람을 압도한다. 보통 사용자가 불만을 표출하는 건 ‘말귀를 못 알아들었다’고 판단할 때다. 사용자가 ‘사과’를 요청했는데 ‘수박’을 내놓는 식이다. 과거 챗봇에선 이런 오류가 많았다. 정형화된 ‘템플릿’ ‘틀’을 바탕으로 답변한 탓이다. 하지만 센드버드 AI 챗봇은 다르다. 업무에 필요한 모든 정보와 맥락을 학습해서 답변을 내놓기 때문이다. 오픈AI가 만든 LLM GPT-4를 특정 기업에 맞게 ‘미세 조정(파인튜닝)’하면 정확도는 99%까지 올라간다.

사용자가 불만을 갖는 또 다른 요소 중에는 ‘단순 답변’이 있다. 과거 챗봇은 단순 답변 수준에 그쳤다. 예를 들어 환불을 요청해도 텍스트로 환불 방법을 소개해줄 뿐이었다. 하지만 AI 챗봇은 사용자 과거 이력 학습이 가능하다. 소위 ‘진상 고객’이 아니라고 판단하면 직접 환불 프로세스를 호출해 문제를 해결한다. 전문 상담원 수준의 역량이다.

[최창원 기자 choi.changwon@mk.co.kr]

뉴스모음