생성형 인공지능(AI) 시장의 주도권을 잡기 위한 빅테크 간 전장(戰場)이 웹에서 스마트폰으로 옮겨가고 있다. 클라우드에 접속 후 대규모 연산을 통해 답을 도출하는 AI 서비스가, 인터넷 접속 없이 스마트폰과 같은 단말기 내에서 답변을 해주는 ‘온디바이스(On-Device)’ 형태로 진화하고 있는 것.
특히 글로벌 스마트폰 점유율(출하량 기준) 1·2위를 다투고 있는 삼성전자와 애플 간의 온디바이스 AI 경쟁이 치열해질 것이라는 분석이 제기된다. 실제 삼성전자는 내달 공개하는 ‘갤럭시S24’ 라인업에 자체 AI 서비스 ‘가우스(Gauss)’를 탑재할 것으로 알려졌으며, 애플 또한 내년 9월께 선보일 ‘아이폰16’ 라인업에 자체 생성형AI 탑재를 계획중이다. 여기에 애플리케이션프로세서(AP) 설계 업체인 퀄컴이나 미디이텍 또한 온디바이스 AI가 가능한 신경망처리장치(NPU) 등 뉴럴엔진 개발에 집중하고 있어 ‘손안의 AI’ 시장 쟁탈전이 한층 치열해지는 모습이다.
‘시리’ 업그레이드로…AI 패권 노리는 애플
11일 IT 업계에 따르면 애플은 음성인식 AI비서 서비스 ‘시리(Siri)’의 음성인식률을 높이기 위해 내년 출시되는 아이폰16 시리즈부터 마이크 성능을 대폭 개선할 계획이다. 애플은 AI 음성인식 정확도를 높이는 한편 iOS 업그레이드를 통해 AI 관련 각종 부가 기능을 제공할 예정이다.
애플은 여기에 더해 자체 초거대언어모델(LLM) ‘애플GPT(가칭)’ 개발에 매진하고 있다. 애플GPT는 애플이 자체 보유한 LLM 프레임워크 ‘에이젝스(Ajax)’를 기반으로 하며, 내년께 공개될 예정이다. 다만 스티브 잡스 애플 창업자가 떠난 뒤 애플 서비스의 무게 중심이 ‘혁신’ 보다는 ‘안정성 및 사용자 경험 강화’로 옮겨간 만큼 애플GPT 공개 시점이 다소 연기될 수 있다는 분석도 나온다.
애플 측은 ‘챗GPT 열풍’ 이후 생성형 AI 경쟁에서 마이크로소프트, 구글, 메타(옛 페이스북) 등 여타 빅테크 대비 뒤쳐지고 있다는 우려를 받고 있다. 이에 대해 팀쿡 애플 최고경영자(CEO)는 올 8월 실적 발표 컨퍼런스콜에서 “우리도 AI 분야 연구를 계속하고 있다”며 생성형 AI 서비스를 내년께 공개할 것이라는 의사를 내비친 바 있다.
애플이 AI 시장에서 가진 잠재력은 상당하다. 포렉스닷컴 조사결과에 따르면 애플은 혁신점수 9.03점으로 삼성전자(9.25점)에 이어 글로벌 2위를 기록 중인데다 무형자산 규모는 2조2970억 달러로 압도적 1위다. 다만 글로벌 주요 기업의 지난해 기준 R＆D 투자액 순위에서 아마존이 817억 달러를 압도적 1위를 기록 중인 반면 애플의 투자액은 293억달러로 구글(294억달러)에도 뒤지는 만큼 보다 공격적 투자가 필요하다는 지적도 제기된다. 참고로 오픈AI의 영리법인 지분 49%를 보유한 마이크로소프트의 R&D 투자액은 272억달러 수준이다.
“AI 답변 늘어날수록 손실”…온디바이스AI 필수
애플의 온디바이스 AI 강화는 필수라는 분석도 제기된다. 클라우드 형태로 AI 서비스를 제공할 경우 답변에 따른 ‘지연시간(Latency)’ 문제로 서비스 끊김 이 발생할 수 있는데다, 매 답변시 클라우드를 활용할 경우 연산에 따른 전기요금 및 관련 인프라 구축 등으로 엄청난 비용을 지출해야 하는 탓이다.
실제 글로벌 대표 챗봇형 AI 서비스인 오픈AI의 챗GPT는 매 답변 시 10센트 가량의 비용이 들며, 이는 구글이나 빙 등을 활용한 웹검색 시 소요되는 비용 대비 100~200배 많은 수준이다. 클라우드 기반 생성형AI를 무료로 제공할 경우 천문학적 운영비용이 필요한 셈이다.
오픈AI의 지난해 영업손실 규모는 5억4000만 달러 수준이며, 올해 손실 규모는 전년 대비 몇 배 불어났을 것으로 전망된다. 이 때문에 오픈AI는 월 20달러를 내면 사용 가능한 유료 서비스 ‘챗GPT플러스’의 신규 가입자 모객을 지난달 중순부터 중단한 상태다. 오픈AI 측은 지난달 ‘일시적으로 신규 가입을 중단하겠다’고 밝혔지만 한달여가량 지난 지금까지도 대기명단에 등록만 가능할뿐 신규 가입은 불가능하다. 챗GPT 플러스에 가입하면 오픈AI의 최신 LLM인 ‘GPT4’ 및 이미지를 만들어 주는 생성형 AI ‘달E(DALL·E)’를 사용할 수 있는데 이들 서비스는 기존 GPT3.5 대비 훨씬 많은 파라미터(매개변수) 및 연산이 필수다. 개별 소비자가 지출하는 월 20달러로는 생성형AI 인프라 구축비용 및 관련 전기요금을 감당하기 힘든만큼, 지속가능한 생성형AI 서비스를 위해서라도 온디바이스AI가 필수인 셈이다.
‘가우스전자’로 변신하는 삼성…AI 주도권 쥔다
삼성전자 또한 온디바이스 기반의 AI를 통해 ‘제2의 아이폰 모먼트’로 불리는 생성형AI 시장에서 주도권을 쥐겠다는 계획이다. 삼성전자는 지난달 서울R＆D캠퍼스에서 개최된 ‘삼성 AI 포럼 2023’에서 삼성리서치에서 개발한 생성형 AI 모델 ‘삼성 가우스’를 공개한 바 있다. 삼성 가우스는 △텍스트 생성 모델 △코드 생성 모델 △이미지 생성 모델 등 3가지로 구성돼 있다. 삼성 측은 “삼성리서치가 개발한 다양한 온디바이스 AI 기술이 탑재된 제품을 사용할 경우 소비자들은 개인정보 전송없이 기기 제어, 문장 요약, 문법 교정 등을 더 쉽고 편리하게 이용할 수 있다”며 “삼성전자는 이러한 생성형 AI 모델들을 다양한 제품에 단계적으로 탑재할 계획”이라고 밝힌 바 있다. 삼성 가우스를 활용할 경우 외국인과의 통화 시 실시간 통역 등의 서비스도 가능하다.
삼성전자는 온디바이스 AI를 위해 자체 개발한 AP의 AI 성능 강화에도 박차를 가하고 있다. 삼성전자가 올 10월 공개한 ‘엑시노스 2400’은 전작 ‘엑시노스 2200′ 대비 중앙처리장치(CPU) 성능은 1.7배 높였으며 인공지능(AI) 성능은 무려 14.7배 향상시켰다. 삼성전자는 내달 출시하는 갤럭시S24 일반 모델에 엑시노스2400을 탑재할 것으로 알려졌으며, 향후 압도적 AI성능을 기반으로 글로벌 AP 시장에서 엑시노스의 존재감을 높여나간다는 계획이다. 삼성전자는 2019년 선보인 ’엑시노스 9820‘부터 독자 개발한 NPU 아키텍처를 사용 중이다.
글로벌 스마트폰 운영체제(OS) 시장의 70% 이상을 차지하고 있는 안드로이드 OS 서비스 업체 구글 또한 온디바이스 AI 시장 개척에 적극적이다. 구글은 이달 공개한 ‘제미나이 나노’ 모델을 두달 전 출시한 ‘구글 픽셀8 프로’에 탑재할 예정으로, 차별화된 온디바이스AI 경쟁력을 보여줄 것으로 전망된다. 제미나이의 ‘나노1’ 모델 매개변수는 18억개, ‘나노2’ 모델 매개변수는 32억5000만개 수준이며 이들 모델의 다운로드 용량은 1GB 수준에 불과해 최적화된 온디바이스AI가 가능할 전망이다.
‘제미나이 나노’의 매개변수가 챗GPT의 매개변수(1750억개) 대비 100분의 1 수준인 것을 감안하면 성능에 대한 우려도 제기된다. 반면 구글 측은 스마트폰에 사용할 수 있는 간단한 텍스트형 답변 등은 제미나이 나노 만으로 가능할 것이라 보고 있다. 점점 상향 평준화 되고 있는 스마트폰 시장에서 생성형AI가 핵심 경쟁력으로 부상할 경우, 구글이 삼성전자와 애플의 점유율을 상당부분 앗아갈 수 있는 구조다.
퀄컴·미디어텍 “스마트폰용 AI? 우리 칩 없으면 안돼”
이같은 온디바이스 AI 시장 부상에 따라 AP설계 업체들의 신경망칩(NPU) 기술 고도화 경쟁도 격화될 전망이다. 퀄컴은 올 10월 개최된 ‘스냅드래곤 서밋 2023’에서 ‘스냅드래곤8 3세대’를 공개하며 NPU 부문의 경쟁 우위를 강조하고 있다. 알렉스 카투지안 퀄컴 수석부사장은 당시 “6년간의 노력 끝에 퀄컴의 NPU 성능은 스냅드래곤 컴퓨팅에서 100배가량 증가했다”며 “이 중 신규 ‘헥사곤’ NPU는 경쟁사 제품 대비 4배 이상 성능이 뛰어나다”고 밝힌 바 있다. 스냅드래곤8 3세대가 생성형 AI 서비스에 최적화된 제품이라는 뜻이다.
실제 스냅드래곤8 3세대는 ‘제미나이 나노’의 매개변수 대비 5배 가량 많은 100억개 가량의 매개변수 처리가 가능하며, 해당 AP에 탑재된 헥사곤 NPU는 45TOPS(1TOPS=1초에 1조번 연산 가능)의 성능을 갖추고 있다.
퀄컴이 빅테크와 손잡고 온디바이스AI 시장 판도를 주도할 수 있다는 전망도 제기된다. 퀄컴은 올 7월 메타와의 협업 계획을 밝히며, 메타의 자체 LLM ‘라마2(LLaMA 2)’를 스냅드래곤 최신 모델이 탑재된 스마트폰에서 구동 가능토록 하겠다고 밝힌 바 있다.
올 2분기 글로벌 AP 시장에서 30%의 점유율(카운터포인트 기준)을 기록하는 등 글로벌 AP 시장에서 수년 째 점유율 1위자리를 지키고 있는 미디어텍 또한 지난달 AI 성능을 강화한 ‘디멘시티9300’을 선보이며 온디바이스AI 시장 장악에 힘을 쏟고 있다.
디멘시티 9300에는 미디어텍이 자체 개발한 NPU ‘APU(AI Processing Unit)790’이 탑재됐다. APU790은 현재 생성형AI 기술 표준으로 분류되는 ‘트랜스포머’ 기반 생성형 AI를 전작 대비 8배 가량 빠르게 처리하는 등 AI성능이 크게 강화됐다. 기본 연산속도는 2배 이상인 반면 전력효율은 45% 가량 끌어올린 점도 눈에 띈다.
여기에 디멘시티9300은 ‘스냅드래곤8 3세대’ 대비 3배 이상 많은 최대 330억개의 매개변수 처리가 가능하다. LLM을 특정 목적에 최적화해 제공하는 파인튜닝의 일종인 ‘로라(LoRA·Low-Rank Adaptation of Large Language Models) 퓨전’을 사상 최초로 지원하는 점 또한 강점이다.
글로벌 1위 파운드리 업체 TSMC의 최대 고객사인 애플 또한 내년도 출시되는 신형 AP의 AI 성능을 보다 업그레이드 할 것으로 전망된다.
애플은 이미 최근 선보인 AP에서 AI 성능을 갑절로 끌어올린 바 있다. 애플의 ‘아이폰15 프로’ 라인업에 탑재된 AP ‘A17 프로’에는 애플의 7세대 뉴럴엔진이 탑재됐으며, ‘A16 바이오닉’의 성능인 17 TOPS 대비 2배 이상 높은 35TOPS의 성능을 자랑한다. 다만 퀄컴이 최근 공개한 스냅드래곤8 3세대에 탑재된 헥사곤 NPU가 45TOPS의 성능을 자랑한다는 점에서 이후 출시될 ‘A18 프로’ 라인업의 NPU 성능은 한층 업그레이될 것으로 전망된다. 실제 내년 9월 출시될 ‘아이폰16 프로’ 라인업에 탑재될 것으로 전망되는 A18프로 AP는 TSMC의 2세대(N3E) 3나노 공정으로 제작되며, AP 미세공정 경쟁이 한계에 달한 만큼 AI 성능 고도화를 차별화 포인트로 내세울 것으로 전망된다.
中 비보·샤오미, AI 열풍에 판매량 급증
이 같은 온디바이스 AI 시장 확대는 스마트폰 수요 확산으로 이어질 전망이다. 시장조사기관 모건 스탠리는 내년 스마트폰 출하량이 올해 대비 4.0% 늘어나고, 2025년의 성장률은 4.4%에 달할 것으로 전망했다. 골드만삭스 또한 내년 스마트폰 출하량을 올해 대비 3% 증가한 11억8600만대로, 2025년 출하량은 5% 증가한 12억9000만대로 각각 예상하기도 했다.
이 같은 AI시장 변화에 가장 빠르게 대응하는 곳은 중국이다. 실제 중국 스마트폰 업체 비보는 지난달 신형 스마트폰 ‘X100’과 ‘X100 프로’를 공개했으며, 이들 스마트폰 판매량은 전작의 판매량을 크게 상회하는 것으로 알려졌다. 블루LM의 매개변수는 온디바이스AI에 적합한 70억개 수준으로 알려졌으며, 비보 측은 블루LM의 차별화된 성능이 이 같은 높은 판매량으로 이어졌다는 입장이다. 가성비(가격 대 성능비) 스마트폰의 대명사인 샤오미는 올 10월 AI 성능을 강화한 플래그십 스마트폰 ‘샤오미14’을 출시했으며, 해당 스마트폰의 판매량은 일주일만에 100만대를 넘어서는 등 ‘샤오미가 부활했다’는 평가가 나온다. 샤오미는 올들어 디비털 비서 ‘샤오AI’를 업그레이드 했으며, 샤오AI의 온디바이스AI는 매개변수 60억개 수준으로 알려졌다. 샤오미 또한 온디바이스AI 기능 업그레이드가 판매량 증가로 이어졌다 보고 있다. 중국은 온디바이스AI를 출시하더라도 낮은 기술력 등으로 글로벌 주목도가 덜한 반면, ‘애국소비’ 등으로 자국내 스마트폰 수요는 탄탄하다. 애플·삼성·구글과 같은 글로벌 빅테크 대비 서비스 품질이 조악하더라도, 실험적인 AI 출시가 가능한 이유다.
IT 업계 관계자는 “현재 선보이고 있는 생성형AI 서비스는 코딩 등 SW 기반의 단순 반복작업에 활용할 경우 사용성이 높기 때문에 개발자들에게 선호가 높은 반면 일반인들은 일상을 바꿀 만큼의 사용성을 느끼지 못하고 있다”며 “반면 온디바이스 AI 서비스가 본격화 될 경우 문자메시지 작성 및 실시간 통역 등 스마트폰에서 다양하게 활용될 수 있어, 생성형AI 시장 확대의 기폭제가 될 수 있다”고 밝혔다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
chopin@sedaily.com
