“블랙웰 구독하세요”… 삼성SDS, ‘B300 GPUaaS’ 국내 최초 출시

김태호 기자

입력2026-03-23 08:48

수정2026-03-23 09:58

지면 14면

삼성SDS(삼성에스디에스(018260))는 국내 최초로 엔비디아 최신 그래픽처리장치(GPU) B300 모델 GPU 구독 서비스(GPUaaS)를 출시했다고 23일 밝혔다.

이번 ‘B300 GPUaaS’는 최근 기업들이 인공지능(AI) 모델 개발을 넘어 실제 서비스에 적용하는 AI 추론 단계로 진입함에 따라 급증하는 고성능 컴퓨팅 수요에 대응하기 위해 출시됐다. B300 GPU는 고대역폭메모리인 12단 HBM3E를 탑재했다. GPU당 288기가바이트(GB)의 메모리 용량과 초당 8테라바이트(TB)의 대역폭을 제공한다. 복잡한 연산이 필요한 AI 추론 영역에서 엔비디아의 H100 모델과 비교해 용량은 3.6배, 대역폭은 2.4배로 메모리 성능이 향상됐다. 이에 따라 대규모언어모델(LLM) 실행 시 메모리의 느린 데이터 전송 속도로 GPU의 전반적인 성능이 저하되는 데이터 병목 현상이 획기적으로 개선됐다.

B300 GPUaaS는 삼성SDS 자체 클라우드인 삼성 클라우드 플랫폼(SCP)을 통해 사용할 수 있다. 삼성SDS는 2021년 A100, 2023년 H100 기반 GPUaaS를 선보이며 GPU가 AI 전용 인프라로 활용될 수 있도록 GPUaaS 생태계를 구성해 왔다.

B300 GPUaaS를 도입하는 고객은 고용량 메모리를 통해 거대 AI 모델을 효율적으로 처리할 수 있다. AI 에이전트, 이미지·영상·코드 생성 및 분석 등 고성능이 필요한 AI 서비스의 지연 시간을 최소화할 수 있다.

또한 필요한 만큼만 GPU를 쓰고 사용료를 지불하는 구독형 모델을 이용하면 초기 투자 비용을 효율화할 수 있다. GPU 수급이 어려운 상황에서도 SCP를 통해 엔비디아의 최신 아키텍처를 즉시 업무에 도입할 수 있다. 삼성SDS의 보안 역량이 결합한 안전한 클라우드 환경에서 민감한 기업 데이터를 처리한다는 이점도 있다.

삼성SDS는 올해 3분기 중 새로운 GPUaaS 구독 모델도 선보일 계획이다. AI 모델을 적용할 때 별도의 인프라 사용료 없이 사용한 토큰 양 만큼만 비용을 지불하는 ‘서버리스 추론 서비스’와 개발자가 코드와 데이터를 입력하면 자동으로 즉시 AI를 분산 학습시키는 ‘AI 학습 서비스’ 등이다.

삼성SDS 이호준 클라우드서비스사업부 부사장은 “국내 최초  B300  GPU 서비스로 산업의 AI 전환(AX) 전환을 적극 지원하겠다“고 말했다.

김태호 기자