[아이티데일리] 인공지능(AI), 특히 생성형 AI(Generative AI)에 대한 기업들의 기대감이 고조되고 있는 가운데, 이를 도입해 기업의 생산성과 경쟁력을 향상시키려는 움직임이 가속화되고 있다. 단적인 예로 기업들은 AI 개발 및 실행을 위해 2026년까지 약 346억 달러(약 46조 원)를 서버 구입에 사용할 것으로 추산되며, 이는 전 세계 서버 지출 총액의 약 22%에 해당하는 액수다.

그러나 서버만이 AI 프로젝트의 전체 그림을 구성하는 것은 아니다. AI 준비(preparation), 개발, 프로토타이핑을 비롯해 점점 AI 배포까지도 ‘워크스테이션(workstation)’에서 이뤄지고 있다. 최근 기업들이 신규 비즈니스를 위해 AI 모델링을 파일럿 프로젝트로 진행하는 경우가 많은데, 이를 위해 자체적으로 인프라를 구축하기 어렵다 보니, 퍼블릭 클라우드를 활용하는 기업들이 많다.

문제는 이 경우 하드웨어 성능이 만족스럽지 않거나, 더 높은 성능을 확보하려면 비용에 대한 부담이 커진다는 점이다. 이들 기업의 당면 과제는 클라우드 인스턴스나 GPU-가속 데이터센터 서버에 막대한 비용을 들이지 않고도 AI 데이터 사이언티스트나 개발자들이 적시에 AI 학습을 수행할 수 있는 최적의 도구를 제공하는 것이다.

강력한 성능의 워크스테이션은 시간과 공간에 구애받지 않고 언제든 사용할 수 있다는 점과, 데이터 접근성이 높다는 점에서 AI 프로젝트를 성공적으로 수행할 수 있는 매우 이상적인 디바이스라고 할 수 있다. AI 혁신을 위한 최적의 도구로서 ‘워크스테이션’이 주목받는 이유가 여기에 있다.

워크스테이션, AI 프로젝트 실행을 위한 강점 갖춰

워크스테이션은 일반적으로 고성능 부품으로 구성되고, 독립 소프트웨어 업체(Independent Software Vendor; ISV)의 인증을 받은 소프트웨어를 구동하기 때문에 PC보다 더 우수한 작업 효율을 발휘한다. 인텔 제온 스케일러블(Intel Xeon Scalable) 프로세서와 같은 고성능 프로세서가 탑재되며, NVIDIA RTX 6000 에이다(Ada) 세대 GPU 등의 전문가용 GPU가 장착된다. 일부 제품들은 최대 60TB의 스토리지를 제공하고, I/O 속도가 PC보다 훨씬 빠르며, 6TB 이상의 메모리를 지원한다.

과열을 방지하고 최적의 성능을 유지할 수 있는 최적의 냉각 기능 또한 갖추고 있다. 원격 서버에 저장된 대규모 데이터 세트를 기반으로 작업하는 데이터 사이언티스트에게는 데이터를 보다 빠르고 효율적으로 전송하기 위한 고속 네트워크 인터페이스 카드(NIC)가 필수적인데, 워크스테이션에는 이 같은 부품도 장착돼 있다. 또한 워크스테이션에 탑재된 오류 수정 코드(ECC) 메모리는 가장 일반적인 종류의 내부 데이터 손상을 감지하고 수정해 장시간의 AI 학습 실행 중 블루 스크린 오류을 방지하며, 의료 등 생명과 직결되는 작업에서 매우 중요한 요건인 ‘결과의 정확도’를 보장한다.

데이터센터 서버와 달리, 데이터 사이언티스트가 시간과 공간의 제약 없이 AI 모델을 자유롭게 실험하고 필요한 만큼 끊임없이 반복할 수 있도록 지원한다는 강점도 있다. 워크스테이션 사용자는 서버에 액세스를 요청해야하는 등 데이터센터의 여러 제약에 부딪힐 필요 없이 강력한 GPU에 기반해 AI 모델에 대한 보다 즉각적인 피드백과 결과를 얻을 수 있다. 또한 컴퓨팅을 데이터 소스에 가까이 이동시켜 대역폭을 절감하고, 네트워크 혼잡을 줄이며, 처리량을 늘릴 뿐만 아니라, 전통적인 머신러닝(ML) 작업이나 딥러닝(DL) 집약적인 작업 등 다양한 요구사항에 맞게 구성할 수 있다.

아울러 워크스테이션은 클라우드 가용성, 보안 및 규정 준수, 비용과 같은 퍼블릭 클라우드의 한계를 해결하면서 마이크로서비스 기반 아키텍처 및 API 기반 자동화와 같은 클라우드 네이티브 기술을 원활히 활용할 수 있다. 보안 수준이 높은 여러 환경들은 퍼블릭 네트워크로부터 에어 갭을 구현하는데, 워크스테이션 사용자들은 퍼블릭 클라우드에 의존할 필요가 없이 AI 모델을 개발할 수 있고, 로컬 리소스를 활용하기 때문에 네트워크 연결 비용도 절감할 수 있다.

더불어 IoT 및 기타 커넥티드 디바이스가 확산되면서 엣지 로케이션에 수집되는 데이터 또한 기하급수적으로 증가하고 있기 때문에 컴퓨팅 리소스를 워크스테이션에 코로케이션하는 것이 현명한 선택일 수 있다. 클라우드에서 데이터를 이동하기 위해서는 기업의 여러 컴플라이언스 요건을 충족시켜야 하는데, AI 개발을 위한 컴퓨팅 리소스를 워크스테이션에 배치하면 데이터 접근성도 개선하고, 컴플라이언스 문제도 해결할 수 있기 때문이다.

워크스테이션에서의 AI 배포, 퍼블릭 클라우드의 한계를 보완해

기업들은 2020년부터 2024년 사이에 엣지 구축 비용을 3배 이상 늘리는 등, AI 등 컴퓨팅 집약적인 워크로드를 엣지 로케이션에 점점 더 많이 배포하고 있다. 워크스테이션은 대규모 데이터 세트를 업로드하는 데 걸리는 시간, AI 훈련을 수행하는데 드는 가변적 비용 등 퍼블릭 클라우드의 한계를 보완할 수 있으며, 특히 엣지에서 워크스테이션에 AI 모델을 배포하는 경우는 하이엔드 GPU가 필수 사항이 아니라는 장점도 있다.

더 가벼운 GPU로도 AI 추론을 수행할 수 있으며, GPU가 전혀 필요하지 않은 경우도 상당수 있다. 특히 AI 추론을 포함, AI 워크로드를 가속화하기 위해 설계된 인텔 마이크로 프로세서의 명령어 세트인 ‘인텔 DL 부스트(Intel DL Boost)’와 같은 최적화 기능은 CPU만으로도 추론 작업을 보다 원활히 수행할 수 있도록 지원한다.

워크스테이션 상에서 배포하는 AI는 이미 다양한 분야에 적용되고 있다. 일례로 영상의학 분야에서는 이미징 기술이 비약적으로 발전함에 따라 영상 파일의 크기 또한 비대해져 현장에서 즉각적으로 파일을 처리하고 분석할 필요성이 커지고 있다. 수백만 건의 사례를 학습한 AI 모델을 워크스테이션에서 구동함으로써 빠른 속도로 정확한 분석 결과를 도출할 수 있다. 암 연구 방면에선 자연어 처리를 통해 각 환자에 최적화된 치료 방법을 제공하며, 컴퓨터 비전을 통해 종양의 전이를 보다 체계적으로 관찰하고 있다. AI를 통해 실시간으로 환자의 맥박, 호흡, 체온, 혈압 등의 활력 징후를 모니터링하고, 과거 의료 기록을 분석해 맞춤형 처방을 내리는 원격 의료에도 워크스테이션이 필수적이다.

보험 업계에서는 AI를 통해 보험금 지급 심사 절차를 자동화해 쓰루풋을 확대하고 비용 절감을 달성하고 있다. 공장 가동을 지속하는 것이 핵심인 제조업에서는 공장 가동시간을 유지하기 위한 선제적 의사 결정을 내리고, 공급망을 최적화하고, 설비 고장을 자동 감지하는 데 AI를 활용해 안전 사고를 줄이고 생산성을 증대할 수 있다.

전세계 워크스테이션 1위, 델 프리시전 워크스테이션

델 테크놀로지스는 업계 선도적인 ‘델 프리시전(Dell Precision)’ 워크스테이션 제품군을 통해 AI 모델 설계, 학습, 추론부터 데이터 사이언스, 머신 러닝, 이미지 분석, 생성 AI에 이르기까지 다양한 AI 개발 워크로드를 실행하도록 지원하고 있다.

그 중 델 데이터 사이언스 워크스테이션(Dell Data Science Workstations) 시리즈는 AI 개발 및 배포를 위해 설계됐으며, 고객들에게 통합 솔루션을 제공하고자 인텔, 엔비디아, 마이크로소프트, 캐노니컬 등과 같은 주요 전략적 파트너의 기술을 포함하고 있다.

또한 ‘델 프리시전’은 AI 개발 및 배포를 지원하는 소프트웨어와 툴을 이미 내장하고 있어 사용자들이 AI 프로젝트를 보다 손쉽게 시작할 수 있다. 멀티 코어 프로세서, 대용량 RAM, 여러 GPU 옵션 등 다양한 고성능 하드웨어 구성을 제공하며, 특히 최대 4개의 NVIDIA RTX 6000 에이다 세대 GPU를 통해 이전 세대보다 AI 소프트웨어 프레임워크를 80% 더 빠르게 실행하도록 지원한다. 또한 탁월한 확장성을 갖췄고, 고객의 AI 요구사항에 맞춰 하드웨어 구성을 조정하고 최적화할 수 있다.

특히 주목할 만한 것은 ‘델 프리시전’이 ‘델 옵티마이저(Dell Optimizer)’라는 AI 기반 최적화 소프트웨어를 내장한다는 점이다. ‘델 옵티마이저’는 사용자가 가장 많이 사용하는 애플리케이션 혹은 사용자가 지정한 최대 5개의 애플리케이션 성능을 자동으로 최적화할 뿐만 아니라, 일부 워크스테이션에서는 사용자의 접근을 인식해 사용자가 다가오면 절전 모드를 해제하고 멀어지면 시스템이 잠기는 근접 센서 기반 로그인 기능도 제공한다. 이를 통해 데이터 사이언티스트나 개발자들의 생산성을 크게 향상시킬 수 있다.

AI 혁신을 가속화하는 최적의 도구, 워크스테이션

국내 AI 시장은 향후 5년간 연평균 성장률 14.9%를 기록하며 2027년까지 4조 4,636억 원 규모에 이를 것으로 전망된다. AI에 대한 높은 관심만큼이나 많은 기업들이 다양한 AI 프로젝트를 진행하고 있다. 그러나 어떤 분야에 어떤 AI가 적합하고 AI 도입을 위해 준비해야 할 사항, 그리고 AI가 변화시킬 비즈니스 프로세스에 대한 명확한 비전과 전략을 수립해야 성공적인 AI 도입이 가능하다.

워크스테이션은 막대한 투자 설비 없이 AI 혁신을 가속화하는 최적의 도구로서 그 역량을 입증하고 있다. AI 프로젝트를 위한 워크스테이션의 적극적인 도입과 최적의 활용이 기업 경쟁력의 중요한 요소로 자리매김할 것으로 보인다.