▲ 이강원 SK텔레콤 소프트웨어 기술원장

[아이티데일리] SK텔레콤이 국내 기업 중에서는 처음으로 인공지능(AI) 비즈니스를 위한 데이터센터 인프라에 FPGA(프로그래밍 가능한 반도체)를 대규모로 채택, 활용한다. GPU(그래픽처리장치) 기반의 가속기를 활용해 AI를 위한 딥러닝 추론이나 학습 등을 수행하는 것이 최근의 추세이지만, SK텔레콤은 지난 6월경부터 음성인식의 추론 작업에 효율적으로 프로그래밍해 사용할 수 있는 FPGA를 도입함으로써 성능과 전력소모, 데이터센터 상면 공간 효율화 측면에서 많은 이점을 거뒀다고 설명했다.

16일 SK텔레콤(사장 박정호)과 자일링스코리아(지사장 안흥식)가 공동 기자간담회를 개최, SK텔레콤의 데이터센터에 AI 가속기로 자일링스 FPGA를 배치했다고 발표했다.

자일링스의 ‘킨텍스 울트라스케일(Kintex UltraScale)’ FPGA는 현재 SK텔레콤의 음성인식 플랫폼인 ‘누구(NUGU)’를 가속화하기 위해 SK텔레콤의 자동 음성 인식(ASR, automatic speech recognition) 애플리케이션을 구동하고 있다.

이강원 SK텔레콤 소프트웨어 기술원장은 발표를 통해 “ASR 애플리케이션에서 GPU에 비해 최대 5배 이상의 성능을 보였으며, 특히 16배 향상된 와트당 성능을 달성했다”고 밝혔다. SK텔레콤의 자일링스 FPGA 도입은 한국에서 대규모의 데이터센터를 위해 AI 도메인에서 FPGA 가속기를 상용 채택한 최초의 사례다.

FPGA 기반 가속기는 기존 CPU 전용 서버에 효율적인 자일링스 FPGA 애드인(Add-In) 카드를 추가해 ASR 애플리케이션 서버의 총소유비용(TCO)을 낮춰 준다. ASR 서버는 빈 슬롯에 자일링스 FPGA 카드를 사용, 쉽고 간단하게 여러 음성 서비스 채널을 가속화한다. 하나의 FPGA 카드는 단일 서버의 성능보다 5배 이상 뛰어나므로 상당한 비용 절감 효과가 있다는 게 자일링스 측 설명이다.

▲ SK텔레콤은 자일링스 FPGA를 도입, ASR 애플리케이션에서 GPU에 비해 최대 5배 이상의 성능을 보였으며, 특히 16배 향상된 와트당 성능을 달성했다고 밝혔다.

이강원 SK텔레콤 소프트웨어 기술원장은 “지난 몇 년간 이 산업이 성장하고 발전하는 것을 지켜봤으며, AI 가속기를 개발하는데 앞장서고 있다는 것에 자부심을 느낀다. 자일링스 ‘KCU1500’ 보드와 SK텔레콤의 자체 비트스트림 이미지를 기반으로 한 솔루션을 설계함으로써, 비용 효율적이며 고성능 애플리케이션을 개발했다”고 설명했다.

라민 론(Ramine Roane) 자일링스 소프트웨어 및 AI솔루션 부문 제품 마케팅 겸 제품 기획 담당 부사장은 “AI의 경우 기술의 혁신 속도가 매우 빠른데, 기존 GPU와 같은 실리콘 칩 하드웨어 가속기들은 이 속도를 따라가지 못해 빠르고 효율적인 지원이 어렵다”면서, “FPFA는 새롭게 프로그래밍하는 것으로 빠르게 새로운 기술을 도입할 수 있다. 향후에는 7nm(나노미터) 공정 도입 등 자일링스의 실리콘 자체 기술을 더욱 개선하는 방향으로 AI기술을 지원해나갈 것”이라고 말했다.

매니시 뮤탈(Manish Muthal) 자일링스 데이터센터마케팅 부사장은 “한국에서 최초로 SK텔레콤의 AI 데이터센터에 자일링스의 FPGA를 공급할 수 있는 기회를 갖게 돼 매우 기쁘다. 이번에 공급하는 자일링스의 ‘킨텍스 울트라스케일 KCU1500’ FPGA는 애플리케이션에서 자일링스가 경쟁력을 갖고 있음을 보여준다. 앞으로도 자일링스는 데이터 센터 가속화에 우리의 기술 역량과 혁신을 집중해 나갈 것”이라고 밝혔다.

한편, SK텔레콤의 FPGA 기반 AI솔루션은 오는 10월 1~2일 미국 실리콘 밸리와 10월 16일 중국 베이징에서 개최되는 자일링스 개발자 포럼(XDF, Xilinx Developer Forum)에서 시연될 예정이다.