IBM, 인공지능(AI) 기술 개발 가속하는 칩 ‘노스폴’ 개발

[아이티데일리] 실리콘밸리의 심장부인 캘리포니아 산호세 소재 IBM 연구원들이 사람의 두뇌에서 영감을 받은 ‘훨씬 적은 전력으로 더 빠르게 작업함으로써 인공지능(AI) 기술 개발에 박차를 가할 수 있는 컴퓨터 칩을 개발했다고 네이처 온라인판이 보도했다. 개발 관련 상세 연구는 사이언스지에도 실렸다.

개발된 대규모 칩은 노스폴(NorthPole)로, 이 칩을 사용하면 외부 메모리에 자주 접근할 필요를 없애고, 다른 칩에 비해 훨씬 적은 전력을 소비하면서 기존 아키텍처보다 이미지 인식과 같은 작업을 더 빠르게 수행한다.

프랑스 중북부 팔레조(Palaiseau)에 있는 파리 사클레이 대학의 나노전자공학 연구원 데미안 퀘를리오즈는 사이언스지에서 "노스폴의 에너지 효율은 놀랍다. 개발 결과는 컴퓨팅과 메모리를 대규모로 통합할 수 있다는 사실을 보여준다"고 말하고 "이 개발이 컴퓨터 아키텍처의 일반적고 상식적인 생각을 뒤흔들 것이라고 생각한다"고 평가했다.

노스폴은 데이터 패턴을 인식하도록 프로그래밍된 간단한 계산 단위의 다층(멀티 레이어) 배열인 신경망을 실행한다. 맨 아래 층은 이미지의 픽셀과 같은 데이터를 가져온다. 각 연속 층은 복잡도가 증가하는 패턴을 감지하고 정보를 다음 층으로 전달한다. 맨 위 층은 예컨대, 이미지가 고양이, 자동차 또는 다른 물체를 포함할 가능성을 표현하는 출력을 생성한다.

일반 컴퓨터 칩은 이러한 계산을 효율적으로 처리할 수 있지만, 층에서 계산할 때마다 외부 메모리를 사용한다. 그렇게 되면 칩 사이(CPU와 메모리 사이)에 데이터를 교환하는 과정에서 속도가 느려진다. 이른바 컴퓨터 표준 아키텍처를 처음 고안한 수학자 존 폰 노이만의 이름을 딴 ’폰 노이만 병목 현상‘이다.

폰 노이만 병목 현상은 AI를 포함한 컴퓨터 응용 프로그램의 속도를 저하시키는 가장 중요한 요인 중 하나다. 이는 또한 에너지 비효율을 초래한다. 노스폴 개발팀원인 IBM의 컴퓨터 엔지니어 다멘드라 모다는 이러한 전통적인 컴퓨터 아키텍처에서 인간의 뇌를 시뮬레이션하는 것은 원자로 12기의 출력과 동등한 수준을 요구할 것으로 추정한다고 말했다.

노스폴은 256개의 컴퓨팅 유닛, 즉 코어로 구성되며 각 유닛에는 자체 메모리가 포함되어 있다. 산호세에 있는 IBM의 알마덴 연구센터의 수석 연구원인 모다는 "코어 내에 메모리가 포함되어 있기 때문에 폰 노이만 병목 현상이 대폭 완화된다“고 말했다.

모다는 또 노소플의 각 코어는 인간 대뇌 피질 사이의 백질 연결에서 영감을 얻은 네트워크로 함께 연결되어 있다고 밝혔다. 대부분 이전에 존재했던 개념이지만 하나의 칩에 결합된 적은 없었는데, 이를 통합한 것이다. 이를 통해 노스폴은 이미지 인식에 대한 표준 벤치마크 테스트에서 상당한 차이로 기존 AI 머신 성능을 능가했다.

게다가 노스폴은 기존의 최첨단 AI 칩에 비해 소비 전력을 5분의 1로 줄였다. 무려 80%나 절감하게 된 것이다. 만약 노스폴이 최신 반도체 제조 공정으로 생산된다면 효율성은 현재 설계보다 25배 더 좋아질 것이라고 연구팀은 추정했다.

다만 노스폴의 메모리는 충분치 않다는 한계가 있다. 메모리는 224MB(메가바이트)로 챗GPT에서 사용하는 것과 같은 대규모 언어 모델에는 충분하지 않다. 챗GPT는 가장 간단한 버전에서도 수천 메가바이트의 데이터를 차지한다. 이 칩은 또 별도의 기계에서 미리 '훈련'해야 하는 사전 프로그래밍된 신경망만 실행할 수 있다. 연구팀은 다만 노스폴 아키텍처가 자율주행차와 같이 속도가 중요한 애플리케이션에 유용할 수 있다고 말했다.

노스폴은 메모리를 코어의 컴퓨팅 요소에 물리적으로 최대한 가깝게 배치한다. 연구팀은 나아가 새로운 재료와 제조 공정으로 보다 혁신적인 기능을 개발해 왔다. 메모리 자체가 계산을 수행하도록 하는 기능도 그 중 하나다. 그렇게 되면 컴퓨팅 속도와 효율성을 더욱 향상시킬 수 있다. 어느 방향이 됐든 가능성으로 거론됐던 AI의 기능들이 실체로 다가오고 있다.