거대한 메모리 공유 기술...컴퓨터 안에 '초스피드 고속도로' 생기는 셈

거대한 메모리 공유 기술...컴퓨터 안에 '초스피드 고속도로' 생기는 셈

[WEEKLY BIZ] [김정호의 반도체 특강] 반도체 업계, 메모리 공유하는 CXL 개발 경쟁 치열

김정호 KAIST 전기·전자공학과 교수

입력 2024.08.29. 17:41

WEEKLY BIZ 뉴스레터 구독하기 ☞ https://page.stibee.com/subscriptions/146096

삼성전자 CXL 2.0 D램. CPU와 메모리 풀링 연결망의 차선을 4차선에서 16차선으로 늘리고 고속화하는 기술을 구현해 혁신적이란 평가다. / 삼성전자 제공

옛날 버스 정류장 앞이나 다방엔 공중전화가 설치돼 있었다. 집 전화는 언제나 바로 쓸 수 있지만 공중전화는 동네 입구까지 걸어가서 줄을 서서 써야 했다. 통신 수단에도 ‘개인 소유’의 방식과 ‘공유’의 방식이 공존했다.

요즘 자동차는 자가용과 영업용으로 나뉜다. 자가용은 비용이 비싸고 주차장이 필요하다.

​

하지만 언제라도 쓸 수 있다. 영업용인 택시는 필요할 때만 사용하고 비용이 상대적으로 적게 든다. 일종의 공유 교통수단이다. 최근엔 ‘카카오 택시’ 등과 같은 택시 호출 앱을 쓰면 택시를 기다리는 시간도 줄일 수 있다. 이렇게 일상생활에서 개인 소유와 공유가 공존한다.

인공지능(AI) 시대를 맞아 반도체 메모리도 개별 소유 시스템과 공유 시스템이 공존한다.

​

예를 들어, 빠르게 데이터를 저장하고 뽑아 쓸 수 있는 반도체인 고대역폭메모리(HBM)는 개별 소유 반도체 메모리다. 반면에 거대한 메모리 풀(Pool)을 만들어 이를 공유할 수 있도록 하는 기술도 나왔는데, 이를 ‘컴퓨트익스프레스링크(CXL)’라고 부른다.

좀 더 자세히 알아보자. 컴퓨터는 뇌 역할을 하는 프로세서와, 기억을 저장하는 메모리 반도체 등으로 구성된다.

​

뇌 부분인 프로세서엔 데이터를 연산·처리하는 중앙처리장치(CPU)와 그래픽처리장치(GPU)가 들어간다. 스마트폰에서 두뇌 역할을 하는 프로세서는 AP(애플리케이션 프로세서)로 불린다.

그런데 이들 프로세서가 아무리 잘 돌아가도 기억을 저장할 능력이 없으면 헛수고다. 이에 메모리가 함께 따라 붙는다.

​

CPU엔 DDR메모리가, GPU엔 GDDR(그래픽스 DDR)이, 스마트폰·태블릿 등 모바일 기기에 들어가는 AP엔 전력 소비량을 줄인 LPDDR(저전력 DDR)이 쓰인다. 하지만 AI가 워낙 빠르게 진화하다보니 빠른 학습과 생성을 위해 GPU는 최근 GDDR 대신에 HBM을 쓴다.

​

여러 층의 메모리를 쌓아 올려 데이터 처리 속도와 용량을 끌어올린 HBM이 쓰이는 것이다. 그런데 최근 AI를 위해 빠른 속도뿐 아니라 더욱 큰 용량의 메모리가 필요하게 됐다. 그래서 메모리를 공유(pooling)할 필요가 생겼다. 서로 효율적으로 나눠 쓰자는 의미다.

​

그래서 등장한 메모리 공유를 위한 네트워크 기술을 CXL이라고 부른다. CXL이란 두뇌 격인 CPU와 메모리 반도체 사이의 도로를 기존 4차선에서 8차선, 16차선 이상으로 대폭 늘리는 최첨단 기술이다. 속도도 계속 높인다. 컴퓨터 내부에서 데이터가 오가는 ‘초스피드 고속도로’인 셈이다.

​

이런 여러 개의 CXL을 묶어 거대한 공유 메모리 풀을 만들고, 각각의 메모리가 필요한 만큼 나눠 쓰는 기술을 메모리 풀링 기술이라고 부른다. 이렇게 하면 AI 학습에 필요한 데이터도 빠른 속도로 공유한다. 그리고 CXL을 사용하면 필요한 데이터를 미리 프로세서 주변으로 갖다 놓을 수도 있다. 이를 데이터 동기화(coherence)라고 부른다. AI 계산 속도를 단축한다.

​

CXL이 앞으로 고성능 컴퓨팅, 차세대 데이터센터, AI 등 다양한 분야에서 중요한 역할을 할 것으로 기대되면서 관련 업계 경쟁도 치열해지고 있다. 삼성전자는 메모리 부문의 강점을 살려 지난해 5월 ‘CXL2.0 D램’을 개발했다. 이는 메모리 풀링 기능을 구현했다는 점에서 특히 혁신적이란 평가다.

​

SK하이닉스도 CXL을 기반으로 한 128GB 용량의 D램을 연내 상용화해 출시할 예정이다. 정명수 카이스트 교수가 창업한 파네시아 역시 CXL 설계자산(IP) 시장에 도전장을 내밀었다. 모두 CXL을 새로운 사업 확장의 기회로 보고 있다.

​

초고성능·초고용량 메모리인 HBM은 AI 계산을 위한 속도 향상에 필요하고, CXL은 AI 계산에 필요한 메모리 용량의 확대를 추구하는 기술이다. 둘 다 AI수퍼컴퓨터에 꼭 필요한 기술들이다. 그런데 메모리가 완전히 공유되는 세상이 열리면 기존의 메모리 생태계가 위협을 받을 수도 있다.

​

기존에는 프로세서의 기능이 향상되면 이 프로세서와 단짝인 전용 메모리도 덩달아 성능 향상이 필요해졌다. 이에 메모리 수요가 같이 성장하는 구조였다. 그런데 이제는 프로세서 기능이 향상되더라도 공유되는 메모리를 사용하면 되니 프로세서와 메모리 시장이 분리될 위험이 존재한다. 그래서 CXL은 삼성전자와 SK하이닉스엔 ‘기회’이자 ‘도전’일 수 있다.

김정호 KAIST 전기·전자공학과 교수

WEEKLY BIZ 뉴스레터 구독하기 ☞ https://page.stibee.com/subscriptions/146096

 

https://www.chosun.com/economy/weeklybiz/2024/08/29/7TIE4X2CRBENFOVTYBS7KISIFI/

거대한 메모리 공유 기술...컴퓨터 안에 ‘초스피드 고속도로’ 생기는 셈

거대한 메모리 공유 기술...컴퓨터 안에 초스피드 고속도로 생기는 셈 WEEKLY BIZ 김정호의 반도체 특강 반도체 업계, 메모리 공유하는 CXL 개발 경쟁 치열

www.chosun.com

​