SK하이닉스가 지난 12일부터 14일까지 미국에서 열린 ‘AI Hardware & Edge AI Summit(이하 AI 서밋) 2023’에서 GDDR6-AiM 기반의 생성형 AI 가속기 카드인 AiMX 시제품을 최초 공개 및 시연했다고 18일 밝혔다.

AI 가속기란 각종 정보 처리와 연산에 특화 설계한 칩(Chip)을 사용해 만든 특수 목적의 하드웨어 장치다.

AiMX 제품은 GDDR6-AiM 칩을 사용해 대규모 언어 모델(LLM)에 특화된 SK하이닉스의 가속기 카드로 알려졌다.

AI 서밋은 글로벌 IT 기업과 유명 스타트업이 참가해 인공지능과 머신러닝 개발 성과를 공유하는 행사로, SK하이닉스가 이 서밋에 참가한 것은 올해로 세 번째다.

AI 서밋 2023의 SK 하이닉스 부스 [SK하이닉스 제공]

SK하이닉스는 이번 서밋에서 인공지능 성능 가속이라는 슬로건을 내걸고 GDDR6-AiM과 해당 제품을 여러 개 연결해 성능을 한층 개선한 가속기 카드 AiMX 시제품을 처음 선보였다

생성형 AI는 그 특성상 대량의 데이터 학습이 필요해 전력 또한 많이 사용하기에 전력 소모 효율이 높고 데이터 처리 속도가 빠른 메모리가 필수적이다.

SK하이닉스는 이번 행사에서 메타(구 페이스북)의 생성형 AI인 ‘OPT 13B’ 모델을 AiMX 시제품을 탑재한 서버 시스템에서 시연했다.

SK하이닉스는 해당 AiMX 시스템이 GPU를 탑재한 기존 시스템 대비 반응 속도가 10배 이상 빠르고, 전력 소모는 1/5 수준이라고 전했다.

SK하이닉스의 AI 가속기 카드 'AiMX' 시제품 [SK하이닉스 제공]

이와 함께 SK하이닉스는 행사장에서 AiMX의 장점을 구체적으로 설명하는 세션 발표도 진행했다.

해당 발표회에는 SK하이닉스 임의철 부사장이 ‘생성형 AI 서비스를 위한 효율적 AiM 가속 솔루션’이라는 주제로 차세대 지능형 메모리 반도체의 미래를 설명했다.

임 부사장은 “SK하이닉스의 AiMX는 기존 GPU를 쓸 때보다 고성능, 저전력에 비용도 절감할 수 있는 솔루션”이라고 강조했다.

또 “앞으로도 당사는 인공지능 시대를 이끌어갈 메모리 기술 개발을 이어나갈 것”이라는 뜻을 전했다.