[현장] 엔비디아는 적인가 친구인가…소버린 AI 반도체가 겨냥한 '추론의 경제성'

데이터센터에서는 300~400W급 GPU를 운용할 수 있지만, 디바이스나 가정용 전력 환경, 배터리 기반 장치에서는 불가능하다

지난해 하반기 AI 가속기 칩 '아리스(ARIES)'가 양산에 들어갔다

생산 쪽과 만났을 때 2027년, 2028년까지는 크게 걱정하지 않는 분위기를 전해 들었다

2029년 이후에는 불확실성이 있다

서버 가격과 메모리 가격이 작년 이맘때 대비 크게 올랐다

엔비디아와의 기술 격차가 3~4년 이상 벌어져 있다고 느낀다

국내 스타트업이 매년 새로운 칩을 출시하는 것은 현실적으로 어렵다

2~3년의 하드웨어 세대 차이가 존재하더라도, 모델 경량화와 양자화, 소프트웨어 최적화로 경쟁 가능한 솔루션을 만들어야 한다