IPU(Intelligence Processing Unit) 정리

서론

어느 AP(SOC)의 코어에 MPU, DSP, GPU 외에 IPU가 있었다. 처음보는 코어라 검색을 했는데, 데이터시트의 IPU(Image Processing Unit)가 아닌 다른 IPU(Intelligence Processing Unit)를 검색하고 있었음을 알게 되었다. 들였던 시간이 아까우니 간단하게 기록을 남긴다.

IPU(Intelligence Processing Unit)

  • 2016년에 스타트업인 그래프코어가 독자 설계한 코어
  • CPU와 GPU가 성능을 발휘하지 못하는 그래프연산에 최적화
  • 그래프연산은 머신러닝에 적합
  • 프로세서에 직접 메모리를 배치하여 프로세서와 메모리 간 letency bottleneck 제거
  • 학습 및 추론 모델을 메모리에 적재 후 곧바로 연산하여 지연을 제거, 연산속도 향상
  • 콜로서스 칩은 1200개 이상의 프로세서 코어 내장
  • 콜로서스 칩 각 프로세서는 256kb SRAM 탑재
  • 별도의 외부 메모리(DRAM) 불필요

Leave a Comment