GPU? HBM? eSSD? HDD?

1. 반도체의 분류

메모리 반도체와 비메모리 반도체(시스템)로 나눌 수 있는데,
정보를 저장하는 용도로 쓰이는 반도체를 메모리 반도체라 한다.
SSD의 경우 메모리에 데이터를 기록하는 저장 자치로 비메모리 반도체에 속한다.

메모리 반도체는 다시 DRAM과 NAND Flash로 나뉜다.
DRAM은 전원이 꺼지면 데이터가 사라지며, NAND Flash는 전원이 꺼져도 데이터가 남는다.

저장용량 측면에서는 NAND Flash가 저장용량이 높으며, DRAM은 낮다는 차이가 있고, 동작속도의 경우에는 반대로 DRAM이 속도가 높고 NAND Flash가 보다 낮다.

<출처: 조선일보>

2. 반도체 회사의 분류

<출처: 조선일보>

3. AI 가속기의 한계

GPU가 중요하다지만 그것만 있다고 AI가 돌아가지는 않는다. AI가 빠르게 시행착오를 거치며 학습하려면 연산 속도만큼 빠르게 데이터를 저장하고 뽑아 쓸 수 있는 반도체도 필요핟. 이것이 HBM입니다.
아무리 많은 용량을 저장하더라도, GPU의 연산 속도를 쫓아갈 만큼 GPU에 빠르게 데이터를 전달하지 못하면 데이터의 ‘병목 현상’이 발생한다. HBM은 민첩한 눈과 손처럼 방대한 자료를 빠르게 GPU에 넘겨준다. 그래서 HBM이 들어간 GPU 반도체 세트를 ‘AI 가속기’라고 부른다.

<출처: 조선일보>

 
4. HBM4의 탄생

HBM(High Bandwidth Memory)은 3D 스택킹 기술을 적용하여 여러 개의 DRAM칩을 수직으로 적층하고, 이를 통해 전기 신로의 경로를 짧게 하여 고속 데이터 전송이 가능한 차세대 메모리 기술이다.

<출처: 조선일보>

<참고> 저장장치 HDD와 SSD차이

- HDD는 Hard Disk Drive의 약자
- SSD는 Solid State Drive의 약자
- eSSD는 Enterprise SSD의 약자(서버용)

< 출처: EaseUS >

< 출처: 디지털데일리 >

GPU의 개념은 본 블로그의 다음을 참고하세요..

 

AI 개발을 위해 꼭 필요한 ‘GPU’란? 개념부터 서비스 추천까지 완벽 정리!

#SSD #HBM #eSSD #HDD #메모리 #비메모리 #시스템반도체 #AI #GPU