[AI]_15_AI가 쓰이는 기술 + HW

 220327 작성

<본 블로그는 두우우부님의 알기쉬운 AI 블로그를 참고해서 공부하며 작성하였습니다>

https://doooob.tistory.com/65?category=825950 

[알기쉬운 AI - 15] AI 관련 기술 전체상(Overview)과 하드웨어

 

 

 

 

 

 

 

 

 

1. AI 가 쓰이는 기술

: 크게  4개의 층으로 구성

1) 하드웨어 (칩과 서버)

: 최하층인 하드웨어

: 딥러닝 신경망 연산에 요구되는 고속 처리가 더 이상 CPU만으로는 대응할 수 없음

: GPU 나 FPGA 및 ASIC 등의 고속 칩 사용

: IoT 엔드 포인트(단말기)에서 대량의 데이터가 연속생성 되지만 딥러닝 계산 처리를 인터넷으로 하면 통신량 증가로 네트워크 비용과 클라우드 요금이 증가하고 처리 속도가 느려짐

: 사용자 가까이에 에지(edge) 서버를 설치하고 그 위에 인공 지능을 작동시킴 => 에지(edge) 컴퓨팅

 

 

2) 기계학습(ML) 라이브러리(프레임워크)

: 기계학습을 실행할 수 있는 라이브러리 LIKE 엔진

: 라이브러리 = 프레임 워크

: 오픈소스 대부분 무료제공

 

3) 인공지능 플랫폼

: 라이브러리를 사용하여 이미지 인식이나 음성 인식 등 사용자가 이용하기 편리한 서비스로 제공

EX) Google Cloud Machine Learning에서 이미지 인식, 영상 분석, 음성인식, 기계 번역, 자연 언어 이해 등 제공

 

 

3) 인공지능 응용 프로그램

: 라이브러리를 사용하여 스스로 기계학습을 시키고, AI 플랫폼이 제공하는 서비스를 이용한 응용 프로그램

EX) '이미지 인식'을 사용한 '결함 감지 및 예측' , '자연 언어 이해'를 사용한 '개인 비서'

 

 

 

최근 딥러닝

 

 

 

 

2. AI와 에지(edge) 컴퓨팅

1) 무어의 법칙 종언

:  무어의 "반도체 집적률은 18개월 만에 2배가 된다" 라는 경험법칙

AI 칩 (GPU, FPGA, ASIC)

- GPU (Graphics Processing Unit) 

: GPU는 컴퓨터 그래픽에 필요한 연산을 수행하는 비디오 칩

: CPU보다 코어 수가 방대하므로 CPU의 코어 수는 몇 개 정도인 데 비해 GPU는 코어 수가 수십에서 수천 개 까지 있음

: CPU(Central Processing Unit)가 범용적인 처리

: GPU는 CPU의 명령을 받고, 많은 코어를 활용하여 간단한 행렬 연산을 단숨에 병렬연산으로 처리하는데 적합

 

 

- FPGA(Field-Programmable Gate Array)

: FPGA는 범용 IC(집적 회로)로는 처리할 수 없는 경우에, 목적에 따라 IC의 내부 논리를 만들어 담는 커스텀 IC

: Field-Programmable이라는 명칭이 붙어있는 것처럼 제조 후 구매자가 논리를 변경 가능

: ASIC과 달리 내용을 변경할 수 있음

: GPU보다 처리 능력은 뒤떨어 지지만 소비 전력이 작음

: 대량의 서버가 밀집하는 클라우드 및 데이터 센터에 적합

 

- ASIC ( Application specific integrated circuit )

: 특정 용도로 설계된 맞춤형 칩

: 초기 투자가 없는 범용 제품인 데 반해, ASIC는 전용 제품이므로 초기 투자가 소요

: FPGA는 내부 로직(배선 정보)을 FLASH ROM에 기억하고 있으므로 몇 번이라도 논리를 다시 작성 가능

: ASIC는 ROM이므로 로직의 변경이 불가

차이점

 

 

 

3. 에지(edge) 컴퓨팅

- 클라우드란

: Google이나 Microsoft, Amazon 등의 AI 플랫폼이 제공하는 서비스

: 많은 데이터를 축적 · 관리할 수 있고, 확장 가능하며 보안도 강력하기 때문에 기계 학습을 할 수 있는 최적의 환경

: 방대한 데이터를 클라우드로 처리하는 단점 (아래)

- 통신량이 방대해지고, 통신료와 클라우드 이용료가 많이 증가 

- 인터넷을 통해 처리되기 때문에 처리 속도가 느려짐

- 보안 등의 이유로 클라우드에 데이터를 올리고 싶지 않음

- 인터넷 접속이 불안정해지면 처리가 불가

 

: 해결하기 위해 현장에 가까운 곳에 에지 서버를 두고 로컬에서 빠르게 처리할 수 있도록 구성한 것이 에지 컴퓨팅

- 기계 학습 자체는 클라우드에서 수행하고 학습된 모델을 에지 서버에 넣어 처리

- 기계 학습도 에지 서버에서 수행하고 클라우드는 분석 등에만 이용

 

 

 

포그(fog) 컴퓨팅
: 네트워크 장비 업체인 Cisco가 제창한 것
: 클라우드(구름)보다 현장(지표)에 가까운 곳이라는 의미 (포그 = (안개)라는 말을 사용)
: 에지가 하드웨어 성향, 안개가 네트워크 

 

클라우드, fog, edge

 

 

 

 

=> 대규모 처리 능력을 필요로 하는 AI 칩과 에지(edge) 컴퓨터

=> 기계 학습 라이브러리는 모두 GPU에 대응

=>  GPU를 넣는 서버가 클라우드뿐만 아니라 에지에 보급하고 있음