[패스트캠퍼스 수강 후기] 인공지능강의 100% 환급 챌린지 21회차 미션

Part 4-01. Ch 01. 딥러닝이 무엇인가요 - 01. 3 STEP 기초 과정 소개

커리큘럼

1 딥러닝의 기초, 딥러닝의 역사,
2 단순한 신경망 shallow neural network
3 경사하강 학습버 gradient 계열 공부
4 역전파학습에 대한이해
5 CNN에 대한 이해
6 RNN에 대한 이해 시간에 따라 영향받는 데이터
7 attention - 자연어, 이미지에 자주 사용
8 성능을 높이는 테크닉

강의활용방법

step 1 기본 개념
step 2 수식 접목
step 3 직접 구현

Part4-02. Ch 01. 딥러닝이 무엇인가요 - 02. 딥러닝의 이해

인공지능, 기계학습, 딥러닝

인공지능 - 기계가 사람의 행동을 모방
기계학습 - 데이터로부터 학습
딥러닝 - 기계학습의 한부냐인 인공신경망, 많은 양의 데이터를 학습

빅데이터

데이터베이스 관리, 저장유통, 수집, 신뢰성확보, 시각화, 통계분석, 마이닝
딥러닝과는 다른 분야라고 봐도됨

딥러닝?

개 vs 고양이 구분의 경우
머신러닝은 특징을 사람이 직접 선택해서 그걸 가지고 기계가 분류
딥러닝은 알고리즘 내부에서 스스로 특징을 추출하고 분류함

머신러닝은 자유도가 낮아서 데이터가 많으면 작동이 안될수 있음
딥러닝은 자유도가 높기때문에 데이터가 많아도 작동 용이

딥러닝으로 가능한것?

분류, 회귀, 물체검출, 영상분할, 영상초해상도(SR), 예술적창조물(GAN), 강화학습

물체검출

영상 내 어디에 어떤 물체가 있는지 찾아줌
이전에는 1000개의 물체에 대해서 1000개의 알고리즘이 필요했음
지금은 1개의 알고리즘으로 가능 one-shot

영상초해상도(SR)

재창조하는 수준에 이르름

GAN

창조하는 모델

강화학습

알파고
알파고들끼리 대국해서 실력 강화

딥러닝의 구성요소

학습단계, 테스트단계로 나뉨
학습단계 : 네트워크를 학습하는 게 주요 목적, 손실함수를 파악하고 최적화함
반복하여 네트워트 성능을 강화
테스트단계 : 테스트 입력에 대해서 평가지표로 평가

Part4-03. Ch 01. 딥러닝이 무엇인가요 - 03. 딥러닝의 역사

1940년대 Electronic Brain으로 발표
2010년대와서 대중화
2006년 제프리힌턴교수님에 의해 딥러닝으로 명명되기 시작

XOR문제로 다크에이지가 있었음
1980년대 MLP로 불리다가
1990년대 SVM의 성능이 딥러닝을 압도함

최초의 인공신경망

입력이 x0

x3까지 여러개가 있을때 w0

w3까지 weight를 곱하고 전체를 합친다음 Activation Fuction에 적용

x1,x2에 의한 그래프로 표현할수 있으며, 이 직선으로 -1, +1로 구분

21-10.PNG

338.1 kB

XOR의 문제 하나만 TRUE고 하나는 FALSE인 경우 구분할 방법이 없음
이로 인해서 AI Winter 발생

다층 퍼셉트론 (1986)

은닉계층이 추가됨
입력-은닉-출력
선을 2개 그어서 XOR문제 해결

역전파 알고리즘

정방향으로 연산을 한번하고 정답과 비교하여 error를 확인하고
error를 다시 역방향으로 전송하여 학습하는 방법
MLP, BP알고리즘으로 MNIST문제를 해결함 (1989)

기울기 소실문제 (2차 AI Winter)

은닉층을 많이 넣으면 학습이 잘될거라는 기대를 가지고 있었으나
많이 넣었다고 성능이 좋지 않았던 기울기 소실문제 발견
SVM이 더 유명세를 타기 시작했음

Deep Belief Network

제프리힌튼교수가 발표
RBM(Restricted Boltzmann Machine) 비지도 학습법을 쌓아올려 DBN(Deep Belief Network) 구축
이로 기울기 소실문제 해결함

AlexNet

ImageNet Large Scale Visual Recongnition Challenges에서 뛰어난 성능을 보임
에러율을 10% 줄이면서 작년대비 큰 성과를 보임
DenseNet(2018)까지 계속 발전
사람보다 더 구분을 잘하는 수준까지 발전함

딥러닝/인공지능 올인원 패키지 Online