네이버 pre-course - 1. 딥러닝 기본 용어 설명

※ 해당 글은 네이버 부스트캠프 pre course 강의를 시청하며 작성한 내용입니다.

잘못 작성된 내용이 있을 수도 있습니다.

 

 

인공지능이란(Artificial Inteligence)? 

인간의 지능을 모방하는 것을 말한다

 

인공지능 안 

머신러닝 존재  <- 학습은 데이터를 통해서 함

 

머신러닝 안 

딥러닝 존재 <- 뉴럴 네트워크 사용

 

따라서

딥러닝을 배우는 것은 인공지능 전체를 배우는 것이 아니다

 

1. 소개

딥러닝의 키 컴포넌트

1. 학습할 수 있는 데이터

2. 학습하고자 하는 모델 (ex. 이미지를 라벨로 바꿔주는 것 등)

3. 모델을 다루기 위한 loss 함수

4. loss를 최소화하기 위한 알고리즘

 

2. 키 컴포넌트 상세

1. 데이터 : 풀고자하는 문제에 의존하는 데이터들을 사용

- 각 이미지의 픽셀별 카테고리 분류

- 이미지안 물체 카테고리 영역 인식

- 2,3차원 스켈레톤 정보

- 이미지에 대한 질문 답변

 

2. 모델 : 데이터에 대한 라벨링

AlexNet, GoogLeNet, LSTM 등등...

 

3. LOSS 함수 : 모델을 어떻게 학습할지 기준이 되는 함수 (수식)

 

4. 최적화 방법 : 네트워크를 어떻게 줄일지?에 대한 방법

 

3. Historical Review(방법론)

1. *AlexNet 논문 (2012)

- 특정 사이즈의 이미지가 들어왔을때 분류하는 것이 목표

=> 해당 논문이 나온 이유로 기계학습 판도가 바뀜

 

2. DQN (2013)

- q러닝 방법을 사용하여 딥러닝 방법론에 접근

=> DQN하면 나오는 대표 키워드 : 알파고, 아타리 강화학습

 

3. Encoder / Decoder (2014)

- 단어의 연속이 주어졌을때 다른 단어의 연속으로 바꿔주는것

- 시퀀스 to 시퀀스 모델

=> 기계어 번역의 트랜드가 바뀜

 

4. *Adam Optimizer (2014)

- 이 방법론으로 실험하면 웬만하면 잘된다?

 

5. Generative Adversarial Network (2015)

- 이미지, 텍스트를 어떻게 만들어지는지 

 

6. Residual Networks (2015)

- 딥러닝이 실제로 가능해진 연구

- 네트워크가 깊게 쌓아질수 있게 된 연구

 

7. Transformer (2017)

 

8. BERT (2018)

- 큰 말뭉치를 사용해서 tunning 하는것

 

9. BIG Language Models (2019)

- 언어모델

- 파인 튜닝을 사용해서 시퀀스 모델을 만들 수 있게 됨

 

10. Self Supervised Learning (2020)