인공지능 기초 용어

• 신경망과 머신러닝의 차이
  학습데이터-학습규칙(weight변경규칙)-신경망
  입력-신경망-출력
  은닉층은 비선형함수여야 의미 있음.
  단층이 안 되는 이유는 비선형 분리가 안되기 때문
  은닉층의 학습 규칙을 만들 때까지 30년 걸렸고 이게 86년 백프로퍼게이션(역전파)을 통해 은닉층의 무게 값을 계산하는 방법 모멘텀도 사용
  지금은 이런 것들이 다 라이브러리화 되어있음
  분류 - 어느 범주에 속하는지 구분해 나누는 것 회귀 - 어떤 값인지 추정하는 것
  회귀에는 신경망을 잘 사용하지 않음 - 수식으로 해결

• 머신러닝
  데이터를 이용한 모델링 기법 - 데이터에서 모델을 찾아내는 기법
  명시적으로 모델을 구하기 어려운 문제 - 공식이나 법칙으로 접근하기 어려운 경우 학습 데이터를 통해 모델을 구하는 것(숫자 인식)
  학습 데이터와 입력 데이터의 차이를 극복하는 일반화 문제가 성패
  과적합 over fitting 문제로 일반화에 문제 발생
  지도 학습, 비지도 학습, 강화 학습
  학습데이터-머신러닝-모델
  입력-모델-출력

• 딥러닝
  신경망을 심층 신경망으로 사용
  그동안 못했던 이유 - 역전파가 앞단에 못 미쳐 성능의 한계를 보였고
  그래디언트 소실, 과적합, 많은 계산양
  2000년대 중반부터 심층이 가능
  ReLU함수를 사용 개선. 드롭아웃 기법, GPU 문제로 해결