반응형
/*
-- Title : 인공신경망 개요
-- Reference : BDMBA, untitledtblog.tistory.com, blog.naver.com/samsjang
*/
■ 인공신경망 개념
ㅁ 인간 뇌세포를 모방한 인공신경망 알고리즘(ANN, Artificial Neural Network)
- 사람의 두뇌와 비슷한 방식으로 정보를 처리하기 위한 컴퓨터 알고리즘
- 뉴런과 시냅스의 원리 이용
■ 퍼셉트론(Perceptron)
- 인간의 인지 처리와 같이 다수의 신호를 입력받아 처리하고 결과를 출력하는 알고리즘
- 입력값에 대해 가중치를 적용한 후 확인해서 결과를 전달하는 방식
- 프랑크 로젠블라트(Frank Rosenblatt)가 1957년 고안한 신경망(딥러닝)의 기원 알고리즘
- 입력값, 가중치, 활성함수, 출력값으로 구성
- 입력값(input) : 데이터 특징값, 피처, Feature
- 가중치(weight) : 문제 해결을 위한 선형 경계를 찾기 위해 입력값에 가중치 적용하여 방향성 및 형태 구성
- 바이어스(bias) : 선형 결졔의 절변값, 직선의 경우 y절편
- 활성함수(activation function) : 값 출력에 대한 판단 함수, 1이나 0 출력
- 출력값(output) : 문제의 정답 출력
ㅁ 활성화 함수(활성함수, Activation Function)
- 인공신경망에서 입력받은 데이터를 다음층으로 출력할지를 결정하는 함수
#step function #sign function #linear function #sigmoid function #hyper tangent function
ㅁ AND 게이트 처리
ㅁ OR 게이트 처리
ㅁ NAND 게이트 처리
ㅁ XOR 게이트 처리 한계
■ Singluar-layer ANN
- 뉴런으로 이루어진 Layer가 하나
- Input Layer는 계층으로 취급하지 않고 단순히 입력 역할로만 한정
■ Multi-layer ANN
Hidden Layer를 추가(input layer를 제외한 모든 layer를 hidden layer)
Classifier 형성과 동시에 최적화된 변환 연산을 training
뉴런의 수에 따라 차원 축소나 증가
■ 다층 퍼셉트론(MLP, Multi Layer Perceptron)
- 다층 퍼셉트론을 이용하여 비선형 영역 분리(XOR 해결)
- 가중치에 대한 문제 발생
■ 신경망 학습
- 활성화 함수와 편향을 명시한 퍼셉트론
- 임계값 θ를 편향 b로, 활성화 함수를 h()로 명시하여 표현
- 순방향 신호 계산 전파(forward propagation)
- 입력층에서 출력층으로 신호를 전달하여 y값 계산
- 역방향 오류 미분값 역전파(backpropagation)
- 오류를 줄이기 위해 미분값을 역방향으로 전달하여 가중치 w값 조정
■ 역전파(Backpropagation)
- hidden layer에는 label이 없기에 cost function 정의 불가
- 이 문제 해결을 위한 것이 backpropagation 알고리즘
- output layer의 output과 costfunction으로 계산된 오차(t와 y의 차이)를 hidden layer로 역전파
반응형