- 퍼셉트론(perceptron) 알고리즘은 딥러닝의 기초가 된다.
- 다수의 신호를 받아 가중치와 편향 파라미터를 사용하여 계산한 뒤 임계값과 비교하여 하나의 신호로 출력한다.
- 단층 퍼셉트론은 직선형 영역만 표현할 수 있고, 다층 퍼셉트론은 비선형 영역도 표현할 수 있다.
- AND, OR 게이트 등의 논리 회로를 표현할 수 있고, 다층 퍼셉트론을 사용하면 XOR 게이트를 표현할 수 있다.
- 다층 퍼셉트론은 이론상 컴퓨터를 표현할 수 있다.
* 편향(bias) : 하나의 뉴런으로 입력된 모든 값을 다 더한 다음(= 가중합), 이 값에 더해주는 상수(=성향이라고 이해하면 된다)로, 최종적으로 출려되는 값을 조절하는 역할
'theory > NLP' 카테고리의 다른 글
[머신러닝 기초] 학습 유형 (0) | 2023.05.07 |
---|---|
[머신러닝 기초] entropy, binary cross entropy, KL divergence (0) | 2022.09.26 |
BERT (0) | 2022.02.04 |
Transformer (0) | 2022.02.04 |
sparql이란? (0) | 2021.03.22 |