ReLU1 활성화 함수 총정리: 시그모이드(Sigmoid)의 한계와 렐루(ReLU)의 등장 기술사 학습노트›AI / 빅데이터›활성화함수 AI / Big Data · 정보관리기술사 / 컴퓨터시스템응용기술사활성화함수(Activation Function)인공신경망에서 선형 결합 결과에 비선형성을 부여하여 복잡한 함수 근사와 깊은 표현학습을 가능하게 하는 핵심 구성요소를 정리한다.정보관리기술사컴퓨터시스템응용기술사활성화함수ReLUSigmoidTanhSoftmaxGradientVanishingGELUDeepLearning Ⅰ.개요 및 등장배경가. 개념활성화함수는 인공신경망의 뉴런이 입력값의 가중합을 받은 뒤 다음 계층으로 전달할 출력값을 결정하는 비선형 함수이다. 뉴런은 일반적으로 z = w·x + b 형태의 선형 결합을 수행하고, 활성화함수 a = f(z)를 적용하여 비선형 출력을 만든다. 활성화함.. 2026. 4. 27. 이전 1 다음
