ReLU 기반 네트워크에서 신호의 분산이 층을 통과할 때 일정하게 유지되도록 가중치를 초기화하는 방식이다. 입력 채널 수를 기준으로 분산을 조절해 기울기 소실이나 폭발을 방지한다. ResNet에서는 잔차 경로의 출력이 초기 상태에서 0에 가깝게 시작되며 깊은 구조에서도 안정적인 학습이 가능해진다.
ReLU 기반 네트워크에서 신호의 분산이 층을 통과할 때 일정하게 유지되도록 가중치를 초기화하는 방식이다. 입력 채널 수를 기준으로 분산을 조절해 기울기 소실이나 폭발을 방지한다. ResNet에서는 잔차 경로의 출력이 초기 상태에서 0에 가깝게 시작되며 깊은 구조에서도 안정적인 학습이 가능해진다.