모두를 위한 머신러닝 7주차 퀴즈

1. 다음 설명의 빈 칸에 들어갈 가장 적절한 단어들을 고르시오.

“오차 역전파 학습 알고리즘은 forward pass와 backward propagation 두 단계로 수행된다. Forward pass 는 주어진 입력에 대한 네트워크의 (______)을(를) 계산하는 과정이며, backward propagation는 네트워크의 실제 출력과 원하는 출력 사이의 (_____)을(를) 이용하여 가중치를 업데이트한다.”

하나를 선택하세요.

가중치,오차

가중치,그래디언트

출력,오차

출력,그래디언트

forward는 예측치를 계산하는 즉 출력을 계산...? 가중치 계산도 맞지 않나,...? backpropagation은 오차를 이용하여 가중치를 업데이트하는건데.... 일단 출력과 오차가 맞겠네요

정답은 "출력, 오차"입니다.

• Forward pass는 네트워크를 통해 입력 데이터가 전파되면서 최종적인 출력을 생성하는 과정입니다. 이 과정에서 네트워크의 각 레이어는 입력에 대한 가중치를 적용하고 활성화 함수를 통해 다음 레이어로 전달할 출력을 계산합니다. 따라서 첫 번째 빈칸에는 "출력"이 들어가야 맞습니다.
• Backward propagation (오차 역전파)은 네트워크의 출력과 타깃(원하는 출력)과의 차이를 계산하여 오차를 구하고, 이 오차를 바탕으로 네트워크의 가중치를 업데이트하는 과정입니다. 이 오차를 계산하여 가중치 업데이트에 사용하기 때문에 두 번째 빈칸에는 "오차"가 들어갑니다.

forward pass 는 가중치의 현재 값을 사용하여 주어진 입력에 대한 네트워크 출력을 계산하는 것이고, Backward propagation는 네트워크의 실제 출력과 원하는 출력 사이의 error를 사용하여 가중치를 업데이트합니다.

정답 : 출력,오차

 

2. 다층 신경망에 관한 다음 설명 중에서 올바른 것을 모두 고르시오.

하나 이상을 선택하세요.

다층신경망의 비용함수는 예측오차의 제곱의 함으로 정의될 수 있다.

네트워크의 오차는 중간층에서 계산될 수 있다.

데이터 분류를 위한 신경망에서 출력층의 뉴련의 개수는 보통 부류의 개수와 동일하다.

정의 될 '수'있으니까 1번 맞고
끝에서 부터 계산해야하니까 2번 아니고
2개 분류는 1개일 때도 있는데 저걸 맞다고 해야할지...?

 

정답은 다음과 같습니다:

1. 다층신경망의 비용함수는 예측오차의 제곱의 합으로 정의될 수 있다.
2. 데이터 분류를 위한 신경망에서 출력층의 뉴런의 개수는 보통 부류의 개수와 동일하다.

설명:

• 다층신경망의 비용함수는 예측오차의 제곱의 합으로 정의될 수 있다. 이는 MSE(Mean Squared Error)라고 불리며, 회귀 문제에서 주로 사용되는 손실 함수입니다. 분류 문제에서는 교차 엔트로피 손실 함수를 더 자주 사용하지만, MSE도 기술적으로 사용할 수 있습니다.
• 네트워크의 오차는 중간층에서 계산될 수 있다. 이 문장은 오류가 있습니다. 신경망에서 오차는 출력층에서 계산되고, 이 오차는 역전파 알고리즘을 통해 각 층에 전파되어 가중치를 조정합니다. 중간층에서는 직접 오차를 계산하지 않습니다.
• 데이터 분류를 위한 신경망에서 출력층의 뉴런의 개수는 보통 부류의 개수와 동일하다. 이는 분류 작업에서 각 클래스 또는 카테고리에 해당하는 출력 뉴런이 있어야 하기 때문에 맞는 설명입니다. 각 뉴런은 특정 클래스에 대한 네트워크의 예측 확률을 출력합니다.

1.다층신경망의 비용 함수는 신경망의 실제 출력과 원하는 출력 사이의 오차를 이용하여 생성하므로 올바른 설명입니다.

2.신경망의 오차는 출력층에서만 계산될 수 있고, 은닉층에서는 계산될 수 없으므로 잘못된 설명입니다.

3.분류 문제에서는 일반적으로 주어진 입력에 대한 출력 층 뉴런의 활성값 중에서 가장 큰 뉴런에 해당하는 부류(class)로 결정하므로, 부류의 개수와 출력층 뉴런의 개수가 동일합니다.

The correct answers are: 다층신경망의 비용함수는 예측오차의 제곱의 함으로 정의될 수 있다., 데이터 분류를 위한 신경망에서 출력층의 뉴련의 개수는 보통 부류의 개수와 동일하다.