결정이론 (2) - 회귀

회귀문제에서 목표값 t는 실수

손실함수가 주어졌을 때 손실함수의 기대값을 최소화하는
예측값은? t의 조건부 기대값!!


범함수(functional) 의 최소값
- 두 점사이를 연결하는 가장 가까운 선을 찾는 문제
- f함수에 따라 달라짐
- f’(x) : f함수의 1차 미분

오일러-라그랑지 방정식에서
y에 다한 미분 후 t에 대한 적분(=> 하면 1이 죈다)

마지막 줄을 0으로 두고 보면, y의 함수는 x에 대한 t의 함수의 기대값

같은 문제를 다른 방법으로 접근해보자
- 손실함수를 분해하여 기대값을 구하기

중간에 ) 결합확률을 t에 관한 확률 부분만 모아서 정리

마지막에 ) 손실함수의 기대값 = y에 대한 부분과 y와 상관없는 부분으로 나뉨(이는 더 이상 줄일 수 없다는 뜻)