MLE에 대한 좋은 설명이 있는 자료 https://online.stat.psu.edu/stat415/lesson/1/1.2 1.2 - Maximum Likelihood Estimation | STAT 415 Enroll today at Penn State World Campus to earn an accredited degree or certificate in Statistics. online.stat.psu.edu MLE 심화 (MLE Regularity condition에 대한 설명) Lehmann, Erich L., and George Casella. Theory of point estimation. Springer Science & Business Media, 2006. https://barum..

Estimation 분류 기준에 대해 알고 싶으면 다음 글로 이동 measurement $z(t)$가 주어질 때 우리가 알고 싶은 signal $x(t)$가 있다고 하자. 이를 추정하기 위한 estimator $\hat{x}(t+\tau) \text{ at some time }t+\tau$가 있다. 이 estimator의 역할을 분류하면 다음과 같다. Prediction $\tau>0$일 때 prediction. 미래의 값을 예측하는 것이기 때문이다. Smoothing $\tau

Estimation theory은 많은 분야에서 사용되고 있는 방법론이다. 최근 머신러닝이 빠르게 발전하면서 Estimation theory와 겹치는 영역이 많다는 것을 알게 되었고, estimation theory와 머신러닝을 따로 배우다보니, 비슷한 내용을 배우면서도 둘을 다르게 구별하는 일이 생겼다. 따라서 이 글에서는 estimation thoery와 machine learning에서 다루는 추정 방법에 대해 정리하고자 한다. 이 글의 내용은 단순 분류에 불과하며 구체적인 내용은 개별 글을 통해 정리하면 좋을 것이다. 또한 공부를 하다가 내용을 더 추가하거나 수정할 가능성도 열어두고 싶다. 기술적 용어의 경우에는 최대한 영어로 쓴다. 어차피 학계에서는 영어로 통용되기 때문에 한글로 번역해서 쓰면 ..