학위논문통계

1. 모형선택 지난 글에서 최적의 모형을 선택하는 문제에서 내포모형이 아닌 경우 AIC, BIC, NIC 이런 값들을 사용한다고 했습니다. 내포모형인 경우 회귀분석에서는 F검증이나 회귀모형이 아닌 경우 카이 제곱이나 G2 같은 것을 사용합니다. 일반인들은 이 모형 선택의 문제는 사실 앞에서 이야기한 것처럼 많이 접하는 경우가 아닙니다. 흔히 논문에서 많이 하는 경우는 요새 박사 논문에서 많이 사용하는 패널데이터를 이용한 잠재성장모형을 할 경우입니다. 패널데이터인 경우 사회과학에서는 잠재성장모형을 가지고 많이 작업합니다. 각 변수들의 변화들간의 구조적 인과관계를 밝히는 모형인데요. 성인들에게 적용하기는 좀 힘듭니다. 왜냐하면 성인들의 인식은 잘 안 변하거든요. 그러나 최근에는 워낙 생각들이 잘 바뀌어서. ..

1. 여기 블로글 방문하시는 분들 중에서 MLE를 실제로 어떻게 구하는지에 대해 관심이 있는 분들이 많으신 것 같습니다. 그래서 실제 MLE 구하는 방법에 대해 간단한 예를 통해 설명해 드리겠습니다. MLE 구하는 방법은 학부 1학년 수준의 기초통계학에서는 아마 배우지 않을 겁니다. 급하신 ..

지난번에 지수계열 분포인 경우 EM 알고리즘이 생각보다 쉽게 풀어진다고 이야기 했습니다. 이번에는 실제 EM 알고리즘을 쓸 필요가 없는데도 불구하고 EM알고리즘을 설명하기 위해 일부러 쓴 예를 소개하겠습니다. 그래서 지수계열 분포인 경우 어떻게 EM 알고리즘이 작동하는지 한번 보..

앞에서 이야기했지만 EM 알고리즘은 log f(x,u)를 최대화하는 u를 구하는 것이 아니고 E[log f(v,h;u)|V)라는 복잡한 수식을 최대화하는 u를 구하는 것입니다. 그러나 생각보다는 쉬울 수가 있습니다. 먼저 기댓값 E는 선형함수라는 사실을 기억하시고요. 즉 E[aX+bY] = aE[X]+bE[Y] 라는 성질을 가지고 ..

오늘부터 EM 알고리즘에 관해 이야기를 좀 해보죠. EM 알고리즘을 소개한 Dempster 논문을 이해하기는 그리 쉽지 않습니다. 싶게 설명하려고 처음에 지수분포계열를 예를 들어 설명하는데 사실 통계전공이 아닌 사람은 지수분포계열 조차 잘 모르거든요. 하여간 통계학책에 나오는 EM 알고리..

1. 전산 알고리즘의 가장 기본적인 것은 특정 영역에서 최대값, 최소값을 찾는 알고리즘입니다. 함수 f가 정의역 D에서 정의된다면 함수 f가 최대가 되는, 또는 최소가 되는 정의역 D에 있는 점을 찾는 것입니다. 함수 f는 효용도 될 수 있고, 행복감도 될 수 있고, 또는 회귀방정식에서 길이..

이상하게 그룹 카테고리가 만들어지지 않네요. 당분간 PET 프로젝트 그룹에 쓰겠습니다. 여행하는 세일즈 문제를 시작해보죠. 이 문제는 유럽을 돌아다니는 영업사원이 n 도시를 돌아다니는데 가장 빠른 경로가 뭔지 찾는 문제입니다. 물론 제일 마지막 도시가 출발도시가 되죠. 말로는 ..

1. 지난번에 한번 이야기 한 적이 있는데 S(R)로 simulated annealing 알고리즘으로 여행하는 세일즈 문(TSP) 문제를 구현해서 올리겠다고 했습니다. 이게 Metropolis 알고리즘을 사용한 것이라 최근 MCMC 공부하는 출발점으로 중요하다고 생각하기 때문입니다. 한나절이면 되는데 그 마저 시간이 안..