학위논문통계

Gibbs sampler가 처음 나온 논문은 geman & geman의 이미지 복원(restoration) 논문입니다. 이 논문 첨부했고요. 이미지 복원은 왜곡된, 훼손된 이미지에서 원래 이미지를 찾아가는 과학적 방법을 말합니다. 포토샵에서 이미지에 효과를 주는 기술적이고 예술적인 방법과 다른 것입니다. 물론 포토샵의 효과에서 여러 가지 수학적 방법을 사용하고 있지만요. 일반적인 Metropolis 알고리즘을 이해하려면 “Simulated Annealing and Boltzman Machines", Aarts & Korst 이 책이 허원이 교수가 연구한 조합 문제를 컴퓨터 계산 방식으로 풀려고 한 책입니다. 허원이 교수가 연구한 문제가 colouring 문제이네요. 컬러링 문제에서 경우가 수가 다항식으로..

1. travelling sales man problem(여행하는 세일즈 맨 문제) 전산학과에 P-NP 문제라는 것이 있는데 이게 NP문제인지는 모르겠네요. 이 문제는 한번 쓴 적이 있는 것 같은데 여기서 다시 한번 쓰겠습니다. 하여간 이 문제는 영업사원이 50개 도시를 돌아다니는데 가장 짧은 경로를 찾는 문제입니다. 이것 머리로 생각하면 매우 간단합니다. 1) 모든 경로를 센다. 2) 각 경로의 거리를 잰다. 3) 이 중 가장 짧은 거리를 가지는 경로를 찾는다. 그런데 실제로 하면 이 문제가 간단하지 않습니다. 문제는 이 경로의 경우의 수가 어마어마하게 많다는 것입니다. 따라서 도시 수가 50이 아니라 100, 1000, 10000 이렇게 무한정 커져 가면 이건 슈퍼컴퓨터로도 쉽지 않겠지요. 여기서 완..

여기로 다시 옮겼습니다. 1. 복권 사기? 얼마전에 복권 1등이 50명이나 나와서 이거 사기 아니냐라는 이야기가 있었는데요. 이걸 또 검증한다고 기사가 나오고. 참... 검증 기사 보니까 복권 평균 1억장 정도 팔린다고 합니다. 한 사람이 여러 장 사는 것이겠지요. 그리고 1등에 당첨될 확률이 약 900만분의 1이라고 합니다. 그럼 평균 m=n*p=약 12명 정도 됩니다. 이건 공식입니다. 개인이 복권 1장 샀을 때는 베르누이 시행이라고 합니다. 개인이 여러장 샀을 때는 이항분포라고 합니다. 이때 평균이 m=n*p가 됩니다. 그럼 1억 장이 팔렸다고 하면 정확한 분포는 1등 당첨 개수 Y=B(n, p)=B(1억, 1/900만) 이렇게 됩니다. 그럼 이 분포에서 이 당첨 개수 Y가 50보다 클 확률을 구해..

1. 모형선택 지난 글에서 최적의 모형을 선택하는 문제에서 내포모형이 아닌 경우 AIC, BIC, NIC 이런 값들을 사용한다고 했습니다. 내포모형인 경우 회귀분석에서는 F검증이나 회귀모형이 아닌 경우 카이 제곱이나 G2 같은 것을 사용합니다. 일반인들은 이 모형 선택의 문제는 사실 앞에서 이야기한 것처럼 많이 접하는 경우가 아닙니다. 흔히 논문에서 많이 하는 경우는 요새 박사 논문에서 많이 사용하는 패널데이터를 이용한 잠재성장모형을 할 경우입니다. 패널데이터인 경우 사회과학에서는 잠재성장모형을 가지고 많이 작업합니다. 각 변수들의 변화들간의 구조적 인과관계를 밝히는 모형인데요. 성인들에게 적용하기는 좀 힘듭니다. 왜냐하면 성인들의 인식은 잘 안 변하거든요. 그러나 최근에는 워낙 생각들이 잘 바뀌어서. ..

지난번에 암호문 해독하는 방법에 대해서 썼는데요 이게 여행하는 세일즈맨 문제 푸는 것이랑 매우 흡사합니다. 그래서 쓴 김에 여행하는 세일즈 맨 문제를 MCMC로 어떻게 푸는지 이야기 하겠습니다. 정확하게 푸는 방법은 다음에 적고 이번에는 간단하게 암호문 해독과 어떻게 비슷한지..

HaugMCMC_BayesModelling.pdf 다음은 MCMC를 이용하여 암호를 디코딩하는 예를 한번 보여 주겠습니다. 경향신문에 “인공지능으로 사멸 위기 언어 보존한다”하는 기사가 있어서 거기에 나오는 내용을 이해하는데 도움이 될까 씁니다. 이 예제는 위의 첨부한 파일에 있으니까 자세한 내용은 이 파..

에... 이번에는 정규분포 경우 베이지안 추론에 관해 쓸라고 했는데 수식쓰기기 너무 힘들어 일단 깁스 샘플러에 관해 먼저 이야기하겠습니다. 물론 책에 나와 있는 수식을 이미지로 받아서 쓰면 간단하게 되겠지만 이건 너무 성의가 없는 것 같아서요. 하여간 일을 좀 해야 할 것 같아서 ..

오늘 할 것은 베이지안 추론에 대해서 간단히 설명하겠습니다. 사실 베이지안에 대해서 최근에 관심이 많아 높아지고 있는데 반해 제대로 이해하는 분들이 많이 않는 것 같습니다. 여기서 질문하시는 분들을 보면 가능성함수(우도함수)도 이해 못하시는 분들이 계시는데 이 기회에 정확..

먼저 간단한 용어부터 설명하죠. 1) 몬테카를로 몬테카를로는 모나코의 유명한 도박도시죠. 카지노로 유명하죠. 그래서 확률의 개념 때문에 이 이름을 쓰는 것 같습니다. 2) 시뮬레이션 시뮬레이션, 즉 모의실험입니다. 이건 현실에서 직접 실험하기 힘들 때나 아니면 수학적으로 계산하..

한분이 베이지안 MCMC에 관해서 질문을 해서 여기에 대해 좀 전반적으로 쓰려고 합니다. 상당히 여러 편을 써야 할 것 같고요. 여기에 글 있는 분들의 수준이 너무 다르기 때문에 가능하면 쉽게 쓰려고 합니다. 심각하게 학문적으로 나가고 싶은 분이나 아니면 이쪽 분야 연구소에 취직을 ..