2. Basic Concepts of Probability Theory(확률 이론의 기초 개념) ... 3

 

 

목차

 

본 글은 확률 및 랜덤 프로세스 강의의 교재인 "Probability, Statistics, and Random Process for Electrical Engineering"를 읽고 강의 내용과 함께 정리한 내용을 담고 있다. 사실 한글 교재가 있는데 그것을 내가 pdf로 구하는 것을 실패(...)한 관계로 그냥 영어로 읽는다. 이 책의 목차는 다음과 같으며 현재 다루고 있는 파트는 밑줄 표시했다.

예제 문제들이 있다. 해당 문제들은 따로 글을 작성하여 정리를 해둔다. 

1. Probability Models in Electrical and Computer Engineering
2. Basic Concepts of Probability Theory
3. Discrete Random Variables
4. One Random Variable
5. Pairs of Random Variables
6. Vector Random Variables
7. Soums of Random Variables and Long-Term Averages
8. Statistics
9. Random Processes
10. Analysis and Processing of Random Signals
11. Markov Chains
12. Introduction to Queueing Theory

실질적으로 이번 장의 내용은 끝이 났다. 이제 남은 것들은 추가적인 내용인데, 내가 잘 모르는 내용이 들어가있다. 해당 내용은 내가 교수님한테도 여쭤봤지만 학부 수준에서 알 필요는 없다고 하여.. 더 이상 탐구하는 것은 포기했다. 시간이 더 남는다면 시도해보겠지만, 일단은 대충 책 내용을 번역하는 정도에만 그치고자 한다.

2.7 A Computer Method for Synthesizing Randomness: Random Number Generators 랜덤을 부여하는 컴퓨터 기법: 난수 생성기

이것과 관련한 설명은 수업 자료에 더 잘 나와있는 것 같아 그쪽 위주로 정리. 
간단하게 이야기하자면 결국 컴퓨터가 어떻게 랜덤을 만드는가에 관한 이야기다. 컴퓨터는 사실 랜덤을 모른다. 우리가 의도한 동작만 할 수 있기 때문이다.
교재에서는 일단 난수에 대해서 마주하는 문제가 무엇인지 간단하게 설명한다. 첫번째는 0과 1 사이의 실수는 무한인데 어떻게 난수를 만들어낼 것인가? 우리는 무한한 수를 표현할 수는 없기 때문에 어쩔 수 없이 동일한 간격으로 해당 구간을 잘라서 표현하는 수밖에 없다. 이때 구간을 어마무시하게 많이 쪼갠다면 무한한 수를 표현한 것처럼 보이기는 할 것이다.
두번째는 그렇게 쪼갠 수들을 어떻게 랜덤하게 표시할 거냐는 것.일단 이 수들은 전부 동일한 확률로 표시가 되기 해야 한다. 이를 달리 말하자면 아주 큰 단위에서 랜덤을 계속 꺼내면 각 수가 같은 빈도로 튀어나와야 한다는 것이다. 여기에서 우리가 얻을 수 있는 것은, 한 단위에서 각 수가 똑같이 나온다면 동일한 확률이라 볼 수 있다는 것. 

이러한 아이디어들을 바탕으로 나온 것이 바로 유사난수 생성기다! 실제로 랜덤은 아니지만 랜덤처럼 보이게 하는 방법.

이게 수업에서 나온 것으로 선형 합동 수열(linear congruential generator)이라고 한다. 아까도 이야기했던 마르코브 속성이 보인다. 근데 최종적으로 m을 나눈 나머지를 난수로 삼는다는 것이 포인트이다. m으로 나눈다는 것이 뜻하는 바는 결국 0부터 m-1의 숫자가 난수로 채택된다는 것이다. 아주 간단하게 꽤나 불규칙하게 보이는 난수가 만들어진다.
참고로 이 난수는 당연히 주기를 가진다. 0~m-1개의 결과가 다시 이후에 쓰이니까 어찌보면 당연한 결과이다. 다만 그 주기가 무조건 m인 것은 아니다.

다음이 m이 주기가 되는 조건이다. 이외의 경우에는 그 주기는 훨씬 더 커진다. 현재 난수를 만드는데 있어서 사용되는 이전 항이 다양할 수가 있기 때문에 그렇다. 마르코브 속성을 가지는 이상 이 주기를 측정하려면 현재 항과 이전 항에 대한 쌍으로 표현해야 한다.

이것이 난수를 만드는 예시이다. 현재 수열은 100의 주기를 가지고 있는 것이 확인된다. 방금 말한 그 조건에 부합하기 때문에 그렇다.

그리고 책에서 언급만 하고 지나가는, 메르센 트위스터라는 난수 생성 기법이 있다고 한다. 그 주기가 $2^{19937}-1$에 달한다고 하는데, 그 이상의 설명은 제대로 제시되지 않는다. 그냥 632차원의 분포를 가지고 있다고..
뭐.. 일단 있다는 것만 알아두자.

2.8 Fine Points: Event Classes 종결점: 사건 모임

여기에서부터 이전에 말한 그 모임에 대한 이야기가 주루룩 나오는데, 여기는 아직 차마 정리를 잘 못하겠다. 위에서 말했듯이 물어봤음에도 교수님도 모르는 게 약이라는 말을 하셨고, 나 혼자 공부하기에 쉬운 내용은 아니었다. 때문에 이쪽 부분은 당장은 건너가도록 한다. 현재 내게 주어진 시간이 많지 않기 때문에 결국 취사 선택이 필요한 시점이다.

2.9 Fine Points: Probabilities of Sequences of Events  종결점: 연속 사건의 확률

이것도 이름만 봐서는 이해할 수 있을 것 같지만 바로 나오는 이야기가 보렐 영역..

넘어가!