어른들을 위한 수학 〈11〉 내 손 끝에 행운이 잡힐 확률은? : 월간조선

당신에게 천 원이 있다. 주사위를 던져 승패를 결정하여 이긴 사람은 천 원을 벌고, 진 사람은 천 원을 잃게 된다면 당신은 이 내기에 참가할 것인가? 만약 금액이 만 원으로 올라간다면 어떨까?

망설이는 사람도 있겠지만 심리적 저항이 크지 않은 금액이라면 제법 많은 사람이 유희를 위해 참여할 것이다. 좀 더 많은 사람의 참여를 위해 멋진 숙소, 화려한 볼거리, 짜릿한 놀이기구 등을 갖춘 장소로 옮겨 보자.

주사위는 던져졌다

고대의 주사위 놀이.

루비콘 강을 건너며 남긴 카이사르의 이 한마디를 통해 고대 로마 시절부터 주사위를 이용한 도박은 낯설지 않음을 추론할 수 있다. 실제로 유럽 사회에서 주사위 놀이는 몹시 흔하게 이루어졌으며, 중세에 이를 즈음에는 남녀노소, 신분고하를 막론하고 가장 즐겨 했던 유희 중 하나였던 것으로 추측된다. 이를 뒷받침할 증거는 셀 수 없이 많은데 유럽 곳곳의 관청에서 제시한 갖가지 제도들이나 당시의 주사위 놀이를 표현한 그림들, 그리고 오늘날까지 남아 있는 몇 단어들이 그중 하나라고 볼 수 있겠다. 일례로 오늘날 컴퓨터 공학에서 사용하는 몬테 카를로 알고리즘은 카지노 시티로 유명한 모나코의 ‘몬테 카를로’에서 유래한 것으로 무작위 값을 활용하여 확률적으로 계산하는 알고리즘을 의미한다.

독일의 역사학자 보르스트(O. Borst)는 “모든 탁자 위에 주사위가 굴러다닌다”라고 표현하였는데 작은 유희로 말미암은 서민들의 파산을 막기 위해 독일 및 오스트리아 등지에서는 돈을 걸지 않고 하는 주사위 놀이 또는 아주 적은 돈을 건 내기 정도만을 허용하곤 했다.

그렇다면 좀 더 위험한 스릴을 즐기고 싶은 사람들은 어디로 향했을까. 공인 도박장, 다름 아닌 카지노이다. 이탈리아어로 별궁, 저택을 뜻하는 카자(Casa)에 어미 ino를 붙인 단어 ‘카지노’를 통해 당시 도박에 심취했던 귀족들의 모습이 상상되지 않는가.

실제 르네상스를 맞아 더 큰 돈을 건 도박이 유럽 곳곳에서 횡행했고, 이를 수학적으로 분석하려는 사람들이 나타나기 시작했다. 이탈리아의 수학자이자 도박사인 카르다노(G. Cardano)의 경우 주사위 놀이를 할 때 불리한 결과가 나오는 수와 유리한 결과가 나오는 경우의 수를 통하여 확률의 개념을 도입하기도 하였다.

주사위를 던지는 두 사람, 알폰소 10세(1283).

이후 수십 년 동안 다른 학자들도 주사위와 베팅 이론에 대해 연구하였는데, 프랑스의 작가 공보(A. Gombaud)의 질문으로 인해 이는 더욱 활발해졌다. 공보의 질문은 아래와 같다.

“주사위 하나를 네 번 던졌을 때 6이 한 번 이상 나오는 것과 주사위 두 개를 스물네 번 던졌을 때 둘이 동시에 6이 한 번 이상 나오는 것 중 어느 쪽이 더 유리할까?”

오늘날의 우리는 여사건을 이용한 간단한 공식을 통해 공보의 질문에 대해 답변할 수 있다. 우선 주사위 하나를 네 번 던졌을 때 적어도 6이 한 번 이상 나오려면 전체 확률인 1에서 6이 한 번도 안 나오는 경우인 (5/6)⁴을 빼서 구할 수 있는데, 5⁴=25×25=625이고 6⁴=36×36=1296이므로 여사건의 확률이 1/2보다 적어 ‘4번 던지면 1번 이상 6이 나올 수 있다’에 돈을 걸 경우 이길 가능성이 절반을 약간 넘는다는 사실을 알 수 있다.

같은 방식으로 주사위 두 개를 던져 동시에 6이 나오는 확률을 구하는 방식은 다음과 같다. (1,1), (1,2), (1,3) … (6,6)에 해당하는 총 36가지 경우 중 오직 (6,6)의 경우만이 이길 수 있으므로 전체 확률인 1에서 여사건인 (35/36)²⁴을 소거하는데, 이 경우 이길 가능성이 절반에 미치지 못하므로 전자가 유리하다는 사실을 알 수 있다.

만약, (35/36)²⁴을 그대로 계산하기 어려울 경우 (5/6)⁴와 비교하기 위해 (35/36)²⁴을 {(35/36)⁶}⁴의 형태로 변환하면 (35/36)⁶은 5/6에 5⁵×7⁶/6¹¹배 한 것이므로 약 1.013이 되고 네제곱하면 후자의 여사건 확률이 약 1.055배 높아 같은 결론을 얻을 수 있다.

세계에서 가장 비싼 그림

카지노의 발달과 더불어 도박은 다양한 형태로 이루어졌다. 무려 2억5000만 달러에 거래되어 몇 년 전까지 세계에서 가장 비싼 그림이라는 타이틀을 가지고 있었던 세잔(P. Ce'zanne)의 그림, 〈카드놀이를 하는 사람들〉에 나타난 두 남자의 모습에서 흐르는 긴장감은 오늘날의 우리에게까지 전해지고 있다.

그들이 무슨 게임을 하는지 정확히 알 수는 없으나 2인 맞대결의 확률게임이라면 처음 질문했던 것과 같이 승리의 가능성이 1/2에 준하는 것만은 틀림없다. 그렇다면 또다시 하나의 궁금증을 가질 수 있다. 만약 이 게임에서 왼쪽 플레이어가 이겼다면 다음번 게임에서 승리할 가능성이 높은 사람은?

질문을 받은 사람은 확률과 실력의 가운데에 서서 고민에 빠지게 된다. 많은 사람이 ‘오른쪽’이라고 대답할 가능성이 높다. 평균값에 수렴하기 위해서라는 이유에서이다. 마치 동전을 한 번 던졌을 때 앞면이 나왔다면 다음번에는 뒷면이 나올 가능성이 높다고 기대하는 것과 비슷한 오류라고 볼 수 있겠다. 흔히 ‘도박꾼의 오류(Gamblers’ fallacy)’라고 표현하는 이러한 착각은 ‘평균의 법칙’에 대해 잘못된 이해에서 비롯된다. 간단히 생각해 보자. 동전을 무한에 가깝도록 던진다면 혹은 두 플레이어가 셀 수 없을 만큼 많은 경기를 했다면 승패의 확률은 반반에 수렴할 것이 분명하다. 하지만 각 사건은 분명 독립적으로 시행되고 있기 때문에 이전의 결과와 무관하게 새로운 1/2의 확률을 맞이하게 된 것뿐이다. 즉, 이전 사건의 결과에 대한 보상이 가까운 미래에 곧바로 시행되는 것이 아니므로 과거 결과에 기초하여 앞으로의 결과를 예측한다면 이는 손실을 유발하는 지름길이라고 할 수 있겠다.

마팅게일, 룰렛을 잡을 수 있을까?

마팅게일은 완벽한 전략일까?

18세기 프랑스, 베르사유에서는 매일 저녁 도박판이 열리곤 했다. 파리의 카지노에 룰렛 바퀴가 처음 등장한 것도 이 무렵이었다. 두 개의 주사위 대신 1에서 36까지의 숫자가 적혀 있고 각 숫자는 흑과 백(혹은 적)의 색깔을 가지고 있다. 단, 주사위와는 다르게 초록색 0의 칸이 포함되어 있어 확률이 1/2보다 약간 낮아진 룰렛이 빙글빙글 회전한다. 게임의 규칙은 아래와 같다.

‘딜러가 회전 기구에 떨어뜨린 쇠구슬이 어느 색깔 칸에 가서 멈출까?’를 놓고 많은 사람이 원하는 색의 칸에 돈을 베팅한다. 단, 초록색 0은 선택할 수 없으며 흑과 백(혹은 적)색에 거는 인원은 동일해야 한다. (만약 쇠구슬이 0에서 멈출 경우 게임은 무효로 처리된다.)
흑색 칸에서 쇠구슬이 멈추었다고 가정해 보자. 이 경우 흑색 칸에 베팅한 사람들은 백색 칸에 베팅한 사람들이 걸었던 돈을 분배하여 두 배의 돈을 나눠 갖게 된다

많은 사람은 이 게임의 필승법이 다음과 같다고 주장했다. 게임에서 돈을 벌 확률과 잃을 확률이 같고, 이겼을 때 버는 금액과 질 때 잃는 금액이 같으므로, 만약 돈을 잃는다면 그 다음에 두 배의 돈을 걸어 게임에 참가하는 것이다. 이를 마팅게일(martingale)이라고 한다. 과연 마팅게일은 완벽한 전략이었을까?

간단히 생각해 보자. 첫 게임에서 1원을 잃을 경우 다음 게임에서 2원을 걸어서 이긴다면 1원을 벌게 되고 진다면 다시 4원을 베팅한다. 이때 이긴다면 3원을 투자해서 4원을 벌었으니 1원의 이익을 얻게 된다. 만약 또 진다면 다음 차례에는 8원을 베팅할 경우 1원의 이익을 얻을 수 있다. 수학적으로 완벽한 접근이다. 2⁰+2¹+2²+…+2^n-1이므로 마지막 차례에 2ⁿ을 베팅하여 이길 때까지 한다면 무조건 1원을 얻는 전략이기 때문이다.

하지만 이러한 완벽한 전략에도 불구하고 수많은 사람은 카지노에서 파산을 경험했다. 이 때문인지 프랑스의 작가 뒤마(A. Dumas)는 “마팅게일은 영혼만큼이나 파악하기 어렵다”고 이야기했으며 그의 소설에서는 도박 때문에 고생하는 주인공을 심심치 않게 찾아볼 수 있다.

그렇다면 미처 발견하지 못했던 마팅게일의 함정은 무엇이었을까? 바로 재화의 유한성이다. 앞서 언급한 것처럼 카지노의 세계에서 각각의 사건은 독립적인 만큼 이전 경험의 실패가 다음 게임의 승리를 보장해 줄 수는 없다. 그렇다면 거듭해서 두 배씩 베팅할 수 있을 정도의 충분한 재화가 필요하다. 하지만 고작 10번째 도전 만에 1024배로 뛰어 버린 베팅 금액을 감당할 수 있는 재력가가 그 시대에 과연 얼마나 많이 있었을까. 설령 1원의 수익을 얻는 데 성공하였더라도 어마어마한 투자를 통해 1원의 수익을 얻는 데 만족하고 잇따른 도박의 유혹을 이겨내는 데 성공할 사람은 또 얼마나 있었을까.

행운은 어디에?

이쯤 되면 몇 가지 의문이 떠오를 수 있다. 1/2이라는 제법 높은 가능성에도 이런 부정적인 예측이 있다면 오늘날의 갖가지 복권은 무슨 의미가 있을까. 혹은 수많은 학자가 남긴 연구를 이용하여 손실이 아닌 일확천금의 꿈을 이룰 수 있을까 등과 관련된 것들이 바로 그것이다.

미국의 물리학자 파인만(R. Feynman)의 자전적 소설 《Surely You’re Joking, Mr. Feynman!》에서 소개된 일화를 통해 약간의 해답을 찾을 수 있겠다. 당시 라스베이거스를 방문하며 베팅 게임의 수익률에 대한 여러 가지 기댓값을 연구했던 파인만은 예상과 달리 자꾸만 돈을 잃게 되자 여러 사람과 만나 대화를 하였다고 한다. 프로 겜블러 닉 역시 그중 하나였다. 파인만은 그에게 ‘어떻게 도박으로 꾸준히 수익을 얻을 수 있는지’를 물었고 닉은 아래와 같이 답했다.

“저는 게임의 확률이 아닌 게임에 참여하는 사람들을 관찰한 후 게임에 참가합니다. 행운의 숫자를 믿거나 결과를 섣불리 예측하는 사람들 말입니다.”

즉, 독립 시행으로 인해 예측이 불가능한 확률이 아닌, 확률을 오해한 사람들을 관찰하여 승리의 가능성을 높이는 일종의 새로운 전략을 제시한 것이다.

이처럼 베팅은 또 다른 아이디어와 결합할 때 우연한 당첨보다 더 거대한 행운을 가져다주곤 한다. 몬테카를로의 룰렛에서 영감을 얻어 각종 천문학적 업적을 남긴 푸엥카레의 예시나 스크래치 카드의 분배 알고리즘을 연구하다 나치의 로렌츠 암호를 해독한 터트(W. T. Tutte) 등은 그 대표적인 예라고 할 수 있겠다. 그들이 예외적인 천재였기 때문이라고 반박하는 사람들에게는 영국의 극작가 조지 버나드 쇼(G. B. Shaw)의 에세이 한 대목을 소개하려 한다. 다음은 그의 책 《The Vice of Gambling and the Virtue of Insurance》(1944)에 실린 하나의 에피소드이다. 선장 A와 승객 B는 아래와 같은 대화를 나눈다.

선장 A : 바다를 건너려거든 내 배에 타시오. 당신이 내 배를 타게 된다면 나는 당신과 당신의 짐이 모두 안전하게 바다를 건널 수 있다는 데 큰돈을 걸겠소.

승객 B : 내가 그 제의를 받아들인다면 나는 바다를 무사히 건너더라도 거지가 되거나 혹은 바다를 건너지 못해 죽게 되는 것 아니오? 대체 이 내기가 나에게 무엇이 유리하단 말이오?

선장 A : 하지만 이 내기는 나에게도 결코 유리한 것이 아니라오. 만약 당신이 무사히 바다를 건너지 못한다면 나 역시 마찬가지일 것이기 때문이오. 그렇다면 베팅의 규모를 바꾸어 하는 건 어떻소? 만약 당신이 무사히 도착하지 못할 경우 나는 당신이 베팅한 금액의 10배에 달하는 금액을 당신의 가족에게 돌려주도록 하겠소.

얼핏 평범해 보이는 선장은 내기를 좋아하는 승객을 파악하여 오늘날의 ‘보험’이라는 새로운 수학적 발견을 한 것임에 분명하다. 선장과 같은 시선으로 다시 한 번 주변을 바라보자. 또 다른 행운의 여신이 복권의 1등 당첨 가능성보다 더 높은 확률로 당신에게 손짓을 하고 있을지 모르니.⊙

상단주메뉴

어른들을 위한 수학 〈11〉 내 손 끝에 행운이 잡힐 확률은?

0건

사이트 이용안내

내가 본 뉴스 닫기