초유의 일이 일어나는 혼란기에 서로를 불신하는 등장인물까지. 이런 때면 약방의 감초처럼 ‘죄수의 딜레마’ 비유가 등장한다. 얼마 전 어느 경제학자 칼럼이 죄수의 딜레마를 언급하며 서로 못 믿는 불신 사회를 개탄한 것도 비슷하다. 협력을 통해 공동체의 이익을 늘일 수 있다는 게임이론 개념인 ‘죄수의 고민’을 엉뚱하게 신뢰의 문제에 적용한 몰이해다. ‘모두가 패자’라는 부정적인 의미로 사용한 오류까지 똑같다.

게임이론은 애초에는 수학자들에 의해 연구됐다. 지금은 경제학이나 사회학 등에서 광범위하게 쓰이고 노벨경제학상 수상자도 다수 배출했다. 경쟁사회의 특징인 제로섬 사회는 하나가 많이 가지면 다른 이는 덜 가질 수밖에 없는 사회다. 베이징대의 진징이 교수는 남북한의 대립 과정도 제로섬 게임으로 설명한다. 이 틀로 접근할 수 없는 비제로섬 사회 개념의 대표적인 예가 죄수의 딜레마 문제다.

유럽연합(EU)이 좋은 예다. 최근 영국의 브렉시트도 혼란스러웠지만, 처음 EU가 만들어질 때도 첩첩산중이었다. 통화 주권까지 포기해야 하니(일부 예외는 있지만), 거시경제정책의 주요 도구를 잃고 경제 종속을 우려하는 반발과 갈등이야 불을 보듯 뻔하다. 그렇다고 각자도생하다가는 보호무역주의와 군비 경쟁의 심화로 다 망하는 공포 시나리오에 직면한다. 각자의 이익을 조금 내려놓으면 유럽 전체의 이익이 올라가는 죄수의 딜레마 상황. 누군가가 배신하고 등에 칼을 꽂을지 모르는 국제 관계 속성 때문에 망설인다. 결국 유럽연합이라는 강력한 기구를 만들어서 배신을 응징하는 시스템을 갖추는 게 유일한 논리적 대안이 되고, 이는 실제로 구현됐다. 그러니 EU는 게임이론의 산물이려나.

핵무기 개발에 열을 올리는 국제사회도 또 다른 예다. 타국이 핵무기를 늘리면 자기도 늘려야 하지만, 상호 협력해서 적절한 수준으로 조정하면 세계로는 이익이다. 노동자와 사용자를 구성원으로 한 사회도 각자의 이익만 극대화하면 사회 전체는 잃는 게 더 큰 대표적인 비제로섬 사회다.

제로섬 사회에서는 구성원이 각자의 이익을 극대화하기 위해 노력해도 얻는 자와 잃는 자가 있어서 사회 전체의 이익은 같다. 하지만 죄수의 딜레마 상황에서는 구성원의 협력 때문에 사회 전체의 이익이 증가할 수 있다.

애초의 문제 설명은 죄수 두 명이 격리 심문 중에 제안을 받는 장면에서 시작한다. 자신이 자백하고 공범이 자백하지 않으면, 자신은 풀려나고 공범은 10년형을 선고받는다. 반대의 경우는 거꾸로다. 모두 자백하면 정상 참작으로 각각 5년형씩 받는다. 아무도 자백하지 않으면 증거가 없으니 다른 잡범 혐의로 각각 6개월형이다. 고민에 빠진다. 무조건 자백하면 풀려나거나 5년형이니 최악 10년은 면하지 않겠는가.

하지만 두 죄인으로 이루어진 하나의 사회를 생각한다면 다른 얘기가 된다. 협력해서 버티면 사회 전체의 총형량은 1년에 불과하다. 각자도생하면 사회 전체의 형량이 10년이다. 개인 이익을 조금 손해 보는 게 사회 전체의 이익을 늘리는 상황이다.

모든 것을 경쟁 논리로 보고 제로섬 사회의 시각으로 접근하면 사회 구성원의 반목이 심화하고 사회 전체의 이익은 감소한다는 것을 게임이론은 명쾌히 설명한다. 경쟁보다 협력이 이익이라는 죄수의 고민 개념을 엉뚱하게 불신 사회를 얘기할 때 적용하는 건 오해다. 감옥에 갇힌 죄수로 설명하지 말고 ‘유럽 국가의 딜레마’라고 부르면 나아지려나.