[게임이론 완전정복]수학으로 보는 전략의 세계 – 균형, 반복, 그리고 확률의 게임

🎮 게임이론 완전정복 시리즈 ⑥

수학으로 보는 전략의 세계 – 균형, 반복, 그리고 확률의 게임

1. 서론 – 세상은 ‘패턴’으로 움직인다

우리는 매일 같은 결정을 반복한다.
회사에서 협상할 때, 시장에서 가격을 정할 때, 친구와 약속을 정할 때 —
상대가 한 번 한 행동을 기억하고, 그에 따라 나의 다음 행동을 결정한다.
이것이 바로 ‘반복된 게임(Repeated Game)’ 이다.

단 한 번의 거래라면 손해를 보지 않기 위해 상대를 속일 수도 있다.
하지만 내일도, 다음 달도 계속 만난다면 이야기는 달라진다.
“장기적으로 협력하는 게 이익이다” 라는 패턴이 생긴다.
그 패턴을 수학적으로 설명하는 것이 바로 이번 주제,
‘수학으로 보는 전략의 세계’, 즉 균형, 반복, 확률의 게임이다.

---

2. 본론 ① – 내시균형: 세상이 멈추는 지점

게임이론의 중심에는 하나의 단어가 있다. 바로 내시균형(Nash Equilibrium).
존 내시(John Nash)는 이렇게 말했다.

“모든 플레이어가 상대의 전략을 알고 있을 때,
아무도 자신의 전략을 바꿔서 이익을 더 얻을 수 없는 상태.”

예를 들어, 두 회사가 가격을 정하는 상황을 보자.

	경쟁사 가격 인하	경쟁사 가격 유지
우리 회사 인하	(5, 5)	(7, 3)
우리 회사 유지	(3, 7)	(6, 6)

이 표(보수행렬)를 보면,
양쪽이 ‘가격 유지’ 를 선택할 때 (6,6)이 가장 안정적이다.
누구도 자신의 전략을 바꿔서 더 좋은 결과를 얻을 수 없다.
이 상태가 바로 내시균형이다.

내시균형은 ‘최선의 상태’가 아니라 ‘움직이지 않는 상태’다.
즉, 세상은 언제나 최적보다는 “균형” 쪽으로 흘러간다.

---

3. 본론 ② – 반복게임: 협력이 태어나는 수학

한 번뿐인 게임에서는 배신이 이득이지만,
반복되는 게임에서는 협력이 전략이 된다.

이 개념을 보여준 유명한 실험이 있다.
1980년대, 로버트 액설로드(Robert Axelrod)는
“반복되는 죄수의 딜레마 대회”를 열었다.
참가자들은 컴퓨터 알고리즘으로 서로 협력하거나 배신하는 전략을 내야 했다.
수십 번의 대결 끝에 우승한 전략은 의외로 단순했다.

“상대가 협력하면 나도 협력, 배신하면 나도 배신.”
— Tit for Tat (눈에는 눈) 전략

이 간단한 규칙은 강력했다.
왜냐하면 상대에게 “협력하면 좋은 결과를 얻는다”는 신호를 보냈기 때문이다.

결국 반복게임은 이렇게 말한다.
“오늘의 선택이 내일의 관계를 결정한다.”
단기적 이익보다 장기적 신뢰를 쌓는 쪽이 이득이다.

---

4. 본론 ③ – 확률의 게임: 세상은 완전한 정보로 움직이지 않는다

현실은 항상 불확실하다.
상대의 전략을 100% 알 수 없기 때문이다.
이때 필요한 개념이 바로 혼합전략(Mixed Strategy) 이다.

혼합전략은 “하나의 전략만 고수하지 않고, 확률적으로 섞는 방식”이다.
예를 들어, 축구 페널티킥을 생각해보자.
골키퍼는 왼쪽이나 오른쪽으로 뛰어야 하고,
공격수는 왼쪽이나 오른쪽으로 찰 수 있다.

공격수가 70% 확률로 왼쪽을 찬다면
골키퍼도 왼쪽으로 갈 확률을 조정해야 한다.
이처럼 ‘확률로 상대를 읽는 전략’ 이 바로 혼합전략이다.

현대 금융시장의 알고리즘 트레이딩,
AI의 의사결정 모델,
포커 챔피언의 심리전까지 —
모두 확률적 전략의 연장선에 있다.

---

5. 현실 사례 – 세상 속의 균형과 반복

(1) 경제: 기업 간 가격전쟁

내시균형의 대표 사례는 가격 담합 vs 경쟁이다.
양쪽이 서로 가격을 낮추면 모두 손해지만,
한쪽이 먼저 올리면 점유율을 잃는다.
그래서 결국 ‘묵시적 균형’ 에 머무는 경우가 많다.

(2) 정치: 외교 전략

반복게임은 외교에서도 작동한다.
한 번의 협상보다 장기적 신뢰가 중요하기 때문에
국가 간 협약은 ‘반복적 신호’ 를 통해 유지된다.

(3) 인간관계: 친구와 연인 사이의 패턴

“이번엔 내가 사줄게.”
“다음엔 네가 사.”
이 반복이 깨지는 순간, 신뢰가 무너진다.
사람 사이에도 균형과 반복의 법칙이 존재한다.

---

6. 결론 – 전략보다 관계가 세상을 움직인다

게임이론은 인간의 이기심을 분석하는 학문처럼 보이지만,
결국 협력의 수학을 말한다.
반복과 확률, 균형의 원리를 통해 세상은
경쟁 속에서도 질서와 신뢰를 만들어간다.

“전략은 수학이지만, 균형은 인간의 선택이다.”

게임이론을 이해한다는 것은
세상을 움직이는 보이지 않는 계산식을 읽는 것이다.
그 계산식의 해답은 늘 같다.
함께 이기는 쪽이 가장 효율적이다.

---

7. 다음 편 예고

다음 시리즈 ⑦에서는
“현실 속의 게임이론 – 우리가 모르는 일상의 전략들” 을 다룬다.
경제, 정치, 연애, SNS까지,
우리 주변에서 매일 작동하는 ‘보이지 않는 게임’의 실체를 해부해보자.