내쉬 균형(Nash Equilibrium)은 게임이론(Game Theory)에서 사용되는 핵심적인 개념으로, 여러 경제 주체가 서로의 행동을 고려해 전략을 선택했을 때 어느 누구도 자신의 전략을 일방적으로 바꾸어 더 큰 이익을 얻을 수 없는 상태를 말한다. 미국의 수학자 존 내쉬(John Nash)가 제시한 개념으로, 개인의 합리적인 의사결정이 다른 사람의 선택에 영향을 받는 상황을 분석하는 데 활용된다.
내쉬 균형의 핵심은 각 참여자가 상대방의 전략을 주어진 것으로 받아들였을 때 자신의 이익을 극대화하는 전략을 선택한다는 것이다. 이를 최적 대응(Best Response)이라고 한다. 즉, 모든 참여자가 상대방의 전략에 대해 최적 대응을 하고 있다면 내쉬 균형이 성립한다. 이 상태에서는 어느 한 참여자도 혼자서 전략을 변경할 유인이 없다.
대표적인 사례로 죄수의 딜레마(Prisoner’s Dilemma)를 살펴볼 수 있다. 두 명의 용의자가 범죄 혐의로 체포되어 서로 의사소통할 수 없는 상황을 가정해 보자. 두 사람은 상대방이 자백하는지 여부와 관계없이 자신의 형량을 줄이기 위해 자백을 선택하는 것이 유리하다. 따라서 두 사람 모두 자백하게 되며, 이 결과가 내쉬 균형에 해당한다. 그러나 두 사람 모두 침묵했다면 더 적은 형량을 받을 수 있었으므로, 내쉬 균형이 반드시 모든 참여자에게 가장 유리하거나 사회 전체적으로 최선인 결과를 의미하지는 않는다.
내쉬 균형은 기업 간 경쟁에서도 활용된다. 예를 들어 두 기업이 시장에서 가격을 결정한다고 가정해 보자. 한 기업은 경쟁 기업의 가격을 고려해 자사 제품의 가격을 정하고, 경쟁 기업 역시 상대방의 가격을 고려해 가격을 결정한다. 이러한 과정에서 어느 한 기업도 경쟁 기업의 가격이 그대로 유지된다는 전제 아래 자신의 가격을 변경해 이익을 더 높일 수 없다면 두 기업의 가격 결정은 내쉬 균형에 해당한다. 이처럼 내쉬 균형은 기업의 가격 경쟁, 생산량 결정, 광고 전략 등 다양한 경영 의사결정을 분석하는 데 이용된다.
내쉬 균형은 우월전략균형(Dominant Strategy Equilibrium)과 구분할 필요가 있다. 우월전략균형은 상대방이 어떤 전략을 선택하더라도 자신의 이익을 가장 크게 만드는 전략을 각 참여자가 선택한 상태다. 반면 내쉬 균형은 상대방이 실제로 선택한 특정 전략을 전제로 자신의 전략이 최선인 상태를 의미한다. 따라서 우월전략균형은 내쉬 균형의 한 유형이지만, 모든 내쉬 균형이 우월전략균형인 것은 아니다. 또한 하나의 게임에서 내쉬 균형이 여러 개 존재할 수도 있다.
내쉬 균형은 경제 주체들이 서로의 행동을 고려하며 의사결정을 내리는 상황에서 안정적인 결과가 무엇인지 분석할 수 있게 해준다는 점에서 중요한 의미를 가진다. 다만 내쉬 균형은 참여자들이 일방적으로 전략을 변경할 유인이 없다는 의미이지, 그 결과가 반드시 효율적이거나 공정하다는 뜻은 아니다. 따라서 경제학에서는 내쉬 균형을 통해 시장 참여자들의 전략적 행동과 경쟁 구조를 이해하고, 경제적 의사결정의 결과를 예측하는 데 활용한다.