문화는 체계 없는
체계이다

문화는 체계 없는 체계이다

: 복잡계 이론으로 배우는 조직문화를 만드는 방법  

🧭 관점열기

많은 조직은 문화를 바꾸기 위해 제도를 만들고 시스템을 구축합니다. 그런데 이상하게도 제도는 작동하는 데 문화는 바뀌지 않습니다.

왜일까요? 우리는 문화를 ‘만들 수 있는 것’이라고 가정하지만, 문화는 설계로 만들어지지 않습니다. 전혀 다른 방식으로 ‘형성’됩니다.

이 원리를 가장 잘 보여주는 사례가 있습니다. 바로 아프리카 사막의 흰개미집입니다.

높이 3미터가 넘는 흰개미집은 정교한 환기 구조와 온도 유지 기능을 갖춘 자연의 건축물입니다. 놀라운 것은 누가 설계하거나 지시하지 않았다는 점입니다. 각 개미는 그저 다른 개미들이 흙을 쌓는 곳으로 모여들고, 그곳에 자신도 흙을 쌓습니다. 개별 개미가 하는 일은 단순합니다. 그런데 이 단순한 행동이 반복되면서 놀라운 일이 벌어집니다. 개미 한 마리는 할 수 없는 일, 즉 온도를 조절하고 외부 침입을 막아내는 정교한 개미집의 구조가 만들어지는 것입니다. 과학자들은 이렇게 개별 차원에서는 불가능했던 특성이 집단 전체에서 새롭게 나타나는 현상을 '창발'이라고 부릅니다. 

조직문화도 이와 같습니다. 문화는 누군가 설계하거나 지시한다고 생기지 않습니다. 문서에 적혀 있지 않아도 모두가 따르는 암묵적 기준, 말하지 않아도 자연스럽게 반복되는 패턴, 이것이 바로 조직문화입니다. 그리고 그것은 명령이나 통제가 아니라 상호작용의 방식에서 생겨납니다. 

우리는 조직을 기계처럼 다루려 합니다. 정교하게 설계하고, 설계된 그대로 실행하면 완벽한 모습이 될 것이라고 믿습니다. 하지만 실제로 조직은 기계가 아니라 유기체입니다. 그리고 유기체의 질서는 통제가 아니라 상호작용을 통한 자기조직화로 만들어집니다.

🤔 모두가 말하지만, 정의하기 어려운 것

조직문화는 경영의 핵심 화두입니다. 그런데 "조직문화가 무엇인가요?"라고 물으면 선뜻 답하기가 쉽지 않습니다.

"자유로운 분위기요", "수평적인 관계요", "복지가 좋은 것이요"라는 답변들이 돌아옵니다. 하지만 이것들은 문화의 결과이지 문화 그 자체는 아닙니다. 그럼에도 누구나 조직에 발을 들여놓는 순간 그 조직의 문화를 느낍니다. "여기는 뭔가 다르다", "이 회사는 빨리빨리 문화네", "여기선 실수하면 안 되겠다" 같은 감각이 즉각 전달됩니다.

흥미로운 점은 문화는 정의하기는 어렵지만 누구나 느낄 수 있다는 것입니다. 문서에 적혀 있지 않지만 모두가 압니다. 규정되지 않았지만 강력하게 작동합니다. 이것이 바로 문화가 '체계 없는 체계'라는 것을 보여줍니다.

규정되거나 공식적으로 존재하지는 않지만(체계 없는), 누구나 직관적으로 느낄 수 있고 자연스럽게 따르게 되는 것(체계)입니다.

그러나 많은 조직이 이 암묵적인 문화를 명시적인 제도로 만들려고 합니다.

전형적인 접근:

• • • "혁신 문화가 필요하다" → 혁신 제안제도 도입, 제안 건수 목표 설정, 우수 제안 포상
    • "신뢰가 부족하다" → 다면평가 도입, 평가 기준 상세화, 피드백 프로세스 강화
    • "협업이 안 된다" → 팀 간 벽 허물기, 통합 조직 신설, 협업 KPI 설정

겉으로 보기에는 합리적입니다. 그런데 기대만큼 효과가 나타나지 않습니다.

⛔ 제도를 통해 조직문화를 변화시키기 어려운 이유

많은 조직은 원하는 문화를 만들기 위해 새로운 제도를 도입하거나 기존 시스템을 강화합니다. 그러나 기대와 달리 변화는 일시적으로 나타났다 사라지고, 시간이 지나면 다시 원래의 방식으로 돌아갑니다.

왜일까요? 제도와 문화는 작동 원리 자체가 다르기 때문입니다. 제도를 바꾼다고 문화가 바뀌지 않는 이유를 세 가지 측면에서 살펴보겠습니다.

첫째, 제도는 문제의 표면적 현상에 대응할 뿐, 그 현상을 만들어낸 근본 원인에 개입하지 못합니다. 조직에서 협업이 이루어지지 않는 이유는 대개 조직 구조나 프로세스가 부족해서가 아닙니다. 더 근본적인 이유는 신뢰 부족, 실패에 대한 두려움, 소통에 대한 불안감 같은 과거의 경험과 이에 대한 기억에 있습니다.

이런 상태에서 새로운 제도를 도입하면 구성원들은 겉으로는 제도를 따르는 것처럼 보일 수 있습니다. 하지만 상호작용 방식, 사고 패턴, 심리적 불안감은 그대로 남아 있기 때문에 변화는 지속되지 않습니다. 즉, 행동은 변해도 관계와 각자의 기억은 그대로이기 때문에 문화 자체를 바꾸기가 어렵습니다.

둘째, 제도는 명시적 규칙으로 작동하지만, 문화는 암묵적 압력으로 작동합니다. 제도는 "해야 하는 방식"을 명시해 행동을 조정하지만, 문화는 "여기서는 이렇게 행동하는 것이 당연하다"는 암묵적 기대와 사회적 압력으로 작동합니다. 제도는 한 번 설계되면 쉽게 바뀌지 않기 때문에, 시간이 지나면 불필요한 프로세스나 낡은 규칙이 유지되며 비효율을 만들기 쉽습니다. 반면 문화는 구성원들의 경험과 실제 행동이 반복되며 자연스럽게 변화합니다.

그래서 제도를 도입해도 구성원들이 그 방식에 공감하지 않거나 필요성을 느끼지 못하면, 제도는 실행되지 않거나 오히려 저항의 원인이 되기도 합니다.

셋째, 제도는 단일 변수를 통제하지만 문화는 복합 변수의 상호작용입니다. 소통 방식, 갈등 처리 방식, 의사결정 구조, 권한과 책임, 구성원의 경험과 신뢰 수준과 같은 요소들이 축적되고 상호작용하며 형성되는 종합적 결과입니다.

그래서 단일 제도를 바꾼다고 해서 조직 전체의 문화가 바뀌지 않습니다. 문화는 여러 상호작용이 임계점에 도달할 때 나타나는 창발적 결과이기 때문입니다.

🌍 조직을 보는 관점의 전환: 기계론에서 유기론으로

조직문화를 이해하려면 먼저 조직을 어떻게 볼 것인가에 대한 근본적인 관점 전환이 필요합니다.

많은 경우 조직은 기계처럼 여겨집니다. 부품(구조)을 바꾸고, 작동 방식(절차)을 조정하면 원하는 결과(문화)가 나올 것이라 기대합니다. 하지만 앞서 본 것처럼 제도를 바꿔도 문화는 쉽게 바뀌지 않았습니다. 왜냐하면 조직은 기계가 아니기 때문입니다.

실제로 조직은 기계적 요소와 유기적 요소를 동시에 갖고 있습니다. 표준화된 프로세스와 명확한 역할처럼 기계적 요소도 필요하고, 구성원 간의 신뢰와 자발적 협력처럼 유기적 요소도 작동합니다. 문제는 어느 측면에 더 주목하느냐 입니다.

20세기 산업화 시대에는 반복 작업이 주를 이루고 환경이 안정적이었기 때문에 기계론적 접근만으로도 어느 정도 효과적이었습니다. 하지만 이제 업무는 매번 다른 문제를 해결하는 창의적 활동이 되었고, 환경은 불확실하고 빠르게 변화합니다. 경쟁력의 원천은 혁신과 적응력으로 바뀌었습니다. 이런 환경에서는 조직의 유기적 측면이 훨씬 더 중요해졌습니다.

유기론적 조직관에서 조직은 살아 있는 생명체입니다. 부분은 서로 깊이 연결되어 있고, 구성원들의 상호작용이 조직의 분위기와 문화를 결정하며, 변화는 설계가 아니라 적응을 통해 일어납니다. 이를 받아들이면 조직문화는 의도적 설계가 아니라 구성원들의 반복적 상호작용 속에서 점진적으로 형성된다는 것을 이해할 수 있습니다.

하지만 유기론도 한계가 있습니다. 불확실하고 빠르게 변하는 환경에 있는 조직을 이해하는 '틀'은 제공하지만, 문화가 형성되는 구체적 '메커니즘'은 설명하지 못합니다. 그래서 필요한 것이 복잡계 이론입니다.

🌀 조직은 복잡계다: 복잡계와 창발 현상

복잡계는 수많은 요소가 상호작용하면서 외부 통제 없이도 스스로 질서를 만들어내는 시스템입니다. 새 떼, 물고기 떼, 개미집, 교통 흐름, 시장 경제, 인간의 뇌, 그리고 조직이 모두 복잡계입니다. 이들은 고정된 시스템이 아니라 환경 변화에 적응하고 학습하며 진화합니다. 조직도 마찬가지입니다. 시장 환경, 기술 변화, 구성원의 경험이 달라지면서 조직의 문화와 행동 패턴도 함께 변화합니다.

복잡계의 핵심은 '창발'입니다. 창발이란 개별 요소에는 없던 특성이 전체 수준에서 새롭게 나타나는 현상입니다. 물 분자 하나는 액체가 아니지만, 수많은 물 분자가 모이면 표면장력, 점성 같은 새로운 속성이 나타납니다. 뉴런 하나는 의식이 없지만, 수십억 개의 뉴런이 상호작용하면 의식이라는 현상이 나타납니다.

조직문화도 창발 현상입니다. 개인 한 명 한 명은 문화를 갖고 있지 않지만, 구성원들이 모여 상호작용하면 특정한 분위기, 암묵적 규범, 공유된 가치관이 나타납니다. 이것이 문화입니다.

🌼 체계 없는 체계의 의미

조직문화가 창발 현상이라는 것을 이해하면, “체계 없는 체계”라는 역설적 표현의 의미가 명확해집니다.

"체계 없다"는 것은 문서로 규정되지 않았고, 누가 설계하지 않았으며, 공식적으로 명령하지 않았고, 강제로 시행하지 않았다는 것을 의미합니다.

"체계"라는 것은 모두가 알고 있는 질서가 있고, 예측 가능한 패턴이 있으며, 행동을 이끄는 기준이 있고, 조직을 움직이는 힘이 있다는 것을 의미합니다.

즉, 명시적 규칙은 없지만 암묵적 질서는 있다는 의미입니다. 적혀 있지 않지만 모두가 따르는 기준, 지시하지 않았지만 자연스럽게 형성되는 패턴, 이것이 바로 문화입니다.

예를 들어, 어떤 조직에는 "회의에서 반대 의견을 내지 않는다"는 규칙이 문서에 없습니다. 하지만 누구도 반대 의견을 내지 않습니다. 과거에 반대했던 사람이 불이익을 받았거나, 리더가 불쾌한 반응을 보인 경험이 반복되면서 "여기선 반대하면 안 된다"는 암묵적 규범이 형성된 것입니다.

⚙️ 문화 창발의 메커니즘

그렇다면 복잡계에서 질서는 어떻게 만들어질까요? 복잡계 이론은 창발이 일어나는 기본 메커니즘을 제시합니다. 바로 ‘상호작용’의 반복 → ‘패턴’의 형성 → ‘질서’의 정착 → 새로운 특성의 ‘창발’입니다.

복잡계 현상은 매우 복잡해 보이지만, 그 패턴은 단순합니다. 구성요소들이 단순한 몇 가지 규칙으로 상호작용하면서 개별 요소와는 전혀 다른 패턴을 창발합니다. 자연계에 일어나는 대부분의 현상은 크든 작든 먹임과 되먹임의 피드백 구조를 가집니다. 구성요소 간의 상호작용이 임계값에 이르면 새로운 질서가 만들어집니다. 자기조직화가 가속화되면서 창발 현상이 일어나는 것입니다.

흰개미집 건축을 다시 떠올려보세요. 각 개미는 다른 개미들이 흙을 파는 곳으로 모여들고, 그곳에서 판 흙을 주변에 쌓습니다(상호작용). 이 단순한 행동이 반복되면서 작업 지점이 소수로 집중되고, 그 주변에 흙이 규칙적으로 쌓이기 시작합니다(패턴). 패턴이 강화되면서 터널, 방, 램프 등 정교한 구조가 형성됩니다(질서). 그 결과 개별 개미의 행동에는 없던 특성, 즉 온도와 습도를 조절하고 포식자를 막아내는 기능이 흰개미집이라는 구조 전체에서 생겨납니다(창발).

조직도 유사한 원리로 작동합니다. 다만 조직은 본능이 아닌 의도와 학습을 통해 작동한다는 차이가 있습니다. 구성원들 사이의 일상적 상호작용이 반복되면서 일정한 패턴이 형성되고, 그 패턴이 조직 전체의 질서로 정착되면, 마침내 문화라는 새로운 특성이 창발됩니다. 더 나아가 조직 문화뿐 아니라 사회 전반의 문화 형성도 같은 원리로 이해할 수 있습니다.

중요한 것은 이 과정이 '자기조직화(self-organization)'를 통해 일어난다는 점입니다. 중앙의 명령이나 설계 없이도 상호작용이 반복되고, 반복된 상호작용으로 인해 임계점을 넘어서면 질서가 만들어집니다.

💞 상호작용의 질이 문화를 결정한다

조직은 수많은 상호작용이 다층적이고 입체적으로 일어나는 복잡계입니다. 구성원 간, 단위 조직 간, 상하 계층 간, 구성원과 조직문화 간 상호작용이 수시로 일어나며, 이 모든 상호작용은 복잡한 먹임-되먹임 과정을 거칩니다.

여기서 핵심은 상호작용의 '방향'입니다. 긍정적 상호작용은 구성원들이 자율성을 가지고 역량을 충분히 발현할 수 있는 조직문화를 형성합니다. 부정적 상호작용은 의존적이고 소극적이며 타율적인 조직문화를 만듭니다. 불공평, 불공정, 불투명한 환경에서는 부정적 문화가 싹틉니다.

따라서 문화를 바꾸려면 제도를 바꿀 것이 아니라 상호작용의 질을 바꿔야 합니다. 구성원들이 어떻게 만나고, 어떻게 소통하고, 어떻게 협력하고, 어떻게 갈등을 해결하는가? 이 일상적 상호작용이 바람직한 방향으로 반복적으로 이루어질 때, 문화는 자연스럽게 변화합니다.

🍀 자연의 결을 따른 경영: 조직문화 창발의 5단계

문화가 창발의 결과라면, 문화를 변화시키기 위해서는 '제도 설계'가 아니라 '환경 조성'이 핵심이 되어야 합니다. 정원사는 꽃을 직접 만들 수 없습니다. 하지만 좋은 토양, 적절한 물과 햇빛, 알맞은 온도를 제공하면 꽃은 스스로 피어납니다.

조직문화도 이와 같습니다. 문화를 직접 만들 수는 없지만, 좋은 문화가 자라날 조건은 만들 수 있습니다. 그렇다면 어떻게 해야 조직에 신뢰 기반의 몰입 문화가 자연스러운 질서로 자리 잡도록 할 수 있을까요? 핵심은 긍정적인 상호작용을 촉진하여 조직이 스스로 질서를 형성하도록 돕는 것입니다. 조직문화는 강제나 통제가 아니라 구성원들 간의 건강한 상호작용에서 자연스럽게 생겨나기 때문입니다.

복잡계의 창발 메커니즘을 조직에 적용하면, 조직문화가 형성되는 과정을 5단계로 이해할 수 있습니다. 다만 이 과정은 선형적이 아니라 각 단계가 서로를 강화하는 비선형적 과정입니다.

1️⃣단계: 조직활성화 - 변화의 중심축 확보

모든 변화는 중심으로부터 시작됩니다. 볼링에서 중앙의 '킹핀(kingpin)'을 쓰러뜨리면 나머지 핀들이 연쇄적으로 쓰러지듯, 조직 변화도 영향력 있는 중심으로부터 에너지가 확산됩니다.

조직에서 킹핀은 신뢰받는 리더일 수도 있고, 구성원들에게 영향력이 큰 사람일 수도 있습니다. 중요한 것은 이들을 중심으로 변화의 에너지가 모이도록 하는 것입니다. 이들이 구성원들과 열린 소통을 하고 신뢰를 얻으며 변화를 이끌면, 조직은 활력을 얻고 자연스럽게 다음 단계로 넘어갑니다.

여기서 핵심은 제도나 시스템이 아니라 관계와 소통입니다. "왜 변화해야 하는가"에 대한 공감이 형성되지 않으면 어떤 제도도 작동하지 않습니다.

2️⃣단계: 자기조직화 - 신뢰 기반의 자율적 상호작용

조직활성화가 충분히 이루어지면 구성원들 간의 자발적 상호작용이 자연스럽게 증가하기 시작합니다. 이것이 자기조직화입니다. 외부의 지시 없이도 구성원들이 자율적으로 소통하고 협력하면서 일정한 패턴이 형성됩니다.

신뢰가 쌓일수록 구성원들은 스스로 역할을 조율하고, 문제가 생기면 주도적으로 해결책을 모색합니다. 새 떼가 리더 없이도 완벽한 대형을 만들듯, 조직도 구성원들의 단순한 상호작용이 반복되면서 중앙의 통제 없이도 협력이 일어나고 성과가 만들어집니다.

이 단계에서 필요한 것 통제가 아니라 촉진입니다. 상호작용이 활발히 일어날 기회를 제공하고, 장애물을 제거하며, 신뢰를 깨는 요소를 차단하는 것입니다. 상호작용 그 자체가 질서를 만들어낸다는 것을 믿고 기다려야 합니다.

3️⃣단계: 조직동기화 - 목표의 자연스러운 정렬

자기조직화가 이루어지면 구성원들의 목표가 조직의 목표와 자연스럽게 정렬되기 시작합니다. 이를 조직동기화라고 합니다. 복잡계에서 반복되는 상호작용이 패턴을 강화하고, 그 패턴이 전체 시스템의 질서로 정착되는 단계입니다.

예를 들어, 팀 프로젝트에서 개별 구성원이 성과를 내고 조직이 이를 인정하는 과정에서 신뢰와 소속감이 커집니다. "내가 잘하면 조직도 좋아진다"는 경험이 반복되면서 조직의 목표가 개인의 목표로 내면화됩니다. 구성원들은 자신의 성취가 조직의 성장과 연결된다는 확신을 갖게 됩니다.

주목할 점은 이 정렬이 하향식 목표 전달이 아니라 상향식 내면화를 통해 일어난다는 것입니다. 조직을 신뢰하니 조직의 목표를 믿을 수 있고, 자율성을 보장받으니 그 목표를 자신의 것으로 만들 수 있습니다.

4️⃣단계: 조직공진화 - 협력과 시너지 확산

조직동기화가 정착되면 팀과 팀, 부서와 부서 간에 상호 강화가 일어납니다. 이를 조직공진화라고 합니다. 복잡계에서 각 요소들이 서로 영향을 주고받으며 함께 진화하는 단계입니다.

한 팀의 성공 사례가 조직 내 다른 팀에 전파되고, 이를 바탕으로 새로운 성과 모델이 개발됩니다. 타인의 성취가 또 다른 성장의 동력이 되는 선순환이 형성됩니다. 생태계에서 식물과 곤충이 함께 진화하듯, 조직의 각 부분도 서로 영향을 주고받으며 함께 발전합니다.

이 단계에서 중요한 것은 경쟁이 아니라 협력입니다. 상대평가나 팀 간 서열화는 공진화를 방해합니다. 대신 모든 팀이 함께 성장할 수 있다는 믿음, 서로의 성공이 나의 성공에 도움이 된다는 인식이 필요합니다.

5️⃣단계: 조직문화 창발 - 자연스러운 질서의 정착

충분한 상호작용과 반복을 거쳐 마침내 새로운 조직문화가 창발됩니다. 개별 구성원에게는 없던 특성이 조직 전체 차원에서 나타납니다. 이때 조직은 더 이상 외부에서 정해진 규율이나 시스템에 의존하지 않고, 구성원들은 자율성을 기반으로 유기적으로 움직입니다.

문제가 생기면 스스로 해결책을 모색하고, 신입 구성원도 빠르게 문화에 동화되며, 구성원들은 "여기선 원래 이렇게 한다"고 자연스럽게 받아들입니다. 문화는 더 이상 만들어야 할 대상이 아니라 이미 존재하고 작동하는 질서입니다.

중요한 것은 이 모든 단계가 선형적이지 않다는 점입니다. 1단계에서 5단계로 일직선으로 가는 것이 아니라 순환하고 강화됩니다. 문화가 창발되면 그 문화는 다시 상호작용에 영향을 주고, 새로운 패턴을 만들어내며, 문화를 진화시킵니다. 다만 조직 내 구성요소들의 상호작용이 반복되어 문화가 되기까지는 시간이 걸립니다. 바람직한 조직문화를 형성하는 데 시간과 인내가 필요한 이유입니다.

🌳 질서는 통제에서 나오지 않는다

조직문화는 제도나 선언으로 만들어지지 않습니다. 구성원들이 매일 어떻게 소통하고, 어떻게 협업하고, 어떻게 의사결정하는지, 그 상호작용의 방식이 반복되며 형성됩니다.

따라서 문화를 바꾸고 싶다면 제도를 추가하거나 통제를 강화할 것이 아니라, 구성원들의 상호작용이 바람직한 방향으로 반복될 수 있는 환경을 만들어야 합니다.

경영자의 역할은 완벽한 체계를 설계하는 것이 아닙니다. 신뢰를 쌓고 긍정적 상호작용을 촉진하는 조건을 만드는 것입니다. 구성원들이 안전하게 의견을 나누고, 자발적으로 협력하고, 주도적으로 문제를 해결할 수 있도록 돕는 것입니다.

이 과정에는 시간이 걸립니다. 상호작용이 패턴이 되고, 패턴이 질서가 되고, 질서가 문화로 정착되기까지 인내가 필요합니다. 하지만 그렇게 형성된 문화는 외부의 강제 없이도 스스로 작동하고 지속됩니다.

체계 없는 체계. 자연의 결을 따른 경영. 이것이 지속 가능한 문화를 만드는 출발점입니다.

🧠  1분 브리핑

⚠️ 문제정의: 많은 조직이 문화를 바꾸기 위해 새로운 제도를 도입하지만, 제도는 작동해도 문화는 바뀌지 않습니다. 조직문화를 '설계할 수 있는 것'으로 착각하기 때문입니다. 문화는 제도로 만들어지는 것이 아니라 상호작용 속에서 자연스럽게 '창발'되는 것입니다.

🔎 원인분석: 제도 중심 접근이 실패하는 이유는 조직의 본질을 오해하기 때문입니다. 기계론적 관점에서는 부품을 바꾸면 결과가 달라질 것이라 기대하지만, 실제 조직은 살아있는 유기체이자 복잡계입니다. 흰개미가 설계도 없이도 정교한 집을 짓듯, 조직문화도 구성원들의 일상적 상호작용이 반복되며 자연스럽게 창발됩니다. 여기서 결정적인 것은 상호작용의 방향입니다. 신뢰와 자율성을 경험하는 긍정적 상호작용이 반복되면 구성원들은 자주적이고 자발적으로 움직이는 문화를 만들어냅니다.

✨ 해결방안: 문화를 직접 만들 수는 없지만, 좋은 문화가 자라날 조건은 만들 수 있습니다. 조직문화는 5단계를 거쳐 창발됩니다: ① 조직활성화 → ② 자기조직화 → ③ 조직동기화 → ④ 조직공진화 → ⑤ 조직문화 창발. 이 단계들은 선형적이 아니라 순환하며 강화됩니다. 경영자의 역할은 완벽한 체계를 설계하는 것이 아니라, 신뢰를 쌓고 긍정적 상호작용을 촉진하는 조건을 만드는 것입니다.