오늘날 우리는 챗GPT(ChatGPT)와 같은 생성형 인공지능이 산업과 일상을 송두리째 바꾸는 혁명의 시대를 살아가고 있습니다. 매일같이 쏟아지는 새로운 AI 서비스와 기술적 진보는 우리에게 놀라움과 동시에 두려움을 안겨주기도 합니다. 그러나 인공지능의 역사를 되짚어보면, 지금과 놀랍도록 유사한 뜨거운 열기와 기대감이 전 세계를 휩쓸었던 시기가 존재했습니다. 바로 1980년대 AI 부흥기입니다.
당시 그 중심에는 전문가 시스템(Expert System)이라는 혁신적인 기술이 자리 잡고 있었습니다. 단순히 계산을 빠르게 수행하는 컴퓨터의 역할을 넘어, 특정 분야의 인간 전문가처럼 판단하고 추론하며 문제를 해결하려 했던 이 시도는 인공지능 역사상 가장 상업적으로 성공했던 첫 번째 사례이자, 동시에 뼈아픈 실패를 맛본 시기이기도 합니다. 많은 사람들이 현재의 AI 붐을 보며 장밋빛 미래만을 예견하지만, 역사는 우리에게 냉철한 교훈을 던져줍니다.
이번 글에서는 1980년대 AI의 황금기를 이끌었던 전문가 시스템의 정의와 주요 특징을 심도 있게 알아보고, 당시의 성공과 몰락 과정을 통해 현재의 AI 시대를 살아가는 우리가 반드시 기억해야 할 교훈은 무엇인지 상세히 분석해 보겠습니다.
1. 전문가 시스템(Expert System)이란 무엇인가?
전문가 시스템은 인공지능 연구의 한 분야로, 특정 도메인(영역)에서 인간 전문가가 보유한 지식과 경험, 노하우를 컴퓨터에 이식하여 전문가 수준의 추론과 판단을 수행하도록 설계된 컴퓨터 프로그램을 말합니다. 1950~60년대의 초기 AI가 인간의 뇌 구조를 모방하거나 일반적인 문제 해결(General Problem Solving)에 집중했다면, 1970년대 후반부터 부상한 전문가 시스템은 '지식(Knowledge)'이 곧 지능의 원천이라는 철학 아래 좁지만 깊은 전문 영역의 문제 해결에 집중했습니다.
이 시스템의 핵심은 '데이터'가 아닌 '지식'을 처리한다는 점에 있었습니다. 인간 전문가가 수십 년간 쌓아온 경험적 지식(Heuristics)을 규칙화하여 컴퓨터에 입력하면, 컴퓨터가 이를 바탕으로 복잡한 상황에서 결론을 도출해 내는 방식입니다.
전문가 시스템의 핵심 구조
전문가 시스템이 기존의 일반적인 프로그램과 차별화되는 가장 큰 이유는 그 구조에 있습니다. 전문가 시스템은 크게 두 가지 핵심 요소로 구성됩니다.
- 지식 베이스(Knowledge Base): 해당 분야의 전문가들이 가진 사실(Fact)과 규칙(Rule)을 저장해 둔 데이터베이스입니다. 단순한 데이터의 나열이 아니라, "만약 환자가 고열이 있고 기침을 한다면(If), 독감일 가능성이 높다(Then)"와 같은 'If-Then' 형태의 규칙들이 수백, 수천 개 모여 있는 집합체입니다.
- 추론 엔진(Inference Engine): 지식 베이스에 저장된 규칙들을 활용하여 새로운 사실을 유도하거나 결론을 도출하는 논리적 처리 장치입니다. 추론 엔진은 이미 알려진 사실로부터 새로운 결론을 이끌어내는 '전방향 추론(Forward Chaining)'과, 목표를 설정하고 이를 증명할 증거를 찾아가는 '후방향 추론(Backward Chaining)' 방식을 사용합니다.
이러한 구조는 지식과 추론 과정을 분리함으로써, 새로운 지식이 발견되었을 때 프로그램 전체를 뜯어고칠 필요 없이 지식 베이스만 업데이트하면 된다는 강력한 장점을 가지고 있었습니다. 이는 당시 소프트웨어 공학적으로도 매우 획기적인 접근이었습니다.
2. 전문가 시스템의 주요 특징과 작동 원리
1980년대 기업들이 앞다퉈 도입했던 전문가 시스템은 기존의 절차적 프로그래밍(Procedural Programming)과는 확연히 다른 특징을 가지고 있었습니다. 이 특징들은 당시에는 혁명적이었으나, 나중에는 기술적 한계점으로 작용하기도 했습니다.
1) 규칙 기반(Rule-Based) 추론의 정점
가장 두드러진 특징은 인간의 지식을 규칙(Rule)의 형태로 정형화했다는 점입니다. 예를 들어, 전설적인 의료 진단 시스템인 'MYCIN'의 경우 혈액 감염병을 진단하기 위해 약 600여 개의 규칙을 사용했습니다. "만약 A라는 증상이 있고 B라는 검사 결과가 나오면, C라는 박테리아일 확률이 0.7이다"와 같은 식입니다. 이는 인간의 사고방식을 기호와 논리로 모방하려 했던 기호주의 AI(Symbolic AI)의 정점이었습니다.
2) 강력한 설명 가능성(Explainability)
최근 딥러닝 기반 AI의 가장 큰 단점으로 지적되는 것이 바로 내부 동작 원리를 알 수 없는 '블랙박스(Black Box)' 문제입니다. 반면, 전문가 시스템은 자신의 판단 근거를 명확히 설명할 수 있었습니다. 사용자가 "왜 그런 결론을 내렸어?"라고 물으면, 시스템은 어떤 규칙들이 적용되었고, 어떤 경로를 통해 최종 결론에 도달했는지 추적(Trace)하여 보여줄 수 있었습니다. 이는 의료, 금융, 법률 등 신뢰성과 책임 소재가 중요한 분야에서 엄청난 강점이었습니다.
3) 전문화된 영역(Specific Domain)에서의 탁월함
전문가 시스템은 인간처럼 모든 것을 아는 범용적인 지능을 추구하지 않았습니다. 대신 화학 구조 분석(DENDRAL), 혈액 감염 진단(MYCIN), 컴퓨터 시스템 구성(XCON) 등 매우 좁은 영역에 집중했습니다. 그 결과, 해당 분야 내에서는 인간 전문가보다 빠르고 정확하며 일관성 있는 결과를 내놓기도 했습니다. 이는 AI가 학문적 호기심을 넘어 실질적인 비즈니스 가치를 창출할 수 있다는 것을 처음으로 증명해 낸 사례였습니다.
4) 지식과 제어의 분리
앞서 언급했듯, 지식(데이터 및 규칙)과 제어(추론 알고리즘)가 분리되어 있어 유지 보수와 확장이 용이했습니다. 지식 베이스에 새로운 규칙을 추가하더라도 추론 엔진을 재작성할 필요가 없었기 때문입니다. 이는 오늘날의 많은 비즈니스 룰 엔진(Business Rule Engine)의 시초가 되었으며, 시스템의 유연성을 높이는 데 기여했습니다.
3. 1980년대 AI 부흥기: 화려한 비상과 상업적 성공
1980년대는 그야말로 전문가 시스템의 전성기였습니다. 1970년대까지 학계의 연구실에만 머물던 인공지능 기술이 산업 현장으로 쏟아져 나왔고, 기업들은 AI 도입을 통해 생산성을 획기적으로 높일 수 있다고 믿었습니다. 이 시기를 이끈 대표적인 사례가 바로 DEC(Digital Equipment Corporation) 사의 R1(XCON)입니다.
- XCON의 놀라운 성공: 당시 VAX 컴퓨터 시스템을 주문받을 때, 수만 개의 부품 조합이 올바른지 검사하고 최적의 구성을 제안하는 일은 매우 복잡했습니다. XCON은 이 과정을 자동화하여 연간 약 4,000만 달러 이상의 비용 절감 효과를 가져왔습니다. 이는 전 세계 기업 경영진에게 "AI에 투자하면 막대한 돈을 벌 수 있다"는 확신을 심어주었습니다.
- AI 하드웨어 시장의 폭발: 전문가 시스템 개발에 주로 사용된 리스프(Lisp) 언어 처리에 특화된 '리스프 머신(Lisp Machine)'과 같은 AI 전용 하드웨어 시장이 급성장했습니다. 심볼릭스(Symbolics), LMI 같은 기업들이 등장하며 실리콘밸리는 AI 열풍에 휩싸였습니다.
- 각국 정부의 대규모 투자: 일본은 '제5세대 컴퓨터 프로젝트'를 통해 인간처럼 대화하고 추론하는 컴퓨터를 만들겠다고 선언했고, 이에 자극받은 미국은 '전략적 컴퓨팅 이니셔티브(SCI)', 영국은 'Alvey 프로젝트' 등 국가 차원에서 수조 원 규모의 자금을 AI 연구에 투입했습니다. 당시 분위기는 곧 인간 수준의 인공지능이 도래할 것이라는 낙관론으로 가득 찼습니다.
4. 부흥기가 남긴 그늘: 왜 AI 겨울이 찾아왔는가?
그러나 1980년대 후반에 접어들며 거품은 급격히 꺼지기 시작했고, 인공지능 연구의 암흑기라 불리는 '두 번째 AI 겨울(AI Winter)'이 찾아왔습니다. 승승장구하던 전문가 시스템은 왜 몰락했을까요? 이 원인을 분석하는 것이야말로 오늘날 우리에게 가장 중요한 교훈이 됩니다.
1) 지식 획득의 병목현상 (Knowledge Acquisition Bottleneck)
가장 치명적인 문제는 지식을 컴퓨터에 입력하는 과정이 너무나 힘들고 비쌌다는 점입니다. 인간 전문가의 지식은 명시적인 규칙뿐만 아니라 직관, 암묵지(Tacit Knowledge), 상식 등으로 이루어져 있습니다. 전문가조차 자신이 어떻게 그런 판단을 내렸는지 논리적으로 설명하지 못하는 경우가 많았습니다. 이를 지식 공학자(Knowledge Engineer)가 일일이 인터뷰하여 "If-Then" 규칙으로 코딩하는 것은 불가능에 가까운 노가다 작업이었습니다. 이를 '파이겐바움의 병목현상'이라고도 부릅니다.
2) 취약성(Brittleness) 문제
전문가 시스템은 자신이 학습한 규칙의 범위를 조금만 벗어나면 엉뚱한 답을 내놓거나 시스템이 멈춰버렸습니다. 이를 취약성이라고 합니다. 예를 들어, 피부병을 진단하는 시스템에 '녹슨 자동차' 사진을 보여주면 '홍역'이라고 진단하는 식입니다. 시스템은 자신이 무엇을 모르는지조차 몰랐으며, 일반적인 상식(Common Sense)이 결여되어 있었기 때문에 융통성 있는 대처가 불가능했습니다.
3) 유지 보수의 악몽
초기에는 규칙이 수백 개 수준이라 관리가 가능했지만, 시스템이 고도화되면서 규칙이 수천, 수만 개로 늘어나자 서로 상충되는 규칙이 발생하기 시작했습니다. 규칙 A는 "X"라고 하고, 규칙 B는 "Y"라고 하는 모순이 발생했을 때, 이를 해결하기 위해 또 다른 규칙을 만들어야 했습니다. 결국 스파게티처럼 꼬인 규칙들을 디버깅하고 업데이트하는 비용이 시스템을 새로 만드는 비용보다 더 커지는 상황이 발생했습니다.
4) 과도한 기대와 실망 (Hype Cycle)
마케팅은 AI가 곧 인간을 대체할 것처럼 떠들었지만, 실제 기술은 특정 업무를 보조하는 수준에 그쳤습니다. 기대와 현실의 괴리가 극에 달하면서 투자자들은 등을 돌렸고, 수많은 AI 기업이 파산했습니다. 이는 기술 자체의 문제라기보다는 기술의 성숙도에 비해 과도하게 부풀려진 기대가 문제였습니다.
5. 1980년대가 현대 AI에 남긴 교훈
지금 우리는 딥러닝과 빅데이터를 기반으로 한 새로운 AI 전성기를 맞이하고 있습니다. 하지만 1980년대 전문가 시스템의 흥망성쇠는 여전히 유효한 메시지를 던집니다.
첫째, 데이터와 학습의 중요성
과거 전문가 시스템은 인간이 규칙을 일일이 주입(Hand-crafted)하는 방식이었습니다. 반면 현대의 AI는 데이터로부터 스스로 패턴을 학습합니다. 1980년대의 실패는 "세상의 복잡성을 인간이 정의한 유한한 규칙으로 담아낼 수 없다"는 사실을 증명했습니다. 이는 오늘날 데이터 중심(Data-Centric) AI 접근법이 왜 필수적인지를 역설적으로 보여줍니다.
둘째, '상식'과 '일반화'의 벽을 넘어야 한다
전문가 시스템의 실패 원인인 '취약성'은 여전히 현대 AI의 과제이기도 합니다. LLM(거대언어모델)이 환각(Hallucination) 증상을 보이거나 엉뚱한 논리로 답변하는 것은 과거의 취약성 문제와 맥을 같이 합니다. 특정 도메인에서의 성공에 취하지 않고, 예외 상황에 대처할 수 있는 견고함(Robustness)과 일반 상식을 AI에 어떻게 탑재할 것인지는 여전히 풀지 못한 숙제입니다.
셋째, 설명 가능성(XAI)의 재조명
전문가 시스템은 비록 실패했지만, '설명 가능성'이라는 측면에서는 현대 딥러닝보다 우월했습니다. 최근 AI 윤리와 신뢰성 문제가 대두되면서, 딥러닝의 높은 성능과 전문가 시스템의 설명 가능한 논리 구조를 결합하려는 뉴로-심볼릭(Neuro-Symbolic) AI 연구가 다시 주목받고 있습니다. 과거의 기술이 낡은 것이 아니라, 새로운 형태로 융합되어야 함을 시사합니다.
넷째, 과도한 하이프(Hype)에 대한 경계
1980년대 AI 겨울은 기술적 한계 때문이기도 했지만, 실현 불가능한 약속을 남발한 대가이기도 했습니다. 오늘날 AGI(범용인공지능)가 곧 도래할 것이라는 낙관론 속에서, 우리는 기술의 한계를 명확히 인지하고 냉정하게 평가하는 태도가 필요합니다. 거품이 꺼질 때 옥석이 가려지듯, 실질적인 가치를 창출하는 AI만이 살아남을 것입니다.
마무리: 역사는 반복되지만 진보한다
전문가 시스템은 비록 1980년대의 기술적 한계와 과도한 기대로 인해 'AI 겨울'이라는 혹독한 시련을 불러왔지만, 그 시도는 결코 헛되지 않았습니다. 지식을 구조화하고, 추론을 자동화하며, 산업 현장에 AI를 적용하려 했던 그들의 노력은 오늘날 인공지능 발전의 소중한 토양분이 되었습니다.
우리는 지금 1980년대와 비슷한 열기 속에 서 있습니다. 과거 전문가 시스템이 겪었던 지식 획득의 어려움, 유지 보수의 한계, 그리고 상식의 부재라는 문제들은 오늘날 다른 형태로 변주되어 우리 앞에 놓여 있습니다. "역사를 잊은 기술에게 미래는 없다"는 말처럼, 1980년대 AI 부흥기가 남긴 교훈을 되새기며, 맹목적인 믿음보다는 기술의 본질을 꿰뚫어 보는 혜안이 필요한 시점입니다. 과거의 실패를 반면교사 삼아, 이번에는 겨울이 아닌 진정한 AI의 봄을 맞이할 수 있기를 기대해 봅니다.
