■김용근의 잡학카페

바둑기사 이세돌 9단은 AI 알파고와의 바둑 챌린지 매치에서 1승 4패로 패배했다. 이 대회를 통해 인간은 축적된 절대적 지식에 대한 의존에 의문을 품기 시작하였다. 역사적으로 특정한 구조 속에서 만들어진 앎과 지식은 권력으로 작동하였다. 또한 인류의 지식은 언제나 중립적이거나 순수한 형태로 존재하지 않았다. 그것은 축적되고 배열되는 순간, 특정한 문화와 권력의 구조 속에서 의미를 부여받는다. 이러한 권력 중 가장 오래된 기록은 5천 년 전 고대 수메르에서 왕의 역사 기록부를 조작하여 만든 새로운 지식에서 시작되었다. 이후 이집트 하셉수트의 기록과 더불어 여러 문명 지역에서 지식은 사실의 순수한 산물이라기보다 권력의 필요에 따라 편집된 기억의 장치였다. 이러한 맥락에서 보면, 오늘날 알파고 이후 빅데이터와 알고리즘이 생산하는 지식은 이전과 같은 역할을 수행하고 있다.

푸코는 근대 사회를 볼 때 지식과 규율이 만든 권력이 신체를 통제하고 행동을 교정하는 방식으로 작동한다고 보았다. 학교, 병원, 군대, 공장과 같은 제도적 발명품은 개인을 분류하고 표준화하며, 정상과 비정상을 구분하는 지식 체계를 구축한다고 보았다. 이때 지식은 억압의 도구이자 동시에 질서를 유지하는 합리성의 근거로 기능했다. 그러나 디지털 전환 이후 이러한 권력은 더 이상 물리적 공간에 국한되지 않는다. 알고리즘은 우리의 선택을 예측하고, 취향을 선별하며, 보이지 않는 방식으로 행동을 유도한다. 규율은 사라진 것이 아니라 AI 알고리즘의 흐름 속으로 스며들어 더욱 정교해졌다. AI 시대는 수많은 다양성으로 인해 더 자유롭다고 생각되지만, 우리는 AI의 통제 아래 좁은 선택의 감옥에 갇혀 있다.

가치를 지키는 소수의 감각은 검색 결과에 나타나지 않는다. 각 개인의 취향, 문화와 예술품이 주는 즐거운 감각은 온라인에서 평준화되어 재현되지 않는다. 알고리즘은 선택이 아니라 돈이 되는 것만을 깊게 강화한다. 그리고 갇힌 지식과 사물만을 반복적으로 노출한다. 이는 지식의 풍요와 자유가 아니라, 편향으로 필터링 된 빈곤이다.

이러한 상황에서 최근 등장한 차세대 AI 모델 ‘클로드 미토스(Claude Mythos)’는 모든 디지털 방어막을 뚫어 버리는 자율 공격형 AI이다. 이런 사태는 알고리즘 권력이 어떤 방향으로 진화하고 있는지를 극단적으로 보여준다. 생성형 AI는 단순히 정보를 처리하거나 추천하는 수준을 넘어섰다. 인간이 만든 디지털 방어막의 취약점을 미토스가 스스로 탐지하고 공격을 실행하는 구조로 진화하고 있다. 이는 행위의 주체가 인간이 아니라 AI 지식 자체로 전환되었음을 의미한다. 위험하고 무서운 일은 이 AI 권력이 기술을 소유한 모든 행위자에게 분산되고, 통제 불가능한 형태로 진화하고 있다는 점이다.

문제는 이러한 권력이 책임의 구조를 동반하지 않는다는 점이다. 알고리즘 권력은 익명성과 자동성을 기반으로 작동하기 때문에 행위의 결과와 책임 사이의 연결을 끊는다. 약탈형 AI가 국가 인프라를 공격하거나 공공 시스템과 금융 시스템을 교란할 경우, AI가 만든 핵폭탄이 될 수 있다. 데이터 주권은 단순한 소유권의 문제가 아니다. 그래서 ‘드러남과 은폐를 결정하는 권리’로 재정의되어야 한다. 알고리즘이 무엇을 보여주고 무엇을 감추는지를 통제하지 못하는 블랙박스라면, 우리는 여전히 보편성이라는 이름 아래 편향된 세계에 갇혀 살게 될 것이다.

따라서 인류 공동체에 필요한 것은 기술 발전의 모든 전진을 멈추는 것이 아니다. 그것은 AI의 흐름에 윤리와 책임을 기반으로 세계의 모든 알고리즘에 투입해야 할 돌봄의 ‘AI 엄마’가 필요하다는 뜻이다. 지식은 소유될 때 권력이 된다. 그러나 검증과 참여의 과정에서만 공공성을 획득한다. 약탈형 AI의 권력을 제거할 강력한 ‘돌봄형 AI 엄마’는 ‘모성형 피에타 AI’가 될 것이다.

미토스는 이제 신의 서사를 만들고 코드의 신전이 되어 간다. 그 안에서 알고리즘은 조용히 질서를 짜고, 우리는 그 설계된 길로 유도된다. 이 시대는 묻는다. 우리가 손에 쥔 것은 도구인가, 아니면 우리를 길들이는 새로운 지식인가. 결국 갈림길은 기술의 날카로움에 있지 않다. 그 곁을 지키는 인간의 시선과 책임에 있다. 그래서 돌보는 마음을 지닌 ‘AI 엄마’의 돌봄을 소환해야 하는 것은 바로 지금, 우리의 선택에 달려 있다.

김용근 학림학당 학장, 창의융합공간 SUM 대표