[교단칼럼] 혐오, 그리고 인공지능

@김유진 산정중학교 교사 입력 2024.01.09. 16:25

얼마 전 필자가 거주하는 아파트의 온라인 커뮤니티 공간에 충격적인 사진 한 장과 글이 게시되었다. 필자의 초등학교 4학년 아들이 친구들과 놀고 있는 모습이었다. 혀를 끌끌 찰 정도는 아니었으나 충분히 지적할만할 모양으로 놀고 있었던 것은 사실이다. 하지만 문제는 아이들 얼굴이 적나라하게 찍힌 사진과 그 아래 달린 댓글들이었다. 사진을 찍고 글을 게시하기전에 아이들에게 교육과 훈계가 먼저 이루어졌다면 어땠을까 하는 처음 댓글 아래, 흔히 말하는 '요즘 아이들'에 대한 혐오 댓글들을 시작으로, 그 아이들에 대한 정확하지 않은 정보들을 바탕으로 한 인신공격성 댓글까지 이어졌다.

혐오와 차별은 맞닿아 있다. 차별은 사람들을 집단으로 분류하는 것에서부터 시작될 수 있으며, 그 이후 사람들을 각자 속한 집단에 따라 계층화한다. 그리고 마지막으로 계층화된 집단에 따라 본질이 되는 특성을 고정시켜 버린다. 이때 고정되는 본질적 특성은 계층적으로 더 우위에 있는 집단, 즉 지배층, 또는 권력을 이미 획득한 집단에게 더 좋은 쪽으로 부여된다.

그리고 계층적으로 더 아래에 있는 집단을 대상으로 가해지는 폭력과 차별은 정당화되고 혐오감은 당연한 것이 된다. 더불어 사람들의 인식은 관련된 정보를 모두 모으기 전에 이미 예상한 판단이 옳다고 믿게 만들어 버린다. 그리고 이것은 특정 집단을 악마화하는 수준에 이른다. 정치, 인종, 종교, 성별의 다름에 따른 다양한 사회 문제들을 보라. 안타깝게도 우리가 지금 그 수준에 이르렀음을 보여주는 사례는 세상에서 쉽게 찾아볼 수 있다. 놀이터에서 짓궂게 놀던 아이들에서부터 집단의 악마화까지는 너무 비약이 심한 것 아니냐 하는 반문이 있을 수 있다. 하지만 필자가 말하고자 하는 것은 지금 세상 사람들의 인식의 메커니즘에 많은 영향을 미치는 바로 그곳, 정보의 파급 범위와 속도가 넓고 빠르며, 쉽게 확대? 재생산 되는 그곳, 그리고 빠른 속도로 발전하고 있는 그곳의 기술들이 지금 세상에 차별과 혐오, 그리고 그것을 넘어선 특정 집단의 악마화에 촉매제 역할을 하고 있다는 것의 위험성에 주목하자는 것이다.

가상 세계와 그 세계 속에서 구현되는 다양한 기술들 말이다.

3~40년 전의 기계화, 자동화가 인간의 노동력만을 대체했다면, 현재 빠르게 발전하고 있는 생성형 AI는 인간의 노동력뿐만 아니라 우리의 언어와 콘텐츠까지 대체하고 있다. 개발자가 편향된 정보를 바탕으로 기술을 개발하거나, 개발된 기술에 사용자가 편향된 정보를 입력하고 결과물을 생성해 내는 일이 가능해졌다. 또한 우리가 활동하는 다양한 포털이나 플랫폼은 사용자의 알고리즘을 분석해서 관련된 정보를 추천하거나 제공하기도 하므로 편향된 알고리즘에서 쉽게 벗어날 수 없는 구조이기도 하다. 이 걷잡을 수 없는 거대한 기술의 파고는 인류를 유토피아로 이끌 수도 있지만, 인류를 반으로 갈라놓을 수 있으며, 심지어 인류를 객체화시킬 수도 있는 위험성이 도사리고 있다.

독일의 생태주의 철학자 한스 요나스는 윤리적 공백이라는 말을 통해 과학 기술의 발전 속도를 윤리적 논의가 따라가지 못해 생기는 간극을 설명한다. 이미 개발된 기술로 인해 발생하고 있는, 해결하기 어려운 윤리적 문제들에 대하여 전전긍긍하기보다는 과학 기술의 개발과 활용 과정에서 앞으로 발생 가능한 문제들을 예측하고 이에 대한 윤리적 논의가 먼저여야 한다고 역설한다. 얼마 전 교육부에서는 '교사와 인공지능(AI)이 함께 이끄는 교실혁명'을 주제로 한 현장 교사와의 간담회에서 교원들을 대상으로 하는 연간 5500억 규모의 역대급 AI 연수를 예고했다. 주제가 함의하고 있는 주체적 대상으로서의 인공지능(AI)에 대한 인식이 지금 필요한 시기인지도 의문이지만, 지금은 인공지능(AI)에 대한 윤리적 논의와 논의 결과에 따른 적절한윤리 의식 및 사회 제도적 안전망을 먼저 구축해야 하는 때 아닌가. 특히 차별과 혐오가 난무하는 지금과 같은 세상, 그리고 그 차별과 혐오를 쉽게 생산해 낼 수 있는 도구로서 가상공간과 생성형 AI를 비롯한 기술들이 자주 회자되고 있다면 더더욱이나 말이다. 김유진 산정중학교 교사

슬퍼요
0
후속기사 원해요
0

독자 여러분의 제보를 기다립니다. 광주・전남지역에서 일어나는 사건사고, 교통정보, 미담 등 소소한 이야기들까지 다양한 사연과 영상·사진 등을 제보받습니다.
메일 mdilbo@mdilbo.com전화 062-606-7700카카오톡 플러스친구 ''무등일보' '

댓글0
0/300