우리는 그들을 뽑지 않았다: AI 시대, 시민이 나서야 하는 이유

AI는 누가 결정하고 있는가?

우리는 인공지능을 '기술의 문제'로 여겨왔지만, 실은 그것은 아주 깊이 있는 '정치의 문제'이기도 합니다. 지금 이 순간에도 거대한 AI 기술의 방향을 결정하고 있는 사람들은 대부분 정부도, 시민도 아닙니다. 바로 민간 기업의 CEO들, 기술 기업의 투자자들, 그리고 세계 몇몇 도시에 집중된 테크 엘리트들입니다.

대표적인 인물이 오픈AI의 CEO 샘 알트먼(Sam Altman)입니다. 그는 ChatGPT와 같은 생성형 인공지능의 보급을 전 세계적으로 이끈 인물로, AI 안전성에 대한 우려를 표현하면서도 동시에 AI 개발을 선도하고 있습니다.

일론 머스크(Elon Musk) 역시 OpenAI 공동 창립자로 시작해 현재는 xAI라는 독립적 AI 회사를 이끌며, 'AI 규제'를 말하면서도 가장 공격적인 기술 확장을 시도하는 인물입니다. 구글 딥마인드의 CEO 데미스 허사비스(Demis Hassabis)는 *'AGI(일반 인공지능)'를 향한 집요한 연구를 주도하고 있으며, 마크 저커버그(Mark Zuckerberg)는 메타를 통해 AI와 가상현실의 융합을 현실화하려 합니다.

이들은 모두 국회의 투표로 뽑힌 사람이 아닙니다. 시민의 대표로 선출된 것도 아니며, 누구에게 책임을 묻는 구조 안에 있지도 않습니다. 하지만 이들이 설계하고 배포하는 AI 시스템은 수십억 명의 삶을 좌우하게 될 수 있으며, 정책보다도 훨씬 빠르게 사회의 규범을 바꾸고 있습니다. 우리는 그들의 결정을 따르고 있지만, 그들을 통제하거나 감시할 장치가 매우 부족합니다.

* AGI는 'Artificial General Intelligence'의 약자로, 인간처럼 다양한 상황에서 스스로 사고하고 문제 해결이 가능한 범용 인공지능을 의미합니다. 이는 우리가 일상에서 사용하는 ChatGPT 같은 '생성형 인공지능(Generative AI)'과는 구분됩니다. 후자는 특정 과제를 잘 수행하도록 설계된 반면, AGI는 '모든 과제'를 인간처럼 유연하게 처리하는 능력을 목표로 합니다.

기술의 민주주의는 가능한가?

이제 우리는 기술의 문제를 정치의 언어로 다시 말할 수 있어야 합니다. 그런데 여기서 중요한 전제가 하나 있습니다. 바로 우리가 말하는 '민주주의'라는 개념 자체에 대한 이해입니다. 민주주의(democracy)는 단순히 자유롭게 투표하고 평등하게 대우받는 시스템을 뜻하는 것이 아닙니다.

원래 이 개념은 고대 그리스 아테네에서 유래했으며, 초기에는 성인 남성 시민만 참여할 수 있는 제한적 정치 구조였습니다. 현대의 민주주의는 수 세기에 걸쳐 시민권, 보통선거, 표현의 자유, 권력분립 등을 포함하는 체계로 진화했지만, 여전히 완전하지 않으며 언제든 도전받을 수 있는 유동적인 제도입니다.

민주주의란 무엇보다도, 시민이 스스로의 삶에 영향을 미치는 결정에 직접 또는 간접으로 참여할 수 있는 구조를 말합니다. 다시 말해, 책임과 권한의 중심이 국가나 기업이 아니라 시민에게 있어야 한다는 뜻입니다.

그러나 현재의 AI 발전 과정에서 시민은 철저히 수동적인 소비자일 뿐입니다. AI가 도시를 설계하고, 채용을 심사하고, 보험료를 산정하고, 학습을 평가하고 있지만, 그 알고리즘이 어떤 기준으로 작동하는지는 대부분 비공개입니다. 시민이 자신을 판단하는 시스템을 이해할 수도, 이의를 제기할 수도 없게 되어 있습니다.

그래서 지금 필요한 것은 '기술 민주주의'입니다. 시민이 기술 개발과 운용에 목소리를 낼 수 있는 구조, 감시와 견제, 참여가 가능한 시스템을 만드는 것이 가장 중요한 과제입니다.

• 시민참여형 AI 윤리 위원회: 기술 개발 단계에 시민 대표가 참여하여 AI의 가치와 기준을 함께 설정

• 공공 알고리즘 감시 플랫폼: 정부나 기업이 사용하는 알고리즘을 시민이 열람하고 검증할 수 있는 시스템

• 기술 기업에 대한 공청회 제도: AI 기술을 상용화하기 전, 시민들과 전문가가 함께 의견을 제시하고 검토할 수 있는 공론장

• 학교 교육에서의 AI 시민교육 강화: 청소년부터 성인까지, 기술과 권리에 대한 이해를 바탕으로 한 시민의식 훈련

이러한 구조는 단지 '기술 감시'를 위한 것이 아니라, 미래 사회의 운영 원리에 시민이 적극 참여하는 새로운 형태의 민주주의 설계라고 할 수 있습니다.

우리는 무엇을 할 수 있는가?

첫째, 인식의 전환이 필요합니다.

더 이상 기술은 중립적인 도구가 아닙니다. 그것은 의도된 방향으로 설계되고, 특정 가치를 담고 있으며, 누군가의 권력 확장을 위한 수단이 될 수 있습니다. 따라서 시민 각자가 AI에 대한 관심을 갖고, 그것이 나의 삶에 어떤 영향을 미치는지를 인식하는 것이 시작입니다.

둘째, 정보의 균형을 회복해야 합니다.

현재 AI 관련 뉴스와 담론은 대부분 기술 기업의 홍보 또는 특정 방향으로 설계된 콘텐츠에 의해 소비됩니다. 우리는 다양한 관점—비판적 시각, 지역적 시선, 소수자의 목소리—을 함께 접할 수 있어야 하며, 그러기 위해선 공공 미디어, 독립 연구소, 시민 네트워크의 정보 생산과 확산이 중요합니다.

셋째, 참여와 실천입니다.

정책 제안에 참여하거나, 지역 단위에서 디지털 윤리에 관한 공론장을 만드는 것, 또는 윤리적 기술 소비를 실천하는 것도 한 방법입니다. 기술을 단지 받아들이는 것이 아니라, 그것의 방향을 함께 논의하고, 조율하고, 감시하는 존재로서 시민이 재정의되어야 할 때입니다.

지금 이 흐름에 참여하지 않으면, 우리는 AI 시대의 구조를 누군가 대신 설계하도록 허락하게 됩니다. 하지만 그 구조는 반드시 우리 모두의 질문, 우려, 가치, 희망이 반영된 것이어야 합니다.

대한민국 역시 지금 이 전환의 기로에 서 있습니다. 기술이 경제 성장의 수단으로만 소비되지 않고, 국민의 삶의 질을 높이고 민주주의를 심화시키는 방향으로 작동하려면, 우리 각자의 실천이 중요합니다. 우리는 모두 기술자가 아니어도, 정책 전문가가 아니어도, 이 미래의 일부로 기여할 수 있습니다.

SNS에서 AI 기술에 대한 신중한 정보를 나누거나, 가족이나 이웃과 함께 기술의 윤리에 대해 이야기해보는 것, 온라인 공청회나 토론회에 참여해 한 마디 의견을 남기는 것, 또는 AI 기술을 사용하는 앱이나 서비스에서 개인정보 설정을 꼼꼼히 확인하고 자신의 권리를 인식하는 것—이런 소소한 행동들이 모여 사회적 기준과 감수성을 바꿔갑니다.

우리가 바라는 'K-유토피아'는 결코 누가 대신 만들어주는 것이 아닙니다. 그것은 국민 개개인이 일상 속에서 조금씩 감시하고 질문하고 연대하며 쌓아가는 집합적 선택의 결과물입니다. 결국 AI 이후의 미래는 기술이 만드는 것이 아니라, 우리가 함께 선택하고 만들어가는 사회적 합의의 결정체인 것입니다.