AI규제에 첫 스타트를 끊는 중국

Stable Diffusion으로 그린 사이버펑크 중국

인공지능 규제에 시동을 거는 중국 공산당

중국의 거대 기술 기업들은 미국에서 개발된 인간과 같은 챗봇인 ChatGPT와 유사한 AI 기반 챗봇과 같은 새로운 제품들로 AI 모델을 선보이고 있습니다.

하지만, 생성적 인공지능은 중국의 공산당에게 도전을 제기합니다. 왜냐하면 그것은 정보가 그들의 통제 밖으로 퍼질 수 있는 새로운 방법을 열 수 있기 때문입니다.

중국의 인터넷 규제 당국은 기업이 대중에게 서비스를 제공하기 위해 생성 AI 제품을 사용하기 전에 국가에 보안 평가를 제출하는 것을 의무화하는 규칙을 제정하고 있습니다.

AI 도구가 만들어내는 콘텐츠는 국가 권력을 전복하거나 국가 통합을 해치고, 분리를 부추기거나 경제·사회 질서를 어지럽혀서는 안 되며, 국가의 사회주의적 가치에 부합해야 합니다.

생성 AI와 그 가능성

텍스트, 이미지, 오디오 또는 비디오의 입력을 처리하여 동일한 새로운 출력을 생성하는 생성 AI는 중국 기술 회사에 큰 가능성을 열어주고 있습니다.

규제 단속과 판매 부진으로 최근 몇 년간 큰 타격을 입은 중국의 IT 회사들은 생성 AI가 인터넷이나 스마트폰의 등장으로 인한 기회와 유사하게 방대한 새로운 수익원을 창출할 기회로 보고 있습니다. 하지만, 당의 지도자들은 생성 AI를 정보에 대한 국가의 통제에 대한 위협으로 보고 있습니다.

AI 규제에 대한 중국의 접근 방식

중국의 접근 방식은 세계의 다른 정부들에 비해 더 단편적이고 반동적인 것으로 보입니다. 중국의 제안은 전 세계 정부가 인공지능을 규제하는 방법에 대한 논의를 거치는 와중 발표되었습니다.

미국과 같은 정부는 기술을 통제하기 위해 기존 법에 의존하는 반면, 다른 나라의 정부는 새로운 규제 체제가 필요하다고 생각합니다.

유럽연합(EU)은 인공지능의 다양한 용도를 분류하고 위험도에 따라 점점 더 엄격한 요구사항을 적용하는 법을 제안했습니다.

규제 치고 다양한  분야에서 활약중인 AI - 출처 : 동아일보

중국의 규정

인공지능에 대한 중국의 규제는 규제 당국이 인터넷을 바라보는 시선과 정보 통제권 상실에 대한 우려를 보여주고 있습니다.

작년에, 공산당은 "딥페이크" 이미지와 비디오가 엄격하게 통제되는 중국의 정보 유통 환경을 방해할 것을 우려하여 기술에 대한 새로운 규칙을 발표했습니다.

하나는 명확한 원산지 표시 없이 인공지능이 생성한 미디어를 금지했습니다. 이는 인터넷에 대한 중국의 접근 방식과 유사한 점이 있습니다.

종종 "위대한 방화벽"이라고 불리는 웹 제어는 획일적으로 보일 수 있지만, "유해한" 외국 콘텐츠를 차단하는 것은 시간이 지남에 따라 정교하게 개발되고 있으며, 많은 기관과 회사가 참여하여 통제를 위한 노력을 기울이고 있습니다.

AI 지원 이미지 인식, 자율주행 등 분야의 중국 기업들은 정부의 사회 안정 선점에 따른 두려움이 덜하고 선전하고 있습니다. 그러나 이러한 회사들은 많은 공금의 혜택을 받고, 일부는 국가 탄압을 가능하게 하는 도구를 제공합니다.

중국 기업의 과제

생성 인공지능의 관점에선, 중국 회사가 정부의 규칙을 지키면서 어떻게 ChatGPT처럼 광범위하고 사람과 비슷한 답변을 생성할 수 있을지 의문스럽습니다.

CAC(Cyber-space Administration of China, 중국 사이버 관리국)는 이러한 도구에 의해 생성된 정보가 "실제적이고 정확해야" 하며, 도구를 교육하는 데 사용되는 데이터가 "객관적이어야" 한다고 말합니다

당은 이러한 단어들에 대한 자체적인 정의를 가지고 있지만, 대형 언어 모델을 기반으로 하는 가장 최신의 AI 모델들조차도 때때로 사실이 아닌 것들을 확신에 찬 어조로 생성하고 있습니다.

중국이 규칙을 엄격하게 시행한다면, 이는 중국내에서 생성 인공지능의 개발을 거의 중단시킬 것입니다. 그래서 전문가들은 이 조치가 중국 공산당에 의해 엄격하게 시행될 것이라고 의심하고 있습니다.

중국 규칙의 유연성

CAC가 제안한 규칙의 자의적 특성은 적합하다고 판단되는 대로 규칙을 강화하거나 완화할 수 있다는 것을 이야기합니다.

다른 나라들도 그런 유연성을 지지할 수 있겠지만, 중국 정부는 시진핑 주석의 변덕에 따라 규칙을 고쳐 쓰고 선별적으로 시행하는 습관이 있습니다.

최근 몇 년 동안 전자 상거래, 소셜 미디어 및 비디오와 같은 분야의 기업들은 끊임없이 변화하는 규제에 의해 좌우되고 있습니다.

CAC가 제안한 생성 AI에 대한 규제는 2025년까지 "주요 돌파구", 2030년까지 산업 지배를 요구하는 중국의 AI 마스터플랜이 발표된 지 6년 만입니다. 하지만, 이러한 목표를 향한 진전은 엇갈렸고, 일부 AI 분야의 중국 회사들은 다른 분야보다 더 잘하고 있습니다.

규제 계획

기본 계획에 따라, 중국은 2030년까지 인공지능에 대한 세계 윤리 규범을 작성하는 것을 목표로 하고 있습니다. 이것은 확장이지만, 생성 AI에 대한 규칙은 다른 곳에서 제안된 것보다 더 상세하고 광범위하기 때문에 새로운 기술을 다루는 것에 대한 논쟁에 영향을 미칩니다.

위험과 기회

인공지능에 대한 중국의 규제는 혁신을 방해할 수도 있지만 창의성과 문제 해결의 기회를 제공하기도 합니다. 중국이 AI 윤리에 대한 주요 지침 역할을 할 수 있다는 생각은 AI에 대한 우려 사항을 일부 공유할 수 있지만, 동일한 이유(체제의 유지와 윤리의 차이) 때문은 아닐 수 있다는 고민이 있습니다.

이 나라는 웹을 자유와 개방의 장소로 보는 것에 반대해 왔고 일관되게 러시아와 언론의 자유를 짓밟는 다른 나라들의 편을 들어왔습니다. 서방과 주변국들은 중국이 AI를 통제할 수 없다고 생각하며 안일한 생각으로 대응해서는 안될것 입니다.