유럽연합(EU)이 세계 최초로 인공지능(AI) 기술 규제 법안에 합의했다. AI의 위험성을 구체적으로 분류하고 규제를 강화하며 규정을 준수하지 않는 기업에는 벌금을 부과하는 내용이다. 일각에서는 우리나라도 강력한 인공지능 규제 제도를 실시해야 한다고 주장하고 나섰다. 정부도 관련 행보를 강화하고 있다. 

 

인공지능이 인간과 갈등을 빚거나 인류를 공격한다는 상상은 SF 장르의 오랜 소재다. 인간보다 빠른 연산력과 나은 지능을 가진 AI가 단순히 명령을 수행하는 것에 그치지 않고 인간에게 위협이 된다는 상상이다. 

 

최근 AI 관련 기술 혁신이 빠르게 이뤄지면서 인공지능을 둘러싼 글로벌 규제 논의도 활발해지고 있다. 미국은 지난 10월말 AI 오남용으로 인한 부작용을 막기 위해 AI 행정명령에 서명했다. 지난 8일(현지시간)에는 유럽연합 집행위원회(EC)와 유럽의회, EU 27개 회원국 대표는 3일간의 마라톤 회의 끝에 ‘AI 법’(AI Act)으로 알려진 법안에 합의했다.

 

EU 합의안에는 AI의 위험성을 분류하고 투명성을 강화하며, 규정을 준수하지 않는 기업에는 벌금을 부과하는 내용이 담겼다. 정치나 종교적 신념, 성적 지향, 인종과 같은 특성을 기준으로 사람들을 분류하는 안면 인식 데이터베이스 구축을 위해 인터넷 혹은 보안 영상에서 생체 정보를 스크랩하는 것을 금지했다. 다만 사법당국의 피해자 수색이나 테러 위협 예방, 범죄 용의자 추적 등을 위한 실시간 안면 인식은 허용하는 등 예외 조항을 뒀다. 

 

자율주행 자동차나 의료 장비와 같은 고위험 기술을 사용하는 기업은 AI 관련 데이터를 공개하고 엄격한 테스트를 거쳐야 한다. 규정을 위반하는 기업은 최대 3500만 유로 또는 전 세계 매출의 7%에 해당하는 벌금을 내야 한다.

 

유럽연합 이사회는 이날 보도자료를 통해 “인공지능 규칙 제안에 대한 잠정 합의에 도달했다”면서 “이 규정 초안은 유럽 시장에 출시되고 EU에서 사용되는 AI 시스템이 안전하고 기본권과 EU 가치를 존중하도록 보장하는 것이 목표”라고 밝혔다. 

 

해당 논의를 두고 일각에서는 유럽과 미국의 기술주도권 싸움으로 보는 시선도 있다. 구글과 오픈AI, 마이크로소프트 등 미국 빅테크 기업을 견제하고 유럽 AI기업들이 추격할 시간을 벌어주기 위한 행보라는 시선이다. 

 

 

◇ “원인 규명과 책임 부과에 대한 대책 있어야”

 

우리나라도 강력한 인공지능 규제 제도를 실시해야 한다는 목소리가 들린다. 참여연대와 정보인권연구소 등 시민사회단체 일각에서는 “우리나라도 안전한 인공지능 환경을 만들기 위해 강력한 인공지능 규제 제도를 실시해야 한다”고 주장하고 나섰다. 

 

참여연대 등은 13일 논평을 통해 “국민의 안전과 기본권을 침해하는 인공지능을 규제하고 인간 중심적이고 투명하며 책임성 있는 인공지능 산업을 촉진하는 제대로 된 인공지능법을 마련해야 한다”고 주장했다.

 

논평에 따르면 인공지능 기술이 발전하면서 관련 사고·논쟁 수가 2012년 10건에서 2021년 260건으로 26배 늘었고 챗GPT 출시 이후 제공자가 통제할 수 없는 범용 인공지능에 대한 우려가 확산되고 있다. 

 

이들은 “올해 G7 등 세계 주요국가들이 첨단 인공지능의 위험 통제를 요구하고 나섰고 세계 각국 시장에서 인공지능의 위험성을 규제하는 제도가 추진되고 있다”고 밝혔다. 그러면서 “유엔은 내년 8월까지 첨단 인공지능에 대한 규제 방향을 결정할 예정이다. 특히 최근 미국 바이든 대통령은 범용 인공지능을 비롯한 인공지능의 위험을 규제하기 위하여 강력한 행정명령을 발동하고 각 부처가 구체적인 규제 지침을 마련하도록 했다”고 설명했다.

 

참여연대 등은 인공지능이 국내에 적극 도입되고 있지만, 안전사고를 일으키거나 기본권을 침해할 때 그 원인을 어떻게 규명하고 책임을 부과할지에 대한 대책이 없다고 주장했다. 이들은 논평에서 “금융 분야에서는 사람 대신 대출 적격 등을 평가하는 알고리즘이 광범위하게 사용되고 있으며, 채용 시장에서 사람 대신 AI 채용도구가 구직자들을 평가하고 있다”고 설명했다.

 

그러면서 “독일에서 올 2월 위헌 결정을 받았던 예측 치안을 한국 경찰은 아무런 제한 없이 도입하고 있으며, 서울 시내에는 자율주행버스가 운행을 시작했지만 이러한 인공지능이 안전 사고를 일으키거나 기본권을 침해할 때 그 원인을 어떻게 규명하고 책임을 부과할지에 대해서는 아무런 대책이 없다”고 주장했다. 

 

▲ AI 기술 혁신이 이어지면서 인공지능을 둘러싼 글로벌 규제 논의도 활발해졌다. 최근 EU는 세계 최초로 인공지능 기술 규제 법안에 합의했다.

 

◇ “국경 초월하는 인공지능 분야 협력 필요”

 

이들은 국내에서 추진 중인 인공지능법이 산업계의 요구에만 집중해 국민의 안전과 기본권을 위험에 빠트릴 수 있다고 주장했다. 이들은 논평에서 “인공지능 관련 산업계의 요구에 영합하여 국민의 안전과 기본권을 위험 속에 방치하는 인공지능법을 추진해 왔다”고 주장했다. 

 

참여연대 등은 “지능정보화기본법이 이미 과학기술정보통신부 주도로 인공지능에 대한 산업과 기술을 지원하고 있는 상황에서 부실한 입법을 서두를 이유가 전혀 없다”면서 “인공지능법은 실효성 있게 인공지능이 국민의 안전과 인권에 미치는 위험성을 예방하고 그로 인한 피해를 방지하고 구제할 수 있도록 강력한 규범을 세워야 한다”고 주장했다.

 

이들은 논평에서 규제 정도에 대해 “최소한 국가인권위원회가 지난 8월 국회의장에 권고한 수준에 부합하여야 한다”고 밝혔다, 그러면서 “관련 산업 진흥만을 생각하는 과학기술정보통신부가 아니라 새로운 규제기관 거버넌스에 대한 깊은 검토 또한 이루어져야 마땅하다”고 주장했다.

 

한편, 인권위는 지난 8월 인공지능 개발·활용 과정에서 인권침해 등의 문제가 발생하지 않도록 '인공지능 법률안'에 관련 규정을 포함해야 한다는 의견을 표명한 바 있다.

 

당시 인권위는 국회 과학기술정보방송통신위원회 심의 중인 인공지능 법률안에 인권침해와 차별, 사회적 편견의 확대·재생산, 개인정보 유출, 허위정보 생산, 저작권 침해 등의 문제를 예방·규제할 규정이 미흡하다며 국회의장에게 이 같은 의견을 냈다.

 

지난 11월에는 과학기술정보통신부가 이종호 장관을 수석대표로 영국에서 열린 인공지능 안전성 정상회의 프로그램 중 장관회의에 참석했다. 당시 회의 참석국들은 공동선언문을 통해 인공지능 위험을 해소하기 위해서는 국경을 초월하는 인공지능 분야 협력이 필요하며, 각국 정부는 혁신친화적인 규제접근 방식을 고려해야 한다고 발표했다.

 

아울러 첨단 인공지능을 개발하는 모든 주체는 안전성 평가 등을 통해 안전을 확보할 책임이 있으며, 각 국 정부는 국가 간 관련 정책이 상황에 따라 차이가 있을 수 있음을 인식하면서도 투명성을 높이는 것 등을 포함하여 적절하게 협력하기로 합의했다. 

 

과기부는 지난 9월 발표한 ‘전국민 인공지능 일상화 실행계획’에서도 AI 윤리성과 신뢰성 강화를 위해 생성형 AI규범체계를 마련하고 고위험영역 AI 정의 및 사업자 책무 해설서를 마련하는 등의 조치를 취하겠다고 밝힌 바 있다.