유럽연합(EU)이 세계 최초로 인공지능(AI) 규제에 대한 합의안을 마련했다. AI의 위험성을 분류하고 규정을 준수하지 않는 기업에는 벌금을 부과하는 내용이 골자다. AI 분야를 선도하는 미국을 견제하고, 경쟁의 주도권을 가져오기 위해 EU가 먼저 규제의 틀을 마련했다는 분석이 나온다.

2023년 12월 8일(이하 현지시각) AP통신 등 주요 외신에 따르면, EU 집행위원회와 유럽의회, EU 27개 회원국 대표 등은 이날 벨기에 브뤼셀에서 37시간이 넘는 마라톤 회의 끝에 ‘AI 규제법(AI ACT)’에 합의했다. 합의안은 AI 기술을 시민의 권리, 민주주의를 위협하는 위험도를 기준으로 4등급으로 분류했다.

가장 높은 등급인 ‘용인할 수 없는(unacceptable) 위험’에는 안면 인식 기술이 포함됐는데, 이와 관련해 EU는 데이터베이스 구축을 위해 인터넷이나 폐쇄회로(CC) TV 영상으로 얼굴 사진 등 생체 정보를 무분별하게 수집하는 행위를 금지했다. 다만 테러 위협 등 국가 안보 문제가 발생한 경우, 인신매매·살인 등 강력 범죄를 수사할 경우 등에는 예외적으로 실시간 안면 인식 기술을 허용한다.

고위험 등급에는 AI 기술을 채택한 기업이 채용 시 편향된 판단을 하지 않도록 AI를 개발할 때 반드시 인간이 감시하는 체제를 갖추게 했다. 투명성이 필요한 위험 등급에서는 생성 AI(Generative AI)가 만든 이미지·영상·문장 등에 ‘AI에 의한 콘텐츠’라고 명시하도록 했다. 스팸 메일 분류 기능 등 단순한 기술은 최소 위험 등급으로 분류해 필수 의무를 부과하지 않았다.

합의에 따라 향후 EU에서 자율주행차, 의료 장비 등 고위험 기술을 선보일 기업은 AI 관련 데이터를 보고하고 엄격한 시험을 거쳐야 한다. 규정을 위반하면 최대 3500만유로(약 500억원)나 연간 글로벌 매출의 7%에 해당하는 제재금을 내야한다. AI 규제법은 앞으로 유럽의회와 회원국들의 공식 승인을 거쳐야 한다. 승인 후 완전히 발효되기까지는 약 2년이 소요되며, 이후 EU는 AI 규제를 위한 국가 및 범유럽 규제 기관을 창설할 예정이다.

미국 워싱턴포스트(WP)는 이번 합의로 EU의 AI 기술 규제에 대한 리더십이 강화될 것으로 전망했다.