유럽연합(EU)이 세계 최초로 인공지능(AI)을 포괄적으로 규제하는 법안을 통과시켰다. 오픈AI와 구글 등 전 세계 빅테크(대형 정보기술 기업)를 중심으로 AI 기술 경쟁이 격화하는 가운데, AI 규제를 고심하는 세계 각국에 이정표 역할을 할 전망이다.

3월 13일(이하 현지시각) AFP통신 등에 따르면,유럽의회는 이날 프랑스에서 열린 본회의에서 이른바 ‘AI규제법’ 최종안을 찬성 523표, 반대 46표,기권 49표로 가결했다. 티에리 브레통 EU 내부 시장 담당 집행위원은 성명을 통해 “유럽은 이제 신뢰할 수 있는 AI 분야에서 글로벌 표준을 제시하는 국가가 됐다”고 밝혔다.

EU, AI 위험 등급 4등급으로 분류해 차등 규제

AI규제법 최종안의 세부 내용을 살펴보면, 인권및 민주주의에 잠재적인 위협이 될 수 있는 분야는 AI 기술 활용을 금지하고, 생성 AI(GenerativeAI)로 제작한 이미지와 영상 등 콘텐츠에는 명확한 출처를 표기하도록 했다. 또 EU 집행위원회 내 ‘AI 사무국’을 설치해 AI 모델을 감독하고 회원국 내 통용될 규칙 시행 권리를 부여하기로 했다.

주목할 점은 EU가 앞으로 AI를 위험에 따라△최소 위험(minimal risk) △제한된 위험(limitedrisk) △높은 위험(high risk) △허용 불가한 위험(unacceptable risk) 등 네 가지 위험 등급으로 분류하고 차등 규제하기로 했다는 사실이다. 가령 챗봇이나 딥페이크(AI로 만든 이미지·영상 조작물)는 ‘제한된 위험’으로 분류해 제공자나 활용자에게 ‘투명성 의무’를 부과한다.

‘소셜 스코어링social scoring)①’이나 안면 인식 기술 등 AI로 생체 정보를 실시간 수집하는 것은 ‘허용 불가한 위험’으로 분류해 범죄 수사, 안보 및 보안 등의 목적이 아니면 사용을 금지하도록 했다. AI규제법은 27개 EU 회원국의 서명을 거쳐 6월 관보에 게재되면 2025년 초에 발효돼 2026년 전면 시행될 예정이다. 만약 기업이 AI규제법을 위반하면 최대 3500만유로(약 508억원) 또는 전 세계연 매출의 7%를 벌금으로 내야 한다. 기업 규모별로 벌금액은 상이한데, 중소기업이 AI규제법을 위반하면 최대 750만유로(약 109억원) 또는 전 세계 연 매출의 1.5%가 벌금으로 부과된다.

이번 AI규제법 통과는 앞서 EU에서 발효된 각종 디지털 법규의 연장선에 있다. 2022년 11월 발효된 디지털서비스법(DSA)은 대형 온라인 플랫폼을 대상으로 사용자 보호를 의무화한 게 골자인데,빅테크가 불법 유해 콘텐츠를 방치할 경우 매출액의 최대 6%에 달하는 과징금을 부과하고 있다. 이듬해인 2023년 5월 시행된 디지털시장법(DMA)은 빅테크가 막강한 시장 지배력을 이용해 온라인 쇼핑과 광고 등 디지털 시장을 독과점하지 못하도록 했다. 가령 앱스토어 등에서 빅테크가 자사 제품을 높은 순위에 올리는 건 금지다. 이를 위반할 경우 전 세계 연 매출의 최대 10%를 벌금으로 부과하고 법 위반을 반복할 시 최대 20%의 벌금을 부과하도록 했다.

세계 각국 ‘AI 규제’ 속도

국제사회에서도 AI 규제에 대한 필요성이 대두되고 있다. 3월 21일 유엔 총회에선 120개 회원국이 안전하고 신뢰할 수 있는 AI 시스템을 유지하자는 결의안을 채택했다. 국제법상 유엔 결의안은 구속력이 없지만, AI 관련 규제가 필요하다는 국제적 공감대가 형성됐음을 시사한다. 실제로 미국에서는 작년 10월 조 바이든 대통령이 AI 모델이 국가 안보나 경제 및 건강상 위험을 초래할 경우 개발자가 연방 정부에 통지해야 한다는 내용의 행정 명령에 서명했다.

이 행정 명령에는 AI를 활용해 만든 콘텐츠에 워터마크(식별 표식)를 넣도록 하는 규정도 포함돼 있다고 한다. 산케이 신문에 따르면, 일본도 생성 AI 개발자를 염두에 둔 규제 도입을 검토 중인 것으로 알려졌다. 한국의 경우 AI산업 육성·안전성 확보를 위한 방향성을 담은 ‘AI산업 육성 및 신뢰 확보에 관한 법률안’이 작년 2월 국회 과학기술정보방송통신위원회 법안소위를통과했고, 현재 계류 상태에 있다.