EU 유럽의회, 세계 최초 포괄적인 AI규제안 채택…2026년 적용 전망

유럽연합(EU) 유럽의회는 14일(현지 시간) 세계에서 처음으로 포괄적인 인공지능(AI) 규제안을 채택했다.

이날 닛케이(日本經濟新聞) 등 외신들에 따르면 유럽의회는 ‘챗GPT’ 등 생성형 AI를 제공하는 기업에 투명성 담보를 요구했다. 화상 등에 AI 작성이라는 점을 명시하고 AI가 저작권에서 보호되는 데이터를 포함한 경우 이를 공개해야 한다.
기업들은 EU의 데이터베이스에 등록해야 하며 기술문서의 작성과 보관도 의무화된다. 위반하면 거액의 벌금이 부과된다.

유럽의회 본회의에서 이 같은 규제안이 채택되면서 AI규제안 성립에 큰 진전이 이루어졌다. 승인 후 EU 집행위와 EU 회원국의 각료이사회에 의한 규제 내용을 채우는 협의에 들어간다. 협의 과정에서 추가로 수정될 가능성이 있다. EU 주요 기관에서 연내 합의를 목표로 한다.

규제가 성립돼도 완전 적용은 2026년께가 될 전망이다. 그때까지의 중간 과정으로 강제력은 없지만 규제안에 가까운 자체 규정 준수를 기업들에 요구한다. 미국과 미국 기업 등과도 조정한다.

EU의 AI규제안은 EU 집행위가 2021년에 제안했다. 이후 생성형 AI의 대두 등에 따라 최신 상황에 대응한 재검토를 서둘러왔다.

생성형 AI를 이용한 서비스 제공 기업들에는 생성물이 인간이 아니라 AI가 만들어낸 것이라는 점을 분명히 보여주도록 한다. EU 집행위의 올린 베스테아 수석부위원장은 지난 4월 이 같은 ‘메이드 위드 AI(AI로 작성)’ 표시안을 제시했다.

서비스 제공자에게는 위법한 콘텐츠를 만들어내지 않도록 생성형 AI의 설계를 요구한다. 생성형 AI에 대해서는 크리에이터 등으로부터 허락 없이 저작물이 사용될 우려가 확산되고 있다. 유럽의회 규제안에서는 저작권법에서 보호된 콘텐츠를 AI가 학습할 때에 공개토록 한다.
AI는 막대한 정보를 받아들여 콘텐츠를 만들기 때문에 제공 기업이 기술적으로 투명성에 관한 의무를 지키는지 등의 문제는 남는다. EU가 앞으로 더 구체적인 지침을 만들 것으로 예상된다.

이번 규제는 생성형 AI를 포함한 AI 전반에 관한 규정이다. AI의 리스크를 ▲ 용인할 수 없고 ▲ 높고 ▲ 한정적이며 ▲ 최소한 등 4단계로 나누어 각각 단계에서 AI 서비스의 제공자와 사용자에 대한 의무를 정한다.

예를 들면 트럭 운전수에 장시간 운전시키기 위해 AI를 시용해 잠재의식을 조작할 수 있는 주파수를 발견해내는 등의 사용법은 금지된다. 수사당국이 AI를 사용한 생체인식 시스템을 이용해 실시간으로 시민을 감시하는 것도 원칙적으로 인정되지 않는다.

교육과 노동자관리 등 리스크가 높은 것으로 간주되는 분야에서는 공개해서 시장에 나오기 전에 사전 평가하는 시스템을 갖춘다. 기술 개요와 데이터의 관리방법, AI동작 기록 등 많은 데이터를 보조해 필요에 따라 이용자에게 제공해야 한다. 연구개발은 규제 대상에서 제외된다.


박경희 글로벌이코노믹 기자 hjcho1017@g-enews.com