유럽연합이 세계 첫 인공지능 규제법안인 인공지능법(AI Act)에 합의했습니다. 뉴욕타임즈 등에 따르면 EU 집행위원회(EC)와 유럽의회, EU 27개 회원국 대표 등은 37시간이 넘는 마라톤 회의 끝에 AI법 합의에 지난 8일(현지시간) 다다랐습니다.

| 쟁점이었던 '안면인식', 합의 도달

합의안은 등급을 나누어 AI의 위험성을 분류하고, 투명성을 강화하며 규정을 준수하지 않는 기업에 벌금을 부과하는 내용을 골자로 합니다. EU의 인공지능법은 정치적, 종교적 신념, 성적 지향, 인종 등 민감한 특성을 기준으로 사람을 분류하는 안면 인식 데이터베이스 구축을 위해 인터넷에서 생체인식 정보를 수집하는 것을 금지했습니다.

다만, 인신매매 피해자 수색과 테러 위협 예방, 살인 및 강간 등 범죄 용의자 추적 등 국가 안보와 법 집행을 위한 실시간 안면 인식은 예외적으로 허용됩니다. 이는 프랑스 등 테러 위협을 받고 있는 국가들이 강력하게 주장해 왔던 것으로, 테러 위협 '예방'이 들어가 있다는 점이 우려되는 지점으로 꼽힙니다. 상시적으로 '예방'하기 위해 안면인식을 이용한다면 문제가 되기 때문입니다.

| 생성형 인공지능, 학습 데이터 보고/명시하고 표기 넣어야

또한 오픈AI, 챗 GPT, 구글 바드/제미니 등 대규모 언어 모델(LLM)과 생성형 AI를 규제하는 내용도 담겼습니다. 범용 AI(AGI: 이미지, 영상, 음성 등 데이터를 일반적인 인간에 가까운 지능으로 생성하는 AI)를 개발하는 기업은 AI의 학습 과정에 사용된 데이터를 요약해 보고해야 합니다. 또한 AI 학습에 이용된 콘텐츠 역시 명시해야 합니다. 이렇게 만들어 진 모든 결과물에는 "AI 생성 콘텐츠"라는 표시를 넣어야 합니다. EU에서 자율주행차, 의료 장비 등 고위험 기술을 사용하는 사업을 하려는 기업은 데이터를 공개하고 엄격한 테스트를 수행해야 합니다. 위 규정들을 어긴 기업에는 최소 750만 유로(한화 약 106억 원)부터 최대 3,500만 유로(약 479억원) 또는 전세계 매출의 7%에 해당하는 벌금이 부과될 수 있습니다.

EU의 행정부에 해당하는 집행위원회는 2021년 4월 초안을 발의해 논의중이었지만 챗GPT 등 생성형 인공지능이 등장하자 법안을 다시 작성해 이번에 합의에 도달했습니다. 그럼에도 불구하고, 아직 요약문만 공개되었을 뿐 최종 합의문은 아직 공개되지 않았습니다. 따라서 세부적인 기술 사항에 대한 논의가 이루어질 것으로 보입니다. 하지만 합의 이후 승인 작업을 거쳐 발효까지 가는 길까지는 아무리 짧아도 2년입니다. 2026년 초 시행을 목표로 둔 EU는 AI 규제를 위한 국가 단위, 범 유럽 단위 기관을 창설한다는 계획을 세우고 있는 것으로 알려졌습니다.

이번 EU 인공지능 규제안은 미국에서도 논의중인 인공지능 규제안, 또는 조 바이든 대통령이 인공지능 기업과 합의한 내용과도 비슷합니다. 서구세계에서 인공지능 규제안의 거대한 틀이 만들어지는 중이라고 볼 수 있겠습니다. 인공지능이 빠르게 발전하는 만큼, 규제도 빠르게 논의되고 있습니다. 우리나라도 발맞춰 갈 수 있도록 보다 활발한 논의가 이뤄져야겠습니다.​