유럽 의회가 지난 14일 AI법 초안에 동의하는 표결에서 압도적인 찬성으로 초안을 통과시켰습니다. 물론, 이 법안의 '초안'이 통과된 것이기 때문에 이사회 등 다양한 논의과정을 거쳐 수정하는 작업이 필요하고, 이후에 공표되는 법이 진짜 효력을 갖게 됩니다.

우리나라로 비교하면 '발의'된 법안이 '법제사법위원회'를 통과하고, 그렇게 올라간 본회의에서 표결에 부쳐 '승인'되어야 하는 것과 같습니다. 아무튼, 여기서 유럽 의회는 크게 다섯가지 정도의 주요 골자를 내놓았습니다.

첫번째는 '감정 인식 인공지능' 금지입니다. 감정 인식 인공지능이란 인간의 얼굴에 나타나는 표정 변화, 체온, 혈류랑 변화 등을 통해 인간의 감정을 파악하고 솔루션을 제공하는 기술을 의미합니다. 기술 개발자들은 학생이 특정 내용을 이해하지 못했음에도 이해했다고 거짓말할 때, 졸음운전하는 운전자를 적발할 때 등 다양한 상황에 적용이 가능하다고 이야기하고 있지만 유럽의회는 이를 금지하겠다고 했네요. 물론, 다른 유럽의 주요 기관인 유럽연합 이사회와 집행위원회의 초안에서는 이 내용을 금지하지 않아 향후 논의가 필요해 보입니다.

두번째는 '공공장소에서 실시간 생체인식과 예측 치안' 금지입니다. 이건 꽤 큰 쟁점사안인데, 경찰 등 치안당국은 카메라를 들고 실시간으로 범죄자나 테러 용의자 등을 추적하고 싶어하기 때문입니다. 또 이렇게 얻는 실익도 분명히 있을 수 있죠. 그러나 '빅 브라더'의 등장이 우려된다는 점도 가볍게 볼 수는 없습니다. 따라서 유럽의회는 이걸 금지하고자 하는데, 문제는 주요 국가 중 프랑스 등이 이미 경찰에서 안면인식기술 사용을 늘리고자 하고 있다는 겁니다. 이것도 뜨거운 쟁점이 되겠군요.

세번째는 '소셜 스코어링' 금지인데, 이건 말하자면 길거리에서 내가 하는 행위가 모두 기록되어 나의 '사회 점수'에 등록될 가능성을 말합니다. 내가 대출을 받는데 필요한 신용정보 외에 내가 길거리에서 쓰레기를 버리거나 줍는 행위가 점수로 기록되어 영향을 준다는 말이죠. 중국에서는 일부 도시에서 이를 이미 시험하고 있는데, 일단 유럽의회는 공공기관에서 이걸 금지하자고 제시했습니다.

네번째부터 우리가 관심있는 주제입니다. 바로 생성형 AI에 대한 신규 규제입니다.

유럽연합은 '생성형 AI'에 대한 세계 최초의 규제안을 제시했습니다. 일단 오픈AI의 GPT-4와 같은 대형 언어모델에서 저작권 있는 자료의 사용을 전면 금지합니다. 이미 오픈AI는 저작권과 개인정보 우려로 정밀 검토를 받아왔는데, 여기에 더해 AI가 생성한 콘텐츠에 저작권 라벨, 즉 원천 콘텐츠의 출처를 밝히는 조치를 취하도록 요구합니다. 여기까진 아주 좋은데, 이 법안이 초안이라 수정될 여지가 있다는게 문젭니다. 아마 기술 기업들이 엄청난 로비공세를 할테고, 특히 유럽 의회 뿐 아니라 유럽 각 국가들에 상당한 영향력을 행사하려고 들테니 이 역시 엄청난 쟁점을 불러일으킬 겁니다. 유럽의회는 이사회와 개별 국가를 설득해야 하는 작업이 필요하겠구요.

마지막 다섯번째는 소셜미디어 추천 알고리즘 규제입니다. 이 초안에선 소셜미디어 추천 시스템을 '고위험' 범주로 보고 있습니다. 이 알고리즘이 끼치는 해악이 적지 않다는 거죠. 또한 다른 어떤 법안보다 소셜미디어 추천 알고리즘을 가장 강력하게 규제하고자 합니다. 따라서 이 초안이 그대로 통과되면 소셜미디어 플랫폼은 알고리즘 작동 방식에 대해 지금까지보다 더 면밀한 조사를 받게 되고, 이 알고리즘을 운용하는 소셜미디어 기업은 사용자가 만들어낸 콘텐츠가 미치는 영향에 더 큰 책임을 지게 될겁니다. 이미 독일에서는 가짜뉴스를 막지 않은 기업에 천문학적 액수의 벌금을 물리고 있고, 다른 국가들도 비슷한 상황인 만큼 이 내용은 크게 변화가 없을 것 같네요.

또 이 추천 알고리즘을 폭넓게 적용한다면 OTT 서비스나 웹툰 플랫폼의 프로모션, 개인화 추천 알고리즘에 대해서도 접목될 수 있어 어디까지를 규정할 지 살펴보는것도 필요합니다.

물론, 지금 당장 이 모든 내용이 시작되는 건 아닙니다. 앞서 말한대로 지난한 논의와 합의의 과정이 있어야 하고, 가장 빨리 실행에 들어가더라도 지금부터 2년 후가 될 것으로 예상됩니다. 그럼에도 불구하고 우리의 시야 속에서 벗어나지 않게 하는 것이 가장 확실한 방법이라는 점을 기억해야겠네요.