매번 따라가려다 보니 인공지능 전문지인지 뭔지 알 수 없게 된 에디터는, 한달에 몇 번 정도 주요 소식을 꼽아서 정리하기로 했어요. 그런데 이게 정리하려는 날에 무슨 일이 터지고, 별 일 없이 지나가는구나 싶으면 이해하는데 오래 걸리는 이슈들이 '오다 주웠다'며 나오더라구요. 그래서 일단, 궁금하실만한 내용을 정리해 봤습니다.

가장 먼저 전해드릴 소식은 7월 21일(현지시간)에 나온 소식입니다. 미국 내에서 인공지능 분야를 선도하는 7개 기업이 백악관 주도로 인공지능 콘텐츠에 안전조치를 취하기로 했다는 내용이 주된 골자입니다.

구글(모기업인 알파벳), 아마존, 메타, 마이크로소프트, 오픈AI, 인플렉션(Inflection), 앤트로픽(Anthropic)등 7개 인공지능 기업이 AI로 만든 콘텐츠에 워터마크를 넣는 등 안전조치에 동의했습니다. 백악관은 보도자료를 통해 "안전하고 위험이 없는 투명한 AI 기술 개발을 위해 이들 7개 기업으로부터 자발적인 약속을 확보했다"고 발표했습니다.

백악관은 "이같은 새로운 기술을 개발하는 기업은 제품의 안전을 보장할 책임이 있다"면서 "AI의 잠재력을 최대한 활용하기 위해 바이든 행정부는 이 산업이 미국인의 권리와 안전을 희생하지 않도록 가장 높은 기준을 준수하도록 장려하고 있다"고 밝혔습니다. 또한 백악관은 "혁신의 속도가 계속 빨라짐에 따라 바이든 행정부는 이들 기업에 책임을 상기시키고, 미국인들의 안전을 지키기 위해 단호한 조치를 취할 것"이라고 말했습니다.

물론 이건 '미국'에 한정된 것이긴 하지만, 이들 기업이 인공지능 산업을 선도하는 기업인 만큼 인공지능 분야에 적지 않은 영향을 줄 것으로 보입니다. 백악관은 또한 이들 기업이 안전, 보안, 신뢰 등 3가지 기본 원칙에 따라 ▲ AI 시스템 출시 전 내/외부 보안테스트 수행, ​▲ ​안전장치 회피 시도에 대한 기술 협력 등 AI 위험관리에 필요한 내용을 정부, 시민사회, 학계와 공유, ​▲ ​사이버 보안 및 내부자 위협 보호 장치에 대한 투자, ​▲ 제3자에 의한 AI 시스템 취약성 발견 및 보고 촉진을 약속했습니다.​

특히 워터마크 시스템처럼 사용자들이 AI 생성 콘텐츠를 인식할 수 있도록 하기 위한 강력한 기술 매커니즘을 개발하기로 약속했다는 점이 고무적입니다. 백악관은 "이 같은 조치는 AI를 통한 창의성은 억제하지 않으면서, 사기와 속임수가 만들 위험을 줄여준다"라고 설명했습니다.

뿐만 아니라 ​▲ ​AI 시스템의 기능, 한계, 적절-부적절 사용영역 공개, ​▲ ​유해한 편견, 차별을 방지하고 개인정보를 보호하는 것을 포함해 AI시스템이 제기할 수 있는 사회적 리스크 연구 ​▲ ​암 예방, 기후변화 완화 등 사회의 가장 큰 도전을 대처하는데 도움이 되는 AI시스템 개발 및 배치 등도 이번 약속에 포함되었습니다.

또 한가지 주목할 점은, 한국과 일본, 호주, 인도, 프랑스, 독일 등 20개국을 언급하며 "바이든 행정부는 동맹 및 파트너와 협력, AI 개발과 사용을 관리하기 위한 국제 프레임워크를 구축할 것"이라고 밝혔다는 점입니다. 국제 프레임워크를 통해 실효성 있는 제도 마련을 하겠다는, 그 과정에서 미국이 선도적 역할을 담당하겠다는 의지가 엿보이는 대목입니다.

또한 "앞으로 수 주 동안 저(바이든 대통령)는 미국이 책임있는 혁신을 주도할 수 있도록 계속해서 행정조치를 취할 것"이라며 "우리는 적절한 입법과 규제를 개발하기 위해 양당과 협력할 것"이라고 덧붙였습니다. 물론 어디까지나 자국 보호라고 볼 수 있는 조치긴 하지만, 가장 많은 인공지능 기업이 있는 미국이 직접 나섰다는 점은 고무적입니다. 아직까지 제도 바깥에 있는 AI가 제도 안으로 편입되어 감시가 가능한 체제 안에 들어올 수 있다는 점이 가장 눈여겨 볼 지점입니다.​

웹툰 분야에서는 '이미지 생성'에 워터마크가 의무화되면 일단 가장 많이 우려하고 있는 생성형 인공지능에 대한 우려는 적어도 제도권 안에서 는 불안을 억제할 수 있는 효과가 나올 수 있을 것으로 보입니다. 특히 '규제가 없어서 방안을 찾지 못하고 있다'고 말했던 인공지능 기업들이 대거 동참한 만큼, 향후에는 '관리 가능한 도구'로서의 인공지능에 좀 더 초점이 맞춰질 것 같네요.

다음은 넷플릭스 이야기입니다. 미국 작가노조(WGA)는 물론 배우노조(SAG-AFTRA)의 파업이 진행중인 지금 넷플릭스가 머신러닝 프로덕트 매니저(Product Manager)를 채용해 논란이 됐습니다. 미국 배우노조의 파업이 시작된 직후, 미국 프로듀서 협회(AMPTP)에서는 '디지털 유사성(Digital Likeness)'을 보호하기 위한 조치를 제안했습니다. 배우노조의 요구조항들에 대한 미국 연방중재위원회(FMCS)의 중재가 진행중인 와중에 넷플릭스를 비롯한 미국 프로듀서 협회의 주요 플랫폼들이 인공지능 관련 채용 공고나 정책을 펼치면서 논란이 불거졌습니다.

온라인 매체인 인터셉트(The Intercept)의 7월 25일 기사에서는 넷플릭스가 연봉 30만 달러에서 90만 달러를 책정하고 머신러닝 프로덕트 매니저를 채용하고 있다는 소식을 전했습니다. 이 기사에서는 디지털 유사성과 관련한 내용을 심도깊게 다루기도 했습니다. 해당 기사에서는 이 채용 공고가 AI의 사용 목적을 콘텐츠 창작을 염두에 두지 않았느냐고 지적했습니다. 넷플릭스의 공고에는 "AI는 우리 산업분야의 모든 부분에 혁신을 일으키고 있다"며 "위대한 콘텐츠를 만들어내는 것"이 포함되어 있다고 지적한 겁니다.

넷플릭스의 머신러닝 책임자는 '머신 러닝 플랫폼'의 개발을 담당하게 되는데, 넷플릭스 전반의 'AI 전문가'와 함께 일하게 될 것이라고 소개하기도 했습니다. 인터셉트에 따르면 넷플릭스가 콘텐츠 창작을 염두에 두고 있느냐는 질문에 즉답을 하지 않았다고 하네요.

뿐만 아니라 연봉도 논란이 됐습니다. 프로듀서 협회는 "배우들에게 출연료를 더 지급하는건 현실적으로 어렵다. 배우들은 현실적인 제안을 하지 못하고 있다"는 입장인데, 특히 7월 13일 디즈니 CEO 밥 아이거의 "작가와 배우들 모두 현실적이지 못하다"는 발언 이후에 이 채용공고 기사가 나오면서 아주 뜨겁게 불타오르고 있습니다. 87퍼센트의 배우들이 연간 2만 6천달러(한화 약 3,329만원) 이하를 벌고 있다는 작가노조의 입장이 바로 다음날 파업 시작과 함께 나왔는데, 여기에 기름을 부은 꼴이었으니까요.

더불어 디즈니 또한 인공지능 관련 채용에 나서면서, 파업이 더 격화될 것으로 보입니다. 밥 아이거는 "사실 우리는 AI를 통한 효율화를 통해 소비자를 더 만족시킬 준비를 이미 시작했다"며 "물론, 우리는 IP 매니지먼트의 관점에서 AI가 아주 파괴적이고, 유지관리가 어려울 수 있다는 것을 알고 있다"고 말하기도 했습니다. 여기에 배우들은 "나의 육체를 통한 연기에 대한 결정권은 내가 갖는다"고 맞서고 있습니다.

물론, 인공지능 역시 뜨거운 쟁점이지만 주요 쟁점은 결과적으로 돈입니다. 프로듀서 협회를 비롯한 플랫폼들이 인공지능에 투자하는 대신, 인간에게 투자하도록 요구하고 있는 겁니다. 이 문제가 해결되지 않으면, 헐리웃은 꽤 오랜시간 멈춰 있을 것으로 보입니다. 지금 당장 인공지능을 쓸 수 있는것도 아니니까요. 이 과정에서 속속 워터마크 등 제도가 마련되고 있는 것이기도 합니다.

2년 전, 미국의 연방거래위원회(Federal Trade Comission, FTC)의 위원장으로 리나 칸(Lina Khan)이 지명되면서 세간이 떠들썩해졌습니다. 이 분이 쓴 논문, '아마존 반독점의 역설(Amazon's Antitrust Paradox)' 때문이었는데요. '아마존 저격수', '빅테크 저승사자'라는 별칭으로 불리면서 미국 내 빅테크들의 반독점 소송이 줄이었습니다.

그리고 리나 칸이 다음 타깃으로 정한 것이 바로 인공지능입니다. 그 중에서도 바로 챗 GPT죠. FTC는 챗 GPT를 통해 오픈 AI가 개인정보보호법 위반, 데이터 보안 규정을 위반해 사용자를 위험에 처하게 하지 않았는지, 그 과정에서 무단 데이터 수집 등 불공정 행위는 없었는지 조사합니다. FTC는 오픈AI의 2020년 6월 1일부터 조사 시작일까지의 정보공개를 요구했습니다. 이는 미국에서 일반적으로 CID(Civil Investigative Demand)라고 불리는, 반독점법과 소비자보호법 수사를 위한 전초전을 의미합니다.

FTC가 오픈AI에 요청한 정보 중에는 LLM(Large Language Model)을 통해 정보를 제공할 때 개인정보와 민감정보를 감추는 등의 처리를 위해 오픈AI가 실제로 수행한 모든 정보가 포함되어 있습니다. 사실상 언어 처리모델 기술 자체를 공개하라는 요구와 마찬가지입니다.

이런 요구에 샘 알트먼 오픈AI CEO는 "FTC의 요구가 기밀사항으로 시작한 것에 유감을 표한다"며 "이런 요구는 신뢰형성에 도움이 되지 않는다. 또한 우리의 서비스(챗GPT)는 소비자 보호를 위해 최선을 다하고 있으며, 우리는 법규를 어기지 않았다는 자신감이 있다. 물론, FTC의 조사에도 협조해 나갈 것"이라고 소셜미디어를 통해 밝히기도 했습니다.

그와는 별개로 오픈AI는 다양한 소송에 휘말려 소송전을 준비하고 있습니다. 예를 들면 미국 배우 새라 실버먼(Sarah Silverman)이 제기한 오픈AI의 LLM이 자기 작품의 저작권을 침해했다는 소송이나, 미국의 한 라디오 토크쇼 진행자가 자신을 검색했을 때 휘말린 적 없는 소송에 휘말렸다는 정보를 제공해 자신의 명예를 훼손했다는 소송 등이 ​진행중입니다.

연방거래위원장 리나 칸의 타깃이 되어 FTC의 조사를 받게 된 것도 이제 그 중 하나가 될 것으로 보입니다. 물론, FTC의 명성이 예전같진 않습니다. 앞서 언급한 '저승사자'라는 별명도 예전 일이 됐기 때문인데요. 2년이 지난 지금 리나 칸은 '종이 호랑이'라는 별명으로 불리고 있습니다. 반독점 소송에서 줄줄이 패소 위기에 처해 있거든요.​ 아무튼 이번 조사가 철저히 이루어진 다음, 인공지능과 관련한 제도들이 마련된다면 어느정도 '의심'에서 '사회의 테두리' 안에 있다는 믿음이 생기지 않을까 합니다.

지금까지 지난 몇주간 있었던 인공지능 관련 이슈, 그 중에서도 생성형 인공지능이 엮인 이슈들을 가져와 봤습니다. 아직까지 제도가 만들어지는 중이라는 점을 염두에 두어야겠네요. 물론 아직 확실한 것은 없으므로 불안한 것도 마찬가지입니다. 특히 넷플릭스 이슈가 그렇죠. 하지만 미국 작가노조와 배우노조의 파업은 단순히 인공지능 때문은 아닙니다.

미국 배우노조가 프로듀서 협회에 제안한 요구사항만 A4용지 40매에 달합니다. 인공지능 이슈는 가장 기사화하기 좋은 따끈따끈한 소식이기 때문에 많이 알려졌지만, 사실 다른 요구사항들이 훨씬 많습니다. 예를 들면 출연료와 관련한 조항, 해외 방영료에 관련한 조항과 같은 것들이죠. 웹툰인사이트에서는 앞으로도 인공지능 이슈는 이렇게 몇주에 한 번 묶음으로 전해드리도록 하겠습니다.