제임스 클레벌리 "빅테크기업과 대책 강구"
|
25일(현지시간) 영국 가디언에 따르면 클레벌리 장관은 "러시아나 이란을 돕는 사람들이 수 천 건의 딥페이크(AI가 생산한 가짜 콘텐츠)를 생산해 영국 선거를 조작할 수 있다"며 "AI가 생산한 콘텐츠와 딥페이크가 이미 (사실을) 오도하고 파괴하고 있다"고 말했다.
영국에서는 지난해 11월 사디크 칸 런던시장의 목소리가 딥페이크 기술로 조작돼 정전협정일 행사의 중요성을 부인하는 음성이 틱톡에 유포돼 논란이 일었다. 또 리시 수낵 총리의 재산 조사를 지지한다는 조작된 BBC뉴스가 퍼지기도 했다.
지난 16일 열린 독일 뮌헨안보회의(MSC)에서는 오픈AI와 구글 등 20개 빅테크 기업들이 유권자를 속이는 AI 생성 콘텐츠를 방지하는 데 노력한다는 합의문을 발표하고, 가짜 콘텐츠를 감지해 꼬리표(label)를 붙이는 조치를 취하기로 했다.
올해는 세계 60여 개국에서 대선, 총선 등 각종 선거가 예고돼 있어 약 20억 명이 투표에 참여한다. 지구촌 '선거의 해'에 고도화된 딥페이크 기술로 생성된 가짜 콘텐츠가 기승을 부릴 가능성이 커지고 있다.
닉 클레그 메타 글로벌 사업부문 사장은 "하나의 테크기업, 하나의 정부, 하나의 시민 사회단체로는 이런 기술의 출현과 악의적 사용에 대응할 수 없다"며 공동 대책 마련을 강조했다.
유럽연합(EU)은 지난해 AI 콘텐츠에 워터마크를 의무화하는 법안을 통과시켰고 이달 초 27개 회원국이 세계 첫 '인공지능(AI) 규제법'에 최종 합의했다. 오는 2026년 본격 시행될 전망이다.
