🍁맛없는 AI 콘텐츠에 빠진 플랫폼...인간 창작자는 어디로?

2025. 10. 2.

2025/10/03 금요일

모두들 둥근달 보며 한가위의 넉넉함을 즐기실 수 있기를 바라며!

추석 연휴 시작 첫날, 가보겠습니다. 딥다이브!

🌏깊이 들어가기; AI 슬롭 주의보

24시간 쉼없이 미친 속도로 콘텐츠를 만들어낼 수 있는 AI 창작자의 등장. 게티이미지

지브리 애니메이션 속 캐릭터 같은 프로필 이미지. 올봄 전 세계적으로 챗GPT 열풍을 일으켰죠. 그럼 이런 건 어떨까요. 나와 친구가 영웅이 돼 악당과 맞서 싸우는 동영상, 나와 내 아이가 함께 바닷속을 탐험하는 동영상, 또는 내가 샘 올트먼 오픈AI CEO를 인터뷰하는 동영상.

이런 걸 AI로 뚝딱 만들 수 있는 '소라(Sora) 앱’을 오픈AI가 출시했습니다. 아직은 초대받은 극소수만 쓸 수 있지만, 이용자 반응은 한결같죠. ‘이거 너무 재미있다!’

동시에 ‘AI 슬롭(Slop)’ 주의보는 더욱 요란하게 울립니다. 기술의 무서운 발전으로 AI로 생성한 콘텐츠는 점점 더 빠르게 넘쳐나고 있고요. 그 압도적인 양과 속도에 인간 창작자가 밀려나는 현상마저 이미 나타나는데요. AI 기술 발전의 어두운 뒷면, AI 슬롭을 들여다보겠습니다.

🔎맛 없는데 많이 먹네, AI 슬롭

새우의 몸통과 다리를 가진 예수님, 감자를 튀기는 고양이, 빵으로 만든 말…. 기괴하고 비현실적인 이런 이미지들, 모두 AI로 만들어져 SNS에서 널리 공유됐었죠. 이해할 수 없는 미의식의 이런 AI 생성물을 일컫는 용어가 ‘AI 슬롭(AI Slop)’입니다. 마치 가축에 먹이로 주는 음식 찌꺼기(Slop)처럼 맛이 없다는 뜻이 담겨있죠. 내용도, 정성도, 애정도 없이 마구 생산됐단 의미입니다.

이런 용어까지 생겼다는 건 그만큼 AI 슬롭이 많아졌단 뜻입니다. 유튜브 쇼츠나 인스타그램 릴스를 보다 보면 이런 류의 AI 영상이 종종 보이죠. 요리하는 시바견, 고기 굽는 비숑, 유리 과일을 자르는 영상.

인간화한 고양이를 주인공으로 내세운 AI 영상 채널 '슈퍼 캣 리그'는 7월 한 달 동안 가장 빠르게 구독자 수가 늘어난 전 세계 유튜브 채널 100위 안에 들었다. 막장 숏드라마 형식의 개연성 없는 내용이지만, 구독자 수가 400만명을 넘어섰다.

영국 가디언지 분석에 따르면 7월 한 달 동안 가장 빠르게 성장한 유튜브 상위 100개 채널 중 9개는 순수 AI 생성 콘텐츠였습니다. AI 슬롭이 유튜브 세계에서도 상당히 선전 중인 건데요. 예를 들어 고양이를 주인공으로 한 막장 불륜 드라마 채널(슈퍼 캣 리그)은 개설된 지 석 달 만에 구독자 수가 무려 421만명입니다.

AI 슬롭은 아직까진 대체로 맛이 없습니다. 아주 질색하며 혐오하는 사람들도 많죠. 하지만 배고픔을 달래줄 순 있습니다. 시간 때우기용, 도파민 자극용 콘텐츠가 필요한 이들의 클릭과 구독이 이어지고 있죠.

그래서 플랫폼도 AI 슬롭을 용인합니다. 플랫폼 입장에선 퀄리티가 어떻든, 이용자를 오래 붙잡아놓는 게 가장 중요하니까요. 오히려 광고 수익을 두둑이 챙겨주며 이런 AI 슬롭 콘텐츠 제작을 장려하는 것처럼도 보입니다.

🔎AI 밴드에 밀린 인간 밴드

딱 보면 품질이 떨어져서 AI 생성물인 줄 알겠던데. 그런 걸 왜 소비하는지 모르겠다고요? 그런데 정말 우리는 AI가 만들었는지 인간이 만들었는지를 구분할 수 있을까요. 설사 구분한다 한들, 그것까지 따지면서 콘텐츠를 소비하게 될까요.

‘블리딩 버스(Bleeding Verse)’는 올해 7월 말 스포티파이에 데뷔한 AI 밴드입니다. 스포티파이 소개글에서 ‘사람의 가사를 AI가 노래로 만들었다’라며 AI 생성 음악임을 명확히 밝히고 있죠. 동시에 유튜브에선 ‘데이시커(Dayseeker)와 홀딩 앱센스(Holding Absence)에 영감을 받았다’면서 ‘AI 지원 악기 연주와 보컬’이라고도 소개했고요.

AI 밴드임을 밝히고 데뷔한 블리딩 버스는 두달 만에 스포티파이 월간 청취자 수 90만명을 돌파했다. 스포티파이 화면 캡처

그리고 블리딩 버스의 스포티파이 월간 청취자 수는 무려 90만명. 2015년부터 활동해 온 4인 밴드 홀딩 앱센스의 월간 청취자 수 85만명을 이미 추월했습니다. 네 명의 사람이 10년 동안 만들어낸 기록을 불과 두 달 만에 그들을 모방한 AI 밴드가 앞서간 거죠. ‘어떻게 이런 일이?’라고 생각하신다면, 블리딩 버스의 유튜브 채널을 한번 보세요. ‘우리를 계속 치유해 주세요’, ‘정말 아름답고 강력해요’라는 진심 어린 댓글이 줄을 잇습니다.

약간 소름 돋지 않나요. 이를 두고 홀딩 앱센스의 멤버는 X에 이렇게 글을 남겼습니다. “충격적이고, 실망스럽고, 모욕적입니다. 무엇보다도 경종을 울리는 사건입니다. AI 음악에 반대하지 않으면 우리 같은 밴드는 사라질 겁니다.”

스포티파이는 최근 AI 정책을 발표했는데요. 여기서 AI 음악을 금지하진 않을 거란 점을 분명히 했죠. 대량·중복 업로드 같은 사기성이 있는 ‘스팸’ AI 음원 7500만 건은 제거했지만, 동시에 AI를 활용해 만들어진 창의적인 음악은 계속 알고리즘을 통해 홍보할 거라고 밝힌 겁니다.

블리딩 버스처럼 AI임을 대놓고 표방하는 음원은 더 늘어만 갈 겁니다. 돈이 되니까요. 스포티파이 알고리즘을 통해 AI 밴드의 음악을 접하고 팬이 된 이용자들은 나중에 ‘그게 AI 음악이었다니’라며 화를 낼까요? 아니면 ‘뭐 어때. 좋기만 한데’라고 어깨를 으쓱하고 말까요.

🔎왜 하냐고? 돈이 되니까!

AI 슬롭 범람을 막을 수 있는 건 사실상 플랫폼뿐이지만, 돈벌이가 중요한 플랫폼 기업들은 그럴 의지가 없죠. 최근 오픈AI는 차세대 영상 생성 AI 모델인 ‘소라(Sora) 2’를 탑재한 틱톡 스타일의 소셜미디어 앱 ‘소라(Sora)’를 출시했는데요.

텍스트만으로 영상을 만드는 건 물론이고요. 이용자 자신을 사람·동물·사물 모습으로 출연시킬 수 있는 ‘카메오’ 기능이 있다는 게 핵심이죠(목소리 포함). 자기 모습 사용을 허락한 친구들까지도 내가 만드는 AI 영상에 출연시킬 수 있다는데요.

‘내가 주인공인 영상을 만드는 건 정말 재미있다. 영상 만들기에 푹 빠졌다’는 기자 리뷰가 눈에 띕니다. 동시에 이런 평도 있군요. “사람들은 친구들과 함께할 수만 있다면 AI의 허술함을 개의치 않을 수 있다는 게 밝혀졌습니다.”

(아래 두 영상은 오픈AI가 AI 모델 소라2로 만든 영상. 영상에 등장하는 얼굴과 목소리는 오픈AI 임직원으로, 소라앱의 '카메오' 기능을 이용하면 누구나 스크립트만으로 자신을 주인공으로 한 이런 영상을 만들 수 있다.)

소라 앱은 아직은 미국·캐나다에서 초대받은 사람만 이용할 수 있지만, 추후 글로벌로 확장할 거라고 하죠. 여기서 이런 의문이 듭니다. 오픈AI는 인공일반지능(AGI)이라는 원대한 목표를 향해 나아가는 대단한 AI 기술 기업 아니었던가요? 갑자기 웬 소셜미디어 앱이죠? 일종의 'AI 슬롭 머신'을 만들 셈인가요?

답은 물론 돈 때문이죠. 소라 앱엔 개인화된 광고가 붙을 거거든요. 샘 올트먼 CEO는 소라 앱 출시를 비판하는 글에 이렇게 답합니다. “과학을 수행할 수 있는 AI를 구축하려면 자본이 필요하고, 거의 모든 연구 활동을 AGI에 집중하고 있습니다. 그 과정에서 사람들에게 멋진 신기술과 제품을 보여주고, 그들을 웃게 만들고, 필요한 컴퓨팅 자원을 고려할 때 수익까지 창출할 수 있다면 더할 나위 없겠죠.” 꽤 솔직한 답변이네요.

🔎AI가 위키백과를 무너뜨렸다

이런 상황에서 인간 창작자는 점점 밀려날 수밖에 없습니다. AI는 워낙 압도적인 속도와 양으로 콘텐츠를 쏟아내니까요. 빠르고 쉽고 저렴한 AI의 놀라운 효율성을 인간은 도무지 당해낼 수가 없는 거죠.

그럼 만약 AI 슬롭이 플랫폼을 점령해버리면 어떻게 될까요. 그래도 소비자에겐 여전히 볼만 하고 들을 만한 콘텐츠가 제공될 테니, 상관없는 일일까요?

이와 관련해 위키피디아(위키백과) 사례를 소개합니다. AI 슬롭의 범람이 플랫폼을 어떤 위험에 빠지게 할 수 있는지를 보여주는 최신 사례이죠.

위키피디아는 340개 넘는 언어의 번역본이 있는 다국어 플랫폼인데요. 지난 9월 위키피디아는 2003년부터 운영해 온 ‘위키피디아 그린란드어판’ 폐쇄를 결정했습니다. 왜? 몇 년 전부터 AI를 이용해 그린란드어로 번역된 엉터리 정보들로 가득 차버렸기 때문이죠.

대형언어모델(LLM)을 이용해 누구나 클릭만 하면 몇초 만에 AI 번역을 뚝딱 하는 시대입니다. 다만 사용자가 극히 적은 소수 언어는 LLM이 훈련할 만한 데이터가 매우 부족하죠. AI를 이용해 그린란드어 같은 소수 언어로 번역한 경우, 유독 오류가 많고 정확도가 떨어질 수밖에 없는 이유인데요.

문제는 너무 많은 외국인이 AI 번역을 이용해 위키피디아 그린란드어판을 채우는 데 기여했단 겁니다. 아마 작성자들은 번역된 그린란드어 문장에서 뭐가 틀렸는지 전혀 알 수 없었을 거예요. 그걸 작성한다고 딱히 돈이 되는 건 아니니, 아마도 선의로(그린란드어판에 좋은 정보를 실어주자!) 그렇게 했겠죠. 그 결과 말도 안 되게 틀린 정보(예-캐나다 인구가 41명이다)는 물론, 아예 문장이 말이 되지 않아 읽을 수조차 없는 내용이 넘치게 됩니다.

그리고 진짜 문제는 많은 LLM 모델이 훈련용 데이터로 위키피디아 정보를 이용하고 있단 점이죠. 즉, 위키피디아 그린란드어판이 엉망이 되는 것 자체도 문제이지만, 더 심각한 건 주요 AI 모델이 이로 인해 엉터리 그린란드어를 배우게 된다는 점입니다. 그 결과 더욱더 그린란드어 AI 번역은 엉터리가 되고요. 쓰레기를 넣으니 쓰레기가 나오는 ‘파멸의 악순환’에 빠지는 거죠.

AI 번역이 초래한 이런 소수 언어 위키피디아의 위기는 아프리카 부족 언어인 풀풀데어, 하와이 원주민 언어인 하와이어 판에서도 마찬가지라는데요. AI 슬롭이 어떻게 플랫폼을 황폐화할 수 있는지를 보여주는 사례입니다.