소셜미디어 시대의 종말, AI 스팸과 봇이 지배하는 가짜 콘텐츠의 홍수

전문가들 "진정한 인간 콘텐츠는 알고리즘에 밀려 사라지고 있어"

[한국정보기술신문] 현재 소셜미디어 플랫폼들은 AI가 생성한 스팸 콘텐츠의 대규모 유입으로 인해 근본적인 변화를 겪고 있다. 페이스북과 인스타그램의 피드에는 동일한 프로필 사진을 사용하며 "무료 사진을 보려면 클릭"이나 "2025년 필요한 생산성 해킹"과 같은 내용을 반복하는 수십 개의 계정들이 등장하고 있다. 스탠포드대학교의 연구에 따르면, 수만 개의 기계가 작성한 게시물들이 공개 그룹에 범람하며 사기와 클릭베이트를 퍼뜨리고 있는 것으로 나타났다.

진정한 인간이 만든 콘텐츠는 알고리즘 우선순위에 의해 점점 뒷전으로 밀려나고 있으며, 클릭을 위해서만 최적화된 인공적인 콘텐츠보다 적은 상호작용을 받고 있다. 가디언지의 아르와 마흐다위는 페이스북이 저품질 AI 생성 게시물에 "넘쳐나고" 있으며, 일부는 "새우 예수"와 같은 알고리즘 부스트까지 받고 있다고 지적했다.

봇걸 경제: 자동화된 친밀감의 상품화

소셜미디어에서 가장 눈에 띄는 현상 중 하나는 성적 매력을 앞세운 하이퍼 최적화된 인간 아바타들의 등장이다. 이들은 트렌딩 트윗에 셀피로 답글을 달고 "재밌는 밈이 프로필에 있어요"라며 결국 OnlyFans나 유사 플랫폼으로 연결한다. 때로는 실제 인물이고, 때로는 그렇지 않으며, 때로는 미얀마의 한 건물에 앉아 있는 남성이기도 하다.

이러한 봇걸 경제는 경제적 불안정에 크게 의존하는 의사사회적 시장을 형성하고 있다. 관심은 희소하고, 친밀감은 수익화가 가능하며, 플랫폼들은 참여도가 높게 유지되는 한 일반적으로 개입하지 않는다. 실제 사람들조차 알고리즘처럼 행동하기를 선택하며, 답변을 자동화하고 참여를 위해 콘텐츠를 최적화하거나 대규모로 애정을 흉내내기도 한다.

콘텐츠가 증가하는 반면 사용자 참여는 급격히 감소하고 있다. 주요 플랫폼들의 평균 상호작용률이 빠르게 하락하고 있으며, 페이스북과 X 게시물은 현재 평균 0.15%의 참여율을 기록하고 있다. 인스타그램은 전년 대비 24% 감소했으며, 틱톡조차 정체기에 접어들기 시작했다.

미국 성인의 절반 미만이 현재 소셜미디어에서 보는 정보를 "대체로 신뢰할 만하다"고 평가하고 있으며, 이는 2010년대 중반 약 3분의 2에서 급락한 수치다. 젊은 성인들이 가장 급격한 신뢰도 하락을 보이고 있는데, 디지털 네이티브로서 그들이 스크롤하는 콘텐츠가 반드시 인간이 제작한 것은 아니라는 사실을 더 잘 이해하고 있기 때문이다.

대형 플랫폼의 몰락과 사용자 이탈

일론 머스크의 인수 이후 X는 전 세계 사용자 기반의 최소 15%를 잃었다. 2023년 큰 화제를 모으며 출시된 메타의 스레드는 한 달 내에 일일 활성 사용자 수가 급락했으며, 7월 출시 당시 약 5천만 명의 활성 안드로이드 사용자에서 이듬해 8월 1천만 명으로 떨어졌다. 트위치는 2024년 12월 4년 만에 최저 월간 시청 시간인 15억 8천만 시간을 기록했는데, 이는 2020-23년 12월 평균보다 11% 낮은 수치다.

2025년 초 현재 약 53억 개의 사용자 ID(전 세계 인구의 약 65%)가 소셜 플랫폼에 등록되어 있지만, 연간 성장률은 4-5%로 둔화되어 2010년대 초 두 자릿수 급증에서 급격히 하락했다. 많은 플랫폼들이 이미 사망했거나(바인, 구글+, 익야크), 기능적으로 죽거나 좀비화되었거나(텀블러, 엘로), 부활했다가 다시 죽었다(마이스페이스, 비보).

의도적이고 옵트인 방식의 마이크로 커뮤니티들이 그 자리를 대신하며 부상하고 있다. 패트리온 집단과 서브스택 뉴스레터와 같은 곳에서 창작자들은 규모보다는 깊이를, 바이럴보다는 유지를 추구한다. 1만 명의 헌신적인 구독자를 가진 작가는 인스타그램에서 100만 명의 수동적 팔로워를 가진 작가보다 더 많이 벌고 덜 번아웃될 가능성이 있다.

이러한 공간들은 대중 경기장이 아니라 클럽이며, 경계가 있는 옵트인 공간으로 사람들이 당신을 기억하는 곳이다. 그리고 종종 유료이거나 적어도 강력하게 조정되어 있어 최소한 봇들을 차단한다. 판매되는 것은 제품이라기보다는 근접감이며, 경제학은 비슷할 수 있지만 정서적 분위기는 다르고, 더 작고, 더 느리고, 더 상호적이다.

공공 유틸리티로서의 소셜미디어

소셜미디어의 가장 급진적인 재설계는 가장 친숙한 것일 수 있다. 이러한 플랫폼들을 사적 카지노가 아닌 공공 유틸리티로 취급한다면 어떨까? 공공 서비스 모델은 국가 통제를 요구하지 않으며, 공영 방송사들이 독립성과 책임성의 균형을 맞추는 의무 하에 운영되는 것처럼 시민 헌장을 통해 관리될 수 있다.

이는 공개 감사를 받는 투명한 알고리즘, 거버넌스 보드에서의 사용자 대표성, 감시 광고가 아닌 공공 자금이나 회원 회비에 기반한 수익 모델, 참여 극대화가 아닌 민주적 담론을 위한 의무, 사용법뿐만 아니라 사회적 영향을 측정하는 정기적인 영향 평가 등을 포함할 수 있다.

가장 중요한 것은 디지털 리터러시를 개인적 책임이 아닌 집단적 역량으로 재구성해야 한다는 점이다. 이는 가짜 뉴스 찾기 워크숍을 넘어서 알고리즘이 어떻게 인식을 형성하는지, 디자인 패턴이 어떻게 우리의 인지 과정을 악용하는지에 대한 더 근본적인 이해 노력을 의미한다.

일부 교육 시스템들은 이미 대응하기 시작했으며, 디지털 및 미디어 리터러시를 전체 교육과정에 핵심 역량으로 포함시키고 있다. 목표는 학생들이 매일 거주하는 디지털 환경을 비판적으로 검토하고, 수동적 소비자가 아닌 디지털 문화의 미래를 형성하는 적극적 참여자가 되도록 장비를 갖추는 것이다.

한국정보기술신문 정보통신분과 김민재 기자 news@kitpa.org