최신의 미디어 리서치 기관인 NewsGuard의 연구에 따르면, 인공지능(AI) 챗봇 기술을 이용해 정크 웹사이트를 생성하고 이를 광고 플랫폼으로 활용하는 경우가 늘고 있습니다.
140개가 넘는 주요 브랜드들이 자신들도 모르게 이러한 AI에 의해 생성된 사이트에 광고비를 지불하고 있습니다. 이러한 사이트에 게재되는 주요 브랜드 광고의 대부분은 Google에 의해 제공되었으며, 이는 Google의 광고 정책에 위배되는 케이스입니다. 이러한 현상은 광고 예산의 낭비뿐 아니라 스팸성 콘텐츠 확산으로 인해 인터넷 환경이 악화될 수 있음을 시사하고 있습니다.
대부분의 온라인 광고는 "프로그래매틱 광고"를 통해 게재됩니다. 이는 AI 알고리즘이 광고를 게재할 웹사이트를 자동으로 선정하고 입찰하는 방식입니다. 이 결과, 많은 대형 브랜드들이 자신들도 인지하지 못한 사이트에 광고비를 지불하게 되며, 이러한 과정은 거의 또는 전혀 감독되지 않습니다. 저임금 인력이 저품질 콘텐츠를 생성하여 광고 수익을 창출하는 콘텐츠 팜이 출현하였으며, 이러한 사이트들은 클릭베이트, 자동 재생 동영상, 팝업 광고 등을 활용해 광고주로부터 최대한의 수익을 창출하고 있습니다.
최근 전미광고주협회의설문조사에 따르면, 광고가 게재되는 웹사이트 중 21%가 이러한 광고 목적으로 만들어진 사이트였으며, 이로 인해 전 세계적으로 약 130억 달러의 광고비가 낭비되고 있다고 추정하고 있습니다. 제너레이티브 AI는 이러한 콘텐츠 팜의 자동화를 가능하게 하며, 이는 더욱 많은 정크 사이트 생성을 허용하고 있습니다.
NewsGuard는 이를 "신뢰할 수 없는 인공지능이 생성한 뉴스 웹사이트"라고 명명하였습니다. 한 사례로, NewsGuard에 의해 플래그가 지정된 한 사이트는 하루에 1,200개 이상의 기사를 생성하는 것으로 확인되었습니다. 일부 사이트들은 가짜 작성자의 사진과 이력을 AI가 생성하여 사이트를 더욱 정교하게 만드는 등, 정교한 방법을 사용하고 있습니다. 또한 이러한 문제는 점점 더 심각해지고 있습니다. 웹사이트의 품질을 평가하는 NewsGuard는 매주 약 25개의 새로운 AI 생성 사이트를 발견하였으며, 지난 4월부터 이 현상을 추적한 결과, 13개의 언어로 작성된 217개의 가짜 사이트를 발견하였습니다.
최근 NewsGuard는 이러한 정크 AI 작성 사이트를 식별하는 방법을 개발하였습니다. AI 시스템에서 자주 발생하는 오류 메시지를 이용해 이러한 사이트를 식별하며, 식별된 사이트는 인간 분석가에 의해 검토됩니다. 이러한 노력으로 AI가 생성한 정크 웹사이트와 그로 인한 문제를 조기에 발견하고 해결하는 데 기여하고 있습니다.
"AI 생성 콘텐츠를 통한정크 웹사이트의 수익화전략: 새로운 도전과 앞으로의 고려사항"
NewsGuard의 분석가인 로렌조 아르바니티스는 AI로 생성된 웹 콘텐츠를 추적하는 작업을 맡고 있습니다. 그는 "프로그래매틱 광고가 이러한 AI 생성 웹사이트의 주요 수익원인 것으로 보인다"라고 지적하였습니다. "수백 개의 포춘 500대 기업 및 유명 브랜드들이 자신들도 모르게 이러한 사이트에 광고를 게재하며, 실제 데이터 검증을 통해 140개 이상의 주요 브랜드들이 다양한 업종에서 자동으로 광고를 게재되었음을 확인했습니다. 이러한 기업들은 금융, 소매, 자동차, 의료, 이커머스 등 다양한 분야에 걸쳐 있으며, 2023년 1월 기준 프로그래매틱 광고의 평균 비용은 1,000회 노출당 1.21달러였습니다.
구글 애즈는 가장 큰 규모의 광고 거래소로, 2022년에만 1,680억 달러의 광고 수익을 기록하였습니다. 그러나 구글은 스팸성 자동 생성 콘텐츠가 있는 페이지에 광고를 게재하는 것을 금지하는 정책에도 불구하고 과거에 콘텐츠 팜에 광고를 게재한 사례로 인해 비판을 받은 적이 있습니다.
구글 정책 커뮤니케이션 매니저인 마이클 아시먼은 "Google은 플랫폼에서 수익을 창출할 수 있는 콘텐츠 유형에 대해 엄격한 정책을 적용하고 있습니다." (...) "우리는 유해한 콘텐츠, 스팸성 또는 저가치 콘텐츠, 다른 사이트에서 복사한 콘텐츠와 함께 광고가 게재되는 것을 허용하지 않습니다."라고 밝혔습니다.
하지만 대부분의 광고 거래소와 플랫폼에는 콘텐츠 팜에 광고를 게재하지 못하도록 하는 정책이 있음에도 불구하고, 그들이 이를 일관성 있게 시행하고 있지 않다는 주장이 있습니다. 디지털 포렌식 및 광고 검증 회사인 Adalytics의 설립자인 크지슈토프 프라나섹은 "이러한 광고 거래소 중 상당수는 사이트가 품질 정책을 위반한 것으로 보이는 경우에도 광고를 계속 게재하고 있다"고 지적합니다. 물론 Google은 페이지에 AI가 생성한 콘텐츠가 있다고 해서 본질적인 위반은 아니라고 밝혔습니다. "악의적인 행위자들은 항상 접근 방식을 바꾸고 있으며, 생성 AI와 같은 기술을 활용하여 Google의 정책 및 집행 시스템을 우회할 수 있다는 점을 인지하고 있습니다."라고 아시먼은 설명하였습니다. 이러한 상황은 기업들이 디지털 광고 전략을 재검토하고 AI 생성 콘텐츠가 더 이상 자신들의 브랜드를 손상하지 않도록 하는 필요성을 시사합니다.
"AI 생성 콘텐츠와 허위 정보 사이트: 새로운 현실에 대한 광고 업계의 대응"
AI가 생성하는 웹사이트는 점차 증가하고 있는데, 이 중 상당수는 '낮은 품질'로 간주되며, 잘못된 정보를 제공하는 경향이 있다는 것이 NewsGuard의 분석 결과입니다. 이러한 트렌드는 클릭을 유도하는 웹사이트에서 일어나는 정크와 오해의 소지가 있는 정보의 확산을 촉진하고 있습니다.
의료 정보를 제공하는 AI 생성 웹사이트, MedicalOutline.com을 예로 들어보면, 이 사이트에서는 "레몬이 피부 알레르기를 치료할 수 있나요?"와 같은 헤드라인의 잘못된 정보를 제공하는 기사를 게재하고 있습니다. 이런 기사들은 미표기 광고를 통해 수익을 창출하며, 은행 씨티그룹, 자동차 제조업체 스바루, 웰니스 회사 GNC 등 주요 브랜드의 광고가 이 사이트에 게재되어 있습니다. 이 광고들은 Google을 통해 이루어지고 있음을 Adalytics가 확인하였습니다. 메디컬 아웃라인과 관련하여 발생한 이슈는, 주요 기업들이 무의식적으로 이런 AI 생성 웹사이트에 광고를 게재하며, 그로 인해 신뢰할 수 없는 정보의 확산을 부주의하게 지원하게 된다는 문제를 시사하고 있습니다. 프로그래매틱 광고의 불투명한 특성은 이 문제를 더욱 악화시킵니다.
AI가 생성한 콘텐츠의 출현이 프로그래매틱 광고 환경에 어떤 영향을 끼칠지는 아직 알 수 없습니다. Adalytics의 크지슈토프 프라나섹은 "콘텐츠 제작 비용은 사이트 운영 총 비용의 5% 미만일 가능성이 높으며, AI로 저가 노동력을 대체한다고 해서 크게 상황이 달라지지 않을 것"이라고 밝혔습니다. 인터넷의 전체 경제 모델이 광고에 의존하고 있기 때문에, 쉬운 해결책은 없습니다.
호단 오마르, 정보 기술 및 혁신 재단의 선임 AI 정책 고문은 "기억해야 할 핵심은 프로그래매틱 광고, 더 일반적으로는 타겟팅 광고가 인터넷 경제의 근본적인 원동력"이라고 강조합니다. 물론, 이런 유형의 광고 서비스를 금지하는 정책을 만드는 것도 한 가지 방법일 수 있습니다. 그러나 이는 인터넷 사용자들이 관련성이 낮은 광고, 품질이 낮은 콘텐츠 및 서비스, 그리고 페이월이 더욱 많아지는 등의 변화에 직면하게 만들 수 있습니다. 오마르는 "정책은 프로그래매틱 광고를 완전히 없애는 데 초점을 맞추는 것이 아니라, 직접적이든 간접적이든 잘못된 정보의 확산을 차단할 수 있는 보다 강력한 메커니즘을 마련하는 데 초점을 맞춰야 합니다."라고 말했습니다.
AI가 생성한 콘텐츠와 허위 정보 사이트의 부상은 광고 기술 회사들과 기업들에게 새로운 도전을 제시하고 있습니다. 이를 통해 광고 기업들은 디지털 광고 전략을 재검토하고, AI 생성 콘텐츠가 브랜드의 신뢰성을 손상시키지 않도록 적절한 대응 방안을 마련할 필요성이 대두되고 있습니다.
생성 AI가 흥미롭다면? 천재IT교육센터 AI·빅데이터 과정 신청하기! (링크클릭)