AI의 한 주: 생성적 AI가 웹에 스팸을 퍼붓다

AI만큼 빠르게 변화하는 산업을 따라잡는 것은 어려운 일입니다. 따라서 AI가 이를 수행할 수 있을 때까지 머신러닝 세계의 최근 이야기와 우리가 자체적으로 다루지 않은 주목할만한 연구 및 실험을 간단하게 정리했습니다.

이번 주에는 생성적 AI를 사용하여 SEO에 최적화된 콘텐츠를 제작하는 회사인 SpeedyBrand가 Y Combinator의 지원을 받아 은밀하게 등장했습니다. 아직 많은 자금(250만 달러)을 유치하지 못했고 고객 기반도 상대적으로 적습니다(약 50개 브랜드). 하지만 생성 AI가 웹의 구성을 어떻게 바꾸기 시작했는지 생각하게 되었습니다.

The Verge의 James Vincent가 최근 글에서 썼듯이 생성 AI 모델을 사용하면 품질이 낮은 콘텐츠를 더 저렴하고 쉽게 생성할 수 있습니다. 뉴스 소스를 조사하기 위한 도구를 제공하는 회사인 NewsGuard는 생성 AI로 생성된 잘못된 정보를 특징으로 하는 일반적으로 들리는 이름을 가진 수백 개의 광고 지원 사이트를 노출했습니다.

광고주들에게 문제를 일으키고 있습니다. NewsGuard가 주목하는 많은 사이트는 프로그래밍 방식 광고 또는 페이지에 광고를 게재하는 자동화된 시스템을 남용하기 위해 독점적으로 구축된 것으로 보입니다. NewsGuard는 보고서에서 55개 정크 뉴스 사이트에 게재된 141개 주요 브랜드의 광고 400개에 가까운 사례를 발견했습니다.

걱정해야 할 것은 광고주뿐만이 아니다. Gizmodo의 Kyle Barr가 지적했듯이 AI 생성 기사 하나만 있어도 엄청난 참여를 유도할 수 있습니다. 그리고 AI로 생성된 모든 기사가 단 몇 달러만 생성한다고 해도 이는 처음에 텍스트를 생성하는 데 드는 비용보다 적으며 잠재적인 광고 비용은 합법적인 사이트로 전송되지 않습니다.

그렇다면 해결책은 무엇입니까? 하나 있나요? 점점 나를 밤잠 못 이루게 만드는 한 쌍의 질문이다. Barr는 검색 엔진과 광고 플랫폼이 생성 AI를 수용하여 더 강력한 통제력을 행사하고 악의적인 행위자를 처벌하는 것이 중요하다고 제안합니다. 그러나 분야가 얼마나 빠르게 움직이고 있는지, 그리고 생성 AI의 무한히 확장 가능한 특성을 고려할 때 나는 그들이 따라잡을 수 있다고 확신하지 않습니다.

물론 스팸 콘텐츠는 새로운 현상이 아니며 이전에도 파도가 있었던 적이 있습니다. 웹이 적응했습니다. 이번에 달라진 점은 투자해야 하는 비용과 시간 측면에서 진입 장벽이 현저히 낮다는 점입니다.

Vincent는 낙관적인 어조로 웹이 결국 AI 쓰레기로 가득 차게 된다면 더 나은 자금 지원을 받는 플랫폼의 개발에 박차를 가할 수 있음을 암시합니다. 난 그렇게까지 확신은 못해. 하지만 의심할 여지가 없는 것은 우리가 변곡점에 와 있다는 것과, 생성 AI와 그 결과물에 관해 현재 내려진 결정이 앞으로 한동안 웹의 기능에 영향을 미칠 것이라는 점입니다.

지난 며칠 동안 주목할만한 다른 AI 이야기는 다음과 같습니다.

OpenAI가 공식적으로 GPT-4를 출시합니다. OpenAI는 이번 주 유료 API를 통해 최신 텍스트 생성 모델인 GPT-4의 일반 출시를 발표했습니다. GPT-4는 텍스트(코드 포함)를 생성하고 이미지 및 텍스트 입력을 허용할 수 있습니다. 이는 텍스트만 허용했던 이전 GPT-3.5에 비해 향상된 기능이며 다양한 전문 및 학술 벤치마크에서 "인간 수준"으로 수행됩니다. 그러나 이전 기사에서 언급했듯이 완벽하지는 않습니다. (그동안 ChatGPT 채택이 중단된 것으로 보고되었지만 살펴보겠습니다.)

'초지능' AI를 제어합니다:다른 OpenAI 뉴스에서, 회사는 "초지능" AI 시스템을 조종하고 제어하는 ​​방법을 개발하기 위해 수석 과학자이자 OpenAI의 공동 창립자 중 한 명인 Ilya Sutskever가 이끄는 새로운 팀을 구성하고 있습니다.

NYC의 편견 방지법:수개월의 지연 끝에 뉴욕시는 알고리즘을 사용하는 고용주가 직원을 모집, 고용 또는 승진시키기 위해 알고리즘을 사용하여 독립적인 감사를 위해 해당 알고리즘을 제출하고 그 결과를 공개하도록 요구하는 법률을 이번 주부터 시행하기 시작했습니다.

Valve가 AI 기반 게임을 암묵적으로 승인했습니다. Valve는 Steam 게임 스토어에서 AI 생성 자산이 포함된 게임을 거부한다고 주장한 후 드문 성명을 발표했습니다. 입을 다물고 있는 것으로 악명 높은 이 개발자는 자사의 정책이 진화하고 있으며 AI에 반대하는 입장이 아니라고 말했습니다.