AI가 생성한 스팸 콘텐츠가 인터넷에 넘쳐나면서 트위터는 봇의 ‘유령 마을’이 되고 있다
ABC 사이언스 /
기술 기자 제임스 퍼틸(James Purtill)
게시일: 2024년 2월 28일 수요일 오전 5:30분 2024년 2월 28일 수요일 오전 5:30분
빛에 둘러싸여 스마트폰을 사용하는 여성
현재 웹의 일부는 인간이 읽지 않도록 설계된 봇과 정크 웹사이트에 의해 지배되고 있습니다.(Getty Images: Qi Yang)
올해 1월 어느 날 아침, 해양 과학자 테리 휴즈(Terry Hughes)는 X(이전 트위터)를 열고 그레이트 배리어 리프(Great Barrier Reef)에 대한 트윗을 검색했습니다.
제임스 쿡 대학교(James Cook University)의 선도적인 산호 연구자인 휴즈(Hughes) 교수는 “나는 매일 암초에 관해 트윗되는 내용을 주시하고 있습니다.”라고 말했습니다.
그날 그가 발견한 것은 그를 놀라게 하고 혼란스럽게 했습니다. 수백 개의 봇 계정이 약간 다른 표현으로 동일한 이상한 메시지를 트윗했습니다.
암호화폐를 돋보이게 하는 한 계정은 “와, 농업 유출수가 그레이트 배리어 리프에 이렇게 파괴적인 영향을 미칠 수 있다는 것을 전혀 몰랐습니다”라고 트윗했습니다.
또 다른 암호화폐 봇은 “와우, 호주가 직면한 수질 오염 문제에 대해 들으니 실망스럽습니다.”라고 썼습니다.
등등. 수백 개의 암호화폐 계정이 농업 유출수에 대해 트윗하고 있습니다.
한 달 뒤에 또 그런 일이 일어났습니다. 이번에는 봇들이 그레이트 배리어 리프(Great Barrier Reef)를 위협하는 “해양 쓰레기”에 대해 트윗을 올렸습니다.
무슨 일이 있었 니?
휴즈 교수가 자신이 발견한 내용을 트윗했을 때 일부 사람들은 기후 변화에 대한 관심을 돌리려는 시도인 허위 정보 음모를 보았습니다.
그러나 가능한 대답은 더 평범하지만 그 의미가 더 광범위합니다.
전문가들은 Elon Musk가 봇을 제거하겠다는 약속으로 X를 구입한 지 1년이 넘도록 문제가 그 어느 때보다 심각하다고 말합니다.
그리고 이것은 온라인 공간에 영향을 미치는 더 광범위한 문제의 한 예입니다.
인터넷은 게임 알고리즘과 사기를 목적으로 고안된 “좀비 콘텐츠”로 가득 차 있습니다.
봇이 봇과 대화하고, 검색 엔진이 인공 지능(AI)이 작성한 쓸쓸하고 넓은 페이지를 크롤링하는 곳이 되고 있습니다.
정크 웹사이트는 Google 검색 결과를 방해합니다. 아마존에는 말도 안되는 전자책이 넘쳐납니다. YouTube에 스팸 문제가 있습니다.
그리고 이것은 소위 “대규모 AI 홍수”가 일어나기 전의 작은 물방울에 불과합니다.
봇을 좋아하는 봇, 다른 봇과 대화하는 봇
하지만 먼저, 리프 트윗 봇으로 돌아가 보겠습니다.
Queensland University of Technology의 X 봇 네트워크 전문가인 Timothy Graham은 일련의 봇 및 AI 감지기를 통해 트윗을 실행했습니다.
Graham 박사는 텍스트의 100%가 AI에서 생성된 것임을 발견했습니다.
그는 “전반적으로 AI를 사용해 콘텐츠를 생성하는 암호화폐 봇 네트워크인 것으로 보인다”고 말했다.
“현 단계에서는 팔로어를 모집하고 가짜 계정을 팔거나 다른 목적으로 사용할 수 있을 만큼 오래 보관하는 콘텐츠를 작성하려는 것일 뿐이라고 의심됩니다.”
즉, 봇은 여론을 흔들기 위해 암초에 대해 트윗하도록 지시되지 않았을 것입니다.
Graham 박사는 이러한 특정 봇이 아마도 인간의 감독은 없지만 봇 탐지 알고리즘을 능가하기 위한 자동화된 루틴을 수행하고 있다고 의심합니다.
그들의 옹알이에서 의미를 찾는 것은 종종 무의미하다고 그는 말했습니다.
“[휴즈 교수]는 그것을 해석하려고 노력하고 있으며 그것을 이해하려고 노력하는 것이 매우 옳습니다. 그러나 그것은 단지 관심을 갉아먹을 뿐이며 참여가 많을수록 더 많은 보상을 받습니다.
양복을 입은 중년 남성이 흑백 배경을 배경으로 무대 위 손가락 끝을 모은다.
트위터 소유자 엘론 머스크는 “스팸봇을 물리치지 않으면 죽겠다”고 약속했다.(로이터: Gonzalo Fuentes)
봇톡의 불협화음은 온라인 대화의 질을 저하시킵니다. 그들은 인간을 방해하고 시간을 낭비합니다.
“여기 이 분야에서 가장 뛰어난 연구 과학자인 누군가가 있으며, 이러한 계정의 작업 방식을 알아내려고 시간을 쏟고 있습니다.”
이 경우 봇은 다른 봇의 트윗에 응답하고, 그 봇은 다시 다른 봇의 트윗에 응답하는 식이었습니다.
Graham 박사는 하나의 가짜 봇 계정이 다른 계정 위에 쌓여 있다고 말했습니다.
“그것은 끝까지 AI 봇입니다.”
X의 봇 문제는 얼마나 심각한가요?
1월에는 X의 봇 문제를 밝혀주는 ChatGPT 결함이 나타났습니다.
잠시 동안 일부 X 계정은 콘텐츠 정책을 벗어난 것으로 간주되는 요청에 대한 ChatGPT의 일반적인 응답을 게시하여 ChatGPT를 사용하여 콘텐츠를 생성하는 봇으로 노출했습니다.
사용자들은 “죄송하지만 OpenAl의 콘텐츠 정책에 어긋나기 때문에 귀하의 요청에 응답할 수 없습니다”라는 내용의 스크롤 피드를 보여주는 동영상을 게시했습니다.
한 사용자는 “트위터는 유령 도시다”라고 썼다.
@parkermolloy가 Threads에 게시한 동영상
Twitter의 봇 계정을 보여주는 @parkermolloy가 Threads에 게시한 비디오(제공: Threads / @parkermolloy)
그러나 X의 봇 문제의 실제 규모는 외부인이 추정하기 어렵습니다.
머스크가 봇에 대해 불평하면서 X에 대한 통제권을 얻은 직후, X는 연구원들이 이 문제를 연구할 수 있는 프로그래밍 인터페이스에 대한 무료 액세스를 차단했습니다.
이로 인해 연구자에게는 두 가지 옵션이 남았습니다. 데이터에 액세스하기 위해 X를 지불하거나
내부를 엿볼 수 있는 다른 방법을 찾아보세요.
작년 말에 Graham 박사와 QUT의 동료들은 첫 번째 공화당 예비 토론회와 관련된 100만 개의 트윗을 분석하기 위해 보조금에서 7,800달러를 지불했습니다.
당시 그레이엄 박사는 봇 문제가 그 어느 때보다 심각하다는 사실을 발견했다고 말했습니다.
이후 연구에서는 이러한 결론을 뒷받침합니다. 사이버 보안 회사인 CHEQ는 2월 3일 동안 X에서 고객 웹 사이트로의 봇 트래픽 비율을 추적했습니다.
X에서 발생한 트래픽의 4분의 3은 가짜였으며 TikTok, Facebook 및 Instagram에서는 각각 3% 미만의 트래픽이 발생했습니다.
Graham 박사는 “Terry Hughes의 경험은 플랫폼에서 무슨 일이 일어나고 있는지 보여주는 예입니다.”라고 말했습니다.
“좋아요 10개 중 1개는 포르노 봇에서 온 일화입니다.”
봇 제작 산업의 부상
그렇다면 이 모든 봇의 요점은 무엇입니까? 그들은 무엇을 하고 있나요?
암호화폐 봇은 특정 코인에 대한 수요를 높이고, 포르노 봇은 사용자에게 포르노 웹사이트에 대한 비용을 지불하게 하고, 허위 정보 봇은 가짜 뉴스를 퍼뜨리고, 인공 잔디 봇은 대중의 지지를 받는 듯한 인상을 줍니다.
우크라이나 전쟁에서 러시아의 대규모 로봇 군대
대규모 글로벌 트위터 봇 네트워크가 온라인 정보 전쟁의 일환으로 우크라이나에 대한 친러시아의 허위 정보를 증폭시키고 있다고 연구원들이 밝혔습니다.
트위터 아이콘을 클로즈업한 이미지입니다.
더 읽어보세요
일부 봇은 순전히 유료 고객의 팔로어 수와 참여 통계를 높이기 위해 존재합니다.
X의 봇 문제 규모를 보여주는 신호는 봇 제작 산업이 번성하고 있다는 것입니다.
전 세계의 봇 제작자는 프리랜서 웹사이트에 자신의 서비스를 광고합니다.
파키스탄의 컴퓨터 과학자인 Awais Yousaf는 복잡성에 따라 “ChatGPT 트위터 봇”을 30~500달러에 판매합니다.
ABC와의 인터뷰에서 구지란왈라 출신의 27세 청년은 “당신을 대신해 댓글에 좋아요를 표시하고, 댓글을 달고, DM에 답하고, 심지어 당신의 사양에 따라 매력적인 콘텐츠를 만들 수도 있는 “완전한 기능을 갖춘” 봇을 만들 수 있다고 말했습니다. “.
Yousaf 씨의 경력은 봇 제작 경제의 성장과 인터넷 과대 광고의 연속적인 순환을 추적합니다.
5년 전 대학을 졸업한 그는 파키스탄의 성장하는 “매우 가난한 배경”의 IT 프리랜서 커뮤니티에 합류했습니다.
프리랜서 사이트의 봇 제작자 광고 서비스
프리랜서 사이트에서 봇 메이커 광고 서비스를 제공합니다.(제공: Fiverr)
최초의 고객 중 상당수는 당시 인기가 급상승하던 암호화폐를 홍보하는 봇을 원했습니다.
“그런 다음 NFT가 나왔습니다”라고 그는 말했습니다.
몇 년 전 그는 OpenAI의 GPT3 언어 모델에 대해 듣고 AI에 대해 배우기 위해 3개월간 휴식을 취했습니다.
“현재 제가 수행하는 봇의 거의 90%가 어떤 방식으로든 AI와 관련되어 있습니다.
“피트니스, 동기 부여 아이디어, 심지어 암호화폐 예측에 관한 AI 게시물을 게시하는 사람들만큼 간단할 수 있습니다.”
5년 동안 그는 120개의 트위터 봇을 만들었습니다.
“스팸 봇을 물리치겠다”는 머스크의 약속에 대해 묻자 유사프는 미소를 지었다.
“트위터는 대부분 봇이기 때문에 트위터 봇을 트위터에서 제거하는 것은 어렵습니다.”
AI가 생성한 스팸 사이트가 검색 엔진을 압도할 수 있음
X의 봇 문제는 다른 주요 플랫폼보다 더 심각할 수 있지만, 그것만이 아닙니다.
AI 콘텐츠의 증가하는 “홍수”로 인해 “기계가 사람들과 설득력 있게 대화할 수 있는 세상을 위해 설계되지 않은” 플랫폼이 범람하고 있다고 Graham 박사는 말했습니다.
“농장을 운영하고 있는데 이전에 늑대에 대해 들어본 적이 없는데 갑자기 새로운 포식자가 현장에 나타나는 것과 같습니다.
“플랫폼에는 인프라가 없습니다. 문은 열려 있습니다.”
지난 몇 달 동안 이에 대한 몇 가지 예를 보았습니다.
기업들은 AI를 사용하여 ABC를 포함한 다른 언론 매체의 기사를 다시 작성하고 이를 회사의 경쟁 뉴스 웹사이트에 게시하고 있습니다.
AI가 전 세계 선거를 어떻게 형성하고 있는가
최근 파키스탄, 인도, 인도네시아의 선거 캠페인에서는 캠페인 실행 방식을 바꾸는 생성 AI의 근본적이고 새로운 활용이 나타났습니다. 호주와 전 세계에 대한 소식은 다음과 같습니다.
인도네시아 선거 캠페인 기간 동안 집회에 참석한 여성
더 읽어보세요
Byword라는 회사는 AI를 사용하여 사이트를 복사하고 1,800개의 기사를 다시 작성하여 경쟁사로부터 “총 트래픽” 360만 개를 훔쳤다고 주장합니다.
‘부고 기사 해적’은 검색 트래픽을 포착하기 위해 AI를 사용하여 낯선 사람의 사망 기사를 요약하는 사람들의 YouTube 동영상을 만들고 때로는 그들의 죽음에 대한 세부 정보를 조작하고 있습니다.
저자들은 AI가 생성한 모방으로 보이는 내용과 아마존 도서 요약을 보고하고 있습니다.
독일 연구진이 최근 실시한 인쇄 전 연구에 따르면 스팸 사이트로 인해 Google의 검색 결과가 점점 더 나빠지고 있는 것으로 나타났습니다.
연구원들은 1년 동안 Google, Bing 및 DuckDuckGo에서 수천 개의 제품 리뷰 용어에 대한 검색 결과를 연구합니다.
그들은 순위가 높은 페이지일수록 텍스트 품질이 낮은 경향이 있지만 검색 순위 알고리즘을 조작하기 위해 더 잘 설계되었다는 사실을 발견했습니다.
“검색 엔진은 SEO 스팸인 고양이와 쥐 게임에서 패한 것 같습니다.”라고 그들은 연구에서 썼습니다.
공동 저자인 바이마르 바우하우스 대학의 Matti Wiegman은 이번 순위 전쟁이 마치
AI가 생성한 스팸의 출현으로 상황은 훨씬 더 악화될 수도 있습니다.
“이전에는 품질이 낮은 콘텐츠였던 것이 이제는 고품질 콘텐츠와 구별하기가 매우 어렵습니다.”라고 그는 말했습니다.
“결과적으로, 유용하면서도 신뢰할 수 있는 콘텐츠와 그렇지 않은 콘텐츠를 구별하는 것이 어려워질 수 있습니다.”
그는 AI 생성 콘텐츠가 검색 엔진에 미치는 장기적인 영향을 판단하기 어렵다고 덧붙였습니다.
AI가 생성한 콘텐츠는 검색을 더욱 유용하게 만들 수 있다고 그는 말했습니다.
“한 가지 가능한 방향은 생성된 콘텐츠가 웹 검색의 일부 장르를 지배하는 저품질 인간이 만든 콘텐츠보다 더 좋아질 것이며, 이 경우 검색 유틸리티가 증가할 것입니다.”
아니면 그 반대가 일어날 것입니다. AI가 생성한 콘텐츠는 검색엔진 등 ‘취약한 공간’과 X 같은 ‘방송형’ 소셜미디어 플랫폼을 압도할 것이다.
그 대신 사람들은 “벽으로 둘러싸인 정원”과 소수의 인간 전용 회원으로 구성된 전문 포럼으로 전환할 수 있습니다.
플랫폼은 다가오는 홍수에 대비합니다.
이러한 새로운 문제에 대응하여 플랫폼은 다양한 전략을 시험하고 있습니다.
Meta는 최근 Facebook, Instagram 및 Threads 서비스에 게시된 AI 생성 이미지를 감지하고 레이블을 지정하는 도구를 구축하고 있다고 발표했습니다.
YouTube의 ABC 과학
더 많은 과학과 건강, 환경, 기술 등을 원하시나요? 우리 채널을 구독하세요.
더 읽어보세요
Amazon은 저자가 매일 최대 3권의 책을 매장에 업로드하도록 제한했지만 저자는 그래도 문제가 해결되지 않았다고 말합니다.
X는 일부 국가에서 신규 사용자에게 기본 기능에 대해 연간 1달러를 청구하는 “봇이 아닌” 프로그램을 시험하고 있습니다.
이 프로그램은 X의 확인 시스템과 함께 작동하며 사용자는 매월 8달러를 지불하여 신원을 확인하고 파란색 진드기를 받습니다.
그러나 봇 제작자들은 이 문제를 해결할 방법을 찾은 것으로 보입니다.
휴즈 교수가 발견한 리프 트윗 암호화폐 봇은 모두 검증된 계정이었습니다.
산호 과학자는 “플랫폼에 불필요한 것이 어지러워져 있습니다. 사람들이 청소해줬으면 좋겠다”고 말했습니다.
“그것은 모두의 시간을 낭비한다.”
받은편지함 속 과학
ABC 전체에서 최신 과학 이야기를 모두 받아보세요.
귀하의 정보는 ABC 개인정보 수집 정책에 따라 처리됩니다.
이 사이트는 reCAPTCHA로 보호되며 Google 개인정보 보호정책 및 서비스 약관이 적용됩니다.
이메일 주소
당신의 이메일 주소를 입력 해주세요
구독하다
게시일: 2024년 2월 28일
Twitter is becoming a ‘ghost town’ of bots as AI-generated spam content floods the internet
By technology reporter James Purtill
Posted Wed 28 Feb 2024 at 5:30amWednesday 28 Feb 2024 at 5:30am
One morning in January this year, marine scientist Terry Hughes opened X (formerly Twitter) and searched for tweets about the Great Barrier Reef.
“I keep an eye on what’s being tweeted about the reef every day,” Professor Hughes, a leading coral researcher at James Cook University, said.
What he found that day surprised and confused him; hundreds of bot accounts tweeting the same strange message with slightly different wording.
“Wow, I had no idea that agricultural runoff could have such a devastating impact on the Great Barrier Reef,” one account, which otherwise spruiked cryptocurrencies, tweeted.
Another crypto bot wrote: “Wow, it’s disheartening to hear about the water pollution challenges Australia faces.”
And so on. Hundreds of crypto accounts tweeting about agricultural runoff.
A month later, it happened again. This time, bots were tweeting about “marine debris” threatening the Great Barrier Reef.
What was going on?
When Professor Hughes tweeted what he’d found, some saw a disinformation conspiracy, an attempt to deflect attention from climate change.
The likely answer, however, is more mundane, but also more far-reaching in its implications.
More than a year since Elon Musk bought X with promises to get rid of the bots, the problem is worse than ever, experts say.
And this is one example of a broader problem affecting online spaces.
The internet is filling up with “zombie content” designed to game algorithms and scam humans.
It’s becoming a place where bots talk to bots, and search engines crawl a lonely expanse of pages written by artificial intelligence (AI).
Junk websites clog up Google search results. Amazon is awash with nonsense e-books. YouTube has a spam problem.
And this is just a trickle in advance of what’s been called the “great AI flood”.
Bots liking bots, talking to other bots
But first, let’s get back to those reef-tweetin’ bots.
Timothy Graham, an expert on X bot networks at the Queensland University of Technology, ran the tweets through a series of bot and AI detectors.
Dr Graham found 100 per cent of the text was AI-generated.
“Overall, it appears to be a crypto bot network using AI to generate its content,” he said.
“I suspect that at this stage it’s just trying to recruit followers and write content that will age the fake accounts long enough to sell them or use them for another purpose.”
That is, the bots probably weren’t being directed to tweet about the reef in order to sway public opinion.
Dr Graham suspects these particular bots probably have no human oversight, but are carrying out automated routines intended to out-fox the bot-detection algorithms.
Searching for meaning in their babble was often pointless, he said.
“[Professor Hughes] is trying to interpret it and is quite right to try and make sense of it, but it just chews up attention, and the more engagement they get, the more they are rewarded.
The cacophony of bot-talk degrades the quality of online conversations. They interrupt the humans and waste their time.
“Here’s someone who is the foremost research scientist in this space, spending their time trying to work out the modus operandi of these accounts.”
In this case, the bots were replying to the tweet of another bot, which, in turn, replied to the tweets of other bots, and so on.
One fake bot account was stacked on top of the other, Dr Graham said.
“It’s AI bots all the way down.”
How bad is X’s bot problem?
In January, a ChatGPT glitch appeared to shine a light on X’s bot problem.
For a brief time, some X accounts posted ChatGPT’s generic response to requests that it deems outside of its content policy, exposing them as bots that use ChatGPT to generate content.
Users posted videos showing scrolling feeds with numerous accounts stating “I’m sorry, but I cannot provide a response to your request as it goes against OpenAl’s content policy.”
“Twitter is a ghost town,” one user wrote.
But the true scale of X’s bot problem is difficult for outsiders to estimate.
Shortly after Mr Musk gained control of X while complaining about bots, X shut down free access to the programming interface that allowed researchers to study this problem.
That left researchers with two options: pay X for access to its data or find another way to peek inside.
Towards the end of last year, Dr Graham and his colleagues at QUT paid X $7,800 from a grant fund to analyse 1 million tweets surrounding the first Republican primary debate.
They found the bot problem was worse than ever, Dr Graham said at the time.
Later studies support this conclusion. Over three days in February, cybersecurity firm CHEQ tracked the proportion of bot traffic from X to its clients’ websites.
It found three-quarters of traffic from X was fake, compared to less than 3 per cent of traffic from each of TikTok, Facebook and Instagram.
“Terry Hughes’ experience is an example of what’s going on on the platform,” Dr Graham said.
“One in 10 likes are from a porn bot, anecdotally.”
The rise of a bot-making industry
So what’s the point of all these bots? What are they doing?
Crypto bots drive up demand for certain coins, porn bots get users to pay for porn websites, disinformation bots peddle fake news, astroturfing bots give the impression of public support, and so on.
Russia’s massive bot army in Ukraine war
Some bots exist purely to increase the follower counts and engagement statistics of paying customers.
A sign of the scale of X’s bot problem is the thriving industry in bot-making.
Bot makers from around the world advertise their services on freelancer websites.
Awais Yousaf, a computer scientist in Pakistan, sells “ChatGPT Twitter bots” for $30 to $500, depending on their complexity.
In an interview with the ABC, the 27-year-old from Gujranwala said he could make a “fully fledged” bot that could “like comments on your behalf, make comments, reply to DMs, or even make engaging content according to your specification”.
Mr Yousaf’s career tracks the rise of the bot-making economy and successive cycles of internet hype.
Having graduated from university five years ago, he joined Pakistan’s growing community of IT freelancers from “very poor backgrounds”.
Many of the first customers wanted bots to promote cryptocurrencies, which were booming in popularity at the time.
“Then came the NFT thing,” he said.
A few years ago he heard about OpenAI’s GPT3 language model and took a three-month break to learn about AI.
“Now, almost 90 per cent of the bots I do currently are related to AI in one way or another.
“It can be as simple as people posting AI posts regarding fitness, regarding motivational ideas, or even cryptocurrency predictions.”
In five years he’s made 120 Twitter bots.
Asked about Mr Musk’s promise to “defeat the spam bots,” Mr Yousaf smiled.
“It’s hard to remove Twitter bots from Twitter because Twitter is mostly bot.”
AI-generated spam sites may overwhelm search engines
X’s bot problem may be worse than other major platforms, but it’s not alone.
A growing “deluge” of AI content is flooding platforms that were “never designed for a world where machines can talk with people convincingly”, Dr Graham said.
“It’s like you’re running a farm and had never heard of a wolf before and then suddenly you have new predators on the scene.
“The platforms have no infrastructure in place. The gates are open.”
The past few months have seen several examples of this.
Companies are using AI to rewrite other media outlet’s stories, including the ABC’s, to then publish them on the company’s competing news websites.
How AI is shaping elections around the world
A company called Byword claims it stole 3.6 million in “total traffic” from a competitor by copying their site and rewriting 1,800 articles using AI.
“Obituary pirates” are using AI to create YouTube videos of people summarising the obituaries of strangers, sometimes fabricating details about their deaths, in order to capture search traffic.
Authors are reporting what appear to be AI-generated imitations and summaries of their books on Amazon.
Google’s search results are getting worse due to spam sites, according to a recent pre-print study by German researchers.
The researchers studies search results for thousands of product-review terms across Google, Bing and DuckDuckGo over the course of a year.
They found that higher-ranked pages tended to have lower text quality but were better designed to game the search ranking algorithm.
“Search engines seem to lose the cat-and-mouse game that is SEO spam,” they wrote in the study.
Co-author Matti Wiegman from Bauhaus University, Weimar said this rankings war was likely to get much worse with the advent of AI-generated spam.
“What was previously low-quality content is now very difficult to distinguish from high-quality content,” he said.
“As a result, it might become difficult to distinguish between authentic and trustworthy content that is useful and content that is not.”
He added that the long-term effects of AI-generated content on search engines was difficult to judge.
AI-generated content could make search more useful, he said.
“One possible direction is that generated content will become better than the low-quality human-made content that dominates some genres in web search, in which case the search utility will increase.”
Or the opposite will happen. AI-generated content will overwhelm “vulnerable spaces” such as search engines and “broadcasting-style” social media platforms like X.
In their place, people may turn to “walled gardens” and specialised forums with smaller numbers of human-only members.
Platforms prepare for coming flood
In response to this emerging problem, platforms are trialling different strategies.
Meta recently announced it was building tools to detect and label AI-generated images posted on its Facebook, Instagram and Threads services.
ABC Science on YouTube
Want more science — plus health, environment, tech and more? Subscribe to our channel.
Amazon has limited authors to uploading a maximum of three books to its store each day, although authors say that hasn’t solved the problem.
X is trialling a “Not a Bot” program in some countries where it charges new users $1 per year for basic features.
This program operates alongside X’s verification system, where users pay $8 per month to have their identity checked and receive a blue tick.
But it appears the bot-makers have found a way around this.
All the reef-tweeting crypto bots Professor Hughes found were verified accounts.
“It’s clutter on the platform that’s not necessary. You’d wish they’d clean it up,” the coral scientist said.
“It wastes everyone’s time.”
Science in your inbox
Get all the latest science stories from across the ABC.
Your information is being handled in accordance with the ABC Privacy Collection Statement.
This site is protected by reCAPTCHA and the Google Privacy Policy and Terms of Service apply.
Posted 28 Feb 2024
