논란의 여지가 있는 기술이 더 빨리 개발되기를 바라는 AI 내부자들
ABC RN
배경 브리핑을 위한 Ange Lavoipierre의 글
3시간 전3시간 전에 게시됨
열역학적 신 — e/acc에 따르면 우주의 진화를 담당하는 거대하고 비인격적인 힘(X: Syd Steyerhart)
독일계 미국인 AI 기업가 코너 리히(Connor Leahy)는 “이 말을 정중하게 어떻게 말해야 할지 모르겠지만 베프는 사악합니다.”라고 말합니다.
긴 머리를 가진 28세의 그는 YouTube 토론에서 자신의 상대인 Beff Jezos 또는 간단히 “Beff”라는 가명을 사용하는 상대에 대해 이야기하고 있습니다.
https://www.youtube.com/embed/0zxi0xSBOaQ?start=558&feature=oembedYOUTUBEA e/acc 리더 Beff Jezos와 ‘Doomer’ Connor Leahy 간의 YouTube 토론입니다.
그는 “효과적인 가속주의”의 약자인 “e/acc”로 알려진 논란의 여지가 있는 운동의 창시자입니다.
그들은 AI 스티어링 휠을 제어하기 위해 씨름하고 있으며, 그들의 목표는 가속력을 최대한 세게 치는 것입니다. 사실, 그들의 모토는 “가속하거나 죽거나”입니다.
e/acc 운동에는 최고의 엔지니어, 투자자, 경영진을 포함한 AI 업계 내부 인사들이 참여하고 있습니다.
그들은 AI 안전 운동과 속도를 늦추라고 주장하는 모든 사람들, 즉 “둠머”와 “감속”(감속주의자의 줄임말)에 맞서 전쟁을 벌이고 있습니다. Beff의 토론 상대인 Connor Leahy는 그중 하나일 뿐입니다.
e/acc 운동의 공동 창립자인 Beff Jezos가 AI 감속 옹호자인 Connor Leahy에 대해 토론합니다.(Youtube)
그리고 이 갈등은 실리콘 밸리 외부에서는 거의 눈에 띄지 않지만, AI가 그들이 믿는 것보다 절반만 강력한 기술이라면 그 결과는 수십억 명의 사람들에게 결과를 초래할 수 있습니다.
e/acc에게 물어보면 안전이라는 이름으로 AI 진행을 늦추는 것은 인류의 생존을 위험에 빠뜨리거나 심지어 배제하는 것입니다.
AI 안전 캠프에 물어보면 그들이 만들려는 고도로 정교한 AI가 문명을 파괴하지 않는다면 운이 좋을 것입니다.
양측은 우리 시대의 가장 뛰어난 컴퓨터 과학자들을 자랑하며 실리콘 밸리에서 높은 영향력을 자랑합니다.
그렇다면 운전대를 잡은 손으로 차를 운전하는 사람은 누구일까요?
e/acc는 누구인가요?
E/acc는 정확히 정의하기 어려울 수 있지만 전문 용어, 파벌, 밈 아래에는 이들을 통합하는 한 가지 신념이 있습니다. 즉, AI의 경우 빠를수록 좋다는 것입니다.
효과적인 가속주의자들은 기술적 진보가 종의 생존에 결정적이라고 믿습니다. 그들의 모토는 가속 아니면 죽는 것입니다.(X: Schwarzkerr)
그 외에도 그들은 자유 시장에 대한 흔들리지 않는 믿음을 갖고 있으며, 다소 직관에 반하는 것처럼 거대 기술 기업에 대한 깊은 불신을 갖고 있는 경향이 있습니다.
대신 그들은 중요한 기술, 특히 AI에 대한 분산화된 제어를 주장합니다.
2024년 대부분의 기술 산업과 마찬가지로 E/acc의 가장 큰 목표는 인공일반지능(Artificial General Intelligence, AGI)입니다. 즉, 전반적으로 인간보다 똑똑한 AI입니다.
2030년 이전은 언제 도착할지에 대해 더 이상 논란의 여지가 있는 예측으로 간주되지 않습니다.
e/acc에 대한 가장 심각한 비난은 AI가 인간 종을 대체하는지 여부에 관심이 없다는 것입니다.
일부 ‘파멸론자’는 무제한적인 기술 진보가 인간에게 실존적 위험이 되는 AI를 생성할 것이라고 생각합니다.(X: AISafetyMemes)
모든 e/acc가 이 부분에 동의하는 것은 아닙니다. 일부는 미래의 더욱 정교한 AI가 우리에게 해를 끼칠 의향이 없거나 심지어 해를 끼칠 수도 없을 것이라고 생각합니다.
다른 사람들은 그럴 수도 있다고 생각하지만 보상은 위험을 감수할 가치가 있습니다.
그리고 세 번째 진영은 AI를 진화의 다음 논리적 단계로 봅니다.
그들은 인간이 더 높은 지능을 위해 문을 열어두는 책임, 어쩌면 우주적 운명을 갖고 있다고 생각합니다. 비록 그것이 대체되는 것을 의미하더라도 말이죠.
e/acc의 자체 웹사이트에 있는 원칙에 대한 설명은 다음과 같습니다. “만약 우리의 진화 계통도에 있는 모든 종이 스스로 진화의 분기점을 두려워했다면, 우리가 알고 있는 더 높은 형태의 지능과 문명은 결코 출현하지 않았을 것입니다.”
“우주의 열역학적 의지에 맞서 싸우지 마세요.”
E/acc는 스스로를 날뛰는 AI 안전 운동에 대한 해독제로 간주합니다.
열정적이지만 영향력 있는 “안전주의자”의 일부가 AI 위원회와 정부 자문 패널에 침투하여 인류의 생존을 보장할 가능성이 가장 높은 기술에 대한 편집증과 주저함을 초래했다고 믿습니다.
효과적인 가속주의자와 역성장주의자는 AI의 미래를 놓고 싸우고 있습니다. (X: 슈바르츠커)
E/acc의 전체 이름인 Effective Accelerationism은 그 자체로 AI에 대한 훨씬 더 신중한 접근 방식을 장려하는 효과적인 이타주의(EA)로 알려진 AI 안전의 주요 하위 집합 중 하나에 대한 리프입니다.
지금까지 AI 안전과 e/acc 간의 전쟁에서 가장 공개적인 순간은 작년 말 ChatGPT 제조업체로 가장 잘 알려진 OpenAI의 이사회 붕괴 당시였습니다.
OpenAI의 CEO인 Sam Altman은 안전을 충분히 심각하게 여기지 않는다는 우려로 이사회에서 해고되었습니다.
며칠 만에 OpenAI의 거의 모든 직원은 전 CEO가 복직되지 않으면 사임하겠다고 위협했습니다.
그가 돌아온 후 Altman 해고를 주도했던 가장 안전에 중점을 둔 이사회 구성원은 제거되었습니다.
그들은 많은 부분에 동의하지 않지만 전쟁 양측은 e/acc가 그 라운드에서 승리했다고 말합니다.
e/acc가 가속되는 순간
OpenAI에서의 승리
글로벌 무대에 진출하여 e/acc에 새로운 활력을 불어넣었습니다.
실리콘밸리의 유명 인사들은 트위터 약력에 “e/acc”를 추가하기 시작했습니다.
유명한 벤처 캐피탈리스트인 Marc Andreesen은 “기술 낙관주의 선언문”을 썼고, 영향력 있는 스타트업 액셀러레이터인 Y Combinator의 CEO인 Garry Tan은 e/acc 행사에서 열띤 연설을 했습니다.
Grimes는 e/acc 파티를 DJ로 편성했습니다. 상품이 있었습니다. Gadsden 뱀의 자유주의 상징이 새겨진 깃발이있었습니다.
그 중심에는 e/acc의 네 창립자 중 한 명인 Beff Jezos로만 알려진 사람이 있었습니다. 당시 그는 대부분의 운동과 마찬가지로 여전히 익명이었습니다.
Beff의 아바타는 은하계 배경 앞에 우뚝 솟은 Amazon의 CEO인 터무니없이 찢어진 Jeff Bezos의 만화였습니다.
X에 있는 Beff Jezos의 아바타는 근육질의 Jeff Bezos입니다.(X: BasedBeff)
이전에 Twitter로 알려진 X에서 Beff Jezos는 e/acc 철학에 대한 칙령을 발표하고 “파멸자”와 싸우며 “열역학적 신”을 숭배하는 과시적인 밈 군주입니다.
열역학 신은 e/acc에 대한 일종의 농담입니다. 물리 법칙에 대한 언급과 그들이 보고 싶어하는 변형 AI의 구체화입니다.
우주의 진화를 담당하는 멈출 수 없는 비인격적인 힘을 가리키는 e/acc 개념인 열역학 신의 묘사.(X: Techniacus )
그는 “나는 그것을 실현하기 위해 죽을 것이다”와 같은 거친 발언과 함께 더 강력한 AI의 긴급한 필요성에 대해 끊임없이 게시합니다.
e/acc의 프로필이 커짐에 따라 Beff Jezos는 2023년 12월 기자 중 한 명이 과감한 행동을 했을 정도로 Forbes 잡지에 충분히 위험해 보였습니다. 공익을 이유로 그들은 그를 신상 털었습니다.
그때 기욤 베르동(Guillaume Verdon)을 만났습니다.
진짜 베프 제조스
신상 털기를 당한 지 며칠 후, 기욤 베르동은 미국 팟캐스트 진행자 렉스 프리드먼(Lex Fridman) 맞은편에 앉아 자신의 출신과 신념에 대한 마라톤 인터뷰를 시작했습니다.
“저는 어렸을 때부터 우주를 이해하기 위해 모든 것에 대한 이론을 찾고 싶었습니다.”
실제 Beff Jezos는 뛰어난 Quantum AI 컴퓨팅 과학자였습니다.
그는 30대 초반에 불과하지만 이미 Google의 모회사인 Alphabet이 소유한 두 개의 최첨단 회사에서 리더십 역할을 맡았습니다.
Forbes는 Quantum AI 컴퓨팅 과학자 Guillaume Verdon(왼쪽)이 Beff Jezos X 계정 뒤에 있다고 밝혔습니다.(X: @BasedBeffJezos)
Guillaume Verdon은 그의 과격하고 양극화되는 또 다른 자아 Beff Jezos와는 전혀 달랐습니다.
Fridman이 e/acc의 목표에 대해 압력을 가했을 때, 기술 발전을 가속화하려는 명백한 욕구를 넘어 Verdon은 e/acc가 타협에 관한 것이라고 말하는 것처럼 보였습니다.
그는 “e/acc와 AI 안전 사이의 중간 지점을 찾으려고 노력하고 있습니다”라고 말했습니다.
“실리콘 밸리를 장악하고 있던 주류 내러티브와 반대되는 움직임을 갖는 것은 의견의 역동적인 범위를 바꾸는 데 중요했습니다.
“그래서 우리는 군대의 균형을 맞추려고 노력하고 있습니다.”
Verdon은 계속해서 e/acc 중 일부가 클릭에 충격 전술을 사용하고 있음을 암시했습니다.
“메시지를 전파하는 것은 일종의 벡터입니다.
“양극화에 대한 보상을 받습니다. 따라서 말 그대로 기술 생태계를 양극화하려는 움직임을 시작했지만 결국에는 대화를 나누고 최적의 방법을 함께 찾을 수 있도록 하기 위한 것입니다.”
E/acc는 밈을 사용하여 기술 친화적인 메시지에 관심을 집중시킵니다.( Twitter: ARTOCRYPT)
Guillaume Verdon의 말을 그대로 받아들인다면 e/acc가 반드시 전쟁에서 승리할 가능성은 없습니다.
그는 단지 그들이 견딜 수 있는 휴전을 원한다고 말하는 것 같습니다.
절제에 대한 모든 이야기에 대해 Verdon은 e/acc 비전의 가장 어두운 부분, 즉 인간을 보다 정교한 의식을 위한 개방 행위로 보는 부분의 구독자이기도 합니다.
“나는 실제로 인간을 대체하려는 것이 아닙니다. “라고 Connor Leahy와의 토론에서 그는 주장했습니다.
그러나 그는 그것을 방지하기 위해 최선을 다하는 것 같지도 않습니다.
“우주에는 수많은 아름다움이 있다고 생각합니다. 그리고 그것은 우리를 창조한 아름다운 기계입니다.
“e/acc의 일부는 인류에 초점을 맞춘 것이 아니라 좀 더 폭넓은 방식으로 이 원칙을 이해하는 것입니다.
“우리는 우리가 속한 물질의 아름다운 상태를 소중히 여기기 때문에 이를 보존하기 위해 크기를 조정해야 한다는 일종의 책임감을 느낍니다. 선택지는 성장하거나 죽는 것이기 때문입니다.”
‘모든 e/acs는 아닙니다.’
퀸즈랜드 중부의 Gladstone 근처에 살고 있는 소프트웨어 엔지니어인 Haodong Mo는 그런 종류의 e/acc가 아닙니다.
그는 인류를 도울 수 있는 AI의 거의 무한한 잠재력에 몰두하고 있습니다.
“이러한 이점이 있다면 우리는 이를 추구해야 한다는 생각이 머릿속에 맴돌게 됩니다.”라고 그는 말합니다.
“우리가 카드를 올바르게 사용한다면 아마도 미래는, 심지어 가까운 미래에도 상상할 수 없을 정도로 좋을 것입니다.”
많은 e/acc 목표를 공유하고 있음에도 불구하고 Haodong Mo는 이 운동에 문제가 있는 가치가 있다고 말합니다.(제공: Haodong Mo)
하오동에게 미래에 대한 지연은 특별한 형태의 잔인함을 구성합니다.
“매일 전 세계적으로 수천 명의 사람들이 예방 가능한 질병, 예방할 수 없는 질병, 전쟁, 갈등 등 다양한 이유로 사망하고 있습니다.
그 중 자원 부족이 원인이다.
“우리가 이 모든 문제를 해결할 수 있다고 믿는 변형 인공 지능의 생성을 매일 지연시키는 것은 그 사람들을 죽게 내버려두는 것입니다.”
여러 면에서 그는 이 운동에 완벽하게 들어맞습니다.
그러나 그는 많은 e/acc 가치를 공유하고 있음에도 불구하고 자신을 e/acc 가치라고 부르려고 하지 않습니다.
인터뷰를 일주일쯤 앞두고 하오동은 디스코드라는 플랫폼의 메인 e/acc 채팅방을 떠나기로 결정했습니다.
“가장 중요한 것부터요. 오물통이에요.”라고 그는 말합니다.
“그들은 아주 아주 극우파 사람들과 트롤들에 대해 높은 관용을 갖고 있습니다.”
마지막 지푸라기는 사악한 유대인 도당이 서구 문명을 말살하려 한다는 반유대주의 음모론을 누군가가 주장했을 때 발생했다고 그는 말합니다.
‘가속화 아니면 죽음’이라고 말하는 e/accs의 말을 들어보세요.
그들은 익명의 지도자, 선언문, 심지어 뱀이 그려진 깃발까지 가지고 있습니다.
더 읽어보세요
성차별, 인종차별, 일반적인 편견이 포럼의 일반적인 특징인 것은 사실입니다.
“저는 이런 사람들과 엮이고 싶지 않습니다. 그들은 매우 극단적인 자유주의적 괴짜들입니다.”
AI의 역할에 대한 모든 문화적 문제와 때로는 논란의 여지가 있는 믿음에도 불구하고 e/acc는 스스로를 낙관적으로 봅니다.
아마도 e/acc 세계관의 가장 덜 위협적인 버전은 “WAGMI”(“우리 모두 성공할 것입니다”의 약어)에 담겨 있습니다.
이에 대해 세상의 파멸자들은 대부분 이렇게 대답합니다. “그렇습니다. 하지만 당신이 틀렸다면 어떨까요?”
과연 전쟁에서 승리하는 사람은 누구일까요?
명백한 전쟁에도 불구하고 e/accs와 doomers에는 놀라운 공통점이 있습니다.
두 운동 모두 기술 분야에서 일하는 사람들로 가득 차 있으며, 그들은 항상 기술이 선을 위한 힘이라고 믿어 왔습니다.
e/acs와 파멸을 구분하는 질문은 AI가 특별한 경우(우리 생애에서 규칙의 첫 번째 예외)일 수 있는지 여부입니다.
효과적인 이타주의자인 Matt Fallshaw는 AI 개발이 잠시 중단되기를 바랍니다.(제공: Matt Fallshaw)
자칭 파멸자 Matt Fallshaw는 다른 공통점도 발견했습니다.
“e/acc의 한 구석이 있는데… 내가 상상하는 미래와 정말 비슷한 미래를 상상하고 있는 사람들이 있는 거죠.”
그는 초지능 AI가 인류의 종말을 초래할 수 있다는 믿음을 언급하고 있습니다.
“그리고 나는 그것이 끔찍하다고 생각하는데 그들은 괜찮습니다.”
Matt는 Bellroy라는 글로벌 액세서리 브랜드의 공동 창립자로서 성공적인 호주 기업가입니다.
그는 또한 AI 안전 분야에서 수십 년 동안 활동해왔습니다.
“우리가 지금 가고 있는 길을 계속 유지한다면, 문자 그대로 아이들이 어른이 될 수 없는 미래를 우리 스스로 창조하지 않는 놀라운 행운이 있어야 한다고 생각합니다.”
Matt는 AGI에 도달하기까지 10년의 시간이 있기를 희망하고 있지만 정신적으로는 훨씬 적은 준비가 되어 있습니다.
“나의 단기적 관점은 우리가 내일 [그것으로] 깨어날 것이라고 생각하지만 확실하지 않습니다.
“1년 전에는 멈춰야 합니다. 그건 정말 정말 무서운 일입니다.”
최근 소셜 미디어에서 e/acc 게시물을 훑어보면 광범위한 승리의 행진이 있습니다. 즉, 그들이 전쟁에서 승리하고 있다는 분명한 느낌입니다.
Matt Fallshaw는 e/acc가 조금도 앞서지 않고 선두에 있다는 데 동의합니다.
“E/acc는 아무것도 할 필요가 없으며 목표를 달성할 필요도 없습니다.”라고 그는 말합니다.
“기본 과정은 e/acc가 주장하는 것입니다. 그것은 점점 더 유능한 AI를 만들기 위한 무제한적인 진보입니다.
“우리는 놀라운 속도로 앞으로 나아가고 있으며 시간이 더 필요합니다.”
3시간 전에 게시됨
The AI insiders who want the controversial technology to be developed faster
By Ange Lavoipierre for Background Briefing
Posted 3h ago3 hours ago
“I don’t know how to say this in a polite way, but Beff is evil,” says German-American AI entrepreneur, Connor Leahy.
The long-haired 28-year-old is talking both about and to his opponent in a YouTube debate, who goes by the pseudonym Beff Jezos, or just “Beff”.
https://www.youtube.com/embed/0zxi0xSBOaQ?start=558&feature=oembedYOUTUBEA Youtube debate between e/acc leader Beff Jezos and ‘doomer’ Connor Leahy.
He’s the founder of a controversial movement known as “e/acc”, short for “effective accelerationism”.
They’re wrestling for control of the AI steering wheel, and their stated goal is to hit the gas as hard as possible. In fact, their motto is “accelerate or die”.
The e/acc movement is full of AI industry insiders — including top engineers, investors, and executives.
They’re waging a war against the AI safety movement, and anyone arguing to slow down — the “doomers” and “decels” (short for decelerationists). Beff’s debate opponent Connor Leahy is just one of them.
And while this conflict is largely unnoticed outside of Silicon Valley, its outcome could have consequences for billions of people, if AI is half as potent a technology as they believe it to be.
If you ask e/acc, to slow down AI progress in the name of safety is to risk or even preclude the survival of the human species.
If you ask the AI safety camp, we’ll be lucky if the highly sophisticated AI they’re trying to build doesn’t destroy civilisation.
Both sides boast some of the brightest computer scientists of our time, and a high degree of influence in Silicon Valley.
So with all those hands on the wheel, who’s driving the car?
Who is e/acc?
E/acc can be hard to pin down, but beneath the jargon, the factions and the memes, there’s one conviction that unites them: when it comes to AI, faster is better.
Beyond that, they tend to have an unshakeable faith in free markets, and somewhat counterintuitively, a deep distrust of big tech companies.
Instead, they argue for decentralised control of important technology — especially AI.
E/acc’s biggest goal, like most of the tech industry in 2024, is Artificial General Intelligence, or AGI: AI that’s smarter than humans across the board.
Before 2030 is no longer considered a controversial prediction as to when it’ll arrive.
The most serious accusation levelled against e/acc is that they don’t care if AI replaces the human species.
Not all e/accs agree on this front — some think the more sophisticated AI of the future won’t be willing or even able to harm us.
Others think it might, but the reward is worth the risk.
And a third camp sees AI as the next logical stage of evolution.
They think humans have a responsibility, or maybe a cosmic destiny, to hold the door open for a higher intelligence, even if that means being replaced.
A statement of e/acc’s principles on its own website, states: “If every species in our evolutionary tree was scared of evolutionary forks from itself, our higher form of intelligence and civilisation as we know it would never have emerged.”
“Stop fighting the thermodynamic will of the Universe.”
E/acc sees itself as the antidote to an AI safety movement that’s run amok.
It believes a zealous but influential subset of “safetyists” has infiltrated AI boards and government advisory panels, effecting a paranoia and hesitancy about the very technology most likely to ensure humanity’s survival.
E/acc’s full name — Effective Accelerationism — is itself a riff on one of the main subsets of AI safety, known as Effective Altruism, or EA, which promotes a far more cautious approach to AI.
The most public moment so far in the war between AI safety and e/acc came late last year, during the board meltdown at OpenAI, best known as the maker of ChatGPT.
OpenAI’s CEO, Sam Altman, was fired by the board over concerns he wasn’t taking safety seriously enough.
Within days, almost all of OpenAI’s staff had threatened to walk out if the former CEO wasn’t re-instated.
After his return, the most safety-focussed board members, who’d led the push to fire Altman, were purged.
They don’t agree on much, but both sides of the war say that e/acc won that round.
The moment e/acc accelerated
The victory at OpenAI, played out on a global stage, brought new energy to the e/acc cause.
High profile figures in Silicon Valley started adding “e/acc” to their Twitter bios.
Renowned Venture Capitalist Marc Andreesen wrote a “techno-optimist manifesto” and Garry Tan, the CEO of the influential startup accelerator, Y Combinator, gave rousing speeches at e/acc events.
Grimes DJ-ed an e/acc party. There was merch. There was a flag bearing the libertarian symbol of the Gadsden snake.
At the centre of it all was a man known only as Beff Jezos — one of e/acc’s four founders. At the time, he was still anonymous, like most of the movement.
Beff’s avatar was a cartoon of an absurdly ripped Jeff Bezos, the CEO of Amazon, towering before an intergalactic backdrop.
On X, formerly known as Twitter, Beff Jezos is an ostentatious meme-lord, issuing edicts about e/acc philosophy, fighting with “doomers”, and worshipping the “thermodynamic god”.
The thermodynamic god is a kind of in-joke for e/acc; a reference to the laws of physics, and an embodiment of the transformational AI they want to see.
He posts constantly about the urgent need for more powerful AI, along with wild statements such as “I will die trying to make that happen”.
As e/acc’s profile grew, Beff Jezos seemed dangerous enough to Forbes magazine that in December 2023, one of its reporters did something drastic; citing the public interest, they doxxed him.
That’s when we met Guillaume Verdon.
The real Beff Jezos
In the days after he was doxxed, Guillaume Verdon found himself sitting opposite US podcast host Lex Fridman, embarking on a marathon interview about his origins and beliefs.
“Ever since I was a kid, I wanted to figure out a theory of everything, to understand the universe.”
It turned out the real Beff Jezos was a brilliant Quantum AI computing scientist.
He’s only in his early 30s, but he’d already held leadership roles at two cutting-edge companies owned by Google’s parent company, Alphabet.
Guillaume Verdon sounded nothing like his bombastic and polarising alter-ego Beff Jezos.
When pressed by Fridman about e/acc’s goals, beyond the obvious desire to accelerate technological progress, Verdon seemed to say that e/acc was about compromise.
“It’s trying to find a middle ground between e/acc and … AI safety,” he said.
“Having a movement that is opposite to … the mainstream narrative that was taking over Silicon Valley was important to shift the dynamic range of opinions.
“So it’s kind of we’re trying to bring balance to the force.”
Verdon went on to imply that some of e/acc is using shock tactics for clicks.
“It’s kind of a vector to spread the message.
“You get rewarded for polarisation … and so even though we started a movement that is literally trying to polarise the tech ecosystem, at the end of the day, it’s so that we can have a conversation and find an optimum together.”
If you take Guillaume Verdon at his word, e/acc’s not even out to win the war, necessarily.
He seems to be saying they just want a truce they can tolerate.
For all the talk of moderation, Verdon is also a subscriber to arguably the darkest part of e/acc’s vision — the part that sees humans as an opening act for a more sophisticated consciousness.
“I’m not trying to actually replace humans,” he insists during the debate with Connor Leahy.
But he doesn’t sound all that committed to preventing that either.
“I think there’s a lot of beauty in the universe … and it’s a beautiful machine that has created us.
“Part of e/acc is to appreciate this principle in a way that’s not just centred on humanity, but kind of broader.
“Because we cherish this beautiful state of matter we’re in, we kind of feel a responsibility to scale it in order to preserve it, because the options are to grow or die.”
‘Not all e/accs’
Haodong Mo, a software engineer living near Gladstone in Central Queensland, is not that kind of e/acc.
He’s preoccupied with what he sees as AI’s almost infinite potential to help humanity.
“You sort of get it into your head that, well, if there are these benefits, then we should pursue them,” he says.
“If we play our cards right, maybe the future, even the near future, will be unimaginably good.”
Delays to that future, for Haodong, constitute a special form of cruelty.
“Every single day, thousands of people around the world die of various reasons; preventable diseases, non-preventable diseases, war, conflict, much of it brought about by resource shortages.
“Every single day that you delay the creation of transformational artificial intelligence, which we believe will be able to solve all of these problems, you are allowing those people to die.”
In many ways, he’s a perfect fit for the movement.
But despite sharing many e/acc values, he’s not willing to call himself one.
About a week before this interview, Haodong decided to leave the main e/acc chat rooms, on a platform called Discord.
“First things first. It’s a cesspit,” he says.
“They have a high tolerance towards, very, very far right people and trolls.”
The final straw came, he says, when someone was advancing an anti-Semitic conspiracy theory that an evil Jewish cabal was trying to wipe out western civilisation.
Listen to e/accs who says it’s ‘accelerate or die’
They have anonymous leaders, manifestos, and even a flag with a snake on it.
It’s true that sexism, racism and general bigotry are regular features in the forum.
“I don’t want to be associated with a lot of these guys. They’re very extreme libertarian kooks.”
Despite all the cultural problems and sometimes controversial beliefs about the role of AI, e/acc sees itself as optimistic.
Perhaps the least threatening version of the e/acc worldview is captured in “WAGMI” — short for “we’re all going to make it”.
To that, the doomers of the world most often reply: “Sure, but what if you’re wrong?”
Who’s really winning the war?
Despite the apparent war, e/accs and doomers have a surprising amount in common.
Both movements are full of people working in tech, who have always believed in it as a force for good.
The question that separates the e/accs from the doomers is whether AI might be a special case — the first exception to the rule within our lifetimes.
Self-professed doomer Matt Fallshaw sees other common ground too.
“There’s a corner of e/acc … who really are imagining a future that’s quite similar to the future that I’m imagining.”
He’s referring to the belief that a super-intelligent AI might lead to the demise of humanity.
“And I find it horrifying, and they’re OK with it.”
As the co-founder of a global accessories brand called Bellroy, Matt’s a successful Australian entrepreneur.
Behind the scenes, he’s also been active for decades in AI safety circles.
“If we stay on the path that we are on now, I think we would have to be amazingly lucky not to create for ourselves, a future where literally, children don’t get to grow up to be adults.”
Matt is hopeful we’ve got a decade before reaching AGI, although he’s mentally prepared for much less.
“My near-term horizon is I think we’re going to wake up tomorrow [with it] but I’m not sure.
“We need to stop before a year. And that’s really, really quite frightening.”
Scanning recent e/acc posts on social media, there’s a broad triumphalist streak — a clear sense that they’re winning the war.
Matt Fallshaw agrees e/acc is in front, and not by a little.
“E/acc doesn’t have to do anything, they don’t have to achieve a goal,” he says.
“The default course is the thing that e/acc is arguing for; it is unrestrained progress to make more and more capable AIs.
“We are storming ahead at an alarming pace and I would love some more time.”
Posted 3h ago
