Skepticismen växer mot Elon Musks AI-utopi

Teknikledare menar alltmer att artificiell intelligens snart kommer att skapa en värld av överflöd som kan lösa mänsklighetens största utmaningar, från klimatförändringar till ekonomisk knapphet. Med "teknikledare" menar de det breda ekosystemet av teknikföretag, forskare, uppfinnare, investerare och branschjournalister vars innovationer har omformat det moderna livet genom att göra det snabbare, men inte nödvändigtvis bättre.

I en nyligen genomförd intervju med The Economist sa Elon Musk att när mänskligheten väl har "ett stort antal robotar med omfattande digital intelligens" kommer den globala ekonomin att bli "nästan obegränsad". I en sådan värld, menade han, "kan vem som helst få vad de vill", och pengar kommer att bli i stort sett irrelevanta år 2036 eftersom alla kommer att ha en hög inkomst utan att behöva arbeta. Musk jämförde denna framtid med det post-knapphetssamhälle som skildras i Star Trek.

Drömmen om gränslöst överflöd

Musks vision återspeglar en bredare ambition inom teknikbranschen: en framtid där praktiskt taget vad som helst kan skapas med en knapptryckning eller ett enkelt röstkommando. Det är samma vision som populariserades av Star Trek, där fattigdomen har försvunnit, pengar inte längre är nödvändiga och människors behov enkelt tillgodoses.

Författaren minns att en vän en gång frågade: "Om du hade en maskin som kunde göra vad du ville och ett helt uppslukande virtuellt verklighetsrum, varför skulle du någonsin resa?" Ändå tillbringade karaktärerna i Star Trek mycket av sin tid med att utforska nya civilisationer och avlägsna världar.

Musk menar att även i ett samhälle utan knapphet skulle vissa människor fortfarande välja att arbeta, ungefär som vissa människor fortsätter att trädgårdsarbeta trots att de kan köpa mat i en stormarknad.

En obesvarad fråga

Det mest slående elementet i Musks vision är dock hans förväntan att artificiell intelligens skulle kunna styra världen inom ungefär ett decennium, med minimal mänsklig inblandning.

Det väcker en uppenbar fråga: om intelligenta system hanterar allt, hur ska företag kunna fortsätta tjäna pengar? Kommer företag ens att fortsätta existera?

Enligt författaren erbjuder Musk inget tydligt svar.

En annan fråga följer naturligtvis. Om människor inte längre arbetar, var ska de då få sin inkomst?

Musks svar är enkelt: regeringar skulle helt enkelt skicka checkar till medborgarna.

Författaren ser en ironi i det förslaget. Musk gick tidigare med i USA:s president Donald Trumps administration för att hjälpa till att minska de statliga utgifterna genom Department of Government Efficiency. Ändå liknar den framtid han nu beskriver en form av AI-driven socialism, trots att han står illa till mods vid sidan av sina nuvarande politiska ståndpunkter.

Testet "kommer att hända"

Författaren pekar på en utmaning skapad av AI-kritikern Ed Zitron, som ber AI-entusiaster att förklara vad dagens AI-modeller faktiskt kan göra utan att använda orden "kommer att" eller "ska".

Enligt författaren kämpar de flesta AI-förespråkare med den övningen eftersom deras argument till stor del vilar på framtida löften snarare än nuvarande förmågor.

Kan dagens AI-modeller styra världen?

Författaren menar att dagens stora språkmodeller fortfarande är långt ifrån att leverera de framtida föreställningar som Musk föreställer sig.

Enligt hans uppfattning gör dessa system fortfarande ofta misstag, och så kallade hallucinationer är inte bara tillfälliga brister utan är djupt inbäddade i hur modellerna fungerar.

Han menar också att den intelligensnivå som krävs för att hantera kritiska ekonomiska system och infrastruktur inte kan uppnås enbart med hjälp av stora språkmodeller. Att anförtro dem viktiga samhällssektorer, varnar han, kan skapa katastrofer snarare än välstånd.

Vem gynnas egentligen?

Författaren är lika skeptisk till idén att dagens teknikjättar på något sätt skulle försvinna när universellt välstånd väl anländer.

Istället tror han att denna berättelse är avsedd att lugna allmänheten samtidigt som den avleder uppmärksamheten från de verkliga konsekvenserna av att utöka AI-utbyggnaden.

Enligt hans uppfattning är de mest lönsamma tillämpningarna av artificiell intelligens idag övervakningssystem och militär teknik, där regeringar verkar villiga att absorbera höga kostnader i utbyte mot större säkerhets- och försvarskapacitet, även när sådana system fortsätter att göra misstag.

Höga kostnader och osäker lönsamhet

Författaren medger att företag och konsumenter redan drar nytta av AI inom vissa områden, särskilt genom att förbättra internetsökning.

Han menar dock att den verkliga kostnaden för dessa fördelar är betydligt högre än vad användarna för närvarande betalar.

Varje ytterligare användare kräver mer datorkapacitet och nya datacenter, vilket innebär att AI inte verkar ha samma skalfördelar som traditionella digitala företag. Istället fortsätter kostnaderna att öka i takt med att användarbasen expanderar.

Av den anledningen tror han att nuvarande AI-modeller i slutändan bara kan bli lönsamma i specialiserade applikationer där kunderna är villiga att betala sin fulla ekonomiska kostnad.

Slutsats

Författaren drar slutsatsen att teknikledare har ägnat år åt att upprepa i princip samma budskap: lita på oss, och låt oss leda dig mot en mer blomstrande teknisk framtid.

Enligt hans uppfattning är dagens löften kring artificiell intelligens en del av en bredare ansträngning för att övertyga allmänheten att omfamna dess snabba expansion utan att tillräckligt debattera dess risker och potentiella missbruk.

Han noterar att många samhällen redan har börjat motsätta sig byggandet av ytterligare AI-datacenter på grund av deras kostnader och deras inverkan på lokalsamhällena. Samma debatt, menar han, bör även omfatta hur artificiell intelligens i sig används och hur dess missbruk kan förhindras.