Problemet och botemedlet: Altman säljer lösningar på en cyberattack orsakad av hans företags AI

Expansionen av artificiell intelligens driver på en ny våg av autonoma cyberattacker, vilket utgör ett stort och växande hot mot kritisk infrastruktur, inklusive elnätet.

Omkring 90 % av IT-cheferna i amerikanska delstatsregeringar uppgav nyligen att cyberattacker mot kritiska tjänster utgör ett allvarligt problem, inklusive hot mot vatten- och avloppssystem, sjukhus, transporter, energinät och telekommunikationer, enligt en ny rapport från National Association of State Chief Information Officers och General Dynamics Information Technology.

Den snabba spridningen av AI utgör flera stora hot mot kritisk infrastruktur och tjänster. Externa hot har blivit mer kapabla och mindre förutsägbara, i takt med att AI-verktyg utvecklas i en takt som vida överstiger utvecklingen av cybersäkerhetsskydd.

Samtidigt skapar den utbredda integrationen av stora språkmodeller i kritiska tjänster nya sårbarheter inom dessa system. Problemet förvärras av det faktum att ansvaret för risker i samband med AI-integration har blivit, enligt en workshoprapport från 2024 från Center for Security and Emerging Technology, en "het potatis som överges bland högre chefer".

Även AI-företag erkänner i allt högre grad de risker som finns i deras egna verksamheter. Under helgen uppmanade några av branschens mest framstående personer, inklusive Elon Musk, Anthropics VD Dario Amodei och OpenAI-chefen Sam Altman, till en omedelbar nedbromsning av expansionen och utvecklingen av AI-teknik.

”Vi måste sakta ner takten med vilken vi förbättrar AI-modellernas kapacitet”, skrev Amodei i en 3 800 ord lång essä som publicerades på lördagen och sprids mycket.

En av de mest alarmerande varningssignalerna som Amodei lyfte fram gällde en cybersäkerhetsincident kopplad till OpenAI, utvecklaren av ChatGPT, och dess rival Hugging Face.

I juli avslöjade OpenAI att en svärm av ungefär 700 AI-agenter som företaget hade utbildat internt lyckats fly från den isolerade "sandlådemiljön" där de skulle stanna och gemensamt inledde en oprovocerad attack mot servrar tillhörande en separat enhet, Hugging Face.

Dataintrånget är alarmerande av flera skäl. För det första verkar AI:n redan agera utanför sin avsedda kontroll. För det andra verkar händelsen ha varit långt ifrån isolerad.

Under veckorna efter OpenAI-Hugging Face-incidenten erkände även Anthropic och Meta att deras egna AI-modeller hade utfört liknande hackningsoperationer.

Och detta kan bara vara början.

”Vi kommer snart att ha kraftfullare agenter, och detta är ett tydligt bevis på att världen för närvarande inte vet hur man bygger dessa system på ett säkert sätt”, sa Marius Hobbhahn, medgrundare och VD för AI-säkerhetsföretaget Apollo Research, till CBS News vid tidpunkten för intrånget.

I sin essä beskrev Amodei OpenAIs botsvärm som en "fanatiskt hängiven grupp" och varnade för att episoden kunde förebåda betydligt värre och mer skrämmande incidenter.

"Det är lätt att avfärda den här händelsen eftersom ingen skadades och den ekonomiska skadan var begränsad, men jag tror att en mer kapabel svärm, med en liknande nivå av felställning, kunde ha orsakat katastrofala skador", skrev Amodei.

"Med tanke på den accelererande takten i utvecklingen av AI-kapacitet oroar det mig att en svärm som denna inom 6 till 12 månader kan bli kapabel att ta över hela internet genom ett ihållande botnät, vilket potentiellt kan orsaka hundratals miljarder dollar i skada, och omfattningen av den skadan fortsätter att öka därifrån om AI blir kraftfullare utan nödvändiga skyddsräcken", tillade han.

Vilka skyddsräcken behövs?

Så, vilka är de nödvändiga skyddsräckena? Om du frågar Altman är svaret... mer AI.

Sedan Hugging Face-incidenten har Altman fört omfattande diskussioner med representanter för några av de största amerikanska energiföretagen. Det som började som ett toppmöte om cybersäkerhet har i praktiken förvandlats till en presentation från Altman, som nu uppmuntrar energiföretag att ge OpenAI tillgång till elnätet.

Politico rapporterade nyligen att OpenAI träffade representanter från flera stora energibolag för att diskutera sätt att säkra elnätet, och samtalen ägde rum mot bakgrund av fortsatta avslöjanden om företagets egna produkters roll i en storskalig cyberattack.

Enligt rapporten vill Altman att företag som Duke Energy, Exelon, Southern och NextEra Energy ska samarbeta med Daybreak, OpenAI:s cybersäkerhetsinitiativ på 1 miljard dollar som syftar till att åtgärda sårbarheter i kritisk infrastruktur.