När angriparen aldrig behöver vila

I början av september publicerade säkerhetsforskarna på Palo Alto Networks Unit 42 en utredning av ett omfattande intrång i ett företag. En mänsklig angripare satte målen och fattade de avgörande besluten. Men stora delar av det taktiska arbetet lämnades åt AI-agenter: att kartlägga miljön, söka igenom kodarkiv, samla in behörigheter och ta sig vidare genom organisationens system.

Hela förloppet tog mindre än tio timmar. Unit 42 jämför omfattningen med ett arbete som normalt skulle kräva flera erfarna red teams omkring två veckor. Angriparen lät dessutom AI:n lämna efter sig en 80-sidig teknisk rapport över de brister som hade utnyttjats. Nästan som ett kvitto.

Två månader tidigare hade säkerhetsföretaget Sysdig dokumenterat ett ännu mer autonomt exempel. En människa pekade AI:n mot ett mål, men därefter drev agenten attacken vidare på egen hand. Den kartlade miljön, samlade in behörigheter, förflyttade sig mellan system och genomförde till slut en destruktiv utpressningsattack mot en produktionsdatabas. När ett inloggningsförsök misslyckades analyserade agenten felet, ändrade sitt angreppssätt och lyckades 31 sekunder senare.

De två fallen skiljer sig åt. Men de pekar i samma riktning.

Det avgörande är inte att någon har uppfunnit ett genialt nytt sätt att angripa företag. Tvärtom. Attackkedjorna byggde till stor del på sådant säkerhetsbranschen känner väl igen: kända sårbarheter, exponerade tjänster, gamla konfigurationer, svaga behörigheter och information som varit mer åtkomlig än den borde.

Det nya är tempot.

Den 3 september gick amerikanska NSA ut med nya rekommendationer specifikt mot AI-förstärkta cyberangrepp. Myndighetens bild är tydlig: angripare använder i allt högre grad AI för att accelerera och skala intrång och för att automatisera delar av attackkedjan. Och vad letar AI:n efter? Opatchade system, svag autentisering, felkonfigurationer och bristande övervakning.

Med andra ord: gamla problem, i ett nytt tempo.

Samma vecka tog Sverige ytterligare ett steg. Den 4 september gav regeringen FRA och Försvarsmakten i uppdrag att påbörja utvecklingen av en AI-stödd nationell cybersäkerhetsförmåga. Tanken är bland annat att AI-stödda verktyg ska kunna hjälpa samhällsviktig verksamhet att snabbare identifiera sårbarheter, analysera risker och pröva skyddsåtgärder.

Det är en viktig del av svaret. När angriparen kan arbeta i maskintempo behöver också försvararen kunna göra det.

Men tekniken löser inte det grundläggande problemet.

IVA:s svenska rapport om AI-drivna cyberhot, publicerad i juni och framtagen i nära dialog med Nationellt cybersäkerhetscenter och AI Sweden, pekar på just detta. AI gör det möjligt att hitta och utnyttja sårbarheter i en skala som vida överstiger människans. Därför behöver organisationer agera snabbare, stärka den grundläggande cybersäkerheten och skapa tydligare styrning.

Det är precis den typ av glapp vi möter ute hos våra kunder, om än sällan lika dramatiskt som i de internationella incidentrapporterna. Ett system som ingen längre riktigt äger. En åtkomst som blev kvar efter en omorganisation. En tjänst som fortfarande är exponerad trots att den borde ha stängts. En kritisk komponent där det är oklart vem som faktiskt ansvarar för uppdateringar och övervakning.

Det har alltid varit en risk.

Skillnaden nu är att tiden mellan att en sådan svaghet exponeras, upptäcks och utnyttjas håller på att krympa kraftigt. Något som tidigare kunde ligga obemärkt i månader kan systematiskt letas efter av verktyg som inte blir trötta, inte tappar koncentrationen och kan upprepa samma arbete om och om igen.

Så vad behöver organisationer göra nu?

Inte börja med att köpa en produkt märkt ”AI security”.

Börja med de enklare och svårare frågorna: Vet vi vilka system och tjänster vi faktiskt har? Vet vi vilka som är kritiska? Vet vi vem som äger dem? Vet den personen vilka behörigheter som finns, vilka beroenden systemen har och om de är uppdaterade och övervakade?

Och framför allt: hur snabbt kan vi få fram de svaren?

För det är där AI förändrar spelplanen. Angriparens förmåga att förstå en miljö, hitta svagheterna och agera på dem blir snabbare. Då måste organisationens egen förmåga att förstå och försvara samma miljö utvecklas i minst samma takt.

Det här är därför inte i första hand ett AI-problem.

Det är ett ägarskapsproblem som AI har gjort akut.

1. Palo Alto Networks, Unit 42 – “An AI-Assisted Cyber Attack: Inside a Unit 42 Investigation”

2. National Security Agency (NSA) – “NSA Highlights Cyber Hygiene Best Practices Effective Against AI-Enhanced Targeting”

3. Regeringskansliet – “Uppdrag till Försvarets radioanstalt och Försvarsmakten att analysera och påbörja utvecklingen av en AI-stödd nationell cybersäkerhetsförmåga”

4. Sysdig Threat Research Team – “JADEPUFFER: Agentic ransomware for automated database extortion”

5. Kungl. Ingenjörsvetenskapsakademien (IVA) – “AI-drivna cyberhot – de kommande tolv månaderna”