När AI blir både försvar och vapen
AI har redan börjat omdefiniera cybersäkerheten. Cyberkriminella använder generativa modeller för att skapa trovärdiga phishingmejl, deepfakes och automatiserade bedrägerikampanjer i stor skala. Verktyg som tidigare krävde avancerad teknisk kompetens finns idag kommersiellt tillgängliga för några tiotal dollar i månaden.
AI används också för att utveckla och variera skadlig kod, hitta sårbarheter och manipulera befintliga AI-system – allt med ökad precision och hastighet.
”Vi ser i praktiken hur samma AI-teknik används på både angripande och försvarande sida. Samtidigt som vi stärker våra säkerhetsförmågor utvecklas nya sätt för angripare att utnyttja tekniken.”
– Pernilla Rönn, affärsområdeschef för cybersäkerhet, HiQ
Men AI är inte bara ett hot. I takt med att cybersäkerhetslösningar blir mer intelligenta används AI för att upptäcka och stoppa intrång betydligt snabbare än tidigare. I Security Operations Centers hanteras idag upp till hälften av alla incidenter med stöd av AI, som analyserar loggar, identifierar avvikelser och prioriterar hot i realtid.
Tre sätt AI förändrar cyberhoten
- Angripare skalar upp med generativ AI. Hyperpersonliga phishingmejl, röstkloner och deepfakes kräver inte längre avancerad teknik – bara tillgång till färdiga verktyg.
- Attackytan växer snabbt. AI används för att generera ny kod, hitta sårbarheter och kringgå försvar i realtid.
- Försvararna blir smartare. AI används i detektering, analys och respons – men kräver rätt implementation för att inte skapa nya risker.
En större attackyta och nya sårbarheter
När AI integreras i allt fler delar av verksamheten ökar både effektiviteten och komplexiteten. Det skapas nya attackytor i dataflöden, kod och beslutsprocesser. Samtidigt ser vi ett växande fenomen av så kallad skugg-AI – AI-lösningar som används i organisationen utan att ha godkänts, riskbedömts eller testats.
”Utan standardiserade och säkra AI-lösningar söker sig medarbetare till egna verktyg. Resultatet blir ett shadow-AI-landskap med fragmenterad data, låg spårbarhet och ökade efterlevnadsrisker.”
– Sofie Perslow, affärsområdeschef för AI, HiQ
För att förebygga skugg-AI krävs tre saker:
- Tydligt ägarskap för AI – en central ansvarig som samordnar strategi, riskbedömning och riktlinjer.
- En kultur av medvetenhet – där medarbetare förstår både värdet och riskerna med AI, och utbildas i hur verktygen får användas.
- Bra och godkända alternativ – säkra plattformar som är lika smidiga som de öppna verktygen, så att medarbetare inte känner behov av att gå runt organisationen.
När dessa delar saknas skapas osynliga risker för dataläckage, bias och bristande transparens. Det är här governance och kultur blir avgörande. Inte bara för att undvika incidenter, utan för att kunna arbeta med AI på ett hållbart och affärsdrivet sätt.
AI som en del av cybersäkerhetsförsvaret
Samtidigt ger AI helt nya möjligheter till försvar.
- Detektering och respons: AI-drivna lösningar (XDR/NDR) identifierar avvikelser i nätverk och endpoints i realtid.
- Incidentanalys: Generativa modeller sammanfattar incidenter, triagerar ärenden och hjälper säkerhetsteam och SOC-analytiker att agera snabbare och mer effektivt.
- Threat intelligence: AI-drivna kunskapsgrafer kartlägger läckta data, trender och attacker på dark web innan de utnyttjas.
”AI kan göra säkerhet mer träffsäker, men bara om man bygger den på rätt sätt. Det handlar om att kombinera teknisk innovation med tydlig styrning och mänsklig involvering och kontroll.” – Pernilla Rönn
Så bygger du säker AI – utan att bromsa innovationen
HiQ:s arbete med säker AI vilar på tre grundprinciper:
- Privacy: Säker hantering av data genom anonymisering, spårbarhet och medvetenhet om bias.
- Resilience: Ständig testning, misuse detection och rollback-mekanismer som en del av arkitekturen.
- Transparency: Loggning, spårbarhet och human-in-the-loop – avgörande både för AI Act och för förtroende.
Inom resilience finns en viktig insikt: AI-system som är integrerade i kritiska miljöer har sällan en enkel av-knapp.
”När AI används i kritiska system är det ofta tekniskt omöjligt att bara stänga av. Istället behöver man bygga rollback-mekanismer, misuse detection och operativa kill switches som kan aktiveras i realtid utan att stoppa hela verksamheten.”
– Sofie Perslow
Syftet är inte att sakta ner utvecklingen, utan att skapa system som går att styra och återställa. Även under press.
“Säkerhet ska inte bromsa innovation – den ska möjliggöra den. När säkerhet är en del av designen från början skapar man en miljö där AI kan bidra till både effektivitet och trygghet.”
– Sofie Perslow
Från skydd till strategi
AI och cybersäkerhet är inte längre separata discipliner – de formar tillsammans hur företag utvecklas, automatiserar och innoverar. För att framtidens digitala lösningar ska vara hållbara måste säkerheten byggas in från start, inte läggas på i efterhand.
HiQ hjälper företag och samhällsaktörer att utveckla AI-drivna lösningar där säkerhet, affärsvärde och innovation går hand i hand. För framtidens innovationer finns ingen av-knapp – men det finns sätt att bygga dem säkert.
