Christer Samuelsson

Robotarna attackerar!

Artificiella intelligenser som själva skapar koden till nya artificiella intelligenser, datorernas förkrossande segrar över de mänskliga mästarna i strategispelen och datorer som kör bil bättre än människor. Så vad händer när någon sätter en outtröttlig robot med 10 000-tals hackers kapacitet på att hacka din verksamhetskritiska IT-miljö?   

IT genomsyrar hela vår existens. Det finns i allt vi gör hemma och på våra arbetsplatser. Den är helt avgörande för arbetet på fabriksgolvet, i gruvan, i lastbilen, på kontoret och överallt annars. Och den IT vi ser idag är bara början. Informationstekniken har skapat ett effektivt och produktivt samhälle där vi hela tiden lyckas göra så mycket mer med så mycket mindre resurser.

Det har även gjort samhället sårbart. En attack mot IT-systemen påverkar inte längre enbart några enskilda människor på ett kontor. Med relativt enkla medel kan en enskild individ eller en kriminell organisation gå in och i praktiken stoppa hela verksamheten på ett eller flera företag – eller hela samhällen. Så självklart har även säkerhetslösningarna utvecklats i takt med att riskerna och attackerna fortsatt att öka.

Det kommer mera

Men nu står vi inför ett helt nytt hot; AI och kvantdatorer. Med utvecklingen av artificiell intelligens har vi under de senaste åren fått se världens bästa spelare inom schack och Go bli fullständigt krossade av datorer. Att det händer nu beror på att datorerna blivit så kraftfulla att de på bråkdelar av en sekund kan överväga fler möjliga händelseutvecklingar än en människa skulle klara under en livstid.

Och nu kommer kvantdatorerna – en ny generation datorer som är 1000-tals gånger snabbare än dagens datorer och som enkelt kommer att lösa problem som vi människor aldrig skulle klara. I fel händer, eller till och med i rätt händer men med fel instruktioner, kommer dessa robotar kunna ställa till med en enorm skada.

Det handlar inte heller bara om vårt yttre skydd. Vad händer om någon släpper loss en kvantbaserad artificiell intelligens inne i ett företags infrastruktur? Det känns lockande att automatisera och robotisera sin verksamhet med smarta datorer som kan handlägga enorma volymer av ärenden med större säkerhet än vad hundratals människor skulle kunna göra med dagens moderna IT-stöd. Men vilken information ska vi ge systemen?

När vi inte längre förstår

När DeepMinds dator AlphaGo Zero slog världens bästa Go-spelare gjorde den det med ett antal drag som man vid genomgången av loggen efteråt inte kan förstå. Man skulle kunna säga att AlphaGo Zero resonerade på ett plan vi människor inte kan förstå. Applicera samma sak på en AI som handlägger ärenden i socialtjänsten eller i vården där felaktiga beslut kan få ödesdigra konsekvenser. Och att vi efter händelsen inte kan förstå hur datorn kom fram till beslutet?

Säkerhet handlar inte bara om att bygga murar och skapa krångliga lösenord. Kapprustningen kommer att fortsätta öka exponentiellt. Det kommer att handla allt mindre om starkare brandväggar och allt mer om autentisering och auktorisering, om säkerhet inbyggd i källkoden till vartenda system vi skapar, om biometri och maskininlärning för att hjälpa oss avgöra om du verkligen är du, och att du får göra det du vill. Vi lever onekligen i spännande tider.

Blog moderation guidelines and term of use