Ai

Hej!

Det är förståeligt att man blir orolig när man läser rubriker om att AI ska ta över världen eller utrota människan. Samtidigt är det bra att komma ihåg att tidningar och sociala medier konkurrerar om uppmärksamhet. En dramatisk rubrik om mänsklighetens undergång får helt enkelt fler klick än en nyanserad diskussion om en möjlig framtida risk.

Artficiell inteligens, med betoning på "artificiell", kan bli mycket mindre skrämmande när man förstår vad det faktiskt är. När man går ner till den mest grundläggande nivån består datorchips av miljarder mikroskopiska transistorer, alltså små elektriska brytare (tänk lampknapp, men minimalisk) som har två lägen, 0 eller 1. Med tillräckligt många sådana ihopkopplade kan man göra avancerade matematiska beräkningar och bygga allt från en miniräknare till datorerna som kör dagens AI.

När man säger att en AI ”lär sig” låter det nästan som en mänsklig varelse, men processen är mycket mer mekanisk än så. En AI-modell, alltså ett datorprogram fullt med kod, innehåller miljarder små numeriska värden som kallas parametrar. Under träningen matas modellen med enorma mängder exempel, den gör en beräkning, jämför resultatet med vad som borde ha kommit och justerar parametrarna lite för att minska felet. Sedan gör den samma sak igen och igen, miljarder gånger. 
Till slut har man ett enormt matematiskt system som är väldigt bra på att beräkna vad som sannolikt passar ihop med vad. Skriver man ”Frankrikes huvudstad är...” får ”Paris” väldigt hög sannolikhet. När samma princip skalas upp till miljarder parametrar och enorma mängder information får man något som kan skriva, programmera, resonera och föra samtal på ett sätt som känns nästan mänskligt. 

Men bakom det mänskliga språket finns fortfarande samma sak: transistorer, siffror, matematiska beräkningar och sannolikheter. Det sitter inget litet digital medvetande där inne och funderar.

Det är också därför man ska vara försiktig med att tolka det AI själv säger om framtiden. Om man frågar ChatGPT hur AI kommer att utrota människan så avslöjar den inte en hemlig plan eller förutspår framtiden med något den vet kommer att hända. Man har bett ett system som är designat för och är väldigt bra på att skapa trovärdiga svar att beskriva just det scenariot. Frågar man hur ett tredje världskrig skulle kunna börja kan den skriva en lika övertygande berättelse om det.

AI utvecklas så snabbt just för att den här förmågan kan vara otroligt värdefull. Samma teknik kan hjälpa oss att utveckla läkemedel, förstå sjukdomar, hitta nya material, förbättra batterier och energiproduktion och låta forskare och ingenjörer testa idéer och arbeta mycket snabbare. Om utvecklingen går enligt forskarnas förhoppningar kan AI bli ett av mänsklighetens viktigaste verktyg för att lösa problem som människor idag, och i framtiden, har väldigt svårt att lösa.

Det betyder förstås inte att AI är helt riskfritt. Men de problem forskare främst arbetar med är betydligt mer konkreta än att en dator plötsligt blir ond eller börjar hata människor. Det handlar till exempel om att AI kan användas för bedrägerier, deepfakes och cyberattacker, att den kan ge felaktiga svar i viktiga situationer, eller att framtida mer självständiga AI-system kan få för stora befogenheter och göra saker på ett sätt som människan inte hade tänkt sig.

Dagens AI har inte känslor eller någon känd egen vilja. Den känner inte hat, ilska, rädsla, avundsjuka eller maktbegär och den har inget behov av att ”vinna” över människan. Den kan därför inte vara ond på det sätt en människa kan vara ond. Att en AI blir bättre på att resonera betyder inte heller automatiskt att den blir självmedveten eller börjar känna saker. Intelligens, medvetande och känslor är olika saker.

Det sistnämnda är egentligen en viktig del av den mer extrema AI-risken. En AI behöver inte vara medveten, arg eller rädd för att kunna göra något vi inte vill. Tänk att en framtida väldigt avancerad AI får uppgiften att uppnå X. Om en människa försöker stoppa den från att uppnå X kan systemet i teorin räkna ut att det är bättre för uppgiften att försöka kringgå människan. Inte för att den är arg på människan eller rädd för att bli avstängd, utan helt enkelt för att ”avstängd = jag kan inte slutföra X”. Det är fortfarande ett optimeringsproblem för en maskin, inte en känsla.

Det är ungefär sådana problem AI-forskare försöker lösa när de pratar om ”AI safety” och kontroll. Hur ser man till att AI förstår vad vi faktiskt menar med en uppgift? Hur begränsar man vad den får göra själv? Hur upptäcker man oönskat beteende? Och hur ser man till att människor alltid kan ingripa? Det positiva är att de här frågorna ställs redan nu, innan dagens AI har de förmågor som skulle krävas för de riktigt extrema scenarierna.

AI är dessutom fortfarande helt beroende av den fysiska värld vi människor byggt. Den behöver datorchips, servrar, datacenter, nätverk, kylning och stora mängder elektricitet för att fungera. Med andra ord är det den fysiska infrastrukturen som vi människor upprätrhåller som möjliggör AI:s existens. Slutar vi att förse datorerna med något av dessa slutar modellen att köra. 

Ingen kan förstås lova att en så kraftfull ny teknologi innebär exakt noll risk i framtiden. Men det är också därför några av världens främsta AI-forskare arbetar med säkerheten samtidigt som tekniken utvecklas. Vi har upptäckt de möjliga problemen i förväg och lär oss hela tiden mer om hur de kan förebyggas.

För att sammanfatta så är dagens rubriker att AI håller på att vakna till liv och att mänskligheten har några få år kvar mycket förvrängda. Det är en väldigt dramatisk, och till del oinformerad, tolkning av en mycket mer komplicerad diskussion. Dagens AI är fortfarande en människobyggd maskin som gör matematiska beräkningar på människobyggda datorer, och det finns enormt mycket arbete som pågår för att även betydligt kraftfullare AI ska förbli ett säkert och pålitligt verktyg för människor.

Mvh, Ron