Maskinens förförelse

Jag har skrivit om det här förut, om hur hur trängde ut att. Om hur vi gärna vill detaljstyra metoder, när vi borde sätta mål. Om tillit som ersatts av rutiner. Den tanken hos mig finns kvar och det finns en dimension jag inte kom åt då. För det är inte bara ledningen som gör det här. Vi gör det alla. 

Välfärdens utmaningar är inte enkla, de är inte ens svåra på ett bekant sätt. De är komplexa: det vill säga, de hänger ihop med varandra på sätt som förändras när vi försöker lösa dem. En åtgärd förskjuter ett problem. En lösning skapar en ny spänning någon annanstans. Vi vet att vi behöver fatta beslut, men vi vet inte riktigt var vi ska börja nysta. Det är i det läget många vänder sig till AI vilket inte orimligt. Vi behöver hjälp. 

Men hur vi tänker på AI i det läget spelar stor roll. 

Ett sätt, kanske det mest lovande jag sett, är att behandla AI som en uppsättning tillfälliga insatser snarare än ett system att införa. Mer som konsulter än som infrastruktur. Behöver vi bygga något litet som hjälper oss i en specifik del av en process? Vi snickrar ihop det. Behöver vi simulera olika tänk om-scenarion? Vi testar det. Behöver vi hålla ihop 700 trådar tillräckligt länge för att se ett mönster? Vi gör det, för det här problemet, just nu. Inget som behöver vara beständigt, utan kommer in, gör jobbet och kanske försvinner. 

Det är ett förhållningssätt som håller fokus på rätt sak. Inte verktyget, utan vad vi fick ut av det, vilket kräver kompetenser som är svårare än vad det ser ut att vara: att veta vilket angreppssätt som passar vilket problem. Att kunna välja. Att kunna kombinera.  
Kreativitet, omdöme, förmågan att sätta saker i relation till varandra. AI kanske var en hjälp här, och här, och där, men det var inte ett bara ett verktyg. Det var ett av många medel på vägen mot ett resultat. I stället händer något märkligt när resultat väl presenteras. Analysen är klar. Scenarierna är framme. Översikten finns på bordet. Och den första frågan är inte vad betyder det här? eller hur använder vi det här? 
Det är: Är det AI som gjort det? 

Frågan är både nyfiken och skeptisk på samma gång. Den vill förstå och granska. Men oavsett avsikt gör den samma sak, den förflyttar samtalet från resultatet till verktyget. I det ögonblicket blir allt det andra osynligt, de kompetenser som mötts. Valen som gjordes längs vägen. Det kreativa angreppssättet som öppnade upp problemet från ett håll ingen provat förut. Det reduceras till en fråga om AI, ja eller nej. Och resultatet blir föräldralöst. 

Jag förstår dragningen. När något ser kraftfullt ut vill vi kunna göra likadant. Vad spännande, så där vill vi också göra. Det är mänskligt och jag är exakt likadan. Det är så vi lär oss och sprider kunskap. Men det finns ett läge där den impulsen blir ett hinder, när vi är så fokuserade på att förstå jakten att vi glömmer att ta hand om det som hittades. De som vill presentera resultatet får berätta om hur, i stället för vad.  

”Digitalisering” var nog också en gång ett verb. Något vi gjorde, med ett syfte. Sen blev det ett substantiv, något vi implementerade, förvaltade, hade styrgrupp för. Fokus gled från vad vi ville uppnå till hur vi hanterade tekniken. Många organisationer sitter idag med välförvaltade plattformar som ingen riktigt kan svara på varför de finns och kanske gör vi nu samma sak med AI? 
För om vi ska arbeta seriöst med välfärdens komplexa utmaningar behöver vi bli bättre på något som låter enkelt men är svårt. Vi behöver kunna ta emot ett resultat. Vrida och vända på det. Ifrågasätta det. Sätta det i relation till det vi redan vet. Bestämma oss för vad vi gör med det. Det kräver något av oss som inga verktyg kan ersätta och det är precis den förmågan som riskerar att trängas undan när samtalet handlar om hur något gjordes, snarare än vad vi nu vet. 

Maskinens förförelse är inte att AI tar över. Det är att frågan om AI tar över samtalet och gör resultaten föräldralösa. Att vi bygger en allt starkare förmåga att jaga och en allt svagare förmåga att avgöra vad vi faktiskt hittade. 

Det har vi nog inte råd med.