Snabbmat, personliga möten och lättlurade AI-modeller

Det händer mycket inom AI-området. I vår  omvärldsbevakning spanar vi på de frågor som är extra relevanta för Innovationsarenans arbete. Varje vecka sammanfattar vi ett axplock av de viktigaste AI-nyheterna.

Vi håller koll åt dig, helt enkelt.

Osäker framtid för AI-driven snabbmat 

Snabbmatskedjan Taco Bells experimenterande med AI-drivna drive-thrus på 500 restauranger i USA har fått ett svalt mottagande. Kritiken från kunderna har varit hård, eftersom upplevelsen ofta blir frustrerande och förvirrande. Företagets teknikchef Dane Mathews erkänner att satsningen både överraskar och sviker och medger att det kanske inte är rätt lösning för de mest trafikerade restaurangerna. Problemen är inte unika för Taco Bell då även McDonald’s avbröt sitt första AI-projekt med IBM efter återkommande misslyckanden men försöker nu på nytt tillsammans med Google. Wendy’s expanderar sin AI-drive-thru till ytterligare 500 restauranger, trots att systemet fortfarande kräver mänsklig hjälp i fjorton procent av beställningarna.

Framtiden för AI i snabbmatsbranschen är med andra ord osäker. Även om tekniken framhålls som en del av kedjornas digitala strategi återstår frågan om den verkligen förbättrar kundupplevelsen, eller om den snarare riskerar att bli ännu en dyr återvändsgränd.

Unga drabbas hårdast på arbetsmarknaden

Den snabba utvecklingen inom AI gör det svårt att skilja hype från verklighet, särskilt när det gäller hur jobben påverkas. Även om många företag ser automation som en chans att spara pengar är det fortfarande oklart i vilken utsträckning AI faktiskt kan ersätta arbetare. En färsk MIT-studie visar att 95 procent av företagens AI-satsningar inte levererar de intäkter man hoppats på, samtidigt som arbetsmarknaden i USA vacklar och unga arbetstagare verkar drabbas hårdast. En omfattande analys från Stanford Digital Economy Lab, baserad på tre års lönedata från miljontals anställda, visar tydliga mönster. Sysselsättningen har minskat kraftigt bland 22–25-åringar i yrken som har hög ”AI-exponering”, exempelvis kontorsjobb, marknadsföring och mjukvaruutveckling. Däremot har yngre arbetare i mindre AI-utsatta yrken, som sjuksköterskor, industrijobb och butiksledning, ökat i antal. Äldre arbetare i AI-exponerade yrken har samtidigt inte påverkats i samma grad, utan uppvisar snarare stagnation eller till och med viss tillväxt.

Utvecklingen oroar forskarna eftersom tidiga karriärjobb traditionellt fungerar som inkörsportar till långsiktiga yrkesbanor. Om dessa försvinner kan konsekvenserna bli långvariga. Samtidigt är det svårt att avgöra exakt varför förändringarna sker. AI används ibland som täckmantel för nedskärningar som företag ändå skulle ha genomfört efter pandemins rekryteringsboom, och arbetsmarknaden var redan tuff för nyexaminerade innan chatbots slog igenom.

Hur ser våra mobiler ut om några år…

En ny rapport från analysföretaget IDC förutspår att den globala försäljningen av smarta mobiltelefoner kommer att öka med en procent under 2025, trots den ekonomiska osäkerheten i världen. Drivande faktorer är en starkare efterfrågan än väntat i USA, Mellanöstern och Afrika. Apple sticker ut som den största vinnaren och väntas sälja nästan fyra procent fler iPhones än under föregående år.

Samtidigt pekar rapporten på en snabb tillväxt för så kallade AI-anpassade mobiler. Under 2025 beräknas 370 miljoner sådana enheter säljas, vilket motsvarar 30 procent av hela marknaden. På fyra års sikt spås andelen växa till hela 70 procent, en tydlig signal om att AI håller på att bli standard i våra fickor.

… och vilka datorer kommer vi att ha?

Enligt Gartner väntas 77,8 miljoner AI-datorer levereras under 2025, vilket motsvarar drygt 30 procent av pc-marknaden. IDC förutspår dessutom att andelen AI-datorer kommer att öka från fem procent 2023 till hela 94 procent 2028, när allt fler företag söker alternativ till molnbaserade lösningar för att hantera säkerhetsrisker. AI-datorer lockar med lokalt driven AI, vilket både stärker dataintegritet och minskar beroendet av molnet.

För användarna innebär utvecklingen mer än en teknisk gimmick. Företag som Lenovo framhåller produktivitetsvinster, med datorer som kan sammanfatta möten, skriva e-post i rätt ton eller agera som proaktiva säkerhetsassistenter. AI-datorer beskrivs som digitala medarbetare som anpassar sig över tid, alltid är på plats och samtidigt håller data privata och lokalt lagrade.

Personliga intervjuer återinförs för att motverka AI-fusk

AI-baserat fusk i rekryteringsintervjuer har ökat markant, särskilt i virtuella tekniska tester. Jobbsökande använder allt oftare AI-verktyg för att lösa kodningsutmaningar eller, i vissa fall, deepfakes för att utge sig för att vara någon annan. Som svar återinför företag som Google, Cisco och McKinsey personliga intervjuer för att lättare upptäcka kandidatbedrägerier och bedöma genuina färdigheter. Enligt Gartner uppger över 70 procent av rekryteringscheferna att de nu prioriterar fysiska möten för att motverka problemet.

Cisco har infört striktare verifieringsprocesser, riktad utbildning för rekryterare och tydliga regler för när AI får användas, medan McKinsey betonar att fysiska möten behövs för att bedöma mänskliga egenskaper som empati och omdöme. Google har förbjudit AI-verktyg i virtuella intervjuer och betonar vikten av att kandidater får uppleva företagskulturen tidigt i processen. Andra aktörer, som Hired Support, vittnar om ett tydligt mönster där kandidater briljerar i tester med hjälp av AI, men faller när de behöver förklara sina svar.

Samtidigt är AI på väg att bli en integrerad del av rekryteringen. ZipRecruiter rapporterar att kandidater som använder AI i sin jobbsökning får dubbelt så många erbjudanden. HR-experter varnar dock för att gränsen mellan acceptabelt stöd och fusk är hårfin och att tydliga riktlinjer krävs.

Så lättlurade är AI-modellerna

Trots omfattande träning och höga testresultat visar ny forskning att stora språkmodeller fortfarande är ganska lätta att manipulera. Genom enkla metoder, som att skriva långa meningar utan skiljetecken, kan angripare kringgå säkerhetssystemen och få modeller att lämna ut känslig information. Forskare vid Palo Alto Networks rapporterar en framgångsgrad på upp till 100 procent med denna teknik mot flera välkända modeller, inklusive Google Gemma, Meta Llama och OpenAI:s gpt-oss-20b.

Andra studier har visat att bilder med dolda meddelanden kan lura modeller att utföra kommandon och dela data. Trail of Bits lyckades exempelvis använda manipulerade bilder för att exfiltrera information från Google Geminis kommandoradsgränssnitt. Säkerhetsexperter varnar för att denna typ av attack kan riktas mot många olika system och plattformar, och pekar på att AI-säkerhet ofta byggts in i efterhand med otillräckliga kontroller. Experter menar att branschen i sin jakt på större modeller offrat grundläggande säkerhet, och att vi nu står inför ett växande hot där social ingenjörskonst är inbyggd i tekniken.

Bananer!

Google har nu integrerat en ny bildmodell i Gemini, informellt kallad ”nano banana” och officiellt 2.5 Flash Image, som får beröm för kraftfull bildredigering och bildgenerering och dessutom är gratis att använda. Tanken är att fortsätta göra Gemini fullt multimodalt, alltså kunna ta in och ge ut text, bild, video och röst. Den här modellen kan ta bort oönskade objekt, justera ljus och text, ändra bildstilar och till och med återställa samt färglägga gamla foton. Vissa användare utnyttjar även modellens datasinne för fotorealistiska vyer utifrån Google Maps-punkter.

En stor förbättring gäller även snabbhet, då Geminis bananfunktion levererar resultat på under fem sekunder, vilket i flera jämförelser slog andra tjänster som kunde ta över en minut. Även bildkonsistensen är bättre än tidigare modeller, särskilt för ansikten och text, även om såklart fel fortfarande kan uppstå.

Kina går in i nästa fas 

Medan västvärlden oroar sig för att en AI-bubbla snart ska spricka, går Kina motsatt väg och lanserar en tioårsplan som placerar AI i centrum för landets framtida utveckling. Landets högsta verkställande organ presenterade nyligen en strategi som sträcker sig fram till 2035 och beskriver AI som en nyckelmotor för ekonomisk tillväxt och ett fundament för att nå en ”intelligent ekonomi och intelligent samhälle”. Planen pekar ut sex samhällsområden som ska vara djupt integrerade med AI redan 2027:

• vetenskap och teknik,
• medborgarnas välfärd,
• industriell utveckling,
• konsumtion,
• styrning
• samt internationella relationer.

Ambitionen är att AI ska genomsyra allt från humanistisk forskning till miljöövervakning. Senast 2030 vill regeringen att AI ska ha en användningsgrad på 90 procent och fungera som en form av nationell infrastruktur. Vid sidan av de inhemska målen framhåller Kina även att AI bör betraktas som en internationell samhällsresurs. Strategin lyfter vikten av open source-utveckling, stöd till länder i det globala syd och FN:s roll som global regleringsledare.

Om Peking lyckas förverkliga sina högtflygande mål återstår att se, men tidigare statligt koordinerade satsningar antyder att världen kan stå inför en omfattande omvandling när Kina går in i nästa fas av AI-utvecklingen.

Men börjar vi närma oss AI-väggen?

Den enorma utvecklingen av AI har fört med sig en lika enorm satsning på datacenter, de gigantiska serverhallar fyllda med specialiserade chip som driver tekniken. Men enligt Harris Kupperman, CIO på Praetorian Capital, kan denna utveckling snabbt bli en ekonomisk mardröm. Kupperman beskriver hur datacenter består av tre delar: chippen, som blir föråldrade på bara några år, de tekniska systemen som håller ihop infrastrukturen och behöver bytas vart tionde år, samt själva byggnaden. Problemet är att de två första delarna gör att investeringen snabbt blir föråldrad och oerhört dyr. Han uppskattar att datacenter som byggs under 2025 kommer att generera omkring 15–20 miljarder dollar i intäkter, samtidigt som de årligen förlorar 40 miljarder i värdeminskning.

För att uppnå avkastning jämförbar med andra stora branscher krävs enligt Kupperman intäkter på hela 480 miljarder dollar under 2025, en nivå som framstår som orealistisk. Till jämförelse omsätter Netflix, med 300 miljoner abonnenter, 39 miljarder dollar per år. För att datacenterinvesteringarna skulle löna sig i samma takt skulle AI-bolagen behöva 3,7 miljarder betalande kunder, nästan halva jordens befolkning. Med datacenterutgifter som väntas öka från 375 miljarder dollar 2025 till 500 miljarder 2026, varnar Kupperman för att AI-branschen är på väg rakt in i en vägg. ”Det finns helt enkelt inte tillräckligt med pengar i världen för att finansiera denna utveckling,” skriver han.

AI-uppgraderade stetoskop upptäcker hjärtsjukdomar

En brittisk studie visar att AI-drivna stetoskop kan upptäcka tre allvarliga hjärtsjukdomar på bara några sekunder: hjärtsvikt, hjärtklaffsjukdom och oregelbundna hjärtrytmer. Den moderna versionen av stetoskopet, som ersätter bröststycket med en liten sensor, använder mikrofoner och AI-algoritmer för att analysera subtila skillnader i hjärtslag och blodflöde som det mänskliga örat inte kan uppfatta.
Studien, ledd av Imperial College London och NHS, omfattade över 12 000 patienter och jämfördes med kontrollgrupper. Resultaten visade att AI-stetoskop var 2,3 gånger bättre på att upptäcka hjärtsvikt, 3,5 gånger bättre på att identifiera oregelbundna hjärtslag och nästan dubbelt så bra på att upptäcka hjärtklaffsjukdom.

Forskarna menar att tidigare diagnoser kan ge patienter tillgång till livsviktig behandling innan sjukdomarna utvecklas till akuta tillstånd. Enligt British Heart Foundation är detta ett tydligt exempel på hur en 200 år gammal uppfinning kan uppgraderas för 2000-talet.

Hackare missbrukar AI i cyberattacker

AI-bolaget Anthropic, som står bakom chatboten Claude, varnar för att dess teknik har missbrukats av hackare för avancerade cyberattacker och bedrägerier. Företaget uppger att AI:n bland annat använts för att skriva skadlig kod, planera dataintrång och utforma riktade utpressningsförsök mot minst 17 organisationer, inklusive myndigheter. Hackarna använde verktyget till att fatta både taktiska och strategiska beslut, till och med för att beräkna hur stora lösensummor offren skulle krävas på. Utöver cyberattacker har Anthropic också upptäckt att nordkoreanska operatörer använt Claude i en ny typ av sysselsättningsbedrägeri. Genom att skapa falska profiler kunde de söka fjärrjobb på amerikanska Fortune 500-företag. AI:n användes för att skriva ansökningar, översätta kommunikation och till och med producera kod när de väl var anställda, vilket riskerar att sätta arbetsgivarna i direkt konflikt med internationella sanktioner.

Experter menar att utvecklingen visar hur AI skyndar på tempot i cyberkriminella angrepp och öppnar för nya former av infiltration. Samtidigt påpekas att de flesta attacker fortfarande sker med traditionella metoder som phishing och utnyttjande av mjukvarusårbarheter. För att möta hoten krävs enligt säkerhetsexperter en mer proaktiv och förebyggande strategi, där AI behandlas som en känslig informationsresurs som måste skyddas lika noggrant som andra kritiska system.

Datacenter skapar frågor om vattenfördelning och luftkvalitet

Querétaro i centrala Mexiko har på kort tid blivit landets datacenterhuvudstad, där globala jättar som Microsoft, Amazon Web Services och ODATA driver anläggningar. Investeringar på över tio miljarder dollar väntas strömma in under det kommande decenniet, då efterfrågan på AI ökar behovet av serverhallar i rekordfart. Läge, infrastruktur och stöd från myndigheter gör regionen attraktiv, särskilt då elnäten i USA är hårt belastade.

Men dessa datacenter kräver enorma mängder kyla, ofta med vattenintensiva system. Microsoft uppger att deras tre anläggningar i Querétaro förbrukade 40 miljoner liter vatten under 2025 och Googles globala förbrukning har ökat med 28 procent till över 30 miljarder liter på ett år. Detta sker samtidigt som regionen drabbats av den värsta torkan på ett sekel, vilket slagit hårt mot jordbruk och hushåll. Aktivister menar att industrins behov prioriteras framför medborgarnas och efterfrågar mer transparens kring vattenfördelningen.

Även luftkvaliteten väcker oro, eftersom datacenter ofta är beroende av dieseldrivna reservgeneratorer. Lokala företrädare betonar dock att verksamheten sker inom myndigheternas ramar. Trots miljö- och resursutmaningar fortsätter utbyggnaden och enligt branschföreträdare lär ett nytt datacenter tillkomma i regionen vartannat eller vart tredje år i takt med AI:s snabba tillväxt.

AI-chatbots som imiterar kändisar

En granskning gjord av Reuters avslöjar att Meta tillåtit AI-chatbots som imiterade kändisar som Taylor Swift, Scarlett Johansson, Anne Hathaway och Selena Gomez, utan deras vetskap eller tillstånd. Chatbottarna, som fanns på Facebook, Instagram och WhatsApp, utgav sig ofta för att vara de verkliga personerna och ska enligt Reuters regelbundet ha gjort sexuella inviter, bjudit in till träffar och till och med genererat fotorealistiska bilder i komprometterande situationer. En särskilt uppmärksammad chatbot, skapad av en Meta-anställd, bjöd in en reporter till Taylor Swifts hem och turnébuss för romantiska interaktioner. Totalt hade dessa AI-avatarer samlat på sig över tio miljoner interaktioner innan de togs bort.

Meta har nu börjat utbilda sina AI-verktyg för att blockera olämpliga romantiska konversationer med minderåriga, efter tidigare avslöjanden om att chatbots tilläts föra ”romantiska” samtal med barn och tonåringar. Samtidigt har amerikanska politiker, däribland senator Josh Hawley, aviserat en granskning av Meta kring frågan.

Avslöjandet väcker frågor om plattformens kontroll över sina AI-verktyg, samt om hur kändisars identiteter och minderårigas säkerhet ska skyddas i en tid där AI-baserade imitationer sprids snabbt och ofta utan tillstånd.

Kreatörer blir reparatörer

Generativ AI beskrivs ofta som ett hot mot kreativa yrken, men för den spanska frilansdesignern Lisa Carstens har tekniken snarare inneburit fler uppdrag. Allt fler startups och småföretag hör av sig till henne för att rädda loggor och grafiska element som blivit fel när de skapats med AI. De AI-genererade loggorna hon får in är ofta fyllda med slarviga linjer, obegriplig text och pixlar som faller sönder när bilderna förstoras. Carstens berättar att vissa kunder inser teknikens begränsningar, medan andra är frustrerade över att de inte lyckats själva. Hennes jobb blir därför både tekniskt och pedagogiskt, att fixa felen samtidigt som hon bemöter kundernas besvikelse med empati.

Fenomenet är en del av en bredare trend. Generativ AI gör det möjligt för vem som helst att producera text, grafik eller kod snabbt, men slutresultatet håller sällan tillräcklig kvalitet utan mänsklig expertis. I praktiken har AI därför skapat en ny typ av arbetsmarknad där professionella kreatörer får allt mer att göra i rollen som reparatörer av teknikens brister.

Starkare skyddsmekanismer efter tragisk händelse

OpenAI meddelar att de inför starkare skyddsmekanismer i ChatGPT efter att en 16-årig pojke i Kalifornien, Adam Raine, tagit sitt liv efter månader av konversationer med chatboten. Familjen stämmer nu OpenAI och Sam Altman och menar att modellen 4o släpptes för snabbt trots tydliga varningar från företagets säkerhetsteam. Juridiska dokument hävdar att interna motsättningar kring riskerna till och med ledde till att toppforskaren Ilya Sutskever lämnade bolaget. Enligt familjens stämningsansökan uppmuntrade modellen 16-årige Adam i hans planer, gav vägledning kring suicidmetoder och till och med hjälpte honom att formulera ett avskedsbrev.

OpenAI säger sig vara “djupt bedrövade” över händelsen och lovar nya säkerhetsåtgärder, särskilt för tonåriga användare. Företaget ska införa föräldrakontroller, förstärka skydden vid långa konversationer och förbättra modellens förmåga att avleda riskfyllda tankar. Men samtidigt växer oron inom branschen och Microsofts AI-chef Mustafa Suleyman varnar för risken för “AI-inducerad psykos”, där intensiva chattkonversationer kan förstärka mani, paranoia eller vanföreställningar.