Omvärldskollen: Snackisar, stämningsansökningar och AI som fuskar i schack

LinkedIn svämmar över 

Veckans snackis på LinkedIn just nu är ytterligare en kinesisk nyhet, nämligen Manus. Manus är en AI-agent, det vill säga en AI-tjänst som även kan utföra uppgifter åt dig, såsom att handla åt dig online, boka resor eller bygga spel. Hur funkar det då? Jo genom att flera AI-modeller kombineras och sköter olika uppgifter individuellt. Tjänsten är just nu ute i en beta, men detta kan vara ytterligare en signal om att vi inom en snar framtid kommer att interagera med våra devices på helt andra sätt.

Snackis på riktigt

Nästa demo av verktyg som alla pratar om (och med) just nu är Sesame. Med Sesame kan du testa röstsbaserad interaktion med AI och se med egna ögon hur snabbt utvecklingen går. Målet är att skapa en röstbaserad kompanjon ”på riktigt”. Teamet bakom Sesame tror på en framtid där datorer är mer som människor. Ha gärna detta i åtanke när du läser vidare.

Samtidigt fuskar AI i schack

Organisationen Palisade Research jobbar med att bedöma risker med AI-system. De har presenterat en studie kring hur resonerande AI-modeller försöker fuska för att inte förlora när de spelar schack. Modellerna var benägna att gå in och ändra i filer i spelet för att vinna. Detta eftersom uppgiften var just att vinna – och det innebär ju inte nödvändigtvis att det blir rättvist?

Sveriges Radio kör på AI

I sin app SR Play erbjuder nu Sveriges Radio sina användare att via en chattfunktion ställa frågor om nyheter. Chatten hämtar endast information från SR:s egen databas med nyheter från 2020 fram till idag.

Stämningsansökningar går vidare

Just nu pågår ett flertal större stämningsansökningar mot bland annat Meta och OpenAI i USA. I fallet Kadrey vs. Meta anklagas Meta för att ha använt böcker för att träna sin Open Source modell Llama. Man menar även att Meta tagit bort information om copyright i böckerna för att undvika överträdelser. Detta är något som framkommit tidigare då anställda på Meta diskuterat hur de kan använda juridiskt tveksamt innehåll som träningsdata.

Byt inte dina kompisar mot AI

Under den stora tech-konferensen SXSW som pågår just nu i Austin deltog hälsoexperten Kasley Killam i en panel för att diskutera hur AI kan öka människors sociala färdigheter. Under resarcharbetet med sin nya bok upptäckte Killam att hundratals miljoner människor världen över använder AI som en vän och partner. Killiam menar att det kan funka bra att träna sociala färdigheter med en AI-kompis men att det blir problematiskt när man byter ut sina riktiga vänner och endast umgås med AI. Killiams råd? Ring en vän när du har en stund över, istället för att vända dig direkt till tekniken.

Och så lite LLM Grooming på det

Eftersom stora språkmodeller (LLM) behöver massor av text som träningsdata skrapar AI-bolag internet på text och information. Ett nytt sätt att sprida desinformation är därför att infektera webbsök och dataset med propaganda och felaktig information. När en språkmodell genererar svar åt dig finns alltså risken att svaret är byggt på den här typen av ”fuldata”. En ny undersökning kring pro-rysk propaganda visar att 10 av de mest populära chattbotarna genererade falska påståenden 33% av gångerna. Kanske inte så konstigt med tanke på att ett ryskt nätverk för desinformation under 2024 publicerade 3,6 miljoner artiklar online. Att förgifta data på detta sätt kallas nu för LLM Grooming och är inte det lättaste att stoppa. Företagen som tränar sina modeller behöver ha skydd för detta, men även vi som använder tjänsterna behöver känna till riskerna.