Det här med AI eller LLM

Det här med AI eller stora språkmodeller (LLM) som det egentligen handlar om är en fråga med en mängd aspekter och synsätt. På det sociala medium, Mastodon, som jag främst använder är de flesta väldigt negativa till Artificiell intelligens (AI). Jag är i allmänhet inte negativ till ny teknik och automatisering. En orsak till det är att jag arbetat i industrier under den tid när mycket manuellt arbetet togs över av automatiska maskiner och robotar. Jag har sen också arbetat direkt med automatisering av järnvägar, tunnelbanor, spårvägar, kraftverk, avloppsreningsverk och vattenverk. De flesta människor i Sverige har indirekt använt dataprogram jag skrivit för sådana verksamheter. I industrin ledde automatiseringen till att många slitsamma och tunga arbeten försvann. På Saab där jag började som ackordsarbetare vid några svarvar som användes för att tillverka differentialhus lyfte jag nio ton gjutjärn varje dag. Vi var fem personer som arbetade på enlinje med 3 arbetsstationer med svarvar och borrmaskiner. Vi som arbetade vid maskinerna lyfte alla var och en nio ton per dag. För mig ledde det till att handlederna är utslitna och jag har ständig värk i dem fast det är snart 40 år sen jag slutade på Saab. Även axlarna tog stryk. Efter att hela produktionen av differentialhus automatiserats behövde ingen slita ut sig mer. Därför är jag i grunden positiv till automatisering. Men det blev förstås färre arbetstillfällen. 3 personer istället för 5. AI eller LLM är ett sätt att automatisera andra saker. Det handlar om kontorsarbete istället för industriarbete och produktion. AI (LLM) kan underlätta många rutinuppgifter inom den typen av jobb. Men det kommer förstås också att leda till färre arbetstillfällen inom administration och ekonomi. AI-system kan delas in i ett antal olika typer: Automatiserad intelligens Ett AI-system som sköter standardiserade uppgifter i stället för att människor måste göra dem manuellt. Exempelvis transkribera en text eller sortera en stor mängd dokument. Assisterad intelligens Ett AI-system som hjälper människor att utföra uppgifter mer effektivt. Exempelvis översätta en text till ett annat språk eller sammanställa ett beslutsunderlag i ett ärende. Förstärkt intelligens Kallas på engelska augmented intelligence. Ett AI-system som gör analyser, presenterar insikter och mönster som en människa kan ha svårt att göra själv. Exempelvis föreslå hur en butik ska vara uppbyggd utifrån människors rörelsemönster. Autonom intelligens Ett AI-system som självständigt utför uppgifter och tar egna beslut på olika nivåer. Självkörande bilar är ett känt exempel, men också automatisk lagerhantering. Problem med AI Det finns förstås också en mängd problem med AI. En är att AI kan underlätta övervakning och registrering av människor. Självstyrande system kan orsaka många säkerhetsproblem. Forskning och programvarukod kan korrumperas av AI-system. AI-system som ägs av storföretag kan missbrukas på alla möjliga sätt som bland annat: Ett annat stort problem är att det ofta inte är tydligt för en människa exakt hur en AI har gjort för att komma fram till en viss slutsats. Det beror dels på att AI-systemen är väldigt komplexa, så även för den programmerare som utvecklat dem kan det vara omöjligt att veta i detalj hur AI:n har kommit fram till ett resultat. Men det beror också på att de stora AI-systemen ägs av företag som vill skydda sina affärshemligheter. Ett exempel är Meta som äger bland annat Facebook och Instagram. De vill ogärna berätta i detalj hur det går till när deras AI-system väljer ut och visar olika slags annonser på sociala medier. Det här kan vara ett ännu större problem vid beslutsfattande som berör en människa. Inom EU finns därför lagstiftning som styr så kallade helautomatiska beslut som tas av företag, myndigheter eller andra organisationer. Det kan till exempel handla om en bank som låter en AI automatiskt godkänna eller avslå en kreditansökan. Lagen säger att medborgare ska få information om när ett sådant beslut fattats automatiserat, och de har även rätt att bestrida beslutet och få ärendet granskat av en människa. Falska bilder och felaktiga fakta kan massproduceras och spridas effektivt av AI. AI-sytem som skriver texter kan hitta på fakta och AI-bildprogram kan göra falska bilder med verkliga människor. Förfalskare, lurendrejare, bedragare och kriminella kan använda AI i sina syften. Hallucinerande AI-system AI-system är fortfarande allt för benägna att fantisera ihop saker utan koppling till verkligheten och dessutom kan de fabricera bevis för det som dataprogrammen faktiskt inte hittar på och som saknar stöd i verkliga fakta och verklighet. Idag fungerar AI-system bäst som hjälpreda för en människa: Därför fungerar AI-verktyg i dagsläget bäst som en assistent eller hjälpreda åt en människa. Den kan ta fram underlag och sortera, vilket kan vara en stor hjälp för människor som ska fatta beslut utifrån det. Även i dessa fall finns givetvis en risk att människan som tar emot underlaget förlitar sig på det i alltför hög grad. – Om man vill vara seriös kring implementeringen av AI krävs en viss eftertänksamhet i processen. Det finns just nu en viss frenesi kring AI och många kommuner eller byråer börjar använda det mycket för att ligga i framkant vad gäller teknik, men utan att fundera så mycket kring hur det faktiskt gör arbetet bättre. Vi befinner oss i en slags experimentfas tror jag, säger Emma Engström. En stor begränsning ligger i att de resultat och slutsatser en AI kan ge alltid bygger på den data som en AI har fått och lärt upp sig på. Det finns många fall där den data som använts för att träna upp en AI-modell har innehållit brister och byggt på en fördomsfull representation av världen. Ett exempel är att även de bästa AI-systemen för ansiktsigenkänning så sent som 2019 hade stora problem med att identifiera mörkhyade människor. Systemet var helt enkelt upptränat på data där majoriteten av bildexemplen var ljushyade. Ett annat exempel är AI-system som används för att leta på sociala medier efter sexuellt explicit innehåll. Granskningar visar att många av dessa system i högre grad tolkar en kvinnlig kropp som sexuellt utmanande även när den inte är det. Många bilder som föreställde kvinnor i helt vardagliga situationer flaggades ändå som sexuella. Den här typen av fel beror på AI-systemen fått felaktiga träningsdata. För systemen känner bara till sånt som de lärt in. Och utifrån det ger de svar. Så om det finns en massa fördomar i det material ett AI-system läser in kommer systemet i sig att reproducera en massa fördomar. Vidare finns det andra problem såsom: Anne Kaun, AI-forskare på Södertörns högskola, understryker vikten av att titta på det specifika användningsområdet. – Synen på AI beror på sammanhanget. De flesta människor tycker det är bra att det går snabbt på Försäkringskassan när man ansöker om vabb, eftersom det är automatiserat. När det gäller områden som ansiktsigenkänning och brottsprevention, där är folk mer kritiska. AI-utvecklingen kan innebära stora fördelar för många, men det finns andra grupper som kanske redan är mer utsatta för diskriminering. Den ojämlikheten riskerar att förstärkas. Ett annat problem med att utveckla en rättvis AI handlar om språk. De flesta system som används idag har tränats upp på engelska.De fungerar därför mindre exakt på andra språk. Även om en AI har tränats upp på andra språk finns det ofta mindre träningsdata att använda. Ett exempel är automatiska översättningsprogram som i allmänhet fungerar bäst när de översätter till eller från engelska. Resultatet blir ofta mindre exakt när översättningen sker mellan två mindre språk, så som estniska och slovenska. Men under det senaste året tycks detta ha förbättrats avsevärt. I all falla när det gäller översättningar till svenska från andra språk. Det är också språk som är i centrum för stora språkmodeller (LLM) och i diskussionen. Miljöproblem Slutligen finns det andra problem med AI i form av LLM. Det kräver stora dataresurser vilket innebär mycket energi och vatten för kylning, Det blir alltså ett slöseri med naturresurser. Precis som allt annat som byggs skapar det också förändringar i miljön vilket naturligtvis kan vara ett problem. Slutligen är det ett demokratiskt problem att stora IT-företag kontrollerar de flesta stora AI-system. Miljöproblem skapas också av den gruvdrift som krävs för att få fram råvaror till den elektronik som behövs. Upphovsrätt Det finns också oro och missnöje hos författare, skribenter och journalister som anser att AI i form av LLM kan ta deras jobb efter att de stulit deras arbete och tränats på detta. De vill få betalt för att AI-företagen utnyttjar deras arbete för att träna AI-system. Även konstnärer, fotografer och andra bildskapare ser detta som ett problem. Samtidigt saknar AI upphovsrätt så det är lättare och billigare för små medier på nätet att använda såndat text- och bildmaterial än material skrivet av människor. Detta kommer säkerligen har konsekvenser. Men de företag som äger AI-system kommer säkerligen att vilja ta betalt för användningen av AI-system liksom för det som de producerar. Men då det inet finns någon upphovsrätt är detta ganska knepigt rent juridiskt. Ändå ett bra redskap Trots allt detta menar jag nog att AI är ett bra redskap som kan vara mycket användbart. AI kan fungera bra inom rättsväsendet, sjukvården, översättning, ansiktsigenkänning, identifiering, annonsering, i industrirobotar, för att skriva bruksanvisningar och manualer, matematik, finansbranschen, bokföring standardiserad programvarukod och mycket mer. Men kanske mindre bra som sökverktyg, för att skriva programvarukod som inte är standardiserad, skriva böcker med mera. Det mesta av det som i dagligt tal kallas AI är dock det som kallas stora språkmodeller (LLM). Mycket av det som idag används till är de faktiskt inte så bra på och det är därför det är så omdiskuterat. Men för sökningar kanske det i framtiden kan bli bra. Men idag är sökrobotar (web-crawlers) som ju också är en form av AI och deras index bättre. Några av de mycket omdiskuterade verktygen är chatbottar som ChatGPT, Claude, Copilot, DeepSeek, Doubao, Google Gemini, Grok och Qwen, Vidare text till bild AI-system som DALL-E, Firefly, Stable Diffusion och Midjourney samt text till video AI-system som Veo, LTX och Sora. Läs mer: AI minskar läsandet av webbsajter AI, sociala medier och sökmotorer Naivt om AI i Flamman AI-företag och sociala medier AI: ett annat hot Risken för en farlig framtid med AI är liten AI är i huvudsak nåt positivt AI, vänstern och bristen på tankeutbyte PS. Bilden i toppen är AI-genererad. Jämför den med de andra mänskliga konstbilder jag publicerat som illustrationer till artiklar. Av konstnärer som Jackspn Pollock, Paul Klee, Hilma von Klint, Francis Picabia, Franz Marc, Aleksandra Ekster och Vasilij Kandinskij med flera. Inte direkt lika bra kanske.