“Du kan inte köpa en ansvarsfull AI”
Digg, Myndigheten för digital förvaltning, har tagit fram riktlinjer för hur offentlig sektor kan använda generativ AI. Finns det ansvarsfull AI? Och vilka är de största utmaningarna? Vi fick en pratstund med Mats Snäll, senior rådgivare på Digg, som kommer till Publitech Live, 22-23 oktober.
Vad är generativ AI?
– Generativ AI är en form av artificiell intelligens som skapar nytt innehåll, som text, bilder och ljud, genom att lära sig mönster från befintliga data. Det är skillnad på AI och generativ AI när det gäller risker och hur långt vi kommit inom offentlig sektor. Generativ AI har utmaningen att det är svårare att jobba lokalt och att det krävs molnlösningar. Offentliga organisationer, ofta de mindre, som saknar kapacitet och förmåga kan inte utveckla AI-lösningar eller anpassa generativ AI för sina verksamheter själva.
Finns det en säker och ansvarstagande AI?
– Självklart finns det säker AI… användning! Men det är inte AI som är ansvarstagande utan den som använder AI. Du kan inte köpa en ansvarsfull AI. Den har heller ingen etik i sig, det är vi som använder AI som är etiskt ansvarstagande. Risken är att man personifierar ett gränssnitt till den grad att det nästan blir en person, och då är det lätt att tappa fotfästet. Som människor har vi ansvar för AI, och vi behöver vara trygga med den insikten. Där har offentlig sektor bra förutsättningar att lyckas; vi följer lagar och regler och tar ansvar för samhället.
Vilka är de största riskerna med generativ AI?
– Största hindret just nu är att det är svårt att lita på hur leverantörer av generativ AI kan förhålla sig till våra krav på säkerhet och dataskydd långsiktigt. Det är svårt att veta vilken teknik och lösning man kan använda utan risk för att exponera personliga, känsliga eller sekretessbelagda uppgifter. Vår syn på de dominerande amerikanska leverantörerna har förändrats. Det geopolitiska läget gör det svårt att förutse hur vi ska ta oss vidare.
Varför behövs det riktlinjer för offentlig sektor?
– Riktlinjerna är särskilt viktiga i det aktuella geopolitiska läget men också för att ge trygghet till användningen av generativ AI i offentlig sektor. Det sker snabba förändringar och mycket utveckling. Men det är också det som är både spännande och bra med riktlinjerna, vi uppdaterar dem allteftersom världsläget förändras.
För vem är riktlinjerna?
– De är utvecklade för att stötta användare av generativ AI på alla nivåer, från ledning ner till medarbetare. Vissa riktlinjer är mer inriktade för ledning och styrning, andra för upphandling och inköp. Ett bra exempel som visar betydelsen av AI är arbetsrätten. Där har både arbetstagare och arbetsgivarorganisationer sett att den här typen av riktlinje kan ge uppmärksamhet åt viktiga frågor och bidra till stor nytta.
Vilken är den vanligaste frågan du får från kommuner och regioner?
– Jag får väldigt många olika frågor, och det är dem vi försöker besvara med riktlinjerna. Just nu undrar många om man kan använda en molntjänst med en amerikansk leverantör. En annan vanlig fråga är: Vilket ansvar har vi för beslut som görs med generativ AI?
Vad vill du att besökarna ska ta med sig från ditt pass?
– Jag önskar att de som går därifrån ska känna sig mer upplysta och trygga med att börja, eller fortsätta, använda generativ AI, för det är nödvändigt att vi gör det.
Anmäl dig till Publitech Live och lär dig med om AI inom offentlig sektor
