Intric - En öppen plattform för generativ AI

Under de senaste åren har utvecklingen inom AI, särskilt generativ AI, tagit stora språng. Denna utveckling har väckt frågan om hur välutvecklade språkmodeller kan vara till nytta inom offentlig sektor. I Sundsvalls kommun använder vi den öppna AI plattformen Intric för att utveckla och tillhandahålla AI-tillämpningar inom området generativ AI, en plattform med den offentliga sektorns behov i centrum.

Generativa AI-tjänster och de språkmodeller de bygger på erbjuder fantastiska möjligheter, men de kommer med stora utmaningar kring bristande transparens och säkerhet.

Dessa lösningar är därför svåra eller helt omöjliga att använda inom offentlig sektor, framför allt inom områden där personuppgifter och/eller känslig information behandlas.

Därför har vi valt att utveckla och tillämpa en AI-plattform som bygger på öppenhet i grunden, som är helt teknikoberoende där olika AI-tjänster och språkmodeller kan användas för olika tillämpningar. En plattform som därmed möjliggör användning av generativ AI i stort sett i alla kommunala verksamheter.

Målbild för plattformen

Vår primära målbild med plattformen är att ge alla verksamheter och medarbetare i Sundsvalls kommunkoncern en jämlik tillgång till generativ AI. Om vi ska kunna tillgodogöra oss nyttorna ur generativ AI så får det inte bli en teknik för några få utan något som är tillgänglig för alla.

För att vi långsiktigt ska kunna tillgodogöra oss nyttorna behöver vi kunna;

• Följa omvärldens teknikutveckling
  Plattformen skall vara oberoende av en särskild teknik eller språkmodell, vi behöver kunna följa den snabba teknikutvecklingen i omvärlden och då behöver vi en plattform där vi snabbt kan koppla på den senaste AI-teknologin och snabbt börja tillämpa den.
  
• Använda vår egen data som kunskapsbas för AI-tjänster
  Plattformen ska använda vår egen interna verksamhetsdata för att hitta svar på frågor, vi måste vara trygga i att vår data/kunskap är det som styr hur AI-tjänten kommer fram till en slutsats.
  
• Ha full kontroll över säkerhet, algoritmer och behandling av data
  Vi som kommun ska sitta i förarsätet när det kommer till hur AI-tillämpas i alla led, den ska stötta i allt från att rätt AI-teknik användas för rätt säkerhetsnivå till att vi har kontroll över inställningar och regler i tillämpningarna. Genom detta ska vi även kunna ha en öppenhet och transparens gentemot våra målgrupper så att de kan förstå hur AI används när de är i kontakt med kommunen.
  
• Utöva en aktiv styrning och övervakning av användning av AI
  Plattformen ska vara ett aktivt stöd i uppfyllnad av GDPR, AI-förordning och andra relevanta lagar och regler. Detta innebär att plattformen både hjälper verksamheten att göra rätt utifrån känslighetsgrad i data och process till att vi enkelt ska kunna följa upp regelefterlevnad med stöd av plattformen.
  
• Utbyta AI-tjänster mellan kommuner så att vi blir starka tillsammans
  Då plattformen kommer att delas som öppen källkod finns det stor potential för att flera kommuner använder plattformen och då ska vi kunna dela AI-tillämpningar mellan kommunerna. På detta vis kan kommuner dra nytta av varandra så att inte hjulet behöver uppfinnas om och om igen.
  

Användningsområden och funktionalitet

Som plattform ska den kunna användas i alla former av verksamheter och stötta ett brett behov av krav i olika processer och hos olika målgrupper. För att stödja detta är plattformen löpande utvecklad och har idag följande funktionalitet (ett urval);'

Plan för öppen källkod

Under hösten 2024 är planen att släppa Intric som öppen källkod och därmed förenkla spridning till andra parter. Inlägg kring detta kommer att publiceras här på utveckling.sundsvall.se när det sker.