Nu skalar vi upp en öppen AI

Under 2023 har Sundsvalls kommun utforskat om det är möjligt att införa en öppen AI-plattform som ger en kommun möjligheten att utveckla AI-tjänster på löpande band och med olika säkerhetskrav. Arbetet har varit lyckosamt, där vi samarbetat med näringslivet inom avtalet framåtlutande teknologi och landat i en lösning som in en snar framtid kommer att tillgängliggöras som öppen källkod.

Vad är viktigt för en långsiktigt hållbar lösning för generativ AI

Som kommun behöver vi ha förutsättningar att med enkla medel skapa AI-tjänster för olika användningsfall, vi kan inte upphandla eller utveckla lösningar för varje behov utan vi behöver en plattform där vi kan realisera en mängd olika användningsfall över tid. Vi behöver även en plattform som löpande kan följa teknikutvecklingen inom t ex språkmodeller. Annars kommer det vara svårt att tillgodogöra oss nyttorna ur AI på lång sikt.

Genom arbetet har vi kommit fram till att vi kan tillgodogöra oss nyttorna ur AI på både kort och lång sikt om vi har en infrastruktur för generativ AI som är;

Säker

Vi behöver säkra lösningar som låter oss köra vissa användningsfall som inte har personuppgifter via vissa språkmodeller och andra användningsfall med känsliga uppgifter genom andra språkmodeller, språkmodeller som även ska kunna köras i vår egen datahall om vi så skulle önska. Så att vi får full kontroll över all data i AI-plattformen.

Transparent

Vi behöver ha full transparens i våra AI-lösningar, varje tillämpning av AI ska följa regulatoriska krav samt erbjuda transparens ända ned till hur data behandlades vid ett beslut till exakt vilka modeller som användes vid beslutstillfället.

Flexibel och framtidssäker

Vi behöver teknik som kan följa med i utvecklingen, att vi exempelvis över tid kan använda olika språkmodeller allt eftersom dessa blir bättre. Genom att ha en plattform som inte har beroende till enskilda språkmodeller, och som kan använda olika språkmodeller för olika AI-tillämpningar, kommer vi ständigt kan tillgodogöra oss nyttorna ur AI-utvecklingen som sker i omvärlden.

Öppen och delningsbar

Sist men inte minst måste vi kunna dela det Sundsvall utvecklar med andra kommuner, och vi vill också kunna ta del av det andra kommuner utvecklar. Denna delning gäller både i form av källkod, men även kring konkreta AI-tillämpningar. Om en kommun tar fram en bra tillämpning för ett visst verksamhetsområde, då vill Sundsvall kunna ladda hem den och köra samma tillämpning hos oss. På så vis kan vi skapa mer jämlika villkor i användningen av AI.

Hur arbetar vi framåt

Nu startar ett arbete att skala upp AI-användningen, där vi inom kommande 1-3 månader kommer att fokusera på följande ur ett verksamhetsperspektiv;

• Ersätta befintlig chatbot inom Vuxenutbildning med AI
• Ersätta befintlig chatbot på intranätet med AI
• Testa att komplettera sökfunktionen på intranätet med AI
• Fortsätta identifiera användningsfall samt realisera användningsfall löpande efter behov

Ur ett tekniskt perspektiv kommer vi fokusera på följande de kommande 1-3 månaderna;

• Utveckla stöd för att dela AI-tjänster mellan kommuner
• Utveckla stöd för transparens och automatiserat dataskyddsstöd

Efter denna period ser planen ut enligt följande;

• Ge varje medarbetare i Sundsvalls kommun en personlig AI-assistent som stöd i arbetet via intranätet
• Fortsätta realisera fler användningsfall i verksamhetsprocesser
• Publicera plattformen Intric som öppen källkod tillsammans med leverantör

Kontakt

Är du nyfiken eller har synpunkter? Kontakta oss gärna via digitalisering@sundsvall.se.