Slik legg Kvam herad til rette for trygg og ansvarleg bruk av kunstig intelligens i oppvekst

Grundig førearbeid før KI vert teke i bruk

Kommunen har lagt stor vekt på førearbeid før KI-løysingar kan takast i bruk i oppvekstsektoren. Det er gjort heilskaplege vurderingar av om ulike løysingar er eigna i tenestene, der vilkår og funksjonalitet er nøye gjennomgått for å få oversikt over korleis løysingane fungerer og kva dei kan brukast til.

Eit heilt sentralt prinsipp i dette arbeidet er å unngå bruk av personopplysningar eller verksemdsensitiv informasjon. Dette er særleg viktig i oppvekstsektoren, der ein arbeider tett med barn, elevar og føresette. Informasjon som blir delt med KI-tenester, skal ikkje vere av ein slik karakter at det er fare for at data kjem på avvegar eller blir brukt til andre føremål enn det som er tiltenkt.

Det blir gjennomført risikovurderingar før bruk, og der det er aktuelt, blir det utarbeidd både protokoll for behandling og DPIA. Mellom anna har Kvam har utarbeidet ein DPIA for adaptive læremidler i skulen, som omfattar Aski Raski, iMal, Kikora og Smart Øving. Ta kontakt med Heidi Fossdal (heifos@kvam.kommune.no) dersom du har spørsmål til DPIAen.

Etiske retningslinjer - grunnlaget er på plass

Kvam herad har utarbeidd etiske retningslinjer for bruk av KI pdf, 807.7 kB, åpnes i nytt vindu., som også gjeld for oppvekstsektoren. Retningslinjene legg vekt på ansvar og forsvarlegheit, personvern og datatryggleik, gjennomsiktigheit og tolkbarheit, mangfald og ikkje-diskriminering, berekraft, menneskeleg kontroll og rom innovasjon.

Retningslinjene slår fast at KI-generert innhald skal ikkje stå aleine, men brukast som eit støtteverktøy. All bruk av KI skal vere under menneskeleg kontroll, og det skal vere mogleg å overstyre KI-baserte vurderingar. Bruk av KI skal heller ikkje undergrave rettane eller autonomien til barn, elevar eller tilsette.

Samtidig er kommunen tydeleg på at sjølv om desse rammene no er utarbeidde, gjenstår det eit betydeleg arbeid med å gjera innhaldet kjent og relevant for dei som står i tenestene til dagleg.

Roller, ansvar og kompetanse - eit arbeid som skal forankrast

Ein viktig del av grunnarbeidet har vore å definere roller og ansvar knytt til bruk av KI-system. Målet er at alle som arbeider med KI i kommunen skal ha klart definerte ansvarsområde, noko som legg til rette for tryggleik og føreseielegheit både i leiing og praksis.

Kommunen legg også vekt på prosjektplanlegging ved eventuell innføring av KI i tenestene, der opplæring av tilsette er ein sentral del. Dette gjeld både forståing av teknologien og dei etiske og juridiske rammene rundt bruk. Samstundes er det eit uttrykt behov for vidare arbeid med kompetansebygging, slik at tilsette kjenner seg att i beskrivingane av praksis og får støtte til å ta rammeverket i bruk.

Retningslinjer for kvardagsbruk

Det er urbeidd eigne retningsliner for bruk av KI-verktøy som Copilot pdf, 786 kB, åpnes i nytt vindu.. Desse gir føringar for korleis tilsette skal vere bevisste på kva informasjon dei deler, og understrekar viktigheita av å bruke kommunen si innlogging. Sensitiv eller intern informasjon, til dømes frå ikkje-offentlege dokument, skal ikkje leggjast inn i slike verktøy.

Retningslinjene peikar også på at svar frå KI ikkje nødvendigvis er korrekte, og at god kjeldekritikk er heilt nødvendig. Informasjon som er delt, kan ikkje takast tilbake. Også her er kommunen tydeleg på at dokumentasjonen no ligg føre, men at arbeidet med å gjera dette kjend og omsett til trygg praksis i kvardagen i stor grad startar no.

Ønskjer du å lære meir om trygg bruk av Copilot og genrativ KI? Bli med på kurset til DigiVestland! Åpnes i nytt vindu.

Grunnlaget er lagt, men arbeidet held fram i tenestene

Kvam herad er positiv til å ta i bruk kunstig intelligens i oppvekstsektoren der dette er føremålstenleg. Kommunen har lagt ned eit omfattande og grundig arbeid i å utarbeida vurderingar, retningsliner og dokument som skal sikra tryggleik, personvern og etikk ved bruk av KI.

Samtidig er det viktig å vera tydeleg på at dette i hovudsak er eit grunnlagsarbeid. Mykje av innhaldet er enno ikkje implementert i praksis i barnehage, skule og støttefunksjonar. Det står att eit betydeleg arbeid med å gjera retningslinene kjende, forståtte og relevante for tilsette i kvardagen. Det er først no hovudarbeidet med forankring, kompetanse og praktisk bruk tek til.