Slik beskytter du dataene i en tid med generativ AI

Daglig rapporteres det på TV, radio og nett om generativ AI, dens revolusjonerende muligheter og den økende uenigheten rundt denne fremvoksende teknologien.

Under vårt nettbaserte webinar om Generative AI and Information Governance: Friends or Foes? diskuterte ekspertpanelet ulike spørsmål knyttet til uroen som følger i kjølvannet av bruken av generative AI-verktøy. Generativ AI vekker flere bekymringer, særlig når det gjelder integritet, sikkerhet, forvaltning og autentisiteten til det genererte innholdet. Panelet vårt så nærmere på hva disse bekymringene betyr for fagfolk med ansvar for arkivering, databehandling og informasjonsforvaltning.

Veilede i stedet for å skjule

Det er uunngåelig å unngå AI. Dine ansatte har sannsynligvis allerede testet generativ AI, eller kommer til å gjøre det i nær fremtid. For å håndtere potensielle utfordringer i organisasjonen kan det derfor være lurt å innføre en egen policy for generativ AI. En slik policy bør integreres i organisasjonens eksisterende policy for informasjonsstyring og fungere som et opplæringsverktøy for å veilede de ansatte i riktig bruk.

Det er to nøkkelkomponenter som er avgjørende for en effektiv generativ AI-policy. For det første bør den ta for seg bruken av sensitiv eller beskyttet informasjon i AI-verktøy. Informasjonen som mates inn i generativ AI, brukes til å lære opp språkmodellene og kan i enkelte tilfeller bli offentlig tilgjengelig. Derfor er det viktig å informere de ansatte om de potensielle risikoene og juridiske konsekvensene av å bruke privat eller beskyttet informasjon til å mate generative AI-verktøy.

For det andre er det viktig å minne de ansatte på å faktasjekke, validere og redigere AI-generert innhold. Disse verktøyene har en tendens til å presentere utdaterte og upålitelige data, som også kan være partiske eller diskriminerende. Ettersom mye av informasjonen som genereres, er hentet fra nettbaserte kilder, må de ansatte være oppmerksomme på risikoen for brudd på opphavsretten og plagiering.

Et effektivt tiltak kan være å innføre et system for hele organisasjonen for å flagge sensitivt eller upassende innhold. Dette gjør det lettere å følge med, samtidig som det gir konkrete eksempler på hva som bør unngås. For å styre AI-prosesser bør du regelmessig gjennomgå dataene som genereres fra AI, for å sikre at de er nøyaktige og forstå atferden bak algoritmene.

Forstå hvordan samarbeidspartnerne og leverandørene dine bruker AI

Organisasjoner må ikke bare fokusere på interne retningslinjer for generativ AI, men bør også ha et overordnet syn på den eksterne virksomheten, særlig når det gjelder hvordan leverandører og andre samarbeidspartnere bruker denne teknologien.

Det er viktig å ha en dialog med nåværende leverandører og samarbeidspartnere for å forstå hvordan AI er integrert i deres virksomhet og prosesser, og hvilken innvirkning det kan ha på samarbeidet. På samme måte er det avgjørende å få innsikt i potensielle partneres og leverandørers AI-policyer før man inngår et samarbeid.

Om nødvendig kan det være en fordel å opprette eller revidere leverandøravtaler for å inkludere retningslinjer og forventninger rundt bruken av generativ AI-teknologi. Disse kontraktene bør kreve at leverandørene tydelig opplyser om hvilke AI-verktøy de bruker til å produsere innhold for organisasjonen din, og at de iverksetter egnede tiltak for å beskytte informasjonen din.

Hold deg oppdatert

Utviklingen av generativ AI går stadig raskere, og jo mer data som er tilgjengelig for bruk, desto raskere vil utviklingen gå. Det er derfor svært viktig at de som er ansvarlige for informasjonshåndtering i organisasjonen, følger nøye med på utviklingen av AI og er oppmerksomme på fremdriften.

Mange land har allerede begynt å innføre lovgivning for å regulere bruken av AI, og det er svært sannsynlig at flere vil følge etter. Eksempelvis har EU nylig startet arbeidet med å fastsette regler for bedrifters bruk av AI, og Canada har allerede innført egne regler. Dette vil sannsynligvis åpne døren for at flere land innfører lignende retningslinjer. På samme måte er det viktig å være oppmerksom på eventuelle bransjespesifikke regler som kan være under utvikling. Selv om ingen av dem er blitt offentliggjort ennå, tyder den økende bruken av AI på at de kan være nær forestående.

Behold roen

Generativ AI er kommet for å bli. I stedet for å avta, forventes det at bruken vil bli stadig mer utbredt. Arkiv- og informasjonsforvaltere har tidligere stått overfor lignende utfordringer når de har utviklet retningslinjer, prosedyrer og sikkerhetstiltak for sosiale medier, direktemeldinger og andre nye teknologier.

Med stor makt følger det også et stort ansvar i denne bransjen, så bruk den klokt. Generativ AI vil fortsette å ha en betydelig innvirkning på hvordan innhold skapes, konsumeres og distribueres. Det er derfor viktig å sørge for at organisasjonens informasjon forblir beskyttet og sikker.

Vil du vite mer om dette og andre emner innen informasjonsforvaltning? Besøk ressurssenteret vårt for å se opptak av Generative AI and Information Governance: Friends or Foes? eller få tilgang til annet innhold.