Databeskyttelsesforordningen (GDPR) skal overholdes når organisationen behandler personoplysninger.

Det første skridt vil være at vurdere, hvorvidt løsningen behandler personoplysninger. Hvis der behandles personoplysninger, skal behandlingen være indenfor rammerne af Databeskyttelsesforordningen.

Vælger man som skole at anvende en Gen-AI-løsning som Copilot, Azure, Applai eller en åben model på egen server, er det afgørende at alle data bliver i EU. Herudover skal følgende krav opfyldes:

• Datastrømme: Få klarhed over, hvem der behandler persondata, deres placering, og formålene med behandlingen. Indled en dialog med leverandøren om disse aspekter før en databehandleraftale indgås. Analysen skal omfatte vurdering af eventuelle underdatabehandlere og de formål, som disse måtte bruge oplysningerne til.
• Databehandleraftale: Sørg for, at databehandleraftalen detaljerer behandlingsformålet og sikrer, at leverandøren overholder Databeskyttelsesforordningen. Husk, organisationen forbliver dataansvarlig.
• Konsekvensanalyse: Gennemfør en konsekvensanalyse for AI-løsningen som krævet af Datatilsynet, eventuelt i samarbejde med andre organisationer, der også planlægger at bruge samme løsning.
• Oplysningspligt: Informér medarbejdere og elever om behandlingen af deres persondata. Involvér DPO’en i udarbejdelsen af informationsmaterialet.
• Retningslinjer for anvendelse: Udvikl klare retningslinjer for brug af GenAI, der understreger vigtigheden af dataetik og databeskyttelse.

Anvendes en Gen-AI der ikke gemmer eller behandler data fra brugeren, kræves der ingen dokumentation, men her vil ansatte og elever skulle instrueres i aldrig at indtaste personoplysninger.

EU’s AI-forordning er blevet vedtaget for at beskytte borgerne i EU og sikre, at deres rettigheder respekteres, når det kommer til brugen af kunstig intelligens. Forordningen træder i kraft i 2024 og i uddannelsessektoren stilles strenge krav. Laver skolen et AI-system der automatisk giver eleven feedback eller en karakter på baggrund af en besvarelse, vil det højst sandsynligt blive kategoriseret som ”højrisiko” er skolen og leverandøren forpligtet til at opfylde en række krav. Disse krav er designet til at sikre, at AI anvendes ansvarligt og med respekt for elevernes rettigheder og sikkerhed.

Du kan læse mere på: https://viden.ai/ai-forordningen-indhold-krav-og-konsekvenser-for-uddannelsessystemet/