“Egen Sprogmodel”
(Llama, Mixtral)
Llama – META
Mixtral – Mistral AI
Begge modeller er LLMér (sprogmodeller) som kan køres lokalt på eget hardware uden adgang til internettet
KATEGORI: Generativ AI
Vurderet: februar 2024
Opdateret: juni 2024
Vurdering
Skolerne har også mulighed for finetuning af open scource foundation-model. Det kunne være Llama fra Meta eller Mixtral 8x7B. Modellerne kan downloades til skolens egen server eller videretrænes på bestemte data. Den kunne sikre datasikkerhed i forbindelse med bearbejdning af personoplysninger så som undervisningsevalueringer og dataanalyse på tværs af organisationen. Modellerne fungerer pt. kun på engelsk.
DanskGPT er en sprogmodel der er trænet på danske data. Den har været til afprøvning på ZBC men tilbagemeldingen er at kvaliteten ikke er på højde med de store sprogmodeller. Fordelen er at den kan køres fra egen server i et helt lukket system.
Fordele
Modellerne kan køres på eget hardware uden adgang til internettet, hvilket giver maksimal kontrol med hvor og hvordan data behandles.
Ulemper
Kræver dataplads lokalt, ligesom det kræver en vis portion IT faglig viden at opsætte og drive modellerne lokalt.
Vurdering af
Morten Walsted
Fakta
Firma
Find leverandør
Databehandleraftale
Databehandleraftale er mulig, hvis nødvendig
Licens
Licens
Pris
Pris afhænger af model og ønsket set-up