Vælg en side

“Egen Sprogmodel”
(Llama, Mixtral)

Llama – META
Mixtral – Mistral AI

Begge modeller er LLMér (sprogmodeller) som kan køres lokalt på eget hardware uden adgang til internettet

KATEGORI: Generativ AI

Vurderet: februar 2024

Opdateret: juni 2024

Vurdering

Skolerne har også mulighed for finetuning af open scource foundation-model. Det kunne være Llama fra Meta eller Mixtral 8x7B. Modellerne kan downloades til skolens egen server eller videretrænes på bestemte data. Den kunne sikre datasikkerhed i forbindelse med bearbejdning af personoplysninger så som undervisningsevalueringer og dataanalyse på tværs af organisationen. Modellerne fungerer pt. kun på engelsk.

DanskGPT er en sprogmodel der er trænet på danske data. Den har været til afprøvning på ZBC men tilbagemeldingen er at kvaliteten ikke er på højde med de store sprogmodeller. Fordelen er at den kan køres fra egen server i et helt lukket system.

Fordele

Modellerne kan køres på eget hardware uden adgang til internettet, hvilket giver maksimal kontrol med hvor og hvordan data behandles.  

Ulemper

Kræver dataplads lokalt, ligesom det kræver en vis portion IT faglig viden at opsætte og drive modellerne lokalt. 

Vurdering af

Morten Walsted

Fakta

Firma

Find leverandør

Databehandleraftale

Databehandleraftale er mulig, hvis nødvendig 

Licens

Licens

Pris

Pris afhænger af model og ønsket set-up

 

Egen sprogmodel
sprogmodel