Cortex er en norsk språkmodell for eiendom. Vi begynte å samle datasett i 2023, kuratert i samarbeid med meglere, forvaltere, jurister og regnskapsførere. Modellen er trent på norsk, for norske forhold, med norsk lovverk som grunnlag.
Treningsdataene kommer fra to kilder: ekspertintervjuer og faktiske Cortex-interaksjoner. Hver samtale Cortex har med en bruker blir kandidat for neste treningsrunde. Vi filtrerer på kvalitet. Kun samtaler med reell anvendelse og korrekte svar blir med videre.
Vi har sett størst fremgang fra reinforcement learning. Supervised finetuning gir en grunnlinje, men det er RL som lærer Cortex hva og når han skal bruke verktøy, når han skal stoppe, og når han skal si at han ikke vet.
Hallusinasjon
Cortex har lese- og skrivetilgang til faktiske finansielle data. Det betyr at feil ikke bare er irriterende som i tradisjonell kontekst med språkmodeller. De kan ha økonomiske og juridiske konsekvenser. Hallusinasjon er det viktigste problemet vi jobber med.
Tre ting som har fungert:
- Chain-of-thought under trening. Når modellen må vise resonneringen sin, fanger vi feil før de når brukeren. Vi ser også at feilraten øker forutsigbart når vi utvider kontekstvinduet. CoT gjør dette observerbart og justerbart.
- Eksplisitt trening på å nekte. Cortex skal si "dette vet jeg ikke, kontakt revisor" fremfor å gjette.
- Pushback mot brukeren. Hvis noen ber om analyse av en case og later som det er en god idé, skal Cortex si fra.
Vi er ikke ferdige med dette. Hallusinasjonsraten er ikke null. Men den er målbar, og den går ned mellom hver treningsrunde.
Norsk
Når en modell trenes eksplisitt av nordmenn, på norske data , får den en annen karakter enn en oversatt engelskspråklig modell. Cortex forstår husleieloven, ikke bare "tenancy law". Han skiller mellom borettslag og eierseksjon uten å forklare hva det er.
Det er ikke en feature vi har lagt til. Det er en konsekvens av treningsdataene.