Karma lager utkastet.Et menneske bestemmer.
Det finnes gode grunner til å være skeptisk til AI i HR. Dette er reglene vi bygger Karma etter – skrevet ned så dere kan holde oss til dem, og så våre egne produktbeslutninger har noe å tape mot.
Reglene
Åtte regler, skrevet ned.
- Ingenting skrives før et menneske godkjenner detKarma forbereder endringer og viser nøyaktig hvilke felt den vil skrive. Før noen trykker godkjenn, har ingenting skjedd med dataene deres. Dette er ikke en innstilling med en mer tillatende modus gjemt bak – det er slik assistenten er bygget.
- Ingen automatiserte beslutninger om menneskerAnsettelser, lønn, advarsler og oppsigelser besluttes av mennesker. Karma kan rangere en kandidat mot en stillingsprofil og oppsummere en evaluering, men den avviser, karaktersetter eller flagger ikke en person – og det kan du ikke slå på.
- Dataene deres trener ikke andres modellerKarma jobber på datasettet deres. Innholdet i ansattpostene, søknadene og samtalesvarene deres brukes ikke til å trene modeller som andre kunder får nytte av.
- Karma ser nøyaktig det du ser, og ikke merAssistenten kjører innenfor den samme rollemodellen som resten av plattformen. Spør du om noe rollen din ikke har tilgang til, svarer den ikke – en AI-snarvei rundt tilgangsstyringen ville vært den dyreste formen for bekvemmelighet.
- En score du kan ta fra hverandreDer Karma gir et tall, kan tallet forklares. En kandidatmatch er den vektede stillingsprofilen scoret akse for akse, så du ser hvilket krav noen mangler, i stedet for å få vite at de er en 78.
- Alt den gjorde, står i revisjonsloggenHvert forslag registreres med hva Karma foreslo, hva som ble endret før godkjenningen, hvem som godkjente det, og når. Loggen kan ikke redigeres – heller ikke av oss.
- Den kan slås avKarma kan slås av per modul. Noen organisasjoner vil ha den i rekruttering og ikke i nærheten av lønn; det er et legitimt standpunkt, og produktet må tillate det.
- Vi sier fra når den tar feilEn assistent som har rett det meste av tiden, må fortsatt sjekkes. Karma merker det den har utledet, og holder det redigerbart, og vi vil heller at den sier at den ikke vet, enn at den skriver en selvsikker setning om noens sykefravær.
Der vi stopper
Ting vi har bestemt ikke å bygge.
Produktivitetsscorer for enkeltpersoner. Sentimentanalyse av det folk skriver i medarbeidersamtaler eller pulsmålinger. Automatisk avvisning av søkere. Risikoscorer for oppsigelse knyttet til en navngitt person. Hver eneste av disse er teknisk enkel og kommersielt fristende, og hver av dem endrer hvordan det føles å jobbe et sted.
Karma ser etter mønstre på gruppenivå – et team som glir over fraværsbudsjettet sitt, en rekke korte fravær som ligner noe annet – og gir dem videre til et menneske som kjenner sammenhengen. Mønsteret er en grunn til å ta en samtale, ikke en dom.
Ber en kunde om en av tingene på denne listen, er svaret nei. Vi taper heller avtalen enn å finne ut i etterkant hva det ble brukt til.
Kom med det vanskeligste AI-spørsmålet deres.
Vi tar gjerne compliance-samtalen med personvernombudet deres før vi i det hele tatt viser produktet.