Karma laver udkastet.Et menneske beslutter.
Der er gode grunde til at være skeptisk over for AI i HR. Det her er de regler, vi bygger Karma efter – skrevet ned, så I kan holde os op på dem, og så vores egne produktbeslutninger har noget at tabe til.
Reglerne
Otte regler, skrevet ned.
- Intet skrives, før et menneske godkender detKarma forbereder ændringer og viser præcis de felter, den vil skrive. Indtil nogen trykker godkend, er der ikke sket noget med jeres data. Det er ikke en indstilling med en mere tilladende tilstand gemt bagved – det er sådan, assistenten er bygget.
- Ingen automatiske beslutninger om menneskerAnsættelser, løn, advarsler og afskedigelser besluttes af mennesker. Karma må rangere en kandidat mod en jobprofil og opsummere en evaluering, men den afviser, bedømmer eller markerer ikke en person – og det kan ikke slås til.
- Jeres data træner ikke andres modellerKarma arbejder på jeres datasæt. Indholdet af jeres medarbejderposter, ansøgninger og samtalesvar bruges ikke til at træne modeller, som andre kunder får gavn af.
- Karma ser præcis det, du ser – og ikke mereAssistenten kører inden for den samme rollemodel som resten af platformen. Spørger du om noget, din rolle ikke har adgang til, svarer den ikke – en AI-genvej uden om adgangsstyringen ville være den dyreste form for bekvemmelighed.
- En score, du kan skille adNår Karma giver et tal, kan tallet forklares. Et kandidatmatch er den vægtede jobprofil scoret akse for akse, så du ser, hvilket krav nogen mangler, i stedet for at få at vide, at de er en 78.
- Alt, den gjorde, står i revisionsloggenHvert forslag registreres med, hvad Karma foreslog, hvad der blev ændret før godkendelsen, hvem der godkendte, og hvornår. Loggen kan ikke redigeres – heller ikke af os.
- Den kan slås fraKarma kan slås fra pr. modul. Nogle organisationer vil have den i rekruttering og ingen steder i nærheden af løn; det er et legitimt standpunkt, og produktet skal kunne rumme det.
- Vi siger det, når den tager fejlEn assistent, der har ret det meste af tiden, skal stadig tjekkes. Karma markerer, hvad den har udledt, og holder det redigerbart, og vi vil hellere have, at den siger, den ikke ved det, end at den skriver en selvsikker sætning om nogens sygefravær.
Hvor vi stopper
Det, vi har besluttet ikke at bygge.
Produktivitetsscorer for enkeltpersoner. Sentimentanalyse af det, folk skriver i samtaler eller pulsmålinger. Automatisk afvisning af ansøgere. Scorer for opsigelsesrisiko knyttet til en navngiven person. Hver eneste af dem er teknisk ligetil og kommercielt fristende, og hver af dem ændrer, hvordan det føles at arbejde et sted.
Karma leder efter mønstre på gruppeniveau – et team, der glider over sit fraværsbudget, en række korte fravær, der ligner noget andet – og giver dem videre til et menneske, der kender sammenhængen. Mønstret er en grund til at tage en samtale, ikke en dom.
Beder en kunde om en af tingene på listen, er svaret nej. Vi taber hellere handlen end at finde ud af bagefter, hvad det blev brugt til.
Kom med jeres sværeste AI-spørgsmål.
Vi tager gerne compliance-snakken med jeres DPO, før vi overhovedet viser produktet.