Karma tar fram utkastet.En människa beslutar.
Det finns goda skäl att vara skeptisk till AI inom HR. Det här är reglerna vi bygger Karma efter – nedskrivna så att du kan hålla oss till dem, och så att våra egna produktbeslut har något att förlora mot.
Reglerna
Åtta regler, nedskrivna.
- Inget skrivs förrän en människa godkänner detKarma förbereder ändringar och visar exakt vilka fält den kommer att skriva. Tills någon trycker på godkänn har inget hänt med dina data. Det här är ingen inställning med ett mer tillåtande läge gömt bakom – det är så assistenten är byggd.
- Inga automatiserade beslut om människorAnställning, lön, varningar och uppsägningar beslutas av människor. Karma kan rangordna en kandidat mot en jobbprofil och sammanfatta en utvärdering, men den avvisar, betygsätter eller flaggar inte en person – och det går inte att slå på.
- Dina data tränar inte någon annans modellKarma arbetar med din datamängd. Innehållet i dina medarbetarposter, ansökningar och samtalssvar används inte för att träna modeller som andra kunder har nytta av.
- Karma ser exakt det du ser, och inget merAssistenten körs inom samma rollmodell som resten av plattformen. Fråga den om något din roll inte har åtkomst till, så svarar den inte – en AI-genväg förbi åtkomststyrningen vore den dyraste sortens bekvämlighet.
- Ett värde du kan plocka isärNär Karma tar fram ett tal går talet att förklara. En kandidatmatchning är den viktade jobbprofilen poängsatt axel för axel, så du ser vilket krav någon saknar i stället för att få höra att hen är en 78.
- Allt den gjorde finns i revisionsloggenVarje förslag registreras med vad Karma föreslog, vad som ändrades före godkännandet, vem som godkände det och när. Loggen kan inte redigeras – inte heller av oss.
- Den kan stängas avKarma kan stängas av per modul. Vissa organisationer vill ha den i rekryteringen och ingenstans i närheten av lönen; det är ett legitimt ställningstagande, och produkten måste tillåta det.
- Vi säger när den har felEn assistent som har rätt för det mesta behöver ändå kontrolleras. Karma markerar vad den har härlett och håller det redigerbart, och vi vill hellre att den säger att den inte vet än att den skriver en självsäker mening om någons sjukfrånvaro.
Där vi stannar
Saker vi har bestämt att inte bygga.
Produktivitetspoäng för enskilda personer. Sentimentanalys av vad folk skriver i medarbetarsamtal eller pulsundersökningar. Automatiskt avvisande av sökande. Poäng för risk att säga upp sig kopplade till en namngiven person. Var och en av dem är tekniskt enkel och kommersiellt lockande, och var och en av dem förändrar hur det känns att arbeta någonstans.
Karma letar efter mönster på gruppnivå – ett team som glider över sin frånvarobudget, en rad korta frånvaron som ser ut som något annat – och lämnar dem till en människa som känner sammanhanget. Mönstret är ett skäl att ta ett samtal, inte en dom.
Om en kund ber om något av det som står på den här listan är svaret nej. Vi förlorar hellre affären än upptäcker i efterhand vad det användes till.
Kom med din svåraste AI-fråga.
Vi tar gärna compliance-samtalet med ditt dataskyddsombud innan vi ens visar produkten.