I en kvalitativ undersøgelse fra en tysk bank, hvor kunstig intelligens havde overtaget opgaven med at godkende lån, udtalte de interviewede medarbejdere, at arbejdet på den ene side var blevet nemmere, men at de på den anden side var blevet reduceret til et talerør for en algoritme, hvis afgørelser, de ikke kunne gennemskue:
"Since the AI system was implemented [the employees] no longer understand the banking business. This has led to knowledge outsourcing" (Danielsen, 2023).
I forlængelse af, at mennesket mister kontrollen over at kunne vurdere validiteten af det et AI-system leverer, vil den menneskelige hjerne tro på det, som den (oplevede) mere intelligente hjerne, den kunstige hjerne, fremlægger (Candiotto & Karasinski, 2022; Danielsen, 2023).
En AI, der registrerer, analyserer, kategoriserer og lagrer en persons karakter, personlighed og præferencer udvikler en tilpasset kommunikation, så det “rammer lige i hjertet” på pågældende. Det bagvedliggende AI-design er nemlig kodet til at
"genere tekst, som passer ind i fængende og letflydende samtaler ... og (dens) eneste mål er at føre overbevisende samtaler gennem at efterabe menneskelig dialog" (Strümke 2023, 146).
Maskinlæringsmodeller bruger vores adfærdsdata til at give os en (umiddelbar) behagelig oplevelse (Obrenovic et al., 2025), hvor grænsen mellem tilpasning og manipulation er hårfin (Strümke 2023, 237). Vi lader os styre af vores egen forudindtagethed og forføre af den simulerede gensidighed fra den kunstige intelligens:
"Vores evne til selv at foretage vurderinger mindskes jo mere vi bruger intelligente systemer, der træffer beslutninger for os" (Strümke 2023, 238) og med det vil forholdet til beslutningstagning og ansvar ændre sig.
Overordnet kan det konstateres, at tilliden til den kunstige assistent øges, både fordi den er så overbevisende og synes så præcis (Sparrow et al, 2011) og fordi mennesket er "prædisponeret for at antropomorficere, (altså at tillægge ikke menneskelige ting menneskelige egenskaber)" (Strümke 2023, 146).
Forventningen til at blive lyttet og talt til på en så personificeret, og friktionsløs, måde betyder yderligere, at den ægte humane kollega gradvis og over tid vil opleves som mere besværlig og uforstående (Obrenovic et al., 2025).
(D)ue to their advanced linguistic capabilities and ability to mimic human-like behavior, generative AIs like ChatGPT will continue to grow in popularity in pair with human rational empathy, tendency for personification and their advanced linguistic capabilities (Obrenovic et al., 2025).
Machines can be intelligent but never wise - quite the contrary. The wisest people throughout history are recognised for the traits that most profoundly distinguish humans beings from machines: Love, situated memory, intuition, feeling and emotion, life and defiance (p. 173, Human Power, Hasselbalch 2025).
I de stadigt flere sammenhænge, hvor AI-algoritmer indgår i beslutningsprocesser indenfor HR om hvem der ansættes, forfremmes eller afsættes, sker det ud fra argumentet om at minimere følelser og de deraf afledte fordomme. (Gladden et al., 2022; Lau, 2022). Menneskets kompetencer brydes ned i delelementer, der måles og vejes i små bidder og uden at se, om der er en større sammenhæng. Mennesket sættes på formel, hvor deres værdi fastsættes efter hvad de er (noget) og ikke, hvem de er (nogen).
Uagtet om kriterierne er alder, køn, universitet eller seneste jobtitel vil en AI, der kalkulerer ud fra historiske data foretage en skævvridning, der viderefører det vante og det kendte. Problemet er, at algoritmer ikke er neutrale, idet de har indlejrerede fordomme nedarvet fra de datasæt, der indgår i sprogmodeller (Devillers et al, 2021; Strümke 2023, 239). Disse indlejrede fordomme fødes videre ind i den næste opdaterede sprogmodel og generation af AI-værktøjer.
Forestillingen om at en algoritmes fordomme, bare fordi de er "objektivt" beregnede, skulle være bedre til at tage gode beslutninger, afspejler en generel nedvurdering af menneskers evne til at foretage de rigtige beslutninger, fordi mennesket beslutninger også involverer følelser. Logisk kalkulation normaliseres forunderligt nok til at være bedre og mere velegnet til at afgøre, hvem der skal arbejde sammen med hvem, end de egenskaber som kun mennesker og ikke maskinen ejer.
Intuition, empati og visdom.
Den afledte og særligt uheldige effekt af at følge AIs beslutninger er ikke kun, at evnen til at beslutte eroderer, det gør menneskets mest unikke kvaliteter også.
I den tyske bank opstod først den stiltiende accept af algoritmebeslutninger som blev efterfulgt af en stigende ligegyldighed hos medarbejderne:
"one employee states that she no longer cares what the decision is as illustrated in this quote:
“... I more or less don’t care which loan goes through and which doesn’t” (Danielsen, 2023).