Guide · Hverdags-AI
I guiden om agenter viste jeg, at en agent kan handle på egen hånd. Det her er den nødvendige fortsættelse: hvor meget bør den? Svaret er ikke et enten-eller. Det er tre håndtag, du selv indstiller.
Fra "tør vi det her?" til regler, du kan indstille.
Bag en lille regel med kaffe og en morgen-mail gemmer sig hele guidens pointe: hvor lang snor må en agent have?
Hver morgen klokken seks ligger der en mail klar til mig med dagens opgaveoverblik. Den er skrevet af en agent. Men læg mærke til detaljen: den ligger som kladde. Agenten har fået én benhård regel med på vejen: den må skrive alt det, den vil, men den må aldrig trykke send.
Den lille regel er hele denne guide i én sætning. Spørgsmålet, jeg oftest får, når jeg viser agenter frem, er nemlig ikke "hvordan virker det?" men "tør man det?": tør man give et stykke software adgang til sin mail, sine filer, sine kundedata? Og svaret er: det kommer an på, hvordan du har indstillet snoren.
Bekymringen er ikke paranoia. De typiske agent-uheld er veldokumenterede. Hos sikkerhedsfirmaet Kiteworks beskriver Tim Freestone agenter, der fortsætter ufortrødent efter en fejl, digter detaljer op eller tager handlinger, ingen har bedt om. Ikke ondskab: bare en agent med for lang snor og for lidt opsyn.
Resten af guiden handler om dem.
To ord bliver ofte rodet sammen, når nogen taler om agent-sikkerhed. Her er forskellen, skrællet for jargon.
To ord går igen, når voksne taler om agenter i drift. De er enkle, når man skræller jargonen af.
Guardrails (autoværn) er grænser, der er sat på forhånd: hvad agenten overhovedet kan se, og hvad den overhovedet kan gøre. Et autoværn diskuterer ikke med chaufføren; det gør bare visse uheld fysisk umulige.
Human-in-the-loop (et menneske med i loopet) er kontrol undervejs: et sted i flowet, hvor agenten skal standse og vente på et menneskes ja, før den må fortsætte. Kladden i min indbakke er præcis det: agenten gjorde arbejdet, jeg trykker send.
Fidusen er kombinationen. Autoværn uden opsyn betyder, at agenten kan lave alle de fejl, der er inden for hegnet. Opsyn uden autoværn betyder, at du skal godkende alt, og så har du ikke sparet noget. Bureauet Digital Applied beskriver samme tankegang som en risikotrappe: fuld fart på de ufarlige, omgørlige handlinger, og human-in-the-loop ved de dyre, uigenkaldelige.
En kladde kan slettes, en rapport kan skrives om. En sendt mail, en betaling og en slettet fil kan ikke. Det uigenkaldelige er der, mennesket skal stå.
Agent-sikkerhed lyder teknisk. De tre spørgsmål, det faktisk kræver, er det ikke.
Alt det fine i agent-sikkerhed koger ned til tre spørgsmål, du kan stille (og indstille) uden at være teknisk.
Giv agenten adgang til det, opgaven kræver, og intet andet. Skal den skrive et ugeoverblik, skal den kunne læse kalenderen, ikke ændre i den. Det begrænser skadesradius, før noget overhovedet går galt, som Tim Freestone fra Kiteworks formulerer det.
Definér de handlinger, der skal forbi et menneske: sende, betale, slette, ændre noget kundevendt. Alt andet må agenten selv. Godkendelsen skal sidde ved de uigenkaldelige handlinger: ikke ved alle, lyder rådet fra StackAI.
Agenten skal efterlade spor: hvad den læste, hvad den valgte, hvad den lavede. Min morgenagent sender mig en statusmail hver gang. Det er min log. Uden spor kan du ikke fange den dag, den vurderer forkert.
Læg mærke til, at ingen af de tre håndtag kræver, at du kan kode. De kræver, at du beslutter noget: hvilke data, hvilke handlinger, hvilket spor. Det er ledelsesarbejde, ikke teknik, og det er derfor, det er dig og ikke værktøjet, der skal gøre det.
Ikke alle agent-opgaver skal have samme snor. Tre eksempler fra min egen hverdag viser hvorfor.
Snorens længde afhænger af opgaven. Her er tre agenter fra min egen hverdag, placeret på skalaen.
Fakturagrundlag, priser, persondata: her laver agenter hos mig kun forslag, som et menneske behandler. Uigenkaldeligt + dyrt = human-in-the-loop hver gang, uanset hvor god modellen er.
Agenten, der samler mine opgaver fra flere systemer, må læse i alt, men kun skrive en kladde. Den rører ved min mail, og mail er udadvendt: en forkert besked til en forkert modtager kan ikke kaldes tilbage. Derfor er jeg selv i loopet ved send-knappen.
Agenten bag Journalens mandagsresumé publicerer selv. Hvorfor tør jeg det? Fordi fejlen er billig: et kikset resumé er pinligt, ikke farligt, og jeg kan rette eller fjerne det på to minutter. Omgørligt + ufarligt = lang snor.
Mønstret er til at tage med hjem: placér hver agent-opgave efter to spørgsmål: kan det gøres om? og hvad koster en fejl? Billigt og omgørligt: lad den køre, og tjek loggen. Dyrt eller uigenkaldeligt: agenten laver udkastet, mennesket trykker på knappen. Det er samme princip som StackAIs anbefalinger for godkendelsesflows, bare uden diagrammerne.
Når agenten har vist sig pålidelig i loggen uge efter uge, kan du forlænge den. Bevidst, ét håndtag ad gangen.
Guardrails er ikke kun god skik. Der er også en juridisk frist, bare senere end de fleste tror.
Til sidst det formelle, for det her er ikke længere kun sund fornuft. Her er nuancen, mange overser: EU selv udskød fristen sommeren 2026. Kravene til højrisiko-AI, deriblandt kernekravet om menneskeligt opsyn (at et menneske skal kunne kontrollere og underkende AI'ens beslutninger), gælder først fra 2. december 2027 for selvstændige systemer og fra 2. august 2028 for AI indbygget i regulerede produkter. Det, der faktisk trådte i kraft den 2. august 2026, er en smallere regel i AI-forordningen: gennemsigtighed. AI-genereret indhold skal kunne kendes som sådan. Vil du have detaljerne uden selv at læse lovteksten, har privacy-rådgiver Rostyslav Prystai fra Legal Nodes skrevet en grundig gennemgang af 2026-kravene.
Rolig nu: langt det meste hverdags-AI i en lille virksomhed (tekstudkast, resuméer, interne værktøjer) er ikke højrisiko, hverken nu eller i 2027. Højrisiko er de systemer, der træffer beslutninger om mennesker: rekruttering og CV-screening, kreditvurdering, eksamen og sundhed, som Martin Terp fra danske AI-AG gennemgår i sin guide til SMV'er. Men bemærk: reglerne gælder uanset virksomhedens størrelse. Bruger du et AI-værktøj til at sortere ansøgninger, er du omfattet, om I så er ti ansatte, blot med udskudt frist.
Det praktiske i det: udskudt er ikke aflyst. Har du allerede indstillet de tre håndtag fra afsnit 03, har du grundstenene til det, loven ender med at kalde menneskeligt opsyn og dokumentation, længe før fristen rammer. Guardrails er med andre ord ikke kun tryghed. Det er også den billigste vej til at være klar, når 2027 kommer. Herhjemme er Digitaliseringsstyrelsen det centrale kontaktpunkt for AI-forordningen. Deres FAQ om AI-forordningen er et godt officielt sted at starte.
Fristen er udskudt til 2027, men skriver den udkast og resuméer, er de tre håndtag din værktøjskasse allerede nu.
Eller en opgave, du gerne ville automatisere, hvis bare du var tryg ved det? Skriv til mig, så finder vi den rigtige længde snor sammen.
Skriv til mig →Tre håndtag: hvad kan den nå, hvad kræver et ja, hvilket spor efterlader den.
Mennesket skal stå ved det uigenkaldelige. Kladder og udkast: lang snor. Send, betal, slet: kort.
Start med kort snor, og forlæng den bevidst, når loggen har vist, at agenten kan.