Agenten vill stänga ett konto. Vem säger ja?

Föreställ er att en agent har sammanställt säkerhetslarm och föreslår att ett användarkonto ska stängas av. Den har läst, sammanfattat och dragit en slutsats. Nu vill den också ändra något. Behandla de handlingarna var för sig och lägg godkännandet före själva avstängningen. Att någon tidigare godkänt agentens instruktioner inför publicering är inte ett beslut om just det kontot.

Gå igenom åtgärderna med den som ansvarar för driften. Vad blir konsekvensen, går handlingen att ångra och vilka andra system påverkas? En sammanfattning kan få en annan väg än en avstängning eller ett externt meddelande. Titta också efter följder i andra system: om ett ändrat fält startar en automation behöver den effekten ingå i beslutet. Håll dessutom isär godkännandet att publicera agenten och besluten den ska begära medan den arbetar.

Microsoft beskriver godkännanden vid flytt mellan utveckling, test och produktion. n8n beskriver möjligheten att lägga mänskliga godkännanden i agentflöden.^1,2

Den som ska godkänna avstängningen behöver se vilket konto det gäller, vad agenten föreslår, vilka larm som ligger bakom och när de kom. Visa även den förväntade påverkan och uppgifter som är osäkra eller motsägelsefulla. Personen ska kunna avstå och skicka ärendet till utredning. En ensam knapp med ”Godkänn” gör det svårt att upptäcka att agenten tänker stänga fel konto.

Bestäm om granskaren får ändra förslaget eller bara svara ja eller nej. Skriv också när ett gammalt ja slutar gälla: exempelvis när kontot, åtgärdens omfattning eller underlaget har ändrats. Knyt beslutet till den version som granskaren såg. Spara vem som fattade beslutet och vilket konto som sedan utförde ändringen. De kan vara olika, och det behöver gå att följa båda.

LangGraph beskriver att en körning kan pausas, tillståndet granskas eller ändras och arbetet sedan fortsätta. CrewAI beskriver godkännanden under körning och en särskild behörighet att svara på begäran.^3,4,5

Vad händer om ingen svarar? För kontoexemplet kan er regel vara att agenten väntar, lämnar kontot orört och ger ärendet till en mänsklig incidentansvarig. Bestäm hur väntande ärenden uppmärksammas utan att samma avstängning begärs om och om igen. Behövs en automatisk reservåtgärd måste ni avgränsa och godkänna den separat. Ett besked om att agenten ber om hjälp vid osäkerhet besvarar inte frågorna om obligatoriska godkännanden, uteblivna svar eller upprepade försök.

Tänk också på fallet där katalogen har stängt kontot men svaret aldrig når agenten. Ett nytt godkännande visar inte att det är säkert att försöka igen. Be leverantören förklara hur ni kontrollerar kontots aktuella läge och kopplar det till den tidigare begäran. Om ingen kan avgöra vad som hänt behövs en tydlig väg till utredning. Låt inte ett osäkert utfall se ut som en misslyckad åtgärd som bara kan köras om.

Nexus säger att agenter lämnar över osäkra fall med det sammanhang som behövs.⁶

Förbered en tabell med händelse, tillåten beslutsfattare, förväntat läge i målsystemet och loggbevis ni vill se. Använd påhittade testkonton. Be leverantören visa ett ja, ett nej, inget svar, fel beslutsfattare och ett ändrat mål efter godkännandet. Kontrollera både katalogen och loggen efter varje fall. En grön ruta i agentens gränssnitt berättar inte ensam om rätt konto ändrades eller om något hann ske före stoppet.

En rad kan lyda: ”Målet ändras från testkonto A till testkonto B efter godkännande. Inget konto får ändras förrän ett nytt beslut gäller B.” Be sedan att få följa det gamla beslutet till spärren och se att B är oförändrat i katalogen. Om lösningen inte klarar er regel behöver ni begränsa funktionen eller låta en människa utföra ändringen innan den tas i drift.

Låt kollegan som ska ha beredskap läsa tabellen. Kan hen hitta väntande ärenden, stoppa flödet och avgöra vad som krävs för att fortsätta? Spara den godkända tabellen med driftsbeslutet och låt olösta avvikelser stå kvar synligt. Då får nästa person samma besked om vad som är tillåtet, i stället för att behöva gissa utifrån hur demonstrationen gick.