Tänk dig att en kund ber sin AI-agent att boka om en resa. Kunden har redan valt er. Ändå kan bokningen ta stopp innan agenten ens kommer åt den, om den automatiserade trafiken blockeras.
Den 5 november presenterade Cloudflare sitt arbete med Trusted Agent Delegation. Initiativet tar upp en fråga som blir viktig när AI-agenter agerar åt människor på webben. Hur kan en tjänst veta vem som står bakom agenten och vem som ansvarar för det den gör? Cloudflare beskriver ett pågående arbete med öppna protokoll och samverkan mellan aktörer.
Samma agenttjänst kan användas av både kunder och personer som försöker missbruka tjänsten. Blockerar ni trafiken kan ni stänga ute båda. Släpper ni fram agenten återstår frågan om vad den har mandat att göra. En agent kan ha fått i uppdrag att leta fram en bättre avgång. Det uppdraget behöver tjänsten kunna skilja från tillåtelsen att boka om biljetten och godkänna en extra avgift.
Var i kundresan behöver kunden ta över?
Börja med ett flöde där en agent skulle kunna spara tid åt kunden. I en ombokning kan den till exempel få ta fram alternativa avgångar och visa vad de kostar. Om bytet innebär en extra avgift kan tjänsten be kunden att godkänna den innan bokningen ändras. Då behöver mjukvaran kunna kontrollera vem agenten företräder, sätta gränser för vad den får göra och göra det möjligt att följa upp vad som hände.
I HiQ AI Autonomy Playbook får du verktyg för att bedöma hur mycket handlingsutrymme en agent kan få, vad ett fel skulle kosta och var mänsklig kontroll behövs.
Ladda ner AI Autonomy Playbook
