Een AI-agent maken in 7 stappen

Bedrijven proberen meer waarde te halen uit generatieve AI door deze technologie op te nemen in de dagelijkse bedrijfsprocessen. Daarvoor implementeren ze software genaamd AI-agenten in een reeks applicaties. Deze agenten zijn ontworpen om schriftelijke en gesproken gesprekken te voeren en databases te doorzoeken om complexe taken uit te voeren, en hoeven niet vooraf te worden geprogrammeerd over hoe ze in bepaalde situaties te werk moeten gaan.

AI-applicaties op basis van agenten kunnen worden geïmplementeerd om stap voor stap de informatie te verzamelen die ze nodig hebben via interactie met computergebruikers en hun agenda's, door gegevens uit lokale en cloudsystemen te halen en door zoekmachines of andere websites te gebruiken om vragen te beantwoorden of acties uit te voeren. Dankzij training op basis van onderliggende grote taalmodellen (large language models, LLM's) voor AI kunnen deze applicaties krachtige prognoses maken en in gewone taal communiceren met menselijke gebruikers.

Aanbieders van applicaties op het gebied van productiviteit, klantbeheer en backoffice bieden hun klanten al ontwerpstudio's aan waarmee AI-agenten kunnen worden aangepast, geïnstrueerd en geactiveerd en waarmee ook eigen AI-agenten kunnen worden gecreëerd. Hieronder worden een aantal nuttige richtlijnen gegeven voor het aanpassen van een AI-agent voor bepaalde taken en wordt beschreven hoe een agent kan worden gebouwd en geïmplementeerd in zeven stappen.

Wat zijn AI-agenten?

De software van AI-agenten maakt gebruik van LLM's die zijn getraind aan de hand van grote hoeveelheden gegevens om relaties te vinden en verbanden te leggen tussen concepten. Daardoor kunnen relevante voorspellingen worden gedaan over wat computergebruikers bedoelen bij de communicatie in gewone taal. Agenten zijn ontworpen om als bemiddelaar tussen gebruikers en taalmodellen op te treden en actief stappen te ondernemen om problemen aan te pakken op diverse gebieden.

Ze kunnen organisaties helpen bij het automatiseren van terugkerende processen, zoals het opstellen van financiële prognoses, het uitvoeren van meerdere stappen in een wervingsproces van HR of het samenvatten van accountgegevens en het identificeren van upsellingkansen voor verkopers.

Een AI-agent maken in 7 stappen

AI-agenten moeten de organisatorische rollen van gebruikers begrijpen, de juiste gegevens uit bedrijfsdocumenten kunnen halen om workflows relevant te houden en reageren op prompts in gewone taal in plaats van vooraf gecodeerde instructies te volgen. Om die flexibiliteit mogelijk te maken onder veranderende omstandigheden, moet wat voorbereidend werk worden gedaan.

1. Kies de strategie voor het bouwen van agenten. Bedrijven moeten van tevoren beslissen of ze hun eigen agenten willen bouwen of kant-en-klare agenten van softwareleveranciers willen aanpassen om processen te automatiseren. Aangezien het testen en uitrollen van AI-agenten zich in de meeste bedrijfstakken nog in een vroeg stadium bevindt, kiezen de meeste bedrijven er waarschijnlijk voor om kant-en-klare agenten aan te passen om zo een betere uitgangspositie te creëren voor het realiseren van meerwaarde. Bij de beslissing over de strategie moeten organisaties rekening houden met het volgende:

• AI-talent onder het personeel: voor het ontwerpen van aangepaste agenten moeten AI-ontwikkelaars, datawetenschappers en experts op het gebied van gebruikersinterfaces de nodige programmering en systeemintegraties verrichten, terwijl applicatiebeheerders in een ontwerpstudio-omgeving kunnen werken om kant-en-klare agenten aan te passen.
• Expertise in het trainen van modellen: de meeste bedrijven hebben niet de juiste kennis in huis voor het selecteren van een LLM dat nodig is voor het ontwikkelen van geheel nieuwe AI-agenten, en het finetunen van zelfontwikkelde modellen om te voorkomen dat deze na verloop van tijd onnauwkeurig worden.
• Kosten: voor het bouwen van geheel nieuwe agenten is vooraf een hogere investering in ontwikkeling nodig. Daarnaast worden kosten gemaakt voor API-aanroepen naar een LLM. Naast de abonnementen voor SaaS-applicaties die al worden betaald, brengt het aanpassen van kant-en-klare AI-agenten van een leverancier zoals Oracle geen extra kosten met zich mee.
• Gegevens van hoge kwaliteit: bedrijfsgegevens moeten worden voorbereid op AI voordat agenten er gebruik van kunnen maken. Dat houdt vaak in dat de gegevens moeten worden omgezet in vectorinsluitingen, die de relaties tussen concepten wiskundig tonen. Aan de hand daarvan kan worden afgeleid wat gebruikers bedoelen als ze een vraag stellen. Organisaties die zelf agenten maken, moeten ook opletten voor 'overfitting', wat betekent dat een LLM zich te veel op de gegevens waarop het werd getraind blijft richten en niet kan generaliseren naar nieuwe kennisgebieden.
• Governance en toezicht: bedrijven willen misschien agenten die hun werk kunnen documenteren en transparantie bieden aan managers in de bedrijfstak die geen specifieke IT-kennis hebben. IT-afdelingen moeten ook overwegen om agenten geen toegang te geven tot gevoelige gegevens die niet bekend of openbaar mogen worden gemaakt aan bepaalde werknemers.

2. Selecteer een LLM of gebruik een kant-en-klaar model. Leveranciers van SaaS-applicaties die hun klanten de mogelijkheid bieden om agenten te verfijnen in een ontwerpstudio, hebben waarschijnlijk vooraf al LLM's geselecteerd waarmee hun software kan communiceren, of ze bieden beheerders op dat vlak een beperkte keuze. Organisaties die geheel nieuwe agenten bouwen, moeten kiezen uit LLM's van Anthropic, Cohere, Google, IBM, Meta (ontwikkelaar van de populaire Llama-modellen), Microsoft, Mistral of OpenAI. Hiermee krijgen deze bedrijven de controle over alle lagen van de softwarestack van hun agenten, inclusief het onderliggende model. Het betekent ook dat ze veel meer softwarecomponenten moeten onderhouden dan bedrijven die kant-en-klare agenten aanpassen.

3. Ontwerp een workflow en definieer de tools. Het aanpassen van kant-en-klare agenten is een taak voor een applicatiebeheerder, en niet voor een algemene zakelijke gebruiker. Beheerders kunnen beginnen met vooraf ontworpen workflowsjablonen (gebruiksscenario's met code erachter in een catalogusweergave) of nieuwe, aangepaste workflows maken. Voor het definiëren van workflows van kant-en-klare agenten kunnen beheerders specifieke instructies in gewone taal invoeren in de velden van een ontwerpstudio voor agenten of acties selecteren in een lijst om aan te geven hoe de agent met gebruikers moet communiceren, gegevens moet weergeven of afspraken moet plannen. Beheerders kunnen ook kiezen welke tools de agent moet gebruiken om vragen te beantwoorden en voorbeeldvragen opgeven die werknemers kunnen stellen.

Aan de hand van dit proces kan de rol van de agent worden gedefinieerd, waarbij duidelijk wordt beschreven hoe de agent een taak moet uitvoeren en tot welke informatie de agent toegang moet hebben. Een agent in een HR-applicatie die gezondheidsvoordelen uitlegt aan werknemers, heeft bijvoorbeeld toegang nodig tot medische beleidsdocumenten over gezichtsvermogen, tandheelkunde en andere vormen van zorg, terwijl een agent voor financiële vergoedingen informatie nodig heeft over door de werkgever gesteunde pensioen- en aandelenplannen (daarover hieronder meer).

4. Upload documenten voor RAG. Nu de agent de juiste instructies en tools heeft gekregen, kan een beheerder een documentuploader gebruiken om bedrijfsdocumenten voor te bereiden op RAG (retrieval augmented generation), een AI-techniek waarbij een LLM tijdens runtime bedrijfsdocumenten en -gegevens krijgt aangeleverd om datgene wat het model tijdens de training heeft geleerd, uit te breiden. De beheerder geeft instructies in gewone taal over hoe de agent de documenten moet gebruiken. De vectordatabase waarmee tijdens runtime zeer relevante resultaten worden geleverd op basis van wat een computergebruiker bedoelt, wordt met effectieve software voor het bouwen van agenten geabstraheerd.

5. Maak een agent met een klik op een knop. Nu de basis is gelegd met instructies, onderwerpen en documenten, kan de beheerder een agent aanmaken in een ontwerpstudio door een naam op te geven en op een knop te klikken. Via instructies in gewone taal worden de mogelijkheden van de agent doorgegeven aan de workflow (of andere agenten). AI-agenten worden zodanig ontworpen dat ze al doende leren hoe ze hun prestaties kunnen verbeteren door middel van een wiskundig proces van testen, fouten en beloningen dat 'reinforcement learning' wordt genoemd.

Bedrijven die nieuwe agenten ontwikkelen zonder gebruik te maken van een ontwerpstudio, moeten mogelijk integraties toevoegen aan financiële, HR-, klantbeheer- en andere applicaties, evenals databases en documenten van gebruikers. Frameworks voor AI-agenten bieden softwarearchitecturen, communicatieprotocollen, verbindingen naar cloudgebaseerde en lokale gegevensbronnen en monitoringtools als hulpmiddel voor bedrijven om nieuwe agenten te bouwen, zodat het niet nodig is om alle code helemaal opnieuw te schrijven. Populaire opensourceframeworks zijn LangChain, LlamaIndex en AutoGen van Microsoft Research.

Studio-omgevingen voor agenten omvatten soms ook een framework waar beheerders niet rechtstreeks mee hoeven te communiceren.

6. Geef grenzen aan. Dit is het moment om begrenzingen in te stellen om ervoor te zorgen dat agenten hun nauwkeurigheid kunnen behouden en kunnen bepalen wanneer er goedkeuring moet worden gevraagd voordat acties worden uitgevoerd. De beheerder die de agent instelt, kan bijvoorbeeld een vereiste toevoegen om goedkeuring te krijgen van een medewerker voordat een e-mail wordt verzonden of een record wordt bijgewerkt.

Beheerders kunnen ook voorwaarden opgeven voor het beantwoorden van een vraag of de instructie toevoegen dat de onderliggende LLM informatie uit het IT-systeem van een bedrijf moet halen of de gebruiker om uitleg moet vragen, in plaats van een antwoord te verzinnen (een nadeel van generatieve AI dat 'hallucineren' wordt genoemd). Een beheerder kan bijvoorbeeld typen: zorg ervoor dat u informatie hebt over het aantal gezinsleden door dit aan de gebruiker te vragen of op te vragen uit het systeem. Als u het antwoord niet weet, verzin dan geen antwoord.

Agenten kunnen ook zo worden ontworpen dat ze de mogelijkheden voor contentmoderatie overnemen van de cloudservice waarop ze worden uitgevoerd.

7. Test, implementeer en monitor de agent. Via een testgebied in de ontwerpstudio kunnen beheerders een voorbeeldinteractie doorlopen om te meten of de reacties van de agent nuttig en relevant zijn en te controleren welke bronnen worden aangehaald. Ze kunnen ook zien hoe een gebruikersinteractie verandert als de organisatie de instructies van de agent of de onderliggende LLM wijzigt. Vervolgens kan een beheerder de agent rechtstreeks vanuit de ontwerpstudio implementeren.

Agenten kunnen hun prestaties in de loop van de tijd verbeteren door te meten welke combinaties van RAG-gegevens en gebruikersprompts de nuttigste resultaten hebben opgeleverd. Bedrijfsmanagers kunnen vervolgens de prestaties van de agenten beoordelen door de feedback in toekomstige interacties met gebruikers op te nemen.

Oracle AI Agent Studio voor Fusion Applications gebruiken om agenten aan te passen in Oracle Applications

Met Oracle AI Agent Studio kunnen IT-beheerders AI-agenten instellen in Oracle Fusion Cloud Applications. Deze agenten kunnen gebruikers helpen met diverse taken, waaronder het oproepen van hun saldo voor betaald verlof, het ophalen van de aankoopgeschiedenis van klanten, het verwerken van productretouren en het analyseren van foto's van productieapparatuur om de kosten van reparaties te schatten.

Fusion beheerders beginnen met kant-en-klare sjablonen, die als tegels worden weergegeven in hun workspace en de benodigde code bevatten om aan de slag te gaan. Ontwerpers van agenten geven de agent die ze willen implementeren vervolgens instructies over de omvang en de grenzen van de functie en welke documenten en andere gegevensbronnen moeten worden doorzocht. Ze kunnen ook geheel nieuwe agenten maken. De agenten worden zonder extra kosten opgenomen in het Fusion abonnement van de klant.

Veelgestelde vragen over het maken van een AI-agent

Wat doet een AI-agent?

AI-agenten zijn virtuele assistenten die worden ingezet in bedrijfsapplicaties of persoonlijke productiviteitssoftware om vragen van computergebruikers te beantwoorden of hen te helpen bij het uitvoeren van taken. In tegenstelling tot eerdere softwareassistenten, die waren gebaseerd op vooraf gecodeerde regels en workflows, zijn AI-agenten ontworpen om natuurlijke taalprompts en context te begrijpen en zich aan te passen aan nieuwe situaties.

Zijn AI-agenten de toekomst?

AI-agenten kunnen steeds nuttiger worden, omdat ze in verschillende bedrijfsapplicaties worden geïmplementeerd en minder afhankelijk zijn van menselijke tussenkomst, en omdat ze leren van interacties met diverse zakelijke gebruikers en consumenten.