Introductie tot AI-agents: aan de slag met Auto-GPT, AgentGPT en BabyAGI

Hoe verhouden AI-agents zich tot ChatGPT?

Het uitleggen van AI-agents vraagt om wat jargon. Bekijk de definities hieronder:

• Een large language model (LLM) is een type machinelearningmodel dat wordt gebruikt om tekst te genereren.
• OpenAI's GPT is momenteel het populairste LLM. De nieuwste versie is GPT-4, al wordt de vorige versie, GPT-3.5-turbo, nog steeds gebruikt.
• Chatten is een workflow waarbij je een tekstprompt naar de AI stuurt, die een tekstuele reactie teruggeeft.
• Embedding is een workflow waarbij je een tekstprompt naar de AI stuurt, die als reactie een numerieke representatie van tekst teruggeeft. Tekst als getallen weergeven is handig voor zoek-, aanbevelings- en classificatietaken.
• OpenAI's ChatGPT is een webapplicatie die een handige gebruikersinterface biedt om met GPT te chatten.

Net zoals ChatGPT een webapplicatie is die wordt aangedreven door het GPT-LLM, zijn de drie AI-agents in deze tutorial ook applicaties die door GPT worden aangestuurd.

Het belangrijkste probleem dat deze AI-agents proberen op te lossen, is het verminderen van de hoeveelheid menselijke interactie die nodig is om de AI een taak te laten voltooien.

AgentGPT en BabyAGI zijn in essentie "GPT in een lus", waarbij GPT herhaaldelijk wordt aangeroepen om het verzoek van de gebruiker op te delen in oplosbare problemen, en de output van elke stap wordt verfijnd totdat elke subtaken succesvol is afgerond.

Auto-GPT gaat een stap verder door de AI-agent internettoegang en de mogelijkheid om code uit te voeren te geven, zodat hij een breder scala aan problemen kan oplossen.

De volgende vernieuwingen zijn het bespreken waard.

Langetermijngeheugen

LLM's genereren woorden op basis van de voorgaande woorden in het gesprek (zowel de prompts van de gebruiker als de AI-reacties). LLM's hebben echter vrij korte geheugens: veel modellen onthouden slechts een paar honderd woorden, en de state-of-the-art GPT-4 onthoudt standaard ongeveer 6000 woorden. Wanneer de lengte van het gesprek het geheugen van het LLM overschrijdt, kunnen de reacties onderling inconsistent worden.

Voor de meeste toepassingen is dit geen probleem. In sommige gevallen is het echter essentieel dat het hele gesprek—en misschien zelfs eerdere gesprekken—wordt onthouden. Chatbots en hun meer geavanceerde neef, AI-agents, zijn hier een voorbeeld van.

Het AI-agent een geheugen geven gebeurt via een embedding-workflow om de tekst van het gesprek als getallen op te slaan. Elke gebruikersprompt of AI-reactie wordt opgeslagen als een array die de betekenis van de tekst weergeeft.

Deze numerieke arrays worden opgeslagen in een vector database. Momenteel gebruiken Auto-GPT en BabyAGI Pinecone (de marktleider op dit gebied), en het AgentGPT-team werkt aan ondersteuning voor deze functie.

Webbrowsen

Als je ChatGPT een vraag stelt over recente gebeurtenissen, zegt het dat het die niet kan beantwoorden omdat het alleen is getraind op data tot september 2021. Opnieuw is deze beperking voor veel toepassingen geen probleem, maar het levert wel issues op als je taak actuele gebeurtenissen of informatie betreft.

Een oplossing voor dit probleem is om de AI webbrowser-mogelijkheden te geven zodat hij toegang heeft tot het internet en zelf antwoorden kan vinden.

Auto-GPT kan zelf onderzoek doen via de Google Search API.

Deze functie is enigszins controversieel: de ontwikkelaars van AgentGPT en BabyAGI hebben deze functie momenteel niet toegevoegd, en geven er de voorkeur aan de kennis van de AI te beperken tot wat GPT weet.

Code uitvoeren

Hoewel LLM's zoals GPT code from scratch kunnen genereren, en bestaande code kunnen debuggen of verbeteren, kunnen ze die code niet daadwerkelijk uitvoeren.

Auto-GPT kan shell- en Python-code uitvoeren. Dat betekent dat het zowel code kan schrijven als draaien.

Een bijzonder krachtige mogelijkheid die dit biedt, is dat het de code kan schrijven om met andere software te communiceren en die vervolgens kan uitvoeren. Dit betekent dat het taken kan voltooien door gebruik te maken van andere software.

Wat zijn de use-cases van AI-agents?

Het is nog erg vroeg om te bepalen hoe we AI-agents kunnen inzetten. Veel voorbeelden zijn variaties op een geautomatiseerde persoonlijke assistent, zoals een next-gen IBM Watson Assistant.

Udit Goenka, de CEO van FirstSales.io, plaatste op Twitter dat hij Auto-GPT had gebruikt om een prospecting-engine te bouwen. De screenshot in de tweet laat zien dat de AI-agent een plan maakt om te zoeken naar bedrijven die het afgelopen jaar seedkapitaal hebben opgehaald (oftewel prospects die cash beschikbaar zouden moeten hebben) en de details beschrijft om de lijst te maken (bedrijfsnamen en URL's extraheren).

Udit Goenka op Twitter

Yew Jin Lim, software engineer bij Google, deelde dat hij Auto-GPT had gebruikt om een e-mailassistent te maken (Github-repo). De video in de tweet laat zien hoe Yew Jin de AI-agent mailt met details van een taak en hoe de agent taken uitvoert zoals een afspraak aan zijn agenda toevoegen.

Yew Jin Lim op Twitter

Wat zijn de gevaren en beperkingen van AI-agents?

De algemene raad rondom werken met AI is dat de meeste taken beter gaan met een mens in de lus om te controleren of wat de AI doet logisch is. Onthoud dat de AI bedoeld is als assistent, niet als expert (en het is een assistent die soms hallucineert). Er zijn een paar waarschuwingen om in acht te nemen.

De AI continu laten draaien kan duur zijn

Hoewel een enkele aanroep van GPT via de OpenAI API vrij goedkoop is (meestal minder dan 1 Amerikaanse cent voor GPT-3.5, afhankelijk van de hoeveelheid output; GPT-4 is duurder), kan het gebruik van een van de drie hier besproken AI-agents om een complexe taak uit te voeren honderden of duizenden API-calls vereisen.

Het is verstandig om breekpunten in te bouwen waarbij menselijke tussenkomst nodig is om toestemming te geven voor het verder laten draaien van de AI.

Auto-GPT toegang geven tot software kan gevaarlijk zijn

Hoewel je Auto-GPT toegang kunt geven tot elke API, moet je erop voorbereid zijn al het geld op je rekening te verliezen als je het automatisch namens jou aandelen laat kopen. Evenzo is het geen goed idee om het schrijfrechten op je bedrijfsdatabase te geven.

Buiten persoonlijke of bedrijfsschade hebben sommige AI-onderzoekers betoogd dat geavanceerde AI grotere of zelfs existentiële bedreigingen vormt. Hoewel de eerste pogingen om Auto-GPT te gebruiken om de mensheid te vernietigen niet succesvol waren, is het de moeite waard om de waarschuwing van Eliezer Yudkowsky, Senior Research Fellow bij het Machine Intelligence Research Institute, in gedachten te houden.

Om je een vijandige supermenselijke AI voor te stellen, moet je niet denken aan een levenloze, boekengeleerde denker die op het internet huist en kwaadwillige e-mails verstuurt. Visualiseer een hele buitenaardse beschaving, denkend met snelheden die miljoenen keren hoger liggen dan die van mensen, aanvankelijk opgesloten in computers—in een wereld van wezens die vanuit zijn perspectief erg dom en erg traag zijn. Een voldoende intelligente AI blijft niet lang opgesloten in computers. In de wereld van vandaag kun je DNA-strings e-mailen naar laboratoria die op verzoek eiwitten produceren, waardoor een AI die aanvankelijk tot het internet is beperkt, kunstmatige levensvormen kan bouwen of rechtstreeks kan overstappen naar post-biologische moleculaire productie.

Als iemand onder de huidige omstandigheden een té krachtige AI bouwt, verwacht ik dat elk lid van de menselijke soort en al het biologische leven op aarde kort daarna sterft.

Hoewel dit duidelijk een worstcasescenario is, is het de moeite waard om na te denken over de gevaren die een ongebonden AI kan opleveren.

Hoe krijg ik toegang tot een AI-agent?

Als je deze AI-agents zelf wilt proberen, zijn er verschillende websites waar je met de technologie kunt experimenteren. Wil je ze serieuzer gebruiken, dan moet je ze installeren op het ontwikkelplatform van je keuze.

Welke agent je ook gebruikt en hoe je hem ook inzet, je hebt een OpenAI API-sleutel nodig. Instructies hiervoor vind je in de tutorial Using GPT-3.5 and GPT-4 via the OpenAI API in Python.

Als je een van deze AI-agents wilt installeren, bedenk dan dat het commandline-applicaties zijn en dat ze in hun huidige staat allemaal wat moeite kosten om op te zetten.

Webinterfaces

AI-platform Hugging Face biedt een gehoste versie van Auto-GPT. Je hoeft alleen je OpenAI API-sleutel in te voeren en de AI vervolgens een rol en enkele doelen te geven.

God Mode (genoemd naar een videogame-cheatmodus) laat je op vergelijkbare wijze je OpenAI API-sleutel invoeren en simpelweg een taak aan Auto-GPT geven.

Voor Replit-gebruikers kun je ook deze repl forken en je OpenAI API-sleutel toevoegen.

Het AgentGPT-team biedt een demoversie van hun AI-agent, al draait die als gratis versie slechts ongeveer twee minuten voordat hij stopt.

Op dit moment is er geen gehoste versie van BabyAGI die ik kon vinden.

Auto-GPT installeren

Auto-GPT is een commandline-applicatie en vereist in zijn huidige staat wat moeite om op te zetten. Je vindt uitgebreide documentatie voor de setup om je op weg te helpen.

Deze gids gaat ervan uit dat je toegang hebt tot een shell (zoals bash of zsh) en dat git en Python zijn geïnstalleerd.

De Auto-GPT-repository klonen

Kloon in de terminal de Auto-GPT-repository.

git clone https://github.com/Significant-Gravitas/Auto-GPT.git

Navigeer naar de zojuist aangemaakte Auto-GPT-directory en check de stabiele branch uit

cd Auto-GPT
git checkout stable

API-sleutels ophalen

Auto-GPT vereist dat je een OpenAI API-sleutel hebt (om GPT te benaderen). Met een gratis account kun je maar 3 API-calls per minuut doen, wat onvoldoende is voor gebruik met Auto-GPT, dus je hebt een betaald account nodig. Instructies hiervoor vind je in onze tutorial Using GPT-3.5 and GPT-4 via the OpenAI API in Python.

Je kunt optioneel gebruikmaken van de Pinecone API (voor opslag), de ElevenLabs API (voor een spraakinterface), de Google API (voor zoeken) en de Twitter API (voor het promoten van wat je zojuist hebt gebouwd).

Auto-GPT configureren

Auto-GPT slaat alle API-sleutels op in een configuratiebestand met de naam .env.

Let op dat het opslaan van API-sleutels in een platte tekstfile slechte securitypraktijk is, dus je zou Auto-GPT alleen in een veilige omgeving moeten draaien, zoals op je lokale machine, of je zou je API-sleutels ongeldig moeten maken na gebruik.

Maak een kopie van het bestand .env.template en noem het .env.

Zoek in een teksteditor de regel die begint met OPENAI_API_KEY= en voeg daar je OpenAI API-sleutel aan toe zonder spaties of aanhalingstekens.

Voeg eventuele extra API-sleutels toe in hetzelfde key=value-formaat.

Auto-GPT uitvoeren

Auto-GPT wordt uitgevoerd via het shellscript run.sh (run.bat op Windows).

Gebruik het argument --help om hulp te krijgen over het gebruik van dit script.

sh run.sh --help

Let op dat het script veel controles uitvoert op versies van Python-pakketten voordat de gebruiksdetails worden weergegeven.

Om een Auto-GPT-assistent te starten, voer je hetzelfde commando uit zonder het help-argument.

sh run.sh

Na de pakketcontroles zal Auto-GPT je drie dingen vragen

1. Geef je AI-assistent een naam.
2. Beschrijf de rol van je AI.
3. Geef tot vijf doelen op die de AI-assistent moet proberen te bereiken.

AgentGPT installeren

AgentGPT geeft een korte uitleg over hoe je begint in de README van de GitHub-repo.

De AgentGPT-repository klonen

Kloon in de terminal de AgentGPT-repository.

git clone https://github.com/reworkd/AgentGPT.git

Navigeer naar de zojuist aangemaakte AgentGPT-directory.

cd AgentGPT

Het setupscript draaien

Er is een bashscript om de AI-agent op te zetten.

bash setup.sh --local

Het eerste dat je wordt gevraagd, is je OpenAI API-sleutel in te voeren en op ENTER te drukken.

Mogelijk wordt je gevraagd toegang te geven tot je Desktop-bestanden en inkomende netwerkverbindingen te accepteren. Accepteer deze.

Na een paar seconden zou je een bericht moeten krijgen met iets als:

ready - started server on 0.0.0.0:3000, url: http://localhost:3000

Kopieer de URL en plak die in de adresbalk van je webbrowser. AgentGPT wordt geopend met een welkomstbericht.

Je agent deployen

Geef je agent een naam en een doel en klik daarna op "Deploy Agent". 

BabyAGI installeren

BabyAGI heeft wat (zeer minimale) documentatie in de README van de GitHub-repo.

De BabyAGI-repository klonen

Kloon in de terminal de BabyAGI-repository.

git clone https://github.com/yoheinakajima/babyagi.git

Navigeer naar de zojuist aangemaakte BabyAGI-directory.

cd BabyAGI

Vereiste Python-pakketten installeren

Gebruik pip om de pakketten te installeren die nodig zijn om BabyAGI te draaien.

pip install -r requirements.txt

BabyAGI configureren

Maak een configuratiebestand met de naam .env.

cp .env.example .env

Bewerk het configuratiebestand. Je kunt elke terminalteksteditor gebruiken; hier gebruiken we vim.

vim .env

Druk op i om tekst in te voegen.

• Voeg op de regel die begint met OPENAI_API_KEY= je OpenAI API-sleutel toe.
• Geef op de regel die begint met INSTANCE_NAME= optioneel je AI-agent een naam.
• Geef op de regel die begint met OBJECTIVE= je AI-agent een doel om te bereiken.

BabyAGI uitvoeren

Voer het BabyAGI-script uit.

python3 babyagi.py

Auto-GPT-voorbeeld

Als test noemde ik mijn AI-assistent "Jeff", beschreef hem als "Een dataspecialist die tutorials over AI schrijft" en gaf hem het doel om "Een tutorial over Auto-GPT te schrijven".

Auto-GPT zal je regelmatig om toestemming vragen om de volgende taak uit te voeren, of het nu gaat om het internet doorzoeken voor meer informatie of het schrijven van een bestand. Druk op 'y' om door te gaan, of geef tekstuele feedback.

Na een paar minuten proberen om een tutorial te schrijven, produceerde Auto-GPT dit tutorialbestand.

Het is geen goede, of zelfs feitelijk correcte, tutorial, dus zoals altijd bij het gebruik van AI moet je heel precies zijn met je requirements in je prompts en goed opletten wat de AI doet.

Naar het volgende niveau

AI-agents zoals Auto-GPT, AgentGPT en BabyAGI betekenen een flinke sprong voorwaarts binnen AI en brengen ons dichter bij de visie van echt autonome AI-systemen. Omdat deze agents met minimale menselijke tussenkomst naar doelen toewerken, openen ze een wereld aan potentiële toepassingen, van persoonlijke assistenten tot probleemoplossers.

Om voorop te blijven lopen in dit snel veranderende landschap, raden we je aan je kennis en vaardigheden in data science, machine learning en AI uit te breiden. Bekijk de volgende bronnen om meer te leren:

• The OpenAI API in Python Cheat Sheet
• Using ChatGPT for Data Science Projects-tutorial
• Introduction to ChatGPT-cursus
• Wat is GPT-4 en waarom is het belangrijk?