BBB-chatbot smaakt naar meer

De BBB maakte het verkiezingsprogramma met behulp van ChatGPT. De partij ziet meer mogelijkheden voor BBB-chatbots.

De BoerBurgerBeweging (BBB) gebruikt bij het schrijven van zijn verkiezingsprogramma een chatbot gebaseerd op ChatGPT, zo bleek eind vorige maand uit een rondgang van BNR. Dat blijkt zo’n succes dat de generatieve AI in de toekomst ook voor andere doeleinden van de fractie gebruikt gaat worden, vertelt Bart Luttels, maker van de chatbot.

1.500 A4’tjes doorlezen

Het idee voor de huidige chatbot ontstond toen leden van de BBB 1.500 A4’tjes wilden doorlezen, in voorbereiding op het samenstellen van het verkiezingsprogramma. ‘We hebben weinig tijd, maar dit moet wel gebeuren. Maar ik wist dat je hier ook AI voor kunt gebruiken. Dus ging ik daar wat voor maken’, beschrijft Luttels zijn gedachtegang nu.

Niet aangekondigd

Luttels is rayonhoofd van BBBJong in Limburg, maar zit ook in de programmacommissie voor het verkiezingsprogramma en is dus verantwoordelijk voor de chatbot. Generatieve AI lag ook al niet ver buiten zijn expertisegebied: hij studeert technische bedrijfskunde en is data-analist bij VDL. ‘Aan de datazijde heb ik dus al veel kennis opgedaan. En de rest heb ik mezelf aangeleerd.’

De bouw van de chatbot voor BBB kondigde hij niet aan. ‘Ik heb het gewoon gedaan en toen het klaar was, gezegd: hier is het, kijk maar wat jullie vinden,’ vertelt hij droogjes. ‘Iedereen was enthousiast, dus nu gaan we verder uitbreiden.’

Eigen database, eigen data

De eerste chatbot van BBB heeft een concreet doel: medewerkers van BBB kunnen met de chatbot de essentie destilleren uit bijdragen van Caroline van der Plas in de Tweede Kamer. Gebruikers kunnen daarvoor een vraag intypen bij de chatbot, waarna het systeem het antwoord zoekt in zijn zogenaamde vector database. Daarin worden datapunten op zo’n manier opgeslagen dat een vragentool sneller met antwoorden kan komen. In de database van BBB zitten nu debatverslagen, gestelde Kamervragen en andere bijdragen van Van der Plas in de Tweede Kamer. ‘Het systeem kijkt waar het antwoord het beste uit gehaald kan worden, genereert het antwoord en geeft dat dan, samen met een bronvermelding.’ Op die manier wordt informatie snel samengevat en doorzoekbaar gemaakt.

We hebben de chatbot extra getraind, waarmee we kunnen zorgen dat het feitelijk antwoordt en we hallucinaties voorkomen.

Sneller systeem

Luttels aanpak maakt het systeem naar eigen zeggen ook een stuk sneller dan wanneer je via één van de nieuwere plugins van ChatGPT zelf een pdf uploadt om daar de essentie uit te halen. ‘Iedere keer dat je die pdf uploadt, gaat ChatGPT die dan zelf lezen. Hij onthoudt de data niet. Maar het stukje embedding dat wij nu met de vector database doen, duurt één keer tien minuten. We hoeven het hierna nooit meer te uploaden. De chatbot weet nu alles al over alle teksten die in de database staan.’

Privacyrisico’s afdekken

Bijkomend voordeel is ook dat er zo privacyrisico’s worden afgedekt. Bekend probleem met ChatGPT is dat alles wat in ChatGPT aan data gestopt wordt, ook weer gebruikt wordt voor het trainen van de AI. Verschillende bedrijven deden het gebruik van de chatbot daarom al in de ban. ‘Maar als je de API gebruikt, wordt er geen data gedeeld met OpenAI. Dus in principe hebben we dat nu afgeschermd.’

Hallucinaties ondervangen

Een tweede bekend risico van ChatGPT zijn hallucinaties: lang niet alles wat de chatbot aan informatie geeft, klopt ook. Om dat af te vangen, heeft Luttels diverse stappen genomen. ‘We hebben de chatbot extra getraind, waarmee we kunnen zorgen dat het feitelijk antwoordt en we hallucinaties voorkomen. We zorgen bijvoorbeeld dat hij bepaalde dingen nooit kan zeggen en andere dingen altijd zegt. En het moet altijd informatie in onze database opzoeken, nooit daarbuiten.’ Klaar is het echter niet: ‘We breiden de training nog verder uit, want we merken ook nu nog dat bepaalde dingen niet altijd lekker lopen. Dat passen we dan aan.’

Die extra training neemt wel relatief veel tijd in beslag. Luttels schat in dat het maken van de chatbot zelf zo’n drie weken duurde. ‘De training kostte de helft van die tijd.’

Meer chatbots volgen

De eerste chatbot is goed ontvangen door de BBB en smaakt naar meer. Luttels is inmiddels een eigen bedrijf begonnen – LTech Consultancy – waarmee hij chatbots bouwt. Voor de BBB is hij alweer hard bezig. ‘Ik ben nu bezig met het bouwen van een backend waar ik meer chatbots in kan zetten. Daarna gaan we kijken waar nog kansen liggen.’ Een optie is bijvoorbeeld om de chatbot te gebruiken bij het opstellen van Kamervragen. Het systeem weet namelijk al wat dat zijn en in welk format die opgesteld moeten worden. In theorie kunnen BBB-leden dus informatie aanbieden aan een chatbot, waarna deze ze omzet in Kamervragen.

Altijd controleren

Maar ondanks dat er maatregelen genomen zijn om hallucinaties en andere fouten te voorkomen, geeft Luttels nog wel een waarschuwing mee aan gebruikers. ‘Je moet altijd kijken waar je het voor gebruikt. Je kunt dit geen complete documenten laten maken en je moet dingen altijd nalezen en controleren.’

BBB gebruikt intern ChatGPT en eigen database bij schrijven verkiezingsprogramma

De BoerBurgerBeweging gebruikt als een van de weinige Tweede Kamer-partijen in Nederland kunstmatige intelligentie bij het schrijven van zijn verkiezingsprogramma. De partij licht aan Tweakers toe hoe dat precies werkt.

Het was een opmerkelijk bericht, vorige maand in NRC. Toen zei BBB-medeoprichter en -campagneleider Henk Vermeer in een duo-interview dat de partij ‘ChatGPT gebruikt voor het verkiezingsprogramma’. “Alle rapporten die we relevant vinden, al onze debatbijdragen verwerken we erin”, zei Vermeer. Het interview ging niet over tech, maar vooral over duurzaamheid en de rol van boeren en het artikel ging dan ook niet veel dieper in op de opvallende quote. Maar wat betekent ‘ChatGPT gebruikt voor het verkiezingsprogramma’ nou precies?

Vermeer benadrukt tegen Tweakers dat ChatGPT niet gebruikt wordt voor het daadwerkelijk schrijven van het verkiezingsprogramma; een eigen, lokaal gehoste versie van het large language model geeft in principe op basis van een eigen database intern informatie weer die gebruikt kan worden voor het schrijven van het verkiezingsprogramma.

Vermeer zegt: “We zijn een kleine organisatie en gebruiken deze tool om snel op te kunnen zoeken wat we de afgelopen jaren hebben gezegd.” Hieronder vallen onder meer eerdere verkiezingsprogramma’s, debattranscripties en Kamervragen en moties waar Caroline van der Plas bij betrokken was. Hij gaat verder: “Dat is in principe wat Google ook zou doen, aangezien transcripties van bijvoorbeeld debatten gewoon openbaar zijn. ChatGPT is daarentegen slimmer en kan ook alleen uit onze eigen gegevens informatie verzamelen.”

Hallucineren

In verschillende media, waaronder BNR en de NOS, werd over de BBB-variant van ChatGPT geschreven en gesproken, maar volgens Bart Luttels, maker van de betreffende ChatGPT-variant en lid van de programmacommissie van de BBB, was lang niet al die informatie correct. Zo paste hij naar eigen zeggen verschillende ‘trucjes’ toe om ervoor te zorgen dat de kunstmatige intelligentie geen informatie zou verzinnen, bijvoorbeeld door de chatbot te dwingen om puur inhoudelijk en feitelijk te reageren. “ChatGPT kan heel creatief zijn, maar dat kun je ook uitzetten.” Verder vermeldt de aangepaste versie van ChatGPT volgens hem altijd bronnen bij de gegeven antwoorden, op voorwaarde dat de vragen specifiek over de BBB gaan.

Via een interne website kunnen programmacommissieleden vervolgens vragen stellen aan ‘ChatGPT’. Luttels stelde daarvoor een handleiding samen; de prompts die BBB-leden invoeren moeten specifiek de partij vermelden en aan bepaalde structuren voldoen. “Als je bijvoorbeeld vraagt ‘wat vond Caroline van der Plas over het stikstofbeleid’, dan zoekt de tool in onze eigen data. Als je Caroline niet specifiek noemt en juist een algemene vraag stelt, dan kan de tool gaan zoeken in de gebruikelijke OpenAI-database.” In dat geval kan de informatie mogelijk niet kloppen, zo erkent hij, maar omdat er geen bronvermelding bij staat, is het voor de gebruikers duidelijk dat dit niet op basis van eigen data is geconcludeerd.

Vermeer voegt daaraan toe dat deze informatie niet per se wordt uitgesloten, aangezien de reguliere versie van ChatGPT volgens hem kan helpen als geheugensteuntje. “De chatbot kan bijvoorbeeld bepaalde argumenten voor en tegen een stelling genereren. Die gebruiken we dan om zelf een bredere kijk op een onderwerp te krijgen.” Alle informatie die in het verkiezingsprogramma wordt verwerkt, wordt altijd door Vermeer, Van der Plas en beleidsmedewerkers bekeken en gecontroleerd op fouten. Volgens Vermeer en Luttels zijn er tot dusver geen fouten als resultaat van het gebruik van ChatGPT geconstateerd, al verkeert het schrijven van het aankomende verkiezingsprogramma nog in een vrij vroeg stadium.

Twee keer ChatGPT en LangChain

Luttels treedt nog verder in detail over het gebruikte systeem. “We gebruiken ChatGPT in twee stappen van het proces. Eerst heb ik alle data, de enkele duizenden pdf-pagina’s, door ChatGPT opnieuw laten structureren.” Bepaalde aanpassingen, bijvoorbeeld stukken dikgedrukt maken of punten op een bepaalde manier gebruiken, maken het volgens hem gemakkelijker voor de AI om de informatie te ‘begrijpen’.

BBB gebruikt LangChain om een eigen lokale ChatGPT-instance te hosten.Hij vult aan: “Vervolgens zorgt ChatGPT voor antwoorden op onze vragen. Daarvoor moet onze database gekoppeld worden aan de tool, wat via opensourceprogramma LangChain gebeurt. Hiermee kunnen het taalmodel, ons interne vragenportaal waar partijleden hun vragen invoeren en de database gekoppeld worden.” LangChain is een framework op basis van Python waarmee gebruikers software met llm-integratie kunnen bouwen.

Hij legt ook uit dat er van een externe vectordatabase gebruikgemaakt wordt. Deze specifieke manier van dataverzoeken verwerken, gebeurt in een speciale database waar datapunten als vectors worden opgeslagen en moet ervoor zorgen dat de vragentool nog sneller met antwoorden komt. “Zelfs de betaalde versie van OpenAI’s taalmodel heeft een beperkte snelheid en kan maar een bepaald aantal woorden tegelijkertijd verwerken. Met een vectordatabase rek je de limiet aanzienlijk uit.”

“We maken wel gebruik van de rekenkracht van OpenAI om de vragen te verwerken. Omdat we direct betalen voor api-verzoeken wordt onze ingevoerde data in tegenstelling tot bij de reguliere versie van ChatGPT niet met het bedrijf gedeeld.” Hij benadrukt net als Vermeer dat het om openbare documenten gaat, dus over het eventueel ‘lekken’ van de ingevoerde documenten maakt de partij zich geen zorgen.

ChatGPT helpt BBB met verkiezingsprogramma, andere partijen zien inzet AI nog niet zitten

ChatGPT, de door kunstmatige intelligentie gedreven chatbot, schrijft mee aan het verkiezingsprogramma van de BBB. Volt is de enige andere partij die desgevraagd aangeeft AI in te zetten tijdens de aankomende verkiezingscampagne, blijkt uit een rondvraag van BNR.

In het buitenland wordt AI-technologie al gebruikt om kiezers te winnen. Zo schreef ChatGPT eerder dit jaar mails voor fondsenwerving. Met behulp van AI gegenereerde beelden doken ook al op in verkiezingscampagnes in Canada, Nieuw-Zeeland en de VS. Zo verspreidde de Republikeinse presidentskandidaat Ron DeSantis in juni een nepfoto van Donald Trump die topviroloog Anthony Fauci omhelst.

In de aanloop naar de Tweede Kamerverkiezingen in november ligt vergelijkbaar gebruik van AI in Nederland voor de hand. BNR vroeg daarom aan alle partijen die in de Tweede Kamer vertegenwoordigd zijn of ze van plan waren de technologie in te zetten bij hun campagnes.

BBB en Volt waren de enige die deels bevestigend antwoordden. CDA, PVDD, VVD, D66 en SGP zeggen geen AI te gebruiken voor campagne-doeleinden en dat voorlopig ook niet van plan te zijn. Alle andere partijen gaven ondanks herhaalde verzoeken geen commentaar.

Kernboodschap van BBB

Het kunstmatig genereren van politiek explosief beeldmateriaal, zoals in het buitenland gebeurt, keuren partijen waar BNR mee sprak unaniem af. Toch wordt AI nu al ingezet voor politieke doeleinden.

BBB gaat hierin het verst. Medewerkers van de partij gebruiken een op ChatGPT gebaseerde extensie om de essentie te destilleren uit de bijdragen van Caroline van der Plas in de Tweede Kamer over diverse thema’s. De software daarvoor hebben ze zelf ontwikkeld. De chatbot doet aan de hand hiervan suggesties voor het partijprogramma.

‘Wat is bijvoorbeeld de kernboodschap van BBB die je kunt halen uit alle bijdragen over de verpleegkunde?’, licht campagneleider Henk Vermeer toe. ‘ChatGPT vat dat voor ons samen. Het helpt ons met ordenen.’ De teksten van de chatbot dienen louter als input voor de programmacommissie. ‘Het schrijven doen we zelf’, zegt Vermeer.

Volt gebruikt AI om een chatbot aan te sturen die vragen van leden beantwoordt over Europees beleid dat de partij voorstaat. Het gaat om een experiment, zegt een woordvoerder van Volt tegen BNR.

Transparantie

De overige partijen waar BNR mee sprak sluiten politiek gebruik van AI na de verkiezingen niet uit. ‘Wij kiezen er nu juist voor om zoveel mogelijk te investeren in persoonlijk contact met kiezers’, laat het CDA weten.

Sommige partijen willen eerst de risico’s nader onderzoeken. Een woordvoerder van de Partij voor de Dieren zegt bijvoorbeeld te vrezen dat ‘ethische waarden’ onvoldoende verankerd zijn in AI-systemen. De partij wijst daarbij op de twijfels die bestaan over het respect van ChatGPT voor bestaande privacywetgeving. De Autoriteit Persoonsgegevens onderzoekt momenteel of het systeem aan de regels voldoet.

Oumaima Hajri, AI-onderzoeker aan de Hogeschool Rotterdam, deelt deze vrees. Zij waarschuwt dat politieke partijen te weinig expertise in huis hebben om zorgvuldig met AI-systemen om te gaan. Zij pleit voor reflectie. ‘Zorg eerst dat AI als thema terechtkomt in de verkiezingsprogramma’s.’ Wanneer politieke partijen toch AI inzetten is het belangrijk dat ze hier transparant over zijn, zegt Hajri.

Dikste verkiezingsprogramma’s ooit: partijen knippen, plakken en sparren met ChatGPT

BBB zet ChatGPT in bij opstellen van verkiezingsprogramma

De BoerBurgerBeweging maakt gebruik van ChatGPT bij het opstellen van zijn verkiezingsprogramma. De partij zet de generatieve AI daarbij niet zo zeer in voor het schrijven van zijn verkiezingsprogramma, maar voor het vergaren van informatie die hierbij kan worden gebruikt.

In een gesprek met Tweakers meldt BBB-medeoprichter en -campagneleider Henk Vermeer een eigen lokaal gehoste versie van het large language model (LLM) inzet. Deze geeft op basis van een eigen database van de BBB intern informatie weer die de partij kan gebruiken voor het schrijven van zijn verkiezingsprogramma.

“We zijn een kleine organisatie en gebruiken deze tool om snel op te kunnen zoeken wat we de afgelopen jaren hebben gezegd”, licht Vermeer toe. Denk daarbij aan transcripties van debatten en moties waarbij BBB-topvrouw Caroline van der Plas betrokken was. Vermeer wijst erop dat dergelijke transcripties openbaar zijn, en dus ook door bijvoorbeeld een zoekmachine als Google worden geindexeerd. ChatGPT kan echter ook informatie uit eigen gegevens verzamelen.

Chatbot dwingen inhoudelijk en feitelijk te zijn

ChatGPT is voor de BBB beschikbaar via een interne website. Hierbij wordt een speciale handleiding gehanteerd, die de chatbot onder meer dwingt ‘inhoudelijk en feitelijk’ te reageren. Denk hierbij aan het specifiek vermelden van de partij bij het invoeren van prompts en het hierbij hanteren van specifieke structuren. Alle informatie die generatie AI aanreikt en in het verkiezingsprogramma wordt verwerkt, wordt altijd door Vermeer, Van der Plas en beleidsmedewerkers gecontroleerd op fouten.

BBB overweegt eigen AI-chatbot ook in te zetten bij het opstellen van Kamervragen, volgens ontwikkelaar

Politieke partij BoerBurgerBeweging (BBB) heeft onlangs een eigen chatbot op basis van artificial intelligence (AI) in gebruik genomen. Het project bevalt zo goed, dat de ontwikkelaar nu bezig is aan uitbreiding. Er wordt naast hulp het schrijven van het verkiezingsprogramma nu ook gekeken naar hulp bij het opstellen van Kamervragen, schrijft techsite AG Connect.

De BBB-chatbot werkt op basis van de technologie achter ChatGPT. Via een API (een connectie tussen de software van BBB en die van OpenAI, het bedrijf achter ChatGPT) in combinatie met eigen data, kan de AI-vraagbaak van BBB antwoorden oprakelen die het uit eigen data haalt. Met die opzet worden bekende problemen met AI-chatbots, zoals privacy en hallucineren, voorkomen.

De chatbot van de partij is op dit moment vooral bedoeld om grote hoeveelheden data makkelijk bruikbaar te maken. In de toekomst komt er mogelijk de optie voor het opstellen van Kamervragen bij. Volgens de ontwikkelaar kent de bot het format van een Kamervraag al, dus hoeven BBB-leden alleen maar de benodigde informatie in te voeren en krijgen ze daarna een kant-en-klare Kamervraag gepresenteerd.