Hans Harmsen

Hans Harmsen

Director Consulting Expert bij CGI Nederland

In de afgelopen jaren zie ik van dichtbij een opmerkelijke groei in Conversational AI (CAI) technologieën. Met het recente nieuws van OpenAI’s ChatGPT en Google’s Bard is deze technologie de afgelopen tijd nog verder in een stroomversnelling gekomen. De onderliggende Large Language Models (LLM’s), zoals GPT-3, LaMDA en Bloom, worden steeds beter en toepassingsmogelijkheden binnen Conversational AI met LLM’s lijken eindeloos.

In de afgelopen weken zijn LLMs razendsnel door bestaande CAI platformen omarmd. Denk hierbij niet alleen aan de mogelijkheden om bijvoorbeeld tekst te generen, maar ook om natuurlijke taal te verwerken én nog veel beter de intentie van gebruikers te herkennen. Door LLM’s te combineren met een Conversational AI platform zijn bedrijven in staat om nog meer bedrijfsprocessen te automatiseren en de eenvoudigste tot de meest complexe vragen af te handelen.

Maar hoe kies je nu de juiste Conversational AI-technologie voor jouw bedrijf?

De nieuwe mogelijkheden zijn een feest voor iedereen die verantwoordelijk is voor innovatie en automatisering. Aan de andere kant is het lastig is om de juiste technologie te kiezen in een tijd met veel veranderingen. CAI platformen zijn technisch complex en er zijn veel verschillende technologieën op de markt.

Het Conversational AI landschap

Afbeelding: Het Conversational AI landschap. Bron Cobus Greyling

Het is voor een bedrijf essentieel om te kiezen voor een schaalbare oplossing die kan groeien in use-cases en de ontwikkelingen binnen en buiten het bedrijf. Als een CAI platform niet goed functioneert, of niet aansluit bij de functionaliteiten die je in de toekomst nodig hebt geeft dat vroeg of laat problemen. Het levert naast frustraties vaak de volgende problemen op:

  • Beperkte integraties, waardoor transactionele usecases veel tijd kosten of niet mogelijk zijn.
  • Gefragmenteerde data die daardoor moeilijk te analyseren is.
  • Een ondermaatse gebruikerservaring, zowel voor je eigen team als voor je klant.
  • Arbeidsintensief en hogere kosten.
  • Bij het inzetten van grote taalmodellen is de output vaak lastiger te controleren.

Dit kan te maken hebben met de complexiteit van de oplossing of het ontbreken van de juiste expertise in een Centre of Excellence. Om later teleurstellingen te voorkomen is het belangrijk om vooraf na te denken over de juiste eigenschappen van de technologie, en de experts die zich bezighouden met de governance van deze platformen.

Vijf belangrijke eigenschappen om mee te nemen in deze keuze zijn:

  1. Natural language understanding (NLU). De kern van een conversational AI platform moet er voor zorgen dat gebruikers er op een menselijke manier mee kunnen communiceren In de overweging voor een goede NLU is het belangrijk om mee nemen. Bestaande NLU kan verrijkt worden met LLM’s om complexe context nog beter te begrijpen en hierop te reageren, omdat deze getraind zijn op een veel grotere hoeveelheid taaldata dan de NLU voor een specifieke use case getraind kan worden.
  2. Graphical User Interface Hoe komen de inhoud en gesprekken van een bot tot leven? Het is prettig als meerdere teams en expertises kunnen samen werken in een en dezelfde omgeving. Denk aan het toevoegen van content, het aanpassen van antwoorden of voor de juiste API’s. Ook hier zit een koppeling van LLM’s voor bijvoorbeeld het automatisch maken van flow diagrammen, entiteiten of antwoorden met meer sentiment.
  3. Integraties met bestaande systemen: Een schaalbaar CAI platform moet eenvoudig kunnen integreren met bestaande infrastructuur, interfaces en processen. Dit vergemakkelijkt de implementatie en verbetert de samenwerking tussen verschillende afdelingen en systemen. Zodoende kunnen gebruikers op een gepersonaliseerd niveau geholpen worden processen volledig geautomatiseerd.
  4. Integratie door derden: Een conversational AI platform moet schaalbaar zijn en voldoen aan de specifieke behoeften van een bedrijf of het nu gaat om het testen van training data, het bouwen van flows, het aanpassen van de look-and-feel of het creëren van gewenste dashboards. Een CAI platform moet flexibel genoeg zijn om ook in de toekomst bij te kunnen blijven.
  5. Data en privacy: Conversational AI platformen verwerken vaak gevoelige informatie van gebruikers. Het is belangrijk om een platform te vinden dat zekerheid geeft, dat data en klantgegevens veilig zijn en voldoen aan de Autoriteit Persoonsgegevens. Tegelijkertijd moet het platform in staat zijn om eenvoudig te gaan met de groei van data, denk op den duur aan de grote aantallen van intents en het maken van de juiste analyses.

Waarom CGI?

Binnen CGI hebben we een interdisciplinair CAI team met veel kennis, ervaring en passie voor het bouwen aan moderne, slimme CAI toepassingen. Gecombineerd met onze kennis en ervaring als system integrator hebben we daarmee een unieke positie in de markt. We helpen onze klanten graag op hun CAI reis. CGI is daarbij een goede reisleider: wij weten de weg, wijzen naar de interessante plekken en lopen mee met de klant tot het reisdoel is behaald.

Meer weten? Wij kijken naar wat de klant nodig heeft en geven onafhankelijk advies. Neem dan contact met Hans Harmsen, Director Consulting Services. Samen met mijn team help ik u om uw organisatie op weg te helpen op het gebied van CAI.

Over de auteur

Hans Harmsen

Hans Harmsen

Director Consulting Expert bij CGI Nederland

Hans Harmsen is sinds 2021 werkzaam bij CGI en al langere tijd actief in Conversational AI (CAI). Hans geeft leiding aan een interdisciplinair en divers team binnen het vakgebied en draagt eindverantwoordelijkheid voor alle CAI projecten bij onze klanten. Zijn team is zowel actief in ...