Interview | Koen van Kan, ai-consultant bij CGI

Een hackathon met een klant heeft it-dienstverlener CGI een tool opgeleverd die het zoekproces in grote en verscheidene databronnen automatiseert, en door een koppeling met een llm (groot taalmodel) de antwoorden personaliseert. CGI noemt het een chatbot en volgens Koen van Kan, ai-consultant bij CGI, zijn er veel gebruiksmogelijkheden.

Het idee om hieraan te werken, legt Van Kan uit, is ontstaan door de beperking die ChatGPT heeft, namelijk een kennisachterstand. ChatGPT is gevoed met gegevens die niet verder teruggaan dan 2021. De samenvoeging van het redeneervermogen van llm's met aangepaste gegevens zou een krachtig hulpmiddel kunnen zijn. Dit is wat het conversational artificial intelligence team van CGI – gevestigd in Amsterdam - wilde onderzoeken.

‘Hoe groter de kennisbank, bijvoorbeeld een intranet, waarbinnen iemand een antwoord zoekt, hoe langer het duurt voordat je een antwoord krijgt’, ziet Van Kan in de praktijk. Uiteindelijk heeft CGI een drietrapsraket gebouwd. Dit begint met de samenstelling van een actuele en volledige kennisbank. De tweede fase is semantisch zoeken, gevolgd door een prompt engineered antwoord.

Prompt engineering is een techniek die wordt gebruikt in natuurlijke taalverwerking (nlp) om tekst te genereren die lijkt op door mensen geschreven tekst. Hierbij wordt een machine-learningmodel getraind op grote hoeveelheden tekstgegevens om het volgende woord in een zin te voorspellen. Het model kan dan worden gebruikt om nieuwe tekst te genereren door het meest waarschijnlijke volgende woord te voorspellen op basis van de vorige woorden in de zin. Prompt engineering is in te zetten voor verschillende nlp-taken zoals taalvertaling, samenvatten en het beantwoorden van vragen.

Lees dit artikel verder op Computable.nl via deze link.