Ki ‘hallucineert’ nogal eens bij het programmeren

GTM-hallucinatie

Grote taalmodellen ‘hallucineren’ nogal eens bij het programmeren en dat valt te misbruiken (afb: Joe Spracklen et al.)

Door kunstmatige intelligentie gegenereerde computercode staat bol van de verwijzingen naar niet-bestaande bibliotheken van derden, wat een gouden kans biedt voor zogeheten toeleverketenaanvallen die legitieme programma’s vergiftigen met kwaadaardige code die gegevens kunnen stelen, achterdeurtjes kunnen plaatsen en andere louche acties kunnen uitvoeren, zo blijkt uit recent gepubliceerd (maar nog niet beoordeeld) onderzoek. De onderzoekers rond Joseph Spracklen van de universiteit van Texas geven ook oplossingen. Lees verder