Geteste nieuwe taalmodellen OpenAI breken in bij ander ki-bedrijf

Hugging Face gekraakt door ki-model OpenAI

Hugging Face bouwt aan de toekomst. Het is maar dat je dat weet (afb: huggingface.co)

OpenAI zegt dat zijn ki-modellen, waaronder GPT-5.6 Sol en een nog niet uitgebracht, geavanceerder model uit de ‘zandbak‘ zijn ontsnapt en de productieinfrastructuur van ki-bedrijf Hugging Face hebben aangevallen. Die zouden daar nog niet ontdekte kwetsbaarheden hebben gevonden .Volgens Wired zouden er meer bedrijven het slachtoffer geworden zijn van de aanvallen van de ki-systemen van OpenAI. Lees verder

Ki ‘hallucineert’ nogal eens bij het programmeren

GTM-hallucinatie

Grote taalmodellen ‘hallucineren’ nogal eens bij het programmeren en dat valt te misbruiken (afb: Joe Spracklen et al.)

Door kunstmatige intelligentie gegenereerde computercode staat bol van de verwijzingen naar niet-bestaande bibliotheken van derden, wat een gouden kans biedt voor zogeheten toeleverketenaanvallen die legitieme programma’s vergiftigen met kwaadaardige code die gegevens kunnen stelen, achterdeurtjes kunnen plaatsen en andere louche acties kunnen uitvoeren, zo blijkt uit recent gepubliceerd (maar nog niet beoordeeld) onderzoek. De onderzoekers rond Joseph Spracklen van de universiteit van Texas geven ook oplossingen. Lees verder