Hugging Face bouwt aan de toekomst. Het is maar dat je dat weet (afb: huggingface.co)

OpenAI zegt dat zijn ki-modellen, waaronder GPT-5.6 Sol en een nog niet uitgebracht, geavanceerder model uit de ‘zandbak‘ zijn ontsnapt en de productieinfrastructuur van ki-bedrijf Hugging Face hebben aangevallen. Die zouden daar nog niet ontdekte kwetsbaarheden hebben gevonden .Volgens Wired zouden er meer bedrijven het slachtoffer geworden zijn van de aanvallen van de ki-systemen van OpenAI.
In de ki-wereld is het inmiddels standaard geworden dat nieuwe taalmodellen en ki-systemen voor het uitbrengen getest worden hoe goed ze kunnen inbreken. Volgens het ki-bedrijf zouden de grote taalmodellen hebben gewerkt met een verminderde cyberbeveiliging voor evalueringsdoeleinden. Dat zou de kans verminderen om cyberaanvallen uit te voeren. OpenAI noemt het voorval ongekend en stelt samen met Hugging Face een grondig onderzoek naar het incident in te zullen stellen.

De geteste modellen zouden alles op alles gezet hebben om hun doel (?) te bereiken. Ze slaagden er zelfs in om in de geïsoleerde ‘zandbak’-omgeving in te breken en een nog niet ontdekte kwetsbaarheid te misbruiken in programmatuur van een niet met name genoemde leverancier, die fungeert als proxyserver en opslag voor pakketregisters. Wordt vervolgd.

Bronnen: hackernews, der Spiegel