Kunstmatige intelligentie is is steeds vaker belangrijk in beveiligingsoperaties, maar ook bij de aanvallen van webcriminelen. Volgens het rapport ‘Ki in beveiligingsoperatie 2026’ van Prophet Security (gebaseerd op een enquête onder meer dan 250 webbeveiligers) gebruikt 40% van de beveiligingsploegen dagelijks ki. Nog eens 56% test het momenteel uit en slechts 4% is niet van plan het te gebruiken. Ki intensifeert de wapenwedloop tussen beveiligers en e-krakers aanzienlijk.
Aangezien beveiligers worden overspoeld met dreigingen en werkelijke aanvallen zou ongeveer 28% van de beveiligingsdreigingen en -aanvallen nooit zijn onderzocht. Dat heeft grote gevolgen. 60% van de respondenten gaf toe dat een alarm dat ze negeerden of misten later leidde tot een ernstig probleem, zoals een datalek of systeemuitval. Voor een derde van deze respondenten gebeurde dit vorig jaar drie keer of vaker.
Het probleem is volgens de onderzoekers in werkelijkheid nog groter dan de cijfers doen vermoeden. Tot 40% van de organisaties heeft bepaalde beveiligingsalarmen simpelweg uitgeschakeld omdat ze niet over voldoende personeel beschikten om ze te controleren.
Het uitschakelen van een regel die nooit tot een escalatie leidt, is een verstandige manier van detectiebeheer. Het uitschakelen van een waarschuwingssysteem omdat niemand tijd heeft om de resultaten te lezen, beperkt de beveiligingsdekking. Dat betekent dat de werkelijke hoeveelheid waarschuwingen en de werkelijke blootstelling groter zijn dan de gerapporteerde cijfers.
Meer dan de helft (56%) van de beveiligers zag het aantal ki-gestuurde aanvallen het afgelopen jaar toenemen, met name in de financiële en gezondheidszorgsector. De meest voorkomende bedreigingen zijn door ki geschreven hengelberichten, nepnieuws en door ki gegenereerde kwalijke code.
Menselijke inbreng
Beveiligers vertrouwen ki over het algemeen wel, maar met mate. Hoewel de meesten zeggen dat de conclusies van ki meestal overeenkomen met die van een menselijke experts, vereist 57% nog steeds dat een mens elke ki-beslissing beoordeelt voordat een waarschuwing wordt afgesloten. Dat betekent overigens wel dat kennelijk 43% de conclusies van de ki-‘assistent’ vertrouwt.
Ki zou in deze toch vooral gezien worden als hulp. De meeste beveiligers (44%) gebruiken het om acties aan te bevelen die mensen moeten uitvoeren en 30% laat het de geautomatiseerde herstelwerkzaamheden met een laag risico zelfstandig uitvoeren. Geen enkele respondent geeft ki volledige, onbegeleide autonomie.
De beveiligers noemen regelgeving als hun belangrijkste hindernis. 44% maakt zich zorgen over gegevensprivacy en hoe ki-modellen worden geïnstrueerd. Nog eens 41% worstelt met de verklaarbaarheid, wat betekent dat ze moeten weten waarom ki tot een conclusie is gekomen.
Bron: Hacker News