Project Glasswing zou programmatuur ki-bestendig moeten maken (afb: anthropic.com.glasswing)
Een van de bedreigingen die kunstmatige intelligentie inhouden is de bedreiging van de webbeveiliging. Anthropic heeft zijn nieuwe systeem Claude Mythos Preview in een ‘kluis’ gezet, maar volgens deskundigen is er geen ontkomen meer aan. Met behulp van ki zullen de webaanvallen listiger en verwoestender worden, denken die. Daar helpt geen moedertje lief meer aan.
Volgens Anthropic overschrijdt Mythos Preview een drempel van mogelijkheden om kwetsbaarheden te ontdekken in vrijwel elk besturingssysteem, webrauzer of ander algoritme om zelfstandige kraakbots te ontwikkelen. Met dit in gedachten verstrekt het bedrijf het nieuwe model voorlopig alleen in beperkte ‘oplage’ aan een dozijn organisaties waaronder Microsoft, Apple, Google en de Linux Foundation, als onderdeel van een consortium genaamd Project Glasswing.
Na jarenlange speculatie over de mogelijke dreiging van generatieve ki voor de webbeveiliging, heeft het nieuws van deze week controverse aangewakkerd over de vraag of er daadwerkelijk een keerpunt is aangebroken en hoe dat er in de praktijk uit zou kunnen zien.
Sommige deskundigen stellen dat bestaande ki-systemen gebruikers al kunnen helpen bij het vinden van lekken en kwetsbaarheden en dat deze realiteit bedrijven ertoe aanzet om hun programmatuur te verfijnen zonder het probleem fundamenteel op te lossen. Sommige deskundigen verdenken Anthropic ervan dat hun geheimzinnigheid het oogmerk heeft hun ‘oogappel’ onbetaalbaar althans buitengemeen aantrekkelijk te maken. Anderen wijzen er op dat Mythos Preview slechts de eerste versie is met mogelijkheden die uiteindelijk breed beschikbaar zullen komen in andere modellen.
Ki helpende hand
Andere deskundigen wijzen er op dat, zoals in het project Glasswing zou zijn voorzien, ki kan voorkomen dat er nog programmatuur wordt gemaakt die van het begin af aan vol zit met fouten en kwetsbaarheden, die dan steeds weer moeizaam moeten worden gerepareerd. Dergelijke reparaties maken in het algemeen dergelijke toepassingen niet ‘robuuster’. Kortom ki zou daarbij de helpende hand kunnen toesteken. Hoe dan ook, het heeft er alles van weg dat de oorlog ook op het wereldwijde web op volle kracht zal worden voortgezet.