Vroeger was alles gratis op internet, maar gratis bestaat niet of nauwelijks in kapitalistische samenlevingen zoals de onze. Google is met zijn ‘gratis’ zoekmachine (zonder reclame) in amper twintig jaar een van de grootste bedrijven ter wereld geworden. Zijn ‘handel’: jouw gegevens waar derden grif voor betaalden. Het gebruik van een externe gegevensopslag (de ‘wolk’) is makkelijk maar link. Met de opkomst van kunstmatige intelligentie zal dat er niet beter op worden.
De afgelopen twee jaar zijn generatieve ki-systemen – zoals ChatGPT en Gemini van Google – verder gegaan dan de relatief eenvoudige kletsbots die de bedrijven aanvankelijk uitbrachten. In plaats daarvan bouwen en stimuleren de ki-techbedrijven steeds meer ‘agenten’ en ‘assistenten’ die beloven dat ze namens jou acties kunnen ondernemen en taken kunnen voltooien.
Het probleem? Om er het maximale daaruit te halen, moet je ze toegang verlenen tot je systemen en gegevens. Hoewel een groot deel van de aanvankelijke controverse over grote taalmodellen vooral ging om auteursrechtelijk beschermde gegevens, zal de toegang van ki-agenten tot je persoonlijke gegevens hoogstwaarschijnlijk voor nieuwe problemen op het gebied van privacy en veiligheid zorgen.
Als je dat wilt voorkomen kun je die ki-connectie op je Windowsmachine met een PowerShellscript ongedaan maken. Of iets soortgelijks bestaat voor andere besturingssystemen weet ik(=as) niet, maar ik ga op zoek.
Ki-agenten
“Ki-agenten hebben, om hun volledige functionaliteit te kunnen benutten, om toegang te krijgen tot toepassingen, vaak toegang nodig tot het besturingssysteem of het containervirtualiseringsniveau van het apparaat waarop je ze draait”, zegt Harry Farmer, onderzoeker bij het Ada Lovelaceinstituut, die zich onder meer bezighoudt met het effect van ki-assistenten en ontdekte dat ze een diepgaande bedreiging kunnen vormen voor cyberveiligheid en privacy. Voor de personalisatie van kletsbots of ki-assistenten kunnen er, zegt Farmer, data-afwegingen plaatsvinden. “Al die dingen hebben, om te kunnen werken, behoorlijk wat informatie over jou nodig.”
Wat zo’n ki-agent is is niet duidelijk omschreven, maar zo’n ‘agent’ heeft in ki-systemen een zekere zelfstandigheid gekregen. Het lijkt er op alsof je iemand machtigt in jouw naam iets te doen. Die ‘agenten’ kunnen de controle over je apparaat overnemen en voor jou op internet surfen, vluchten boeken, onderzoek doen of dingen aan winkelwagentjes toevoegen.
Sommige kunnen taken voltooien die tientallen afzonderlijke stappen omvatten en de taken die ze aankunnen zullen alleen maar toenemen (met de controle over jouw machines). Volgens Farmer zal de rol van ki in privésfeer en bij veiligheid snel moeten worden geregeld, maar het probleem met die ontwikkelingen is dat ze zo snel gaan. Hij heeft het dan vooral over Engeland en Wales.
Ik zou zeggen: mijd ki en andere ‘gratis’ ‘oplossingen’. Voorkomen is beter dan genezen.
Bron: Wired