Meredith Whittaker, president van de Signal Technology Foundation, heeft haar bezorgdheid geuit over de privacyrisico's die gepaard gaan met de opkomst van autonome AI-agents. Deze systemen, die zelfstandig taken kunnen uitvoeren zonder menselijke tussenkomst, worden door sommige technologische leiders geprezen om hun potentieel. Whittaker benadrukt echter de gevaren van het toevertrouwen van dergelijke systemen met uitgebreide toegang tot persoonlijke gegevens.
Autonome AI-agents, ook wel 'agentic AI' genoemd, zijn ontworpen om complexe taken uit te voeren zonder directe menselijke input. Ze kunnen bijvoorbeeld een concert zoeken, tickets boeken en vervolgens via een berichtenapp vrienden informeren over de details. Hoewel dit gemak biedt, vereist het dat de AI-agent toegang heeft tot diverse persoonlijke gegevens, zoals browsegeschiedenis, betalingsinformatie en contacten.
Whittaker benadrukt dat het functioneren van dergelijke AI-agents afhankelijk is van uitgebreide toegang tot persoonlijke en gevoelige gegevens. Ze stelt dat deze systemen toegang nodig hebben tot onze browser, creditcardgegevens, agenda's en communicatie-apps zoals Signal. Deze toegang kan leiden tot aanzienlijke privacy- en beveiligingsrisico's, vooral als de data wordt verwerkt op externe cloudservers. (lees verder onder de afbeelding)
Meredith Whittaker (afbeelding: YouTube)
In een eerder interview gaf Whittaker aan dat kunstmatige intelligentie voortkomt uit het surveillancebusinessmodel. Ze stelt dat AI wordt gebruikt om meer macht, inkomsten en marktreach te verkrijgen, wat leidt tot een wereld die het tegenovergestelde is van wat Signal biedt.
Whittaker is niet de enige die waarschuwt voor de risico's van autonome AI. AI-onderzoeker Yoshua Bengio heeft eveneens zijn zorgen geuit over de mogelijke catastrofale scenario's die kunnen ontstaan bij de ontwikkeling van kunstmatige algemene intelligentie. Beiden benadrukken de noodzaak van wetenschappelijk begrip en technologische investeringen om deze risico's te beperken.
Terwijl autonome AI-agents beloven ons leven te vereenvoudigen door taken over te nemen, brengen ze ook significante privacy- en beveiligingsrisico's met zich mee. Het is essentieel dat zowel ontwikkelaars als gebruikers zich bewust zijn van deze gevaren en stappen ondernemen om persoonlijke gegevens te beschermen in een steeds meer door AI gedomineerde wereld.
(Bron: Business Insider - Intropic: Freepik)
Lees het artikel op de mobiele website