Het tijdperk van AI-agenten met volledige toegang is aangebroken

Al jaren, dat is de kosten voor het gebruik van de “gratis” dienst van Googlen, Facebook, Microsoften andere Big Tech-bedrijven uw gegevens hebben overgedragen. Het uploaden van uw leven naar de cloud en het gebruik van gratis technologie biedt gemak, maar het plaatst persoonlijke informatie in handen van gigantische bedrijven die er vaak geld mee willen verdienen. Nu, dat is het de volgende golf van generatieve AI systemen willen doorgaans meer toegang tot uw gegevens dan voorheen.

De afgelopen twee jaar zijn generatieve AI-tools, zoals Open AI‘S GPT-chat en Googlen Tweeling– is afgestapt van de tekst-only chatbots die aanvankelijk door het bedrijf werden uitgebracht. Integendeel, Big AI bouwt steeds meer aan de adoptie ervan agent en “assistent” die beloven dat zij actie kunnen ondernemen en de taak namens u kunnen voltooien. Het probleem? Om het maximale uit hen te halen, moet u ze toegang geven tot uw systemen en gegevens. Hoewel een groot deel van de aanvankelijke controverse over grote taalmodellen (LLM) het online kopiëren van auteursrechtelijk beschermde gegevens betrof, zal de toegang van AI-agenten tot uw persoonlijke gegevens waarschijnlijk een aantal nieuwe problemen veroorzaken.

“AI-agenten hebben, om volledige functionaliteit te hebben en toegang te krijgen tot applicaties, vaak toegang nodig tot het besturingssysteem of het OS-niveau van het apparaat waarop ze draaien”, zegt Harry Farmer, een senior onderzoeker bij het Ada Lovelace Institute, wiens werk onder meer het bestuderen van impact van AI-assistenten en ontdekte dat het een “grote bedreiging” zou kunnen vormen voor cyberveiligheid en privacy. Voor de personalisatie van chatbots of assistenten kan er volgens Farmer een data-afweging zijn. “Al deze dingen vereisen, om te kunnen werken, behoorlijk wat informatie over jou”, zei hij.

Hoewel er geen definitieve definitie bestaat van wat een AI-agent eigenlijk is, worden ze vaak beschouwd als generatieve AI-systemen of LLM’s die zijn toegekend. een zekere mate van autonomie. Momenteel zijn agenten of assistenten, incl AI-webbrowserkan uw apparaat bedienen en voor u op internet surfen, vluchten boeken, onderzoek doen of toevoegen artikelen naar de winkelwagen. Sommigen kunnen taken voltooien die omvatten tientallen individuele stappen.

Hoewel de huidige AI-agenten problematisch zijn en vaak niet op te lossen taak ze waren klaar om het te doentechnologiebedrijven gokken erop dat het systeem in wezen precies dat zal doen wijziging miljoenen mensen naarmate ze capabeler worden. Een belangrijk deel van het nut ervan komt waarschijnlijk voort uit de toegang tot gegevens. Als u dus een systeem wilt dat u van uw planning en taken kan voorzien, heeft het toegang nodig tot uw agenda, berichten, e-mail en meer.

Enkele van de meer geavanceerde AI-producten en -functies geven een indruk van hoeveel toegangsagenten en -systemen kunnen bieden. Bepaalde agenten die voor het bedrijfsleven zijn ontwikkeld, kunnen dat wel code lezene-mail, databasesSlack-berichten, bestanden opgeslagen in Google Drive en meer. De controversiële terugroepactie van Microsoft Het product maakt elke paar seconden een screenshot van uw bureaublad, zodat u alles wat u op uw apparaat hebt gedaan, kunt opzoeken. Tinder heeft een AI-functie gemaakt die dat wel kan door foto’s zoeken op uw telefoon “om de “interesses en persoonlijkheden” van gebruikers beter te begrijpen.

Carissa Véliz, auteur en professor aan de Universiteit van Oxford, zei dat consumenten vaak geen echte manier hebben om te controleren of AI- of technologiebedrijven met hun gegevens omgaan zoals ze beweren. “Deze bedrijven zijn erg kieskeurig over de manier waarop ze data gebruiken”, zegt Véliz. “Ze hebben bewezen weinig respect te hebben voor privacy.”