Achttien maanden geleden zou dat logisch zijn geweest kunstmatige intelligentie neem misschien een ander pad in plaats van sociale media. Destijds was de ontwikkeling van AI nog niet geconsolideerd onder een klein aantal grote technologiebedrijven. Het bedrijf heeft ook niet geprofiteerd van de aandacht van consumenten, het monitoren van gebruikers en het weergeven van advertenties.
Helaas neemt de AI-industrie nu een stap verwijderd van het social media-playbook en richt zij haar aandacht op het genereren van inkomsten uit de aandacht van de consument. Toen OpenAI het lanceerde GPT-chat zoeken functies eind 2024 en de browser, GPT Chatatlasin oktober 2025, beginnend a racen om online gedragsgegevens vast te leggen reclame te versterken. Het maakt deel uit van een periode van jaren ommekeer door OpenAIwie is de CEO Sam Altman noemde de combinatie van reclame en AI ooit ‘disruptief’ en belooft nu precies dat reclame kan worden geïmplementeerd in AI-toepassingen terwijl het vertrouwen behouden blijft. Wat ongebreideld is speculatie onder OpenAI-gebruikers die dachten dat ze betaalde plaatsingen in ChatGPT-reacties zagen, gaven aan dat ze het niet zeker wisten.
In 2024 werd het AI-zoekbedrijf Perplexity gestart experimenteren met advertenties in het aanbod. Een paar maanden daarna, Microsoft door advertenties in zijn Copilot te introduceren DAAR. eigendom van Google AI-modus voor zoeken toont nu steeds meer advertenties, net als de Rufus-chatbot van Amazon.
Als een veiligheidsdeskundige En data wetenschapperwe zien deze voorbeelden als voorbodes van een toekomst waarin AI-bedrijven profiteren door het gedrag van hun gebruikers te manipuleren ten behoeve van hun adverteerders en investeerders. Het herinnert ons er ook aan dat de tijd om de koers van de AI-ontwikkeling te verleggen van particuliere uitbuiting naar algemeen nut bijna voorbij is.
De zoekfunctionaliteit van ChatGPT en de Atlas-browser zijn eigenlijk niets nieuws. Metacommerciële AI-concurrenten Verwarringen zelfs GPT-chat zelf heeft al jaren vergelijkbare AI-zoekfuncties, en beide Googlen En Microsoft versloeg OpenAI door AI te integreren met hun browser. Maar Open AI zakelijke positionering duidt op een verschuiving.
Wij zijn van mening dat de aankondigingen van ChatGPT Search en Atlas zorgwekkend zijn, omdat er maar één manier is om geld te verdienen met zoeken: het advertentiemodel meedogenloos ontwikkeld door Google.
Advertentiemodel
Besteld een monopolist bij de Amerikaanse federale rechtbank heeft Google meer dan verkregen De advertentie-inkomsten bedroegen 1,6 biljoen dollar sinds 2001. Je zou Google kunnen zien als een bedrijf voor internetzoekopdrachten, of een bedrijf voor streaming video (YouTube), of een e-mailbedrijf (Gmail), of een bedrijf voor mobiele telefoons (Android, Pixel), of misschien zelfs een AI-bedrijf (Gemini). Maar deze producten komen bovenop de winst van Google. Meestal levert het advertentiesegment een bijdrage 80% tot 90% van zijn totale inkomen. Al het andere is aanwezig verzamelen gebruikersgegevens en richten de aandacht van gebruikers in zijn advertentie-inkomstenstroom.
Na twintig jaar in deze monopoliepositie zijn de zoekproducten van Google veel beter afgestemd op de behoeften van het bedrijf dan op de behoeften van de gebruikers. Toen Google Zoeken decennia geleden voor het eerst verscheen, was het vermogen om onmiddellijk nuttige informatie te vinden op het nog in opkomst zijnde internet ongelooflijk. In 2025 zal de zoekresultatenpagina er zijn gedomineerd door lage kwaliteit en vaak door AI gegenereerde inhoud, spamsites die uitsluitend bestaan om verkeer naar Amazon-verkopen te leiden – een tactiek die bekend staat als affiliatemarketing– en betaalde advertentieplaatsing, wat soms het geval is niet te onderscheiden van biologische producten.
Veel adverteerder En waarnemer lijkt te denken dat AI-aangedreven reclame de toekomst van de reclamewereld is.
De AI-reclameplannen van Big Tech schudden de industrie wakker.
Zeer overtuigend
Betaalde advertenties in AI-zoekopdrachten, en AI-modellen in het algemeen, kunnen er heel anders uitzien dan traditionele internetzoekopdrachten. Dit heeft het potentieel om uw denken, bestedingspatronen en zelfs persoonlijke overtuigingen op veel subtielere manieren te beïnvloeden. Omdat AI een actieve dialoog kan aangaan en uw specifieke vragen, zorgen en ideeën kan beantwoorden, in plaats van alleen maar door statische inhoud te bladeren, is de potentiële impact ervan veel groter. Het is als het verschil tussen het lezen van een leerboek en het voeren van een gesprek met de auteur.
Stel je voor dat je met je AI-agent praat over een aanstaande vakantie. Beveelt het bedrijf een bepaalde luchtvaartmaatschappij of hotelketen aan omdat dit het beste bij u past, of krijgt het bedrijf een vergoeding voor elke vermelding? Als u naar een politieke kwestie vraagt, vertekent het model het antwoord dan op basis van welke politieke partij vergoedingen aan het bedrijf heeft betaald, of op basis van de vooringenomenheid van de eigenaar van het gemodelleerde bedrijf?
Er is veel bewijs dat AI-modellen minstens zo effectief zijn als mensen in het overtuigen van gebruikers om dingen te doen. Een meta-analyse uit december 2023 van 121 gerandomiseerde onderzoeken meldde dat AI-modellen dat wel deden zo goed als mensen in het veranderen van de perceptie, houding en gedrag van mensen. Een recentere meta-analyse van acht onderzoeken concludeerde hetzelfde “Er was over het algemeen geen significant verschil in overtuigende prestaties tussen (grote taalmodellen) en mensen.”
Deze invloeden kunnen verder gaan dan het bepalen welke producten u koopt of op wie u stemt. Net als op het gebied van zoekmachineoptimalisatie zijn er prikkels voor mensen om aan AI-modellen te werken mogelijk vormgeven aan de manier waarop mensen schrijven en met elkaar communiceren. De manier waarop we ons online uitdrukken zal er waarschijnlijk steeds meer op gericht zijn om de aandacht van AI te trekken en terrein te winnen in de reacties die zij aan gebruikers bieden.
Een andere weg vooruit
Veel hiervan is teleurstellend, maar er zijn veel dingen die gedaan kunnen worden om dit te veranderen.
Ten eerste is het belangrijk om te beseffen dat dit precies is wat AI vandaag de dag is in principe onbetrouwbaarom dezelfde redenen als zoekmachines en sociale-mediaplatforms.
Het probleem is niet de technologie zelf; een snelle manier om informatie te vinden en te communiceren met vrienden en familie kan een geweldige vaardigheid zijn. Het gaat om de prioriteiten van de bedrijven die eigenaar zijn van deze platforms en in wier belangen ze worden geëxploiteerd. Realiseer je dat je geen controle hebt over welke gegevens aan AI worden doorgegeven, met wie deze worden gedeeld en hoe deze worden gebruikt. Het is belangrijk om dat in gedachten te houden wanneer u apparaten en services met AI-platforms verbindt, vragen stelt of overweegt de dingen die ze voorstellen aan te schaffen of te doen.
Er zijn ook veel dingen die burgers van overheden kunnen vragen om het gebruik van AI, dat schadelijk is voor bedrijven, te beperken. In de VS kan het Congres dat wel consumentenrechten garanderen hun persoonsgegevens te controleren, zoals de EU al doet. Dit kan ook gegevensbescherming creëren wetshandhavingsinstantiesals eigenlijk alle anderen eigendom van ontwikkelde landen.
Regeringen over de hele wereld kunnen dit doen investeren in publieke AI–modellen die door overheidsinstanties zijn gebouwd, worden universeel aangeboden in het publieke belang en op transparante wijze onder publieke controle. Ze kunnen ook de manier beperken waarop bedrijven samenspannen om mensen uit te buiten met behulp van AI, bijvoorbeeld door reclame voor schadelijke producten zoals sigaretten te verbieden en de openbaarmaking van betaalde reclame te eisen.
Elk technologiebedrijf wil zich onderscheiden van de concurrentie, vooral in een tijdperk waarin innovatieve AI snel een handelsartikel wordt dat op de telefoon van elk kind kan draaien. Een van de onderscheidende factoren is het bouwen van betrouwbare diensten. Het valt nog te bezien of bedrijven als OpenAI en Anthropic winstgevende bedrijven kunnen behouden dankzij AI-abonnementsdiensten zoals premium-edities van ChatGPT, Plus en Pro, en Claude Pro. Als ze consumenten en bedrijven willen blijven overtuigen om voor deze premiumdiensten te betalen, moeten ze vertrouwen opbouwen.
Dit vereist echte toezeggingen aan consumenten op het gebied van transparantie, privacy, betrouwbaarheid en veiligheid, die consequent worden nageleefd en controleerbaar zijn.
Hoewel niemand weet wat de AI-bedrijfsmodellen in de toekomst zullen zijn, kunnen we er zeker van zijn dat consumenten niet willen worden uitgebuit door AI, al dan niet heimelijk.
Bruce Schneier is een vaste docent openbaar beleid bij Harvard Kennedyschool.
Nathan Sanders is een dochteronderneming van het Berkman Klein Center for Internet & Society in Harvard Universiteit.
Dit artikel is opnieuw gepubliceerd van Gesprek onder een Creative Commons-licentie. Lezen origineel artikel.
