In 2023 verschijnt het sciencefiction-literaire tijdschrift Clarkesworld stoppen met ontvangen nieuwe post omdat er zoveel geproduceerd zijn door kunstmatige intelligentie. Voor zover de redactie weet, plakken veel inzenders de gedetailleerde verhaalrichtlijnen van het tijdschrift in de AI en dienen de resultaten in. En ze zijn niet de enigen. Andere fictietijdschriften doen hetzelfde meldden hoge cijfers AI gegenereerde berichten.
Dit is slechts één voorbeeld van een trend die overal zichtbaar is. Oudere systemen zijn afhankelijk van schrijf- en cognitieve problemen om het volume te beperken. Generatieve AI overmeestert het systeem omdat de mensen aan de ontvangende kant het niet bij kunnen houden.
Dit gebeurt overal. Kranten worden overspoeld met door AI gegenereerde technologie brief aan de redactiezoals het is academisch tijdschrift. Wetgevers worden overspoeld met door AI gegenereerde technologie constituerende opmerkingen. Rechtbanken over de hele wereld worden overspoeld met door AI gegenereerde technologie dwangvooral door mensen die zichzelf vertegenwoordigen. De AI-conferentie is overstroomd met door AI gegenereerde onderzoekspapers. sociale media is overstroomd met Het spook van AI. In de muziek, open source-software, onderwijs, onderzoeksjournalistiekEn diensthet is hetzelfde verhaal.
Volgens de eerste reactie van Clarkesworld sloten sommige instellingen hun aanvraagprocedures af. Anderen reageren op de aanval van AI-input met een defensieve reactie, vaak met pogingen om het gebruik van AI tegen te gaan. Academisch peer-recensent steeds meer mensen gebruiken AI om papers te evalueren die door AI zouden kunnen worden gegenereerd. Socialemediaplatforms wenden zich tot AI-moderator. Het rechtssysteem maakt gebruik van AI triage en proces het aantal rechtszaken is toegenomen door AI. Ondernemers wenden zich tot AI-hulpmiddelen om sollicitaties van kandidaten te beoordelen. Docenten gebruiken AI niet alleen voor klasse papieren En het examen afnemenmaar als invoer hulpmiddelen voor studenten.
Het is allemaal een wapenwedloop: een snelle, vijandige herhaling van het toepassen van dezelfde technologie op tegengestelde doeleinden. Veel van deze wapenwedlopen hebben duidelijk negatieve gevolgen gehad. De samenleving zal eronder lijden als de rechtbanken worden gevuld met lichtzinnige zaken die door AI zijn verzonnen. Er is ook een keerzijde als gevestigde maatstaven voor academische prestaties (publicaties en citaten) worden gegeven aan onderzoekers die het meest bereid zijn om op frauduleuze wijze door AI geschreven brieven en papers in te dienen, en niet aan degenen wier ideeën de grootste impact hebben. De zorg is dat frauduleus gedrag veroorzaakt door AI uiteindelijk de systemen en instellingen zal verzwakken waarop de samenleving vertrouwt.
Voordelen van AI
Maar een deel van deze AI-wapenwedloop heeft verrassende voordelen, en de hoop is dat in ieder geval enkele instellingen veranderingen zullen kunnen doorvoeren om ze sterker te maken.
De wetenschap lijkt dankzij AI sterker te worden, maar krijgt problemen als AI fouten maakt. Denk eens aan een voorbeeld heeft geen zinhet filteren van door AI gegenereerde zinnen in wetenschappelijke artikelen.
Een wetenschapper die AI gebruikt om een academisch artikel te schrijven, zou een goede zaak kunnen zijn, als hij zorgvuldig en met openheid wordt gebruikt. AI wordt steeds meer een belangrijkste hulpmiddel in wetenschappelijk onderzoek: voor het beoordelen van literatuur, programmeren en voor het coderen en analyseren van gegevens. En voor velen is het een belangrijke ondersteuning geweest voor wetenschappelijke expressie en communicatie. Meer goed gefinancierde pre-AI-onderzoekers zouden mensen kunnen inhuren om hen te helpen bij het schrijven van academische artikelen. Voor veel schrijvers wier primaire taal niet het Engels is, dienst Dit soort hulp is duur behoefte. AI maakt het voor iedereen beschikbaar.
In fictie kunnen door AI geproduceerde nepwerken schade toebrengen, zowel aan menselijke auteurs die nu te maken krijgen met toenemende concurrentie als aan lezers die zich bedrogen kunnen voelen nadat ze onbewust het werk van een machine hebben gelezen. Sommige verkooppunten accepteren echter door AI ondersteunde inzendingen met de juiste openbaarmakingen en op basis van bepaalde richtlijnen, en gebruiken AI om die inzendingen te beoordelen op basis van criteria zoals originaliteit, geschiktheid en kwaliteit.
Anderen wijzen misschien de banen af die door AI worden gegenereerd, maar daar zijn kosten aan verbonden. Het is onwaarschijnlijk dat een menselijke redacteur of technologie het vermogen kan behouden om onderscheid te maken tussen menselijk en machinaal schrijven. In plaats daarvan zullen uitgeverijen die uitsluitend menselijk werk willen publiceren de inzendingen moeten beperken tot een groep schrijvers waarvan zij vertrouwen dat ze geen AI zullen gebruiken. Als dit beleid transparant is, kunnen lezers het formaat kiezen dat zij verkiezen en met plezier lezen van een of beide soorten media.
We zien ook geen probleem als werkzoekenden AI gebruiken om hun cv te verbeteren of betere sollicitatiebrieven te schrijven: de rijken en bevoorrechten hebben lange tijd toegang gehad tot menselijke hulp voor die dingen. Maar dat is een grens overschrijden als de AI eraan went leugen over identiteit en ervaring, of voor bedriegen bij een sollicitatiegesprek.
Op dezelfde manier vereist de democratie dat haar burgers hun mening kunnen overbrengen aan hun vertegenwoordigers, of aan elkaar via media zoals kranten. De rijken en machtigen kunnen al lang schrijvers inhuren om hun ideeën om te zetten in overtuigend proza, en wij denken dat AI die hulp aan meer mensen kan bieden een goede zaak is. Hier kunnen AI-fouten en vooroordelen gevaarlijk zijn. De samenleving kan AI niet alleen gebruiken om tijd te besparen; Dit kan inhouden dat hun kennis en vaardigheden worden vergroot, wat resulteert in uitspraken over historische, juridische of beleidsfactoren die ze niet onafhankelijk kunnen onderzoeken.
De huidige commerciële AI-tekstdetectoren zijn verre van waterdicht.
Fraude versterker
Wat we niet willen is dat lobbyisten AI gebruiken in kunstgrascampagnes, veel brieven schrijven en deze doorgeven als individuele meningen. Dit is ook een ouder probleem dat AI steeds erger wordt.
Wat hier de positieve en negatieve kanten onderscheidt, zijn niet de inherente aspecten van de technologie; het is een machtsdynamiek. Dezelfde technologie die de inspanning vermindert die burgers nodig hebben om hun levenservaringen met wetgevers te delen, zorgt er ook voor dat bedrijfsbelangen de samenleving op grote schaal verkeerd kunnen voorstellen. De eerste is de toepassing van AI die de macht in evenwicht brengt en de participatieve democratie versterkt; de laatste is een applicatie die de krachten concentreert die deze bedreigen.
Over het algemeen zijn wij van mening dat schrijf- en cognitieve hulpmiddelen, die al lang beschikbaar waren voor de rijken en machtigen, voor iedereen beschikbaar zouden moeten zijn. +Het probleem ontstaat wanneer AI fraude makkelijker maakt. Elke reactie zal een evenwicht moeten vinden tussen de nieuwe democratisering van de toegang en fraudepreventie.
Er is geen manier om deze technologie uit te schakelen. Zeer capabele AI is overal verkrijgbaar en kan op laptops worden uitgevoerd. Duidelijke ethische richtlijnen en professionele grenzen kunnen helpen – voor degenen die te goeder trouw handelen. Maar er zal nooit een manier zijn om academische schrijvers, werkzoekenden of particuliere burgers er volledig van te weerhouden deze instrumenten te gebruiken, hetzij als legitieme hulp, hetzij om fraude te plegen. Dit betekent meer reacties, meer brieven, meer sollicitaties, meer inzendingen.
Het probleem is dat degene die aan de ontvangende kant van deze door AI gevoede zondvloed zit, het toegenomen volume niet aankan. Wat kan helpen is het ontwikkelen van AI-instrumenten die instellingen en de samenleving ten goede komen, terwijl fraude wordt beperkt. En dat kan betekenen dat we het gebruik van AI-hulp in deze vijandige systemen moeten accepteren, ook al zal defensieve AI nooit de overhand krijgen.
Nadelen afwegen tegen voordelen
De sciencefictiongemeenschap worstelt sinds 2023 met AI. Clarkesworld heropent eindelijk de scheepvaart, claim dat het een adequate manier heeft om verhalen geschreven door mensen en AI te scheiden. Niemand weet hoe lang of hoe goed het zal blijven werken.
De wapenwedloop gaat door. Er is geen eenvoudige manier om te weten of de potentiële voordelen van AI opwegen tegen de nadelen, nu of in de toekomst. Maar als samenleving kunnen we de balans beïnvloeden tussen negatieve gevolgen en kansen die zich in de loop van de tijd voordoen door veranderingen in het technologische landschap.
Bruce Schneier is een vaste docent openbaar beleid bij Harvard Kennedyschool.
Nathan Sanders is een dochteronderneming van het Berkman Klein Center for Internet & Society in Harvard Universiteit.
Dit artikel is opnieuw gepubliceerd van Gesprek onder een Creative Commons-licentie. Lezen origineel artikel.
