Op 16 juli 1945, toen ’s werelds eerste kernexplosie de vlakten van New Mexico opschudde, J. Robert Oppenheimerwie het project leidde, citaat Bhagavad Gita: “Nu ben ik de Dood, vernietiger van werelden.” En het is waar. De wereld was nooit meer hetzelfde nadat kernenergie werkelijkheid werd.
Maar tegenwoordig hebben we het respect voor de kracht van technologie verloren. In plaats van doelbewust en zorgvuldig te werk te gaan, haasten we ons. In zijn werk”Techno-optimistisch manifest”technologie-investeerder Marc Andreessen impliceert dat AI Regulatie is een vorm van moord. Minister van Defensie Pete Hegseth gestraft door antropisch wanneer ze hun eigen technologie proberen te beperken.
Het is duidelijk dat we hier eerder zijn geweest en hebben laten zien dat we deze uitdaging aankunnen. We hebben de nucleaire dreiging onder controle gehouden en nuttige beperkingen gesteld aan het gebruik van genomica, terwijl we de technologie toch vooruitgang hebben laten boeken. Maar bijvoorbeeld als we geen acht slaan op waarschuwingen we doen het met financiële engineeringwij hebben een zware prijs betaald. De keuze tussen zorgeloosheid en voorzichtigheid is wat ons nu te wachten staat.
Hoe we de nucleaire geest terug in de fles stoppen
Het verhaal van kernwapens begon niet bij Oppenheimer – bij lange na niet. Sterker nog, als we willen attribueren Manhattan-project voor één persoon zou het de naam kunnen zijn van een Hongaarse geïmmigreerde natuurkundige Leo Szilarddie een van de eerste mensen was die nadacht over de mogelijkheid van een nucleaire kettingreactie.
In 1939, na het horen van de ontdekking van kernsplijting in Duitsland, besloot Szilard – samen met andere Hongaarse emigranten Eugène Wigner– besloot dat de autoriteiten gewaarschuwd moesten worden. Szilard dus een brief opstellen waarschuwing voor een mogelijke atoombom. De brief werd uiteindelijk ondertekend door Albert Einstein en gestuurd naar president Franklin D. Roosevelt. Dat heeft het veroorzaakt Manhattan-project en kernbommen.
Maar na de explosies in Hiroshima en Nagasaki wilden veel wetenschappers die aan de ontwikkeling van de bom werkten het publiek voorlichten over de gevaren ervan. In 1955, filosoof Bertrand Russell een manifest uitgegeven, ondertekend door een aantal wetenschappelijke figuren. Dit veroorzaakt een reeks conferenties in Pugwash, Nova Scotiadie werd gehouden om verschillende benaderingen te bespreken om de wereld te beschermen tegen massavernietigingswapens.
Deze inspanningen omvatten meer dan alleen maar praten. Ze hielpen de non-proliferatieagenda vorm te geven en brachten tastbare resultaten voort, zoals: Gedeeltelijk kernstopverdrag. Deze bijdragen waren zelfs zo belangrijk dat de organisatoren van de Pugwash-conferentie in 1995 de Nobelprijs voor de Vrede kregen. doorgaan zelfs vandaag.
Beperking van wat we doen met de levenscode
Als het nucleaire tijdperk met een grote explosie begon, dan begon het genetische tijdperk met een simpele explosie artikel in wetenschappelijke tijdschriften Natuurlijkgeschreven door twee relatief onbekende wetenschappers genaamd James Watson En Franciscus Krik. Voor het ongetrainde oog lijkt dit een gewoon artikel over obscure moleculaire structuren. Maar zijn laatste zin logenstraft een baanbrekend inzicht.
“Het ontging onze aandacht niet dat het specifieke paar dat we postuleerden onmiddellijk een mogelijk mechanisme suggereerde voor het kopiëren van genetisch materiaal.”
Het was een van die zeldzame gedenkwaardige momenten waarop uit één enkele gebeurtenis een geheel nieuwe tak van wetenschap voortkwam. Dit vakgebied ontwikkelde zich snel en ongeveer twintig jaar later werd er een briljante onderzoeker genoemd Paul Berg vind dat je dat kunt het combineren van menselijk DNA met het DNA van andere levende wezenshet creëren van nieuw genetisch materiaal dat niet in de natuur voorkomt. Net als Oppenheimer begreep Berg dat de mensheid door zijn werk op een afgrond stond en onduidelijk was waar de rand lag.
Hij een conferentie houden op Asilomar State Beach in Californië om richtlijnen op te stellen. Belangrijk is dat deelname niet beperkt blijft tot wetenschappers alleen. Er was een breed scala aan belanghebbenden uitgenodigd, waaronder ambtenaren, leden van de media en ethische deskundigen. Het resultaat, nu bekend als “Bergs briefriep op tot een moratorium op de meest risicovolle experimenten totdat de gevaren beter werden begrepen. Deze normen werden decennialang gerespecteerd.
Vandaag leven we ernaar nog een revolutie in genomica en synthetische biologie. Nieuwe technologie, zoals CRISPR En mRNA-techniekheeft ongelooflijke mogelijkheden geopend, maar ook ernstige gevaren. Maar ook hier vinden pioniers in het veld het leuk Jennifer Doudna zij lopen voorop bij het ontwerpen van vangrails die zinvol zijn en technologie op verantwoorde wijze gebruiken.
Carols reis
In 2019 heeft een Facebook-onderzoeker een fictieve rekening aan ‘Carol Smith’, een politiek conservatieve moeder uit Wilmington, North Carolina. Carol vond toen verschillende reguliere pagina’s leuk, maar was meestal conservatief. Binnen enkele dagen stuurde het algoritme van Facebook hem naar een konijnenhol vol QAnon-samenzweringen en blanke supremacistische inhoud.
Volgens de klokkenluidersklacht kregen topbestuurders van Facebook, waaronder Mark Zuckerberg, te horen dat hun platform zijn gebruikers radicaliseerde, maar winst en groei verkoos boven veiligheid. Dit is geen eenmalig incident, maar maakt deel uit van een bestaand patroon in de manier waarop Facebook zaken doet.
In 2016 Nobelprijswinnaar Maria Ressa waarschuwde de bedrijfsleiders hiervoor Facebook wordt uitgebuit door een netwerk van bots om verkiezingen te beïnvloeden. Dat Wall Street Journal een reeks rapporten gepubliceerd suggereert dat het bedrijf wist dat zijn producten schadelijk waren voor zijn gebruikers, vooral tienermeisjes, maar geen actie ondernam om de schade te beperken. Onlangs bevestigde de rechtbank de beschuldigingen en vond het bedrijf verantwoordelijk voor schade.
Het verschil tussen Silicon Valley en andere technologische doorbraken is verrassend. Het waren tenslotte kernwetenschappers die ons waarschuwden voor de gevaren van kernenergie, net zoals biologen waarschuwden voor recombinant DNA. We hebben keer op keer bewezen dat technologie kan worden ingeperkt en dat de schade ervan kan worden beperkt.
Maar nu er enorme winsten op het spel staan, hebben de leidinggevenden van Silicon Valley laten zien dat ze niet bereid zijn hetzelfde te doen.
Dat is de instelling, domkop
In 1945, Vannevar Bush publiceerde een lang essay in Atlantische Oceaan gerechtigd “Zoals we misschien denken”, dat een ‘memex’ voorstelt, een machine die veel op het hedendaagse internet lijkt. Hij schrijft:
“Denk eens aan een apparaat van de toekomst… waarin een persoon al zijn boeken, aantekeningen en communicatie opslaat, en dat mechanisch zo is geconstrueerd dat het met buitengewone snelheid en flexibiliteit toegankelijk is. Het is een diepere toevoeging aan zijn geheugen.”
Maar toen hij zich de toekomst voorstelde, zag Bush zowel mogelijkheden als gevaar. Hij voorspelde een groot deel van het hedendaagse internetgebruik, inclusief het vermogen van artsen om de symptomen van obscure zaken op te sporen en advocaten om snel relevante rechtszaken te behandelen. Maar hij voorspelde ook veel van de problemen waarmee we worden geconfronteerd, zoals een overvloed aan informatie en het gebruik van technologie voor oorlog.
Bush was destijds een figuur vergelijkbaar met Elon Musk, maar prominenter. Als ingenieur van het hoogste niveau vond hij de protocomputer uit aan het MIT. Hij was ook medeoprichter van het bedrijf Raytheontoezicht houden Wetenschappelijk programma van de Amerikaanse overheid tijdens de Tweede Wereldoorlog, inclusief de ontwikkeling van de atoombom, radar en penicilline.
Maar misschien wel meer dan wat dan ook was hij een meester in het ontwerpen van instituties. Toen de oorlog ten einde liep, vroeg president Roosevelt hem een rapport uit te brengen over de manier waarop de wetenschappelijke bekwaamheid van Amerika kon worden voortgezet. Dat rapport, “Wetenschap, eindeloze grens,” gepresenteerd aan president Harry S. Truman in 1945, legde de basisarchitectuur van het programma uit, zoals Nationale WetenschapsstichtingDat zal van de VS een technologische supermacht maken.
Om James Carville te citeren: Dat is het instituut, stommeling. Als we het potentieel van kunstmatige intelligentie en andere geavanceerde gebieden zoals kwantumcomputers en synthetische biologie willen realiseren, en tegelijkertijd de gevaren ervan willen minimaliseren, hebben we structuren nodig die onze collectieve verlangens voor het algemeen welzijn kunnen organiseren. Of we zullen onze wil ondergeschikt maken aan de technologie die we niet onder controle hebben.
De keuzes gemaakt door mensen uit de oudheid hebben de wereld waarin we vandaag leven gevormd. De keuzes die we nu maken, zullen vorm geven aan de wereld die we achterlaten.
