Trump-administratie zou kunnen denken dat regulering zoiets is verlammen Dat AI-industriemaar een van de grootste spelers in de sector is het daar niet mee eens.
Tijdens het Big Interview-evenement van WIRED op donderdag, Antropisch president en mede-oprichter Daniela Amodei vertelde hoofdredacteur Steven Levy dat hoewel Trumps A.I. cryptomagnaat David Sacks misschien wel tweeten dat zijn bedrijf “een geavanceerde regelgevende controlestrategie uitvoert die gebaseerd is op angst”, gelooft hij dat de inzet van zijn bedrijf om de potentiële gevaren van AI onder de aandacht te brengen de sector sterker zal maken.
“We waren vanaf dag één zeer luidruchtig omdat we voelden dat er een enorm potentieel was (voor AI)”, zei Amodei. “We willen echt dat de hele wereld zich bewust wordt van het potentieel, de positieve voordelen en de voordelen die AI kan opleveren, en om dat te bereiken moeten we de moeilijke dingen goed doen. We moeten de risico’s beheersbaar maken. En daarom praten we hier zo vaak over.”
Meer dan 300.000 startups, ontwikkelaars en bedrijven gebruiken een versie van het model van Claude Anthropolic en Amodei zegt dat hij door de deals van het bedrijf met die merken heeft geleerd dat klanten weliswaar willen dat hun AI geweldige dingen doet, maar dat ze ook willen dat deze betrouwbaar en veilig is.
“Niemand zegt ‘we willen een product dat minder veilig is’”, zei Amodei, waarbij hij het rapport van Anthropolic over modelbeperkingen en jailbreaks vergelijkt met rapporten van autobedrijven die crashteststudies vrijgeven om te laten zien hoe ze omgaan met veiligheidsproblemen. Het lijkt misschien verrassend om in een video een crashtestpop door een autoraam te zien vliegen, maar wetende dat een autofabrikant de veiligheidsvoorzieningen van zijn voertuig heeft bijgewerkt als resultaat van de tests, kan een auto aan kopers verkopen. Amodei zei dat hetzelfde geldt voor bedrijven die de AI-producten van Anthropic gebruiken, waardoor een zelfregulerende markt ontstaat.
“We hebben een minimale veiligheidsnorm vastgesteld die je bijna zou kunnen beschouwen, alleen al door wat we in de economie hebben gestopt”, zei hij. “(Bedrijven) bouwen nu een groot deel van hun workflows en dagelijkse toolingtaken rond AI, en ze zeggen: ‘We weten dat dit product minder hallucinerend is, geen schadelijke inhoud produceert en niet al deze slechte dingen doet.’ Waarom zou je een concurrent kiezen die daarop lager scoort?”
Foto: Annie Noelker
