Anthropic waarschuwt voor ‘existentiële’ AI-risico’s bij IPO-aanvraag: rapport
Pagina’s van de Anthropic-website en de logo’s van het bedrijf worden op een computerscherm weergegeven. (AP-foto)
De Amerikaanse kunstmatige intelligentie-ontwikkelaar Anthropic heeft investeerders gewaarschuwd voor potentiële ‘existentiële risico’s voor de mensheid’ in het prospectus voor zijn langverwachte beursgang van aandelen, zo meldde The Financial Times op 29 september.
klasse = “cf”>
Het rapport citeert mensen met kennis van de zogenaamde S1-aanvraag om dit openbaar te maken en wijst op de mogelijkheid dat krachtige AI-modellen ondanks veiligheidscontroles buiten hun voorspelde parameters kunnen opereren.
De waarschuwingen van de Claude-maker komen op het moment dat insiders uit de industrie en overheidsfunctionarissen alarm slaan over de gevaren van een technologie die aan het toezicht is ontsnapt in een reeks malafide incidenten, waaronder hackings en gezamenlijke cyberaanvallen.
Anthropic-chef Dario Amodei behoorde tot de leidinggevenden uit de AI-industrie die naar verwachting op 29 september een ontmoeting zouden hebben met president Donald Trump en andere functionarissen in Washington, volgens rapporten die nog niet door het Witte Huis zijn bevestigd.
De IPO-aanvraag geeft ook financiële details van het bedrijf dat slechts zes jaar geleden werd opgericht, inclusief plannen om de komende jaren maar liefst 518 miljard dollar te besteden aan AI-infrastructuur en rekenkracht.
Volgens het rapport bedroegen de bedrijfsverliezen vorig jaar ruim 8 miljard dollar, omdat de ontwikkelingskosten de opbrengsten van 4,6 miljard dollar ruimschoots overtroffen.
klasse = “cf”>
De beursintroductie, die in de komende weken wordt verwacht, zou Anthropic op ongeveer $2 biljoen kunnen waarderen, waardoor het de grootste openbare aandelenverkoop aller tijden zou zijn.
