Antropische blokken proberen AI te gebruiken voor de potentiële ontwikkeling van biowapens
Kunstmatige intelligentiebedrijf Anthropic heeft gezegd dat het vijf pogingen heeft geblokkeerd om zijn AI-modellen te gebruiken voor activiteiten die mogelijk zouden kunnen bijdragen aan de ontwikkeling van biologische wapens.
klasse = “cf”>
De gevallen betroffen onderzoek met betrekking tot chikungunya, vogelgriep en pokken, aldus het bedrijf in een rapport over het misbruik van zijn AI-systemen.
In één geval gebruikte een onderzoeker verbonden aan een onbekende militaire instelling de Claude-chatbot van Anthropic terwijl hij een onderzoeksvoorstel voorbereidde op chikungunya, een door muggen overgebracht virus.
Hoewel het onderzoek legitieme doeleinden zou kunnen hebben, waaronder de ontwikkeling van vaccins, zocht de onderzoeker ook hulp die aanleiding gaf tot bezorgdheid over het creëren van gevaarlijkere varianten van het virus.
In andere gevallen ging het om pogingen om AI te gebruiken om manieren te onderzoeken om de overdraagbaarheid van vogelgriep te vergroten en om informatie te verzamelen over dierlijke gifstoffen die mogelijk in wapens zouden kunnen worden gebruikt.
Naast biologisch onderzoek identificeerde het rapport ook andere potentieel kwaadaardige toepassingen van AI, waaronder de ontwikkeling van conventionele wapens en cyberaanvallen.
Anthropic waarschuwde dat het identificeren van potentieel gevaarlijke capaciteiten niet aantoont dat gebruikers van plan waren biologische wapens te ontwikkelen of daarin zouden zijn geslaagd.
klasse = “cf”>
Anthropic publiceerde het rapport nadat Jacob Coxon, een van zijn onderzoekers, aankondigde dat hij ontslag zou nemen, uit angst dat het bedrijf en zijn belangrijkste rivaal OpenAI “regelrecht op weg zijn naar zelfverbeterende superintelligentie en gokken met onze levens.”
Coxon waarschuwde dat sommige van zijn collega’s nu geloven dat AI tegen het einde van het decennium het menselijk leven zou kunnen bedreigen.
