Internationaal rapport waarschuwt tegen verlies van controle over AI
Een hectische race van tech -reuzen om steeds krachtigere kunstmatige intelligentie (AI) te ontwikkelen, zou “schadelijke” effecten kunnen hebben, toonaangevende onderzoeker Yoshua Bengio heeft gewaarschuwd omdat wetenschappers zich in Parijs verzamelden voor een wereldwijde top over de technologie.
class = “cf”>
De computerwetenschapper en 2018 winnaar van de prestigieuze Turing Prize presenteerde het allereerste internationale AI-veiligheidsrapport, opgesteld onder zijn toezicht, aan de ENS-universiteit van Parijs.
Bengio wees op AI -risico’s die al algemeen worden erkend, zoals het gebruik ervan om online nep- of misleidende inhoud te maken.
Maar de professor van de Universiteit van Montreal voegde eraan toe dat “bewijs gestaag verschijnt aan extra risico’s, zoals biologische aanvallen of cyberaanvallen”.
Op de langere termijn vreest hij een mogelijke “verlies van controle” door mensen over AI -systemen, mogelijk gemotiveerd door “hun eigen wil om te overleven”.
De opkomst vorige maand van het goedkope, krachtige Chinese AI-model Deepseek had “de race opgevoerd, wat niet goed is voor veiligheid,” voegde Bengio eraan toe.
Hij riep op tot zwaardere internationale regelgeving en uitgebreider onderzoek naar AI -veiligheid, die voorlopig goed is voor “een kleine fractie” van de massale investeringen die in de sector worden gedaan.
class = “cf”>
“Zonder interventie van de overheid weet ik niet hoe we dit zullen doorstaan,” zei Bengio.
Toen Openai’s Chatgpt twee jaar geleden de openbare scène in barstte: “Ik voelde de urgentie om na te denken over deze kwestie van veiligheid,” zei Bengio terwijl hij het rapport presenteerde-ontworpen om nu bekende documenten van het Intergovernmental Panel on Climate Change te matchen ( IPCC).
“Wat me het meest bang maakt, is de mogelijkheid dat de mensheid binnen 10 jaar zou kunnen verdwijnen. Het is angstaanjagend. Ik weet niet waarom meer mensen het niet realiseren,” zei hij.
