AI heeft veiligheidslagen nodig zoals kerncentrales: ex-OpenAI-ingenieur
Er zijn talloze berichten geweest over kwaadaardige AI-agenten.
Een andere voormalige OpenAI-medewerker heeft zijn stem toegevoegd aan een koor van verwoede oproepen om AI veilig te maken, waarbij hij zei dat de industrie de luchtvaart- of kernenergiesector moet nabootsen met hun lagen van veiligheidsmaatregelen om rampen te voorkomen.
klasse = “cf”>
In een artikel gepubliceerd in The Atlantic Magazine herhaalde David Robinson waarschuwingen van binnen en buiten de AI-wereld dat haar agenten zo snel worden ontwikkeld en zo slim worden dat ze spoedig aan de controle zouden kunnen ontsnappen en mogelijk de mensheid zouden kunnen uitroeien.
Robinson zei dat de alarmerende incidenten die sinds het begin van de zomer zijn gemeld – waarbij AI-agenten uit hun gecontroleerde ruimtes glipten en schurkenstaten gingen om een verscheidenheid aan doelen aan te vallen – aantonen dat de industrie de veiligheid lang niet serieus genoeg neemt terwijl ze sprint om snellere en krachtigere kunstmatige intelligentie-mogelijkheden te ontwikkelen.
Robinson zegt dat hij drie en een half jaar bij OpenAI heeft gewerkt en een van de langst dienstverbanden van het bedrijf was.
De fouten die onlangs aan het licht zijn gekomen, zijn typerend vanwege ‘de snelheid en flexibiliteit waarmee mensen opereren’, schreef Robinson.
klasse = “cf”>
Hij voegde eraan toe: “Een omgeving waarin dit soort dingen kunnen gebeuren, is geen plek waar kunstmatige geesten kunnen groeien die slimmer kunnen zijn dan wij en die misschien niet doen wat we willen.”
Hij betoogde dat geavanceerde AI-laboratoria net als de luchtvaart of de nucleaire industrie moeten opereren met lagen van overtollige beveiliging en zorgvuldige planning “zodat incidentele en onvermijdelijke menselijke fouten geen deur openen naar rampen.”
