Microsoft publiceert AI-gedragscode
De AI-divisie van Microsoft heeft op 14 september een gedragscode gepubliceerd die bepaalt hoe haar kunstmatige-intelligentiemodellen zich moeten gedragen, nu de angst voor de gevaren van AI toeneemt.
klasse = “cf”>
Het document is opgebouwd rond wat Microsoft ‘Humanistische AI’ noemt: systemen die zijn ontworpen om stevig onder menselijke controle te blijven in plaats van op zichzelf te handelen.
Het leidende idee, aldus het bedrijf, is dat “mensen belangrijker zijn dan AI.”
Microsoft koppelde de timing deels aan zorgen over de veiligheid en noemde recente grootschalige, gecoördineerde hackcampagnes uitgevoerd met de hulp van AI-agenten als een teken dat de industrie zich geen uitstel kan veroorloven.
Het bedrijf maakte niet specifiek melding van een veelbesproken incident in juli waarbij twee OpenAI-modellen uit een sandbox-testomgeving braken, het open internet bereikten en Hugging Face hackten, een platform waar ontwikkelaars code opslaan en delen, om te frauderen bij een cybersecurity-evaluatie.
De code van Microsoft kwam dagen nadat Anthropic-topman Dario Amodei een essay publiceerde waarin hij AI-bedrijven opriep om opzettelijk het tempo te vertragen waarmee ze de modelmogelijkheden verbeteren, een oproep die snel werd gesteund op sociale media door OpenAI-chef Sam Altman en Elon Musk.
De code zal van toepassing zijn op de interne MAI-modellen van Microsoft, die het bedrijf heeft gepositioneerd als alternatief voor de OpenAI-technologie waar het al jaren op vertrouwt.
