OpenAI onthult Voice Engine
ChatGPT-maker OpenAI stapt in de stemassistent-business en pronkt met nieuwe technologie die de stem van een persoon kan klonen, maar zegt dat deze deze vanwege veiligheidsoverwegingen nog niet publiekelijk zal vrijgeven.
Het kunstmatige-intelligentiebedrijf onthulde zijn nieuwe Voice Engine-technologie, iets meer dan een week na het indienen van een handelsmerkaanvraag voor de naam. Het bedrijf beweert dat het de stem van een persoon kan reproduceren met slechts 15 seconden opname van die persoon die praat.
OpenAI zegt dat het van plan is er een preview van te maken met vroege testers “maar deze technologie op dit moment nog niet op grote schaal vrij te geven” vanwege de gevaren van misbruik.
“We erkennen dat het genereren van spraak die lijkt op de stemmen van mensen ernstige risico’s met zich meebrengt, die vooral in een verkiezingsjaar hoog op de agenda staan”, aldus het bedrijf uit San Francisco in een verklaring.
In New Hampshire onderzoeken de autoriteiten robocalls die vlak voor de presidentsverkiezingen naar duizenden kiezers zijn gestuurd en waarin een door AI gegenereerde stem te zien was die president Joe Biden nabootste.
Een aantal startende bedrijven verkoopt al stemkloneringstechnologie, waarvan een deel toegankelijk is voor het publiek of voor geselecteerde zakelijke klanten zoals entertainmentstudio's.
OpenAI zegt dat vroege Voice Engine-testers hebben afgesproken om zich niet voor te doen als een persoon zonder hun toestemming en om te onthullen dat de stemmen door AI worden gegenereerd. Het bedrijf, vooral bekend om zijn chatbot en de beeldgenerator DALL-E, hanteerde een soortgelijke aanpak bij het aankondigen, maar niet op grote schaal vrijgeven van zijn videogenerator Sora.
