Brits onderzoek waarschuwt voor gevaren in AI-gestuurde ‘intentie-economie’
Conversationele hulpmiddelen voor kunstmatige intelligentie (AI) kunnen binnenkort de besluitvorming van gebruikers ‘heimelijk beïnvloeden’ in een nieuwe commerciële grens die de ‘intentie-economie’ wordt genoemd, waarschuwden onderzoekers van de Universiteit van Cambridge in een gisteren gepubliceerd artikel.
klasse = “cf”>
Het onderzoek stelt dat de potentieel ‘lucratieve maar verontrustende’ markt die opkomt voor ‘digitale intentiesignalen’ in de nabije toekomst alles kan beïnvloeden, van het kopen van bioscoopkaartjes tot het stemmen op politieke kandidaten.
Onze toenemende bekendheid met chatbots, digitale docenten en andere zogenaamde ‘antropomorfe’ AI-agenten draagt bij aan het mogelijk maken van deze nieuwe reeks ‘overtuigende technologieën’, voegde het eraan toe.
Als dit niet wordt gecontroleerd, zou dit ‘sociale manipulatie op industriële schaal’ mogelijk kunnen maken, betoogden het paar in de krant.
Het karakteriseert hoe deze opkomende sector, ook wel de ‘intentie-economie’ genoemd, de aandacht en communicatiestijlen van gebruikers zal profileren en hen zal verbinden met gedragspatronen en keuzes die ze maken.
“AI-tools worden al ontwikkeld om menselijke plannen en doeleinden te ontlokken, af te leiden, te verzamelen, vast te leggen, te begrijpen, te voorspellen en uiteindelijk te manipuleren en te commercialiseren”, zegt co-auteur Yaqub Chaudhary.
klasse = “cf”>
De nieuwe AI zal zich baseren op zogenaamde Large Language Models, of LLMs, om zich te richten op de cadans, de politiek, de woordenschat, de leeftijd, het geslacht, de onlinegeschiedenis en zelfs de voorkeuren voor vleierij en ingratiatie van een gebruiker, zo blijkt uit het onderzoek.
Medeauteur Jonnie Penn waarschuwde: “Tenzij er regelgeving bestaat, zal de intentie-economie je motivaties als de nieuwe munteenheid behandelen.”
“Het zal een goudkoorts zijn voor degenen die zich richten op, sturen en verkopen van menselijke bedoelingen,” voegde hij eraan toe.
