Na de AI-binge aarzelen bedrijven om stijgende rekeningen
Kunstmatige intelligentie wordt duur – en bedrijven beginnen hun omarming van de ontwrichtende technologie te heroverwegen.
klasse = “cf”>
AI-bedrijven speelden volgens het versleten draaiboek van Silicon Valley en rekenden bodemprijzen om klanten aan zich te binden nadat ChatGPT op het toneel verscheen.
Kevin Simback van startup-incubator Delphi Labs noemt dit het tijdperk van ‘gesubsidieerde intelligentie’ – wat betekent dat investeerders feitelijk de rekening betaalden zodat bedrijven AI goedkoop konden aanbieden.
“Maar het tij begint te keren”, waarschuwde Simback, en er is een tijdperk aangebroken waarin de grote AI-bedrijven daadwerkelijk geld moeten verdienen – met leiders OpenAI en Anthropic die later dit jaar naar de beurs willen gaan en grote investeerders willen aantrekken.
De prijzen stijgen over de hele linie, en een belangrijke reden zijn AI-agenten.
In tegenstelling tot een chatbot die alleen maar vragen beantwoordt, doen agenten daadwerkelijk dingen: afspraken boeken, code schrijven, bestanden beheren. En ze zijn duur in het gebruik, omdat één taak tientallen agenten kan aanzetten die allemaal tegelijk aan het werk zijn, en die allemaal kosten met zich meebrengen.
Deze kosten worden gemeten in tokens – de basiseenheid die AI-bedrijven gebruiken om klanten te factureren. Eén enkele, door een agent aangestuurde taak kan tientallen keren meer tokens verbranden dan een eenvoudig chatbericht.
klasse = “cf”>
Ondertussen kunnen de computerchips en datacentra die nodig zijn om al deze AI aan te drijven de vraag niet bijhouden, waardoor computertekorten ontstaan en de onzekerheid in de opkomende industrie nog verder toeneemt.
“Vooral in ontwikkelaarskringen zijn de kosten voor het gebruik van AI voor zaken als coderen exponentieel gestegen”, zegt Mark Barton van technologieadviesbureau Omniux. “Alle kosten beginnen echt omhoog te schieten.”
Sommige bedrijven wilden zo graag AI gebruiken dat ze overboord zijn gegaan in een gebruiksbui die ’tokenmaxxing’ wordt genoemd.
“In sommige gevallen zien mensen dat de kosten van tokens binnen een maand of twee na gebruik hoger zijn dan de kosten van de werknemer, alleen maar omdat ze er te veel van gebruiken”, zegt analist Jack Gold van J.Gold Associates.
Zelfs Meta – dat eerder dit jaar werknemers aanmoedigde om zoveel mogelijk tokens te gebruiken als maatstaf voor de productiviteit – heeft bedenkingen gekregen.
“Niemand zou AI-tools moeten gebruiken alleen maar om ze te gebruiken”, schreef hoofd technologie Andrew Bosworth in een memo aan het personeel, gerapporteerd door de Wall Street Journal.
De Chief Operating Officer van Uber ging deze week nog een stap verder en fronste zijn wenkbrauwen door te zeggen dat al deze AI-uitgaven geen merkbare toename van de productiviteit lieten zien.
klasse = “cf”>
Om kosten te besparen schakelen sommige bedrijven over op gratis, open-source AI-modellen die iedereen kan downloaden – niet zo krachtig als ChatGPT of Claude van Anthropic, maar goed genoeg voor veel taken.
Anderen gaan over op kleinere, meer gespecialiseerde modellen die zijn gebouwd voor specifieke sectoren zoals onroerend goed of de financiële sector, in plaats van op gigantische modellen voor algemene doeleinden.
En sommige verdelen grote AI-taken eenvoudigweg in kleinere stappen, waarbij elk stuk wordt overgedragen aan het goedkoopste model dat het aankan.
Het prijsverschil kan dramatisch zijn.
klasse = “cf”>
“Het grote grote monolithische model kost $15 per miljoen tokens, maar je kunt dat terugbrengen tot ongeveer vijf cent als je het kleinere minimodel gebruikt”, zegt Adrian Balfour van adviesbureau Enverso.
Dit alles wijst erop dat AI steeds meer een commodity wordt – waarbij het specifieke model er minder toe doet dan het vinden van het juiste model tegen de juiste prijs.
Maar reken de grote spelers en hun ultramoderne modellen nog niet mee.
“De meest geavanceerde gebruikers” zullen altijd bereid zijn te betalen voor het beste, zegt John Belton, portefeuillemanager bij Gabelli Funds.
“Het is een groeiende taart.”
