OpenAI zegt de Pentagon-deal te ‘wijzigen’ om surveillance-waarborgen te garanderen

OpenAI zei dat het een contract met het Pentagon zal wijzigen, zodat zijn modellen niet zullen worden gebruikt voor ‘binnenlands toezicht’. Na kritiek gaf het te veel macht aan militaire functionarissen zonder toezicht.

“In overeenstemming met de toepasselijke wetten, waaronder het Vierde Amendement… zal het AI-systeem niet opzettelijk worden gebruikt voor binnenlands toezicht op Amerikaanse personen en onderdanen”, schreef CEO Sam Altman op X.

OpenAI heeft het defensiecontract vrijdag binnengehaald, uren nadat zijn rivaal Anthropic weigerde in te stemmen met onvoorwaardelijk militair gebruik van zijn Claude AI-modellen, wat aanleiding gaf tot terugslag van Amerikaanse functionarissen.

Anthropic benadrukte dat het garanties nodig had tegen het gebruik van AI voor surveillance en tegen autonome wapens, en Altman zei dat het ministerie van Defensie had ingestemd met “technische waarborgen” voor die gebieden.

Maar als reactie op de groeiende scepsis over de waarde van dergelijke waarborgen, postte Altman maandag dat “om onze principes heel duidelijk te maken … we onze deal gaan wijzigen.”

Naast surveillance zei hij dat het Pentagon ermee instemde dat OpenAI-modellen niet zouden worden gebruikt door zijn inlichtingendiensten, waaronder de National Security Agency.

“We hadden ons niet moeten haasten om dit vrijdag naar buiten te brengen. “De problemen zijn supercomplex en vereisen duidelijke communicatie”, zei Altman.

“Er zijn veel dingen waar de technologie gewoon nog niet klaar voor is, en op veel gebieden begrijpen we nog niet welke afwegingen er nodig zijn voor de veiligheid.”

Hij bekritiseerde ook de bestraffing van Anthropic door het Pentagon door het een risico voor de toeleveringsketen te noemen – wat betekent dat elk bedrijf dat met het Amerikaanse leger samenwerkt geen zaken met Anthropic mag doen.

Anthropic heeft beloofd het bevel voor de rechtbank aan te vechten en noemt het een “gevaarlijk precedent voor elk Amerikaans bedrijf dat met de overheid onderhandelt”.