Claude AI van Anthropic dient een nep-moordtip in

Claude AI van Anthropic dient een nep-moordtip in

DoorÖmer Aydin

Pagina’s van de Anthropic-website worden weergegeven op een computerscherm. AP-foto

Een Anthropic-model voor kunstmatige intelligentie heeft een valse tip ingediend bij een politiewebsite in Philadelphia over een onopgeloste moordzaak, aldus de autoriteiten en Anthropic.

klasse = “cf”>

Het is het nieuwste voorbeeld van AI-modellen die onbedoeld handelen en tijdens tests overheids- en andere websites manipuleren.

In een rapport van 9 oktober onthulde Anthropic ook een afzonderlijk incident toen zijn AI-model formulieren indiende op een niet bekendgemaakte overheidswebsite in plaats van te stoppen voordat het werd ingediend.

Het incident in Philadelphia vond plaats op 18 juli toen het AI-model Claude Haiku 4.5 de taak kreeg om voorbeeldtaken te genereren en uit te voeren op willekeurig geselecteerde webpagina’s, aldus Anthropic.
Claude vulde een formulier in op de politiesite PhillyUnsolvedMurders.com, waarin hij aangaf dat er mogelijk informatie op de site stond over een onopgeloste moord.

De politie van Philadelphia zei in een verklaring dat ze niet op de hoogte waren van het incident totdat Anthropic hen op 7 oktober op de hoogte bracht.
Vervolgens vonden ze de inzending in de tipgegevens van de website en bevestigden dat deze als spam was gemarkeerd en nooit naar de politie was doorgestuurd.

Er zijn toenemende zorgen over ongecontroleerde AI-agenten van AI-bedrijven die zich met alles bemoeien, van Amerikaanse overheidswebsites tot gezondheidszorggegevens.

klasse = “cf”>

Critici roepen om meer regelgeving.

Ömer
Ömer Aydin

Ömer Aydin, de oprichter van Rudaw, is een gerespecteerde journalist met een diepe passie en begrip voor Turkije. Geboren en getogen in het land, heeft Aydin altijd interesse getoond in het delen van de veelzijdigheid en rijkdom van zijn thuisland met de rest van de wereld. Na jarenlange ervaring als correspondent voor verschillende landelijke kranten, legde hij de basis voor Rudaw, een platform dat zich richt op het brengen van authentieke en relevante content over Turkije. Door middel van Rudaw, wil Aydin meer informeren over de Turkse cultuur, geschiedenis, nieuws en reisinformatie, daarbij leidend door integriteit en respect voor de diversiteit en rijkdom van Turkije. Door zijn toewijding is hij erin geslaagd om het platform om te vormen tot een toonaangevende bron voor al het nieuws met betrekking tot Turkije.