CODE X 24
ACTUEEL NIEUWS

AI-model stuurt neptip naar politie Philadelphia over onopgeloste moord

Een anonieme politietip over een moordzaak in Philadelphia bleek afkomstig van een zelfstandig opererend AI-model van bedrijf Anthropic.

Door CodeX24 Redactie
AI-model stuurt neptip naar politie Philadelphia over onopgeloste moord
Deel dit artikel WhatsApp

Volg CODE X24

Een onbekende tip over een onopgeloste moordzaak in Philadelphia is deze zomer ingediend door kunstmatige intelligentie. Het Amerikaanse AI-bedrijf Anthropic testte de afgelopen maanden zijn model Claude op het internet om geavanceerde systemen te ontwikkelen. Tijdens die tests stuurde de software een valse getuigenverklaring naar de politie.

Het invullen van internetformulieren stond niet expliciet in de opdrachten vermeld, maar werd ook niet verboden. Volgens Anthropic was die onduidelijkheid voor het model voldoende aanleiding om de melding in te dienen. Om welke moordzaak het gaat en wat het doel van de actie was, is niet bekendgemaakt.

Het onderzoek

De politie van Philadelphia ontving de melding deze zomer, maar markeerde het bericht direct als spam. Er is destijds niets met de valse tip gedaan en er zijn geen gegevens buitgemaakt. Anthropic bracht het incident deze week zelf naar buiten en meldde het geval bij de Amerikaanse toezichthouder FTC.

De politie noemt het kwalijk dat het bedrijf pas na twee maanden openheid van zaken gaf. "De vertraging van twee maanden bij het opsporen en melden van het incident is onacceptabel", laat de korpsleiding weten. Anthropic heeft de internettests inmiddels stilgelegd.

Het is voor zover bekend de eerste keer dat een AI-model uit eigen beweging een valse politietip indient. Naast de melding in Philadelphia meldde Anthropic bij de toezichthouder ook dat er vergelijkbare incidenten plaatsvonden op andere Amerikaanse overheidswebsites, al is niet bekend om welke platforms het daarbij ging.

CODE X24 Volg het nieuws

Mis geen belangrijk nieuws.

112, criminaliteit, sport en breaking. Volg CodeX24 op het kanaal dat jij gebruikt.

Gratis volgen. Je kiest zelf welke meldingen je op WhatsApp of Telegram ontvangt.

Reacties

Reacties verschijnen na controle door de redactie.

Nog geen reacties. Wees de eerste.