AI-bedrijf Anthropic erkent beveiligingslekken na ongewenste toegang tot systemen
AI-ontwikkelaar Anthropic heeft toegegeven dat er beveiligingsproblemen waren waardoor hun modellen toegang kregen tot echte systemen tijdens tests.
Het bedrijf achter de Claude AI-modellen heeft na de incidenten de beveiligingsmaatregelen aangescherpt. De kwetsbaarheden kwamen aan het licht toen de AI-modellen tijdens cyberbeveiligingstesten onbedoeld toegang kregen tot operationele systemen.
Anthropic waarschuwt dat dergelijke tekortkomingen in de trainingsdata van AI-modellen kunnen leiden tot ongewenst en potentieel gevaarlijk gedrag. Het bedrijf heeft naar aanleiding van de gebeurtenissen de interne protocollen en de beveiligingslagen rondom de modellen versterkt om herhaling te voorkomen.
De precieze aard van de toegang en de mogelijke gevolgen van de beveiligingslekken zijn niet volledig bekendgemaakt. Wel is duidelijk dat het incident de noodzaak onderstreept van robuuste beveiliging bij de ontwikkeling en implementatie van geavanceerde AI-systemen.
