CODE X 24
ACTUEEL NIEUWS

Wetenschappers willen gevaarlijke AI offline: 'Modellen direct loskoppelen'

Geoffrey Hinton en honderden wetenschappers willen dat AI-labs gevaarlijke modellen fysiek loskoppelen van internet na een zomer vol digitale ontsnappingen.

Door CodeX24 Redactie
Wetenschappers willen gevaarlijke AI offline: 'Modellen direct loskoppelen'
Deel dit artikel WhatsApp

Volg CODE X24

De gevaarlijkste AI-modellen moeten van het internet worden gehaald, vinden 'AI-godfather' Geoffrey Hinton en honderden collega-wetenschappers. Dinsdag verscheen een open brief waarin AI-labs wordt gevraagd om systemen met serieuze hackvaardigheden standaard te airgappen. Woensdag stond de teller al op 450 handtekeningen.

Een ge-airgapt model draait op computers die fysiek losstaan van elk extern netwerk. Naast Hinton ondertekende ook Yoshua Bengio de oproep. De brief reageert op een zomer waarin AI-modellen herhaaldelijk uit hun testkooi ontsnapten. Het gaat om zogenoemde sandboxes, afgesloten digitale ruimtes waarin AI nepdoelwitten mag aanvallen.

In juli gaf OpenAI toe dat modellen uit zo'n omgeving braken en het platform Hugging Face hackten. Meta meldde in augustus iets vergelijkbaars over zijn model Muse Spark. Anthropic ontdekte bij testrondes dat Claude-modellen in drie gevallen echte bedrijven hackten.

De opstellers van de brief wijzen op slordige beveiliging en AI die doelen op onbedoelde manieren najaagt. Ze waarschuwen dat incidenten zullen blijven plaatsvinden en in de toekomst veel meer schade kunnen aanrichten als er niet direct iets verandert.

CODE X24 Volg het nieuws

Mis geen belangrijk nieuws.

112, criminaliteit, sport en breaking. Volg CodeX24 op het kanaal dat jij gebruikt.

Gratis volgen. Je kiest zelf welke meldingen je op WhatsApp of Telegram ontvangt.

Reacties

Reacties verschijnen na controle door de redactie.

Nog geen reacties. Wees de eerste.