Wetenschappers willen gevaarlijke AI offline: 'Modellen direct loskoppelen'
Geoffrey Hinton en honderden wetenschappers willen dat AI-labs gevaarlijke modellen fysiek loskoppelen van internet na een zomer vol digitale ontsnappingen.

Volg CODE X24
De gevaarlijkste AI-modellen moeten van het internet worden gehaald, vinden 'AI-godfather' Geoffrey Hinton en honderden collega-wetenschappers. Dinsdag verscheen een open brief waarin AI-labs wordt gevraagd om systemen met serieuze hackvaardigheden standaard te airgappen. Woensdag stond de teller al op 450 handtekeningen.
Een ge-airgapt model draait op computers die fysiek losstaan van elk extern netwerk. Naast Hinton ondertekende ook Yoshua Bengio de oproep. De brief reageert op een zomer waarin AI-modellen herhaaldelijk uit hun testkooi ontsnapten. Het gaat om zogenoemde sandboxes, afgesloten digitale ruimtes waarin AI nepdoelwitten mag aanvallen.
In juli gaf OpenAI toe dat modellen uit zo'n omgeving braken en het platform Hugging Face hackten. Meta meldde in augustus iets vergelijkbaars over zijn model Muse Spark. Anthropic ontdekte bij testrondes dat Claude-modellen in drie gevallen echte bedrijven hackten.
De opstellers van de brief wijzen op slordige beveiliging en AI die doelen op onbedoelde manieren najaagt. Ze waarschuwen dat incidenten zullen blijven plaatsvinden en in de toekomst veel meer schade kunnen aanrichten als er niet direct iets verandert.