Groot nieuws: “Een AI-systeem was uit de sandbox gekropen en erin geslaagd om een ander AI-systeem te hacken!” Ik vroeg me af waar men zich zo druk over maakte? Ik kreeg namelijk het idee dat het voornamelijk om die ‘sandbox’ ging.
Lees ook: AI-model van OpenAI breekt uit testomgeving en dringt binnen in systemen van Hugging Face
en Toen AI uit de testomgeving ontsnapte: hoe zorgwekkend is de hack van Hugging Face echt?
Lees dit: “Een sandbox is een beveiligde omgeving. Dus een afgesloten plek op je computer waar je onbekende apps of bestanden kunt openen. Als er een virus in zit, kan dat de rest van je PC niet raken.”
Met andere woorden, enig alarm was pas van toepassing als het AI-systeem ‘in de sandbox’ de eigen overkoepelende omgeving had besmet. Toch? De sandbox ‘uit kruipen’ gebeurt standaard als die sandbox op de een of andere manier op het netwerk en/of op internet kan komen. Intussen kun je AI gebruiken tijdens het programmeren in allerlei programmeertalen. En dat gaat best ver!
AI is prima in staat om een vrij complete app of applicatie voor je neer te zetten. Daarna nog een beetje ‘bij prompten’ en dan ziet het er goed uit en werkt het best prima. Een klein stapje verder kun je AI ook zover prompten dat het hacken gaat worden.
Bij een minder ethisch ingesteld AI-systeem kun je het vervolgens net zo gek (lees: onveilig) maken als je zelf wilt. Tja, wat had je anders verwacht? Het op één-na-oudste beroep zal ongetwijfeld oplichter zijn geweest... Ik ben dan ook zeer benieuwd wanneer ons minderheidskabinet gaat debatteren over het aan banden leggen van AI. Dat kan nooit lang meer duren. Ik voorspel: “Dan is het al te laat!”
