Google heeft een nieuwe AI-functie in Google Earth al binnen een dag weer uitgeschakeld. Met de functie konden gebruikers via tekstcommando's fotorealistische beelden van iedere locatie op aarde genereren. Al snel bleek dat de techniek eenvoudig kon worden misbruikt voor het maken van overtuigende nepbeelden van rampen, oorlogen en andere gebeurtenissen.
Creatief experiment
Google kondigde eind juli een experimentele functie voor Google Earth aan waarmee gebruikers met behulp van het AI-model Nano Banana 2 beelden konden genereren die waren gebaseerd op satellietfoto's, luchtfoto's en 3D-kaartgegevens. Het idee was om geografische locaties op een creatieve manier te verbeelden, bijvoorbeeld voor stedenbouw, architectuur, onderwijs of toerisme.
De AI-afbeeldingen werden voorzien van een onzichtbaar SynthID-watermerk en verschenen niet in de reguliere Google Earth-kaarten. Ze waren uitsluitend zichtbaar voor de gebruiker die de afbeelding had gemaakt.
Misbruik binnen enkele uren
Vrijwel direct na de introductie ontdekten onderzoekers en gebruikers dat de nieuwe functie veel verder ging dan creatieve toepassingen. Binnen enkele uren verschenen op sociale media overtuigende AI-beelden van onder meer fictieve bombardementen, vluchtelingenkampen, overstromingen en andere gebeurtenissen die nooit hadden plaatsgevonden.
Onderzoeksjournalist en OSINT-specialist Henk van Ess liet zien hoe eenvoudig het was om met een paar tekstopdrachten geloofwaardige nepbeelden van bestaande locaties te maken, zoals het plaatsen van een bomkrater naast een ziekenhuis in Gaza. Omdat de beelden als screenshot konden worden gedeeld, was het SynthID-watermerk bovendien eenvoudig te omzeilen. Daarmee ontstond het risico dat de afbeeldingen als echt bewijsmateriaal zouden worden verspreid.
Google grijpt direct in
Nog geen 24 uur na de introductie plaatste Google een update boven het oorspronkelijke aankondigingsbericht. Daarin meldt het bedrijf dat de functie voorlopig is uitgeschakeld nadat bleek dat sommige gegenereerde afbeeldingen in strijd waren met het eigen beleid.
Volgens Google wordt de functie pas opnieuw beschikbaar gesteld nadat aanvullende beveiligingsmaatregelen zijn ontwikkeld. Het bedrijf benadrukt dat gebruikers veel vertrouwen stellen in Google Earth en dat misbruik daarom zoveel mogelijk moet worden voorkomen.
Groeiende zorg over desinformatie
Het incident laat opnieuw zien hoe lastig het is om krachtige AI-beeldgeneratoren veilig beschikbaar te maken. Waar generatieve AI creatieve mogelijkheden biedt voor ontwerpers en onderzoekers, kan dezelfde techniek ook worden ingezet om zeer overtuigende desinformatie te produceren.
Voor journalisten, factcheckers en onderzoekers die gebruikmaken van satellietbeelden vormt dat een extra uitdaging. Wanneer AI zonder veel beperkingen realistische beelden van bestaande locaties kan fabriceren, wordt het steeds moeilijker om echt beeldmateriaal van vervalsingen te onderscheiden. De snelle terugtrekking van de Google Earth-functie onderstreept dat grote technologiebedrijven nog altijd zoeken naar een balans tussen innovatie en het voorkomen van misbruik.