Google представив нову ШІ-функцію в сервісі Google Earth, що дозволяла користувачам генерувати зображення за допомогою Nano Banana 2 та накладати їх на реальні супутникові й 3D-знімки. Інструмент, запущений 29 липня, мав стати “творчою розвагою”, проте проіснував лише добу. Вже 31 липня компанія Google була змушена терміново його відключити через масові зловживання, що спричинили значний скандал.
За короткий проміжок часу користувачі встигли створити та “розмістити” низку провокаційних і небезпечних зображень. Серед них — атомна електростанція в Ірані, російські танки на території України, літак, що врізається у вежу Всесвітнього торгового центру, зруйнована Ейфелева вежа та вирва замість пірамід Гізи. Дослідники виявили, що система не мала жодних обмежень чи модерації: жоден запит не відхилявся, а штучний інтелект Gemini навіть міг підтвердити автентичність згенерованих фейків.
Хоча згенеровані зображення містили видимий напис про використання ШІ та невидимий водяний знак SynthID, ці позначки, як зазначають журналісти, легко видаляються. Головна небезпека полягає у високій довірі користувачів до Google Earth як до джерела достовірної інформації, що робить ШІ-фейки на цій платформі значно небезпечнішими. Це не перший випадок зловживання інструментами Google; раніше вже були інциденти з використанням Gemini для фішингу та створення дипфейків.
Рішення Google про відключення функції було переважно схвально сприйняте громадськістю. Цей інцидент став для компанії черговим нагадуванням про складність передбачення всіх можливих способів зловживання інструментами штучного інтелекту. Google пообіцяла повернути функцію лише після впровадження “більш надійних заходів безпеки”, не уточнюючи термінів. При цьому компанія підкреслила, що згенеровані зображення не відображалися іншим користувачам у основному інтерфейсі Google Earth.
