Google терміново призупинив застосування штучного інтелекту на картах Earth через "глобальні катастрофи". Фото.

Google нещодавно призупинив нову AI-функцію в Google Earth, що дозволяла генерувати вигадані події, спираючись на реальні супутникові зображення. Це рішення було ухвалене менш ніж за два дні після запуску інструмента внаслідок негативних відгуків від експертів та занепокоєння щодо потенційного зловживання.

Компанія оголосила про закриття свого сервісу після проведення розслідування BBC Verify. Фахівці в галузі OSINT висловили занепокоєння, що такі матеріали можуть утруднити процес перевірки фактів і бути використаними для розповсюдження дезінформації.

Що нам відомо?

Google призупинила використання генератора зображень Nano Banana 2, який був інтегрований у Google Earth, менше ніж через дві доби після його запуску. Представники компанії пояснили, що наразі працюють над впровадженням "більш надійних механізмів захисту", оскільки виявили випадки, коли користувачі поширювали згенеровані зображення, що могли порушувати правила платформи. У Google підкреслили, що користувачі вважають Google Earth надійним джерелом інформації про світ, тому було ухвалено рішення призупинити функцію до поліпшення систем захисту.

Нова можливість давала змогу за допомогою текстових команд інтегрувати вигадані об'єкти та події на реальні карти. Згенеровані зображення можна було завантажувати та ділитися ними на інших платформах.

Під час тестування BBC Verify вдалося створити фальшиві знімки із зображенням зруйнованої Ейфелевої вежі, величезної вирви біля Великої піраміди в Гізі та російських танків у центрі Києва.

Експерт у сфері штучного інтелекту та боротьби з дезінформацією Генк ван Есс продемонстрував функціональність інструменту, створивши візуалізації неіснуючої атомної станції в Ірані, табору для біженців на американо-мексиканському кордоні, а також лікарні в Газі, поряд із якою розташована вирва від вибуху.

Google оголосила, що контент, генерований її AI-інструментами, має приховані водяні знаки. Крім того, компанія порадила використовувати чат-бот Gemini або функцію Lens для перевірки підозрілих зображень.

Втім, BBC Verify встановила, що ці механізми можна було обійти, а Gemini в окремих випадках помилково визначав фальшиві супутникові знімки як справжні. Деякі сторонні сервіси для виявлення ШІ-контенту також не змогли розпізнати окремі підроблені зображення.

Дослідник у сфері виявлення ШІ-контенту Генрі Адждер попередив, що поширення фальшивих супутникових знімків, особливо із зон бойових дій, може мати серйозні наслідки, адже не всі перевірятимуть їхню достовірність перед публікацією.

Як повідомляв OBOZ.UA, користувачі популярного чат-бота Claude від компанії Anthropic зіткнулися з несподіваною та неприємною проблемою. Їхні особисті та конфіденційні розмови зі штучним інтелектом почали відображатися у результатах пошукових систем Google та Bing.