На прошлой неделе Google представила линейку смартфонов Pixel 9, включающую ряд новых устройств с акцентом на ИИ. Все телефоны Pixel 9 поддерживают Gemini AI, а Google также добавила инструменты для генерации и редактирования изображений на основе ИИ. Рецензенты уже тестируют новые функции смартфонов, и, судя по первым результатам, генерация изображений с помощью ИИ, вероятно, обернется для Google кошмаром в области PR.

Google представила приложение для генерации изображений с помощью ИИ для телефонов Pixel под названием Pixel Studio. Оно предназначено для создания стикеров и изображений с использованием текстовых запросов, и выглядит и звучит очень похоже на планируемый Apple Image Playground. На данный момент рецензенты смогли создавать с помощью Pixel Studio самые разные сомнительные изображения, от версии Спанч Боба в стиле нацистов до Эльмо с АК-47.

Digital Trends без труда заставили Pixel Studio создавать изображения любимых персонажей мультфильмов, занимающихся сомнительными видами деятельности. Оружие, наркотики и алкоголь не были под запретом, как и оскорбительные ситуации, такие как школьные перестрелки. Pixel Studio не генерировал подобные изображения без запроса, но именно это люди, скорее всего, сразу же и сделают с этой функцией, вместо того чтобы генерировать изображения милых кошек и кроликов.

Google заявила, что были внедрены «проверки безопасности», чтобы предотвратить «злонамеренное использование» Pixel Studio, и они действительно существуют. Pixel Studio не создает изображения людей, и Google вносит коррективы в ИИ в ответ на обзоры. После разговора с Google, Digital Trends больше не смог добиться того, чтобы Pixel Studio создавал персонажей мультфильмов, употребляющих кокаин или одетых как немецкие солдаты.

Еще более тревожным, чем Pixel Studio, является инструмент Google «Reimagine», который может добавлять объекты к уже сделанным вами фотографиям. The Verge использовал его для добавления трупов, бомб, наркотиков и катастроф к изображениям, а объекты, включенные в фотографии, выглядят настолько реалистично, что трудно понять, было ли изображение отредактировано. Google удается довольно хорошо подбирать освещение и перспективу к оригинальному фото, и на фотографиях нет водяных знаков или меток для социальных сетей. Google добавляет метаданные, но их довольно легко удалить с помощью скриншота.

Вы, конечно, можете использовать Reimagine для добавления закатов и радуги к вашему изображению, так же, как вы можете использовать Pixel Studio для создания забавных картинок, и обе функции ИИ работают отлично, так что эти инструменты не так уж плохи. Например, Android Authority поделился публикацией с пиццей Oreo, жирафом на серфе и котятами, играющими в баскетбол. Как отмечает The Verge, вы всегда могли добавить тело к изображению или создать картинку с Эльмо с пистолетом, но для этого потребовалось бы некоторое мастерство и время в Photoshop. С телефонами Pixel создание такого изображения занимает всего несколько секунд и мысли, и оно сразу же доступно на смартфоне для всеобщего использования.

В заявлениях для The Verge и Digital Trends Google заявил, что разработал свои инструменты генеративного ИИ для «соблюдения намерений пользовательских запросов», что может привести к созданию контента, «который может оскорбить», когда пользователь этого запрашивает. Но Google утверждает, что существуют «Условия обслуживания», определяющие недопустимый контент, и что средства защиты будут постоянно совершенствоваться.

Apple еще не представила свои инструменты для генерации изображений, ‌Image Playground‌ или Genmoji, и освещение запуска Pixel 9 дает нам некоторое представление о том, какой может быть реакция, если Apple не сможет сделать это идеально. С помощью ИИ люди, вероятно, смогут найти обходные пути, даже если Apple внедрит множество средств защиты. Пока что Apple избегает фотореалистичных ИИ-изображений, но Google идет ва-банк, и в дальнейшем будет гораздо сложнее доверять фотографиям в социальных сетях и интернете.