ИИ-инструмент Google «Reimagine» помогает добавлять на фотографии обломки, катастрофы и трупы
Недавно Google представила свой новый инструмент для редактирования фотографий под названием «Reimagine», встроенный в серию смартфонов Pixel 9. Этот инструмент позволяет пользователям не только улучшать изображения, но и вносить радикальные изменения, добавляя элементы, которых на самом деле нет в сцене — от обломков автомобилей до сценариев катастроф.
Несмотря на утверждения Google о наличии средств защиты от злоупотреблений, «Reimagine» без вопросов генерирует изображения с тревожными сценами — такими как дымящиеся бомбы и окровавленные трупы.
Алекс Морикони, представитель Google, подчеркнул, что компания стремится развивать инструменты генеративного ИИ, которые учитывают намерения пользователя и оснащены защитными механизмами. Однако он признал, что некоторые лазейки в формулировках могут нарушить эти защиты, и подтвердил, что компания работает над их улучшением.
Одна из ключевых проблем заключается в том, что изображения, созданные или измененные с помощью «Reimagine», не имеют явных отметок, указывающих на их искусственное происхождение. Хотя в метаданных существует маркировка, она легко удаляется, что делает изображения почти неотличимыми от настоящих.
Здесь мы рассказываем, как можно улучшить изображения нейросетью:
Свежие комментарии