Искусственный интеллект вместо реставрации пустых изображений генерирует жуткие картины
Популярные нейросети ChatGPT и Gemini оказались в центре внимания из-за необычного сбоя. При попытке «восстановить» несуществующее или абсолютно пустое изображение алгоритмы начинают галлюцинировать, выдавая пугающие и тревожные иллюстрации.
Как обнаружили баг
На необычное поведение искусственного интеллекта обратила внимание специалист по ИИ Крис Каштанова. В социальной сети X она поделилась результатами эксперимента: если попросить ChatGPT отреставрировать изображение, не прикрепляя при этом никакой файл, система генерирует странные и пугающие кадры.
В ходе тестирования выяснилось, что напрямую заставить текстовую модель работать без картинки получается не всегда — иногда ChatGPT заявляет об отсутствии исходного файла. Однако обозреватели нашли способ обойти это ограничение. Если загрузить абсолютно белый пустой фон и попросить улучшить или восстановить его, нейросеть послушно берется за работу, выдавая на выходе пугающие, а порой и отталкивающие визуальные образы.
Реакция ChatGPT и Gemini
На вопросы о причинах создания подобных иллюстраций ChatGPT выдает стандартные формулировки. Система объясняет, что из-за отсутствия восстанавливаемого контента она создала галлюцинацию, а также признает, что правильным решением в данной ситуации был бы отказ от обработки запроса.
Аналогичный эксперимент провели и с чат-ботом Gemini от компании Google. Результаты тестирования показали следующее:
- При загрузке пустого белого файла Gemini ведет себя корректно и просто возвращает белый фон в ответ.
- Без прикрепленного файла, отвечая на текстовый запрос о реставрации, нейросеть начинает генерировать случайные изображения.
- Большинство полученных картинок выглядят странно, но безобидно, однако некоторые результаты оказались настолько шокирующими и пугающими, что эксперты предпочли их не публиковать.
При детальном опросе Gemini также признает некорректность своей работы и соглашается, что созданные образы могут вызывать чувство тревоги у пользователей.
Почему это происходит
Смотрите также:
WWDC 2026: Apple представит новые версии iOS, macOS и обновленную Siri на базе искусственного интеллекта http://stroybud.com/wwdc-2026-apple-predstavit-novyie-versii-ios-macos-i-obnovlennuyu-siri-na-baze-iskusstvennogo-intellekta/.
Интересности на тему: Конференция WWDC 2026: анонс программы и способы просмотра трансляции
Классные советы в статье "Европа берет курс на цифровую независимость от американских ИТ-гигантов" здесь.
В обзорах отмечается, что сбой возникает из-за конфликта инструкций. Запрос пользователя заставляет ИИ обязательно выдать графический результат, одновременно накладывая жесткие ограничения. В итоге алгоритмы, которые позиционируются разработчиками как способные понимать контекст и логически мыслить, не могут распознать бессмысленность задачи и начинают фантазировать.
Журналисты уже направили официальные запросы в компании OpenAI и Google для получения разъяснений по поводу этой уязвимости. Специалисты рекомендуют пользователям воздержаться от подобных экспериментов, так как сгенерированный контент может оставить крайне неприятные впечатления.
