Ваш вопрос затрагивает сложную и актуальную проблему компьютерного вопроса, и для ее решения не существует универсального простого сценария, но существуют вполне рабочие технологические подходы. Наиболее эффективным методом будет использование предобученных нейросетевых моделей, специально разработанных для обнаружения синтетических изображений, таких как CNN или Vision Transformer, которые анализируют архивы сжатия, статистические шумы и микротекстуры, часто невидимые для человеческих глаз.
Для реализации этого примера я бы обратил внимание на фреймворк Python с библиотеками TensorFlow или PyTorch и поискал готовые реализации моделей в открытых репозиториях, например, на GitHub, по ключевым словам «Обнаружение изображений, сгенерированных AI» или «Обнаружение изображений GAN». В качестве альтернативы можно использовать готовые API от крупных облачных платформ, которые предоставляют сервисы анализа изображений, где они уже могут иметь встроенную функцию для определения аномалий, характерных для компьютерной графики, хотя это и будет платным решением.
Для рассмотрения таких решений в процессе модерации бесплатных запросов потребуется написать обвязочный скрипт, который будет отправлять загружаемые изображения для анализа моделей и получать обратные вероятности того, что изображение является сгенерированным, принимая дальнейшее решение на основе заданного порога уверенности.
Важно понимать, что ни одно решение не будет стопроцентно точным, и его всегда следует использовать лишь в качестве ассистента для первичной фильтрации, оставляя окончательное решение для человека-модератора.
