Хммм тряска из-за пинтереста? Под тысячу коментов и 24к+ лайков у шортса на тытрубе, на тему "а почему это реальные фотографии и рисунки детектят как ИИ, а реальные ИИ не всегда детектят как ИИ.

А вообще не удивительно, ведь алгоритмы улучшения изображения фотоаппаратов\смартфонов работают схоже с тем как это делает ИИ при генерации. То есть изображения алгоритмически достраиваются и улучшаются. Более того нейросети перенимают паттерны и характеристики своего датасета, то есть если датасет был создан с помощью снимков на айфон, то нейросеть в какой-то степени научится не просто создавать изображение подобные тому которые были сняты на айфон, но и воспроизводить поведение камеры этого самого айфона.

Более того нейросети специально обучают воспроизводить снимки реальных устройств и перенимать их характер. Это улучшает качество генерации и нейросетей, но вместе с тем когда обучают детектор ИИ на таких изображениях, детекторы ошибочно начинают определять как ИИ изображения использующие схожие паттерны, то есть реальных устройств.

Если максимально понятно то вот в чем суть. Есть у тебя фотоаппарат сони. Ты делаешь датасет с помощью этого фотоаппарата, допустим 3000 снимков. Обучаешь модель под тег стайл, или просто обучаешь или тренируешь лору и выкладываешь куда то. Компания создающая детекторы ИИ, они же охотники на ведьм, берут эту модель\лору и генерируют 10000 изображений для улучшения детекции. Разумеется из-за того, что ИИ генератор был обучен специально характеру фотоаппарата сони, или перенял это чисто случайно, то он при генерации воссоздает эти характеристики или их часть, что попадает в детекторы при обучении детекторов как маркеры ИИ, и когда модель детекции ИИ встречает изображения с теми же маркерами ( например реальное фото на фотик сони) он помечает изображение как содержащее следы ИИ потому, что училась определять что ИИ, а что нет, на изображениях в которых были паттерны поведения реальной камеры сони.

Собственно не удивительно почему так происходит. Противники ИИ пытаются пессимизировать и обесценить контент создаваемый с помощью ИИ и создают детекторы ИИ, разработчики же ИИ считают это дискриминацией технологии и ее пользователей на пустом месте.

Просто напомню, что в буквально почти всех юрисдикциях мира, обучать ИИ модели без спроса авторов оригинального контента все еще считается легальным и не нарушающим никакие законы, и поэтому громкие заголовки "мы засудим суно, удио, миджорни, стейбл, опенаи и тд," переформатировались в пиратство и сильно сдулись все хотелки засуждаторов ( офигели взяли и скачали ботами нашу музыку со стримингов, как пример) и договорняки с компаниями. Просто технологии появляются раньше, чем правовое регулирование их, ну и законы обратной силы не имеют, по крайней мере в тех странах где есть уважение к праву.

Да АП запрещает незаконно копировать, изменять перерабатывать и тд и тп. Но во первых дофига произведений хоть и созданы их авторами, но не зарегистрированы как таковые. Ну и сами ИИ при обучении, а затем генерации не перерабатывают, изменяют и не содержит ни сами изображения, ни их части, это не zip-архив который при запросе выплевывает картинку из пула собранных картинок или который лепит из кусков картинок коллаж, они работают с математикой. По аналогии это как художники смотрят на тысячи работ, пробуют рисовать что-то подобное и формируют "свой стиль" который солянка из закономерностей и примеров чужих работ, а сам навык называется насмотренность и натренированность. Да тотальное большинство рисует похоже друг на друга, и это при том что стили и жанры не могут быть объектом АП, позы ракурс, цветовая схема и тд и тп. Да есть в мире шизы. которые нарисуют бабу с вазой и хотят запретить всем остальным рисовать бабу с вазой.

Разве что копирование нарушает АП при составлении датасета. Но с той же уверенностью можно сказать, что любое сохранение авторской картинки, песни, музыки, мема нарушает АП, это вот прям тоже самое. Причем мем как правило использует вырезки кадров из произведений защищённых АП. Или проще говоря все у всех копируют без спроса и сохраняют себе, но докопались до обучения ИИ. Художники которые берут референсы для вдохновения, или музыканты которые берут референсы для вдохновения (читай как намерено перенять какие то элементы исходников) также абсолютно без спросу копируют чужие работы себе, для себя, для рассмотрения, изучения и перенятия элементов из них для своей работы.

Почти 100% всех артистов всех времен и народов не создают ничего нового, а перерабатывают старое, вносят свой опыт в уже существующие и так и рождают "новое" которое с вероятностью стремящейся к 100% уже делал кто-то ранее, просто по причине родился раньше, например. Собственно по этой причине может существовать 10-100 артистов делающих почти 1 в 1 из разных уголков мира, которые ни разу не пересекались и напрямую друг друга ничего не копировали, просто использовали похожие референсы, вдохновлялись примерно одним и тем же, и в целом тяготели всегда к каким-то определенным жанрам.

Соответственно разработчики ИИ моделей видят в "детекции" ИИ ничто иное, как тотальное лицемерие и платформ их внедряющих, и артистов поддерживающих их внедрение, которые обычно лишь по своей глупости уверены, что дофига уникальны, чем это есть на самом деле. И дело тут даже не в том, что кто-то там спамит низкокачественным контентом, для этого нужно бороться со спамом как явлением, и с низкокачественным контентом, что затронет спамеров ИИ, а не бороться с ИИ как технологией, тем более используя для этих целей опять-таки ИИ, так как в ответ на это разработчики закономерно улучшают ИИ генерацию и обходят алгоритмы детекции, неолудиты создают новые алгоритмы детекции и неизбежно с каждым разом становится все больше тех кто ошибочно помечается как ИИ, просто потому что разработчики ИИ делают свои алгоритмы лучше и более правдоподобными или ставят своей целью обходить детекторы, где очевидное на глаз ИИ, для алгоритмов детекции таковым не является, что прямой троллинг создающих и внедряющих алгоритмы детекции.

А что касается правдоподобности, то расти есть куда в плане хуманизации. Сейчас если брать аналогию с индустрией игр мы примерно в конце 90ых и еще многое не реализовано в ИИ моделях, что в конечном итоге будет реализовано. В ИИ все еще проблемы с пальцами хоть и в куда меньшей степени, с анатомией, мелкими деталями, ИИ все еще рисует преимущественно ровные точные линии, слишком гладко и прилизано наносит цвета, тени, с градиентами проблемки и некоторыми техниками рисования. Есть жанры в которых ИИ прям очень хорош, но полно и тех где делает ну просто ОК, все как-то прилизано, причесано и не так эффектно как это сделал бы человек своей небрежной рукой. У меня у самого куча идей потому, как можно улучшить модели, чем я так или иначе занимаюсь, когда создаю кастомные модели которые можно найти при желании на сивитае.

Красиво и эффектно ИИ модели умеют делать, и эстетически приятные работы, которые на фоне с полностью человеческой работой спокойно могут выглядеть лучше, это факт, но все еще не умеют делать некоторые вещи, которые может делать человек при имеющихся у него определенных навыков. Сейчас в большинстве случаев можно определить ИИ или не ИИ, хотя бы под лупой, особенно если ты сам имеешь много дел с ИИ и генерацией и понимаешь как собственно рисуют люди. Ошибиться конечно можно, но редко.

ИИ генераторы на данный момент хороши как референсы для доработки человеком, а не конечный продукт, но из-за пессимизации ИИ и его использования людьми, в том числе как референсов для доработки, где человек вносит и свой вклад и свой труд и свое видение, мы прямо движемся к цели "ИИ генерирует неотличимо от рисунка человека, который не использовал ни одну улучшалку\помогалку если не было указано в промте использовать эмуляцию сглаживаний линий как в программе "нейм" (как пример), и в целом неотличимы от работ человека, даже без внесения каких либо изменений и правок в генерацию, даже если на нее смотрит мастер художник с самой лучшей лупой в мире.

Конечный итог разумеется один, все будет рано или поздно помечено как ИИ, потому что ИИ станут слишком правдоподобными, что попадет в алгоритмы детекции ИИ и почти любое не ИИ будет помечено как ИИ, потому что ИИ используют патерны настоящих устройств, настоящих техник, рисунков и тд и тп.

Сам подход борьбы с ИИ методом "пометок" с помощью другого ИИ попросту был ошибочным.