1. MN NEWS
  2. Экономика
  3. Stable Diffusion 2.0 «разучилась» генерировать порно

MN NEWSЭкономикаStable Diffusion 2.0 «разучилась» генерировать порно

Stable Diffusion 2.0 «разучилась» генерировать порно

Экономика25.11.2022 в 15:28ПрослушатьОстановить

Stability AI обновила ИИ-генератор изображений по тексту Stable Diffusion, «ослабив» способность алгоритма создавать NSFW-контент и картинки в стиле конкретных художников. Это вызвало недовольство среди пользователей, пишет The Verge.

Обновление включает реинжиниринг ключевых компонентов модели и улучшение некоторых ее функций вроде масштабирования и контекстно-зависимого редактирования. Также оно ограничивает возможности ИИ-системы создавать иллюстрации, имитирующие чужой стиль и изображающие наготу, порнографию или знаменитостей.

«Они понерфили алгоритм», — прокомментировал обновление один из пользователей Reddit в разделе Stable Diffusion.

Другой разработчик на официальном сервере Discord назвал изменения «неприятным сюрпризом».

Также пользователи отметили неспособность модели генерировать изображения в стиле цифрового художника Грега Рутковски.

По данным источника, многие деятели искусства «раздражены» тем, что алгоритмы вроде Stable Diffusion обучались на их работах без разрешения и теперь способны воспроизводить похожие картины.

Эксперты допустили, что тренировка нейросетей на данных, защищенных авторским правом, является законной. Однако некоторые варианты использования можно оспорить в суде, добавили они.

Пользователи Stable Diffusion предположили, что Stability AI внесла эти изменения в модель, чтобы смягчить потенциальные юридические проблемы.

Основатель компании Эмад Мостак заявил, что разработчики не убирали картины художников из обучающих данных. Ограниченная способность модели имитировать стили является результатом изменений возможностей ПО кодировать и извлекать информацию.

Однако выяснилось, что инженеры удалили иллюстрации с наготой и порно из тренировочных датасетов. По словам Мастака, причиной фильтрации NSFW-контента стала возможность использования алгоритма для генерации изображений жестокого обращения с детьми.

Пользователь Reddit под ником ZeroCool22 заявил, что это изменение «противоречит духу философии сообщества открытого исходного кода».

«Решение создавать NSFW-контент или нет, должно оставаться в руках конечного пользователя, а не в ограниченной/цензурированной модели», — написал он.

Другие пользователи отметили, что так как Stable Diffusion распространяется с открытым исходным кодом, данные с наготой можно «легко» добавить в сторонние выпуски.

Некоторые разработчики похвали более глубокую функциональность алгоритма, включая способность системы создавать контент, соответствующий глубине исходного изображения.

First tests with the new @StableDiffusion V2 depth2image feature. This has potential…@EMostaque @StabilityAI #stablediffusionv2 pic.twitter.com/XZGng0w5HJ

Также Discord-пользователи отметили улучшенную интерпретацию подсказок и генерацию связных фотографических изображений моделью.

Мостак заявил, что будущие версии Stable Diffusion начнут использовать обучающие датасеты, позволяющие художникам соглашаться или отказываться от включения их работ.

«Мы пытаемся быть максимально прозрачными, улучшая базовые модели и учитывая отзывы сообщества», — сказал он.

Напомним, в августе Stability AI предоставила более 1000 исследователям доступ к генератору изображений по тексту Stable Diffusion. Позже компания сделала алгоритм доступным для широкой аудитории.

В сентябре энтузиаст научил Stable Diffusion генерировать видео по запросу. Алгоритм базируется на программном коде ИИ-разработчика Андрея Карпати.

В октябре немецкий энтузиаст Фабиан Штельцер задействовал нейросеть Stable Diffusion для обработки селфи.

Источник: ForkLog

Поделиться

Читайте также:

Аудиоплеер Winamp добавил поддержку NFT
Аудиоплеер Winamp добавил поддержку NFT

ЭкономикаВчера в 19:56Читать новость

Конгрессмена США оштрафовали на $15 237 за продвижение токена LGB
Конгрессмена США оштрафовали на $15 237 за продвижение токена LGB

ЭкономикаВчера в 18:28Читать новость

Суд в США обнародовал обвинения против партнера OneCoin
Суд в США обнародовал обвинения против партнера OneCoin

ЭкономикаВчера в 18:14Читать новость

Кевин О’Лири встал на защиту Сэма Бэнкмана-Фрида
Кевин О’Лири встал на защиту Сэма Бэнкмана-Фрида

ЭкономикаВчера в 17:56Читать новость

Трейдер рассказал о среднесрочных перспективах биткоина
Трейдер рассказал о среднесрочных перспективах биткоина

ЭкономикаВчера в 17:56Читать новость

В Казахстане приняли законопроект о налогах для майнеров 
В Казахстане приняли законопроект о налогах для майнеров 

ЭкономикаВчера в 17:28Читать новость

СМИ: хедж-фонд потребует от Grayscale возобновить выкуп акций GBTC
СМИ: хедж-фонд потребует от Grayscale возобновить выкуп акций GBTC

ЭкономикаВчера в 17:00Читать новость

Делегация из Украины совместно с ОБСЕ обсудила механизмы ареста криптовалют
Делегация из Украины совместно с ОБСЕ обсудила механизмы ареста криптовалют

ЭкономикаВчера в 16:56Читать новость

ЦБ Нигерии ограничил снятие наличных в целях популяризации CBDC
ЦБ Нигерии ограничил снятие наличных в целях популяризации CBDC

ЭкономикаВчера в 16:42Читать новость

Бухгалтерская криптоплатформа Bitwave привлекла $15 млн
Бухгалтерская криптоплатформа Bitwave привлекла $15 млн

ЭкономикаВчера в 16:28Читать новость

Виталик Бутерин: ИИ не заменит программистов в ближайшем будущем
Виталик Бутерин: ИИ не заменит программистов в ближайшем будущем

ЭкономикаВчера в 15:42Читать новость

Джим Крамер указал на риски обнуления цены ряда популярных криптоактивов
Джим Крамер указал на риски обнуления цены ряда популярных криптоактивов

ЭкономикаВчера в 14:28Читать новость

Майкл Сэйлор обвинил Сэма Бэнкмана-Фрида в «шиткойнерстве»
Майкл Сэйлор обвинил Сэма Бэнкмана-Фрида в «шиткойнерстве»

ЭкономикаВчера в 14:14Читать новость

Chainlink запустила стейкинг. Токен LINK упал на 5%
Chainlink запустила стейкинг. Токен LINK упал на 5%

ЭкономикаВчера в 14:14Читать новость

Kodiak Robotics создаст для Пентагона беспилотные автомобили
Kodiak Robotics создаст для Пентагона беспилотные автомобили

ЭкономикаВчера в 13:42Читать новость

Виталик Бутерин назвал пять захватывающих векторов развития Ethereum
Виталик Бутерин назвал пять захватывающих векторов развития Ethereum

ЭкономикаВчера в 13:00Читать новость

Отчет: ончейн-индикаторы не подтвердили достижение рынком дна
Отчет: ончейн-индикаторы не подтвердили достижение рынком дна

ЭкономикаВчера в 12:14Читать новость

Фан-токен сборной Испании рухнул на 48% после поражения от Марокко
Фан-токен сборной Испании рухнул на 48% после поражения от Марокко

ЭкономикаВчера в 12:00Читать новость

«Волк с Уолл-стрит» посоветовал инвесторам избегать криптовалют
«Волк с Уолл-стрит» посоветовал инвесторам избегать криптовалют

ЭкономикаВчера в 10:56Читать новость

Питер Шифф предсказал биткоину падение ниже $5000
Питер Шифф предсказал биткоину падение ниже $5000

ЭкономикаВчера в 10:42Читать новость