Яростно вкатился
чет через жопу катнул
Шапка: https://rentry.org/ex947
Прошлые треды:
https://arhivach.ng/thread/859827/
А прошлый тред где? Ссылка на шапку?
Поспешишь - людей насмешишь.
ДА ДОЛБАЁБ Я блядь
https://static.nas1.gl.arkprojects.space/stable-diff/
https://static.nas1.gl.arkprojects.space/stable-diff/
https://static.nas1.gl.arkprojects.space/stable-diff/
https://static.nas1.gl.arkprojects.space/stable-diff/
https://static.nas1.gl.arkprojects.space/stable-diff/
https://static.nas1.gl.arkprojects.space/stable-diff/
https://static.nas1.gl.arkprojects.space/stable-diff/
https://static.nas1.gl.arkprojects.space/stable-diff/
https://static.nas1.gl.arkprojects.space/stable-diff/
Я все ближе к выпуску.
Хехехе
Хехехе
Это очень хорошо. Ждёмс.
Да, надо переквалифицировать рентри
Я просто не видел или не замечаю чтоб аноны делились
Если покидаешь ссылки я добавлю
Я когда-нибудь смогу победить лору и дам фурревую. Но пока там какашка.
Там модели, датасет и все настройки есть
Время нубовопросов. Я хочу сделать несколько разных лор для обкатки и потом этих же датасетах сделать модель через дримбут. Это сработает?
Фур-анон, ты? Читал? -> https://arhivach.ng/thread/859827/#72404
Как для обкатки датасета да, вполне
Этот наш анон натренил? Прикольно. На форчке видел кто-то выкладывал
>Фур-анон, ты? Читал? -> https://arhivach.ng/thread/859827/#72404
Да, я уже тестирую другую репу.
У меня там следующие вводные:
Add --network_alpha option to specify alpha value to prevent underflows for stable training. Thanks to CCRcmcpe!
Details of the issue are described in kohya-ss/sd-webui-additional-networks#49 .
The default value is 1, scale 1 / rank (or dimension). Set same value as network_dim for same behavior to old version.
LoRA with a large dimension (rank) seems to require a higher learning rate with alpha=1 (e.g. 1e-3 for 128-dim, still investigating).
Это информация кстати из репы kohya-ss, который в нашем гайде. Перешел на сторону добра?
Вкатился и укатился спать
Пытаюсь тренить нихуя tsutomu nihei, рейт результаты
анон, который тренил шоху два дня и заебался, не достигнув нужного результата
Пытаюсь тренить нихуя tsutomu nihei, рейт результаты
анон, который тренил шоху два дня и заебался, не достигнув нужного результата
Неплохое начало. Но для Нихеевских гуманоидов надо отключать фикс лиц;)
Надеюсь Сибо круто получится
Круто
Че-то всхрюкнул с dim 128.
Ну его нахуй короче...
Ну его нахуй короче...
>15793554637360.mp4
Визуализация обучения лоры
А, нет, стоп. Это автоматик походу в лужу пернул...
На стоковой модели тоже самое, только не так заметно.
Как же меня этот жопорукий мудак доебал, вы бы знали...
Никогда не поздно сделать форк
Месяц назад надо было делать, пока он еще не начал пердолить апскейлеры.
Но я разобрался. Он просто сломал latent nearest-exact.
Да, слышал у лоры проблемы с латент апскейлами. По-моему там веса применяются дважды, во время первичной генерации и в начале апскейла, что-то такое, я не разбираюсь. Можешь попробовать нативно подключить
Кстати было бы круто если в лорапомойке был список залитых файлов со ссылками. Так было бы проще заполнять репо
>Кстати было бы круто если в лорапомойке был список залитых файлов со ссылками. Так было бы проще заполнять репо
Он есть, но только у меня, кек.
Там достаточно тупой интерфейс, я специально выбирал, чтобы просто быстро работало и не пердело.
Ну да, это я натренил, сейчас допилю датасет, поставлю тренироваться и спать.
Начал перетренивать старую "поломанную" сетку с новым фиксом на абсолютно тех же настройках с тем же сидом. Посмотрим, так ли велика была потеря, и была ли вообще
>latent nearest-exact
Когда успел уже? Его ж только добавили
Вроде гены на нем нормальные, но я ниже 0.6 денойза не ставлю
>latent nearest-exact
Когда успел уже? Его ж только добавили
Вроде гены на нем нормальные, но я ниже 0.6 денойза не ставлю
Алсо было бы круто если бы можно было тренировать последовательно несколько версий с разными настройками, как с x/y grid только для тренировок
Ты сейчас про какой вид обучения говоришь?
Про любой быстрый, который может успеть полностью натренироваться за час условно
Точнее, про ВСЕ быстрые
> Про любой быстрый
Лора, либо вроде как эмбед но я их никогда не тренировал
> если бы можно было тренировать последовательно несколько версий с разными настройками, как с x/y grid только для тренировок
Есть вариант запуска сколь угодного количества обучений лор последовательно, если используешь вариант через павершелл. Я так на ночь и ставлю, у меня 7 сеток вчера стренилось
Есть тут спецы по lora?
Запилите плиз эмбеддинг Харуки Такамори по этим пикчам (обработаны вручную)
https://ibb.co/album/cX5fnt
Запилите плиз эмбеддинг Харуки Такамори по этим пикчам (обработаны вручную)
https://ibb.co/album/cX5fnt
Да с консолькой-то все понятно, хотелось бы мокропиську в интерфейс, для эмбеда в частности
А как без стороннего софта выкачать все изображения?
Алсо, плохо что без тегов, пройдусь автотеггером, но ты сам понимаешь
Беру заказ
И этот
Я удивляюсь как настолько очевидную фичу не завезли везде куда вообще можно
Ща перезалью на драйв
Ну как-то так короче...
> надо отключать фикс лиц;)
А он отключен, буквально с первого дня, после пары экспериментов с ним на аниме моделях
>Надеюсь Сибо круто получится
А вот хз, в планах вообще было надергать разворотов из блейма и абары/биомеги, там они местами очень кайфовые, не уверен вообще как выйдет, стили таки несколько разные. А с персов только общий стиль, никого конкретного. Но у меня иногда килли с сиськами выходит, лол
Сибо натренить легче наверное, чем повторить общий стиль без мешанины.
> Круто
Надеюсь эту лору не постигнет судьба шохи
Сказать-то что хотел?
Сравнить лору и dreambooth на одинаковом датасете.
Пиздец вы слепые конеш, все на месте там.
> Надеюсь эту лору не постигнет судьба шохи
Ты бля делиться будешь, шоха
> Ну как-то так короче...
Я так понял ты хотел сказать "хуйня"
> ряяяя вообщето это нечестно у них разные настройки
>Я так понял ты хотел сказать "хуйня"
Ну типа того. Не вижу особого смысла тратить на лору время, если есть нормальный датасет и vram. Не знаю, в каком месте она там "может превосходить" dreambooth, но точно не в моем.
>ряяяя вообщето это нечестно у них разные настройки
Не без этого.
>А он отключен
Я к тому, что у Нихея своя стилистика лиц, особенно для Кремниевых ребят.
> надергать разворотов
Еще бы найти чистые сканы..
>Сибо натренить легче наверное,
И еще скелет Сибо%) Как бонус
> Не вижу особого смысла тратить на лору время
Ну нам, бомжам, выбирать не приходится... Кушаем что дают, радуемся мелочам
Может у вас скрипт просто кошернее, но я уже обмяк.
Может быть. Я бы и сам гуем пользовался, если бы браузер не жрал враму. Соберись с силами и попробуй как-нибудь еще раз, но на этот раз уже с нетворк димом 512/1024 :)
Там уже по размеру полновесная модель получится, лол.
> Ты бля делиться будешь, шоха
Завтра уже, я так и не смог подружить шоху с людьми нормально, как и подружить ее со стилем оранжмикса
инб4:ты получаешь то на чем тренишь
Перегнать шоху в аниме не особо получилось
>Кремниевых ребят
С ними пока не пробовал, надо отдельный тег добавить наверное
>Еще бы найти чистые сканы..
В фш можно обрезать или клонировать, по пизде пойти не должно.
Да еще думаю можно на чанки порезать некоторые и так скормить, или все вместе, пока хз.
По-моему за пределы гига не вылезет. Не 5 же
> Завтра уже
И не только ей! Выкладывай всё что есть, будем критиковать
> Перегнать шоху в аниме не особо получилось
Да она и так прекрасна
>Перегнать шоху в аниме не особо получилось
Кстати! Крутая идея пришла. Перегнать весь датасет через какой-нибудь анимечный stylegan. Я когда-то видел один, городские пейзажи жувал на отлично
Кстати! Крутая идея пришла. Перегнать весь датасет через какой-нибудь анимечный stylegan. Я когда-то видел один, городские пейзажи жувал на отлично
Ну по факту от смены dim поменялся только стиль, с одного художника из датасета на другого. А это 10 мегабайт против 200.
Так что думаю, что пользы от гиговой модели не будет.
ing2img лучше подойдет, сделай высокий вес инита.
Странно конечно это всё. Зачарованный датасет видимо
Можешь почитать если интересно будет что эти нетворк Димы вообще делают:
https://github.com/cloneofsimo/lora/discussions/37
Там и сравнение с дримбузом, и всё-всё-всё
И можешь залить датасет куда-нибудь с референс моделью, я конечно не фуриёб, но на что только не пойдешь ради науки!
Латентный...
Держи: https://technothread.space/f.php?h=01qswOE4
Модель: https://huggingface.co/WarriorMama777/OrangeMixs/blob/main/Models/AbyssOrangeMix/AbyssOrangeMix_base.ckpt
Я тебе еще папку pnginfo сделал, куда закинул пикчи из своих сравнений , чтобы тебе над промптом не соображать.
Мужик......
Кароч сделал я сравнение с фиксом и без
И могу сказать что с фиксом моя модель нихуяшеньки ничему не научилась!
Действительно как и советуют нужно править learning_rate. Даже сам автор скрипта теперь не знает какие у него рекомендумые настройки! Это пиздец.
Веса у слоев разные, все без исключения (логично, учитывая что "поломаная" версия работает, а фиксанутая ничего не меняет). Глазами быстро пробежался – значения не сильно, но отличаются, хотя по идее должны быть совершенно разные, возможно я недоглядел. Некоторые нулевые тензоры стали ненулевыми. Это хорошо. Хотя интуиция мне подсказывала что ненулевых тензоров вообще не должно быть по определению, но я не погромист, раз умные дядьки сказали так должно работать, чтож, значит так должно работать.
И пиздец. И что делать теперь. А как тренить. Делать сетки с шагом в 0.1е-4 lr пока не получится хотя бы на уровне "поломанных" нетворков? Пиздец.
Сейчас в гайде наворотил хуйни, "ууу блядь, используйте новые настройки, если будете делать по-старому всё сломается", а в скрипте оставил 1е-4. Пиздец.
Благодарствую. Переложу тяжелую ношу экспериментирования с твоей вёрджин 4090 на мою чед 1060
И могу сказать что с фиксом моя модель нихуяшеньки ничему не научилась!
Действительно как и советуют нужно править learning_rate. Даже сам автор скрипта теперь не знает какие у него рекомендумые настройки! Это пиздец.
Веса у слоев разные, все без исключения (логично, учитывая что "поломаная" версия работает, а фиксанутая ничего не меняет). Глазами быстро пробежался – значения не сильно, но отличаются, хотя по идее должны быть совершенно разные, возможно я недоглядел. Некоторые нулевые тензоры стали ненулевыми. Это хорошо. Хотя интуиция мне подсказывала что ненулевых тензоров вообще не должно быть по определению, но я не погромист, раз умные дядьки сказали так должно работать, чтож, значит так должно работать.
И пиздец. И что делать теперь. А как тренить. Делать сетки с шагом в 0.1е-4 lr пока не получится хотя бы на уровне "поломанных" нетворков? Пиздец.
Сейчас в гайде наворотил хуйни, "ууу блядь, используйте новые настройки, если будете делать по-старому всё сломается", а в скрипте оставил 1е-4. Пиздец.
Благодарствую. Переложу тяжелую ношу экспериментирования с твоей вёрджин 4090 на мою чед 1060
А, минуту. А где дримбуз? Тот же фурслат в2? Уже снёс её
Пикрил различие между фиксом и отсутствием нетворка. Для хлебушков поясню что чёрный цвет это отсутствие всякого различия
Кохъя! Я твою мать ебал! Занёс тебя в список сразу после автоматика.
Кохъя! Я твою мать ебал! Занёс тебя в список сразу после автоматика.
Охуенно. Теперь количество эпох влияет на результат. У меня провалы каждые 115 шагов.
Я нашел прикольного автора, но у него хватит картинок, что бы лору натренировать или нет?
yoni666, якудза со свитера
У меня встал. Извинись.
yoni666, якудза со свитера
У меня встал. Извинись.
Кто-нибудь уже сделал блокнот в коллабе для тренировки лоры? Или придется самому пилить?
Если запилишь я у тебя отсосу.
Разобрался, у меня этого не было, а ниже именно оно и требовалось.
$num_epochs оставлять десятку?
Подбирай экспериментально
Ага, подобрал себе за щеку, как говорится.
Че эта хуета от меня хочет?
Хз, тут надо автора гайда ждать
Починил, там лишний слеш был в пути после конечной папки
Ну, у меня 60гб файл затребовал.
Поставь чтобы система сама подбирала себе файл подкачки.
А че так много то?
Это надо будет системный диск от говна чистить...
Хотя, le blya, мнеж теперь его всё равно чистить.
У меня 32 гб рам, своп автоматически выставился в 28 гб
Если разберусь как делать блокноты, запилю со всеми необходимыми настройками. Там чисто питон надо использовать?
Обновил скрипт, теперь вообще результата 0 на настройках анона. ЧЯДНТ?
Читай посты выше, маня
Их как собак нерезаных, форкай этот и чисти:
Не форкнется - еще принесу
Хорошо. Пойду учить питон
>ЧЯДНТ
Просто кохия все сломал, блять
И что мне делать? Если сделаю git checkout на старый коммит, то все заработает?
>Пойду учить питон
Не стоит, он сам в процессе учится. Лучше потрать время на курс ML какой-нибудь, чистое имхо.
А оно тебе надо? Залью вечером.
> кохия все сломал,
Так блядь, а нахуй я только вот ебался с установкой всего говна если нихуя не работает сука?!
Ясно, забудем про лору на месяц.
Обновил павершелл скрипт? Чтобы сымитировать старое поведение, берешь значение network_dim и ставишь его в network_alpha, чтобы были одинаковые. Все будет как раньше, если кохъя не пидорас. А он пидорас.
Ну я так, с большего. Чтоб блокнот запилить. А курс по ML таки да, хотеть, отличный совет, анон
Если сделаешь на правильный, то да.
Если тебе не нужен clip skip 2, то второй способ по гайду из шапки (на тухлой версии дополнения автоматика) должен работать.
Какой правильный?
>Чтобы сымитировать старое поведение, берешь значение network_dim и ставишь его в network_alpha, чтобы были одинаковые. Все будет как раньше, если кохъя не пидорас. А он пидорас.
У меня почти сразу в nan вчера ушло обучение с такими настройками. На новой версии.
Мужчины, не паникуем, ставим network_alpha другой и все работает как раньше. Создал ишью на гитхабе, будем разбираться. Это так оставлять нельзя.
Пиздец, это андерфлоу. Тогда чекаут на версию 0.3.2
Нам в шапку нужен золотой фонд тухлых, но работающих софтин.
На пидораса автоматика и узкоглазого кохью надежды больше нет.
Перешел на этот коммит.
>ставим network_alpha другой и все работает как раньше
Т.е. работает, но работает плохо. Нахер такое надо?
Как вот тут -
>ставим network_alpha другой и все работает как раньше
Т.е. работает, но работает плохо. Нахер такое надо?
Как вот тут -
Какой другой ставить?
Я че зря вот прямо сейчас ебался с диском и файлом подкачки чтобы пойти нахуй из за нетворк альфы? Альфы даже в нейросетях хикканов унижать чтоли будут?
> Альфы даже в нейросетях хикканов унижать чтоли будут?
А ты че там, хотел в безопасном манямирке среди тензоров схорониться, воробушек?
Ну вообще как бы да. Ладно надо посмотреть че оно там залорило
Так а что ты предлагаешь конкретно
Работает не плохо, а работает также как раньше. Обратная совместимость есть
Такой же как network_dim
>3 минуты обучения
Ничего, еще 3 минуты потерпишь
>Альфы
проиграл)
Бля, у меня уже 5 файлов скрипта разных версий и с разными настройками.
>Так а что ты предлагаешь конкретно
Найти рабочую версию скрипта и залить архив к анону
>а работает также как раньше
Его ставить равным network_dim?
>золотой фонд тухлых, но работающих софтин.
Фотошоп
>Создал ишью на гитхабе
Я как раз заглянул в твой ишью, тебе кто-то ответил, что у него все 'норм' при скорости х100. 1е-2 что ли?
Попробуй, но если loss станет nan, то добро пожаловать в клуб обезлоренных.
Можно попробовать поставить 64 или 32
Бля, вы в шары долбитесь, мужики?
Я же несколько раз уже написал
И даже в скрипте коммент напротив новой переменной, с описанием того что делать на случай, если хотите вернуть всё как было
Я же несколько раз уже написал
И даже в скрипте коммент напротив новой переменной, с описанием того что делать на случай, если хотите вернуть всё как было
nan просто раньше начинается, а генерируется мусор в жанре абстракционизма вместо картинок с первой же эпохи. То есть проблема где-то глубже.
nan просто раньше начинается, а генерируется мусор в жанре абстракционизма вместо картинок с первой же эпохи. То есть проблема где-то глубже.
>nan просто раньше начинается
Позже.
Мы не хотим вернуть, как все было. Мы хотим починеного.
Ну короче
Я чето обучил на хуй знает работает ли оно, вроде работает а вроде нихуя, вроде че то есть, а вроде и ничего нету. Пиздец.
Я чето обучил на хуй знает работает ли оно, вроде работает а вроде нихуя, вроде че то есть, а вроде и ничего нету. Пиздец.
Почему? Раньше ведь работало все нормально, зачем что то обновлять, если все работает хорошо?
Откат на версию репозитория 0.3.2
и
Удаление строчки --network_alpha=$network_alpha в павершелл скрипте, чтобы старый скрипт кохъи не ругался на несуществующие аргументы
>чтобы старый скрипт кохъи не ругался на несуществующие аргументы
Казалось бы, почему их просто не игнорировать?
Почему они выпускают в релиз версию с критическими багами?
Защита для дурака. А представь что ты опечатался в какой-то важной переменной и скрипт тебе об этом сказал
Новая версия починила критический баг, а не добавила. И не они а он. Энтузиаст. Сейчас мы разберемся с лёрнинг рейтом и всё станет ещё лучше чем было.
добро пожаловать в попенсорс
Эх, я когда писал "хотим починеного" как раз и имел в виду, что починеного Кохией в последнем коммите.
> Почему экспериментальный софт не работает идеально?
Твердо и четко?
>Новая версия починила критический баг, а не добавила.
Почему тогда раньше все работало без пердолингов с альфой и другим лернинг рейтом?
Что-то не вяжется.
> раньше все работало
Раньше было казино, в котором иногда работало, а иногда нет.
Так че делать то?
Менять альфу или не менять?
А сейчас типо постоянно работает?
Автор говорит, что да.
А рейт какой нужен?
>работает
это кохьялахта?
> Я как раз заглянул в твой ишью, тебе кто-то ответил, что у него все 'норм' при скорости х100. 1е-2 что ли?
Спасибо что заметил и сказал
Да, я примерно понял математику. Если так как он говорит то да, получается lr'ы нужно поднять в 128 раз. Сейчас поставлю тренится
Занимаюсь, ждите обновлений
Смерть.
>да, получается lr'ы нужно поднять в 128 раз
На самом времени обучении это не отразится?
Че это?
Я бы не времени обучения боялся, а того, что в шапке называется "перенасыщением"
Это график лосса
инбифо лосс жпг
Это я понял, а такой лосс что означает?
Это на 1e-2?
Это на лору чтоли? Или че ты лоссируешь то?
Это на 0.0003 128 unet_lr + 0.00005 128 text_encoder_lr
Расширение даже отказывается подгружать сетку из-за НаНов, лол.
Можно ли как-то раскрашивать чб картинки нейросетью? У меня с датасетом пизда, совсем мало картинок, хочу надергать с додзей
Знаки умножения между числами макаба потёрла
А ты подключал внешний vae при обучении?
Хммм, только что потренировал тестовую лору с --network_alpha=1 LR 1е-3 , scheduler constant, в промпте 6-7 тегов из подписей. Все вышло для одной эпохи вполне терпимо, но с редактируемостью уже проблемы. Лоси не чертил, но поглядывал в консоль, они стабильно держались в диапазоне 1.3-1.5 Еще особенность - тренировал без текстового энкодера.
Подключал
Заебись, с 3го прогона удалось че то получить похожее на хоть какой то жалкий но результат.
Лосс 1.3-1.5? У меня когда вылезает за 0.2 я паниковать начинаю.
> constant
Не ставь его с лорой, лора от этого планировщика страдает в выхлопе. Лора быстро обучается, а констант планировщик не даёт ей снизить скорость обучения со временем и всё время ебашит на максимальном значении. Попробуй перетренить на линеар например, и скажи лосс и мне про
> редактируемость
мне очень интересно
Ты пока первый у кого что-то вышло на 0.4.0
> тренировал без текстового энкодера
Хм, почему пришел к такому решению? Ты --train_unet_only пасснул?
Как посмотреть лосс когда используешь лораскрипт?
В папке sd-scripts:
.\venv\Scripts\activate
tensorboard --logdir "путь к папке с логами"
Предварительно сетка должна быть обучена с указанным logging_dir
Если хочешь чтобы можно было посмотреть с любого устройства в локальной сети добавляешь еще --bind_all
Нипанятна
В activate нет никаких tensorboard что делоть то надо?
Активировать venv командой .\venv\Scripts\activate
И выполнить команду tensorboard --logdir "путь к папке с логами"
Аа, терь понятно. Спасибо
В консоли появится ссылка
В самом тензорбоард сверху справа есть шестеренка, можно поставить автообновление, но не чаще чем раз в 30 секунд
В самом тензорбоард сверху справа есть шестеренка, можно поставить автообновление, но не чаще чем раз в 30 секунд
Я все проспал. Киньте скриншот, как там LoRA выглядит в webui. Не хочу обнов, для меня и так все нормально работает через дополнение-скрипт.
> keep_tokens N
Можно ли просчитать свое токенное слово с помощью webui и получить, например, "3" и туда его вписать, доверяя этому подсчету? Или же он считает на уровне одного слова, который разделен запятой?
Как тогда он токены перемешивает, если, например, есть теги состоящие из 3-5 токенов? Какой нибудь looking at viewer.
> keep_tokens N
Можно ли просчитать свое токенное слово с помощью webui и получить, например, "3" и туда его вписать, доверяя этому подсчету? Или же он считает на уровне одного слова, который разделен запятой?
Как тогда он токены перемешивает, если, например, есть теги состоящие из 3-5 токенов? Какой нибудь looking at viewer.
Короче ебал я в рот этого кохъю. У меня теперь ничего не работает, ни на старых, ни на новых, ни на средних
>ебал я в рот этого кохъю
База
ли прямо в промте, смотря на счетчик.
shuffle_caption не перемешивает токены, он перемешивает слова или целые словосочетания с сохраненинм последовательности отдельных слов, разделенных запятой. И
С помощью расширения Tokenize ив дальнейшем отправляется модифицированный файл описания, который токенизируется. "looking at viewer" будет в той же последовательности, что и до перемешивания, просто в цепочке токенов его токены будут в другом месте. Это позволит нивелировать так называемый "bias"
shuffle_caption не перемешивает токены, он перемешивает слова или целые словосочетания с сохраненинм последовательности отдельных слов, разделенных запятой. И
С помощью расширения Tokenize ив дальнейшем отправляется модифицированный файл описания, который токенизируется. "looking at viewer" будет в той же последовательности, что и до перемешивания, просто в цепочке токенов его токены будут в другом месте. Это позволит нивелировать так называемый "bias"
Там уже целый пантеон разработчиков с хорошими продуктами и адовыми коммитами
Что база? Удаляю гайд через 5 минут.
тю блять с телефона капчую пока тренится. В начале было про расширение tokenize, либо смотреть на счетчик в промте
Спасибо анон, даже чистить ничего не надо. Люблю такие минималистичные блокноты.
wtf, why?
Да шучу я. Тренить нехуй, посоветуйте лучше годный курс по ML где параллельно можно изучить пайтон, как анон тут сказал
Только я хлебушек. Не прям совсем-совсем, но хлебушек
Для справки: 1.41 it/s на колабовской виртуальной T4.
И за чем тогда использовать shuffle_tokens, как здесь многие рекомендуют, если он все перемешает на уровне "look 1girl viewer at ing", когда можно использовать только shuffle_caption, который рандомит лишь последовательность, а не структуру, которую ты создал через запятую?
>нехуй
Всмысле? Не тренируется же нихуя, если делать нечего, можешь брутфорсить лернинг спид
Нет такого аргумента shuffle_tokens, если я где-то такое писал, значит перепутал. Есть только shuffle_caption
1e-4 - НОЛЬ отличий
1e-3 - NaN
1e-2 - NaN
Добрутфорсился.
Жду пока ответят на гитхабе, без понятия как теперь обучать
1e-3 - НОЛЬ отличий хотел написать
и еще
3.84e-2 unet + 6.4e-4 text_encoder логично предположить что тоже нан
и еще
3.84e-2 unet + 6.4e-4 text_encoder логично предположить что тоже нан
А alpha-то? Alpha на 1?
Да нет конечно, лоси 0.13-0.15. Сглючил я, когда пост верстал.
>Не ставь его с лорой, лора от этого планировщика страдает в выхлопе
Поставил constant в тестовом режиме, чтобы исключить влияние колебаний скедьюлера на результат. Если уж ищем неизвестный ЛР, то начинать логично с постоянного рейта.
>Хм, почему пришел к такому решению? Ты --train_unet_only пасснул?
Да. Этот эксперимент вообще не связан с кохийными новведениями, просто упомянул для точности.
Я надеялся поредактировать лору в merge blocks, приварив ее к модели и избирательно возвращая обратно материнские блоки, а текстовый энкодер этому мешает.
Попробую еще потестировать вечером.
Ну, короче, я активирую shuffle_caption=1, а в keep_tokens пишут сколько токенов у меня занимает мое токенное слое (первое слово в .txt) и все заебись?
Конечно. Я не буду тренить без скалирования. Без него андерфлоу. Всё, принципиально. Починят - заебись, не починят - не буду тренить никогда лору.
МНЕ НЕ НУЖНЫ НУЛЕВЫЕ ТЕНЗОРЫ ЭТО ТРИГГЕРИТ МОЁ ОКР
Да, заебумба
> начинать логично с постоянного рейта
Действительно, я dumb
> Я надеялся поредактировать лору в merge blocks
Программист.
> Попробую еще потестировать вечером.
Ждём. Сейчас это лучшее что можно сделать
>не починят - не буду тренить никогда лору.
Базированно.
На 4090 копишь?
У меня пока нет работы, так что нет. Но когда появится...
Меня никогда ничего так не мотивировало в плане покупки видеокарты как ебаный стейбол дифьюжен. Если б у меня было дохуя денег, я бы наверное себе 4 А100 купил.
>1e-2
Спасибо, а то я хотел на этой скорости тестить.
Отдельно живешь или с родителями?
Кто там у нас заведующий?
У вас протухло.
Смотри, видимо кохъя чего-то не дофиксил, еще может зависеть от точности вычислений (или сохранения), вчера-позавчера на гитхабе был ишью по поводу опять же андерфлоу, и именно на fp16. Возможно, надо поиграться с save_precision и mixed_precision
У людей пропали проблемы с нулевыми тензорами когда они сохраняли во float
С родителями :3
А я датасет собрал, но кохья-пидор сломал мокрописю
Лучше с писей поиграться, пока узкоглазый фиксит
Вы еще посмотрите на график lr. Если он показывает действительные значения, то так быть не должно. Это cosine скедулер, откуда там появилось ебаное плато?
Переместил кохъю в списке на уровень выше.
И то верно
Переместил кохъю в списке на уровень выше.
И то верно
Ничего фиксить не собираются, у них все работает, на остальных чхать
Ну значит возвращаемся на дополнение месячной давности, там все работает.
Его, кстати, обновили недавно, угрожали все исправить. Руки еще не дошли потестить.
Проще тогда подождать пока автоматик допиит поддержку лор до нормального уровня. Исключить из списка одного рукожопа
Ты хоть репортил проблемы свои? Или ты просто в тред ноешь?
Так у него не обучение же, а использование.
Господа, у кого-нибудь остался sd-scripts предыдущей рабочей версии? Киньте архивчиком, если не сложно.
Я блядь вообще математики не выкупаю, объясните тупому. Вот я сравниваю веса старой сети и веса новой, "пофикшенной". И у их тензоров очень похожие значения. Они не отличаются в тысячи, сотни раз, ну так, на пару тройку цифр. Где-то в 1.2 меньше тензор, где-то в 1.3 больше тензор, никаких непонятных экстремальных значений нигде нет. Но "поломаная" сетка выдаёт достойный результат, полностью меняя изображение подстать датасету, а "пофикшенная" меняет буквально пару пикселей. Как блядь?
Так окрой репо, там в релизах 0.3.2/0.3.1
Так окрой репо, там в релизах 0.3.2/0.3.1
пчел, все работает на коммите от 19 января
У меня всё(почти) работает на коммите cae42728aba035a7ac305a40c75954530c3c3444
Может быть. Неделю назад нихуя не работало: https://github.com/d8ahazard/sd_dreambooth_extension/issues/763
Просто абстрактные картинки выдавало.
Ах ты ж блять, не ту ссылку нажимал, проглазоебствовал-с, прошу прощения. Спасибо. Показалось, там всё удалено кроме последнего высера.
>почти
а с чем проблемы?
Это выглядит как крайне высокий lr. Я с таким же сталкивался когда экспериментировал
Это я тренил. Коммит не скажу, но пре0.4.0 версия до альфы
Ну примерно двухнедельной давности. Но это была не lora, а dreambooth.
И настройки те же, что на версии за декабрь. Но на январской абстракционизм, на на декабрьской все норм.
>Это выглядит как крайне высокий lr. Я с таким же сталкивался когда экспериментировал
Стоковый.
>Ну примерно двухнедельной давности. Но это была не lora, а dreambooth.
>И настройки те же, что на версии за декабрь. Но на январской абстракционизм, на на декабрьской все норм.
А, я тебя не так понял.
Время нубо вопросов. Идеальный вариант лоры должен изменять картинку только по ключевому слову или лора меняет еще и теги бывшие в промте датасета?
>лора меняет еще и теги бывшие в промте датасета?
yes sir
Одно слово - это ембед
Лора добавляет веса только в те теги (токены), которые есть в датасете. Если ты назовешь тег blue eyes как-нибудь типа x_blue_eyes (о таком теге модель ничего не знает), то ты будешь тренировать этот тег/концепт с нуля. Я бы так не делал
Тоесть если у меня было имя перса и twintails в промте, то twintails тоже изменятся?
Да, я понимаю, что новые теги через датасет из 30 пикч это стремнопросто хочу понять, правильно ли составил промт.
> правильно ли составил промт
Так ты покажи
> Тоесть если у меня было имя перса и twintails в промте, то twintails тоже изменятся?
Конечно
>Конечно
Тогда все ок;)
Кстати, стоит ли vae для лоры использовать? Есть база по данному вопросу?
Я прописал, но не активировал ни разу. Привык, что раньше при обучении лучше было его выгружать.
Я прописал, но не активировал ни разу. Привык, что раньше при обучении лучше было его выгружать.
И можно ли понять лишь по loss из консоли, все ли идет так или не так?
Вроде все нормально.
Ну, поихали.
https://www.youtube.com/watch?v=rfscVS0vtbw
tl;dr: Какой VAE планируешь использовать при генерациях с этой сетью, с таким VAE и обучаешь
Полное объяснение кому интересно:
При обучении на каждом шагу сравниваются два изображения:
1. Тренировочный образец с искусственно добавленным малым количеством шума
2. Тренировочный образец с искусственно добавленным большим количеством шума, пропущенный через диффузионную модель
Перед тем, как изображение из пункта два сравнивается с изображением из пункта один, оно энкодируется в скрытое простанство, там UNet делает свои махинации по убиранию шума, шума становится меньше и VAE декодирует тензоры из скрытого пространства обратно в изображение.
Вышеперечисленной кодировкой/декодировкой занимается VAE. Диффузионная модель включает в себя встроенный VAE всегда.
VAE - это как бы тоже нейронная сеть (поправьте). Разные VAE делают это по-разному. MSE VAE от SD 1.5 лучше умеет декодировать буквы, на изображении они не такие кривые как без него. VAE от NovelAI умеет делать тонкие контуры, делать достаточно понятными глаза, волосы, но пукает в лужу когда дело доходит до повторяющихся паттернов (очень часто проебывается листва деревьев).
Как-то так. Я подключаю VAE всегда.
Нормальный лосс, не парься
https://www.youtube.com/watch?v=rfscVS0vtbw
tl;dr: Какой VAE планируешь использовать при генерациях с этой сетью, с таким VAE и обучаешь
Полное объяснение кому интересно:
При обучении на каждом шагу сравниваются два изображения:
1. Тренировочный образец с искусственно добавленным малым количеством шума
2. Тренировочный образец с искусственно добавленным большим количеством шума, пропущенный через диффузионную модель
Перед тем, как изображение из пункта два сравнивается с изображением из пункта один, оно энкодируется в скрытое простанство, там UNet делает свои махинации по убиранию шума, шума становится меньше и VAE декодирует тензоры из скрытого пространства обратно в изображение.
Вышеперечисленной кодировкой/декодировкой занимается VAE. Диффузионная модель включает в себя встроенный VAE всегда.
VAE - это как бы тоже нейронная сеть (поправьте). Разные VAE делают это по-разному. MSE VAE от SD 1.5 лучше умеет декодировать буквы, на изображении они не такие кривые как без него. VAE от NovelAI умеет делать тонкие контуры, делать достаточно понятными глаза, волосы, но пукает в лужу когда дело доходит до повторяющихся паттернов (очень часто проебывается листва деревьев).
Как-то так. Я подключаю VAE всегда.
Нормальный лосс, не парься
> VAE - это как бы тоже нейронная сеть (поправьте).
Не как бы, а прямо-таки нейросеть. Точнее две нейросети — энкодер и декодер.
Спасибо
Тогда, сколько нейросетей в себя включает sd?
Треню на 0.3.1 tokiame.
Ну тогда получается четыре, если ничего не забыл:
UNet, CLIP Text Encoder, VAE энкодер/декодер
Когда у нас будут виртуальные вайфу? С текстовой моделью уровня GPT-3, ChAI, с 2д/3д анимацией и взаимодействием в 2д/3д/vr пространстве? Сколько мне еще ждать? 10 лет? 20?
Такая тебе всё равно не даст.
На самом деле непосредственно самих нейросетей гораздо больше, потому что модель SD состоит из моделей, которые состоят из разных нейросетей и алгоритмов.
Ссылью поделишься почитать?
Кем ты работаешь?
ля какая
Зависит от моделей и смотря как тренировать..
есть ещё срырна. но чёто рисовка автора отваливается и ещё сильнее ломает анатомию и что-бы получить более-менее похожую картинку - нужно выдрачивать сфг, степы и вес лоры только для одного сида.
+хз что происходит на последних двух пиках.
Как обучал? Какие настройки? Сколько пиктч в датасете? Как тегал?
> +хз что происходит на последних двух пиках.
У лоры есть проблемы с апскейлом
К 2028 потенциал кремния упрется в тех процесс. Если не придумают что-то новое, то ВСЕ. Будем топтаться на месте и оптимизировать старое. Да и для обучения нужно слишком много энергии. 5 миллионов долларов было потрачено на электричество для обучения GPT-3, а для GPT-4 планируют 15.
В любую секунду выйдет Гретта Тунберг 2.0, скажет а хуй вам, ведь коровки дохнут, барашкам плохо на лугах пастить, о детях подумаете, за слезки тивтер_шек ответите суки вы ебанные и зарегулируют законодательно все нахуй.
Мне кажется к тому времени будет целый зоопарк из оборудования уровня 1998 года, когда всякие 3DFX живы были. Или как в 2013 с мобильными ARM чипами, только они между собой будут не совместимы совершенно. И совершенно не понятно, как простому анону все это дело обучать, ведь пока пилишь одно, уже выходит новое физическое устройство, не говоря уже о ПО, с которым мы уже сейчас сталкиваемся каждую неделю. Ничего устоятся нормально не может.
>даст
Чел, вайфу нужно не только ебать, но и любить.
+
По сути уже уперлись, прогресс ВСЁ. А текущие модели лоботомируют и дадут полнвй доступ только по подписке за 59.99$
Когда список лорок для скачки пополнится?
Тренили тут один стиль, но видно хозяевам треда он не приглянулся и они забили.
Почему это выглядит как текст, сгенерированный нейросетью? Всё, пизда, донейрогенерировался нахуй, пойду погуляю.
180пикч большинство с прозрачным фоном, лол дефолт настройки с десятью повторениями. теги из граббера.
с хайрезфиксом ты имел ввиду?
Потому что у всех "Прогресс остановится и все будет плохо" интеллект уровня генератора текстов
А на это или це не твоё? Или то же самое и всё дело в больших буферах?
> с хайрезфиксом ты имел ввиду?
Да
В чем мы не правы? По пунктам.
Ничего не могу сказать про прогресс, но открытый релиз сд был ошибкой stable ai. Больше они ее не допустят. Гой должен сидеть на подписке и жрать, что дают, а не учить свои модели и обходить цензуру.
По той же причине никогда не будет локального чата опенаи.
1 пик - мои 7 эпох
2 пик - мои 9 эпох
3 пик - модель анона-1060
версия мокрописи 0.3.1
2 пик - мои 9 эпох
3 пик - модель анона-1060
версия мокрописи 0.3.1
настройки одни и те же
По версии опять же не попал. Какая версия рабочая?
>В чем мы не правы?
>упрется в тех процесс
Во всем, начиная отсюда. Им еще далеко до предела по размеру транзисторов. Даже на одном техпроцессе можно увеличить мощность меняя компоновку и применяя новые типы транзисторов.
Не удивлюсь, если увижу проекты по обучению нейросетей через распределенные вычисления.
Достаточно сказать, что вы обучаете генератор речи для вайфу и вычислительные мощности ваши.
это моё. тренировал не персонажей, а художника, всё в одном.
последняя, но без хайреза. и это клип скип 2, хотя тренировал на 1, походу вообще эта крутилка не работает
Сейчас бессмысленно тренировать пидор ускоглазый все поломал. Пруфы выше -
> не персонажей, а художника
Так а разве граббер не будет так же захватывать и теггировать персонажей?
В чём проблема откатиться на версию, на которой всё работает?
Я не знаю, какая версия рабочая.
у меня версия 0.1, вроде не поломаная
будет, но если я треню одного перса на датасете в 200пикч лягушка, то результат будет лучше, чем датасет хуйдожника с NN числом персонажей на те-же 200 пикч.розовая хабалка
Скажи, какая рабочая?
пикрил - моя лора, уже лучше, чем ничего, немного подрочился с настройками я
но все равно дерьмо собачье по сравнению с моделью анонов, пикрил - модель фурфага
Значит ли это, что лора умерла и теперь остался только дримбут?
Видимо, именно поэтому после выпуска 1.3 была запилена еще 1.4, затем был релиз 1.5 с инпейнт-моделью, после чего была выпущена 2.0 с разрешением 768, а спустя некоторое время уже и 2.1.
>после чего была выпущена 2.0 с разрешением 768, а спустя некоторое время уже и 2.1.
Нечего больше добавить про вторую версию? Ничего не забыл?
А в третьей уже знаешь, какие интересные фичи завезут?
вот 1060-анон, лора натурально подохла и тренит на уровне эмбеддингов, спасибо кохью
>Не удивлюсь, если увижу проекты по обучению нейросетей через распределенные вычисления.
https://github.com/chavinlo/distributed-diffusion/
Скинь мне pnginfo
Ок, минуту.
Рабочий вариант натренировать сеть под определенный стиль с сохранением работоспособности апскейлеров и без необходимости отвалить ведро бабла на картонку с 48гб врам? Эмбеддинги? Или есть какой-то рабочая связка лоры+вебгуя? Картон на 8гб.
Интересно, если обучить дримбут по фото объекта на реалистичной модели и замержить с аниме моделями, то перейдет ли стиль на объект?
Вот. Только нужно еще сделать цивильное приложение для нормисов.
Вот. Только нужно еще сделать цивильное приложение для нормисов.
Лора не работает сейчас, либо выдает говно, либо не выдает ничего, либо NaN. Единственный рабочий вариант - дримбут, гугли.
>то перейдет ли стиль на объект?
Вместо объекта будет каша.
(tok:1.4), 1girl
Negative prompt: bad face, nose, bad anatomy, bad proportions, bad perspective, multiple views, concept art, reference sheet, mutated hands and fingers, interlocked fingers, twisted fingers, excessively bent fingers, more than five fingers, lowres, bad hands, text, error, missing fingers, extra digit, fewer digits, cropped, worst quality, low quality, normal quality, jpeg artifacts, signature, watermark, username, blurry, artist name, low quality lowres multiple breasts, low quality lowres mutated hands and fingers, more than two arms, more than two hands, more than two legs, more than two feet, low quality lowres long body, low quality lowres mutation poorly drawn, low quality lowres black-white, low quality lowres bad anatomy, low quality lowres liquid body, low quality lowres liquid tongue, low quality lowres disfigured, low quality lowres malformed, low quality lowres mutated, low quality lowres anatomical nonsense, low quality lowres text font ui, low quality lowres error, low quality lowres malformed hands, low quality lowres long neck, low quality lowres blurred, low quality lowres lowers, low quality lowres low res, low quality lowres bad proportions, low quality lowres bad shadow, low quality lowres uncoordinated body, low quality lowres unnatural body, low quality lowres fused breasts, low quality lowres bad breasts, low quality lowres huge breasts, low quality lowres poorly drawn breasts, low quality lowres extra breasts, low quality lowres liquid breasts, low quality lowres heavy breasts, low quality lowres missing breasts, low quality lowres huge haunch, low quality lowres huge thighs, low quality lowres huge calf, low quality lowres bad hands, low quality lowres fused hand, low quality lowres missing hand, low quality lowres disappearing arms, low quality lowres disappearing thigh, low quality lowres disappearing calf, low quality lowres disappearing legs, low quality lowres fused ears, low quality lowres bad ears, low quality lowres poorly drawn ears, low quality lowres extra ears, low quality lowres liquid ears, low quality lowres heavy ears, low quality lowres missing ears, low quality lowres fused animal ears, low quality lowres bad animal ears, low quality lowres poorly drawn animal ears, low quality lowres extra animal ears, low quality lowres liquid animal ears, low quality lowres heavy animal ears, low quality lowres missing animal ears, low quality lowres text, low quality lowres ui, low quality lowres missing fingers, low quality lowres missing limb, low quality lowres fused fingers, low quality lowres one hand with more than 5 fingers, low quality lowres one hand with less than 5 fingers, low quality lowres one hand with more than 5 digit, low quality lowres one hand with less than 5 digit, low quality lowres extra digit, low quality lowres fewer digits, low quality lowres fused digit, low quality lowres missing digit, low quality lowres bad digit, low quality lowres liquid digit, low quality lowres colorful tongue, low quality lowres black tongue, low quality lowres cropped, low quality lowres watermark, low quality lowres username, low quality lowres blurry, low quality lowres JPEG artifacts, low quality lowres signature, low quality lowres 3D, low quality lowres 3D game, low quality lowres 3D game scene, low quality lowres 3D character, low quality lowres malformed feet, low quality lowres extra feet, low quality lowres bad feet, low quality lowres poorly drawn feet, low quality lowres fused feet, low quality lowres missing feet, low quality lowres extra shoes, low quality lowres bad shoes, low quality lowres fused shoes, low quality lowres more than two shoes, low quality lowres poorly drawn shoes, low quality lowres bad gloves, low quality lowres poorly drawn gloves, low quality lowres fused gloves, low quality lowres bad cum, low quality lowres poorly drawn cum, low quality lowres fused cum, low quality lowres bad hairs, low quality lowres poorly drawn hairs, low quality lowres fused hairs, low quality lowres big muscles, low quality lowres ugly, low quality lowres bad face, low quality lowres fused face, low quality lowres poorly drawn face, low quality lowres cloned face, low quality lowres big face, low quality lowres long face, low quality lowres bad eyes, low quality lowres fused eyes poorly drawn eyes, low quality lowres extra eyes, low quality lowres malformed limbs, low quality lowres more than 2 nipples, low quality lowres missing nipples, low quality lowres different nipples, low quality lowres fused nipples, low quality lowres bad nipples, low quality lowres poorly drawn nipples, low quality lowres black nipples, low quality lowres colorful nipples, low quality lowres gross proportions, short arm, low quality lowres missing arms, low quality lowres missing thighs, low quality lowres missing calf, low quality lowres missing legs, low quality lowres mutation, low quality lowres duplicate, low quality lowres morbid, low quality lowres mutilated, low quality lowres poorly drawn hands, low quality lowres more than 1 left hand, low quality lowres more than 1 right hand, low quality lowres deformed, low quality lowres extra arms, low quality lowres extra thighs, low quality lowres more than 2 thighs, low quality lowres extra calf, low quality lowres fused calf, low quality lowres extra legs, low quality lowres bad knee, low quality lowres extra knee, low quality lowres more than 2 legs, low quality lowres bad tails, low quality lowres bad mouth, low quality lowres fused mouth, low quality lowres poorly drawn mouth, low quality lowres bad tongue, low quality lowres tongue within mouth, low quality lowres too long tongue, low quality lowres big mouth, low quality lowres cracked mouth, low quality lowres dirty face, low quality lowres dirty teeth, low quality lowres dirty pantie, low quality lowres fused pantie, low quality lowres poorly drawn pantie, low quality lowres fused cloth, low quality lowres poorly drawn cloth, low quality lowres bad pantie, low quality lowres yellow teeth, low quality lowres thick lips, low quality lowres bad asshole, low quality lowres poorly drawn asshole, low quality lowres fused asshole, low quality lowres missing asshole, low quality lowres bad anus, low quality lowres bad pussy, low quality lowres bad crotch, low quality lowres bad crotch seam, low quality lowres fused anus, low quality lowres fused pussy, low quality lowres fused crotch, low quality lowres poorly drawn crotch, low quality lowres fused seam, low quality lowres poorly drawn anus, low quality lowres poorly drawn pussy, low quality lowres poorly drawn crotch seam, low quality lowres bad thigh gap, low quality lowres missing thigh gap, low quality lowres fused thigh gap, low quality lowres liquid thigh gap, low quality lowres poorly drawn thigh gap, low quality lowres bad collarbone, low quality lowres fused collarbone, low quality lowres missing collarbone, low quality lowres liquid collarbone, low quality lowres strong girl, low quality lowres obesity, low quality lowres worst quality, low quality lowres low quality, low quality lowres normal quality, low quality lowres liquid tentacles, low quality lowres bad tentacles, low quality lowres poorly drawn tentacles, low quality lowres split tentacles, low quality lowres fused tentacles, low quality lowres missing clit, low quality lowres bad clit, low quality lowres fused clit, low quality lowres colorful clit, low quality lowres black clit, low quality lowres liquid clit, low quality lowres QR code, low quality lowres bar code, low quality lowres censored, low quality lowres safety panties, low quality lowres safety knickers, low quality lowres beard, low quality lowres furry, pony, low quality lowres pubic hair, low quality lowres mosaic, low quality lowres excrement, low quality lowres shit, low quality lowres futa, low quality lowres testis, low quality lowres lowres, low quality lowres terrible, low quality lowres dirty, low quality lowres feces, low quality lowres organs, low quality lowres fat, low quality lowres thick thighs, low quality lowres low resolution rough, low quality lowres pedophile, low quality lowres bestiality, low quality lowres parody, low quality lowres traditional media, low quality lowres koma, low quality lowres comic, low quality lowres scary, low quality lowres severe, low quality lowres insects, low quality lowres gross scars, low quality lowres twisted human body, low quality lowres irrational human body, low quality lowres sharp fingers, low quality lowres parts of the body out of common sense, low quality lowres murder, low quality lowres beheading, low quality lowres zombie, low quality lowres mummy, low quality lowres graffiti, low quality lowres unfinished picture, low quality lowres terrible quality, low quality lowres Coprophilia, low quality lowres muscular, low quality lowres bald, low quality lowres monk, low quality lowres wrinkly, low quality lowres simple background, low quality lowres realistic, low quality lowres old, low quality lowres scan, low quality lowres touhou, low quality lowres yaoi, low quality lowres gay, low quality lowres femboy, low quality lowres trap, low quality lowres pee, low quality lowres doujinshi, low quality lowres monochrome, low quality lowres meme, low quality lowres demon, low quality lowres monstrous creature, low quality lowres tentacle, low quality lowres self harm, low quality lowres vomit, low quality lowres suicide, low quality lowres death, low quality lowres corpse, low quality lowres bone, low quality lowres skeleton, low quality lowres fingers over 6, low quality lowres framed, low quality lowres historical picture, low quality lowres futanari, low quality lowres shemale, low quality lowres transgender, low quality lowres dick girl, low quality lowres flat breasts, low quality lowres degenerate ass, low quality lowres retro artstyle, low quality lowres anime screencap, low quality lowres stitched, low quality lowres pokemon, low quality lowres ryona, low quality lowres animal, low quality lowres male focus, low quality lowres nipple penetration, low quality lowres sonic (series), low quality lowres bondage, low quality lowres bdsm, low quality lowres 2D, low quality lowres 2D game, low quality lowres 2D game scene, low quality lowres 2D character, low quality lowres game cg, low quality lowres watercolor (medium), low quality lowres 2koma, low quality lowres interlocked fingers, low quality lowres gloves, low quality lowres nitroplus, low quality lowres grayscale, low quality lowres sketch, low quality lowres line drawing, low quality lowres gorilla, low quality lowres meat, low quality lowres gundam, low quality lowres multiple views, low quality lowres cut, low quality lowres concept art, low quality lowres reference sheet, low quality lowres turnaround, low quality lowres chart, low quality lowres comparison, low quality lowres artist progress, low quality lowres lineup, low quality lowres before and after, low quality lowres orc, low quality lowres tusks, low quality lowres goblin, low quality lowres kobold, low quality lowres pony, low quality lowres nsfw, low quality lowres Humpbacked, low quality lowres text error, low quality lowres extra digits, low quality lowres standard quality, low quality lowres large breasts, low quality lowres shadow, low quality lowres nude, low quality lowres artist name, low quality lowres skeleton girl, low quality lowres bad legs, low quality lowres missing fingers, low quality lowres extra digit, low quality lowres artifacts, low quality lowres bad body, low quality lowres optical illusion, low quality lowres Glasses, low quality lowres girl, low quality lowres women, low quality lowres more than 1 moon, low quality lowres Multi foot, low quality lowres Multifold, low quality lowres Multi fingering, low quality lowres colored sclera, low quality lowres monster girl, low quality lowres Black hands, low quality lowres The background is incoherent, low quality lowres abnormal eye proportion, low quality lowres Abnormal hands, low quality lowres abnormal legs, low quality lowres abnormal feet abnormal fingers, low quality lowres sharp face, low quality lowres tranny, low quality lowres mutated hands, low quality lowres extra limbs, low quality lowres too many fingers, low quality lowres unclear eyes, low quality lowres bad, low quality lowres mutated hand and finger, low quality lowres malformed mutated, low quality lowres broken limb, low quality lowres incorrect limb, low quality lowres fusion finger, low quality lowres lose finger, low quality lowres multiple finger, low quality lowres multiple digit, low quality lowres fusion hand, low quality lowres lose leg, low quality lowres fused leg, low quality lowres multiple leg, low quality lowres bad cameltoe, low quality lowres colorful cameltoe, low quality lowres low polygon 3D game, (over three finger(fingers excluding thumb):2), (fused anatomy), (bad anatomy(body)), (bad anatomy(hand)), (bad anatomy(finger)), (over four fingers(finger):2), (bad anatomy(arms)), (over two arms(body)), (bad anatomy(leg)), (over two legs(body)), (interrupted(body, arm, leg, finger, toe)), (bad anatomy(arm)), (bad detail(finger):1.2), (bad anatomy(fingers):1.2), (multiple(fingers):1.2), (bad anatomy(finger):1.2), (bad anatomy(fingers):1.2), (fused(fingers):1.2), (over four fingers(finger):2), (multiple(hands)), (multiple(arms)), (multiple(legs)), (over three toes(toes excluding big toe):2), (bad anatomy(foot)), (bad anatomy(toe)), (over four toes(toe):2), (bad detail(toe):1.2), (bad anatomy(toes):1.2), (multiple(toes):1.2), (bad anatomy(toe):1.2), (bad anatomy(toes):1.2), (fused(toes):1.2), (over four toes(toe):2), (multiple(feet))
Steps: 20, Sampler: DDIM, CFG scale: 5, Seed: 2276406054, Size: 512x768, Model hash: 925997e9, Clip skip: 2, AddNet Enabled: True, AddNet Module 1: LoRA, AddNet Model 1: Tokiame style v1 (lr 1e-4)(209f83a1), AddNet Weight 1: 1
>Dreambooth – выбор 24 Гб VRAM-бояр
>How much vram do you need for dreambooth
>>I think minimum is 10GB right now, but there might be repos down to 8GB already.
>might be
oh well...
>дримбут
Для него 8гб не хватит.
Ну тогда ему остается лишь терпетьлибо надеяться на рабочий колаб.
>Лора не работает сейчас
гиперсети и эмбединги?
Ебашу 3200 шагов(16 эпох 4 повторений) на Касен, чую что выйдет кал.
https://www.reddit.com/r/StableDiffusion/comments/xzbc2h/guide_for_dreambooth_with_8gb_vram_under_windows/ да не, чет валяется как обычно, наукоботы вместо того чтобы делать что-то стабильно работающее и везде бегут за мечтой на костылях
Устаревший кал
В чем я не прав? Ни у кого в треде не работает, плевать какая скорость
Бтв не вижу лоры на масюню в списке лор. А надо.
Антош, ты если хочешь сказать чего, то ты не стесняйся, говори.
Говорю: дальше будет хуже
Когда починят лору?
А ведь ещё совсем недавно будка прекрасно работала без шума и пыли и обучала локально на 12 гигах, ровно до того момента, как автоматик начал натягивать туда лору.
Когда когда?
А в чем проблема? Нейронка в открытом доступе, делай форк, отключай ненужное, бэкпорть нужное, обучай на датасете с гелбуры. Много шума непонятно из-за чего.
У нас буря в стакане. У кого проблемы - наступает на свой аутизм и откатывается на предыдущий коммит.
Говори, какой коммит рабочий.
Тут лору-то починить не могут, а ты про перепердоливание всей сетки
Покажи хоть одну рабочую лору на 0.4.0.
>А в чем проблема
На самом-то деле проблема скорее всего в новой версии КЛИПа. На форчонге ее понятно превратили в политическую, но клип обучен только на лайоне, и модели на нем похоже очень плохо дообучаются. По крайней мере, по отзывам мастодонтов. Иначе туда бы уже насовали этого нсвфа по самые помидоры. Ждем финальной WD1.4, там понятнее будет.
bedea62ff0ba3d3bf4bc9bb04c04ecbde880bc43
>ждем
Девиз раздела, после каждого обновления все ломается.
>Ждем финальной WD1.4
В чем смысл этого ожидания? Они же не меняют архитектуру, только датасет. Или я ошибаюсь?
Ну так не обновляйся
У них самый масштабный проект дообучения второй версии. Они могут поделиться, есть ли смысл вообще долбиться, или проще просто забить.
ненадо. смотри так.
>18 декабря
Тестил? В любом случае я чекинг устрою завтра.
А, ну насчет предсказаний я не эксперт, на кофейной гуще не гадаю. Я могу лишь то, что уже произошло, проанализировать.
Когда релизнулись первые публичные веса, это жмыхнуло довольно громко. В частности, очень громко вопили художники (отдельные крики слышно до сих пор) и моралфаги, потому что внезапно оно может генерить, хотя и хуевое, но NSFW, а также не очень одетых детей. Чтобы не как-то заглушить крики вокруг своей модели, чуваки которые это пилили попытались прикрыть жопу, убрав из датасета вопящих громче всего художников и добавив фильтр на NSFW.
Я бы сказал, главной ошибкой было то, что релиз первых весов был внезапным и резко поменял статус кво, поэтому появилась куча чуваков, которые обосрались и начали тянуть одеяло обратно.
Параллельно этому, другими чуваками тренились Waifu Diffusion и NAI. Несмотря на то, что эти модели куда более NSFW, всем в целом на них похуй, потому что они так не жмыхали, а наоборот оказались в тени той дискотеки, которая происходила с официальными весами.
Тут мы подходим к вопросу о том, насколько вообще важны релизы официальных весов. ИТТ все используют аниме-модели. Да и тренировать модель может не только лишь одна-единственная компания. Для этого нужны определенные ресурсы, конечно, но тут ситуация далеко не такая, как с DALL-E.
Я так и делаю, сижу на автоматике от 31 декабря, слыхал в новых версиях сломали хайрезфикссделали превью, которое замедляет скорость.
Сколько всего эпох будет?
Единственная рабочая аниме модель - nai от ЧАСТНОЙ компании, на наи все миксы современные основаны. Энтузиасты же сосут хрен с вайфукалом
> слыхал в новых версиях сломали хайрезфикс
Пиздят, вот пруф
Проблемы по началу были, но только у тех, кто пытался генерить по старым промптам, у которых соотношение сторон изображения first pass и highres fix не совпадало. Потом это пофиксили.
> сделали превью, которое замедляет скорость.
На пару секунд максимум, к тому его же можно отключить
>убрав из датасета вопящих громче всего художников
Никаких художников они, по факту, не убирали. Они сменили клип и перетренировали его с нуля на лайоне. В Лайоне то ли 28, то ли 16 работ Рутковского. Вот он и исчез. Предыдущий клип был натренирован на закрытом датасете, и там, походу, было овердохуя Рутковского, вот он и был. Феномен Рутковского - натурально аналог текстового эмбеддинга в масштабах всей модели.
Я не защищаю 2.0, если что. Это редкостное говнище. Просто оно не только художников не может промптить, оно не промптит вообще ничего, даже если любые персоналии убрать.
Думаю, давно пора брать подписочку у новелов, цензуры у их текстовой модели нет. Слишком много добра они сделали. Только оплатить не дают.
>На пару секунд максимум, к тому его же можно отключить
На 1 минуту из 4 на 4090, замерял лично.
другой анон
> самый масштабный проект дообучения второй версии
А не у Unstable Diffusion ли? Ничего не путаешь?
надо.
В треде работает лахта кохьи-автоматика, превью у них ничего не замедляет, 0.4.0 тренирует отлично, а новый хайрезфикс не поломал обратную совместимость. Тьфу блядь, шлюхи продажные.
Качество модели — это вопрос ресурсов и организованности. Вот, например, чуваки пилят распределенную треню: https://github.com/chavinlo/distributed-diffusion/. Вместо того, чтобы кричать, как все плохо, ты мог бы присоединиться к проекту, как-то им помочь.
Интересно получилось. То есть, по факту оно тренилось не на Рутковском, а на том, что его напоминает?
Я в /to/ постил свой член с ручкой в уретре. Могу повторить подвиг, более ни на что не способен.
Сука, кто-то специально заслал в тред агентов, чтобы мучить анонов.
Вопрос в том, почему это говно в релизе вообще оказалось по дефолту включено, когда нищуки свои 20 картинок генерят по полчаса.
>А не у Unstable Diffusion ли? Ничего не путаешь?
Могу, конечно, и путать. Но про Unstable у меня сложилось впечатление, что это развод лохов на деньги, они могут вообще ничего не тренировать и свалить с баблом на теплый остров на неделю, и я выкинул его из инфополя. Вдшники по крайней мере не только обещают, но и делают. Хотя и местами смешно получается.
Интересно было бы узнать, как наи составляли датасет и вообще тренировали свои модели, и почему они это делать не продолжают. В вд походу просто всё нахуй с бур тянут, без разбора, ну и как видно, такой подход не очень подходит.
Да нет, это просто ты рукожоп-неосилятор
Произошёл автоматик
Это я чтоль мерджу коммиты, провалившие тесты, и выпиливаю сами тесты, когда они мешают?
>рукожоп
Покажи как правильно тренировать на 0.4.0, умник бля.
Вот, помоги анону добиться результатов, которые были раньше:
https://github.com/kohya-ss/sd-scripts/issues/98
О "лучше" пока речи даже не идет.
Автолахта отработала, +15 генераций вне очереди
>sd_upscale
Как и любой гений - безумен и не может ясно выражать свои мысли
Ты вникал в суть этих тестов и почему они фейлились?
Что ты несешь вообще? Очереди у него какие-то, охуеть.
>Отдельным выводом из этого следует, что можно радикально ускорить апскейл, уменьшив число кусочков, на которое будет дробиться картинка. Т.е. добавив размер полей (в сд_апскейле по-умолчанию стоит 64 пиксела), мы сможем уменьшить число генераций с 9 (при размерах 1536х1152) до 4 (при размерах 1600х1216) и, соответственно, уменьшить в два раза необходимое время.
Не пойму, 64 к width и height добавить?
Нет, мне хватает того, что я до сих пор пикчу через раз не могу в img2img закинуть, получая плашку error вместо интерфейса инпеинта. Самая боль? Убиваешь плашку в меню разработчика - картинка и интерфейс на месте.
Сломать. Руки. Обе. Сложными переломами.
Чел, ты просто рукожоп. НА последнем коммите автоматика и все работает..
У автоматика код — то еще говно. Я в последнее время на https://github.com/huggingface/diffusers сижу, но там GUI нет, только скрипты. Зато куда стабильнее работает, и со временем не разваливается, а только лучше ставновится.
Эта проблема была при переезде на gradio версии 3.16.2, и её в тот же день пофиксили.
Чутка не понял по поводу лоры
На выходе после тренинга у меня получается модель весом в 2 гига в то время как у анончиков лоры весят по 200-300мб и они их используют как гиперсеть
Как сделать так же
На выходе после тренинга у меня получается модель весом в 2 гига в то время как у анончиков лоры весят по 200-300мб и они их используют как гиперсеть
Как сделать так же
network_dim сколько?
Вопрос на миллион, где находится, во время генерации, ВАЕ и модель?
Ну т.е. оперативка или видюха.
В VRAM
Вкусная лорка на Зеро из Drakengard 3:
https://mega.nz/folder/NmxECaiK#FJbhQ9bBKfTgZBPzycGbIQ
https://mega.nz/folder/NmxECaiK#FJbhQ9bBKfTgZBPzycGbIQ
в компьютере
Тоже попробовал их, когда тренировал лоры на репошке Клона Симо. Тоже понравилось. Но части фич автоматика не хватает, они вроде как и прикручиваются в диффузерах, но пердолиться бывает лень.
Отлично, есть ли способ запиздячить её в общую память графического процессора, чтоб было больше простора для апскейла или я тупой гуманитарий, который не шарит и это так не работает?
На 0.4.0 хоть тренилась?
в голос. весь гайд так-же написан. но ничего, скоро научится
Это что...
VRAM это и есть память графического процессора.
Если ты имеешь ввиду засунуть модель в RAM — то это так не работает.
Можешь, конечно, генерить на CPU, но скорость будет в пару сотен раз медленнее.
Последний коммит кохии (сегодняшний), который вызвал у части из нас противоречивые чувства
Версия релиза мокрописи sd-scripts, у тебя не она, т.к. от 20 декабря у тебя какой то коммит
Ну то есть вчерашний, конечно
У него не это нерабочее говно, в соседнем треде выяснили
Красава. Можешь запиндюрить в репо https://rentry.org/2chAI_LoRA пасскод 2ch
Мне лень, я изучаю питон
я к тому, что меня дико накаляет, что в генерации Общая память графического процессора никак не участвует. Вот я про неё, а не сам VRAM.
> Ошибка: В сообщении присутствует слово из спам листа.
Я в основном для Dreambooth использую, в целом хватает. Немного подправил у себя скрипт, чтобы он читал промпты из txt-файлов рядом с картинками, и просто периодически подтягиваю изменения с репозитория.
Кстати, они сегодня походу еще уменьшили потребление VRAM для Dreambooth, но я еще не пробовал последнюю версию.
Извиняюсь за беспокойство и благодарю за наводку
Нашел колаб в котором есть настройка network dim
Скинь ссылку
Это другое лол
Общая память графического процессора — это надмогз с shared video memory. По сути это виртуальная видео память, а если точнее объем памяти, который может теоретически выделится из ОЗУ на нужды графического процессора (встроенного или дискретного, винде похуй). Но в любом случае CUDA не может использовать эту память.
Самый нормальный этот
Все остальное хуита
Все остальное хуита
Пичальбидаотчаянье, у меня нет лишних 150к на йоба видюху.
Тренить можно на 3060, с оптимизациями оно влезает в 12гб.
КОМПЬЮТЕР ПРОБОВАЛИ ПЕРЕЗАГРУЖАТЬ???? НУ ТОГДА НЕ ЗНАЮ, У НАС ВСЕ РАБОТАЕТ!
У меня 2060
Я о том, что 3060 стоит куда дешевле, чем упомянутая тобой йоба видюха за 150к.
У меня 1060
В твоем можно попробовать просто передать туда --network_dim=128 в форме Additional parameters
У меня 960
Вы по убывающей идете что ли? Мне теперь интересно, насколько далеко вы можете зайти.
У меня старый планшет сяомяо, ему лет 7 уже. Шах и мат.
Вкатываюсь в гей шлюхи, чтобы купить 3060, сеймы в треде есть?
Ну тренируй в колабе тогда, разрешаю.
Ниже только колаб, хотя с lowvram можно и на 650 запустить
У меня не запускается LDSR апскейлер, пишет такую простыню:
Traceback (most recent call last):
File "C:\Program Files\Python310\lib\urllib\request.py", line 1348, in do_open
h.request(req.get_method(), req.selector, req.data, headers,
File "C:\Program Files\Python310\lib\http\client.py", line 1282, in request
self._send_request(method, url, body, headers, encode_chunked)
File "C:\Program Files\Python310\lib\http\client.py", line 1328, in _send_request
self.endheaders(body, encode_chunked=encode_chunked)
File "C:\Program Files\Python310\lib\http\client.py", line 1277, in endheaders
self._send_output(message_body, encode_chunked=encode_chunked)
File "C:\Program Files\Python310\lib\http\client.py", line 1037, in _send_output
self.send(msg)
File "C:\Program Files\Python310\lib\http\client.py", line 975, in send
self.connect()
File "C:\Program Files\Python310\lib\http\client.py", line 1454, in connect
self.sock = self._context.wrap_socket(self.sock,
File "C:\Program Files\Python310\lib\ssl.py", line 513, in wrap_socket
return self.sslsocket_class._create(
File "C:\Program Files\Python310\lib\ssl.py", line 1071, in _create
self.do_handshake()
File "C:\Program Files\Python310\lib\ssl.py", line 1342, in do_handshake
self._sslobj.do_handshake()
ssl.SSLCertVerificationError: [SSL: CERTIFICATE_VERIFY_FAILED] certificate verify failed: self signed certificate in certificate chain (_ssl.c:997)
During handling of the above exception, another exception occurred:
Traceback (most recent call last):
File "D:\Neural network\stable-diffusion-webui\modules\call_queue.py", line 56, in f
res = list(func(args, kwargs))
File "D:\Neural network\stable-diffusion-webui\modules\call_queue.py", line 37, in f
res = func(args, kwargs)
File "D:\Neural network\stable-diffusion-webui\modules\txt2img.py", line 52, in txt2img
processed = process_images(p)
File "D:\Neural network\stable-diffusion-webui\modules\processing.py", line 476, in process_images
res = process_images_inner(p)
File "D:\Neural network\stable-diffusion-webui\modules\processing.py", line 614, in process_images_inner
samples_ddim = p.sample(conditioning=c, unconditional_conditioning=uc, seeds=seeds, subseeds=subseeds, subseed_strength=p.subseed_strength, prompts=prompts)
File "D:\Neural network\stable-diffusion-webui\modules\processing.py", line 853, in sample
image = images.resize_image(0, image, target_width, target_height, upscaler_name=self.hr_upscaler)
File "D:\Neural network\stable-diffusion-webui\modules\images.py", line 269, in resize_image
res = resize(im, width, height)
File "D:\Neural network\stable-diffusion-webui\modules\images.py", line 261, in resize
im = upscaler.scaler.upscale(im, scale, upscaler.data_path)
File "D:\Neural network\stable-diffusion-webui\modules\upscaler.py", line 64, in upscale
img = self.do_upscale(img, selected_model)
File "D:\Neural network\stable-diffusion-webui\extensions-builtin\LDSR\scripts\ldsr_model.py", line 54, in do_upscale
ldsr = self.load_model(path)
File "D:\Neural network\stable-diffusion-webui\extensions-builtin\LDSR\scripts\ldsr_model.py", line 40, in load_model
model = load_file_from_url(url=self.model_url, model_dir=self.model_path,
File "D:\Neural network\stable-diffusion-webui\venv\lib\site-packages\basicsr\utils\download_util.py", line 98, in load_file_from_url
download_url_to_file(url, cached_file, hash_prefix=None, progress=progress)
File "D:\Neural network\stable-diffusion-webui\venv\lib\site-packages\torch\hub.py", line 593, in download_url_to_file
u = urlopen(req)
File "C:\Program Files\Python310\lib\urllib\request.py", line 216, in urlopen
return opener.open(url, data, timeout)
File "C:\Program Files\Python310\lib\urllib\request.py", line 519, in open
response = self._open(req, data)
File "C:\Program Files\Python310\lib\urllib\request.py", line 536, in _open
result = self._call_chain(self.handle_open, protocol, protocol +
File "C:\Program Files\Python310\lib\urllib\request.py", line 496, in _call_chain
result = func(*args)
File "C:\Program Files\Python310\lib\urllib\request.py", line 1391, in https_open
return self.do_open(http.client.HTTPSConnection, req,
File "C:\Program Files\Python310\lib\urllib\request.py", line 1351, in do_open
raise URLError(err)
urllib.error.URLError: <urlopen error [SSL: CERTIFICATE_VERIFY_FAILED] certificate verify failed: self signed certificate in certificate chain (_ssl.c:997)>
Что ему надо, я тупой.
Traceback (most recent call last):
File "C:\Program Files\Python310\lib\urllib\request.py", line 1348, in do_open
h.request(req.get_method(), req.selector, req.data, headers,
File "C:\Program Files\Python310\lib\http\client.py", line 1282, in request
self._send_request(method, url, body, headers, encode_chunked)
File "C:\Program Files\Python310\lib\http\client.py", line 1328, in _send_request
self.endheaders(body, encode_chunked=encode_chunked)
File "C:\Program Files\Python310\lib\http\client.py", line 1277, in endheaders
self._send_output(message_body, encode_chunked=encode_chunked)
File "C:\Program Files\Python310\lib\http\client.py", line 1037, in _send_output
self.send(msg)
File "C:\Program Files\Python310\lib\http\client.py", line 975, in send
self.connect()
File "C:\Program Files\Python310\lib\http\client.py", line 1454, in connect
self.sock = self._context.wrap_socket(self.sock,
File "C:\Program Files\Python310\lib\ssl.py", line 513, in wrap_socket
return self.sslsocket_class._create(
File "C:\Program Files\Python310\lib\ssl.py", line 1071, in _create
self.do_handshake()
File "C:\Program Files\Python310\lib\ssl.py", line 1342, in do_handshake
self._sslobj.do_handshake()
ssl.SSLCertVerificationError: [SSL: CERTIFICATE_VERIFY_FAILED] certificate verify failed: self signed certificate in certificate chain (_ssl.c:997)
During handling of the above exception, another exception occurred:
Traceback (most recent call last):
File "D:\Neural network\stable-diffusion-webui\modules\call_queue.py", line 56, in f
res = list(func(args, kwargs))
File "D:\Neural network\stable-diffusion-webui\modules\call_queue.py", line 37, in f
res = func(args, kwargs)
File "D:\Neural network\stable-diffusion-webui\modules\txt2img.py", line 52, in txt2img
processed = process_images(p)
File "D:\Neural network\stable-diffusion-webui\modules\processing.py", line 476, in process_images
res = process_images_inner(p)
File "D:\Neural network\stable-diffusion-webui\modules\processing.py", line 614, in process_images_inner
samples_ddim = p.sample(conditioning=c, unconditional_conditioning=uc, seeds=seeds, subseeds=subseeds, subseed_strength=p.subseed_strength, prompts=prompts)
File "D:\Neural network\stable-diffusion-webui\modules\processing.py", line 853, in sample
image = images.resize_image(0, image, target_width, target_height, upscaler_name=self.hr_upscaler)
File "D:\Neural network\stable-diffusion-webui\modules\images.py", line 269, in resize_image
res = resize(im, width, height)
File "D:\Neural network\stable-diffusion-webui\modules\images.py", line 261, in resize
im = upscaler.scaler.upscale(im, scale, upscaler.data_path)
File "D:\Neural network\stable-diffusion-webui\modules\upscaler.py", line 64, in upscale
img = self.do_upscale(img, selected_model)
File "D:\Neural network\stable-diffusion-webui\extensions-builtin\LDSR\scripts\ldsr_model.py", line 54, in do_upscale
ldsr = self.load_model(path)
File "D:\Neural network\stable-diffusion-webui\extensions-builtin\LDSR\scripts\ldsr_model.py", line 40, in load_model
model = load_file_from_url(url=self.model_url, model_dir=self.model_path,
File "D:\Neural network\stable-diffusion-webui\venv\lib\site-packages\basicsr\utils\download_util.py", line 98, in load_file_from_url
download_url_to_file(url, cached_file, hash_prefix=None, progress=progress)
File "D:\Neural network\stable-diffusion-webui\venv\lib\site-packages\torch\hub.py", line 593, in download_url_to_file
u = urlopen(req)
File "C:\Program Files\Python310\lib\urllib\request.py", line 216, in urlopen
return opener.open(url, data, timeout)
File "C:\Program Files\Python310\lib\urllib\request.py", line 519, in open
response = self._open(req, data)
File "C:\Program Files\Python310\lib\urllib\request.py", line 536, in _open
result = self._call_chain(self.handle_open, protocol, protocol +
File "C:\Program Files\Python310\lib\urllib\request.py", line 496, in _call_chain
result = func(*args)
File "C:\Program Files\Python310\lib\urllib\request.py", line 1391, in https_open
return self.do_open(http.client.HTTPSConnection, req,
File "C:\Program Files\Python310\lib\urllib\request.py", line 1351, in do_open
raise URLError(err)
urllib.error.URLError: <urlopen error [SSL: CERTIFICATE_VERIFY_FAILED] certificate verify failed: self signed certificate in certificate chain (_ssl.c:997)>
Что ему надо, я тупой.
Не может скачать модель LDSR из-за РКН
Да, технически, можно запустить и на проце, если ты не боишься подождать.
Я на пейперспесе, там тоже говно мамонта с 8гб. Но мне норм, запускаю - и пусть себе печется. Колаб нужно мониторить, много эпох там не натренишь.
660
У меня 660
У меня 3080, но я периодически запускаю тренировку в колабе, чтобы не кипятить карточку и иметь возможность сразу смотреть оттрениные эпохи
Лолшто, у меня прокси стоит по умолчанию в винде, какой РКН.
Скачай руками и закинь куда просит. Там два файла надо будет дотащить.
Cлабаки, гигавладелец 9400
Понял-принял, ссылка благо есть в батнике. И чтоб не спамить, где ещё можно апскейлы поскачивать, чисто для интереса, а то чет тут нет отдельного раздела по ним.
М, я думал про паперспейс, но так и не смог понять, какие у них бесплатно доступны видеокарты. И вроде они требуют кредитку для регистрации? Как с этим решил вопрос?
Благодарю
У них ахахах Квадро М4000, мне кажется, им их бесплатно со склада отдали, чтобы не утилизировать. Они не пашут вообще, но для неспешного выпекания лор - норм.
И нет, кредитка для бесплатного тира не нужна, нужен только сотовый.
Анон, если це твоя лора, а можешь датасет еще скинуть пожалуйста?
Но он литералли по этой ссылке.
А сколько повторений концепта лучше?
Сколько вы ставите, аноны?
Сколько вы ставите, аноны?
А, точно. Иннос ослепил меня.
Пойду выпилюсь нахуй
Круто.
А сделайте эту плиз
https://drive.google.com/file/d/1374wdeS1t9gEJe-g59gNsH6cl6zRm3O9/view?usp=sharing
Это Имари. Только к ней нужны еще теги, позже займусь и залью с тегами, ну или сами сгенерируете. Если мало пикч, могу еще нащелкать скринов из адаптации.
Не та ссылка, но тоже сгодится
Почему никто не постит свои лоры, хотя все их так старательно обучают? В этом треде ни одной ссылки ни на одну лору нет.
У нас лавочка накрылась
пасаны хай fx 5500 amd sempron 2600+ есть шансы
Так есть же ссылки.
Я, например, обучаю не слишком анимешные лоры, которые нахуй никому не нужны и не интересны, судя по списку уже загруженного и вообще в целом по активности на доске. Тут тусовка любителей китайских мультиков, вон они пусть и шарят.
Сейм
двачую. лупоглазые всех отовсюду повыгоняли, путь теперь всё сами делают.
А мы-то тут при чем? Лупоглазые в соседнем треде.
Семёныч, успокойся.
Покажи, я не нашел. В прошлом треде 5 как минимум, в этом ни одной.
Кринж
>которые нахуй никому не нужны и не интересны
Тыскозал?
>А мы-то тут при чем? Лупоглазые в соседнем треде.
Да, сидеть сразу во всех тредах невозможно.
где пруф что не лупоглазый?
А как этим пользоваться? Да, я тупой.
Сразу видно: человек за кобольдом не сидел.
У тебя не получится нихуя, понимаешь? Надо заниматься лет двадцать, ёпта
>Я, например, обучаю не слишком анимешные лоры
И я. Я вообще на Хассане.
Хз, обучал лору с теликами, все норм;)
Аноны, вы чего. Делитесь с народом! Тут есть кому оценить выши труды.
Да вот только дата сет наберешь, только на утро проснешься, вроде все +\- сносно, но заходишь в тред и понимаешь, что ты настройки не те поставил, все не так и все не то. Поэтому, во всяком случае я так думаю, что сейчас переделаю, все ошибки учел, сейчас все будет лучше на голову, а в итоге только хуже выходит.
Я так уже делал одну гиперсеть, которую залил в открытый доступ, а потом понял, что она бесполезная и без нее модели могут тоже самое рисовать. Кринж.
Ну и в целом я ебнутый, делаю одно, бросаю, начинаю другое.
Ориентируюсь как у других. Некоторые забугорные совсем ебанулись, ставят по 60 на 10-30 изображений. Я пробовал и стили, и персонажей и пока мне хватало 8 повторений и 8 эпох.
Нихрена не понятно(
что?
На какой версии?
Обучай в колабе
колаб ебнутый какойто
да норм вроде
Так я прально понимаю, что все лоры сгенерированые sd-scripts версии менее чем 0.4 нихуя не работали до сего момента?
Наоборот
работали. просто додики, каждый день обновляющие автоматик кричат громе всех.
Через дополнение от узкоглазого работали
Но ускоглазый тоже сломал свою хуйню?
Процессором можешь со скоростью улитки пилить.
узкоглазый сломал обучалку
Походу он, когда делал поддержку 0.4.0, сломал поддержку предыдущих версий. Теперь починил.
Сегодня кто-то натренировал в /h форчка. Альфа сверху вниз 128, 64, 32, 1. е5 е7 - эпохи, в каждой эпохе около 1000 шагов.
Аноны, а почему в аноновскх лорах метадата пик1 а в моих пик2? Там генерят чем то другим?
Или вся доп хрен потому что я вае подсасываю?
Лёрнинг рейт-то какой бля?
>Альфа сверху вниз 128, 64, 32, 1
Чудеса науки.
А у меня nan на всем, кроме 1.
ДАТАСЕТ НЕ ТОТ
Лорка на главного антагониста евы:
https://mega.nz/folder/tiY1SQ6Y#hJZLoK51Zt4k-RiArwQ1dQ
https://mega.nz/folder/tiY1SQ6Y#hJZLoK51Zt4k-RiArwQ1dQ
Лора, которую мы заслужили.
Гитпульнулся на самые распоследние версии всего что было, перестали отваливаться обученные новой версией скрипта лорки, старые тоже работают, но плачутся в сосноль что в них отсутствует альфа и будет на что-то там заменена. Только что проверил - как минимум одна свежеобученная лора подключилась и работает, и результат вроде даже лучше старых, но надо конечно статистически проверять.
Забывает ли модель при обучении через dreambooth старые вещи, которые касаются новой лишь опосредованно? Если да, то как? Например, модель знает персонажа A, как определить, что при обучении модели персонажем B модель забудет персонажа A? Или она может забыть что-то другое? Можно ли вообще как-то измерять ёмкость модели?
Вкратце: если тренишь лицо человека, остальные начинают быть похожими на него. Можешь погуглить dreambooth catastrophic forgetting. Еще можешь саму статью про Dreambooth почитать: https://arxiv.org/pdf/2208.12242.pdf (ищи там "forget").
Dreambooth вообще был создан именно для того, чтобы уменьшить этот эффект, но убрать его полностью этот метод тоже не может.
Алисы то релиз когда? Вчера уже вроде годноту кидал обфапался там уже небось
Те, кто тренируют — дрочат параметры трени, а не фапают. До фапа обычно дело не доходит.
Слушайте, парни, у которых loss уходит в nan, вы используете xformers? У меня последние ее версии на 3060 в Dreambooth тоже nan'ы вызывают. В частности, это 0.0.16 версии xformers и некоторые 0.0.15.
Лора на бабку-админа:
https://mega.nz/folder/ZiBQQYSb#-qitW7dbFKqlZKKIEkC0yw
https://mega.nz/folder/ZiBQQYSb#-qitW7dbFKqlZKKIEkC0yw
На последних эпохах начинают проёбываться задники, особенно с хайрезфиксом. Пробовал снижать количество повторений, но это как-то не особо спасает ситуацию. Помогает снижение веса модели, но тогда и перс хуже прорабатывается. Может быть это вызвано тем, что в датасете у многих пикч простой фон и соответственно прописан тег simpled background?
>Может быть это вызвано тем, что в датасете у многих пикч простой фон
Да.
>и соответственно прописан тег simpled background?
А вот это наоборот хорошо. Так ты модели даешь понять, что простой фон не связан с твоим персонажем или другими тегами, и если ты не будешь указывать этот тег при генерации, то будет больше шансов, что фон будет интереснее.
В идеале, тебе бы в датасет добавить побольше картинок с другими фонами. Если таких нет, попробуй хотя бы с другими персонажами картинок насыпать с интересным фоном (тегай тогда их соответственно, что основного персонажа там нет).
Еще можешь попробовать при генерации описать фон сам, типа outdoors sky cloud там.
>outdoors sky cloud
Точнее, outdoors, sky, cloud. Ну, как обычно всё.
Я пытался найти рабочую версию, заебался и откатился на торч 1.13 и иксформерсы 0.0.14, которые ставятся сейчас искаропки вроде бы.
Ебать ты вывалил, я статью и сам нашел бы. Ну, видимо придется читать, раз никто не знает или не хочет говорить.
>Dreambooth вообще был создан именно для того, чтобы уменьшить этот эффект
А какие вообще есть ещё методы обучения моделей для сд, лол? Кроме очевидной лоры.
> Ты бля делиться будешь, шоха
Штош, вот. Это лучший вариант, который получился вроде
Вызывается по тегу shoha, но желательно что бы еще car присутствовал. Обучалось на AbyssOrangeMix2_nsfw
Выхлоп нормального так себе, если надо что-то кроме шохи еще сгенерить, я заебался и больше с ней пердолиться не буду
https://mega.nz/folder/fAFizDRQ#4LmNY5qDNdVpPWkFAp_9sQ
>Те, кто тренируют — дрочат параметры трени, а не фапают
Этот прав. Я смотрел как оно работает и все еще не достаточно доволен. Но лору выкачу. Завтра выложу на хаггинфейс, надо картиночек наделать.
Вот грид с промтом из теггера со старого арта
Где датасет?
Пара вопросов про тренировку есть:
1) Нужно ли зеркалить датасет, увеличивая количество пикч вдвое, помню раньше делалось что-то подобно для тренировок?
2) Изменение веса тега в тхт файлах лучше не использовать?
3) BF16 - что это и для чего использовать? Алсо вроде видел какое-то расширение для перегона в этот формат, напомните название?
4) keep_tokens and shuffle_caption. Понял что, если нужно засунуть какой-то новый общий концепт, то лучше защитить первые несколько токенов от решафла во время тренировки, эти токены можно достоверно проверить через токенайзер автоматика? Именно это число вписывать в keep_tokens?
5) Дальше начинается, как все базовые параметры станут понятны, просто дрочь циферок для подбора правильных значений для какого-то конкретного датасета для лучших результатов выхлопа?
1) Нужно ли зеркалить датасет, увеличивая количество пикч вдвое, помню раньше делалось что-то подобно для тренировок?
2) Изменение веса тега в тхт файлах лучше не использовать?
3) BF16 - что это и для чего использовать? Алсо вроде видел какое-то расширение для перегона в этот формат, напомните название?
4) keep_tokens and shuffle_caption. Понял что, если нужно засунуть какой-то новый общий концепт, то лучше защитить первые несколько токенов от решафла во время тренировки, эти токены можно достоверно проверить через токенайзер автоматика? Именно это число вписывать в keep_tokens?
5) Дальше начинается, как все базовые параметры станут понятны, просто дрочь циферок для подбора правильных значений для какого-то конкретного датасета для лучших результатов выхлопа?
> Где датасет?
От этой версии проебан за давностью изменений
>Нужно ли зеркалить датасет, увеличивая количество пикч вдвое, помню раньше делалось что-то подобно для тренировок?
Вроде как во всех уважающих себя способах тренировки уже есть как опция встроенная.
>Изменение веса тега в тхт файлах лучше не использовать?
Даже не уверен, что оно там работает.
>BF16 - что это и для чего использовать?
Типа чуть лучше работает, чем FP16, если поддерживается. Но это не точно.
>5)
Да.
Отправляем Рюкиши на пенсию.
> зеркалить датасет
В sd скрипте это какой параметр, кстати?
> 4
Я этим задавался выше по треду. Уже протестировал и похоже что нет, как-то по другому надо. Пишу свой токен в негатив, а оно вообще никак картинку не меняет, точно такая же пикча выходит на одном сиде. Но один ли хрен, оно так и так работает.
В sd скрипте это какой параметр, кстати?
> 4
Я этим задавался выше по треду. Уже протестировал и похоже что нет, как-то по другому надо. Пишу свой токен в негатив, а оно вообще никак картинку не меняет, точно такая же пикча выходит на одном сиде. Но один ли хрен, оно так и так работает.
> В sd скрипте это какой параметр, кстати?
Не знаю, я этот датасет ещё давно делал во встроенной вкладке train, там можно выбрать создание отзеркаленных пикч
> Я этим задавался выше по треду. Уже протестировал и похоже что нет, как-то по другому надо. Пишу свой токен в негатив, а оно вообще никак картинку не меняет, точно такая же пикча выходит на одном сиде. Но один ли хрен, оно так и так работает.
А у тебя случайно не случилось "This one looks brighter!" или обновление от кохуи и автоматика? Где кстати пост, тыкни меня туда
> Вроде как во всех уважающих себя способах тренировки уже есть как опция встроенная.
Интересно стоит ли её юзать, побродил по датасетам других анонов, в рофле нашёл флипы, но там и пикч было мало, всего 10х2 с флипами, впринципе у меня тоже очередной "рофл", так что думаю оставлю
> Типа чуть лучше работает, чем FP16, если поддерживается. Но это не точно.
Каким образом?
Лол. При применении двух лор, телик начал отрисовываться ровнее и больше похож на анимешный чем раньше.
Почему может не работать скрипт для тренировки лоры?
Пикрил просто сжирает всю возможную системную память и ничего не делает, если немного памяти забить чем-нибудь типо браузера, начинает валиться сразу после запуска с рандомными еррорами, то мемориеррор, то файл подкачки на 16гб слишком маленький, то тензорфлоу не может загрузить.
Версия скрипта эта: https://github.com/anon-1337/LoRA-scripts/tree/6d915ba67169c383963ac0a181263af355899277
Версия сд-скриптс эта: https://github.com/kohya-ss/sd-scripts/tree/cae42728aba035a7ac305a40c75954530c3c3444
Пикрил просто сжирает всю возможную системную память и ничего не делает, если немного памяти забить чем-нибудь типо браузера, начинает валиться сразу после запуска с рандомными еррорами, то мемориеррор, то файл подкачки на 16гб слишком маленький, то тензорфлоу не может загрузить.
Версия скрипта эта: https://github.com/anon-1337/LoRA-scripts/tree/6d915ba67169c383963ac0a181263af355899277
Версия сд-скриптс эта: https://github.com/kohya-ss/sd-scripts/tree/cae42728aba035a7ac305a40c75954530c3c3444
Мерджи это зло, осталось понять, в каких пропорциях это замешивать, что бы получилось годно, а не каша.
Вопрос на миллион, есть ли плагин, который в мердж добавляет только вычитание? Чтоб иметь только веса того, что натренил автор, без весов оригинальной модели, на которой тренилось все.
Блять, быстрее бы отпуск, нет времени этим заниматься.
Если мод посчитает нужным это удалить, то я не против, а то чет не то полезло, но как пример сойдет
Если мод посчитает нужным это удалить, то я не против, а то чет не то полезло, но как пример сойдет
Что эти картинки должны иллюстрировать?
Оттренил embedding на стримерше.
Использовал кропы скриншотов 15 с ее стрима, выделил только лицо, на всякий случай указал в промпте процессинга что у нее пирсинг есть, поэтому итоговый эмбед успешно исключил его. Интересно, как успешно ембед может запомнить положение пирсинга на лице? Так или иначе я побоялся его не указывать в промпте на процессед.
Правда лицо почему-то получилось слишком широким, приходится посредством промпта делать (((thin face))) и добавлять также татухи. Может из-за того что я захватил слишком много кадров где она поворачивает свое лицо.
Использовал кропы скриншотов 15 с ее стрима, выделил только лицо, на всякий случай указал в промпте процессинга что у нее пирсинг есть, поэтому итоговый эмбед успешно исключил его. Интересно, как успешно ембед может запомнить положение пирсинга на лице? Так или иначе я побоялся его не указывать в промпте на процессед.
Правда лицо почему-то получилось слишком широким, приходится посредством промпта делать (((thin face))) и добавлять также татухи. Может из-за того что я захватил слишком много кадров где она поворачивает свое лицо.
Степень мерджа.
не понял
>3дкал
>стримерша
в дедотред газуй, куколд
Пример успешного обучения лоры не на тян/стиль. Можно начинать тренить на оружие/метлы/здания/корабли/самолеты.
А не вот этот вот кал.
Я заметил, что многие миксы используют часто одинаковые модели для миксов, а потом уже доводят их до ума. Есть список моделей с их особенностями, ради чего их пихают в миксы? Я думаю в шапке это бы понадобилось.
Ребятки. Скоро перекат. Подредактировал шапку немного: добавил краткое описание того, что обсуждается в треде, а также защиту от вахтёра(-ов). +кучу сылок на форчонг с гайдами, лорами и т.д.
https://rentry.org/ex947
https://rentry.org/ex947
https://rentry.org/ex947
Гайд по кручению слоёв моделей до сих пор пустой, если кто захочет взяться пароль 2ch
> Есть список моделей с их особенностями
Вряд ли такое есть, это скорее просто устоявшиеся "стандарты качества", никто ведь не хочет пихать ноунейм говно в свой микс. Просто рабочие варианты, проверенные на большом количестве миксов
https://rentry.org/ex947
https://rentry.org/ex947
https://rentry.org/ex947
Гайд по кручению слоёв моделей до сих пор пустой, если кто захочет взяться пароль 2ch
> Есть список моделей с их особенностями
Вряд ли такое есть, это скорее просто устоявшиеся "стандарты качества", никто ведь не хочет пихать ноунейм говно в свой микс. Просто рабочие варианты, проверенные на большом количестве миксов
схуяли мой пост с лоркой потёрли?
0.4.0 нашел как заставить работать?
Эх, я надеялся, что до меня уже прошёлся любознателбный анон и составил список. Придётся самому с этим ебать я, а времени нет.
Учите хорошему лупоглазому аниме, нехорошему нелупоглазому неаниме не учите.
Сейчас обкатываю разные варианты, типа не пассать альфу в аргументы раз она по дефолту 1 + сохранять во float а не в fp16 + разные lr
0.4.0 ТРЕНИТ, но у меня ошибка в расширении узкоглазого когда пытаюсь эти нетворки протестировать
Поставил save_precision = float и скорость упала в ~2.5. Пиздец. Охуенное решение проблемы, кохъявыблядок.
> сохранять во float а не в fp16
Нахуя?
Есть. Называется extract loras from models, уже находится в кохийном sd_scripts/networks. Если обида на Кохию сильна, такой же есть у клона Симо.
Ты блять, автоматик забыл закрыть. Извиняюсь, кохъявыблядок.
Первое изображение в шапке, блять
Потому что в расширении какая-то ошибка с числами. Мне лень разбираться, вот и поставил флоат. Авось.
Но fp16 это и есть float point, лол
Есть типа fp16 и float отдельно. Значит float это fp32. Яскозал.
>Технотред №2
анимэ сюда
Из головы:
Наи - базовая аниме. Anything - китаемикс предположительно на ее основе
Elysium, Instagram Cafe - ради общей анатомии/рук, добавляет вот этой вот тридешности всяким апельсиномиксам. Раньше вместо Elysium была F222
Прономодели: gape, smirking face, rule34 - для прона.
Вообще-то годнота, если учесть, что это только эмбеддинг. Но как выглядит сама стримерша и какого качества был датасет, скинь один пример?
Очень даже хорошие. Мне б такие
Ага, только лора судя по результатам переобучилась
Загитпулил автоматика и все сети что не работали начали работать, причём пользуюсь расширением китайца. Такие дела. У меня 0.4.0 работает.
Расскажи для тупых, как график лосей визуализировать.
->
И действительно, как и сказал китаец пока лучшая сетка с альфой 1, Димой 128 получилась именно на lr 1e-3 (unet = TE)
И получается кстати ну просто охуенно. Возможно плацебо, но имхо лучше чем раньше
И это всего лишь 575 шагов, 18 минут на лору
Возможно, мать китайца я не ебал. Но однозначно ебал мать автоматика.
И это всего лишь 575 шагов, 18 минут на лору
Возможно, мать китайца я не ебал. Но однозначно ебал мать автоматика.
Это learning_rate на 1е-3, а unet_lr ставить такое же как text_encoder_lr?
Просто ставь лр равным 1е-3, а унет и ТЕ оставляй равными основному лр. Как я выяснил есть только два лернинг рейта, унет и ТЕ, а самый первый лр просто отвечает за значения двух предыдущих, в случае если они не указаны. В след. версии скрипта уберу его вообще чтобы не сбивать с толку. А я тупой думал надо твикать сразу три значения.
А альфу равную диму не крутить? Оставить еденицу?
Естесна. Мы же пытаемся получить новый нетворк с фиксом, а не старый с андерфлоу. Поэтому и поднимаем лр
Ты долбоеб, поправь разметку бля, сделай как шаблон в геншинтреде https://rentry.org/ex947/raw
>тред общей тематики
Тред общей тематики означает, что тут должно быть обсуждение всего, а не какой-то одной темы. И чтобы гридами вайпать, существуют отдельные треды.
Бля охуенно было бы если бы запретили тут постить картинки вообще, отвечаю. Так была бы и реклама технотреду, а вахтерских разборок - бы не было.
> поправь разметку бля
Что именно?
> геншинтреде
Не полезу в болото, делать мне нехуй. Просто скажи что конкретно
> Тред общей тематики означает, что тут должно быть обсуждение всего, а не какой-то одной темы
Тред общей тематики в данном конкретном случае означает, что он не отпочковался от наи/дедотреда, а существует вне их юрисдикций. Поэтому посылать кого-то, если тебе не нравятся то что он тренирует, ты не можешь
> И чтобы гридами вайпать, существуют отдельные треды
Ссылку. Я так понимаю ты был бы не против запретить гриды в треде про обучение?
> охуенно было бы если бы запретили тут постить картинки вообще
Бред
> Ты долбоеб
Сам ты долбоёб
>И чтобы гридами вайпать, существуют отдельные треды.
Какие?
>Так была бы и реклама технотреду, а вахтерских разборок - бы не было.
Их и так нет. Видел, чтобы тут кто-то обсуждал, что надо кого-то выгнать?
Ну вообще я видел, полистай тред
> > Типа чуть лучше работает, чем FP16, если поддерживается. Но это не точно.
> Каким образом?
Больше точность. У fp16 5 бит на экспоненту, у bf16 - 8.
> > Типа чуть лучше работает, чем FP16, если поддерживается. Но это не точно.
> Каким образом?
>что он не отпочковался от наи
Вообще-то он именно что отпочковался от наи треда, лол, но в целом всё верно, правила здесь должны быть такие, чтобы уживались аноны со всех тредов по генерациям картинок, раз уж это общий тред.
>Я так понимаю ты был бы не против запретить гриды в треде про обучение?
Бля, я погорячился с формулировкой, имелось в виду постинг картинок, связанных непосредственно с контентом, моделями, датасетами, генерациями и прочим подобным, гриды и сами генерации в частности - оставить в тематических тредах и линковать тут при необходимости.
https://2ch.hk/ai/res/62555.html
https://2ch.hk/fur/res/270356.html
https://2ch.hk/ai/res/72366.html
Может быть ещё есть какие-то, но я про них не знаю потому что особо не слежу.
Запретить постить картинки тут никто, понятное дело, не запретит, но делать так я считаю просто хорошим тоном.
Плюсы:
- Постоянная самоподдерживающаяся реклама и обсуждение технотреда
- Поднятие мертвых тредов и хотя бы частичное возрождение тематики
- Отсутствие вообще любых поводов начинать срачи по поводу тематики контента ака это тут почему-то именуется вахтерством
Минусы:
- ААРРРЯЯЯ ЗАПРИЩЯЮТ ПОСТИТЬ КАРТИНКИ
- Нужно держать как минимум 2 вкладки открытыми. Что минусом по сути не является, так как аноны и сейчас в большинстве своём сидят с двумя вкладками.
- В общем-то всё.
>Не полезу в болото, делать мне нехуй.
Так ты полезь. В болоте шапка лучше, и разметка там не проебана, в отличие от твоего технотреда.
>Их и так нет.
Ты хочешь, чтобы они были? Может быть хотя бы стоит принять превентивные меры?
>Так ты полезь. В болоте шапка лучше
Предлагаешь - делай. Возьми сам и ручками репостни или отметь важные на твой взгляд отличия.
Щас бы эту помойку в пример приводить, ей богу.
мимо
>самый первый лр просто отвечает за значения двух предыдущих, в случае если они не указаны
Вот с этим осторожнее, видел давно утекшее обсуждение, что его использует адам (8 bit adam), но пруфов, понятно, не будет.
> усом по сути не является,
Вахтер, спок
У меня в общем-то основная претензия к шапке именно как к шаблону. Что я не учел, так это то, что в геншинтреде катят своими картинками, а не постоянными, соответственно нам ещё нужно держать картинки в удобном виде. Во-первых бекап нужно выкинуть нахуй или держать в отдельном рентри, если это кому-то нужно. Во-вторых, если копировать шапку прямо из рентри (не из /raw), то стоит держать её в блоке с кодом, чтобы копировать можно было одним кликом.
Тред можно закрывать, лучше уже не будет.
https://civitai.com/models/5096/maestro-evgenii-ponasenkov
https://civitai.com/models/5096/maestro-evgenii-ponasenkov
> А у тебя случайно не случилось
Я ничего не обновлял с 17 января.
>loss=nan
Это нормально?
Это нормально?
2 датасета лежит нетренированных, пиздос. Когда этот кохью пидор все починит?
Есть тут разбирающиеся в питоне? Направьте меня, хочу запилить вместо павершелл скрипта гуй. Библиотеку мне какую-то юзать чи шо. Но чтоб для хлебушков совсем
Блядь, внатуре, пикрил
Сейчас буду править. Ты мне лучше скажи, формулировку про "тред общей тематики" стоит менять? Если да, то как
Блядь, внатуре, пикрил
Сейчас буду править. Ты мне лучше скажи, формулировку про "тред общей тематики" стоит менять? Если да, то как
Нет
Всё работает на 0.4.0. Ставь network_alpha = 1, network dim = 128, learning_rate = 1e-3
> Библиотеку мне какую-то юзать чи шо. Но чтоб для хлебушков совсем
DearPyGui
> DearPyGui
Спасибо!
>1e-3
Это и на unet, и на encoder?
По планировщикам ничего не поменялось? Можно ставить обычный constant?
Да
>все
Примерно нихуя на 0.4.0 не работает либо наны либо не учит нихуя.
Констант для быстротреняейся лоры не лучший вариант, он не умеет в скорость снижения обучения, используй любой вместо constant и constant_with_warmup, я использую linear и cosine
Хоть одну РАБОЧУЮ лору на 0.4.0 покажите, бля
Я повторяю, работает. На 1е-3 учит хорошо. НаНы на очень большом lr (~ >1e-2). Еще загитпуль автоматика если у тебя отрененное на 0.4.0 якобы не работает. Даже если ты используешь расширение от китайца, а не нативную поддержку
->
>загитпуль автоматика
Это как в окно выйти
Значит трень на 0.3.2, проблему нашёл
Выходит говнинаща тестить 0.4.0 буду, перебирать версии начала декабря
Января, лол
Всм,я оттренил на одинаковых настройках с тобой на 0.3.1но вышел кал. Это как?
Я не знаю. Магия. Ты про tokiame?
>Если да, то как
Я что-то не очень понимаю, что конкретно из этого является формулировкой.
Что то все разы что я тестил работает лора как то через жопу, на половину тренит и все. Только кокоро отн норм вышла, хз поч. В складе лор, кста хуйня полная по кокоро вышла. Зря ты датасет скостил.
Да
1к пикч в лору пробовал кто отгружать?
Ты хочешь включить вот это или что? Ну допустим:
Тред общенаправленныей, тренировка дедов, лупоглазых и фурри приветствуются.
Тематический контент (датасеты, гриды, генерации) выкладываем в тематических тредах.
Держу на новокупленном SSD на 1tb:
- версию автоматика от 1 января, от 16 января, самую новую
- версию дримбуха от 23 декабря, от 11 января
- версию лоры от 17 декабря и еще одну, хрен знает от куда я её взял, но в ней нет графического интерфейса и самого файла gui.ps1. Сейчас буду еще ставить самую новую
Уже начало забиваться на 90% из-за количества моделек
- версию автоматика от 1 января, от 16 января, самую новую
- версию дримбуха от 23 декабря, от 11 января
- версию лоры от 17 декабря и еще одну, хрен знает от куда я её взял, но в ней нет графического интерфейса и самого файла gui.ps1. Сейчас буду еще ставить самую новую
Уже начало забиваться на 90% из-за количества моделек
> # LoRA retard-friendly train_network script v1.12 by anon
> # Последнее обновление: 24.01.23 20:17 по МСК
Ебало сгенерируйте.
> # Последнее обновление: 24.01.23 20:17 по МСК
Ебало сгенерируйте.
scheduler = "linear" юзать или cosine_with_restarts? Раньше только вторым и делал.
>ssd на 1tb
Миллионер в треде?
Он же не уточнил марку.
Не понял
По меркам 2013 года сын депутата.
А сейчас это говно на али 3k стоит. Но я взял брендовый, хороший BX500 и то он вышел в 5k.
Результаты будут разные, но какой лучше я не скажу
Это когда такое случилось?
Чудеса какие то
>Раньше вместо Elysium была F222
Так Элизиум это ж какая-то мешанина, она сама на f222 скорее всего. И из нее ниче не вычитается. Тогда уж можно более новые миксы подмешивать.
>алекспрес
может ему сказать?
Погугли ntfs junctions, свалишь все модельки в одном месте.
Да этого говна щас валом же.
Я использую --ckpt-dir, так что нормально. Скорее проблема в миксах и точек дримбуха, которые все равно не очень вышли, но их пока жалко.
блядь 0.4.0 практически не тренирует
1 - версия от 31 декабря, вроде
2 - 0.4.0 говнище
я ебал эту хуету нах, почему нельзя ПРОСТО работать, а не ебаться днями с этим??
1 - версия от 31 декабря, вроде
2 - 0.4.0 говнище
я ебал эту хуету нах, почему нельзя ПРОСТО работать, а не ебаться днями с этим??
что он там тренировал, дебил ебаный?
когда кохью пофиксит свою хуергу?
Ну ебани тогда нтфс сжатие, LZX вариант. Питоноговно хорошо сожмет, модели тоже процентов на 7-10 ужать можно. Мастхев имхо. Файлы, которые нуждаются в редактировании - распакуются обратно сами по себе.
>torch.cuda.OutOfMemoryError: CUDA out of memory.
Невообразимо.
Когда лора заработает? У меня датасеты нетренированные.
> почему нельзя ПРОСТО работать, а не ебаться днями с этим??
Have sex Ну не ебись, отложи в сторонку и вернись когда заработает. Ты ебнутый или что?
>вернись когда заработает
Не заработает, кохью считает что все в порядке, поэтому я буду ныть в тредах.
Почему просто нельзя взять и откатиться на рабочую версию?
> Вообще-то годнота, если учесть, что это только эмбеддинг
Ну так эмбединг плюс-минус всегда дает примерно одну и ту же внешку на одной модели и настройках. Проблема в том, что обычно эта внешка мимо.
Вроде моя лора на старой версии не работала, а сейчас запустил и выдает нормальную касен. Я хз, может я слепой.
> я буду ныть в тредах
Но ведь твой протык, который считает что всё в порядке, эти треды не читает.
Ебать мастерпис нах. Теперь бы вспомнить какой это коммит был..
Зачем кохью все сломал? Посмотрите на этот результат. Работает - не трогай.
Здесь кохью-лахта сидит ебнутая, у которой все нормально, все хорошо. Я ей назло буду постить.
Нет, это может быть вообще 0.3.1 был, я запутался...
Кто-то высказывал версию, что Элизиум - это и есть F222. У них один хэш. Но как мы теперь знаем, может быть тысяча моделей с одинаковым хешем.
Но на 0.3.1 по настройкам и датасету анона у меня вышел другой результат. (tokiame)
Надо полный хэш посчитать и сравнить
Сложна, я с этим не работал.
Лора рабочая вышла, но сюда её скидывать мне не нужно, как я понял меня тут недолюбливают. tokiame так и не добавили, хотя у паханов этого треда нормально вышло натренить.
А 1060-анон вообще на меня обиду держит из-за одного поста, когда я по его советам кокоро тренировал.
А 1060-анон вообще на меня обиду держит из-за одного поста, когда я по его советам кокоро тренировал.
Ты автор скрипта? Нужна хоть какая-то хелпа с вот этим
Куду тоже последнюю накатил, и павершелл 7 поставил и через него пытался открывать, не помогло
>недолюбливают
Драма уровня аи, хех.
Хорошие фоточки, тренируй на них лору на хассане/dreamlike photoreal
>tokiame
>кокоро
>паханов этого треда
>1060-анон
анонимная борда. 2023 год.
Скачал сейчас из гайда .ps1, ошибку пишет. Это автор гайда скрипт сделал косячным или что?
Да, лично я держу 4 версии его скрипта.
Обнови Силовую Оболочку
Они себя прямо в гайде прописали, ты лучше их не зли, они 90% советов в треде дают.
Я удалять такие начал, сохраняю только параметры, на которых тренил + датасет.
ладно
Каждый раз с этого шиза проигрываю
С кохью-лахты?..
Но она же реально есть.
У меня файл подкачки 30 гб и нет ошибок
Да, ты прав, там поперло.
Надо бы чтобы авторы добавили в гайд инфу про это. И еще инфу про то, что если ставить два повершела, то система политики ломается и приходится лезть в реестр. Я так для версии 7.3 её не починил. Сначала запускаю встроенный, кажется 5 версии, в нем делаю Set-ExecutionPolicy Unrestricted, а уже потом в 7.3 захожу.
Обнови паверхел
> Надо бы чтобы авторы добавили в гайд инфу про это.
Кек
И зачем такая лора нужна? Чтобы на огрызке нормальной модели - асернити её использовать? Моя лора на касен работает и на абиссе.
Я имел ввиду что-то вроде этого. Чтобы на видном месте.
f222 слева, элизиум справа.
Тут Элизиум выглядит примерно как f222 + инстаграм кафе.
Потом добавлю если не забуду
Потому что асёртенити - это отличная база для обучения, а оранж - это говномикс
>оранж - это говномикс
перетолстил
база три раза
>асёртенити
Соус?
это кал, не качай, если выйдет хуевая лора работающая только на модели, на которой обучал, то наи хоть как то выйдет
асернити же кал полнейший, обучай на наи
>хоть как то выйдет использовать
Долбоёб ебаный, зайди в репо, там все лоры на асёртенити натренены. Это отличная чистая база, не то что оранжкал
https://huggingface.co/JosephusCheung/ACertainty
По факту есть что ответить?
>оранжкал
Тебя апельсиноюзеры проткнули что ли? Хули ты так рвешься? Я не на миксе предлагаю обучать, а на голом наи.
>зайди в репо, там все лоры на асёртенити натренены
Ну молодец хули, продвинул кал среди анончиков. Доволен их страданиями?
Кроме него тут никто на асертените не тренирует.
Никто меня не протыкал. На наи, на сёртэнити, не важно. Главное тренить на чистой модели, а не на миксе из непонятного чего со сломанным клипом после тысячи мерджей
> модель специально созданная для файн-тюна
> кал
Сходи проветрись
>миксе
Он генерит годноту.
>клипом
В соседнем треде выяснили, что пофикшенный клип делает хуже.
>тренить
Я нигде не предлагал обучать на оранже, ты сам проткнулся.
>оранж
>сломаный клип
Нет.
Нахуя ты это делаешь, кстати? Оно же работает на видеокарте, отбирая кусочек от твоих и так немногих 6 гб.
> Он генерит годноту.
Что мешает обучить лору на чистой модели, а потом использовать на другой? Религия?
> Чтобы на огрызке нормальной модели - асернити её использовать?
Кто это придумал? У меня все аниме нетворки натренены на асёртэнити, и все без исключения подхватывают стиль любого микса
Пикрил одна и та же лора на асёртенити на 4 разных моделях. Она даже с протогеном справляется
Оранжлахта, угомонись уже
Пизда. Почему???
Гуй винды тоже отнимает, что предлагаешь делать?
Ты на оранже-то пробовал тренировать, умник ебаный нахуй? Там клип чище слез девственницы, нахуя ты несешь чушь?
Только замерил афтербёрнером, 11 мб видеопамяти занимает, похуй
Зачем мне тренить плоский 2д арт на псевдо 3д модели?
Не пробовал значит. Ну и не высирайся нахуй, раз у тебя все лоры на одной модели тренируются.
Нативный гуй отнимет пару килобайт максимум, если отнимет вообще.
А как же то время, которое видеокарта тратит на отрисовку гуя? Могло бы потратить это время на лору.
> А как же то время, которое видеокарта тратит на отрисовку гуя? Могло бы потратить это время на лору.
Да не души. Ограничу фпс отрисовки до 1 во время обучения или добавлю опцию чтобы гуй закрыался и открывалась консоль. Меня больше другое волнует - я не умею программировать
Ну, не расстраивайся, автоматик вон тоже не умеет, а написал гуи.
Проиграл
А как же то время, которое ты потратил на лору, вместо того чтобы вкатываться в айти и зарабатывать на 4090?
Что за минмаксинг, анон? Надо решать самые важные проблемы, а не каждую мелочь доводить до идеала.
>которое ты потратил на лору
А я и не тратил.
>автоматик
>написал гуи
>Contributors: 314
Самую первую версию, разве что. Сейчас он больше мержит PRы и мелочи правит.
Выходит, вовсе время потерял.
>мелочи
Действительно
Ещё один долбоёб, который не в состоянии открыть коммит и посмотреть что за тесты там были выпилены.
Спасибо за подсказку, получилось, натренил за 20 минут вот такую херню, можно сказать сработало, даже лучше чем дримбут делал с этим датасетом.
Это что вообще бездонный колодец, жрёт вообще всё что выделяешь? На пикриле всю память и своп съел, но начал работать. У всех тренирующих свопы от 32 гигов?
Красава. У меня своп на авто стоял, залез недавно и увидел что он раздулся до 28 гигов
>20 минут
Это на каких настройках и какая GPU?
У меня оно само время от времени меняется. Ставил лишь на один 30гб, а теперь вот так на два. А до этого он сам поменял лишь на HDD, охуел от такого автоматического решения, при запуске webui комп зависал на минут 5 без возможности двинуть мышкой даже.
Стоял своп в рейндже 4-8 гб, увиличил вчера до 16, но этого тоже оказалось мало, мне буквально пришлось вычистить вилкой всё в диске, чтобы эти 32 гига в него влезли, перенесу потом своп на другой раздел диска, пожалуй
3080, 24 отзеркаленные пикчи, 10 эпох, сток вроде остальное
$max_train_epochs = 10
$resolution = 512
$save_every_n_epochs = 1
$learning_rate = 1e-4 # Скорость обучения
$unet_lr = $learning_rate # Скорость обучения U-Net. По умолчанию равен скорости обучения
$text_encoder_lr = $learning_rate # Скорость обучения текстового энкодера. По умолчанию равен скорости обучения
$scheduler = "cosine_with_restarts" # Планировщик скорости обучения. Возможные значения: linear, cosine, cosine_with_restarts, polynomial, constant (по умолчанию), constant_with_warmup
$lr_warmup_ratio = 0.0 # Отношение количества шагов разогрева планировщика к количеству шагов обучения (от 0 до 1). Не имеет силы при планировщике constant
$network_dim = 128 # Размер нетворка. Чем больше значение, тем больше точность и размер выходного файла
$max_data_loader_n_workers = 8 # Максимальное количество потоков для DataLoader. Чем меньше значение, тем меньше потребление RAM, быстрее старт эпохи и медленнее загрузка данных
$save_precision = "fp16" # Использовать ли пользовательскую точность сохранения, и её тип. Возможные значения: no, float, fp16, bf16
$mixed_precision = "fp16"
Короче я смог осилить вчера тот колаб и даже че то вышло в итоге, прикиньте. А ВЫ В МЕНЯ НЕ ВЕРИЛИ! Правда результат довольно посредственный вышел и часто говнит генерацию, но я и близко не ожидал какого-нибудь результата с первого раза.
Может кто подсказать где я обосрался? В основном проблема с лицами и анатомией. Тренил на NAI.
Вот датасет https://pixeldrain.com/u/AwpA7V9Z .
Настройки пикрел.
При использовании того что вылезло под конец тренинга как я понимаю там был 29-й epoch, он без названия почему то был, видимо финальная версия? результаты на NAI отвратительные (первая пикча), но оранжмикс внезапно выдал что-то адекватное. В основном говнит лица и анатомию. Дополнительные примеры в архиве.
У меня своп до 64 отжирается, при 16 гигах рам
Вау, у меня Dreambooth всего гигов 6 оперативы ест.
То-есть для тренировки таким способом нужно очень много памяти? Серьёзный минус. А ещё не очевидный, добавили бы в гайд. Гпу большую часть времени просто простаивала во время тренировки.
Алсо есть тут гигачеды с 128 рам на борту? С таким количеством должно быть куда быстрее по идее.
У меня 64, но в 99% случаев это нахрен не нужно, а в оставшихся 1% это решаемый вопрос. Если Dreambooth умещается в 6 гигов, лора тоже должна так уметь.
господа, на huggingface почти везде есть папка vae с чекпоинтом внутри и конфигом в джейсоне
кроме самой модели нужно ли всегда устанавливать еще и вае?
нужно ли устанавливать конфиг вае в webui? если да, то как?
https://huggingface.co/stabilityai/stable-diffusion-2-base/tree/main/vae
https://huggingface.co/hakurei/waifu-diffusion-v1-4/tree/main/vae (тут по-моему какой-то кастом)
https://huggingface.co/naclbit/trinart_stable_diffusion_v2/tree/main/vae
https://huggingface.co/nitrosocke/mo-di-diffusion/tree/main/vae
и т. д
кроме самой модели нужно ли всегда устанавливать еще и вае?
нужно ли устанавливать конфиг вае в webui? если да, то как?
https://huggingface.co/stabilityai/stable-diffusion-2-base/tree/main/vae
https://huggingface.co/hakurei/waifu-diffusion-v1-4/tree/main/vae (тут по-моему какой-то кастом)
https://huggingface.co/naclbit/trinart_stable_diffusion_v2/tree/main/vae
https://huggingface.co/nitrosocke/mo-di-diffusion/tree/main/vae
и т. д
> кроме самой модели нужно ли всегда устанавливать еще и вае?
Ставь https://huggingface.co/stabilityai/sd-vae-ft-mse-original/blob/main/vae-ft-mse-840000-ema-pruned.ckpt
> нужно ли устанавливать конфиг вае в webui? если да, то как?
Не нужно, это diffusers файлы.
Ты тренишь лоры? Можешь показать сколько во время тренинга у тебя системной памяти жрёт в hwinfo или аналогичном?
эти поставил. а другие же не просто так там лежат?
Нет, только Dreambooth.
Они лежат для тех, кто знает что с ними делать.
Если ты задаешь такие вопросы — значит они тебе не нужны. Без шуток и подъёбок.
я знаю что их нужно класть рядом с моделью и они будут улучшать генерацию, и что их специально отдельно тренируют, в т.ч. то что ты скинул
Я пробовал дримбут, он точно так много памяти не потреблял, там врам только нужен вроде от 10, а на обычный рам похер. Сколько у тебя он занимает в враме и раме во время тренировки?
Конкретно эти файлы ничего не будут улучшать и в текущей реализации webui они никаким образом работать не будут.
6гб рамы и 11 с лишним врамы. Это с тренировкой text encoder, то есть полный файнтюн, не только unet.
спс. это то что я хотел узнать
Зачем файнтюнить text encoder, если его итт заменяют на то что в сд лежит?
https://huggingface.co/blog/dreambooth#fine-tuning-the-text-encoder
А вот зачем его итт заменяют - вопрос хороший.
где можно посмотреть на сравнения 16 vs 32 битных моделей?
Если поверишь мне на слово, то там нет отличий. Есть между fp16 и bf16 не в пользу последних.
Это я почти с месяц назад тестировал, гридов нет больше.
спасибо. 16 по идее быстрее работает за счет i/o?
За счет чего не знаю, но быстрее
Одинаково
понял. сравню, в общем, благодарю
там, где я работал, 16 битные вычисления именно ускоряются за счет увеличения пропускной способности шины, а не скорость просчета
Залил АлисоЛору на хаггинфейс
MikuIncarnator/AliceLora
MikuIncarnator/AliceLora
Нормальную ссылку дай
Слишком не типичный концепт для nai, крайне сложно ему зацепится и понять, где там тян, а где фон\стол\цветная мишура из твоих пикч, а так же еще еблю он не любит.
Я бы не использовал пикчи, где есть 2girl или 1boy, где руки вылазят из границ экрана (и у тебя для них даже не задан тег pow). Отзеркалил бы все. Добавил бы пикч с full body и при этом nude, может даже в фотошопе им цвета поменял для большего разнообразия. Убрал бы ту какую-то каменную девку, которая на камне сидит.
У меня самого проблема с глазами. Сейчас пробую отзеркалить, до этого помогало.
>tsutomu nihei
а ты спросил его разрешения для скармливания его работ алгоритму ?
Кого ебет? Мы не Stable AI.
Только не говори ему, ну пожалуйста. Он наругает.
stability.ai
Ого. Автоматик там сделал релиз!
И не они тоже.
Это по-свински, Человек годами работал над собой, делал тонны рисунков, чтобы какой-то безрукий мудак запихнул его труд в копировальную машину коллажей и обесценил всю его жизнь высерая сотни кривых подобий его стиля, который обыватель с трудом отличит от оригинала
Анончики, пытаюсь потренить лору на ксяо, но после установки всех параметров в dreambooth и нажатия train он выдает мне только это и всё. Что делатц?
Спасибо, анон. А датасетом и скриптом с настройками поделишься? Алсо на какой модели тренил?
¯\_(ツ)_/¯
Тренил на novelfull.
Потом выложу там же.
Найс
Автоклассика
так много работал над собой, что окончательно разучился рисовать. ему б самому себя покопировать
А ещё, чуть не забыл, это ты на какой версии сд-скриптс тренил, на старой ещё?
Версия от 22 числа.
Работала норм, я сейчас вылетает ошибка. похоже я где-то накосячил когда собирал xformers.
Но все же запустилось, когда запустил не run.bat, а webui-user.bat
Иди нахуй на /pa/. Либо не жалуйся что я на твоей доске сру.
>кривых подобий
Не обязательно кривых, но если и не полностью походит на его стиль, то что плохого? Так интересней
Куча лорок, приятного:
https://mega.nz/folder/B6ZUyRJa#-r4ncWUclEG5P8T7LPIebw
https://mega.nz/folder/B6ZUyRJa#-r4ncWUclEG5P8T7LPIebw
Спасибо за советы, попробую.
Кул. Не будет лишним забекапить код. Если сломается что-то, ты сможешь восстановить. Ну или, наоборот, так проще экспериментировать, не боясь сломать что-то. Ручные бекапы - это git на минималках.
В плане забекапить? Если ты про гит, то репо есть. Когда будет реально рабочее (надеюсь это случится) сделаю публичным
А, ты уже с гитом работаешь, вообще круть.
За апосимз его можно не только не спрашивать, а еще и пару лещей выдать при встрече
> обесценил
Попробуй лучше
Это гиперсетка Сенко на нихеевской лоре?
> Это гиперсетка Сенко на нихеевской лоре?
Нет, это моя кривая лора на сенко в стиле римукоро вообще первая лора, которую сделал и лора нихуя
Все равно забавно. Но Сенко явно даёт слишком много солнечности
Даже в эту унылую депрессивную атмосферу она способна принести лучик света
Чому играясь с весом эмбединга легко поймать момент, когда влияние на стиль отсутствует а персонаж охотно переодевается и принимает любые позы, а в случае с лорой элементы "канона" пытаются проскакивать вплоть до потери ключевых деталей?
Бля, пацаны, есть ли какойнить новостной ресурс, где собираются все новости по поводу всех разработок в нейронках? На хагинфейсе неудобно и там новостей нет, только спейсы. На ютубе мониторить тоже неудобно. В частности интересует область генерации изображений.
1. Что планируют сделать с кривым рисованием рук, перекрываемых объектов.
2. Анимации? Или видосы?
3. Запоминание персонажа по 1 картинке со всеми деталями? Чтобы можно было сгенерировать девочку и потом ее в разные позы в визуальной новелле ставить, например.
Лизь-лизь 3
>Долбоёб ебаный, зайди в репо, там все лоры на асёртенити натренены.
В каком репо все лоры на асертанти натрейнены? Интересуюсь для друга.
> в визуальной новелле
Еще один.
Вахтер, плиз.
>4
>1
>4
обалдеть. я вкатываюсь в нейронки чтобы наконцептить БУКВАЛЬНО такого ранне-нихее-аниме-мегаструктурного контента для своего соло поделия. ты можешь, насколько тебе не лень, объяснить, как прийти к подобному результату новичку с нуля?
Лору у него попросить и не плодить сущности?
мне хотелось бы удочку, а не рыбу
Лора и есть удочка.
В шапке, няш
Коллекция лор
Анон с форчана долгое время вел https://rentry.org/sdupdates3 и https://rentry.org/sdgoldmine В последнее время обновляет редко, но недавно писал (в первой ссылке), что собирается заняться активнее. Будем посмотреть. Тем не менее, там уже просто тонна инфы.
>3. Запоминание персонажа по 1 картинке со всеми деталями?
Гугли DreamArtist.
Катите епта
Вахтерошиз, вон из треда.
Какой минимум пикч для датасета лоры? 30?
1
От 5, если ультранищий на картинки. 30 хорошо.
>5
сколько тогда повторений ставить?
От 10 на пикчу я ставлю.
Попробуй разные цифры, расскажешь.
Все равно на 5 пикчах лора будет за 5 минут обучаться на 10 эпох.
>От 10 на пикчу
На концепт мб? Если в датасете 50 пикч, то обучать ты будешь 500 повторений, что за бред.
>На концепт мб?
Da.
>Гугли DreamArtist.
Да не, оно понятно, что можно и сейчас, будет похоже, но какие-то элементы проебутся, а это допустимо разве что в совсем нищих индииграх или особых случаях. Хотелось бы, чтобы модель прямо хорошо запоминала персонажа, тогда это уже можно будет коммерчески использовать. За две другие ссылки спасибо, посмотрю.
Он вроде хотел перекатиться на гитхаб. но новостей пока нет
Много хочешь из одной картинки. Это для людей даже не самая простая задача. Как именно этот персонаж будет выражать такую эмоцию? Как именно он встанет в определенную позу? Попробуй по одной картинке догадаться.
Заплати художнику, например, вместо того чтобы воровать работы.
>тогда это уже можно будет коммерчески использовать
никогда нельзя нейроподелки использовать коммерчески, на них нет авторского права
Пока есть желающие за них платить, будут те, кто готов сделать.
А авторские права нам не указ.
смысл платить, если можно саму нагенерить бесплатно?
Вон там в соседнем треде генерят 512х512 говно.
Нагенерить не говно - это уже нужны мозги и какой-никакой воркфлоу.
Пока свой гайд не состряпали вкину сюда. Нашёл гайд по блок мерджу на форчонге: https://rentry.org/BlockMergeExplained
Начал читать, вроде прямо на пальцах начинается объяснение, алсо дополнение от автора на пике
Начал читать, вроде прямо на пальцах начинается объяснение, алсо дополнение от автора на пике
Заебался что-то. Но буду пробовать снова.
1 - малое количество пикч, а именно 24 шт, не считая отзеркаливания
2 - 94 шт.
3 - тоже самое, что и 2, но на новой версии скрипта
Везде 512x512, ACertainty, без vae, cosine_with_restarts. 1 и 2 на learning_rate 1e-4, 3 - на 1e-3
Сам x\y делал на новой версии webui и дополнения
1 - малое количество пикч, а именно 24 шт, не считая отзеркаливания
2 - 94 шт.
3 - тоже самое, что и 2, но на новой версии скрипта
Везде 512x512, ACertainty, без vae, cosine_with_restarts. 1 и 2 на learning_rate 1e-4, 3 - на 1e-3
Сам x\y делал на новой версии webui и дополнения
учился бы рисовать, а не подделывать и воровать
Не, это долго, мы лучше сгенерируем.
Благо особой разницы нет.
Антош, если тебе так нравится рисовать - сходи порисуй. Или что-то случилось, что ты пришел на эту доску? Перестали работы покупать?
Убери < и >
Так последняя версия крипта для обучения Лоры работает?
Поправь путь, там не должно быть<>
Вчера только ставил. Файл .ps1 брал с гайда.
Но работает оно как-то по другому, как по мне хуже.
спасибо, я бака
Разница есть, удовольствие от призания твоего скила и усилий от других, когда все знают что это сделал не ты, а нейросеть, нет, скорее презрение к криворукому вору, нет и радости творения и полученного результата, зачем это все тогда?
Я, как человек с добродетелью справедливости, не могу смотреть как на моих глазах происходит несправедливость и воровство.
Вы же паразиты, вы ничего нового не создаёте, только воруете чужой труд
>Заплати художнику
У меня денег на еду не будет скоро, а ты говоришь, чтоб я художнику платил, который зарабатывает раза в 2 больше в среднем чем я в мухосрани.
Чел.. Иди спать в резиновый тред.
И ты конечно сейчас самостоятельно нагенеришь спрайтов и напишешь опиздохуительный сценарий вночки с помощью опять-таки сетки, чтоб продать лохам и быдлу за сотни нефти в вк плее, чтоб озолотиться, такой план?
Нубовопрос. Можно ли как-то использовать карту глубины при обучении?
Анон не станет платить художнику и не умрет с голоду. Все просто.
Это снова я, извините. Лажаю на каждом шагу.
Почему не копируется?
Почему не копируется?
Конечно. Но не озолочусь, а реализую свои творческие начинания + если это будет приносить хоть какие-то деньги, хотя бы 20-30к в месяц, можно будет заниматься этим, а не разгребать говны, работая на дядю за те же деньги, под постоянным напряжением и еблей мозга. Когда у тебя есть по факту все, что нужно, ты собираешь из этого свой проект. Мечта любого творческого человека.
У анона будет полная свобода творческой деятельности, независящая от его изначальных финансовых возможностей. Чтобы начать что-то делать, ты либо должен уже дохуя охуенным быть, либо иметь большой стартовый капитал, а это тоже сложно, учитвая, что средняя зп в мухосране 30к, а средний художник требует 100к, что пиздец ваще.
Раз уж об этом зашло опять, то почему никто не вспоминает, что было году так в 2010? Стал доступным блендер, юнити, всякие движки бесплатные, видухи стали тянуть рендер. Начали пилить 3d порн из моделек, порнхаб был забит этим. Было противно искать рисованный r34 по аниме, а находить кучу убогих 3d рендеров моделек.
Сейчас использовать 3d модели для рисоваки - это база, это норма. Посмотрите на ютубе как рисуют какую нибдуь пизду из уэнсдей. Для окружения они используют блендер и бесплатные модели, прорисовывают лишь отдельные детали и саму тянку.
На это забей. Откопируй вручную
из \sd-scripts\bitsandbytes_windows
в \sd-scripts\venv\Lib\site-packages\bitsandbytes
и в \cuda_setup файл main.py
Все с заменой
Сейчас использовать 3d модели для рисоваки - это база, это норма. Посмотрите на ютубе как рисуют какую нибдуь пизду из уэнсдей. Для окружения они используют блендер и бесплатные модели, прорисовывают лишь отдельные детали и саму тянку.
На это забей. Откопируй вручную
из \sd-scripts\bitsandbytes_windows
в \sd-scripts\venv\Lib\site-packages\bitsandbytes
и в \cuda_setup файл main.py
Все с заменой
Правда в том, что у меня нет bitsandbytes_windows в scripts, что я упустил?
Только не бейте.
Ну я имел ввиду в корне папки со скриптом. Она с гитхаба качается со всем остальным. Или ты что-то другое ставишь?
Я следую лорагайду, просто не понял, что ты про гитпапку говорил. Сейчас все сделаю, пасибо.
Даже не начинай, бедность - не оправдание воровства
Чтобы научится рисовать не нужно никаких финансовых возможностей, ты просто ленивый уебан
> а средний художник требует 100к, что пиздец ваще
охуительные истории, кто этот средний художник и за что такие расценки?
Ты не реализуешь никакое творчество, когда за тебя всё делает нейросеть, ты блядь никакой не творческий человек раз чтобы задумываться о творчестве тебе понадобилась бесплатный костыль, который всё делает за тебя.
Но нейросеть всё делает за тебя, буквально , а где нет твоего вклада, нет и творчества, жать на кнопку и выбирать из полученных вариантов это нихуя не творчество.
Антоны, кто-нибудь тренил Dreambooth с другими lr_scheduler, помимо constant?
Чел.. Картинки-оригиналы используется для получения прибыли? Стили запатентованы?
Нет. А теперь иди нахуй.
Тренировал Алисолору с cosine_with_restarts.
>Даже не начинай, бедность - не оправдание воровства
Воровство тут только в твоей голове, малолетний долбоеб. Ты сперва изучи, как оно работает.
>Чтобы научится рисовать не нужно никаких финансовых возможностей, ты просто ленивый уебан
Да, только я вот год учился в юности и чот один хуй еле еле анатомию задрочил. А еще очень много нужно, кроме рисования. А я вообще программист.
>охуительные истории, кто этот средний художник и за что такие расценки?
Да пиздуй на любую биржу.
>Ты не реализуешь никакое творчество, когда за тебя всё делает нейросеть, ты блядь никакой не творческий человек раз чтобы задумываться о творчестве тебе понадобилась бесплатный костыль, который всё делает за тебя.
Ты меня не знаешь, малолетний долбоеб, но в каком-то своем воспаленном мозгу выдумал уже обо мне целую историю. Иди нахуй, даун ебаный.
Тебе сказано - нейросети помогут много кому раскрыть свой творческий потенциал и передать другим то что они чувствуют. Причем без каких-либо изначальных финансовых вложений и без задрачивания ненужной прослойки в виде рук и мозга. Ты когда-нибудь задумывался, например, что такое твои руки вообще? Почему ты видишь сны, но рисуешь руками? Руки это интерфейс, который не создан для рисования, даун ты ебаный, это костыль. А рисовать можно и из головы. Тебе по прежнему нужно будет дохуя чего знать, например композицию, "чувство прекрасного", да дохуя чего, если ты хоть немного знаком с творчеством, ты поймешь о чем я.
Блядь. С горем пополам сделал интерфейс. Застопорился на главном: как выполнить последовательность команд в консоли прямо из питона? С аргументами. Питонисты хелп
Я не питонист, но ща часто для простых скриптов на пихоне ебу чатжпт
Можно просто subprocess.run(["ls", "-l"])
Это выполнит ls -l в консоли. На каждую команду тебе будет нужен отдельный вызов subprocess.run().
>Картинки-оригиналы используется для получения прибыли?
Да.
>Воровство тут только в твоей голове, малолетний долбоеб. Ты сперва изучи, как оно работает.
Воровства нет, вот только без охуительного датасета из работ взятых без разрешения авторов нихуя бы не работало, охуенно. И поэтому в этом ITT треде все воруют и скармливают чужий работы в копировальную коллаж машину.
>Тебе сказано - нейросети помогут много кому раскрыть свой творческий потенциал и передать другим то что они чувствуют. Причем без каких-либо изначальных финансовых вложений и без задрачивания ненужной прослойки в виде рук и мозга.
О,заученные тейки NPC, кк оправдания собственной никчёмности и воровства. Обесценивание настоящих рисунков с целью приравнять их к высерам нейросети а себя к 'творцам' при том нихуя не умея. Нет. Ты - ленивый долбоёб, по твоим же словам работающий за копейки, не помогут тебе нейросети никак, ты - не художник и никогджа им не станешь, ты - жалкая имитация и паразит.
Ухх пизда сложно. Буду пробовать, спасибо
И так, час генерил и теперь вопрос, как определить идеальный мердж? Потому что приемлемые значения лежат в диапазоне 30-70%, а как определять золотое сечение я хз, я тупой. Если только не хреначить по 100 артов на мердж и потом сидеть часами сравнивать чекаво.
Попробуй пару других промптов.
Пару сотен, ты хотел сказать.
>Картинки-оригиналы используется для получения прибыли?
>Да.
Где? После обучения модели они не нужны.
Если они все похожие, то дрочить можно до совершенства бесконечно. Тогда можно просто среднее выбрать. Если потом не понравится - попробуешь другое соотношение, и уже будет понятнее, на что обращать внимание.
>На каждую команду тебе будет нужен отдельный вызов subprocess.run().
Ну не мне, я не тот анон.
По пикрилам оно не пиздит? А то я уже поел всратых скриптов от него, но в целом результат удовлетворительный
дебажить через языковой чат то еще удовольствие
Так может стоит делать это с дебагером и стаковерфлоу?
Окей, попробую разные сиды и промпты, ещё лучше наверное клип потестить.
Нужные мне скрипты не стоят такой ебли, да и можно запросить скрипт для павершела, чето из этого да заработает.
я в основном паскалебебил, который не прогал 10 лет
На первой пикче хуйня какая-то написана. На второй может даже сработает.
Когда заменяю новый дримбутх на старый из лорагайда случается это и нихуя не работает. Нужно теперь какие-то новые действия предпринимать, в гайде не всё?
Ну, запускать полурабочий код, который ты не совсем понимаешь, и который был написан нейронкой, натрененной на тексте из интернета - по крайней мере, это не скучно. Примерно как в русскую рулетку играть.
> Примерно как в русскую рулетку играть.
А я и не против, все равно с этим стейбл дифужн стал лудоманом уже
> паскалебебил, который не прогал 10 лет
Обнял братишку.
мимо
> как прийти к подобному результату новичку с нуля?
1. Ставишь все по лорагайду
2. Без задней мысли собираешь датасет
3. Тренируешь
4. Профит
Ну а если серьезно, то я и сам считай новичок. Прочитай все два технотреда, местами есть разрозненная нужная инфа.
Вся суть в датасете. От того насколько он хорош и как протеган, в основном и будет зависеть твой результат. Аноны говорили что ты получаешь именно то на чем тренируешь~, что в общем-то очень дохуя логично. Тебе нужно протегать на пикчах все что ты хочешь видеть и все что не хочешь, но присутствующее, типа industrial pipes есть и wires тоже есть, тегаешь их. Кроме этого, как я понял, желательно еще дифферинцировать материал, например из тех же industrial pipes и wires, если ты хочешь только трубки в определенном стиле, то кроме теггинга, надо еще подкинуть пикч только с industrial pipes и только с wires отдельно и соответственно их протегать, что бы нейронка "поняла" че куда что бы обучить нейронку - думай как нейронка. Еще от самой модели, на которой тренишь зависит результат, лучше когда она знает то что ты хочешь получить, чем по факту обучать на тег с нуля.
Оранжмикс например смутно догадывается про существование нихуя, про другие модели уже не помню. У меня еще вылезла такая проблема что, тег megastructure на бурах существует, однако им тегали не только нихуя, и из-за этого, выдает не то что я хочу, негативы на сао помогают, но всеравно не то например. Еб твою мать, кто протегал Айнкрад из сао как мегаструктуру?
Алсо да, помогай лоре тегами не только из датасета.
Ну и собери хотя бы начальный датасет и ебись с лернинг рейтом, вармапом и шедулерами в 10 вариантах, что бы посмотреть, пощупать и уже понимать от чего тебе отталкиваться. Обязательно строй гриды по весу лоры и по эпохам с разными тегами, что бы понять как работает. Ну в общем начни, а там уже видно будет наверное.
Датасет для этой лоры нихуя я слил граббером с данбуру и чутка подкорректировал пикчи, обрезал где надо. Сейчас лениво собираю новый, листая блейм.
Хз насколько тебе эта информация поможет, объясняю я совсем хуево как и все аноны в треде, если чето не так написал, то меня поправят
>Разница есть, удовольствие от призания твоего скила и усилий от других, когда все знают что это сделал не ты, а нейросеть
Ой, не знаю, мне все равно. Лайков +- столько же.
>скорее презрение к криворукому вору, нет и радости творения и полученного результата, зачем это все тогда?
У меня есть радость от хорошей генерации, не знаю, что с тобой не так.
Надеюсь ты тегаешь perspective на страницы с видами мегаструктуры и зданиями
Я пока еще не создавал файлы описаний, но учту, спасибо за напоминание. Сначала датасет только из понравившихся разворотов соберу и посмотрю что получится, потом туда буду подмешивать остальное.
За неделю мб долистаю биомегу с абарой включительно
спасибо за развернутый ответ
до этого пробовал колаб с textual inversion, пытаясь натренить сетку на здания из классического фоллаута. но за несколько попыток получил лишь лютую чепуху
да и размер эмбеддинга в пару килобайт вряд ли может содержать достаточно информации, чтобы адекватно воссодать все архитектурные формы из игры
Там много фреймов, которые можно тегать перспективой, трубами, кабелями, руинами и т.д.
Архитектуру и виды можно в отдельную лору запихнуть как вариант.
Надеюсь у тебя получится круто.
А сейчас есть смысл textual inversion использовать? Я его пробовал месяца три назад, он тогда требовал столько же VRAM, сколько и оптимизированный Dreambooth, но тренился дольше и результаты были значительно хуже.
Аноны, почему в Additional networks ни одной лоры не отображается у меня? Что то в настройках не так? Не в ту папку положил?
Положи в папку Лоры в папке вебуи, а не расширения
sdw\models\lora? ну они с самого начала там лежали.
https://github.com/Klace/stable-diffusion-webui-instruct-pix2pix
пикс2пикс в вебуи пульнули
пикс2пикс в вебуи пульнули
кстати, попробовал дримбудку через колаб. тренируется в колабе минут 6, результат куда лучше
не знаю, зачем вообще текстуал инвершн нужен. тренируется часами, а результат смех один
https://github.com/Excalibro1/fast-stable-diffusionwik/wiki/fast-stable-diffusion-wiki
https://colab.research.google.com/github/TheLastBen/fast-stable-diffusion/blob/main/fast-DreamBooth.ipynb
У каждого способа свои преимущества, а генерить ланшдшафты в стиле фоллача - не самая очевидная и ходовая задача.
> эмбеддинга в пару килобайт вряд ли может
Может. Только вот лишь с приходом дримбуха и лоры новые концепты пошли как из пушки, а до этого такого не было. Эмбеддинг слишком сложен в освоении, я только понял, как работает гиперсеть, а тут все внезапно пошли в лору, а про эмбеддинг забыли еще до него.
Так что, считай что эта технология либо сильно устарела и\или никто так и не нашел для нее достойного применения. Некоторые считают, что эмбеддинг никто и ни разу не смог одолеть до хоть как-то результата вменяемого. Но все же пару штук рабочих я видел.
Ух пизда. Как-то разобрался. Ебал в рот писать гуй вручную... Есть пара косяков желательно если создал вкладку её не закрывать, там какой-то баг гуляет, пока лень разбираться НО ОНО РАБОТАЕТ. Можно тренить кучу лор последовательно. Можно создать одну вкладку и копировать все значения в любую другую, чтобы не заполнять одни и те же строки. Но защиты от дурака как в скрипте (почти) нету, это слишком долго делать. Но если всё ввести правильно, всё работает
Единственное я был бы ОЧЕНЬ благодарен если бы кто-то помог реализовать в приложухе консоль в любом виде. Чтобы видеть прогресс. Потому что пока всё пишется в stdout. И если не запускать аппсуху через консоль понять что она работает можно только через нагрузку на гпу. Я закоментил вкладку с консолью, но всё же хотелось бы её реализовать
Завтра узнаю как компилировать питонные проекты в один экзешник и скину потестить
Единственное я был бы ОЧЕНЬ благодарен если бы кто-то помог реализовать в приложухе консоль в любом виде. Чтобы видеть прогресс. Потому что пока всё пишется в stdout. И если не запускать аппсуху через консоль понять что она работает можно только через нагрузку на гпу. Я закоментил вкладку с консолью, но всё же хотелось бы её реализовать
Завтра узнаю как компилировать питонные проекты в один экзешник и скину потестить
gui какой?
dearpygui анон посоветовал
> Завтра узнаю как компилировать питонные проекты в один экзешник и скину потестить
pyinstaller -F filename.py
> Единственное я был бы ОЧЕНЬ благодарен если бы кто-то помог реализовать в приложухе консоль в любом виде. Чтобы видеть прогресс.
У тебя при запуске консолька будет отдельным окном открываться
>просто поставил галку для установки экстеншна дрмибуза
>старый автоматик: в плагине type error
>новый автоматик: я все сломал
>новый автоматик после удаления всего содержимого кроме гита и моделей и хардресета: я все сломал
>старый автоматик в той же папке: я все сломал
>новый автоматик в соседней папке: я все сломал
Да ебаный же автопидорас! Пойду отдельно дримтуз ставить, пошел он нахуй со своими экстеншнами.
>старый автоматик: в плагине type error
>новый автоматик: я все сломал
>новый автоматик после удаления всего содержимого кроме гита и моделей и хардресета: я все сломал
>старый автоматик в той же папке: я все сломал
>новый автоматик в соседней папке: я все сломал
Да ебаный же автопидорас! Пойду отдельно дримтуз ставить, пошел он нахуй со своими экстеншнами.
> pyinstaller -F filename.py
Не подцепляет файл шрифта из папки Assets. А если его убрать будут кракозябры. Но спасибо
> У тебя при запуске консолька будет отдельным окном открываться
Да, как вариант сойдет, но круто было бы если можно сделать кошерно
Анон, поясни по хардкору за различие принципов обучения. В гайд бы это добавить, но... давай я попробую объяснить, что я понял, а ты поправишь/добавишь.
Textual Inversion aka Embedding
Человек: нейросеть, вот персонаж, раз пик, два пик, десять пик. Как бы ты его в общем описала восемью словами (токенами)?
Нейросеть: 1девочка:1.5, длинные_волосы:1.2, голубые_глаза:0.95, хорошая_шея:0.5, серебряные_серёжки:1.4, луна:0.5, сковородка:0.2, плесневелые_помидоры:0.3, полтора_кило_гвоздей:0.1
Человек: Какие ещё нахрен гвозди?
Нейросеть: Я художник, я так вижу!
Плюсы:
+ Маленький размер (несколько килобайт)
+ Переносимость между родственными моделями
+ Можно прямо по ходу генерации менять вес ключевого слова, активирующего TI
Минусы:
- Не очень хорошо схватывает суть концепта
- Занимает место в токенайзере по длине токен-вектора (в примере - 8)
DreamBooth
Человек: Нейросеть, тебе при обучении кое-что недорассказали. Смотри, есть такая штука - %concept_name%. Это разновидность %base_concept_name%. Сейчас я тебе покажу, как оно выглядит... И давай посмотрим, чем %concept_name% отличается от %base_concept_name%.
Плюсы:
+ полноценная самодостаточная модель
+ возможность хорошо "схватить" персонажа/стиль/etc (*здесь и далее - при умении и везении)
+ возможность впихнуть в одну модель нескольких персонажей/артефактов/etc
Минусы:
- деградация базового концепта и иногда всей модели (реально страшная штука и мешает дообучать)
- большой размер (2-4-7 ГБ)
- плохая переносимость между базовыми моделями (разве что через Merge with Add Difference, и то не факт)
По идее, следующий шаг - это как DreamBooth, но каждая картинка размечается не одним токеном (названием нового концепта), а полным описанием с использованием нового токена, а дальше как в DreamBooth. Есть ли это и как оно называется?
Hypernetwork
Человек: Нейросеть, а как надо после стандартной генерации преобразовать результат, чтобы картинки были похожи вот на это?
Нейросеть: Это надо добавить ещё пару слоёв нейронов, записывай веса. 0xDEADBEEF 0xB16B00B5 ...
Плюсы:
+ относительно небольшой размер (десятки мегабайт)
+ переносимость между родственными моделями
+ ???
+ PROFIT!!11
Минусы:
- ???
LoRA
Неведомая штука.
Минусы:
- нужно очень внимательно размечать датасет
Ахтунг, я не то чтобы спец и могу сиильно накосячить, поправляйте!
Textual Inversion aka Embedding
Человек: нейросеть, вот персонаж, раз пик, два пик, десять пик. Как бы ты его в общем описала восемью словами (токенами)?
Нейросеть: 1девочка:1.5, длинные_волосы:1.2, голубые_глаза:0.95, хорошая_шея:0.5, серебряные_серёжки:1.4, луна:0.5, сковородка:0.2, плесневелые_помидоры:0.3, полтора_кило_гвоздей:0.1
Человек: Какие ещё нахрен гвозди?
Нейросеть: Я художник, я так вижу!
Плюсы:
+ Маленький размер (несколько килобайт)
+ Переносимость между родственными моделями
+ Можно прямо по ходу генерации менять вес ключевого слова, активирующего TI
Минусы:
- Не очень хорошо схватывает суть концепта
- Занимает место в токенайзере по длине токен-вектора (в примере - 8)
DreamBooth
Человек: Нейросеть, тебе при обучении кое-что недорассказали. Смотри, есть такая штука - %concept_name%. Это разновидность %base_concept_name%. Сейчас я тебе покажу, как оно выглядит... И давай посмотрим, чем %concept_name% отличается от %base_concept_name%.
Плюсы:
+ полноценная самодостаточная модель
+ возможность хорошо "схватить" персонажа/стиль/etc (*здесь и далее - при умении и везении)
+ возможность впихнуть в одну модель нескольких персонажей/артефактов/etc
Минусы:
- деградация базового концепта и иногда всей модели (реально страшная штука и мешает дообучать)
- большой размер (2-4-7 ГБ)
- плохая переносимость между базовыми моделями (разве что через Merge with Add Difference, и то не факт)
По идее, следующий шаг - это как DreamBooth, но каждая картинка размечается не одним токеном (названием нового концепта), а полным описанием с использованием нового токена, а дальше как в DreamBooth. Есть ли это и как оно называется?
Hypernetwork
Человек: Нейросеть, а как надо после стандартной генерации преобразовать результат, чтобы картинки были похожи вот на это?
Нейросеть: Это надо добавить ещё пару слоёв нейронов, записывай веса. 0xDEADBEEF 0xB16B00B5 ...
Плюсы:
+ относительно небольшой размер (десятки мегабайт)
+ переносимость между родственными моделями
+ ???
+ PROFIT!!11
Минусы:
- ???
LoRA
Неведомая штука.
Минусы:
- нужно очень внимательно размечать датасет
Ахтунг, я не то чтобы спец и могу сиильно накосячить, поправляйте!
Обучение нейросетей для пятиклассников;)
> Не подцепляет файл шрифта из папки Assets. А если его убрать будут кракозябры. Но спасибо
with dpg.font_registry():
if getattr(sys, 'frozen', False):
default_font = dpg.add_font(file=os.path.join(sys._MEIPASS, "fonts/freesans.otf"), size=20)
else:
default_font = dpg.add_font(file="fonts/freesans.otf", size=20)
При сборке .exe явно указать --add-data="SRC;DEST":
pyinstaller --add-data="fonts/freesans.otf;fonts" -F filename.py
> но круто было бы если можно сделать кошерно
Технически можно перехватывать вывод stdout из subprocess, но с некоторым пердолингом
Спасибо за код, так примерно и сделал
https://stackoverflow.com/questions/7674790/bundling-data-files-with-pyinstaller-onefile/13790741#13790741
> Технически можно перехватывать вывод stdout из subprocess, но с некоторым пердолингом
Я этим пердолингом сейчас занимаюсь. Я ХОЧУ СПАТЬ БЛЯТЬ. Я пытаюсь вывести выхлоп павершелла в консоль в реалтайме, но когда я так делаю (кучу методов перепробовал) у меня основной скрипт лоры виснет на строке "prepare images". И хоть ты убейся. А если выводить после конца работы stdout, то всё нормально, только ты нихрена не видишь пока скрипт свою работу не выолнит
Поясните за менюху, если есть возможность. Как сделать качественно, но медленно?
На это тоже хотелось бы получить пояснение. Вроде при изменении картинка меняется, но непонятно как это сказывается на качестве, может оно имеет значение только при хайрезе простынь HD формата или что.
У гиперов тоже надо очень внимательно размечать датасет и обучение тоже нужно пиздец как тюнить - результаты хрупкие и труднопредсказуемые. Плюс: при правильном обучении очень хорошо схватывает и накатывает стили, для стилей это самый лучший инструмент, что бы там лораебы не думали.
Стили тренируются проще всего. В Dreambooth они первыми начинают проявляться, потом уже все остальное.
Я предполагаю, это потому что для стиля даже в одной картинке есть куча примеров, как он изменяет различные детали. А для персонажа в одной картинке есть только один его пример.
В минусы лоры можешь записать огромную нужду в системной памяти, будь то то рам или своп во время тренировки. Выше в треде было.
Это минусы говнокода, а не лоры. Она не должна есть больше Dreambooth, который около 6гб оперативы ест.
Еще когда ставил вебуй в сентябре приходилось ставить минимум 25гб подкачки, чтобы питон начал устанавливаться.
Где именно? В скрипте для тренинга, в сд-скриптс? Как это исправить тогда, если можно уменьшить потребление?
Сколько у тебя рам? Точно ничего не путаешь, сам интерпретатор в три клика ставится и ничего во время установки не жрет. Обновлял на днях микроверсию, вообще без проблем заработала, как раз в три клика
16гб. Ну это сейчас, а вот тогда это было проблемой и в гайдах про это писали.
Этот тред - теперь твой личный бложик о том, как ты изучаешь питухон?
Анон пилит полезную вещь, задает вопросы. Это технотред. В чем твоя проблема?
Вопросы какое отношение к СД имеют блять? Давайте тут обсуждать что такое классы и полиморфизм, хули, технотред жи, самая тема.
Давайте
Если ты почитаешь тред, то найдешь ответ на свой вопрос. А если ты его не читаешь, почему тебя это вообще ебет?
Так ты по тематике СД ничего не пишешь, дебич, ты просто срешь своими личными проблемами с питухоном. РЕЕЕ СРАЧ - НЕ ТЕМА ТЕХНОТРЕДА
> Я пытаюсь вывести выхлоп павершелла в консоль в реалтайме, но когда я так делаю (кучу методов перепробовал) у меня основной скрипт лоры виснет
ты в курсе дедлока в subprocess, если выдается много аутпута?
нужно вместо wait использовать communicate
https://docs.python.org/3/library/subprocess.html#subprocess.Popen.wait
Так мне кто-нибудь объяснит принцип действия лоры?
В шапку загляни, наркоман, там картинка.
А знаешь, всё ещё непонятно!
Ты просто тупенький, на пиках специально все разжевано для тех, кто все понимает.
Анонче, первый раз испытал лору, результат не порадовал совсем. Хотел получить реального человека, до этого тренировал модель на колабе и хайпернетворк, первый вариант получился самым приемлемым. Лору тренировал на модели хассанбленд1512 с помощью скрипта от kohya, почему то от d8ahazard не заработало. Тренировал 200 эпох, но уже после 160-й пошло по пизде, до 120-й тоже совсем непохоже получается. Соответственно 140-я самая нормальная, но и она не дотягивает даже до самых слабых результатов, что я тренировал раньше другими способами. Не хочется забрасывать совсем, что еще можно сделать, какие настройки покрутить для реальных лиц?
>200 эпох
Это сколько шагов суммарно? Я делал лору на 10 эпохах, лол
Это сколько шагов суммарно? Я делал лору на 10 эпохах, лол
Как вы осуществляете контроль версий датасета?
25 фоток было. Я где то читал, что надо бы от 50 до 150 эпох1295392
> реального человека
Эмбединги дрочи, не нужна тебе лора.
git же, какие ещё варианты? Выгрузка на huggingface прилагается.
В лучших традициях сего заведения, не приходя в чужой монастырь со своим уставом, намерен иметь честь осмелиться заявить, что в таком случае ШАПКА - ГОВНО!
Слишком увлекся. Расслабься. Бывает
Спасибо, попробую
Хагингфейс на сдохнет от такого количества инфы? Там есть ограничения по объему?
Нету
Ушел сливать туда все с харда
git lfs? Разе обычный гит позволяет нормально бинарные файлы хранить типа картинок?
> Разе обычный гит позволяет нормально бинарные файлы хранить типа картинок?
Естественно.
Попробуй версию по старее, до 0.4.0 как минимум.
Новая делает как-то не так, но все равно в целом справляется обычно.
Пробуй поменьше. 5-20 где-то.
Пытаюсь развить концепцию сруни, пруни или как там его.
Дано:
[[sexy (curvy) | girl body] anime girl | (beautiful face (detailed eyes, detailed face))]
Не будем о том, как оно помогает позитив промту, но при этом действительно весит 1 токен и в целом читается. Для позитива этот вес мало что значит. Другое дело для негатива, было бы неблохо запихать много понятной инфы в один токен.
Пробую негатив (пик1):
[[ugly (fat) | body] mutation | (bad face (bad eyes, bad hair))]
Пик2: без негатива.
Пик3: то же, разбитое запятыми.
Вроде неплохой результат для одного токена?
Чего дальше: можно распихать всю здоровую пасту для негативов подобным образом, но я совсем хз насчет структуры.
Дано:
[[sexy (curvy) | girl body] anime girl | (beautiful face (detailed eyes, detailed face))]
Не будем о том, как оно помогает позитив промту, но при этом действительно весит 1 токен и в целом читается. Для позитива этот вес мало что значит. Другое дело для негатива, было бы неблохо запихать много понятной инфы в один токен.
Пробую негатив (пик1):
[[ugly (fat) | body] mutation | (bad face (bad eyes, bad hair))]
Пик2: без негатива.
Пик3: то же, разбитое запятыми.
Вроде неплохой результат для одного токена?
Чего дальше: можно распихать всю здоровую пасту для негативов подобным образом, но я совсем хз насчет структуры.
И в результате запятые выигрывают, лол
А они и должны выигрывать, но с запятыми рабочий негатив будет в разы меньше.
Но в чем смысл большого негатива, если запятые его побеждают? Я пока не вижу профита.
В негативе так и так будет здоровое полотно, но с запятыми оно сожрет доступные токены на первых двух строчках если позитив в пределах 75 токенов, остальное просто не подхватится. А способ с [ | ] перебором уменьшит силу каждого выражения, но задействует всё. При этом самое важное можно всё еще дать через запятые, а остальное влезет в десяток токенов.
Что за монструозный промпт ты там пытаешься впихнуть?
Да чего монструозного, огромные негативы были дефолтом. До того, как перестали работать из-за лимита токенов.
Почему у меня dreambooth автоматически проставляет cpu only ссылаясь на то, что у меня меньше 10 гб видеопамяти, несмотря на то, что я, по совету гайда скачал старую версию с заменой файлов?
В папку со скриптом кидать?
Нет, он самодостаточный
>gui
Зачем? Неудобно
И жрет врам
Это тебе gpt помог?
Одну строчку написать
ТАМ ВИШМАСТИР1111
Анон, важный вопрос.
Как правильно файнтьюнить модель в Dreambooth на больших датасетах?
Как правильно файнтьюнить модель в Dreambooth на больших датасетах?
Пиздец :) Ну собери из кода сам, там одна зависимость только
Наше дело предложить!
11 мегабайт
Насколько больших?
Шустро ты
Да я сам охуел. Самое пердольное это букофками писать где какая кнопочка/вкладочка находится, я бля думал в 21 веке уже таким не занимаются
Ты уже знаком был до питона с ООП? Писал на каком то языке?
1000-5000 пикч.
а как анимации делоть
> Ты уже знаком был до питона с ООП?
Ну так чутка совсем. В C# ковырялся с ним пытался понять зачем этим классы нужны, но так и не нашёл применения. И тут тоже самое, код тупейший конечно, мне кажется если бы я понимал ооп и как его применять, у меня кода было бы в 5 раз меньше, и написал бы этот гуй за полдня
> Писал на каком то языке?
Я "много" языков знаю, но везде одинаковая картина примерно была, это прочитать про if/else, узнать как объявлять функции а потом благополучно забить
> Я "много" языков знаю, но везде одинаковая картина примерно была, это прочитать про if/else, узнать как объявлять функции а потом благополучно забить
Жиза
мимо вчерашний паскаледебил
Я сейчас треню датасет из ~2300 Пепе. Пикрилейтеды - после 20 эпох на lr 5e-7. Выглядит недотренено, так что я еще на 20 эпох поставил недавно.
Датасет отсюда спарсил: https://www.memeatlas.com/pepe-memes.html
Второй пепич охуенен, забрал.
Моделью потом поделишься?
> 5e-7
Как вообще примерно почувствовать сколько нужно lr ставить?
> 20
Это примерно сколько шагов для Unet?
А, и разумеется, для каждой пикчи должен быть отдельный промпт.
>Как вообще примерно почувствовать сколько нужно lr ставить?
Смотри и ответы. Также https://huggingface.co/blog/dreambooth
>Это примерно сколько шагов для Unet?
Размер одной эпохи равен размеру датасета. Если у тебя 1000 пикч, то 20 эпох это 1000 * 20 = 20000 шагов. Да, и я треню text encoder тоже, не только unet.
Если не забуду.
Еще неплохо генерировать промежуточные результаты по мере тренировки модели. Ну или хотя бы сохранять промежуточные модели, и вручную генерировать на них. Проверяешь, насколько хорошо модель запомнила датасет - можно скопипастить один из промптов из него, а также стоит посмотреть на "редактируемость" - насколько хорошо генерируются новые ситуации, которых в датасете нет.
> А, и разумеется, для каждой пикчи должен быть отдельный промпт.
Не проблема, я картинки скриптом с бур подтягиваю.
> Размер одной эпохи равен размеру датасета. Если у тебя 1000 пикч, то 20 эпох это 1000 * 20 = 20000 шагов.
20 000? Нормально. Главное тут с lr не проебаться.
> Да, и я треню text encoder тоже, не только unet.
В случае бур, CLIP тренить нужно немного. В случае аниме-моделей CLIP и так знает все теги.
Алсо, спрашивал одного анона, он наоборот говорит, что нейронку кормить тысячами пикч не нужно. Достаточно 50 картинок на концепт. Пробовал эти концепты, вообще не почувствовал, что что-то изменилось.
>Достаточно 50 картинок на концепт.
Смотря какой концепт. Для одного персонажа мб и ок. Но если что-то более абстрактное вроде ситуации, то маловато. Ну и результат у меня на маленьких датасетах получается либо статичный и плохо редактируется, либо недотрененный. Хотя 50 это еще куда ни шло.
> Для одного персонажа мб и ок
Для одного художника.
Короче, я так понял, натренерировать свою собственную модельку можно, но нужны долгие дни экспериментов.
Хало гайс
Сколько обычно нужно изображений для лоры для качественного и точного результата?
Сколько обычно нужно изображений для лоры для качественного и точного результата?
Это цикличная штука. Запустил, проверил, поправил, запустил снова. Ну и по ходу еще смотришь, иногда рано останавливаешь и правишь. Общее количество времени на весь процесс зависит от скорости железа и твоего опыта.
База: для датасетов нужны качественные изображения с качественными тегами. Чем больше - тем лучше.
Переделал выход в консоль, теперь виден прогресс обучения! Также больше не должно быть ошибок, связанных с неправильными аргументами
https://github.com/anon-1337/LoRA-train-GUI/releases/tag/v0.15
https://github.com/anon-1337/LoRA-train-GUI/releases/tag/v0.15
А можно сделать вывод тестовых изображений в процессе обучения? Как в дополнении на автоматика.
> Это цикличная штука. Запустил, проверил, поправил, запустил снова.
Ну это да.
Но вообще в моем случае сложно оценивать. Модель и так неплохо понимает нужный мне объект. Но хотелось бы еще лучше, если это возможно. Впервую очередь хотелось бы, чтобы модель переняла бы стиль художников, которые рисуют нужный мне объект.
> Общее количество времени на весь процесс зависит от скорости железа и твоего опыта.
Ну так это всегда базой было. Просто в случае с диффьюженами они стали настолько эффективны, что требуют не так много данных для файнтьюна.
Это должен китаец у себя реализовать. Я лишь сделал обертку чтобы не ебаться с циферками в блокноте каждый раз. Больше я ни на что не способен
Раз уж заговорили про сбор датасетов с бур.
https://github.com/mikf/gallery-dl/ - Консольная программа для скачивания картинок с большого количества сайтов.
Поддерживает кучу бур, pixiv, твиттеры, реддиты, kemono.party и не только: https://github.com/mikf/gallery-dl/blob/master/docs/supportedsites.md
Для запуска нужно передать gallery-dl ссылку на то, что вы пытаетесь выкачать. Например, для https://danbooru.donmai.us/posts?tags=overgrown+forest будет:
gallery-dl "https://danbooru.donmai.us/posts?tags=overgrown+forest"
С флагом --write-tags она сохранит и теги каждой картинки в файлы рядом с ними:
gallery-dl --write-tags "https://danbooru.donmai.us/posts?tags=overgrown+forest"
Штош, поехали багрепорт?
Поставь в настройки лернин рейтов разрядность больше, а то ниже 0.001 не ставится, 3 знака после запятой какие-то константные.
А еще когда крутишь эти поля кнопками + и -, то значения крутятся по 0.1, надо по меньшему разряду.
А еще желательно сделать что бы когда кликаешь в поля лернин рейтов, то строка в них не выделялась полностью.
А еще значение клип скипа и слайдер клип скипа одного цвета, цифру практически не видно.
> Поставь в настройки лернин рейтов разрядность больше, а то ниже 0.001 не ставится, 3 знака после запятой какие-то константные.
Интересно, хорошо, поправлю. Можешь пока попробовать писать значения типа 1-e4, тоже работать по идее
> А еще когда крутишь эти поля кнопками + и -, то значения крутятся по 0.1, надо по меньшему разряду.
Исправлю
> А еще желательно сделать что бы когда кликаешь в поля лернин рейтов, то строка в них не выделялась полностью.
Гляну если это позволяет сделать библиотека, если да то исправлю
> А еще значение клип скипа и слайдер клип скипа одного цвета, цифру практически не видно.
Да, стоит поменять
К слову есть немного обновленная версия: https://github.com/anon-1337/LoRA-train-GUI/releases/tag/v0.15
Из перечисленного тобой ничего не изменено, но на случай если ошибки из-за пробелов в пути или еще какая хрень, в этой версии этого быть не должно
О, полезная вещь, схронил.
Вдогонку, не можешь сделать чекбокс для отключения передачи параметра альфы? А то у меня старая версия, на которой все работает без нанов. Или там в новых версиях скрипта у кои не только это из интерфейса поменялось?
примерно так собирались первые датасеты для всяких вайфу/хентай/левд/фурри диффужинов. Поэтому у них модели со спидозной анатомией, где хоть как промпт используй, получается монструозное говнище. Эти тэги, по хорошему, надо чистить от всевозможной параши, того же absurdres, которыйникак не отвечает за качество, а только за размер полотна, tagme и прочего неинформативного говнеца, а арты фильтровать, чтоб совсем днище не попало в треньку.
>Эти тэги, по хорошему, надо чистить от всевозможной параши
На е621 это, кстати, проще всего - там мусорные теги лежат отдельно от полезных.
Хорошо, сделаю. Если значение пустое, то не передавать аргумент вообще сделаю. Из нового в 0.4.0 кроме этого если и есть что-то, то не такое важное
Спасибо от лица не обновлявшихся, буду ожидать
Жаль создатели каловых yiffy-e18 и Furry_epoch4 тебя не слышат, такое чувство, что они тупо сгрузили весь дамп сайта на обучение, так как что-то годное на них сгенерить крайне трудно, их косоебит от 3d до карандаша/от HD до всратой каляки детей через раз.
Пожалуйста, можешь сохранить другим флагом метаданные. Danbooru в отдельном поле держит те же general tags, можешь выцепить оттуда без кучи метатегов.
>Жаль создатели каловых yiffy-e18 и Furry_epoch4 тебя не слышат, такое чувство, что они тупо сгрузили весь дамп сайта на обучение
Скорее всего.
Подскажите вебуи на нодах (аля unrial engine или blender), недавно видел в треде, но не могу найти.
Алсо, было бы очень хорошо, если бы настройки вкладки можно было бы записать и прочитать в файл/из файла. Ну файл настроек короче. Или каким-либо другим образом организовать их перенос между версиями и сохранение. Это засейвит много человекочасов.
Спасибо;)
Да, это следующее в списке. Надеюсь справлюсь)
Давай там, ток отдыхать не забывай. А то от длительного кодинга мозг вытекает.
>лимит токенов
У меня была идея насчет токенизации для буровских тегов, чтобы на один тег был один токен. Но дальше идеи это никуда не ушло, потому что у меня даже близко нет ресурсов, чтобы натренить модель хотя бы до уровня WD. А зафайнтюнить существующую модель вряд ли получится, потому что они привязаны к обычному токенизатору. Скорее всего, придется с нуля тренить.
как граббером спиздить картинки с санкакукоплекс? не получается приконектить.
Сайт у тебя заблочен? Каким грабером пытаешься? Я юзаю галлери-дл, там через проксю можно закачивать.
сначала надо у каждого художника спросить разрешение на добавление каждой ег работы в датасет
Эта хрень не взлетела, если кому интересно. Первые удачные тесты были рандомом, в формах типа [A | B] негатив читает только первое слово.
Легче забыть про него, там админ петушара столько анальных ограничений нагородил что пиздец. Чего стоит недавние ограничение просмотра дальше n страниц и лимит на использование р18 тегов, а еще раньше ограничение запросов по времени. Когда-нибудь у него случится заслуженный рак жопы за всю эту херню.
И когда-нибудь я выкачаю оттуда все что надобавлял в избранное
В ишьюсах граббера как-то решили проблему костыльно, но хз, я не разбирался
https://github.com/Bionus/imgbrd-grabber/issues/2808
у тебя и всех воров случится рак жопы
Сдрисни нахуй обратно в загон, и свои охуительные позиции по важным вопросам выражай одноклассникам.
Как ты сюда попал то бля? Тред 2 дня тонет, но ты пришел срать сюда, а не в найфу, да еще и посты мониторишь. Шиза
>у тебя и всех воров
А у кого что пропало????
не забанен, граббер из шапки. https://github.com/Bionus/imgbrd-grabber
ладно, давно не заходил, не знал что таким уебанством стало. жаль конечно т.к. был самый лучший сайт в плане контента.
и хуйдожник которого хотел спиздить есть только на пиксеве и на санкаку, придётся пиздить с пиксева и тренить без тегов.
> придётся пиздить с пиксева и тренить без тегов.
Что мешает самому расставить теги или на крайняк интеррогатором?
лень
Что поменять в настройках тренировки, если лора обучилась слишком хорошо и её вес не удается уменьшить, чтобы действовали веса из основной модели?
Вот сделал я себе персонажа, все кайфово, но если я хочу, чтобы он был, например, в спальной комнате или на открытом воздухе, то это отрисовывается крайне слабо, либо что-то из дата-сета корявое. Если уменьшаю вес до 0.5, тогда и персонаж теряется. Взять более раннюю эпоху в этом плане эффективнее, но не всегда, ибо в ней все так же персонаж прорисовывается куда хуже.
1 пик - 20 повторений на пикчу
2 пик - 12 повторений на пикчу
1e-4, cosine_with_restarts
Вот сделал я себе персонажа, все кайфово, но если я хочу, чтобы он был, например, в спальной комнате или на открытом воздухе, то это отрисовывается крайне слабо, либо что-то из дата-сета корявое. Если уменьшаю вес до 0.5, тогда и персонаж теряется. Взять более раннюю эпоху в этом плане эффективнее, но не всегда, ибо в ней все так же персонаж прорисовывается куда хуже.
1 пик - 20 повторений на пикчу
2 пик - 12 повторений на пикчу
1e-4, cosine_with_restarts
Сумрачный реддитовый гений не перестает удивлять. Завтра попробую такой вариант.
https://www.reddit.com/r/StableDiffusion/comments/10lzgze/i_figured_out_a_way_to_apply_different_prompts_to/
https://www.reddit.com/r/StableDiffusion/comments/10lzgze/i_figured_out_a_way_to_apply_different_prompts_to/
Ну, а результат-то где?
Спроси у автора. Я ещё только устанавил.
То есть он не приложил пруфов, что это работает? Ок.
>вайфу/хентай/левд/фурри
Мне вот интересно, F222 протегана с бур или БЛИПом. Инстаграм, как я понимаю, протеган с бур, потому что тохоебы.
Вопрос года. Ничего ты в настройках не поменяешь, все так и останется. Это видимо датасет такой, нередактируемый. Есть еще два стула: тренировать с регами и из натрененной лоры избирательно выкидывать блоки (сейчас легко реализуемо через нативные лоры у автоматика+ расширение https://github.com/ashen-sensored/sd-webui-runtime-block-merge , позволяющее править блоки прямо во время инференса) в слепой надежде вышибить фон куском. Стулья натурально как в притче, со всеми стулофичами.
Третий стул - он ровный самый: добавить в датасет отфотошопленных/пропущенных через имгтуимг картиночек с персом на разных охуенных фонах/ в разной гамме. Вот его рекомендую от души. Но мы же здесь пердоли-аутисты, мы не ищем легких путей.
0.3.1 версия мокрописи короче рабочая, уже вторая лора вышла рабочей подряд. Использую настройки 1060 анона, и его скрипт версии 1.06. На одного персика мне спокойно хватает 50 пиков.
Капшены спавнит теггер от вайфудифужена.
На 0.4.0 ничего у меня не работает, кал. Зачем только обновляли?
используй инпеинт
попробуй также метод 75 чанков
На колаб лорку загрузить реально?
Да, можно через их файловый браузер, но очень долго. Сначала на Хаггингфейс, а потом оттуда вгетом быстрее.
этачо лол? вместо редактирования через блакнотик типа лучше программу какуюто скачать?
tolsto
наонец-то ПЕРЕКАТ
Вроде нормально катанул в этот раз
Вроде нормально катанул в этот раз
ГАЙДЫ ПО ОБУЧЕНИЮ
Существующую модель можно обучить симулировать определенный стиль или рисовать конкретного персонажа.
Текстуальная инверсия (Textual inversion) может подойти, если сеть уже умеет рисовать что-то похожее:
https://rentry.org/textard (англ.)
Гиперсеть (Hypernetwork) может подойти, если она этого делать не умеет; позволяет добавить более существенные изменения в существующую модель, но тренируется медленнее:
https://rentry.org/hypernetwork4dumdums (англ.)
Dreambooth – выбор 24 Гб VRAM-бояр. Выдаёт отличные результаты. Генерирует полноразмерные модели:
https://github.com/nitrosocke/dreambooth-training-guide (англ.)
LoRA – "легковесный Dreambooth" – подойдет для любых задач. Отличается малыми требованиями к VRAM (6 Гб+) и быстрым обучением:
https://rentry.org/2chAI_LoRA_Dreambooth_guide
Text-to-image fine-tuning для Nvidia A100/Tesla V100-бояр:
https://keras.io/examples/generative/finetune_stable_diffusion/ (англ.)
Бонус. Text-to-image fine-tuning для 24 Гб VRAM:
https://rentry.org/informal-training-guide (англ.)
- Гугл колабы -
Текстуальная инверсия: https://colab.research.google.com/github/huggingface/notebooks/blob/main/diffusers/sd_textual_inversion_training.ipynb
Dreambooth: https://colab.research.google.com/github/TheLastBen/fast-stable-diffusion/blob/main/fast-DreamBooth.ipynb
- Полезное -
Гайд по фиксу сломанных моделей: https://rentry.co/clipfix (англ.)
Гайд по кручению весов слоев моделей: https://rentry.org/mp2dt
Гайд по апскейлу: https://rentry.org/SD_upscale
Расширение для WebUI для проверки "сломаных" тензеров модели: https://github.com/iiiytn1k/sd-webui-check-tensors
Подборка мокрописек от анона: https://rentry.org/te3oh
Группы тегов для бур: https://danbooru.donmai.us/wiki_pages/tag_groups (англ.)
Огромное количество ссылок на гайды с форча: https://rentry.org/sdg-link (англ.)
Коллекция лор от анонов: https://rentry.org/2chAI_LoRA (заливать лоры можно сюда https://technothread.space/ пароль 2ch)