24 декабря Архивач восстановлен после серьёзной аварии. К сожалению, значительная часть сохранённых изображений и видео была потеряна. Подробности случившегося. Мы призываем всех неравнодушных помочь нам с восстановлением утраченного контента!
Сортировка: за
Активный
37
Главный прорыв десятилетия! — Пару дней назад учёные из MIT представили революционную архитектуру глубокого обучения KAN, которая произвела фурор среди исследователей, став настоящей сенсацией. Говорят, что возможно это самый грандиозный прорыв в ИИ за последние 50 лет. Многие его окрестили, как Deep Learning 2.0 В основе всех архитектур, к которым мы привыкли, лежит многослойный перцептрон (MLP). У него есть веса и нейроны, в которых расположены функции активации. Этой парадигмой ученые пользуются с 1957 года, когда ее предложил Фрэнк Розенблатт. А что, если мы переместим функции активации на веса и сделаем из обучаемыми? Звучит как бред, но yes, we KAN. KAN (Kolmogorov-Arnold Networks) - новая парадигма, в которой исследователи реализовали перемещение активаций на «ребра» сети. Кажется, что решение взято из ниоткуда, но на самом деле тут зашита глубокая связь с математикой: в частности, с теоремами универсальной аппроксимации и аппроксимации Колмогорова-Арнольда. KAN работает намного точнее, чем MLP гораздо большего размера, и к тому же лучше интерпретируется. Авторы KAN доказали, что ему требуется во много раз меньше нейронов, чтобы достичь точности MLP. Также KAN гораздо лучше генерализует данные и лучше справляется с аппроксимацией сложных математических функций (мы увидели это на примерах), у него, можно сказать, "технический склад ума". В статье исследователи также показали, как KAN помогает решать дифференциальные уравнения и (пере)открывает законы физики и математики. Единственный минус: из-за обучаемых активаций тренится все это дело в разы дольше, чем MLP. Но это не точно, так как исследователи пока даже не пытались провести оптимизацию скорости обучения. Возможно сегодня мы наблюдаем рождение Deep Learning 2.0. Ведь такой подход меняет вообще все, от LSTM до трансформеров. Эпоха AGI теперь становится куда ближе. Тут подробнее простыми словами: https://datasecrets.ru/articles/9 Ссылка на препринт: https://arxiv.org/abs/2404.19756 Код тут: https://github.com/KindXiaoming/pykan
сегодня 2:56
Сохранен
52
Едешь в транспорте. На против тебя садится пикрил. Твои действия? — Едешь в транспорте. На против тебя садится пикрил. Твои действия?
1 июля 2021
Сохранен
608
НЕЙРОНОЧКИ И МАШОБ ТРЕД №38 /ai/ — Очередной тред про хипстерские технологии, которые не работают Я ничего не понимаю, что делать? Без петросянства: смотри программу стэнфорда CS229, CS231n https://see.stanford.edu/Course/CS229 (классика) и http://cs231n.stanford.edu/ (введение в нейроночки) и изучай, если не понятно - смотри курсы prerequisites и изучай их. Как именно ты изучишь конкретные пункты, типа линейной алгебры - дело твое, есть книги, курсы, видосики, ссылки смотри ниже. Почему тако
21 августа 2021
Сохранен
510
НЕЙРОНОЧКИ И МАШОБ ТРЕД 29 /ai/ /ai/ — Очередной тред про хипстерские технологии, которые не работают. Я ничего не понимаю, что делать? Вкатывальщики импортят slesarplow as sp по туториалам (хотя сейчас актуальнее keras и pytorch) Толковые качают из репозитория awesome-XXXX на гитхабе проект какого-то китайца, меняют фамилию и получают $10M инвестиций как стартап. Умные смотрят prerequisites на https://see.stanford.edu/Course/CS229 и http://cs231n.stanford.edu/ Остальные сидят ИТТ Какая мате
10 апреля 2021
Сохранен
502
НЕЙРОНОЧКИ И МАШОБ ТРЕД №30 /ai/ — Очередной тред про хипстерские технологии, которые не работают. Я ничего не понимаю, что делать? Вкатывальщики импортят slesarplow as sp по туториалам (хотя сейчас актуальнее pytorch) Толковые качают из репозитория awesome-XXXX на гитхабе проект какого-то китайца, меняют фамилию и получают $10M инвестиций как стартап. Умные смотрят prerequisites на https://see.stanford.edu/Course/CS229 и http://cs231n.stanford.edu/ Остальные сидят ИТТ Какая математика испол
15 апреля 2021
Сохранен
502
НЕЙРОНОЧКИ И МАШОБ ТРЕД №31 /ai/ — Очередной тред про хипстерские технологии, которые не работают. Я ничего не понимаю, что делать? Вкатывальщики импортят slesarplow as sp по туториалам (хотя сейчас актуальнее pytorch) Толковые качают из репозитория awesome-XXXX на гитхабе проект какого-то китайца, меняют фамилию и получают $10M инвестиций как стартап. Умные смотрят prerequisites на https://see.stanford.edu/Course/CS229 и http://cs231n.stanford.edu/ Остальные сидят ИТТ Какая математика испол
21 апреля 2021
Сохранен
503
НЕЙРОНОЧКИ И МАШОБ ТРЕД №33 /ai/ — Очередной тред про хипстерские технологии, которые заменили нам Иисуса Я ничего не понимаю, что делать? Вкатывальщики импортят slesarplow as sp по туториалам (хотя сейчас актуальнее pytorch) Толковые качают из репозитория awesome-XXXX на гитхабе проект какого-то китайца, меняют фамилию и получают $10M инвестиций как стартап. Умные смотрят prerequisites на https://see.stanford.edu/Course/CS229 и http://cs231n.stanford.edu/ Остальные сидят ИТТ Какая математик
3 мая 2021
Сохранен
756
НЕЙРОНОЧКИ И МАШОБ ТРЕД №35 /ai/ — Очередной тред про хипстерские технологии, которые не работают Я ничего не понимаю, что делать? Без петросянства: смотри программу стэнфорда CS229, CS231n https://see.stanford.edu/Course/CS229 (классика) и http://cs231n.stanford.edu/ (введение в нейроночки) и изучай, если не понятно - смотри курсы prerequisites и изучай их. Как именно ты изучишь конкретные пункты, типа линейной алгебры - дело твое, есть книги, курсы, видосики, ссылки смотри ниже. Почему так
13 мая 2021
Сохранен
621
НЕЙРОНОЧКИ И МАШОБ ТРЕД №36 /ai/ — Очередной тред про хипстерские технологии, которые не работают Я ничего не понимаю, что делать? Без петросянства: смотри программу стэнфорда CS229, CS231n https://see.stanford.edu/Course/CS229 (классика) и http://cs231n.stanford.edu/ (введение в нейроночки) и изучай, если не понятно - смотри курсы prerequisites и изучай их. Как именно ты изучишь конкретные пункты, типа линейной алгебры - дело твое, есть книги, курсы, видосики, ссылки смотри ниже. Почему тако
24 мая 2021
Сохранен
792
НЕЙРОНОЧКИ И МАШОБ ТРЕД №37 /ai/ — Очередной тред про хипстерские технологии, которые не работают Я ничего не понимаю, что делать? Без петросянства: смотри программу стэнфорда CS229, CS231n https://see.stanford.edu/Course/CS229 (классика) и http://cs231n.stanford.edu/ (введение в нейроночки) и изучай, если не понятно - смотри курсы prerequisites и изучай их. Как именно ты изучишь конкретные пункты, типа линейной алгебры - дело твое, есть книги, курсы, видосики, ссылки смотри ниже. Почему так
11 июня 2021
Сохранен
505
НЕЙРОНОЧКИ И МАШОБ ТРЕД 28 /ai/ — Очередной тред про хипстерские технологии, которые не работают. Я ничего не понимаю, что делать? Вкатывальщики импортят slesarplow as sp по туториалам (хотя сейчас актуальнее keras и pytorch) Толковые качают из репозитория awesome-XXXX на гитхабе проект какого-то китайца, меняют фамилию и получают $10M инвестиций как стартап. Умные смотрят prerequisites на https://see.stanford.edu/Course/CS229 и http://cs231n.stanford.edu/ Остальные сидят ИТТ Какая математика
5 апреля 2021
Сохранен
528
НЕЙРОНОЧКИ И МАШОБ ТРЕД №34 /ai/ — Очередной тред про хипстерские технологии, которые не работают Я ничего не понимаю, что делать? Вкатывальщики импортят slesarplow as sp по туториалам (хотя сейчас актуальнее pytorch) Толковые качают из репозитория awesome-XXXX на гитхабе проект какого-то китайца, меняют фамилию и получают $10M инвестиций как стартап. Умные смотрят prerequisites на https://see.stanford.edu/Course/CS229 и http://cs231n.stanford.edu/ Остальные сидят ИТТ Какая математика исполь
4 мая 2021
Сохранен
503
НЕЙРОНОЧКИ И МАШОБ ТРЕД №25 /ai/ — Очередной тред про хипстерские технологии, которые не работают. Я ничего не понимаю, что делать? Вкатывальщики импортят slesarplow as sp по туториалам (хотя сейчас актуальнее keras и pytorch) Толковые качают из репозитория awesome-XXXX на гитхабе проект какого-то китайца, меняют фамилию и получают $10M инвестиций как стартап. Умные смотрят prerequisites на https://see.stanford.edu/Course/CS229 и http://cs231n.stanford.edu/ Какая математика используется? В о
13 декабря 2020
Сохранен
531
НЕЙРОНОЧКИ И МАШОБ ТРЕД №26 /ai/ — Очередной тред про хипстерские технологии, которые не работают. Я ничего не понимаю, что делать? Вкатывальщики импортят slesarplow as sp по туториалам (хотя сейчас актуальнее keras и pytorch) Толковые качают из репозитория awesome-XXXX на гитхабе проект какого-то китайца, меняют фамилию и получают $10M инвестиций как стартап. Умные смотрят prerequisites на https://see.stanford.edu/Course/CS229 и http://cs231n.stanford.edu/ Остальные сидят ИТТ Какая математи
29 января 2021
Сохранен
514
НЕЙРОНОЧКИ И МАШОБ ТРЕД №32 /ai/ — Очередной тред про хипстерские технологии, которые не работают. Я ничего не понимаю, что делать? Вкатывальщики импортят slesarplow as sp по туториалам (хотя сейчас актуальнее pytorch) Толковые качают из репозитория awesome-XXXX на гитхабе проект какого-то китайца, меняют фамилию и получают $10M инвестиций как стартап. Умные смотрят prerequisites на https://see.stanford.edu/Course/CS229 и http://cs231n.stanford.edu/ Остальные сидят ИТТ Какая математика испол
29 апреля 2021
Сохранен
538
НЕЙРОНОЧКИ И МАШОБ ТРЕД №27 /ai/ — Очередной тред про хипстерские технологии, которые не работают. Я ничего не понимаю, что делать? Вкатывальщики импортят slesarplow as sp по туториалам (хотя сейчас актуальнее keras и pytorch) Толковые качают из репозитория awesome-XXXX на гитхабе проект какого-то китайца, меняют фамилию и получают $10M инвестиций как стартап. Умные смотрят prerequisites на https://see.stanford.edu/Course/CS229 и http://cs231n.stanford.edu/ Остальные сидят ИТТ Какая математи
5 марта 2021
Сохранен
512
НЕЙРОНОЧКИ И МАШОБ ТРЕД №22 /ai/ — Очередной тред про хипстерские технологии, которые не работают. Я ничего не понимаю, что делать? Либо в тупую import slesarplow as sp по туториалам, либо идти изучать математику курсы MIT тебе в помощь. Не нужно засирать тред вопросами типа "что такое сигма?". Какая математика используется? В основном линейная алгебра, теорвер и матстат, базовый матан calculus многих переменных. Что почитать для вкатывания? http://www.deeplearningbook.org/ | Николе
26 мая 2020
Сохранен
513
НЕЙРОНОЧКИ И МАШОБ ТРЕД №24 /ai/ — Очередной тред про хипстерские технологии, которые не работают. Я ничего не понимаю, что делать? Вкатывальщики импортят slesarplow as sp по туториалам (хотя сейчас актуальнее keras и pytorch) Толковые качают из репозитория awesome-XXXX на гитхабе проект какого-то китайца, меняют фамилию и получают $10M инвестиций как стартап. Умные смотрят prerequisites на https://see.stanford.edu/Course/CS229 и http://cs231n.stanford.edu/ Какая математика используется? В о
1 октября 2020
Сохранен
533
НЕЙРОНОЧКИ И МАШОБ ТРЕД №21 /ai/ — Очередной тред про хипстерские технологии, которые не работают. Я ничего не понимаю, что делать? Либо в тупую import slesarplow as sp по туториалам, либо идти изучать математику курсы MIT тебе в помощь. Не нужно засирать тред вопросами типа "что такое сигма?". Какая математика используется? В основном линейная алгебра, теорвер и матстат, базовый матан calculus многих переменных. Что почитать для вкатывания? http://www.deeplearningbook.org/ | Николе
27 апреля 2020
Сохранен
504
НЕЙРОНОЧКИ И МАШОБ ТРЕД №23 /ai/ — Очередной тред про хипстерские технологии, которые не работают. Я ничего не понимаю, что делать? Вкатывальщики импортят slesarplow as sp по туториалам (хотя сейчас актуальнее keras и pytorch) Толковые качают из репозитория awesome-XXXX на гитхабе проект какого-то китайца, меняют фамилию и получают $10M инвестиций как стартап. Умные смотрят prerequisites на https://see.stanford.edu/Course/CS229 и http://cs231n.stanford.edu/ Какая математика используется? В
17 августа 2020
Сохранен
609
НЕЙРОНОЧКИ И МАШОБ ТРЕД №16 /ai/ — Очередной тред про хипстерские технологии, которые не работают. Я ничего не понимаю, что делать? Либо в тупую import slesarplow as sp по туториалам, либо идти изучать математику курсы MIT тебе в помощь. Не нужно засирать тред вопросами типа "что такое сигма?". Какая математика используется? В основном линейная алгебра, теорвер и матстат, базовый матан calculus многих переменных. Что почитать для вкатывания? http://www.deeplearningbook.org/ | Николен
10 октября 2019
Сохранен
557
НЕЙРОНОЧКИ И МАШОБ ТРЕД №15 /ai/ — Очередной тред про хипстерские технологии, которые не работают. Я ничего не понимаю, что делать? Либо в тупую import slesarplow as sp по туториалам, либо идти изучать математику курсы MIT тебе в помощь. Не нужно засирать тред вопросами типа "что такое сигма?". Какая математика используется? В основном линейная алгебра, теорвер и матстат, базовый матан calculus многих переменных. Что почитать для вкатывания? http://www.deeplearningbook.org/ | Николен
8 августа 2019
Сохранен
526
НЕЙРОНОЧКИ И МАШОБ ТРЕД №14(не точно) /ai/ — неОчередной тред про хипстерские технологии, которые не работают. Я ничего не понимаю, что делать? Либо в тупую import slesarplow as sp по туториалам, либо идти изучать математику курсы MIT тебе в помощь. Не нужно засирать тред вопросами типа "что такое сигма?". Какая математика используется? В основном линейная алгебра, теорвер и матстат, базовый матан calculus многих переменных. Что почитать для вкатывания? http://www.deeplearningbook.or
16 июня 2019
Сохранен
513
НЕЙРОНОЧКИ И МАШОБ ТРЕД №12 /ai/ — Очередной тред про хипстерские технологии, которые не работают. Продолжаем спрашивать очевидные вещи, о которых знает любой индус, прочитавший хоть одну книгу по машобу. FAQ: Я ничего не понимаю, что делать? Либо в тупую import slesarplow as sp по туториалам, либо идти изучать математику курсы MIT тебе в помощь. Не нужно засирать тред вопросами типа "что такое сигма?". Какая математика используется? В основном линейная алгебра, теорвер и матстат, ба
23 января 2019
Сохранен
510
НЕЙРОНОЧКИ И МАШОБ ТРЕД №11 /ai/ — Очередной тред про хипстерские технологии, которые не работают. Продолжаем спрашивать очевидные вещи, о которых знает любой индус, прочитавший хоть одну книгу по машобу. FAQ: Я ничего не понимаю, что делать? Либо в тупую import slesarplow as sp по туториалам, либо идти изучать математику курсы MIT тебе в помощь. Не нужно засирать тред вопросами типа "что такое сигма?". Какая математика используется? В основном линейная алгебра, теорвер и матстат, ба
5 января 2019


жалоба / abuse: arhivach@airmail.cc

Отзывы и предложения