Форум

[Slav]

[Rasty]

Ебусь

Короч, сча попробую сформулировать задачу, над которой уже вторую неделю мучаюсь

В обычной нейросети (персептроне), каждый нейрон связан со всеми входами через свои весовые коэффициенты (которые определяются во время обучения нейросети). Картиночку выше рисовал с одним нейроном:

[Slav]

Это не для среднего ума, жесть.

[Rasty]

Матрицу развертки пока не посчитал. Чтобы ее посчитать - надо очень много травы скурить. Но чисто поиграться - можно и без нее. Короч, схемка та же:

[Rasty]

Весьма забавная xуйня получается

Короче свёртка, всего одно ядро. На поверхности тора, естессно, как в клеточных автоматах - пиксели за левой границей берем на границе справа (для остальных границ - соответственно). Берем картиночку 2х2 пикселя. Делаем свертку. Дальше увеличиваем картиночку до 4х4 пикселей - делаем копию пикселя 4 раза в квадратике 2х2 вокруг пикселя. После нескольких итераций очень быстро уёбует в +-бесконечность, поэтому ставим ограничение (от балды) 16 сверху и -16 снизу.

Получаются вот такие зверушки:



Свертку делали с граничными условиями, поэтому зверушка находится на поверхности тора:



Крупным планом:



Если в ядре заменить один элемент на случайный:



Или на другой случайный:



Охуенно то, что таким же xуем можно сделать свертку в 3-х измерениях и третье использовать как время - тогда зверушки начинают двигаться. Пока хорошую зверушку в трех измерениях не нашел - гифку не из чего лепить. Можно туда генетический алгоритм прикручивать для поиска.

Spoiler: 3d нормально так выедает

[Slav]

xуй его знает как оно вот так вот у тебя получилось, но да, красиво смотриться)

[Rasty]

Интересно, почему никто до сих пор не догадался использовать клеточные автоматы вместо свертки

Эти две операции (свертка и клеточный автомат) очень сильно похожи. Только вот клеточный автомат можно очень неплохо так оптимизировать - там же по сути только побитовые сдвиги, в свертке же умножение, что более ресурсозатратно. Кроме оптимизации есть еще один плюс - в клеточном автомате не нужна функция активации. Там на выходе бинарные значения. В свертке же на выходе пропускают все выходные сигналы через функцию активации, чтобы значения не улетели в +- бесконечность. Есть, правда и недостаток - не очевидно (вероятно не только не очевидно, но и не возможно), как посчитать производную, чтобы обучить сеть обратным распространением ошибки. Но есть другие способы оптимизации. Генетический алгоритм тот же.

Картиночки сгенерированы тем же способом, что и выше, только с использованием клеточных автоматов вместо свертки:

Spoiler:

3D еще попробую сделать и буду пытаться слепить GAN (generative adversarial network) из этой xуйни. Лишь бы памяти хватило

у меня рубашка такая когда-то была

[Rasty]

в трех измерениях (каждый кадр - срез по оси Z):



Эт один из возможных 18014398509481984 клеточных автоматов, Конвеевского типа. Если считать вообще все возможные автоматы - их около 2^134217728.