Ноут s3_stacked_dae_09.ipynb

Реализация sampling-а. Сначала показывает какую-то картинку, которая наведёт активации в top-level слое StackedDAE. После этого сверху-вниз сэмплим картинку. Каждый раз получается немного разные картинки. Модель, которая лучше всего генерит картинки (чисто визуально), получена с помощью Salt-and-pepper noise и без bias. Тут видно, что модель как-бы “вспоминает”, что на месте чёрных линий может быть.

Пробовал генерить моделью с dropout 0.5 и без bias - получилось хуже гораздо. Забавно, что модель, которая прошла fine-tuning тоже сэмплит хуже (там тоже dropout был).