71) tied weights в автоэкондере

https://stats.stackexchange.com/questions/489429/why-are-the-tied-weights-in-autoencoders-transposed-and-not-inverted

Короче, смысл в том, что автоэнкодер так или иначе сам придёт ортонормальным весам, для которых $W = W^T$. Поэтому можно не тратить время, и тренить только одну матрицу вместо двух.

> To summarise, the optimal choice for $V$ is the right inverse of $W$. This equals $W^T$ only when $W$ has orthonormal rows, but this can become true during the optimisation process.

Тут, как натренить AE с shared весами в Keras https://medium.com/@lmayrandprovencher/building-an-autoencoder-with-tied-weights-in-keras-c4a559c529a2