我们希望通过机器学习方法得到一个对象的表示(Representations),这个表示可以用到特定的应用场景中。
学习表示的方法有很多,无论是传统的MF,PCA,SVM,或者深度学习模型的VGG,Elmo,BERT,ALbert…都希望能学习到数据中的特点,来表达数据的”含义“。
这些representation的方法其实都降维操作,也就是用低维度表示尽可能诠释高维空间中的含义。
本文想谈谈如何才能算得上一个优秀的表示。
以下内容均为个人浅显理解,也欢迎所有同学提出意见和看法。
因素分离度好
稀疏性
vae 的假设