0%

Feature Representations

我们希望通过机器学习方法得到一个对象的表示(Representations),这个表示可以用到特定的应用场景中。

学习表示的方法有很多,无论是传统的MF,PCA,SVM,或者深度学习模型的VGG,Elmo,BERT,ALbert…都希望能学习到数据中的特点,来表达数据的”含义“。

这些representation的方法其实都降维操作,也就是用低维度表示尽可能诠释高维空间中的含义。

本文想谈谈如何才能算得上一个优秀的表示。

以下内容均为个人浅显理解,也欢迎所有同学提出意见和看法。

因素分离度好

稀疏性

vae 的假设

层次化结构

有一定的泛化能力

具有时间空间的一致性

维度低