东吴证券：AI系列深度04期：什么是表征？

投资要点 表征是模型对现实世界信息形成的内部抽象表示，是人工智能进行理解、推理与预测的基础。表征学习质量直接影响下游任务上限，Bengio、Courville、Vincent等指出，机器学习效果很大程度取决于数据表示方式。我们将表征拆为三层：数据层的向量编码、模型层的中间特征、哲学层的意义承载问题。 表征技术演进可概括为四个阶段：符号AI依赖人工设计的离散符号和逻辑规则；特征工程依赖SIFT、HOG、TF-IDF等专家特征与浅层模型；深度学习通过神经网络端到端学习连续表征，AlexNet与Transformer是关键节点；基础模型进一步走向跨任务、跨模态统一表征空间，GPT-3、CLIP等是代表。AI范式迁移的底层线索，是机器记录与组织世界方式的变化。 围绕表征如何获得和承载，当前存在四组路线分歧：表征中心与生成中心，分别强调先学好表示或通过生成任务形成能力；符号表征与分布式表征，对应符号主义、连接主义及神经符号融合；离散表征与连续表征，对应token化和潜空间路线；显式世界模型与隐式潜空间，尤其在具身智能中体现为是否需要生成可见未来状态。 表征是否等于理解仍是开放问题。中文房间、符号