东方财富网 > 研报大全 > 宏观研究报告正文
宏观研究报告正文

汽车行业点评报告:AI系列深度05期:模型如何学习表征并实现对齐?

www.eastmoney.com 东吴证券 黄细里 查看PDF原文

K图

  投资要点

  表征如何组织、如何学习、如何跨模态共享?嵌入、自监督学习和CLIP分别对应三层机制:嵌入是表征的工程形态,自监督是表征的规模化学习机制,CLIP和多模态对齐则让图像与文字进入同一语义空间。本篇位于“表征是什么”与CNN/ViT、Transformer等具体架构之间,是理解后续技术路线的基础环节。

  嵌入的本质,是把文本、图像、商品、用户等对象映射为数字向量,并使语义相近的对象在向量空间中距离更近。由此,搜索、推荐、以图搜图、向量数据库和RAG等应用,都可被理解为在高维向量空间中进行近邻检索。嵌入是抽象表征最可操作、最工程化的呈现方式。

  自监督学习是通用表征规模化形成的关键机制。该方法不依赖人工逐条标注,而是利用数据自身构造训练信号,通过掩码预测、对比学习、下一个token预测等任务学习上下文、语义和结构关系。BERT、MAE、GPT等路线任务形式不同,但均通过大规模自监督训练形成可迁移表征,这是预训练获得通用能力的重要基础。

  CLIP的意义在于把图像和文字对齐到同一表征空间。通过海量图文配对和对比学习,模型将正确配对的图文向量拉近、错误配对推远,使文字概念与对应图像在向量空间中自然接近。该机制成为图文检索、开放词表识别、文生图、视觉语言模型和多模态大模型的重要基础。

  从表征体系看,本篇补齐三类关键问题:嵌入回答表征如何被工程化表达,自监督回答表征如何在无标注或弱标注数据中形成,CLIP回答不同模态表征如何进入同一空间。

  我们认为,数字AI底座模型发展路径已逐渐清晰、价值在于确定性,但其难以实现物理世界的建模闭环;我们认为物理AI将成为物理世界的AI解决方案,从而在AI的当前发展阶段成为增量更大的方向,智能驾驶作为最先跑通闭环的代表场景,我们认为应重点关注。

  风险提示:技术迭代不及预期的风险,大模型厂商ARR增速放缓的风险,云服务商资本开支不及预期的风险,智能驾驶及机器人商业化落地不及预期的风险。

郑重声明:东方财富发布此内容旨在传播更多的信息,与本站立场无关,不代表东方财富观点。建议用户在阅读研报过程中,请认真仔细阅读研报里的风险提示、免责声明、重要声明等内容,用户据此操作风险自担。

数据来源:东方财富Choice数据

郑重声明:东方财富网发布此信息的目的在于传播更多信息,与本站立场无关。东方财富网不保证该信息(包括但不限于文字、视频、音频、数据及图表)全部或者部分内容的准确性、真实性、完整性、有效性、及时性、原创性等。相关信息并未经过本网站证实,不对您构成任何投资建议,据此操作,风险自担。

信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-61278686 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:4000300059/952500