当前位置: 首页 > news >正文

学习C2CRS Ⅱ (Contrastive Learning Pretraining)

代码地址:https://github.com/RUCAIBox/WSDM2022-C2CRS
论文地址:https://arxiv.org/abs/2201.02732

CoarseToFinePretrainModel模型结构与功能

CoarseToFinePretrainModel 主要用于对比学习(Contrastive Learning)的预训练任务。它通过结合用户表示和实体表示,分别在“粗粒度”(Coarse)和“细粒度”(Fine)两个层次上进行对比学习,以学习更好的表示。它通过以下模块实现:

  1. 损失函数:使用交叉熵损失函数 CrossEntropyLoss
  2. 对比学习:在用户级别(User Level)和实体级别(Entity Level)分别进行对比学习。
  3. 预训练策略:支持“粗粒度”和“细粒度”对比学习的组合,以及加权组合。

主要方法与逻辑

1. 初始化方法 (__init___build_model)
  • __init__
    • 接收一个配置对象 config
    • 调用

http://www.mrgr.cn/news/94081.html

相关文章:

  • MoonSharp 文档三
  • LINUX网络基础 [九] - IP协议
  • LINUX 磁盘和文件系统管理 (二)
  • 【redis】string应用场景:缓存功能和计数功能
  • Vue 侧边栏导航栏 el-menu单个item和多个item
  • 编译skia
  • linux | Vim 命令快捷操作
  • 【漫话机器学习系列】132.概率质量函数(Probability Mass Function, PMF)
  • 搜索 之 组合问题
  • 知识库全链路交互逻辑
  • Linux - 磁盘分区、挂载
  • 自动化测试介绍及学习路线
  • 【贪心算法3】
  • HTMLCSS绘制三角形
  • ubuntu20.04 使用linuxdeployqt打包一个QT程序
  • 数据结构(蓝桥杯常考点)
  • 学习知识的心理和方法杂记-03
  • 安卓Android与iOS设备管理对比:企业选择指南
  • 【LangChain】理论及应用实战(3)
  • java-单列模式-final-枚举