返回目录
公开知识笔记 · 不进入目录

待澄清知识点

公开知识笔记

待澄清知识点

待弄清:A3Net如何同时利用已知频率与大量未知位置训练,以及其中的0.5基线是否合理。

关联来源:矩阵内积解码与矩阵补全

原始公式

L=∥VΓ⊙(S^−S)∥F2+α∥VΛ⊙(S^−δE)∥F2\mathcal L= \left\|V_\Gamma\odot(\hat S-S)\right\|_F^2+ \alpha\left\|V_\Lambda\odot(\hat S-\delta E)\right\|_F^2

其中论文设定δ=0.5\delta=0.5、α=0.03\alpha=0.03。

待解决的三个问题

  1. 掩码怎样真正“选择位置”?

    • VΓV_\Gamma与VΛV_\Lambda在逐元素乘法和Frobenius范数中分别如何排除另一类位置?
    • 能否用一个2×32\times3的小矩阵手算完整损失?
  2. 为什么未知项要拉向0.5?

    • 已知频率标签是1—5级,而0表示未知;0.5从何而来?
    • 它是数值上的训练锚点、先验假设,还是有数据/理论依据?
    • 将未知项拉向0.5,会怎样影响对真正高频但未记录关系的预测?
  3. α=0.03\alpha=0.03为什么足够小、又是否足够小?

    • 未知项数量远多于已知项,0.03的单项权重累加后实际占多大影响?
    • 应怎样根据已知/未知项数量和损失大小,判断该权重是否会淹没真实标签?

当前理解(暂不作为结论)

  • 第一项对已知位置做监督拟合;第二项对未知位置施加弱正则化。
  • 0.5不应理解为未知位置的真实频率;其合理性及替代方案仍需进一步核对。
  • 可与正例-未标注学习比较:未知是否应被赋予固定回归目标,是核心建模选择。
待澄清知识点|每周札记