实验记录04.08.2023
sixwalter Lv6

实验记录04.08.2023

实验四:加入交叉transformer模块

image-20230411124040825

第一次跑效果很差,改过学习率后收敛了,但效果没有baseline好:

image-20230411125230991

image-20230411123938596

实验五:加入transCls模块

这个模块我是在transformer的基础上使用它的cls token来作为群体行为的特征。

代码也改了挺多部分:

image-20230411125838876

目前正在训练:

image-20230413190311967

image-20230411144354152

达到了91.5%,目前感觉效果还可以

  • Post title:实验记录04.08.2023
  • Post author:sixwalter
  • Create time:2023-04-08 00:00:00
  • Post link:https://coelien.github.io/2023/04/08/deep-learning/第一章/实验记录4.7/
  • Copyright Notice:All articles in this blog are licensed under BY-NC-SA unless stating additionally.
 Comments