实验记录04.06.2023
sixwalter Lv6
  2023-04-06 00:00:00 2023-04-06 00:00      95 Words  1 Mins  

实验记录04.06.2023

实验一：改变融合方式

觉得单纯的求和没有有效融合场景全局信息，因此缓存如下先cat再全连接层融合的方式

image-20230406184714464

实验结果没有直接相加好：

image-20230406184851781

实验二：把全局信息作为decoder的query

image-20230407200944221

实验三：把全局信息与自适应query相加作为新的query

image-20230407201028003
  • Post title：实验记录04.06.2023
  • Post author：sixwalter
  • Create time：2023-04-06 00:00:00
  • Post link：https://coelien.github.io/2023/04/06/deep-learning/第一章/实验记录4.6/
  • Copyright Notice：All articles in this blog are licensed under BY-NC-SA unless stating additionally.
 Comments