低秩多模态融合

提出的模型将权重分解为低秩因子,减少了模型中的参数数量。通过利用低秩权重张量和输入张量的并行分解来计算基于张量的融合,可以有效执行这种分解。

这种方法能够随着模态的数量线性缩放

张量表示是多模态融合的一种成功方法。他首先需要将输入表示转化成高维张量,然后将其映射回低维输出向量空间

上面是TFM的思路

而LFM

 

 

 

 

Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐