https://arxiv.org/abs/2110.06393 1. どんなもの？ QA タスクで用いられる reader において生成型・抽出型の比較。 2. 先行研究と比べてどこがすごい？ システマチックな比較としては初の試み（アーキテクチャの違いやパラメータ数の違いから比較が困難であ…

https://arxiv.org/abs/2203.08372 1. どんなもの？ 文書を multi-view として表現する Dense Retrieval 手法を提案。SQuAD, NQ, TriviaQA における検索性能で SoTA を達成。 2. 先行研究と比べてどこがすごい？ 文書を一つのベクトルで表現する従来手法に対…

https://arxiv.org/abs/2203.07847 https://github.com/SAP-samples/acl2022-self-contrastive-decorrelation/ 1. どんなもの？ 自己教師の枠組みで文の類似表現を学習する Self-Contrastive Decorrelation (SCD) を提案。STS タスクにおいて、contrastive p…