..

Retrieval Papers Summary

ODQA 프로젝트는 상당히 재밌게 마무리한것 같다. 특히 retrieval 파트는 현재 LLM까지도 정말 활발하게 사용되는 기술이라고한다. Langchina이나 AutoRAG등 자동화된 rag기술들이 많지만 그래도 retrieval에대한 이해도를 높여두면 많은 도움이 될것같다.

Sparse Retrieval

TF-IDF

BM25

Dense Retrieval

Encoder structure

ColBert

in-batch negative 와 ANCE