Claro, puedo proporcionarte información sobre los principales proyectos de investigación recientes sobre bases de datos del tipo Retrieval-Augmented Generation (RAG). Estas bases de datos combinan técnicas de recuperación de información y generación de texto, y han ganado mucho terreno en el ámbito de la inteligencia artificial y el procesamiento del lenguaje natural.
1. RAG by Facebook AI Research (FAIR): Uno de los primeros y más reconocidos proyectos sobre RAG viene de Facebook AI Research (FAIR). En su artículo de 2020 titulado “Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks”, los investigadores presentaron un modelo que combina un sistema de recuperación y un generador de lenguaje basado en Transformers. La arquitectura utiliza un modelo BERT para la recuperación y un modelo BART para la generación de texto, lo cual permite un rendimiento superior en tareas como la respuesta a preguntas y la generación de texto contextualizado. – Fuente: Lewis, Patrick, et al. “Retrieval-augmented generation for knowledge-intensive nlp tasks.” arXiv preprint arXiv:2005.11401 (2020). [Enlace al artículo](https://arxiv.org/abs/2005.11401).
2. TREC (Text REtrieval Conference): Otro proyecto significativo es el TREC, que organiza competencias anuales sobre recuperación de información y cuenta con una especialización en taskas que utilizan técnicas de RAG. Ejemplos incluyen TREC Deep Learning Tracks que invitan a investigadores a emplear técnicas de generación y recuperación en conjunto para mejorar el desempeño en la clasificación de documentos y la recuperación de pasajes. – Fuente: Craswell, Nick, et al. “Overview of the TREC 2019 deep learning track.” arXiv preprint arXiv:2003.07820 (2020). [Enlace al artículo](https://arxiv.org/abs/2003.07820).
3. Dense Passage Retrieval (DPR): Google Research desarrolló el Dense Passage Retrieval (DPR), una metodología que mejora la eficiencia de la recuperación de información mediante técnicas de aprendizaje profundo. DPR es altamente relevante en el contexto de RAG porque permite la recuperación de pasajes densos que luego son utilizados para la generación de respuestas relevantes y precisas. – Fuente: Karpukhin, Vladimir, et al. “Dense passage retrieval for open-domain question answering.” arXiv preprint arXiv:2004.04906 (2020). [Enlace al artículo](https://arxiv.org/abs/2004.04906).
4. REALM (Retrieval-Augmented Language Model Pre-Training): Google también ha desarrollado el proyecto REALM, que preentrena un modelo de lenguaje utilizando técnicas de recuperación de información. REALM busca documentos relevantes para contextualizar y generar mejor respuestas, haciéndolo una herramienta poderosa en tareas de recuperación y generación de conocimiento. – Fuente: Guu, Kelvin, et al. “REALM: Retrieval-augmented language model pre-training.” arXiv preprint arXiv:2002.08909 (2020). [Enlace al artículo](https://arxiv.org/abs/2002.08909).
5. OpenAI Codex: Aunque no es un proyecto puramente de bases de datos de tipo RAG, el OpenAI Codex utiliza técnicas de recuperación y generación para contextualizar y completar código. Este modelo se nutre de vastas cantidades de datos de programación disponibles en repositorios públicos y utiliza estos contextos para generar código relevante a las consultas del usuario. – Fuente: Chen, Mark, et al. “Evaluating large language models trained on code.” arXiv preprint arXiv:2107.03374 (2021). [Enlace al artículo](https://arxiv.org/abs/2107.03374).
En resumen, los proyectos mencionados demuestran el avance continuo en la integración de técnicas de recuperación y generación de información, combinando lo mejor de ambos mundos para mejorar la precisión y relevancia de las respuestas en diversos dominios.
