Los desafíos de contextualizar Modelos de Lenguaje de Gran Escala (LLMs, por sus siglas en inglés) para campos específicos son numerosos y variados, y surgen en gran medida debido a la vasta cantidad de datos requeridos, las complejidades inherentes a cada campo y las limitaciones técnicas asociadas con los propios modelos. Algunos de los desafíos más prominentes incluyen:
1. Disponibilidad y calidad de los datos: Para entrenar un LLM en un campo específico, se necesita una cantidad considerable de datos de alta calidad que sean representativos de ese dominio. Sin embargo, reunir, limpiar y etiquetar estos datos puede ser costoso y llevar mucho tiempo. Por ejemplo, en campos como la medicina o la ingeniería, los datos relevantes suelen estar sujetos a regulaciones estrictas de confidencialidad y propiedad intelectual, lo que dificulta su acceso (Mihaescu et al., 2020).
1. Ambigüedad y variabilidad terminológica: Cada campo específico tiene su propio conjunto de terminologías, acrónimos y jergas. Estas terminologías no solo varían entre campos, sino que también pueden diferir significativamente dentro del mismo campo dependiendo del contexto y la región. Por ejemplo, en finanzas, el término “swap” puede referirse a múltiples tipos de instrumentos financieros, lo que requiere que el modelo entienda y gestione estas diferencias contextuales (Chen et al., 2021).
1. Actualización y mantenimiento continuo: Los campos específicos, especialmente aquellos en constante evolución como la tecnología y la medicina, requieren que los LLMs se actualicen regularmente para reflejar los últimos desarrollos y descubrimientos. Mantener un LLM actualizado es un proceso continuo y exigente en términos de recursos (Brown et al., 2020).
1. Interpretabilidad y explicabilidad: En muchos campos, es crucial entender no solo las predicciones o respuestas de un LLM, sino también cómo y por qué llego a esa conclusión. Esto es especialmente importante en áreas como el derecho o la medicina, donde las decisiones basadas en inteligencias artificiales pueden tener consecuencias significativas (Doshi-Velez et al., 2017).
1. Bias y equidad: Todos los LLMs están sujetos a los sesgos presentes en los datos de entrenamiento. Cuando se contextualizan para un campo específico, es fundamental identificar y mitigar estos sesgos para asegurar que el modelo proporciona información precisa y justa. Esto es especialmente vital en áreas como la justicia penal o la salud pública, donde los sesgos pueden tener implicaciones éticas y sociales graves (Bender et al., 2021).
1. Performance y eficiencia: La adaptación de LLMs a campos específicos puede requerir recursos computacionales significativos, lo cual puede no ser viable para todas las organizaciones. Además, mejorar el rendimiento de un modelo en un campo específico a menudo implica compromisos en la eficiencia y escalabilidad del mismo (Strubell et al., 2019).
Ejemplos:
- Medicina: Watson for Oncology es un sistema de inteligencia artificial que utiliza IBM Watson y se ha utilizado para ayudar a los médicos en el diagnóstico y tratamiento del cáncer. Sin embargo, ha enfrentado desafíos en términos de integración de datos y adaptabilidad a diferentes contextos clínicos y poblaciones.
- Derecho: Casos como “RAVN ACE” utilizan LLMs para realizar revisiones de documentos legales y due diligence. Aun así, la necesidad de contextualizar el modelo para diferentes jurisdicciones y tipos de documentos sigue siendo un desafío significativo.
Referencias:
- Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). “On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?”. Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency.
- Brown, T. B., Mann, B., Ryder, N., Subbiah, M., Kaplan, J. D., Dhariwal, P., … & Amodei, D. (2020). “Language models are few-shot learners”. Advances in neural information processing systems, 33, 1877-1901.
- Chen, Q., Zhuo, W., Wang, Y., & Sato, I. (2021). “Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer”. Journal of Artificial Intelligence Research, 70, 1-15.
- Doshi-Velez, F., & Kim, B. (2017). “Towards a rigorous science of interpretable machine learning”. arXiv preprint arXiv:1702.08608
- Mihaescu, O., Swirsky, E., & Williams, S. M. (2020). “Ethics and Data in the AI Driven Medical Field”. ACM Computing Surveys, 53(1), 1-36.
- Strubell, E., Ganesh, A., & McCallum, A. (2019). “Energy and Policy Considerations for Deep Learning in NLP”. Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics, 3645-3650.
