La creciente evidencia sobre la necesidad de intervención humana en la IA generativa destaca sus limitaciones para trabajar de forma autónoma. Aún requiere ajustes y correcciones humanas para lograr precisión y contexto adecuados, especialmente en tareas complejas. Esto sugiere que, por ahora, la IA es una herramienta de apoyo, no un reemplazo, en campos que demandan rigor. La supervisión humana sigue siendo esencial para garantizar resultados confiables y relevantes en su aplicación.

La documentación precisa es fundamental para la integridad y confiabilidad de una investigación, ya que asegura que los resultados sean verificables y reproducibles. Registrar cada etapa y dato con minuciosidad permite a otros investigadores comprender y validar el proceso seguido. Además, este compromiso ético refuerza la transparencia y facilita la construcción de conocimiento a partir de los hallazgos obtenidos, siendo esencial para el avance científico y la confianza en la investigación.

El texto plantea una situación relevante en la interacción entre humanos y modelos de lenguaje (LLMs) al destacar los riesgos de confiar en resúmenes generados por inteligencia artificial sin la verificación adecuada. La "amnesia" del modelo, o su omisión de parte de los datos, evidencia un problema común en el procesamiento de grandes volúmenes de información. Este ejemplo subraya la importancia de una supervisión humana constante en el uso de herramientas de IA, especialmente en contextos de alto impacto donde la precisión de la información es crucial.

Sin embargo, el texto podría profundizar en los mecanismos específicos que llevan a estos errores de los modelos de lenguaje y en cómo pueden afectar la confiabilidad general de las tecnologías de IA. Asimismo, podría abordarse el papel de la formación y responsabilidad de los usuarios al emplear estas herramientas, ya que confiar ciegamente en un modelo puede ser un reflejo de una falta de entendimiento sobre sus limitaciones. Por ejemplo, conocer los tipos de datos que un LLM tiende a procesar con mayor precisión o dónde suele presentar errores puede ayudar a los usuarios a hacer una verificación más focalizada.

La ética de la responsabilidad comunicativa especialmente en las humanidades, establece que cada persona debe validar la perspectiva del otro, mostrando respeto por la palabra dada reconociéndola en su contexto. En la interacción humana, la palabra no es solo un acto práctico, sino un elemento central en la cohesión social, de la cosmovisión y perspectiva del otro y los códigos automatizados carecen de la sensibilidad y la persepctiva crítica del investigador social.