Ciudad de México, CDMX. - Pablo Martínez Olmos, investigador en Ingeniería de Telecomunicaciones y catedrático en la Universidad Carlos III, lidera el proyecto THAI, que busca otorgar a la inteligencia artificial una "cura de humildad". Este enfoque pretende que los sistemas de IA reconozcan cuando no saben algo o tienen dudas.
Martínez Olmos explica que la propuesta surge ante la frustración de los usuarios que reciben respuestas confiadas aunque erróneas. En lugar de esto, la IA debería indicar su nivel de certeza, permitiendo a los usuarios reformular sus preguntas o aportar más contexto. La aspiración no es crear una inteligencia artificial que sepa menos, sino que reconozca y comunique sus límites.
El investigador apunta que existen dos enfoques para el desarrollo de IA: uno centrado en aumentar la capacidad de los modelos mediante grandes volúmenes de datos, y otro, el suyo, enfocado en crear modelos más pequeños y especializados para áreas específicas como la medicina personalizada. Esta metodología permite entender mejor cuándo un sistema está seguro de una respuesta y cuándo tiene dudas.
La investigación se enfrenta al reto de las "alucinaciones", donde la IA puede ofrecer respuestas que suenan plausibles pero que son incorrectas, debido a su diseño basado en patrones estadísticos. “El sistema debería comunicar mejor sus límites, pero como usuarios también debemos mantener una actitud crítica hacia las respuestas que recibimos”, sostiene Martínez Olmos.
En contextos como la medicina, donde el conocimiento de la incertidumbre es crucial, estos modelos pueden ayudar a identificar biomarcadores o cambios en el comportamiento humano, resaltando la importancia de reconocer cuando la IA duda.
La necesidad de esta filosofía en la inteligencia artificial es cada vez más importante, especialmente en un mundo donde la tecnología avanza a un ritmo acelerado y sus aplicaciones se vuelven más complejas.
Con información de elespanol.com