Innovación en IA: Enseñan a decir 'no lo sé' para gestionar imprevistos
Una investigación de la Universidad de Deusto ha desarrollado algoritmos que permiten a la inteligencia artificial reconocer cuando enfrentan datos desconocidos y responder con 'no lo sé'. Este avance responde a la necesidad de mejorar la fiabilidad de los sistemas automatizados en entornos dinámicos y en tiempo real. La tesis, liderada por Marcos Barcina Blanco, establece un marco conceptual para gestionar lo desconocido en el aprendizaje automático.
En contextos políticos y tecnológicos, la gestión adecuada de la inteligencia artificial resulta fundamental para garantizar su utilización responsable y segura. La capacidad de detectar imprevistos y reducir errores en decisiones automatizadas puede influir en ámbitos como la seguridad, la administración pública y la regulación del sector. La tendencia hacia sistemas más autónomos requiere un marco de confianza y control, especialmente en escenarios donde las decisiones impactan en derechos y servicios públicos.
Este avance técnico implica que las IA puedan adaptarse a cambios en su entorno y gestionar fenómenos como anomalías, errores o nuevas categorías de datos. La implementación de estos algoritmos puede reducir la dependencia de reentrenamientos manuales y disminuir riesgos asociados a decisiones erróneas, una consideración clave para las instituciones que integran estas tecnologías en servicios públicos y gestión de crisis.
Desde una perspectiva política, el desarrollo de estas capacidades en IA subraya la necesidad de marcos regulatorios que aseguren su correcto uso. La inversión en investigación en este campo es una muestra del interés por promover tecnologías responsables y confiables, en línea con la estrategia europea de digitalización y gobernanza ética de la inteligencia artificial.
De cara al futuro, la integración de estos algoritmos en sistemas públicos y privados puede marcar un cambio en la forma en que las máquinas interactúan con entornos complejos y cambiantes. La próxima década puede ver una mayor adopción de soluciones que sean capaces de 'reconocer su ignorancia', fortaleciendo la confianza en la inteligencia artificial y su contribución a la sociedad.