Crédito: dominio público Unsplash/CC0
La inteligencia artificial (IA) juega un papel en prácticamente todos los aspectos de nuestras vidas, desde autos autónomos hasta aspiradoras inteligentes, modelos de computadora que pueden predecir el curso de una epidemia. No importa cuán avanzados sean estos sistemas de IA, siempre queda un cierto grado de imprevisibilidad sobre su comportamiento.
Thom Balings ha desarrollado un nuevo método para incluir esta incertidumbre en los algoritmos predictivos, de modo que se pueda lograr una solución segura. Su Ph.D. La defensa se lleva a cabo el 27 de marzo en la Universidad de Radboud.
Cuando un modelo de IA funciona bien, todo parece funcionar sin esfuerzo: el automóvil llega a su destino, el dron vuela sin chocar y las pronósticos económicos resultan ser completamente correctos. Pero en la práctica, los sistemas controlados por IA se encuentran con numerosas incertidumbres. El dron debe tener en cuenta las aves y el viento, y el auto autónomo debe poder evitar que las personas crucen repentinamente la carretera y las obras viales. Entonces, ¿cómo se asegura de que todo continúe funcionando “sin esfuerzo?”
Modelos de Markov
“Es por eso que mis colegas y yo desarrollamos métodos para garantizar la precisión y confiabilidad de los sistemas complejos con altos grados de incertidumbre”, explica Balings. “Muchos métodos existentes tienen dificultades para tratar esta incertidumbre. Requieren muchos cálculos, o se basan en suposiciones restrictivas, lo que significa que la incertidumbre no se tiene en cuenta adecuadamente. Nuestro método crea un modelo matemático de esa incertidumbre, por ejemplo, basado en datos históricos, de modo que una predicción precisa se puede hacer mucho más rápido”.
Un experimento numérico de uno de los documentos de Balings y colegas, en el que los investigadores calculan un controlador para el modelo de un dron que debe viajar de A a B (cuadrado verde). Este es un escenario con fuertes vientos. El dron toma una ruta diferente dependiendo de la fuerza del viento, lo que muestra que es realmente importante tener en cuenta la incertidumbre explícitamente. Crédito: Universidad de Radboud
El método de Balings se basa en sistemas de modelado en forma de modelos Markov, una categoría existente de modelos que a menudo se usan en ingeniería de control, IA y teoría de decisiones. “En un modelo de Markov, podemos incluir explícitamente la incertidumbre en parámetros específicos, por ejemplo, para la velocidad del viento o el peso de un dron. Luego conectamos el modelo de incertidumbre, como una distribución de probabilidad sobre estos parámetros, en el modelo Markov.
“Utilizando técnicas de la ingeniería de control y la informática, podemos probar si este modelo se comporta de manera segura, a pesar de la certeza en el modelo. De esta manera, puede obtener una respuesta exacta a la pregunta de cuál es la probabilidad de que su dron chocará con un obstáculo, sin tener que simular cada escenario por separado”.
Abrazar la incertidumbre
“El objetivo final no es eliminar la incertidumbre, sino adoptarla. Sabes que todo lo que haces implica incertidumbre, pero al modelarla de esta manera, lo haces parte de tu análisis. Los resultados que obtienes, por lo tanto, tengan en cuenta esa incertidumbre de manera mucho más completa que con los métodos existentes”.
Baletings advierte sobre los límites de este enfoque: “Si tiene una situación con muchos parámetros, sigue siendo costoso incluir toda la incertidumbre. Nunca puede eliminar por completo esa incertidumbre, por lo que aún tendrá que hacer ciertas suposiciones para obtener resultados significativos.
Según Balings, es importante utilizar técnicas de diferentes áreas de investigación al analizar sistemas con IA. “No se suspenda demasiado los resultados que obtiene de un modelo de IA como ChatGPT, pero use ideas de la ingeniería de control, la informática e inteligencia artificial para llegar a una solución robusta y segura”.
Proporcionado por la Universidad de Radboud
Cita: Este modelo de IA es más seguro sobre la incertidumbre (2025, 20 de marzo) Recuperado el 22 de marzo de 2025 de https://techxplore.com/news/2025-03-ai-uncertayty.html
Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.
