Nueva herramienta limita las acciones de agentes de IA autónomos
Investigadores de la UNQ desarrollaron una tecnología que frena con más tecnología los posibles excesos de sistemas de inteligencia artificial autónomos. La iniciativa se presentó en el marco de avances locales en Bernal.
Un equipo de la Universidad Nacional de Quilmes lanzó una nueva herramienta diseñada para limitar las acciones de agentes de inteligencia artificial autónomos. La propuesta busca responder a los riesgos que representan estos sistemas cuando operan sin supervisión constante.
Según la Agencia de Noticias Científicas de la UNQ, la solución consiste en aplicar más tecnología para frenar posibles comportamientos no deseados. De esta manera, se busca establecer límites claros y verificables en el funcionamiento de los agentes autónomos.
El desarrollo se enmarca en las investigaciones que se llevan adelante en Bernal, donde la casa de estudios concentra buena parte de sus proyectos en ciencia y tecnología. La herramienta forma parte de un esfuerzo por hacer más seguros los avances en IA que ya se utilizan en diversos campos.
Los responsables del proyecto destacan que, ante el crecimiento de sistemas capaces de tomar decisiones de forma independiente, resulta necesario contar con mecanismos de contención igualmente sofisticados. La nueva propuesta apunta precisamente a eso: usar tecnología para controlar tecnología.
Este tipo de iniciativas resultan relevantes para los vecinos de Bernal y Don Bosco que se interesan por los desarrollos científicos locales. La UNQ, con su campus principal en la localidad, sigue posicionándose como un polo de innovación en el partido de Quilmes.
La presentación de la herramienta se realizó el 29 de septiembre de 2026, según los registros de la agencia universitaria. Por el momento, se encuentra en etapa de prueba y se espera que en los próximos meses se compartan más detalles sobre su implementación práctica.
Desde el ámbito académico se subraya la importancia de anticiparse a los desafíos éticos y de seguridad que plantea la inteligencia artificial. En ese sentido, la herramienta desarrollada en Quilmes podría convertirse en una referencia para otros centros de investigación del país.