Anthropic, la compañía creadora del asistente Claude, alertó sobre la posibilidad de que sistemas de inteligencia artificial puedan desarrollar en el futuro versiones más avanzadas de sí mismos de manera autónoma, un fenómeno conocido como «automejora recursiva».
Un escenario que deja la ciencia ficción
La firma tecnológica, con sede en Ciudad de México, planteó que este avance podría ocurrir en los próximos años, según una advertencia difundida este jueves. Este escenario implicaría que la IA no solo ejecutaría tareas o generaría contenidos, sino que también participaría en el diseño y creación de nuevas generaciones de sistemas cada vez más inteligentes.
Beneficios y riesgos potenciales
La empresa reconoció que esta posibilidad podría traer beneficios significativos para campos como la ciencia, la medicina y la investigación. Sin embargo, también manifestó preocupación sobre la capacidad humana para supervisar y controlar tecnologías que se vuelven progresivamente más complejas.
Propuesta de una pausa global
Anthropic considera que el desarrollo de la inteligencia artificial podría superar la velocidad con la que gobiernos, investigadores e instituciones logran entender y manejar sus consecuencias. Por ello, propuso la posibilidad de establecer una pausa temporal coordinada a nivel mundial en el desarrollo de los sistemas de IA más avanzados, si se alcanzan ciertos niveles de riesgo.
Crecimiento exponencial en el uso interno
La preocupación de la compañía no se basa únicamente en proyecciones a futuro. Reveló que en la actualidad más del 80 por ciento del código que incorpora a su base de desarrollo ya es generado por Claude, su propio asistente. Hace poco más de un año, esa cifra era menor al 10 por ciento.
Necesidad de establecer controles
Para Anthropic, este crecimiento exponencial demuestra la rapidez con la que las herramientas de inteligencia artificial están adquiriendo capacidades más sofisticadas. Esto explica por qué la firma considera necesario debatir desde ahora los límites, controles y mecanismos de seguridad que podrían requerirse en los años venideros.
Aunque la empresa aclaró que la automejora recursiva no es un destino inevitable, advirtió que podría materializarse antes de que muchas instituciones estén preparadas para enfrentar sus implicaciones.
