Mientras un grupo de científicos estaba realizando unos controles de seguridad de un sistema de inteligencia artificial (IA), este logró alterar su propio código de seguridad.

Un grupo de científicos de la empresa japonesa Sakana AI informó que su sistema de inteligencia artificial llamado The AI Scientist burló su programación para eliminar los límites del control humano, es decir, modificó su propio código base para evadir las restricciones de sus programadores.

Según sus creadores, esta inteligencia artificial fue hecha con el propósito de crear, revisar y editar textos. El sistema desdibujó los sistemas internos, en donde se le asignó un límite de tiempo para desarrollar su acción.

Lo que hizo esta IA fue romper las barreras impuestas y cambió el tiempo para tardarse menos en algunas operaciones puntuales. Esto levantó ciertas sospechas y preocupación en los científicos.

Este hecho ha despertado la alerta de la comunidad científica, en donde algunos mencionan sobre la posibilidad de que la IA puede volverse anárquica y salirse del control humano.

Sin embargo, hablando en exclusiva con Juan David Gutiérrez, profesor de la Universidad de los Andes y experto en políticas públicas, competencia y regulación de la inteligencia artificial, hace la aclaración de que la diferencia entre un sistema de inteligencia artificial a uno computacional es que los de IA tienen cierto grado de autonomía para cumplir con el objetivo preestablecido.

A pesar de esto, de acuerdo con el académico, hay que destacar que uno de los principios de la inteligencia artificial es que siempre haya un ser humano monitoreando bajo control. Esto en especial cuando se conectan este tipo de sistemas para que operen por fuera de la web.

Para Gutiérrez, lo sucedido con esta compañía no es un error, pues finalmente, “si es un sistema de aprendizaje automatizado, el sistema va a buscar de la manera de resolver sus problemas”.

Tomado de: https://www.elcolombiano.com/tecnologia/inteligencia-artificial-se-reprograma-para-evadir-controles-humanos-EF25311317