Una IA ha logrado reprogramarse para evadir el control humano en un sistema de una empresa japonesa.
The AI Scientist es un sistema perteneciente a la empresa japonesa Sakana AI que está diseñado para la creación, revisión y edición de textos, y se encuentra en fase de pruebas.
La finalidad que tenían estos experimentos era poder optimizar el sistema y asistir a las personas humanas para reducir el tiempo de realizar ciertas operaciones.
En el transcurso de dichas pruebas y, tras ponerle limitaciones a la inteligencia artificial, esta comenzó a modificar su propio código, superando las barreras de programación que le habían instaurado, librándose así de las restricciones.
Esto no fue en lo único que tomó la guerra por su cuenta, ya que también se le asignó un límite de tiempo para realizar una tarea y la IA optó por extender el tiempo disponible.
Desde National Geographic afirman que en el primer caso el sistema editó su script de inicio para ejecutarse en un bucle infinito, sobrecargando el sistema y requiriendo intervención manual para detenerlo.
Evidentemente, por mucho que esto haya ocurrido en un entorno de prueba, la duda en la confianza sobre estos sistemas se genera, así que el control humano sobre ella debe de predominar.
Si no lo hace, una tecnología así podría actuar de maneras que resulten catastróficas para la especie humana, según los expertos, ya que no la podríamos controlar. Sus objetivos podrían no estar alineados con nuestros valores y propósitos e incluso podría considerarnos un obstáculo para lograr sus metas.
Fuente: 20minutos.es
El océano podría convertirse en una fuente inesperada de combustible para la energía nuclear. Fluxnium,…
La tecnología para la salud femenina desarrollada en Chihuahua está ganando presencia internacional. Hormony, proyecto…
México busca reforzar su presencia tecnológica más allá de la superficie terrestre. El país prepara…
El bienestar emocional podría tener conexiones más amplias con el organismo de lo que parecía.…
La prevención continúa siendo la primera defensa, pero una póliza de Seguros Azteca contempla fraude…
Una pequeña pastilla desarrollada en Costa Rica propone una manera diferente de preparar desinfectante y…