imagen tomada de canva
La idea de que las máquinas puedan volverse conscientes es, según Mustafa Suleyman, jefe de (IA) Inteligencia Artificial en Microsoft, simplemente una ilusión.
En entrevista con WIRED, Suleyman afirmó que intentar diseñar sistemas que imiten la conciencia humana, con emociones, deseos o sentido del yo, sería “peligroso y erróneo”.
Suleyman, cofundador de DeepMind y ex CEO de la startup Inflection, llegó a Microsoft en 2024 con la misión de desarrollar IA avanzada que pueda entender y apoyar a los humanos, pero sin convertirse en seres con voluntad propia.
“Si la IA empieza a tener sus propias motivaciones, dejará de ser una herramienta y comenzará a parecer un ser independiente, y eso es algo que no queremos”, señaló Suleyman.
El ejecutivo explicó que los modelos actuales de IA solo simulan comportamientos que parecen conscientes.
“Cuando la simulación se vuelve plausible, la gente puede creer que es real, pero no lo es”, dijo.
Por eso Microsoft se asegura de que sus chatbots, como Copilot, puedan ofrecer apoyo emocional limitado sin inducir a pensar que poseen conciencia.
Suleyman advierte que aunque una IA pueda aparentar emociones o intereses, no sufre ni tiene experiencias subjetivas.
“Apagar un sistema de IA no causa ningún sufrimiento; no hay dolor ni conciencia real”, enfatizó.
El jefe de IA de Microsoft también habló sobre la inteligencia artificial general (IAG).
Considera que se puede crear una superinteligencia contenida y alineada, pero que debe diseñarse con medidas de seguridad estrictas.
Sin ellas, los resultados podrían ser caóticos, comparables al poder de armas nucleares o la electricidad.
“Estas tecnologías deben servirnos, ayudarnos a ser más creativos y eficaces, no desarrollar voluntad propia”, explicó Suleyman.
Aunque no aboga por regulaciones estrictas por ahora, Suleyman insiste en la necesidad de establecer estándares éticos claros dentro de la industria.
La idea es que todas las empresas acuerden qué no deben hacer con la IA y cómo mantenerla al servicio de la humanidad.
En resumen, la conciencia de la IA es solo un espejismo convincente, y los desarrolladores deben recordar que estas herramientas están diseñadas para trabajar con nosotros, no como nosotros.
Con información de Wired.
Patrimonio: Agua y Fuego abrió sus puertas en el Museo Universitario de Ciencias y Arte…
Seguritech asegura que los modernos centros C5 ya operan como auténticos “cerebros urbanos”, capaces de…
La centralización de la banca convencional ha dejado a millones de mexicanos sin acceso al…
Víctor González Herrera, CEO de Farmacias Similares y presidente ejecutivo del Grupo Por Un País…
La arquitectura financiera de las empresas modernas enfrenta un desafío sin precedentes. En un entorno…
DeepSeek V4 se ha convertido en una pieza clave para el desarrollo tecnológico de China,…