imagen tomada de canva
La idea de que las máquinas puedan volverse conscientes es, según Mustafa Suleyman, jefe de (IA) Inteligencia Artificial en Microsoft, simplemente una ilusión.
En entrevista con WIRED, Suleyman afirmó que intentar diseñar sistemas que imiten la conciencia humana, con emociones, deseos o sentido del yo, sería “peligroso y erróneo”.
Suleyman, cofundador de DeepMind y ex CEO de la startup Inflection, llegó a Microsoft en 2024 con la misión de desarrollar IA avanzada que pueda entender y apoyar a los humanos, pero sin convertirse en seres con voluntad propia.
“Si la IA empieza a tener sus propias motivaciones, dejará de ser una herramienta y comenzará a parecer un ser independiente, y eso es algo que no queremos”, señaló Suleyman.
El ejecutivo explicó que los modelos actuales de IA solo simulan comportamientos que parecen conscientes.
“Cuando la simulación se vuelve plausible, la gente puede creer que es real, pero no lo es”, dijo.
Por eso Microsoft se asegura de que sus chatbots, como Copilot, puedan ofrecer apoyo emocional limitado sin inducir a pensar que poseen conciencia.
Suleyman advierte que aunque una IA pueda aparentar emociones o intereses, no sufre ni tiene experiencias subjetivas.
“Apagar un sistema de IA no causa ningún sufrimiento; no hay dolor ni conciencia real”, enfatizó.
El jefe de IA de Microsoft también habló sobre la inteligencia artificial general (IAG).
Considera que se puede crear una superinteligencia contenida y alineada, pero que debe diseñarse con medidas de seguridad estrictas.
Sin ellas, los resultados podrían ser caóticos, comparables al poder de armas nucleares o la electricidad.
“Estas tecnologías deben servirnos, ayudarnos a ser más creativos y eficaces, no desarrollar voluntad propia”, explicó Suleyman.
Aunque no aboga por regulaciones estrictas por ahora, Suleyman insiste en la necesidad de establecer estándares éticos claros dentro de la industria.
La idea es que todas las empresas acuerden qué no deben hacer con la IA y cómo mantenerla al servicio de la humanidad.
En resumen, la conciencia de la IA es solo un espejismo convincente, y los desarrolladores deben recordar que estas herramientas están diseñadas para trabajar con nosotros, no como nosotros.
Con información de Wired.
La alimentación del futuro podría contar con una variedad cada vez mayor de fuentes de…
Vivir más años está cambiando las necesidades de salud en México. El aumento de la…
El gran espectáculo de las Perseidas no termina después de su noche más intensa. En…
Durante la administración municipal de la exalcaldesa Patricia Lobeira Rodríguez, el Puerto de Veracruz emprendió…
La curiosidad por descubrir qué existe más allá de lo conocido sirve como punto de…
Una de las franquicias más reconocibles de la ciencia ficción estadounidense prepara otro salto hacia…