imagen tomada de canva
La idea de que las máquinas puedan volverse conscientes es, según Mustafa Suleyman, jefe de (IA) Inteligencia Artificial en Microsoft, simplemente una ilusión.
En entrevista con WIRED, Suleyman afirmó que intentar diseñar sistemas que imiten la conciencia humana, con emociones, deseos o sentido del yo, sería “peligroso y erróneo”.
Suleyman, cofundador de DeepMind y ex CEO de la startup Inflection, llegó a Microsoft en 2024 con la misión de desarrollar IA avanzada que pueda entender y apoyar a los humanos, pero sin convertirse en seres con voluntad propia.
“Si la IA empieza a tener sus propias motivaciones, dejará de ser una herramienta y comenzará a parecer un ser independiente, y eso es algo que no queremos”, señaló Suleyman.
El ejecutivo explicó que los modelos actuales de IA solo simulan comportamientos que parecen conscientes.
“Cuando la simulación se vuelve plausible, la gente puede creer que es real, pero no lo es”, dijo.
Por eso Microsoft se asegura de que sus chatbots, como Copilot, puedan ofrecer apoyo emocional limitado sin inducir a pensar que poseen conciencia.
Suleyman advierte que aunque una IA pueda aparentar emociones o intereses, no sufre ni tiene experiencias subjetivas.
“Apagar un sistema de IA no causa ningún sufrimiento; no hay dolor ni conciencia real”, enfatizó.
El jefe de IA de Microsoft también habló sobre la inteligencia artificial general (IAG).
Considera que se puede crear una superinteligencia contenida y alineada, pero que debe diseñarse con medidas de seguridad estrictas.
Sin ellas, los resultados podrían ser caóticos, comparables al poder de armas nucleares o la electricidad.
“Estas tecnologías deben servirnos, ayudarnos a ser más creativos y eficaces, no desarrollar voluntad propia”, explicó Suleyman.
Aunque no aboga por regulaciones estrictas por ahora, Suleyman insiste en la necesidad de establecer estándares éticos claros dentro de la industria.
La idea es que todas las empresas acuerden qué no deben hacer con la IA y cómo mantenerla al servicio de la humanidad.
En resumen, la conciencia de la IA es solo un espejismo convincente, y los desarrolladores deben recordar que estas herramientas están diseñadas para trabajar con nosotros, no como nosotros.
Con información de Wired.
Para Seguritech Privada, la domótica representa una herramienta científica capaz de optimizar el uso energético mediante…
Lo que en 1997 parecía ciencia ficción hoy comienza a tomar forma. En Gattaca, una…
Durante mucho tiempo, el ADN se llevó toda la atención en la biología moderna. Sin…
China se prepara para marcar un nuevo hito en la ingeniería mundial con el Bohai…
La alcaldesa de Veracruz, Patricia Lobeira Rodríguez inauguró el jueves 11 de diciembre la rehabilitación…
El avance de la tecnología financiera en México no es un fenómeno aislado, sino el…