imagen tomada de canva
La idea de que las máquinas puedan volverse conscientes es, según Mustafa Suleyman, jefe de (IA) Inteligencia Artificial en Microsoft, simplemente una ilusión.
En entrevista con WIRED, Suleyman afirmó que intentar diseñar sistemas que imiten la conciencia humana, con emociones, deseos o sentido del yo, sería “peligroso y erróneo”.
Suleyman, cofundador de DeepMind y ex CEO de la startup Inflection, llegó a Microsoft en 2024 con la misión de desarrollar IA avanzada que pueda entender y apoyar a los humanos, pero sin convertirse en seres con voluntad propia.
“Si la IA empieza a tener sus propias motivaciones, dejará de ser una herramienta y comenzará a parecer un ser independiente, y eso es algo que no queremos”, señaló Suleyman.
El ejecutivo explicó que los modelos actuales de IA solo simulan comportamientos que parecen conscientes.
“Cuando la simulación se vuelve plausible, la gente puede creer que es real, pero no lo es”, dijo.
Por eso Microsoft se asegura de que sus chatbots, como Copilot, puedan ofrecer apoyo emocional limitado sin inducir a pensar que poseen conciencia.
Suleyman advierte que aunque una IA pueda aparentar emociones o intereses, no sufre ni tiene experiencias subjetivas.
“Apagar un sistema de IA no causa ningún sufrimiento; no hay dolor ni conciencia real”, enfatizó.
El jefe de IA de Microsoft también habló sobre la inteligencia artificial general (IAG).
Considera que se puede crear una superinteligencia contenida y alineada, pero que debe diseñarse con medidas de seguridad estrictas.
Sin ellas, los resultados podrían ser caóticos, comparables al poder de armas nucleares o la electricidad.
“Estas tecnologías deben servirnos, ayudarnos a ser más creativos y eficaces, no desarrollar voluntad propia”, explicó Suleyman.
Aunque no aboga por regulaciones estrictas por ahora, Suleyman insiste en la necesidad de establecer estándares éticos claros dentro de la industria.
La idea es que todas las empresas acuerden qué no deben hacer con la IA y cómo mantenerla al servicio de la humanidad.
En resumen, la conciencia de la IA es solo un espejismo convincente, y los desarrolladores deben recordar que estas herramientas están diseñadas para trabajar con nosotros, no como nosotros.
Con información de Wired.
La ambición espacial de Elon Musk acaba de cambiar de rumbo. Aunque durante años habló…
El agua sigue siendo uno de los mayores enemigos de los smartphones. Una caída accidental…
La tecnología ya no solo vuela drones o conduce autos: ahora también camina entre hileras…
Aunque suene a ciencia ficción, la lluvia sólida es real y lleva más de una…
La guerra en Ucrania ha sido escenario de múltiples innovaciones militares, pero lo que está…
Dejar el iPhone conectado toda la noche es una práctica común. Sin embargo, existe la…