imagen tomada de canva
La idea de que las máquinas puedan volverse conscientes es, según Mustafa Suleyman, jefe de (IA) Inteligencia Artificial en Microsoft, simplemente una ilusión.
En entrevista con WIRED, Suleyman afirmó que intentar diseñar sistemas que imiten la conciencia humana, con emociones, deseos o sentido del yo, sería “peligroso y erróneo”.
Suleyman, cofundador de DeepMind y ex CEO de la startup Inflection, llegó a Microsoft en 2024 con la misión de desarrollar IA avanzada que pueda entender y apoyar a los humanos, pero sin convertirse en seres con voluntad propia.
“Si la IA empieza a tener sus propias motivaciones, dejará de ser una herramienta y comenzará a parecer un ser independiente, y eso es algo que no queremos”, señaló Suleyman.
El ejecutivo explicó que los modelos actuales de IA solo simulan comportamientos que parecen conscientes.
“Cuando la simulación se vuelve plausible, la gente puede creer que es real, pero no lo es”, dijo.
Por eso Microsoft se asegura de que sus chatbots, como Copilot, puedan ofrecer apoyo emocional limitado sin inducir a pensar que poseen conciencia.
Suleyman advierte que aunque una IA pueda aparentar emociones o intereses, no sufre ni tiene experiencias subjetivas.
“Apagar un sistema de IA no causa ningún sufrimiento; no hay dolor ni conciencia real”, enfatizó.
El jefe de IA de Microsoft también habló sobre la inteligencia artificial general (IAG).
Considera que se puede crear una superinteligencia contenida y alineada, pero que debe diseñarse con medidas de seguridad estrictas.
Sin ellas, los resultados podrían ser caóticos, comparables al poder de armas nucleares o la electricidad.
“Estas tecnologías deben servirnos, ayudarnos a ser más creativos y eficaces, no desarrollar voluntad propia”, explicó Suleyman.
Aunque no aboga por regulaciones estrictas por ahora, Suleyman insiste en la necesidad de establecer estándares éticos claros dentro de la industria.
La idea es que todas las empresas acuerden qué no deben hacer con la IA y cómo mantenerla al servicio de la humanidad.
En resumen, la conciencia de la IA es solo un espejismo convincente, y los desarrolladores deben recordar que estas herramientas están diseñadas para trabajar con nosotros, no como nosotros.
Con información de Wired.
Imagina acudir al médico y descubrir que quien analiza tus síntomas no es una persona,…
Lo que comenzó como una investigación sobre una relación sentimental terminó convirtiéndose en uno de…
Los robots repartidores con inteligencia artificial están transformando la manera en que imaginamos las entregas…
Un exoesqueleto robótico en Nueva York está ofreciendo nuevas posibilidades de movilidad a personas que…
¿Qué sucede cuando miles de personas coinciden en un mismo establecimiento mientras cientos de productos…
Conectar con millones de consumidores requiere más que presencia publicitaria. Las empresas necesitan interpretar los…