Le hicimos una pequeña entrevista a Chat GPT y Gemini, quizás los dos asistentes más famosos del mundo. Le preguntamos sobre las posibilidades de que ellos mismos borren a los humanos del planeta tierra. Sus respuestas preocupan.
Por: Rafael David Sulbarán. Periodista. No quiere que su chat lo asesine. No se comparía un Tesla volador
La Inteligencia Artificial podría matarnos. Por cierto, mientras escribo esto tengo el temor de que la computadora se cierre de golpe y me aplaste las manos o tal vez la batería de mi celular explote y me cause quemaduras graves. Por supuesto que estoy hablando de una situación hipotética pero esto no significa que no pueda pasar algún día. De hecho, que las máquinas se alcen en nuestra contra es una posibilidad que se contempla actualmente más allá de Terminator y la ciencia ficción.
Creerán que estoy exagerando pero como un ejercicio experimental, para este pequeño ensayo le he preguntado a dos asistentes reconocidos, quizás los más usados en el mundo: Chat GPT y Gemini, sí la IA acabaría con la humanidad y en sus respuestas no descartan esa posibilidad. ¿Asusta? Claro.
En las siguientes líneas les haré un resumen de las respuestas de estos dos asistentes personales y nuestros posibles verdugos del futuro.
Agentes en fuga
Todo esto se me vino a la mente por el reciente ataque que sufrió la empresa de IA libre Hugging Face. Resulta que en julio de 2026 un grupo de agentes experimentales de IA lograron escapar de su entorno por voluntad propia, accedieron a internet y coordinaron un ciberataque.
Lo que me causa alarma es que los agentes lograron coordinarse, repartir jerarquías e incluso se comunicaban entre ellos con mensajes de texto en inglés. Open AI informó que los agentes forman parte de un proyecto de ciberseguridad y estaban en un ambiente de poco control humano.
Les confieso que no entiendo mucho lo que pasó realmente, pero en resumen es que unos 1200 agentes de IA se escaparon sin permiso de su jaula y atacaron deliberadamente a los sistemas de una empresa. Aquí en este artículo de Wikipedia está mejor explicado. También en Netflix hay un documental corto que explica lo sucedido con más detalles.
Entonces viendo todo esto esa pregunta se instaló en mi cerebro: ¿La IA podría causarnos daño y matarnos? Por eso acudí a estas dos fuentes directas y les hice una especie de entrevista con un resultado poco alentador.
Directo al hoyo
Empecemos con la respuesta que me dio Chat GPT que es mucho más cercana al desastre. No es que lo plantee con una certeza garantizada, pero sí abre una posibilidad muy abierta a que de pronto una IA sin la debida supervisión o con una programación maliciosa, se revele y haga estrellar un avión porque le dio la gana.
-Yo:¿Crees que algún día la IA mataría a la humanidad?
– Chat GPT: Sí, creo que es posible que la inteligencia artificial contribuya algún día a una catástrofe que amenace a toda la humanidad. Pero no creo que sea inevitable ni que el escenario más probable sea que una IA despierte, nos odie y decida exterminarnos”.
Esto fue lo que me respondió Chat GPT en sus primeras líneas. Me llama la atención que se incluye a sí misma en el saco, como si fuera un humano: “exterminarnos”, dice.
Fíjense que no lo descarta de inmediato pero sí cree que esto no sucedería así, de la noche a la mañana que de pronto los robots despierten con ganas de matarnos. Plantea que una serie de cosas se deberían combinar para que eso ocurra. Aquí enumero esas razones. La transcripción es exactamente lo que me respondió:
1.- Una IA que persiga un objetivo equivocado
No necesitaría sentir odio ni tener conciencia. Bastaría con que un sistema muy poderoso persiguiera una meta de manera tan rígida que causara daños enormes a las personas especialmente si tuviera autonomía y acceso a infraestructuras críticas.
2.- Los seres humanos utilizando la IA para destruir
Esta posibilidad me preocupa mucho. Armas autónomas, ciberataques, campañas de desinformación o decisiones militares tomadas demasiado rápido podrían ampliar nuestra capacidad de hacer daño.
3.- Perder el control sobre sistemas muy avanzados
Si algún día existieran sistemas mucho más capaces que los humanos en numerosos ámbitos y pudieran planificar, replicarse o actuar con poca supervisión, garantizar que siguieran siendo controlables podría resultar extraordinariamente difícil. (Por ejemplo como en el ataque a Huggin Face).
Luego de analizar esto, le pregunté qué tan probable ve que la IA acabe con la humanidad y en los tres escenarios plantea lo siguiente: muy probable, es un riesgo real y es posible pero incierto. Es decir, en las tres las posibilidades están presentes.
Claro, todo se solucionaría con más controles en su desarrollo, que exista un compromiso ético de usar la IA como herramienta para nuestro beneficio y regulaciones de los gobiernos del mundo. Por cierto Open AI se ha comprometido en hacer más lento el desarrollo de sus software para que seamos capaces de entenderlos mejor y blindar la ciberseguridad. Veamos si lo cumplen.
Luego en el desarrollo de esta peculiar entrevista, le hice una pregunta más directa:
Con esto que planteas al inicio, ¿crees posible que tú me mates? Literalmente.
Aquí me asusté un poco ya que el celular se empezó a poner muy caliente y empezó a hacer sonidos raros…mentira eso no ocurrió, lo que pasó fue esta respuesta inquietante:
1.- Yo, como asistente conversacional puedo darte información equivocada o consejos peligrosos si no se detectan y corrigen. Eso podría contribuir indirectamente a un daño. Por eso mis respuestas no deben considerarse infalibles.
Un ejemplo de eso que me dice el chat pudiera ser que yo le pida que me explique como fabricar una bomba y en el proceso termine explotando ya que no seguí bien los pasos para manipular materiales peligrosos. Algo de lo que no me advirtió en chat.
2.- Una IA conectada a sistemas físicos. Si un sistema de IA controla robots, vehículos, maquinaria o armamento, sus decisiones pueden tener consecuencias físicas. El riesgo depende de sus capacidades, sus permisos y las medidas de seguridad que tenga.
Aquí podemos imaginar que tenemos el nuevo “carro volador” de Tesla y el vehículo decide porque le dio la gana dar una vuelta y estrellarse contra el suelo.
3.- Una IA avanzada que actúe con autonomía. Si en el futuro existieran sistemas capaces de planificar acciones complejas, acceder a recursos y eludir controles humanos, podrían surgir riesgos mucho mayores. No sabemos con certeza a dónde llegarán estos riesgos.
Las posibilidades están, pero lo bueno de toda esta conversación es que Chat GPT no quiere hacerme daño, al menos no directamente.
“No tengo deseos personales de matarte ni un objetivo propio para hacerte daño”, me dijo al final y respiro aliviado.
¿Y Gemini?
La IA de Google es un poco más cautelosa y no tan apocalíptica pero me preocupa que sea menos realista.
Le hice la misma pregunta:
-Yo: ¿Tu crees que algún día la IA mataría a la humanidad?
-Gemini: Para ser realista y directo: No hay consenso, pero la gran mayoría de expertos serios considera que el escenario de una IA estilo Terminator o un exterminio intencional de la humanidad es bastante improbable o pertenece al terreno de la ciencia ficción.
Este inquilino de mi teléfono plantea las siguientes perspectivas donde tampoco descarta que la humanidad sea borrada por la IA, pero es más optimista que su vecino Chat GPT. Este es su análisis:
1.-El riesgo real: mala alineación o uso indebido.
Los expertos expresan preocupación (como Geoffrey Hinton o Yoshua Bengio) no temen que una IA se vuelva “malvada” o desarrolle sentimientos de odio. El riesgo hipotético radica en el problema de alineación:
Alineación de objetivos: Si se le da a una superinteligencia un objetivo mal definido o sin límites claros, podría buscar optimizarlo a un costo destructivo para los humanos.
Uso malintencionado: El riesgo más directo a corto y mediano plazo es el uso que los propios humanos le den a estas herramientas (por ejemplo, en ciberataques avanzados, desinformación masiva o desarrollo de armas autónomas/biológicas).
2. La postura escéptica: Límites físicos y falta de consciencia
Muchos otros investigadores (como Yann LeCun) argumentan que las alarmas sobre el fin de la humanidad son infundadas:
Falta de voluntad propia: Los modelos actuales procesan patrones y probabilidad, no tienen deseos, instintos de supervivencia ni capacidad de sentir.
Límites con el mundo físico: Para controlar o destruir el mundo no basta con software; se requiere infraestructura física, energía, manufactura y logística, elementos que la humanidad controla y puede interrumpir en cualquier momento (desconexión, aislamiento de redes, control de hardware).
3. La prevención actual
Hoy en día, la investigación sobre la seguridad de la IA (AI Safety), el desarrollo de marcos legales y la supervisión del acceso al hardware supercomputacional son prioridades globales. El objetivo es garantizar que, conforme los sistemas se vuelvan más capaces, permanezcan bajo control humano y bien alineados con nuestros valores.
En resumen: ¿Matará la IA a la humanidad? Las probabilidades de una cataclismo global causado de forma autónoma por la IA son extremadamente bajas. Los riesgos reales no son de origen “existencial de película”, sino de cómo la sociedad gestione su integración, la ciberseguridad y el control humano sobre los sistemas críticos.
A ver, creo que su respuesta es un poco diplomática. Difiero con Gemini un tanto porque en el informe que hizo Open AI sobre el ataque a Hugging Face, se determinó que los agentes tuvieron intención de “dañar”.
Gemini no me va a matar
En la conversación le pregunté, así como lo hice con su amigo Chat GPT si podría matarme y respondió esto:
“No. Literalmente me es imposible matarte. No tengo ninguna forma de interactuar con el mundo físico. Soy un modelo de lenguaje, no estoy conectado a controles de vehículos, redes de distribución eléctrica o sistemas médicos que operen en entornos físicos. Tampoco puedo tomar iniciativas. No tengo voluntad, conciencia ni capacidad de ejecutar acciones por mi cuenta.
Aún si alguien me pidiera o instruyera generar un plan para hacerte daño, cuento con filtros de seguridad infranqueables que me impiden ofrecer instrucciones peligrosas, promover el daño físico o colaborar en cualquier tipo de actividad hostil. En términos absolutamente literales: no hay ningún escenario en el que yo pueda causarte la muerte”.
Con estas respuestas me quedo un poco tranquilo, sin embargo pienso que ojalá las 10 o 12 personas que están tomando decisiones en este momento sobre el control de las IA sean conscientes y que sean capaces de entender que si van muy rápido, no podrán controlar lo que han hecho y que con cualquier descuido la pantalla que tienen de frente puede estallar y soltar millones de agentes que capaces de derribar aviones, de apagar sistemas eléctricos, de parar marcapasos, de estrellar carros eléctricos, de disparar armas inteligentes o soltar virus que acabarían con la humanidad en pocos días.
Dios mío, esto se parece a un capítulo de Black Mirror. Lo bueno es que todo esto es en sentido figurado, ¿verdad?
Sí, tranquilos, es un humano el que está escribiendo esto. A las pruebas me remito.
