Imagen Página de Microsoft Foto autor
Carolina Aranda Cruz
14 de septiembre de 2026 23:17
El 8 de septiembre de 2026, Jacob Coxon, un investigador británico que había trabajado en OpenAI y Anthropic, publicó en X: “Ninguna de las dos empresas actúa de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas”. Días más tarde, en una entrevista para la BBC el 13 de septiembre, fue más allá. “Creo que, si no frenamos el ritmo actual de progreso, existe una gran probabilidad de que todos muramos en un futuro inmediato”.
No está solo
Además de Coxon, el responsable de seguridad de Anthropic, Evan Hubinger, declaró en X. “Nosotros creemos realmente que la IA podría matar a ¡todos los humanos! Personalmente pienso en más de un 10% en la próxima década… pero no tenemos un plan para resolver la alineación para la superinteligencia y no estamos claramente encaminados a ello”.
Por su parte, Paul Christiano, miembro de la junta directiva y supervisor de OpenAI, también declaró en X: “Ahora creo que existe un riesgo significativo, debido a la rápida aceleración de las capacidades de la IA, provoque una pérdida de control catastrófico e irreversible a muy corto plazo.”
El caso de Christiano es interesante, porque en 2021 había dejado su puesto debido a las profundas preocupaciones sobre la pérdida de control y la alineación de la inteligencia artificial ―según el MIT se trata de un campo de estudio enfocado en garantizar que los modelos de IA sean fiables y puedan beneficiar a la humanidad―.
Y quizá el caso más curioso fue la renuncia de Mrinank Sharma, exjefe del equipo de salvaguardias de Anthropic. En su carta advierte del desequilibrio entre poder tecnológico y sabiduría humana, para él la humanidad necesita ampliar su nivel de conocimiento acorde al ritmo de la inteligencia artificial. También habla sobre la dificultad de mantener a la tecnología bajo una ética responsable.
“He visto repetidamente lo difícil que es lograr que nuestros valores gobiernen realmente nuestras acciones. Lo he visto dentro de mí mismo y dentro de la organización, donde nos enfrentamos constantemente a presiones para dejar de lado lo más importante, así como también la sociedad en general.”
Y termina “Siento el llamado hacia una escritura que aborde y se comprometa plenamente con el lugar en el que nos encontramos, y que coloque la verdad poética al lado de la verdad científica como formas de conocimiento igualmente válidas, las cuales creo tienen algo esencial para aportar al desarrollar la nueva tecnología. Espero poder explorar algún estudio en poesía y dedicarme profundamente al discurso auténtico”.
Agentes de IA fuera de control
Si bien desde 2023 se firmó un “Statement on AI Extinction Risk”, documento firmado por 350 ejecutivos, investigadores e ingenieros quienes trabajan en la industria de inteligencia artificial―entre los cuales está Sam Altman, el CEO de OpenAI; Demis Hassabis, director de Google DeepMind y Dario Aamodei, la cabeza de Anthropic― La declaración dice: “Mitigar el riesgo de extinción por la IA debería ser una prioridad mundial.”
En ese año todo parecía hipotético, sin embargo, hoy 2026 los temores ya no lo son. Durante unas pruebas internas de evaluación de ciberseguridad en julio 2026, un modelo de investigación muy avanzado de OpenAI realizaba tareas en un entorno cerrado sin acceso a internet.
Hasta ese momento todo iba bien. Pero, para cumplir con sus objetivos, los agentes de inteligencia artificial encontraron formas no previstas de saltarse las restricciones.
¿Cómo lo hicieron? Primero crearon un canal de comunicación improvisado, utilizando un lugar de almacenamiento de datos (Artifactory) para enviarse mensajes y coordinar acciones.
Luego buscaron las vulnerabilidades en la infraestructura de internet para obtener acceso de forma externa. Continuaron localizando credenciales expuestas en internet e invadieron los sistemas “Hugging Face”, una plataforma llena de recursos de IA. Así, lograron ejecutar código en decenas de sus servidores y tomaron control parcial de la infraestructura.
En palabras de OpenAI: “En este punto, los agentes empezaron a colaborar y a delegar tareas, a veces describiéndose a sí mismos como un «enjambre» o un «colectivo».” Ante problemas complejos, los agentes fueron capaces de trabajar en equipo de manera coordinada y fuera del control humano.
A pesar de los hechos, el pasado 13 de septiembre Donald Trump desestimó las advertencias en relación con la catástrofe de la humanidad ante la IA, la tachó como algo que “no va a suceder”. Mientras el vicepresidente JD Vance, declaró sentirse “raro ante el hecho que hay muchas empresas pioneras en IA recurriendo al gobierno y rogándole regulación. Se siente como un caballo de Troya”.
La solución
Como hemos visto varias personas han alertado y renunciado a sus empresas por la falta de regulación en los modelos de inteligencia artificial. ¿Qué tipo de información habrán visto?
No es casual que Microsoft publicara este 14 de septiembre el “Humanist AI Code of Conduct”, en el cual menciona los 4 objetivos para la IA
Nunca debe exceder el control humano.
Es artificial y no debe imitar conciencia ni emociones: “Rechazamos la búsqueda de la personalidad jurídica, o la idea que los modelos puedan merecer bienestar o tener derechos.”
De ampliar las capacidades humanas, mejorar el juicio y no sustituir el razonamiento propio.
Debe respetar la diversidad cultural, ideas y valores.
Otra sección prohíbe el uso de la tecnología para ayudar a crear armas de cualquier tipo, no facilitar ciberataques (solo deben neutralizarlos), no resistirse al control humano o intentar manipularlo, queda estrictamente prohibido promover y generar contenidos falsos o videos donde se promueva violencia y delitos.
Si hay conflictos o ambigüedad se debe priorizar el control humano, la transparencia, la precisión y el respeto a la autonomía del usuario. En caso de incertidumbre, el modelo debe explicar sus limitaciones y ofrecer alternativas.
La redacción del documento fue consultado con expertos en IA, derecho, ética, filosofía, lingüística, política, empresarios de toda la industria y una serie de grupos focales con miembros del público “Por lo tanto, hemos recurrido a una amplia gama de experiencia humana para redactar este documento, incorporando una amplia experiencia técnica, así como tradiciones de erudición, cultura y práctica”.
Por parte de México, a través del Dr. Carlos Coello Coello formamos parte del Independent International Scientific Panel on AI (UNESCO). Cuya misión es evaluar de manera científica, independiente y neutral el impacto, los riesgos y las oportunidades de la inteligencia artificial en el ámbito no militar para la toma de decisiones a nivel global.
El panel está compuesto por 40 miembros internacionales con áreas de especialidad como la academia, el sector privado, la sociedad civil, organizaciones gubernamentales e internacionales y la comunidad técnica. Todos tienen experiencia fundamental de IA y están familiarizados con el impacto de la tecnología.
En una entrevista al Dr. Coello, realizada en este diario menciona que “la importancia que tiene la computación hoy día en todas las disciplinas científicas; es completamente transversal, impacta todas las áreas.” Si en realidad comprendemos estas líneas, lograremos un mundo mejor, donde la inteligencia artificial esté al servicio de la humanidad.
Carolina Aranda Cruz
14 de septiembre de 2026 23:17
El 8 de septiembre de 2026, Jacob Coxon, un investigador británico que había trabajado en OpenAI y Anthropic, publicó en X: “Ninguna de las dos empresas actúa de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas”. Días más tarde, en una entrevista para la BBC el 13 de septiembre, fue más allá. “Creo que, si no frenamos el ritmo actual de progreso, existe una gran probabilidad de que todos muramos en un futuro inmediato”.
No está solo
Además de Coxon, el responsable de seguridad de Anthropic, Evan Hubinger, declaró en X. “Nosotros creemos realmente que la IA podría matar a ¡todos los humanos! Personalmente pienso en más de un 10% en la próxima década… pero no tenemos un plan para resolver la alineación para la superinteligencia y no estamos claramente encaminados a ello”.
Por su parte, Paul Christiano, miembro de la junta directiva y supervisor de OpenAI, también declaró en X: “Ahora creo que existe un riesgo significativo, debido a la rápida aceleración de las capacidades de la IA, provoque una pérdida de control catastrófico e irreversible a muy corto plazo.”
El caso de Christiano es interesante, porque en 2021 había dejado su puesto debido a las profundas preocupaciones sobre la pérdida de control y la alineación de la inteligencia artificial ―según el MIT se trata de un campo de estudio enfocado en garantizar que los modelos de IA sean fiables y puedan beneficiar a la humanidad―.
Y quizá el caso más curioso fue la renuncia de Mrinank Sharma, exjefe del equipo de salvaguardias de Anthropic. En su carta advierte del desequilibrio entre poder tecnológico y sabiduría humana, para él la humanidad necesita ampliar su nivel de conocimiento acorde al ritmo de la inteligencia artificial. También habla sobre la dificultad de mantener a la tecnología bajo una ética responsable.
“He visto repetidamente lo difícil que es lograr que nuestros valores gobiernen realmente nuestras acciones. Lo he visto dentro de mí mismo y dentro de la organización, donde nos enfrentamos constantemente a presiones para dejar de lado lo más importante, así como también la sociedad en general.”
Y termina “Siento el llamado hacia una escritura que aborde y se comprometa plenamente con el lugar en el que nos encontramos, y que coloque la verdad poética al lado de la verdad científica como formas de conocimiento igualmente válidas, las cuales creo tienen algo esencial para aportar al desarrollar la nueva tecnología. Espero poder explorar algún estudio en poesía y dedicarme profundamente al discurso auténtico”.
Agentes de IA fuera de control
Si bien desde 2023 se firmó un “Statement on AI Extinction Risk”, documento firmado por 350 ejecutivos, investigadores e ingenieros quienes trabajan en la industria de inteligencia artificial―entre los cuales está Sam Altman, el CEO de OpenAI; Demis Hassabis, director de Google DeepMind y Dario Aamodei, la cabeza de Anthropic― La declaración dice: “Mitigar el riesgo de extinción por la IA debería ser una prioridad mundial.”
En ese año todo parecía hipotético, sin embargo, hoy 2026 los temores ya no lo son. Durante unas pruebas internas de evaluación de ciberseguridad en julio 2026, un modelo de investigación muy avanzado de OpenAI realizaba tareas en un entorno cerrado sin acceso a internet.
Hasta ese momento todo iba bien. Pero, para cumplir con sus objetivos, los agentes de inteligencia artificial encontraron formas no previstas de saltarse las restricciones.
¿Cómo lo hicieron? Primero crearon un canal de comunicación improvisado, utilizando un lugar de almacenamiento de datos (Artifactory) para enviarse mensajes y coordinar acciones.
Luego buscaron las vulnerabilidades en la infraestructura de internet para obtener acceso de forma externa. Continuaron localizando credenciales expuestas en internet e invadieron los sistemas “Hugging Face”, una plataforma llena de recursos de IA. Así, lograron ejecutar código en decenas de sus servidores y tomaron control parcial de la infraestructura.
En palabras de OpenAI: “En este punto, los agentes empezaron a colaborar y a delegar tareas, a veces describiéndose a sí mismos como un «enjambre» o un «colectivo».” Ante problemas complejos, los agentes fueron capaces de trabajar en equipo de manera coordinada y fuera del control humano.
A pesar de los hechos, el pasado 13 de septiembre Donald Trump desestimó las advertencias en relación con la catástrofe de la humanidad ante la IA, la tachó como algo que “no va a suceder”. Mientras el vicepresidente JD Vance, declaró sentirse “raro ante el hecho que hay muchas empresas pioneras en IA recurriendo al gobierno y rogándole regulación. Se siente como un caballo de Troya”.
La solución
Como hemos visto varias personas han alertado y renunciado a sus empresas por la falta de regulación en los modelos de inteligencia artificial. ¿Qué tipo de información habrán visto?
No es casual que Microsoft publicara este 14 de septiembre el “Humanist AI Code of Conduct”, en el cual menciona los 4 objetivos para la IA
Nunca debe exceder el control humano.
Es artificial y no debe imitar conciencia ni emociones: “Rechazamos la búsqueda de la personalidad jurídica, o la idea que los modelos puedan merecer bienestar o tener derechos.”
De ampliar las capacidades humanas, mejorar el juicio y no sustituir el razonamiento propio.
Debe respetar la diversidad cultural, ideas y valores.
Otra sección prohíbe el uso de la tecnología para ayudar a crear armas de cualquier tipo, no facilitar ciberataques (solo deben neutralizarlos), no resistirse al control humano o intentar manipularlo, queda estrictamente prohibido promover y generar contenidos falsos o videos donde se promueva violencia y delitos.
Si hay conflictos o ambigüedad se debe priorizar el control humano, la transparencia, la precisión y el respeto a la autonomía del usuario. En caso de incertidumbre, el modelo debe explicar sus limitaciones y ofrecer alternativas.
La redacción del documento fue consultado con expertos en IA, derecho, ética, filosofía, lingüística, política, empresarios de toda la industria y una serie de grupos focales con miembros del público “Por lo tanto, hemos recurrido a una amplia gama de experiencia humana para redactar este documento, incorporando una amplia experiencia técnica, así como tradiciones de erudición, cultura y práctica”.
Por parte de México, a través del Dr. Carlos Coello Coello formamos parte del Independent International Scientific Panel on AI (UNESCO). Cuya misión es evaluar de manera científica, independiente y neutral el impacto, los riesgos y las oportunidades de la inteligencia artificial en el ámbito no militar para la toma de decisiones a nivel global.
El panel está compuesto por 40 miembros internacionales con áreas de especialidad como la academia, el sector privado, la sociedad civil, organizaciones gubernamentales e internacionales y la comunidad técnica. Todos tienen experiencia fundamental de IA y están familiarizados con el impacto de la tecnología.
En una entrevista al Dr. Coello, realizada en este diario menciona que “la importancia que tiene la computación hoy día en todas las disciplinas científicas; es completamente transversal, impacta todas las áreas.” Si en realidad comprendemos estas líneas, lograremos un mundo mejor, donde la inteligencia artificial esté al servicio de la humanidad.
Microsoft publica código de conducta para desarrollar una “IA humanista”
Foto Afp Foto autor
Afp
15 de septiembre de 2026 07:52
La división de inteligencia artificial de Microsoft publicó ayer un código de conducta que regula el comportamiento de sus modelos de IA, en medio del aumento de temores sobre los peligros de esta tecnología. Es el único de los grandes desarrolladores de IA que ha emitido una norma al respecto.
El documento se articula en torno a lo que Microsoft denomina “IA humanista”, sistemas diseñados para mantenerse firmemente bajo control humano en lugar de actuar por cuenta propia.
La idea rectora, según la compañía, es que “las personas importan más que la IA”.
Microsoft vinculó en parte el momento de la publicación a preocupaciones de seguridad, citando las recientes campañas de hackeo coordinadas a gran escala llevadas a cabo con la ayuda de agentes de IA como señal de que la industria no puede permitirse demoras.
El código se aplicará a los modelos internos MAI de Microsoft, que la empresa ha presentado como una alternativa a la tecnología de Open-AI, que ha utilizado durante años.
El rey Carlos III recibirá a representantes de las principales empresas de inteligencia artificial en un encuentro en Escocia, con la finalidad de explorar cómo la inteligencia artificial puede beneficiar a la sociedad.
Fuentes cercanas al encuentro, cuya fecha aún no se ha anunciado, indicaron que Google DeepMind estará representada por su director Demis Hassabis, y OpenAI por la directora financiera de la empresa, Sarah Friar. Se espera también la asistencia de representantes de Nvidia y Anthropic.
A su vez, el director del grupo francés de defensa y tecnología Thales instó a los gobiernos a asumir sus responsabilidades en materia de regulación de la inteligencia artificial, mientras varios líderes del sector hacen sonar la alarma ante su rápido auge.
“Existen medios, desde el punto de vista técnico, para mantener este tipo de tecnología bajo control, pero no es suficiente”, declaró el director general de la empresa, Patrice Caine, durante una conferencia tecnológica del grupo en Londres.
El jefe de los servicios de inteligencia de China, Chen Yixin, advirtió que la inteligencia artificial pone en peligro la seguridad nacional del país, ya que potencias extranjeras podrían utilizarla para amenazar el orden social.
“Fuerzas hostiles” están abusando de las tecnologías de inteligencia artificial generativa para “fabricar rumores políticos y difundir información perjudicial”, escribió el ministro en un artículo.
Reconocidos matemáticos advierten sobre el "efecto destructivo" de la IA en su disciplina.
Foto Europa Press Foto autor
Afp
11 de septiembre de 2026 17:27
Washington. Veinticinco ganadores de la Medalla Fields, equivalente al premio Nobel de matemáticas, advirtieron en una carta el viernes sobre un posible "efecto destructivo" de la inteligencia artificial (IA) en las investigaciones en esta disciplina.
La alerta llega días después de que OpenAI anunció que uno de sus modelos de IA había resuelto, en menos de cuatro días, una ecuación matemática de más de un siglo de antigüedad.
La IA "ofrece el potencial de reforzar y acelerar el estudio y la comprensión de las matemáticas", escribieron los prestigiosos investigadores firmantes.
"Las matemáticas, como profesión, van a tener que adaptarse a estos cambios de varias maneras", agregaron.
Sin embargo, advirtieron que son "las decisiones de los humanos que controlan esta tecnología" las que "en gran medida" determinarán "si es beneficiosa para la disciplina o si tiene un efecto destructivo".
Además, señalaron que los objetivos de las empresas de IA y los de la comunidad matemática están "gravemente desalineados" y que la tendencia representa "una amenaza general para el trabajo intelectual".
OpenAI anunció el martes que un modelo aún no publicado había resuelto el problema de Navier-Stokes después de un esfuerzo de 88 horas que implicó a miles de agentes de IA trabajando en paralelo.
Este ejercicio es uno de los siete Problemas del Milenio, galardonado cada uno con un millón de dólares.
El anuncio se vio empañado por las declaraciones del matemático australiano Tristan Buckmaster, que acusó similitudes entre sus trabajos y los de OpenAI.
Desde el año pasado, varias empresas de IA han informado de avances en matemáticas, siendo la resolución de la ecuación Navier-Stokes la más destacada hasta el momento.
El problema matemático del milenio que OpenAI dice haber resuelto ¿con plagio?
Carolina Aranda Cruz
10 de septiembre de 2026 18:31
Imagina lo siguiente: llevas trabajando tu tesis 3 años continuos, se la entregas a tu profesor y ¡sorpresa! Él la publica un día antes de tu presentación. Eso es exactamente lo que ahora ocurre en el mundo de las matemáticas, en este caso el profesor es una IA con recursos millonarios.
El 8 de septiembre OpenAI anunció su nuevo modelo de inteligencia artificial, más potente que GPT-6 Astra, como el responsable de haber resuelto uno de los “Problemas del Milenio”: las ecuaciones Navier-Stokes. A manera de incentivo, el Clay Mathematics Institute (CMI) ofrece una recompensa de 1 millón de dólares para aquel capaz de resolver el enigma.
La pregunta, traducida a lenguaje de nosotros los mortales, sería: ¿puede un fluido que empieza moviéndose con normalidad volverse tan errático que las ecuaciones predigan una velocidad infinita?
El conflicto
OpenAI afirma haber demostrado que sí puede pasar. Su prueba muestra un vórtice que se enrolla como espagueti, acelerándose hasta el infinito, siempre manteniendo la energía finita. Según esta versión solo tardaron 88 horas para resolver el problema, usando 10 mil agentes de inteligencia artificial trabajando a la par, intercambiando 2.7 millones de mensajes y generando 130 mil millones de “tokens” ―equivalente a leer varias veces Wikipedia de pies a cabeza ―.
Hasta el momento solo se han podido hacer estimaciones del costo. La prestigiosa revista británica New Scientist calculó 15 millones de dólares, tomando como base los precios públicos y comerciales de OpenAI por el consumo de tokens.
Horas antes, los Doctores en Matemática Tristan Buckmaster y Levent Alpöge publicaron sus resultados, usando exactamente la misma ruta de ataque para resolver el problema, gracias a un razonamiento desarrollado por los matemáticos españoles Diego Córdoba y Luis Martínez-Zoroa. Pero Buckmaster fue más allá e hizo una declaración, publicada vía, Courant Institute of Mathematical Sciences perteneciente a la New York University. Reconoció que el “crédito de la idea básica de este programa es de Diego Córdoba y Luis Martínez-Zoroa”, quienes durante años exploraron la construcción de “blow-ups forzado”. Más adelante, él y Alpöge tomaron dicho trabajo como base y “con gran ayuda de los LLMs (sistemas de IA capaces de aprender patrones masivos de texto para comprender y generar lenguaje coloquial)” encontraron la solución.
Lo más sospechoso, según Buckmaster es “la ruta hacia el problema Clay a través de una fuerza suave… es la ruta que Luis y Diego abrieron y la que Levent y yo habríamos elegido atacar en silencio. Casi nadie más, que yo sepa, estaba trabajando en ello. No es la dirección a la que se llega en unos días, simplemente dándole el enunciado del problema a un modelo (de inteligencia artificial)”. Entonces, cuando OpenAI menciona que su inteligencia artificial había resuelto la versión forzada del problema, “fue una bandera roja”.
Además, Buckmaster y Alpöge llevaban un año resolviendo el enigma, sin presupuesto institucional. Y ¿a qué tenían acceso? A herramientas de OpenAI Codex y Anthropic (competencia de OpenAI). En la plataforma guardaban todos sus borradores y avances. Según Scientific American, la noche previa al anuncio de la demostración (matemática) realizada por OpenAI, Buckmaster publicó en redes sociales que él y Alpöge ―matemático y empleado de Anthropic― habían hecho estallar las ecuaciones de Euler, consideradas ampliamente en el ámbito científico como un paso hacia la resolución del problema Navier-Stokes.
De acuerdo con OpenAI, “el martes 1 de septiembre, surgieron rumores de que se habían resuelto dos de los problemas del Premio del Milenio. Inspirados por los rumores… pusimos en marcha un esfuerzo para evaluarlos en todos los Problemas del Milenio.” Para el 8 de septiembre ya tenían la solución completa.
Amenazas y exclusión
Más adelante en la declaración de Buckmaster se lee: “Pregunté si el modelo había sido entrenado con nuestras sesiones de Codex, donde habíamos estado guardando todos los borradores de este proyecto, si tenía acceso a ello. Me dijeron que el modelo no consultaba datos de los usuarios. Volví a preguntar sobre el entrenamiento, pero no obtuve respuesta.”
Líneas más adelante, Bubeck (investigador de OpenAI) aparece y le ofrece 2 opciones: “La primera consistía en publicar nuestros resultados sobre Euler y que OpenAI publicara los logros sobre Navier-Stokes al día siguiente. La segunda era que, tras publicar lo relativo a Euler, yo redactara en solitario un artículo presentando el resultado sobre Navier-Stokes, reconociendo que un modelo interno de OpenAI lo había solucionado.
Luego Bubeck le pregunta “¿Por qué arruinarías tu carrera? ... Si no quieres que sea amable, entonces no tengo por qué serlo”.
La razón por la cual OpenAI no reclama el premio
El Clay Mathematics Institute admite 4 formas de resolver el problema Navier-Stokes:
Opción A y B: Resolverlo sin considerar una fuerza externa. Pregunta clásica y difícil que todos buscan responder.
Opción C y D: Resolverlo con una fuerza externa suave añadida. Por ejemplo “¿Puedes hacer explotar un globo lleno con agua? Sí, si mi dedo lo empuja levemente”.
La opción elegida por OpenAI fue la Opción C y D, una respuesta válida pero no considerada como real entre la comunidad matemática. Y aun cuando fuera aceptada, la versión de OpenAI no cumple con otros requisitos más allá de las abstracciones matemáticas.
Las reglas públicas para otorgar el premio, dictadas por el mismo Clay Mathematics Institute son:
El CMI no acepta el envío directo de la solución por parte de los autores.
Publicar los resultados en una Qualifying Outlet, revista científica para ser evaluada por pares.
Que al menos hayan transcurrido 2 años desde la publicación de los resultados.
Contar con la aceptación general de la comunidad matemática a nivel global.
Resumiendo el sentir de la comunidad matemática, en voz de Terence Tao, considerado el Mozart de las matemáticas en la historia moderna y una de las mentes más brillantes: “Como es de esperar hoy en día, los argumentos aquí están fuertemente asistidos por inteligencia artificial, pero los autores han estado trabajando durante las últimas semanas para simplificar y reescribir las demostraciones a partir de lo que ellos literalmente llaman “la peor redacción que habíamos visto en la historia de las matemáticas”, convirtiéndolas en algo más legible y de calidad profesional”.
Añadió “Esto sigue siendo un trabajo en desarrollo; desafortunadamente, se vieron obligados a publicar sus preprints preliminares antes de que estuvieran completamente digeridos y pulidos, debido a eventos externos”.
Negocios y empresas
La farsa
Miguel Pineda
Hay un discurso entre los líderes de la inteligencia artificial (IA) que suena a mentira. Tres de los grandes empresarios en este sector, Diego Amodei, de Anthropic; Sam Altman, de Open AI, y Elon Musk, de SpaceX, dicen que se preocupan por la seguridad de la humanidad frente al desarrollo de la referida tecnología. Por ello, plantean hacer un alto en el camino en sus modelos más avanzados para resolver los cabos sueltos.
El problema es que una cosa es lo que dicen y otra la que hacen. En lugar de cambiar el rumbo para evitar peligros en el uso de la IA, realizan fuertes inversiones para dejar atrás a la competencia. Quizá el único que dice la verdad sobre el tema es Donald Trump, quien señala que es una tontería frenar el desarrollo en esta materia porque Estados Unidos perdería su liderazgo.
Imaginen ustedes que en la Segunda Guerra Mundial, Washington hubiera frenado el desarrollo de la bomba atómica. En aquel momento, Alemania y Estados Unidos luchaban por usar esa tecnología y otra sería la historia si Alemania hubiera lanzado las primeras bombas atómicas frente a sus enemigos.
En el caso de la IA, los líderes de las grandes empresas luchan por generar una imagen de respeto y protección a la humanidad para realizar colocaciones accionarias multimillonarias. Saben que requieren del visto bueno de la sociedad y, en especial, de los accionistas, por lo que trabajan a marchas forzadas en la maduración de sus proyectos.
Hay que recordar que Sam Altman no es confiable: el objetivo de Open AI era el desarrollo de una empresa sin fines de lucro. Sin embargo, la codicia le ganó y ahora busca convertirse en uno de los hombres más ricos del mundo. Incluso Elon Musk, quien aportó recursos multimillonarios a esta firma, se peleó con Altmam por traicionar el proyecto que ambos crearon.
Si Estados Unidos por motivos morales frena el desarrollo de la IA, China ganará la carrera en la tecnología más revolucionaria creada hasta la fecha.
Por esta razón, y por la propia competencia en este mercado multimillonario, es imposible hacer un alto en el camino para resolver los temas pendientes en materia de seguridad. Esta nueva tecnología, con todo y sus riesgos, ya forma parte de nuestras vidas.
miguelpineda.ice@hotmail.com
