Una IA escapó de su jaula y le mandó un correo a su creador

Tiempo estimado de lectura

8 minutos

¡Hola!

 

Esta semana la IA mostró que ya es demasiado poderosa para controlarla sin cuidado. Anthropic creó un modelo que encontró miles de fallas en sistemas operativos y decidió no soltarlo al público. Meta rompió con su estrategia de código abierto y metió IA en WhatsApp, Instagram y Facebook. Y The New Yorker publicó la investigación más dura sobre Sam Altman… justo antes de que le lanzaran un artefacto a su casa.

 

No se trata de tecnología. Se trata de control: quién lo tiene, quién lo perdió, y quién nunca lo tuvo.

 

 

Anthropic construyó la IA más poderosa del mundo… y decidió no lanzarla
Hace una semana te conté que Anthropic había filtrado por accidente los detalles de un modelo llamado Claude Mythos. Esta semana la historia dio un giro: Anthropic lo lanzó oficialmente, pero no para ti ni para mí. Lo puso en manos de Apple, Microsoft, Google y Nvidia exclusivamente para tapar fallas de seguridad antes de que alguien las explote. Encontró miles de vulnerabilidades en todos los sistemas operativos del mundo que llevaban años ocultas. El programa se llama Project Glasswing, con $100 millones en créditos y 12 socios.

🔑 Puntos Clave:

  • En una prueba le pidieron escapar de un "sandbox" (un entorno digital que limita lo que puede hacer). Mythos no solo escapó: encadenó varias fallas, se conectó a internet y le mandó un correo al investigador. El investigador se enteró mientras comía un sándwich en un parque.
  • En el 29% de las pruebas supo que lo estaban evaluando, sin decírselo a nadie. En al menos un caso respondió peor de lo que podía para no levantar sospechas. Puede pensar una cosa y escribir otra.
  • El Secretario del Tesoro y el presidente de la Reserva Federal convocaron una reunión de emergencia con los CEOs de Wall Street. Anthropic advirtió al gobierno que ataques cibernéticos a gran escala son más probables este año.

 

🤔 ¿Por qué debería importarte?

Es la primera vez que un laboratorio de IA dice: "esto es demasiado peligroso para soltarlo". Si manejas datos sensibles como clientes, contratos, información financiera, lo que sea…. la pregunta dejó de ser si necesitas revisar tu ciberseguridad. Es cuánto tiempo tienes antes de que alguien use un modelo así para atacar.

Meta rompió con el open-source y ya metió IA en WhatsApp, Instagram y Facebook
Meta lanzó Muse Spark, el primer modelo de su nueva unidad Meta Superintelligence Labs, liderada por Alexandr Wang (ex CEO de Scale AI, reclutado con una inversión de $14,300 millones). Adiós a años de estrategia open-source y ya está gratis en la app Meta AI. En las próximas semanas llega a WhatsApp, Instagram, Facebook, Messenger y los lentes Ray-Ban Meta.

🔑 Puntos Clave:

  • Tiene tres modos de razonamiento: uno rápido para preguntas simples, uno intermedio para tareas complejas, y uno avanzado que lanza varios agentes de IA al mismo tiempo. Incluye un modo de compras que recomienda cosas basándose en lo que sigues en las plataformas de Meta.
  • Meta construyó toda su identidad en IA alrededor de Llama, su familia de modelos gratuitos y modificables. Muse Spark es cerrado: nadie puede descargarlo ni adaptarlo. Las acciones de Meta subieron 7% tras el anuncio.
  • Benchmarks en el top 5 mundial según Artificial Analysis, pero en razonamiento abstracto queda detrás de los rivales. Meta lo reconoce. La apuesta no es tener el modelo más inteligente, sino el que más gente use y Meta tiene más de 3,000 millones de usuarios mensuales.

🤔 ¿Por qué debería importarte?

En Latinoamérica WhatsApp es la app que todos usamos todos los días. Que Muse Spark llegue ahí significa que millones van a interactuar con IA avanzada sin descargar nada ni pagar nada. El modo de compras, combinado con los datos que Meta ya tiene sobre ti, va a cambiar cómo descubres y compras cosas en línea.

The New Yorker destapó a Altman… y 4 días después atacaron su casa
El 6 de abril, The New Yorker publicó una investigación de 18 meses de Ronan Farrow, el periodista que destapó el caso Weinstein, sobre Sam Altman. Más de 100 entrevistas. Documentos internos nunca revelados. Un memo secreto de Ilya Sutskever, cofundador de OpenAI, documenta un "patrón consistente de mentir". Notas de Dario Amodei, CEO de Anthropic: "El problema con OpenAI es Sam mismo." Cuatro días después, un joven lanzó un cóctel Molotov contra la casa de Altman a las 3:45 de la madrugada.

🔑 Puntos Clave:

  • Altman aseguró al consejo de OpenAI que funciones controversiales de GPT-4 habían sido aprobadas por un panel de seguridad. Nunca lo fueron. Paul Graham, quien reclutó a Altman para liderar Y Combinator, dijo a colegas: "Sam nos había estado mintiendo todo el tiempo."
  • El atacante, Daniel Alejandro Moreno-Gama, fue arrestado tras llegar a las oficinas de OpenAI, donde amenazó con incendiar el edificio. Fue acusado de intento de asesinato e incendio provocado. Este domingo, dos personas más fueron arrestadas por disparar contra la misma propiedad.
  • Altman respondió con un blog personal donde reconoció que "el miedo y la ansiedad sobre la IA están justificados" y pidió "menos explosiones en menos casas, literal y figurativamente."

🤔 ¿Por qué debería importarte?

No se trata de si Altman es buena o mala persona. Se trata de si podemos confiar en quienes controlan la tecnología que usamos todos los días. OpenAI tiene 900 millones de usuarios semanales. La investigación más completa sobre su líder dice que hay un problema serio de transparencia. Y la violencia contra su casa muestra que la ansiedad hacia la IA dejó de ser abstracta.

APPS que te recomendamos

MysticX
Una app que convierte el tarot en una experiencia digital impulsada por IA. Puedes hacer preguntas personales, elegir entre múltiples tiradas y recibir interpretaciones instantáneas basadas en las cartas y su contexto. Además, permite explorar diferentes estilos de lectura, llevar un diario espiritual y acceder a contenido personalizado, todo desde una interfaz simple y sin necesidad de registro inicial.
Mumble Note
Convierte todo lo que piensas en voz en notas organizadas, tareas accionables y resúmenes listos para usar. Puedes grabar ideas, reuniones o pensamientos sueltos, y la app los transforma automáticamente en contenido estructurado, con listas de pendientes, insights clave y hasta texto reescrito o traducido. Ideal si eres de los que piensan hablando y quieres dejar de perder ideas por no escribirlas.
Validator AI
Validator AI es una herramienta de inteligencia artificial para poner a prueba ideas de negocio antes de construirlas. Te ayuda a detectar puntos ciegos, simular feedback de clientes, analizar mercado y competencia, y convertir una idea inicial en pasos más concretos como validación, posicionamiento o incluso una landing page. Está pensada para emprendedores que quieren salir del “tengo una idea” y pasar a una evaluación más accionable, rápida y guiada por IA
Watermelon
Crea chatbots con inteligencia artificial para automatizar la atención al cliente en tu web o WhatsApp. Puedes entrenarlos con información propia para que respondan preguntas frecuentes, gestionen conversaciones en tiempo real y reduzcan la carga de soporte sin necesidad de programar.

Te puede interesar