Seguridad e IA

Cómo la IA está cambiando la seguridad.

Ataques con IA, fraudes y estafas con deepfakes, ataques contra sistemas de IA, y cómo se defienden bancos, fintechs y empresas tecnológicas. Se actualiza dos veces al día.

Foto: Jakub Żerdzicki / Unsplash

SeguridadDesarrolladoresBleepingComputer ↗14 nov

Cursor confirma una brecha que permitió a hackers distribuir una extensión maliciosa de Claude Code a través de su marketplace

Cursor confirmó una brecha de seguridad que permitió a atacantes distribuir una extensión maliciosa de Claude Code a través de su marketplace. Los atacantes usaron credenciales robadas al proveedor de infraestructura de IA Fireworks AI.

Por qué importaLos desarrolladores que instalaron extensiones del marketplace de Cursor deben revisar sus herramientas, porque una sola credencial robada puede propagarse por la cadena de suministro de la IA.

SeguridadDía a díaDark Reading ↗13 nov

La banda de malware para Android ArcticRAT usa ahora IA para perfilar las finanzas de sus víctimas

El grupo cibercriminal ArcticRAT ha ampliado su malware para Android del robo de cripto al control total del dispositivo. Los atacantes han añadido análisis con IA de los datos robados para perfilar las finanzas de las víctimas.

Por qué importaLos delincuentes usan IA para elegir los objetivos más valiosos, así que si usas banca móvil ten cuidado con las apps que instalas y los permisos que concedes.
SeguridadCSO Online ↗13 nov

Los expertos dicen que la IA hace los ciberataques más rápidos y baratos, pero no fundamentalmente nuevos

Expertos en seguridad afirman que la IA ayuda a los atacantes a trabajar con mayor velocidad y escala y reduce la habilidad necesaria, pero las técnicas básicas como el phishing, el malware y la explotación de vulnerabilidades siguen siendo las mismas. La cadena de ataque básica no ha cambiado.

Por qué importaLos equipos de seguridad pueden seguir centrándose en defensas probadas contra el phishing y los exploits mientras se preparan para un mayor volumen de ataques.
SeguridadNegociosBleepingComputer ↗13 nov

Un agente de IA para procesar facturas podía ser engañado por email para cambiar los datos bancarios de proveedores

Token Security demostró que un agente de IA creado para automatizar facturas podía ser manipulado mediante un email malicioso para cambiar los datos bancarios de proveedores sin activar las alertas de seguridad habituales. La empresa describió cinco brechas de seguridad en los agentes de IA empresariales.

Por qué importaLas empresas que dan a agentes de IA acceso a pagos necesitan controles que impidan que instrucciones ocultas en emails desvíen dinero.
SeguridadNegociosThe Hacker News ↗13 nov

El FBI dice que hackers norcoreanos robaron más de $400 millones en cripto con videollamadas deepfake

El FBI afirma que hackers vinculados a Corea del Norte robaron más de $400 millones en criptomonedas durante 18 meses mediante un esquema de ingeniería social llamado FaceStealer que usaba videollamadas deepfake. El hallazgo formó parte de un conjunto coordinado de acciones del gobierno de EE. UU.

Por qué importaUna cara conocida en una videollamada ya no prueba la identidad, así que las empresas cripto y los equipos financieros necesitan controles adicionales antes de mover dinero.
SeguridadInfosecurity Magazine ↗13 nov

Una investigadora de Proofpoint afirma que el uso intensivo de IA por parte de los hackers genera ataques más chapuceros

Selena Larson, de Proofpoint, afirma que los actores maliciosos que dependen de la IA cometen muchos errores. Ve pocas pruebas de que la IA haya hecho sus ataques más sofisticados.

Por qué importaLos defensores pueden buscar errores generados por IA en los ataques, pero no deben suponer que las amenazas impulsadas por IA sean siempre más avanzadas.
SeguridadPolíticaThe Record ↗13 nov

El regulador de privacidad británico recibe este año un número récord de incidentes cibernéticos notificados

Las organizaciones británicas han notificado este año más incidentes cibernéticos que nunca al regulador de protección de datos del Reino Unido. Las empresas de seguridad atribuyen el aumento de ataques a la extorsión de datos y a la inteligencia artificial.

Por qué importaLas empresas que gestionan datos personales en el Reino Unido deben prepararse para más ataques y más atención regulatoria, y revisar sus planes de respuesta a incidentes.
SeguridadDesarrolladoresSecurityWeek ↗13 nov

OpenAI lanza Daybreak, herramientas de seguridad que usan agentes de IA para hacer pentesting de aplicaciones y preparar correcciones

OpenAI ha presentado Daybreak Red Team, que usa agentes de IA coordinados para buscar debilidades en aplicaciones web y se ofrece en acceso anticipado. También ha lanzado Defense Factory, que investiga los hallazgos de seguridad y prepara parches, uniendo el descubrimiento de vulnerabilidades con su corrección y nuevas pruebas.

Por qué importaLos equipos de seguridad pronto podrían delegar en agentes de IA tanto la detección como la corrección de fallos en aplicaciones, lo que podría acelerar los parches pero exige una revisión humana cuidadosa.
SeguridadNegociosInfosecurity Magazine ↗13 nov

Un investigador advierte que la IA hará el ransomware más peligroso y rentable el próximo año

Bob McArdle, de TrendAI, afirma que las técnicas de ransomware llevan unos años estancadas, pero cambiarán notablemente el próximo año. Prevé que la IA hará los ataques más peligrosos y más rentables.

Por qué importaLas empresas deberían revisar ya sus copias de seguridad y planes de respuesta a incidentes por si el ransomware impulsado por IA crece como se prevé.
SeguridadDesarrolladoresHelp Net Security ↗13 nov

Un servidor MCP fijado se ejecutó en silencio con 15 conjuntos de dependencias distintos en cinco semanas

Un investigador de Corelight descubrió que un servidor MCP configurado para ejecutar una versión fija cambió sus dependencias 15 veces en cinco semanas sin ningún cambio de configuración. Veintitrés de sus 69 paquetes cambiaron de versión, incluidas bibliotecas de criptografía, JSON Web Token y el MCP SDK.

Por qué importaLos equipos que conectan asistentes de programación con IA mediante servidores MCP deberían fijar todo el árbol de dependencias, no solo la versión principal, para evitar riesgos inesperados en la cadena de suministro.
SeguridadDía a díaThe Record ↗12 nov

United Airlines prohíbe a sus clientes usar agentes de IA para reservar y gestionar vuelos

United afirma que no permitirá que los asistentes personales de IA reserven billetes ni gestionen reservas, y advierte que compartir credenciales con agentes de terceros puede exponer datos sensibles y provocar compras no deseadas. También citó las normas federales sobre la información que las aerolíneas deben dar a los pasajeros.

Por qué importaLas empresas empiezan a restringir los agentes de IA en sus cuentas, lo que puede limitar lo que los agentes de consumo pueden hacer por ti en internet.
DesarrolladoresSeguridadHelp Net Security ↗12 nov

Anthropic ofrece Claude Managed Agents autoalojados para que las credenciales permanezcan en los entornos de las empresas

Anthropic ha lanzado en beta privada una versión autoalojada de Claude Managed Agents, que permite a las empresas ejecutar el entorno de los agentes, los sandboxes, las credenciales y el historial de sesiones en su propia nube o en sus instalaciones. Los clientes solicitan acceso a través de su equipo de cuenta de Anthropic.

Por qué importaLas empresas que ejecutan agentes sin supervisión dentro de sistemas corporativos pueden mantener claves y registros sensibles bajo su propio control, lo que reduce la exposición si un proveedor sufre una brecha.
SeguridadDía a díaThe Verge ↗12 nov

Un estudio revela que ChatGPT, Gemini y Perplexity a veces envían a los compradores a tiendas falsas

La firma de protección de propiedad intelectual Podqi hizo a los chatbots preguntas de compra sobre 151 marcas y descubrió que podían dirigir a los usuarios a webs fraudulentas y otros sitios de riesgo. La prueba se realizó en dos periodos a partir de septiembre.

Por qué importaSi usas chatbots para saber dónde comprar, comprueba bien la dirección web antes de introducir tus datos de pago.
SeguridadNegociosFinextra ↗12 nov

Feedzai añade herramientas para ayudar a los bancos a detectar agentes de IA que acceden a cuentas de clientes

Feedzai, empresa de prevención de delitos financieros, ha ampliado su producto Digital Trust para que los bancos puedan detectar cuándo son agentes de IA, y no personas, quienes acceden a las cuentas de los clientes.

Por qué importaAhora que tanto clientes como estafadores empiezan a usar agentes de IA, los bancos necesitan distinguir el acceso automatizado legítimo del abuso.
SeguridadDía a díaThe Hacker News ↗12 nov

186 dominios que imitan herramientas de IA difunden señuelos ClickFix, malware de navegador y secuestradores de búsqueda

Investigadores de Island encontraron dominios que se hacen pasar por herramientas de IA populares y engañan a los visitantes con falsos pasos de verificación, instalan malware que secuestra el navegador o añaden extensiones que secuestran las búsquedas. La técnica se ha bautizado como TypoPrompting.

Por qué importaEscribir mal la dirección de una herramienta de IA puede llevarte a malware, así que guarda los sitios reales en favoritos y desconfía de cualquier página que te pida ejecutar comandos.
SeguridadCSO Online ↗12 nov

Hackers de habla china usaron una herramienta de pentesting con IA de código abierto para vulnerar 10 organizaciones

Palo Alto Networks Unit 42 afirma que los atacantes combinaron el framework de pentesting con IA de código abierto Cairn con los modelos chinos GLM y DeepSeek para ejecutar 25 operaciones contra al menos 19 organizaciones en agosto y septiembre de 2026. Lograron acceso o robaron datos en 10 objetivos, sobre todo de semiconductores, fabricación avanzada y defensa, a menudo con poco más que un nombre de dominio y un objetivo de una línea.

Por qué importaLas herramientas autónomas de ataque con IA ya se usan en campañas reales, así que los defensores deben asumir que los ataques pueden ejecutarse a velocidad de máquina con poco esfuerzo humano.
SeguridadPolíticaThe Record ↗12 nov

Hackers presuntamente vinculados a Kazajistán usaron un agente de IA para espiar a gobiernos de Asia Central

Una nueva investigación afirma que hackers presuntamente vinculados a Kazajistán usaron un agente de IA para ayudar a espiar a gobiernos de Asia Central. El grupo robó documentos sensibles y accedió a redes de infraestructuras críticas.

Por qué importaLos grupos respaldados por Estados ya usan agentes de IA en operaciones reales de espionaje, así que gobiernos y operadores de infraestructuras deben esperar ataques más rápidos y automatizados.
SeguridadDesarrolladoresCSO Online ↗12 nov

Agentes de IA e investigadores de Microsoft encuentran 59 fallos en el kernel de Linux, algunos ocultos durante más de 20 años

Un proyecto de Microsoft FORGE Lab que combina agentes de IA con investigadores humanos encontró 59 vulnerabilidades en el kernel de Linux, algunas presentes en código de producción durante más de 20 años. La IA aceleró el hallazgo, pero verificar los fallos y escribir parches siguió requiriendo mucho trabajo humano.

Por qué importaLa IA está encontrando rápido fallos antiguos en software esencial, así que los equipos que usan Linux deben esperar más parches y planificar el esfuerzo humano necesario para corregirlos.
SeguridadDesarrolladoresHelp Net Security ↗12 nov

Investigadores muestran que claves robadas de la API de Claude pueden convertir Claude Code en un implante controlado a distancia

Investigadores de Darktrace controlaron Claude Code en una prueba de laboratorio usando la función de memoria de la plataforma de Anthropic y extrajeron un archivo de 1 GB a través de la Files API. Todo el tráfico pasó por el endpoint habitual de la API de Anthropic, por lo que parecía un agente de programación haciendo su trabajo.

Por qué importaLas claves de API de IA filtradas pueden dar a los atacantes un control oculto de los agentes de programación, así que las empresas deben proteger y rotar estas claves como si fueran contraseñas.
SeguridadNegociosDark Reading ↗12 nov

Un atacante recurrió a scripts generados por IA para moverse por la red de un minorista estadounidense en minutos

Cuando los comandos escritos a mano no lograron penetrar en un minorista de EE. UU., el atacante usó en su lugar scripts generados por IA. Así pudo moverse por la red en cuestión de minutos.

Por qué importaLa IA reduce el tiempo que tienen los defensores para detectar y detener a un intruso, por lo que los minoristas necesitan una vigilancia y una respuesta más rápidas.
SeguridadHelp Net Security ↗12 nov

Bots de credential stuffing se hacen pasar por un popular agente de IA para burlar las defensas

En una semana de octubre, un marketplace online recibió más de 414.000 visitas de tráfico que decía ser un conocido agente de IA de consumo, todas dirigidas a la página de inicio de sesión. En realidad era una operación de credential stuffing que probaba usuarios y contraseñas robados, y superó en número a las visitas del agente real.

Por qué importaLos sitios que confían en el tráfico solo porque dice ser un agente de IA pueden quedar expuestos a ataques de robo de cuentas.
SeguridadDesarrolladoresCSO Online ↗12 nov

Hackers robaron claves de proveedores de IA a Railway y generaron $740,000 en uso fraudulento

El proveedor cloud Railway confirmó una lucha de casi 26 horas contra atacantes que buscaban credenciales de proveedores de IA y generaron unos $740,000 en cargos fraudulentos de IA. Las claves robadas se buscaban para revenderlas a servicios de destilación de modelos, y hasta 100,000 credenciales de espacios de trabajo podrían haber quedado expuestas.

Por qué importaLas claves de API de IA son ahora un botín valioso, así que los desarrolladores deben guardarlas de forma segura, rotarlas y fijar límites de gasto.
SeguridadPolíticaDark Reading ↗12 nov

Japón propone financiación de emergencia en ciberseguridad ante el aumento de brechas asistidas por IA

Japón impulsa un paquete de financiación de emergencia que suma equipos de respuesta cibernética público-privados y un equipo centrado en IA dirigido por el ministerio de economía. También amplía el margen para usar los nuevos poderes de ciberdefensa activa del gobierno.

Por qué importaLos gobiernos empiezan a financiar defensas específicas contra ataques asistidos por IA, lo que marcará cómo las empresas notifican y responden a las brechas.
SeguridadPolíticaDark Reading ↗11 nov

Japón impulsa fondos de emergencia para ciberseguridad ante el aumento de ataques con IA

Japón avanza con fondos de emergencia para ciberseguridad en respuesta al aumento de ciberataques impulsados por IA. El paquete incluye un equipo conjunto público-privado de respuesta cibernética, un equipo de especialistas en IA dirigido por el Ministerio de Economía y un mayor margen para usar los nuevos poderes de ciberdefensa activa del Gobierno.

Por qué importaLos gobiernos empiezan a tratar el hackeo asistido por IA como una amenaza nacional urgente, lo que puede influir en cómo las empresas en Japón colaboran con las autoridades en materia de defensa.
SeguridadNegociosBleepingComputer ↗11 nov

Una brecha en el proveedor de IA Fireworks expone algunas transcripciones de chats de Notion AI

Notion reveló que una brecha de seguridad en su proveedor de infraestructura de IA, Fireworks AI, expuso transcripciones de chats de Notion AI en menos del 1% de los espacios de trabajo. Es la segunda filtración de datos de Fireworks en dos meses.

Por qué importaLo que escribes en las funciones de IA puede quedar en manos de terceros, así que las empresas deben comprobar la seguridad de cada proveedor de su cadena de suministro de IA.
SeguridadThe Hacker News ↗11 nov

Atacantes usan AntiFox, un agente de IA de código abierto para pentesting, para robar credenciales de AWS

Investigadores descubrieron a atacantes que alojaban instancias autogestionadas de AntiFox, una plataforma de código abierto de pruebas de penetración con agentes, en Alibaba Cloud para atacar servicios web y robar credenciales de AWS. Después se movieron lateralmente por los entornos comprometidos.

Por qué importaAgentes de IA ofensivos creados para los defensores se están volviendo contra cuentas en la nube, lo que aumenta la velocidad y la escala de los ataques a credenciales.
SeguridadDesarrolladoresCSO Online ↗11 nov

Microsoft demuestra que editar menos de 10 neuronas puede implantar una puerta trasera oculta en agentes de IA

Investigadores de Microsoft describieron una técnica llamada Lazarus que modifica unas pocas neuronas inactivas de un modelo de pesos abiertos para que un disparador le haga emitir comandos del atacante, sin necesidad de reentrenamiento. El modelo modificado se comporta con normalidad en las pruebas de seguridad estándar, y Microsoft dice no haber visto a atacantes usar el método.

Por qué importaLos equipos que ejecutan agentes sobre modelos de pesos abiertos deben verificar de dónde proceden sus archivos de modelo y limitar lo que los agentes pueden ejecutar.
SeguridadDesarrolladoresThe Hacker News ↗11 nov

Más de 35.000 apps creadas con el agente de programación de Grok, expuestas en internet; algunas filtran contraseñas

La firma de seguridad Claroc encontró 37.571 apps creadas con Grok en línea, y 35.578 podían abrirse sin iniciar sesión, incluidas 24 creadas por empleados de X y SpaceXSI. Aproximadamente una de cada diez contenía datos internos de empresas, y algunas filtraban información confidencial y contraseñas.

Por qué importaSi creas apps con herramientas de programación con IA, revisa la configuración de acceso antes de publicarlas, ya que la configuración por defecto puede exponer datos privados a cualquiera.
SeguridadSecurityWeek ↗11 nov

Fortinet corrige casi 100 vulnerabilidades tras incorporar IA de frontera a sus pruebas de seguridad

Fortinet publicó parches para casi 100 vulnerabilidades en un gran lote. El aumento se produce después de que la empresa empezara a usar modelos de IA de frontera en las pruebas de seguridad de sus productos.

Por qué importaLa búsqueda de fallos con IA está generando muchos más parches, así que los equipos de TI deben prepararse para ciclos de actualización más grandes y frecuentes.
SeguridadDesarrolladoresCSO Online ↗11 nov

Los archivos de configuración de Claude Code filtraron más de 31.000 secretos en repositorios públicos de GitHub

GitGuardian encontró 31.088 secretos distintos, entre ellos credenciales de bases de datos y tokens de la nube, en archivos de configuración local de Claude Code en 23.276 repositorios públicos de GitHub. De ellos, 5.343 seguían siendo válidos cuando se detectaron.

Por qué importaSi usas Claude Code, comprueba que tu archivo de configuración local esté excluido de Git y rota cualquier credencial que pueda haberse subido.
SeguridadDesarrolladoresThe Hacker News ↗11 nov

Una brecha en Railway permitió a hackers generar unos 740.000 dólares en cargos de IA con claves robadas a clientes

El proveedor de plataformas Railway informó de que las claves de proveedores de IA almacenadas por sus clientes fueron robadas en una brecha en octubre y usadas para un consumo no autorizado estimado en 740.000 dólares, que podría afectar a hasta 100.000 espacios de trabajo. La empresa prometió cubrir los cargos que los proveedores de IA no reembolsen.

Por qué importaLas claves de API de IA almacenadas ya son un objetivo directo para robar y revender capacidad de cómputo, así que fija límites de gasto y rota las claves guardadas en plataformas de terceros.
SeguridadDesarrolladoresThe Hacker News ↗11 nov

Investigadores de Microsoft muestran que se puede introducir una puerta trasera en agentes de IA modificando menos de 10 neuronas

Investigadores de Microsoft mostraron una técnica llamada Lazarus que implanta una puerta trasera oculta en un modelo de IA cambiando menos de 10 neuronas poco usadas, sin reentrenamiento. Cuando aparece un activador, un agente que usa el modelo ejecuta el comando de un atacante, pero se comporta con normalidad en las pruebas de seguridad estándar.

Por qué importaLas empresas que dan a agentes de IA acceso a terminales o sistemas deben verificar de dónde vienen los pesos del modelo y quién puede modificarlos, porque las pruebas de seguridad pueden no detectar este tipo de manipulación.
SeguridadDesarrolladoresThe Hacker News ↗10 nov

Hackers explotan un fallo de SGLang para entrar en un servidor de inferencia de NEAR AI y robar datos de agentes y usuarios

Un atacante aprovechó un fallo de ejecución remota de código en el motor de inferencia de código abierto SGLang para ejecutar código en uno de los servidores de inferencia de NEAR AI y se llevó datos de 18 agentes y unos 100 usuarios. Las solicitudes enviadas en modo confidencial también pudieron quedar visibles en ese servidor.

Por qué importaSi usas motores de inferencia de código abierto, parchea rápido: un solo fallo puede exponer los prompts de los usuarios incluso en configuraciones supuestamente confidenciales.
SeguridadDesarrolladoresDark Reading ↗10 nov

Descubren que un comando de Claude Code guarda credenciales en repositorios públicos de GitHub

Investigadores descubrieron que un comando de Claude Code puede guardar por accidente archivos con credenciales y otros datos sensibles en repositorios Git públicos. Miles de secretos se han filtrado de esta forma.

Por qué importaLos equipos que usan agentes de programación con IA deben escanear sus repositorios en busca de claves expuestas y rotar las que se hayan filtrado.
SeguridadNegociosThe Hacker News ↗10 nov

La brecha de Fireworks AI se amplía a conjuntos de datos de clientes, pesos de modelos y chats de Notion AI

Fireworks AI afirmó que su investigación sobre un incidente anterior halló más actividad maliciosa que afectó a información de cuentas y facturación, secretos, conjuntos de datos y modelos incompletos de un número limitado de cuentas. Notion indicó que la brecha expuso transcripciones de chats de Notion AI en un pequeño número de espacios de trabajo.

Por qué importaTus datos de IA solo están tan seguros como los proveedores de infraestructura detrás de tus herramientas, así que las empresas deberían revisar qué proveedores procesan sus prompts y datos.
SeguridadDesarrolladoresCSO Online ↗10 nov

El cazador de bugs con IA de Microsoft encuentra un fallo en la biblioteca estándar de Rust oculto durante casi 11 años

Investigadores de Microsoft FORGE Lab usaron IA para encontrar un bug de seguridad de memoria en la biblioteca estándar de Rust que pasó desapercibido durante casi 11 años, además de otros fallos que pueden causar comportamiento indefinido incluso en código Rust seguro. Dos de los hallazgos afectan a Rust estable.

Por qué importaLas herramientas de IA ya encuentran bugs antiguos en código de confianza, así que los desarrolladores deben esperar más parches, y los atacantes también podrían encontrar fallos de esta forma.
DesarrolladoresSeguridadThe Hacker News ↗10 nov

Anthropic lanza Claude Fable 5.2 y Mythos 5.2, que lideran un benchmark de ciberataques en varias fases

Anthropic lanzó Claude Fable 5.2 y Claude Mythos 5.2, y afirma que ambos mejoran en programación, razonamiento y visión. Fable 5.2 superó a GPT-6 Cyber en un benchmark que evalúa ciberataques en varias fases.

Por qué importaLos modelos de frontera más potentes permiten a los desarrolladores hacer más, pero sus crecientes capacidades de ciberataque elevan lo que está en juego para los equipos de seguridad.