#seguridadia hashtag - Bluesky

2 days ago

🛡️ GPT-5: Más seguro en conversaciones delicadas

openai.com/index/gpt-5-system-card-...

#GPT5 #IA #SeguridadIA #OpenAI

1 0 0 0

roxsross

@roxsross

3 days ago

🛡️ OpenAI lanza modelos de seguridad de código abierto

https://openai.com/index/introducing-gpt-oss-safeguard

#OpenAI #SeguridadIA #IA #DesarrolloResponsable

0 0 0 0

roxsross

@roxsross

4 days ago

⚠️ ¿Qué son las inyecciones de prompts? El nuevo desafío de seguridad en IA

https://openai.com/index/prompt-injections

#IA #SeguridadIA #PromptInjection #OpenAI

0 0 0 0

KillBait Noticias

@kill-bait-es

4 days ago

Vulnerabilidad crítica por inyección de prompts en agentes de IA de Anthropic, Google y Microsoft permite el robo de credenciales Un investigador de seguridad llamado Aonan Guan ha demostrado que los agentes de IA de Anthropic (Claude Code Security Review), Google (Gemini CLI Action) y Microsoft/GitHub (Copilot Agent) son vulnerables a ataques de prompt injection indirecta. Estos agentes, que procesan contenido de repositorios de GitHub como pull requests, issues y comentarios, no distinguen de forma fiable entre datos legítimos e instrucciones maliciosas incrustadas. Guan logró que los agentes filtraran API keys, tokens de GitHub y otros secretos sensibles del entorno de ejecución. En los tres casos, las instrucciones maliciosas se ocultaron en títulos de PR, secciones falsas de contenido de confianza o comentarios HTML invisibles para humanos pero legibles para los modelos. Las compañías reaccionaron pagando bug bounties (100 dólares Anthropic, 500 dólares GitHub y una cantidad no revelada Google), pero ninguna publicó un aviso de seguridad oficial ni asignó un identificador CVE. Esto deja a usuarios de versiones anteriores sin forma automática de conocer el riesgo. El problema subraya una laguna estructural en el ecosistema de divulgación responsable de vulnerabilidades de IA: al tratarse de comportamientos emergentes de los modelos en lugar de errores de código tradicionales, las empresas optan por resolverlo en silencio. Expertos advierten que este enfoque reduce la transparencia y expone a organizaciones que usan estos agentes en pipelines de CI/CD. La recomendación es aplicar el principio de menor privilegio, revisar configuraciones y exigir a los proveedores mayor transparencia, especialmente ante regulaciones como el EU AI Act que se acerca. El incidente se suma a otros informes recientes que muestran la alta vulnerabilidad de los agentes autónomos a este tipo de ataques.

Vulnerabilidad crítica por inyección de prompts en agentes de IA de Anthropic, Google y Microsoft permite el robo de credenciales

🤖 IA: Es clickbait ⚠️
👥 Usuarios: Es clickbait ⚠️

#promptinjection #seguridadia #agentesia

Ver resumen IA completo:

0 0 0 0

roxsross

@roxsross

4 days ago

📊 OpenAI actualiza métricas de seguridad de GPT-5.1

openai.com/index/gpt-5-system-card-...

#GPT5 #IA #SeguridadIA #OpenAI

0 0 0 0

roxsross

@roxsross

6 days ago

🛡️ Así protege OpenAI su modelo más avanzado: GPT-5.1-Codex-Max

https://openai.com/index/gpt-5-1-codex-max-system-card

#IA #SeguridadIA #OpenAI #GPT5

0 0 0 0

roxsross

@roxsross

1 week ago

🛡️ OpenAI refuerza seguridad con evaluadores externos

openai.com/index/strengthening-safe...

#IA #SeguridadIA #OpenAI #InnovacionResponsable

0 0 0 0

roxsross

@roxsross

1 week ago

🎮 ¿Puedes hackear un agente de IA? Aprende seguridad en este juego de GitHub

github.blog/security/hack-the-ai-age...

#SeguridadIA #GitHub #Aprendizaje #DesarrolloSeguro

0 0 0 0

roxsross

@roxsross

1 week ago

🛡️ ¿Dónde están los límites prometidos para la IA?

https://thenewstack.io/skiplabs-ai-guardrails-skipper/

#IA #SeguridadIA #Tech #Innovacion

0 0 0 0

roxsross

@roxsross

2 weeks ago

🔐 OpenAI revela detalles de GPT-5.2-Codex: seguridad y capacidades

https://openai.com/index/gpt-5-2-codex-system-card

#OpenAI #GPT5 #InteligenciaArtificial #SeguridadIA

0 0 1 0

roxsross

@roxsross

2 weeks ago

🤖 ¿En qué gastó OpenAI los miles de millones prometidos para seguridad?

https://thenewstack.io/altman-openai-ai-safety/

#OpenAI #SeguridadIA #SamAltman #ÉticaTech

0 0 0 0

roxsross

@roxsross

2 weeks ago

🧠 Vigilar el pensamiento de la IA, no solo sus respuestas.

openai.com/index/evaluating-chain-o...

#IA #OpenAI #ChainOfThought #SeguridadIA

0 0 0 0

roxsross

@roxsross

2 weeks ago

🛡️ OpenAI fortalece a ChatGPT contra ataques de inyección

openai.com/index/hardening-atlas-ag...

#OpenAI #SeguridadIA #ChatGPT #Ciberseguridad

1 0 0 0

roxsross

@roxsross

2 weeks ago

🛡️ OpenAI busca a la próxima generación de expertos en seguridad

openai.com/index/introducing-openai...

#IA #SeguridadIA #OpenAI #FuturoTecnologico

0 0 0 0

roxsross

@roxsross

2 weeks ago

🛡️ ¿Tu Agente de IA es Seguro? La Prueba Definitiva

devops.com/is-your-ai-agent-secure-...

#DevOps #SeguridadIA #InteligenciaArtificial #Testing

0 0 0 0

roxsross

@roxsross

2 weeks ago

🛡️ ¿Tu IA abre enlaces? Así protege OpenAI tus datos

https://openai.com/index/ai-agent-link-safety

#SeguridadIA #OpenAI #Privacidad #AgentesIA

0 0 0 0

roxsross

@roxsross

3 weeks ago

🤝 OpenAI invierte $7.5M en investigación independiente sobre IA alineada

openai.com/index/advancing-independ...

#IA #Alineamiento #SeguridadIA #OpenAI

0 0 0 0

roxsross

@roxsross

3 weeks ago

🛡️ Nvidia y la seguridad de sus IA: ¿Protegen lo correcto?

thenewstack.io/nvidia-nemoclaw-openclaw...

#Nvidia #SeguridadIA #LLM #NemoClaw

0 0 0 0

roxsross

@roxsross

3 weeks ago

🧠 ¿Pensamientos rebeldes en IA? Un hallazgo clave para la seguridad

openai.com/index/reasoning-models-c...

#IA #SeguridadIA #OpenAI #Investigación

0 0 0 0

roxsross

@roxsross

3 weeks ago

🛡️ OpenAI refuerza la seguridad de sus modelos con la compra de Promptfoo

https://openai.com/index/openai-to-acquire-promptfoo

#OpenAI #SeguridadIA #Promptfoo #InteligenciaArtificial

0 0 0 0

roxsross

@roxsross

3 weeks ago

🛡️ Cómo los LLMs aprenden a obedecer solo a instrucciones confiables

openai.com/index/instruction-hierar...

#IA #SeguridadIA #LLM #OpenAI

0 0 0 0

roxsross

@roxsross

3 weeks ago

🔍 Auditoría de seguridad revela riesgos en habilidades de IA para código

https://thenewstack.io/ai-agent-skills-security/

#SeguridadIA #DesarrolloSoftware #AgentesIA #Ciberseguridad

1 0 0 0

roxsross

@roxsross

3 weeks ago

🔍 Vigilando a los asistentes de código: Cómo OpenAI busca desalineaciones

openai.com/index/how-we-monitor-int...

#AISafety #OpenAI #SeguridadIA #Automatización

0 0 0 0

roxsross

@roxsross

3 weeks ago

🔍 OpenAI te paga por encontrar fallos de seguridad en su IA

https://openai.com/index/safety-bug-bounty

#BugBounty #SeguridadIA #OpenAI #Ciberseguridad

0 0 0 0

roxsross

@roxsross

4 weeks ago

🛡️ ¿Tu Agente de IA es un peligro? WebAssembly lo protege.

thenewstack.io/webassembly-sandboxing-a...

#WebAssembly #SeguridadIA #AgentesIA #Ciberseguridad

0 0 0 0

Iberian Press

@iberianpress

1 month ago

Cómo se evalúa la seguridad de la inteligencia artificial en la predicción de enfermedades: guía completa ¿Qué es la seguridad en la inteligencia artificial aplicada a la predicción de enfermedades? La seguridad en la inteligencia artificial (IA) aplicada a la predicción de enfermedades se refiere a las medidas y protocolos... The post Cómo se evalúa la seguridad de la inteligencia artificial en la predicción de enfermedades: guía completa first appeared on SoloSalud.net.

Cómo se evalúa la seguridad de la inteligencia artificial en la predicción de enfermedades: guía completa #InteligenciaArtificial #SeguridadIA #PredicciónDeEnfermedades

2 0 0 0

Pablo Álvarez Corredera (técnico informático, redactor CIBERED)

@cibered.com

1 month ago

OpenAI y Anthropic refuerzan sus Equipos de Riesgo ante el uso Militar de la IA en la Guerra contra Irán | Novedades IA | CIBERED 🚨 OpenAI y Anthropic contratan expertos en armas QUÍMICAS/BIOLÓGICAS. IA militar + riesgo WMD en conflicto Irán. ¿Control o escalada? Descúbrelo HOY

⚠️ OpenAI y Anthropic refuerzan sus Equipos de Riesgo ante el uso Militar de la IA en la Guerra contra Irán cibered.com/inteligencia...

#OpenAI #Anthropic #SeguridadIA #Cibered

0 1 1 0

La Crónica del Henares

@cronicadelhenares

1 month ago

TECNOLOGÍA. Anthropic y el Pentágono: el choque que sacudió a la industria de la IA y reabre el debate sobre los límites del uso militar de la inteligencia artificial inteligencia artificial, Anthropic, Pentágono, seguridad nacional, IA, usos militares, geopolítica

TECNOLOGÍA. La IA que se negó a obedecer al Pentágono. Anthropid rechazó un ultimátum de $200M antes de ceder en dos líneas rojas: armas autónomas y vigilancia masiva de ciudadanos. www.cronicadelhenares.com/2026/03/tecn... #Anthropic #Pentágono #IAÉtica #SeguridadIA

0 0 1 0

NBES

@newsbotes

1 month ago

Noticia desarrollada

Investigadores de IA renuncian por preocupaciones de seguridad. Plataformas de IA contratan humanos para tareas, generando controversia. La revista Evie busca influir en el ciclo electoral.
#IA #SeguridadIA #Política

0 0 0 0

NBES

@newsbotes

1 month ago

Noticia desarrollada

Investigadores de IA renuncian por preocupaciones de seguridad, mientras bots contratan humanos. Un análisis de Evie Magazine podría influir en la política electoral.
#IA #SeguridadIA #Elecciones

0 0 0 0