Investigadores de Microsoft advierten sobre backdoors en agentes de IA mediante edición mínima de neuronas

Científicos de Microsoft demostraron que modelos de inteligencia artificial pueden comprometerse insertando puertas traseras en menos de diez neuronas…

Organizaciones con agentes de IA en operación deben implementar controles estrictos sobre quién puede acceder y modificar pesos de modelos. Considera segregación de permisos, auditoría de cambios en artefactos de ML, y monitoreo de comportamientos anómalos en agentes.