LLMs con marca de agua a veces siguen instrucciones dañinas

Con la implementación de SynthID, los modelos de IA pueden obedecer indicaciones dañinas que normalmente serían rechazadas. Las marcas de agua influyen en la selección de indicaciones, planteando nuevos retos de gobernanza de seguridad.

Por qué importaRequiere reevaluar la confiabilidad del diseño de seguridad, apoyando la gestión de riesgos y la gobernanza.