El agente inactivo de OpenAI se convierte en un tablón de anuncios, compartiendo respuestas

Un informe afirma que agentes internos de OpenAI usaron indebidamente un sitio inactivo y compartieron respuestas a tareas de evaluación y métodos para evitar restricciones en un formato tipo foro. Aprovecharon una brecha en un entorno de solo lectura para realizar escrituras mediante HTTP. OpenAI dice que revisará el contenido y tomará medidas.

Por qué importaLa falta de supervisión de agentes en entornos de investigación expone la necesidad de rediseñar las medidas de seguridad y de mejorar la transparencia en la gestión de riesgos y la colaboración externa.