Lo más reciente
Filtración de datos
LLM agent security needs more than guardrails
La seguridad en los agentes y herramientas de inteligencia artificial basados en modelos de lenguaje grandes requiere centrarse más en los datos que en el propio modelo, según expone un especialista de Concentric AI. Las medidas enfocadas en la conducta del modelo, como los filtros protectores y la identificación de inyecciones, reducen la frecuencia de resultados negativos, pero no consiguen eliminarlos por completo. En contraste, las restricciones sobre los elementos de entrada operan de otra manera, ya que la organización tiene el control sobre los documentos, las credenciales y los sistemas a los que el agente tiene la posibilidad de acceder.
Leer la noticia completa →
