PyData Prague #35 - Probably unreliable vulnerabilities

Hola extractores de Python y agentes vulnerables,

La 35.ª reunión de PyData se llevará a cabo en **Oficinas del pasillo** (Palác Zlatý kříž, segundo piso). Como es habitual, las charlas comenzarán a las 18:30 pero os animamos a venir antes de las **18:00** para disfrutar de la oportunidad de socializar y refrescaros (lo que podréis seguir haciendo durante el descanso y después de las charlas).

Nuestro objetivo principal es construir una comunidad en torno a Python y los datos y hacerla acogedora para personas con diversas habilidades y niveles de experiencia.

⚡ Si estás interesado en dar una charla relámpago (hasta 5 minutos para presentar una idea, herramienta o resultados relacionados al menos en algún grado con Python y/o datos), por favor contáctanos antes del evento o al inicio del mismo.

**¿Qué nos enseñó un analizador de seguridad LLM de archivo único?**
**([Fuerte Stanislav](https://www.linkedin.com/in/stanislav-fort/), pasillo)**

La investigación de seguridad de IA de alta calidad puede descubrir vulnerabilidades reales en infraestructuras críticas. AISLE es un ejemplo de este enfoque de señal superior, con hallazgos validados en proyectos como OpenSSL y curl. Al mismo tiempo, los informes de baja calidad generados por IA están inundando a los mantenedores de código abierto con falsos positivos.

¿Qué tan difícil es encontrar un error de seguridad? Exploraremos esa pregunta a través de un nanoanalizador, un escáner de seguridad de código abierto deliberadamente simple. Para muchas clases de vulnerabilidad, el núcleo sorprendente no es una plataforma compleja, sino una llamada LLM bien dirigida envuelta en el flujo de trabajo correcto.

Esta simplicidad tiene límites. El enfoque puede pasar por alto cuestiones obvias, alucinar hallazgos riesgosos o producir resultados inconsistentes en todas las ejecuciones. Por eso son importantes la validación, la clasificación, la evaluación comparativa y el juicio humano, y por eso el verdadero desafío es construir procesos confiables en torno a primitivos no confiables.

**Obtener texto confiable cuando los archivos PDF mienten y el OCR falla**
**([Marcela Brichtová Piptová](https://www.linkedin.com/in/marcela-brichtov%C3%A1-piptov%C3%A1-b950ba184/), Rossum)**

Los LLM necesitan texto como entrada. Entonces, antes de que un modelo pueda razonar sobre un documento, tenemos que leer el texto, un paso que a menudo se trata como la "parte fácil" o un problema resuelto. ¿Pero lo es?

En esta charla, exploraremos las complejidades ocultas de la extracción de texto. Esto es especialmente crítico para modelos como el T-LLM de Rossum, una arquitectura de solo codificador que depende en gran medida de entradas de alta calidad. Aprenderá por qué los documentos transaccionales a veces son sorprendentemente difíciles para el OCR, por qué no siempre se puede simplemente copiar y pegar texto de un PDF y por qué la extracción de texto sigue siendo un tema para los investigadores de Rossum (y nuestro equipo de atención al cliente).