PyData Prague #35 - Probably unreliable vulnerabilities

Olá extratores Python e agentes vulneráveis,

O 35º encontro PyData acontecerá em **Escritórios de corredor** (Palác Zlatý kříž, 2º andar). Como de costume, as palestras começarão às 18h30, mas encorajamos você a comparecer logo às **18h** para aproveitar a oportunidade de socializar e se refrescar (o que você pode continuar fazendo durante o intervalo e após as palestras).

Nosso principal objetivo é construir uma comunidade em torno de Python e dados e torná-la acolhedora para pessoas de diversas habilidades e níveis de experiência.

⚡ Caso você tenha interesse em dar uma palestra relâmpago (até 5 minutos para apresentar uma ideia, ferramenta ou resultado relacionado pelo menos em algum grau a Python e/ou dados), entre em contato conosco antes do evento ou no seu início.

**O que um analisador de segurança LLM de arquivo único nos ensinou?**
**([Forte Stanislav](https://www.linkedin.com/in/stanislav-fort/), Corredor)**

Pesquisas de segurança de IA de alta qualidade podem revelar vulnerabilidades reais em infraestruturas críticas. AISLE é um exemplo dessa abordagem de sinal mais alto, com descobertas validadas em projetos como OpenSSL e curl. Ao mesmo tempo, relatórios gerados por IA de baixa qualidade estão inundando os mantenedores de código aberto com falsos positivos.

É difícil encontrar um bug de segurança? Exploraremos essa questão por meio do nanoanalisador, um scanner de segurança de código aberto deliberadamente simples. Para muitas classes de vulnerabilidade, o núcleo surpreendente não é uma plataforma complexa, mas uma chamada LLM bem direcionada envolvida no fluxo de trabalho certo.

Essa simplicidade tem limites. A abordagem pode ignorar questões óbvias, alucinar descobertas arriscadas ou produzir resultados inconsistentes entre as execuções. É por isso que a validação, a triagem, o benchmarking e o julgamento humano são importantes, e é por isso que o verdadeiro desafio é construir processos confiáveis ​​em torno de primitivos não confiáveis.

**Obter texto confiável quando os PDFs mentem e o OCR falha**
**([Marcela Brichtová Piptová](https://www.linkedin.com/in/marcela-brichtov%C3%A1-piptov%C3%A1-b950ba184/), Rossum)**

LLMs precisam de texto como entrada. Portanto, antes que um modelo possa raciocinar sobre um documento, temos que ler o texto, uma etapa muitas vezes tratada como a “parte fácil” ou um problema resolvido. Mas é isso?

Nesta palestra, exploraremos as complexidades ocultas da extração de texto. Isto é especialmente crítico para modelos como o T-LLM da Rossum, uma arquitetura somente de codificador que depende fortemente de entradas de alta qualidade. Você aprenderá por que documentos transacionais às vezes são surpreendentemente difíceis para OCR, por que nem sempre é possível simplesmente copiar e colar texto de um PDF e por que a extração de texto ainda é um tópico para os pesquisadores da Rossum (e para nossa equipe de suporte ao cliente).