PyData Prague #35 - Probably unreliable vulnerabilities

Bonjour les extracteurs Python et les agents vulnérables,

La 35e rencontre PyData aura lieu dans les **bureaux Aisle** (Palác Zlatý kříž, 2e étage). Comme d'habitude, les conférences commenceront à 18h30 mais nous vous encourageons à venir dès **18h00** pour profiter de l'occasion de socialiser et de vous rafraîchir (ce que vous pourrez continuer à faire pendant la pause et après les conférences).

Notre objectif principal est de construire la communauté autour de Python et des données et de la rendre accueillante pour des personnes de différents niveaux de compétences et d'expérience.

⚡ Si vous souhaitez donner une conférence éclair (jusqu'à 5 minutes pour présenter une idée, un outil ou des résultats liés au moins dans une certaine mesure à Python et/ou aux données), veuillez nous contacter avant l'événement ou dès son début.

**Que nous a appris un analyseur de sécurité LLM à fichier unique ?**
**([Fort Stanislav](https://www.linkedin.com/in/stanislav-fort/), Allée)**

Des recherches de haute qualité sur la sécurité de l’IA peuvent révéler de réelles vulnérabilités dans les infrastructures critiques. AISLE est un exemple de cette approche à signal plus élevé, avec des résultats validés dans des projets comme OpenSSL et curl. Dans le même temps, les rapports de mauvaise qualité générés par l’IA inondent les mainteneurs open source de faux positifs.

Est-il difficile de trouver un bug de sécurité ? Nous explorerons cette question à travers le nano-analyseur, un scanner de sécurité open source volontairement simple. Pour de nombreuses classes de vulnérabilités, le noyau surprenant n’est pas une plate-forme complexe, mais un appel LLM bien ciblé, intégré dans le flux de travail approprié.

Cette simplicité a des limites. L’approche peut passer à côté de problèmes évidents, halluciner des découvertes risquées ou produire des résultats incohérents d’une exécution à l’autre. C'est pourquoi la validation, le tri, l'analyse comparative et le jugement humain sont importants, et pourquoi le véritable défi consiste à construire des processus fiables autour de primitives peu fiables.

**Obtenir un texte fiable lorsque les PDF mentent et que l'OCR échoue**
**([Marcela Brichtová Piptová](https://www.linkedin.com/in/marcela-brichtov%C3%A1-piptov%C3%A1-b950ba184/), Rossum)**

Les LLM ont besoin de texte comme entrée. Ainsi, avant qu'un modèle puisse raisonner sur un document, nous devons lire le texte, une étape souvent considérée comme la « partie facile » ou un problème résolu. Mais est-ce le cas ?

Dans cet exposé, nous explorerons les complexités cachées de l’extraction de texte. Ceci est particulièrement critique pour des modèles comme le T-LLM de Rossum, une architecture uniquement encodeur qui repose fortement sur une entrée de haute qualité. Vous apprendrez pourquoi les documents transactionnels sont parfois étonnamment difficiles à utiliser pour l'OCR, pourquoi vous ne pouvez pas toujours simplement copier-coller du texte à partir d'un PDF et pourquoi l'extraction de texte est toujours un sujet pour les chercheurs de Rossum (et notre équipe de support client).