PyData Prague #35 - Probably unreliable vulnerabilities

Hallo Python-Extraktoren und anfällige Agenten,

Das 35. PyData-Treffen findet in den **Gangbüros** (Palác Zlatý kříž, 2. Stock) statt. Wie üblich beginnen die Vorträge um 18:30 Uhr, wir empfehlen Ihnen jedoch, bereits um **18:00 Uhr** zu kommen, um die Gelegenheit zu nutzen, Kontakte zu knüpfen und sich zu erfrischen (was Sie in der Pause und nach den Vorträgen weiterhin tun können).

Unser Hauptziel ist es, die Community rund um Python und Daten aufzubauen und sie Menschen mit unterschiedlichen Fähigkeiten und Erfahrungsniveaus zugänglich zu machen.

⚡ Wenn Sie daran interessiert sind, einen Blitzvortrag zu halten (bis zu 5 Minuten, um eine Idee, ein Tool oder Ergebnisse vorzustellen, die zumindest teilweise mit Python und/oder Daten zu tun haben), kontaktieren Sie uns bitte vor oder zu Beginn der Veranstaltung.

**Was uns ein Single-File-LLM-Sicherheitsanalysator beigebracht hat?**
**([Stanislav Fort](https://www.linkedin.com/in/stanislav-fort/), Gang)**

Hochwertige KI-Sicherheitsforschung kann echte Schwachstellen in kritischen Infrastrukturen aufdecken. AISLE ist ein Beispiel für diesen High-Signal-Ansatz mit validierten Ergebnissen in Projekten wie OpenSSL und Curl. Gleichzeitig überschwemmen minderwertige KI-generierte Berichte Open-Source-Betreuer mit Fehlalarmen.

Wie schwer ist es, einen Sicherheitsfehler zu finden? Wir werden dieser Frage mit dem Nanoanalyzer nachgehen, einem bewusst einfachen Open-Source-Sicherheitsscanner. Für viele Schwachstellenklassen ist der überraschende Kern keine komplexe Plattform, sondern ein gezielter LLM-Aufruf, verpackt in den richtigen Workflow.

Diese Einfachheit hat Grenzen. Der Ansatz kann offensichtliche Probleme übersehen, riskante Ergebnisse halluzinieren oder über mehrere Durchläufe hinweg inkonsistente Ergebnisse liefern. Deshalb sind Validierung, Triage, Benchmarking und menschliches Urteilsvermögen wichtig und die eigentliche Herausforderung besteht darin, zuverlässige Prozesse auf der Grundlage unzuverlässiger Grundelemente aufzubauen.

**Zuverlässigen Text erhalten, wenn PDFs lügen und OCR fehlschlägt**
**([Marcela Brichtová Piptová](https://www.linkedin.com/in/marcela-brichtov%C3%A1-piptov%C3%A1-b950ba184/), Rossum)**

LLMs benötigen Text als Eingabe. Bevor ein Modell also über ein Dokument nachdenken kann, müssen wir den Text lesen, ein Schritt, der oft als „einfacher Teil“ oder gelöstes Problem angesehen wird. Aber ist es das?

In diesem Vortrag werden wir die verborgenen Komplexitäten der Textextraktion untersuchen. Dies ist besonders wichtig für Modelle wie Rossums T-LLM, eine reine Encoder-Architektur, die stark auf qualitativ hochwertige Eingaben angewiesen ist. Sie erfahren, warum Transaktionsdokumente manchmal überraschend schwierig für OCR sind, warum Sie nicht immer einfach Text aus einem PDF kopieren und einfügen können und warum die Textextraktion immer noch ein Thema für Rossum-Forscher (und unser Kundensupport-Team) ist.