PyData Prague #35 - Probably unreliable vulnerabilities

Dobrý deň, extraktory Pythonu a zraniteľní agenti,

35. PyData meetup sa uskutoční v **Aisle office** (Palác Zlatý kríž, 2. poschodie). Ako obvykle, besedy sa začnú o 18:30, ale odporúčame vám prísť už o **18:00**, aby ste si užili príležitosť na socializáciu a osvieženie (v čom môžete pokračovať aj počas prestávky a po rozhovoroch).

Naším hlavným cieľom je vybudovať komunitu okolo Pythonu a údajov a urobiť ju ústretovou pre ľudí na rôznych úrovniach zručností a skúseností.

⚡ Ak máte záujem o bleskovú prednášku (do 5 minút na prezentáciu nápadu, nástroja alebo výsledkov súvisiacich aspoň do určitej miery s Pythonom a/alebo údajmi), kontaktujte nás pred podujatím alebo na jeho začiatku.

**Čo nás naučil analyzátor zabezpečenia LLM s jedným súborom?**
**([Stanislav Fort](https://www.linkedin.com/in/stanislav-fort/), Aisle)**

Vysokokvalitný bezpečnostný výskum AI môže odhaliť skutočné zraniteľné miesta v kritickej infraštruktúre. AISLE je jedným z príkladov tohto prístupu s vyšším signálom s overenými zisteniami v projektoch ako OpenSSL a curl. Nekvalitné správy generované AI zároveň zaplavujú správcov open source falošnými pozitívami.

Aké ťažké je nájsť bezpečnostnú chybu? Túto otázku preskúmame prostredníctvom nanoanalyzátora, zámerne jednoduchého bezpečnostného skenera s otvoreným zdrojom. Pre mnohé triedy zraniteľnosti nie je prekvapivým jadrom komplexná platforma, ale dobre mierené volanie LLM zabalené do správneho pracovného postupu.

Táto jednoduchosť má svoje hranice. Tento prístup môže obchádzať zjavné problémy, halucinovať riskantné zistenia alebo produkovať nekonzistentné výsledky naprieč behom. To je dôvod, prečo je validácia, triedenie, benchmarking a ľudský úsudok dôležitý, a preto je skutočnou výzvou vybudovať spoľahlivé procesy okolo nespoľahlivých primitívov.

**Získanie spoľahlivého textu, keď súbory PDF klamú a OCR zlyhá**
**([Marcela Brichtová Piptová](https://www.linkedin.com/in/marcela-brichtov%C3%A1-piptov%C3%A1-b950ba184/), Rossum)**

LLM potrebujú text ako vstup. Takže predtým, ako model môže uvažovať o dokumente, musíme si prečítať text, čo je krok, ktorý sa často považuje za „ľahkú časť“ alebo ako vyriešený problém. Ale je to tak?

V tejto prednáške preskúmame skryté zložitosti extrakcie textu. Toto je obzvlášť dôležité pre modely, ako je Rossum's T-LLM, architektúra iba s kódovačom, ktorá sa vo veľkej miere spolieha na vysokokvalitný vstup. Dozviete sa, prečo sú transakčné dokumenty niekedy prekvapivo ťažké pre OCR, prečo nemôžete vždy len skopírovať a vložiť text z PDF a prečo je extrakcia textu stále témou pre výskumníkov Rossum (a náš tím zákazníckej podpory).