Questo evento è terminato!
The guardrails of the AI galaxy + Quarkus in Action book baptism
The Guardrails of the Ai Galaxy + Quarkus in Action Book Baptism
Evento di: Brno Java User Group (BrnoJUG)
Posizione: Impact Hub Brno, Cyrilská 7, Brno-střed
Evento online
Discussions and lectures
Informazioni sull'evento
Speaker: Martin Štefanko (Red Hat, [https://x.com/xstefank lasting(https://x.com/xstefank), https://www.linkedin.com/in/martin-stefanko/)
Astratto:
L'uso dell'IA in scenari critici e sofisticati è desiderabile, ma sappiamo tutti che è essenzialmente impossibile. Perché? La natura non deterministica degli LLM li rende soggetti a allucinazioni e output inaffidabili. Quindi, cosa possiamo fare quando il nostro LLM risponde con sciocchezze?
Lascia che ti presentiamo i guardrail LLM. In questo discorso, ci immergeremo nell'integrazione di Quarkus Langchain4J che ti fornisce la possibilità di verificare e/o modificare sia le richieste che le risposte che vengono scambiate con il tuo modello. Attraverso esempi pratici, esploreremo le opzioni disponibili per convalidare gli input forniti dall'utente, la riscrittura o il tentativo di archiviazione e persino rimproverare il modello se necessario.
I Guardrail non solo migliorano l'affidabilità delle applicazioni basate sull'IA, ma ci consentono anche di costruire più fiducia nei nostri sistemi AI, una risposta alla volta. Vieni a sapere come possiamo garantire che i nostri LLM rimangono sulla buona strada, anche negli scenari più impegnativi.
Bio:
Martin è uno sviluppatore Java appassionato, un frequente relatore della conferenza e un avido utente di LLMS. È attivamente coinvolto in Quarkus e possiede molteplici estensioni.
-
Vuoi usare l'IA nei tuoi carichi di lavoro ma paura che l'LLM inventa le cose? Unisciti a noi per scoprire come impedire al tuo LLM di andare completamente fuori controllo.
Gli autori avranno anche alcune copie stampate di Quarkus in azione pronte per essere firmate e regalare!
Questa volta in streaming online su [https://www.youtube.com/live/s2tvi-pd29q lasting(https://www.youtube.com/live/s2tvi-pd29q)! Se hai intenzione di partecipare online, non è necessario registrarsi qui poiché stiamo utilizzando queste informazioni per ordinare cibo. Questa è anche una piccola spinta per farti venire di persona!
Ci vediamo lì!