Zabezpečení LLM aplikací: Prompt injection, jailbreaky a OWASP Top 10 pro LLM

Technický deep-dive do útoků na LLM aplikace: přímá i nepřímá prompt injection, exfiltrace dat přes RAG, zneužití napojených nástrojů, otrávení kontextu. Projdeme OWASP Top 10 pro LLM, ukážeme živé demo útoku a obranné vzory – od sanitizace vstupů po architekturu s nejmenšími privilegii.

Proč to téma: Firmy masově nasazují chatboty a AI agenty – a vytvářejí tím zcela novou třídu zranitelností, kterou většina pentesterů teprve objevuje.