Master AI Day · Konference o AI v praxi · 4.–5. 11. 2026 · Brno

Když umělá inteligence jedná: Bezpečnost a důvěryhodnost AI agentů

Svět: Věda, výzkum, vzdělávání · MAIDAY 2026, 4.–5. 11. 2026, Brno

Vystoupí: Dominika Regéciová — Lecturer · IT4I VŠB-TUO

Přednáška se zaměřuje na praktická bezpečnostní rizika spojená s využíváním modelů umělé inteligence a autonomních AI agentů. Na konkrétních příkladech ukáže, jak mohou prompt injection, příliš široká oprávnění, nedostatečné bezpečnostní mechanismy nebo neočekávané chování agentů vést od chybné odpovědi modelu až k nežádoucím akcím v reálném světě. Pozornost bude věnována nejen samotným rizikům, ale především tomu, jak AI systémy a agenty používat bezpečně a s odpovídající mírou kontroly.

Představená rizika budou ilustrována reálnými bezpečnostními incidenty, experimenty a výsledky současného výzkumu v oblasti bezpečnosti AI. Doporučení budou vycházet z aktuálních poznatků a zavedených bezpečnostních principů, jako jsou minimální oprávnění, oddělení důvěryhodných instrukcí od nedůvěryhodných dat, kontrola přístupu k nástrojům, monitorování činnosti agentů a lidské schválení kritických operací.

Co si odnesete

Účastníci získají praktický přehled o tom, na co si dát pozor při používání současných AI nástrojů a agentů a jak snížit rizika spojená s jejich zapojením do každodenní práce. Odnesou si základní principy pro bezpečné, kontrolovatelné a odpovědné používání AI, aniž by museli detailně sledovat rychle se vyvíjející oblast AI security. Přednáška je určena především vědcům a výzkumníkům, kteří chtějí AI efektivně využívat při své práci, ale zároveň potřebují rozumět jejím bezpečnostním limitům a rizikům.

Úroveň adopce AI: Governance a bezpečnost

Pro koho: Vědec a výzkumník · Právo a compliance

O speakerovi

Dominika Regéciová je výzkumnice, inženýrka a lektorka v oblasti umělé inteligence a kybernetické bezpečnosti se zkušenostmi v detekci malwaru, formálních metodách a softwarovém inženýrství. Její nedávná práce se zaměřuje na agentní systémy, bezpečnost umělé inteligence, její hodnocení a důvěryhodnost, včetně bezpečnostních pracovních postupů agentů vytvořených pomocí LangGraphu.

Přispěla k projektům jako YARA, YARA-X a GenRex a má zkušenosti s produkčními bezpečnostními kanály, cloudovou infrastrukturou a hodnocením modelů umělé inteligence. Dominika také vyučuje umělou inteligenci, kybernetickou bezpečnost, Python a HPC a pravidelně přednáší o tom, jak učinit komplexní systémy umělé inteligence srozumitelnějšími, spolehlivějšími a bezpečnějšími.

Na konferenci se zaměří na bezpečnostní výzvy AI agentů, včetně nebezpečného používání nástrojů, nadměrné autonomie a důležitosti validace a ochranných opatření.

 

Kdy: středa 4. listopadu, 15:30–15:55 · Hlavní sál. Harmonogram · Celý program · Vstupenky

MAIDAY · maiday.cz · Brno