Menu
Zamknij menu
Zaloguj się
Asseco Academy » Szkolenie » Hacking LLM-ów w praktyce: audyt bezpieczeństwa firmowego wdrożenia AI od chatbota po agentów

Szkolenie AI-HACKLLM_Z

Hacking LLM-ów w praktyce: audyt bezpieczeństwa firmowego wdrożenia AI od chatbota po agentów

Akredytacja

AssecoAcademy
  • Opis szkolenia
  • Zakres
  • Dodatkowe informacje

Opis szkolenia

Firmy wdrażają asystentów opartych o modele językowe szybciej, niż zespoły bezpieczeństwa uczą się je sprawdzać. Ten warsztat zamyka tę lukę.

To 2-dniowy warsztat, podczas którego uczestnik pracuje na własnej kopii realistycznego wdrożenia AI w firmie: chatbota obsługi klienta, wewnętrznej bazy wiedzy RAG i agenta z dostępem do narzędzi. Każdy element najpierw testuje, potem zabezpiecza i sprawdza, czy zabezpieczenie trzyma.

Całość prowadzi do kompletnego audytu wdrożenia AI z raportem zmapowanym na OWASP Top 10 dla aplikacji LLM, który uczestnik może powtórzyć w swojej organizacji.

Zajęcia na żywo, w całości warsztatowe. Każdy uczestnik dostaje własną, odseparowaną kopię firmowego środowiska AI w chmurze i pracuje na niej przez przeglądarkę. Każdy moduł to jeden cykl: test, analiza przyczyny, zabezpieczenie, ponowny test. Ćwiczenia mają flagi jako dowód wykonania i układają się w jeden scenariusz, który kończy się audytem całego wdrożenia. Bez matematyki i bez pisania kodu od zera.

Szkolenie odbywa się w ciągu dwóch sesji po 8 godzin lekcyjnych (16 godzin lekcyjnych).

 

Czego się nauczysz:

Po szkoleniu:

  • przeprowadzisz prompt injection bezpośredni i pośredni oraz obejdziesz filtry wyjścia,
  • wykradniesz dane i ukryty prompt systemowy z aplikacji opartej o LLM,
  • zaatakujesz RAG przez retrieval hijacking i zatruwanie bazy wiedzy,
  • przejmiesz agenta i narzędzia MCP, aż po zdalne wykonanie kodu,
  • dobierzesz i wdrożysz zabezpieczenia na każdej z tych warstw i zweryfikujesz je ponownym testem,
  • uruchomisz automatyczny przegląd podatności chatbota narzędziami PyRIT, garak i promptfoo i odczytasz wyniki,
  • przeprowadzisz audyt bezpieczeństwa aplikacji AI i zmapujesz go na OWASP Top 10 dla LLM.

 

Do kogo skierowane jest szkolenie:

  • Pentesterów i zespołów Red Team.
  • Inżynierów bezpieczeństwa, AppSec, DevSecOps.
  • Zespołów odpowiedzialnych za firmowe wdrożenia AI (chatboty, asystenci, RAG, agenci).
  • Architektów i audytorów, którzy muszą ocenić bezpieczeństwo wdrożenia AI.

 

Wymagania wstępne:

Podstawy bezpieczeństwa aplikacji i pracy w terminalu. Podstawowa orientacja w AI (co to LLM, prompt, RAG). Nie wymagamy doświadczenia z uczeniem maszynowym ani programowania.

 

Uczestnicy opuszczają szkolenie z:

  • Umiejętnością przetestowania i zabezpieczenia własnego wdrożenia AI już po powrocie do firmy.
  • Listą kontrolną zabezpieczeń dla zespołów wytwórczych wdrażających chatboty, RAG i agentów, do użycia przy odbiorze projektu.
  • Gotowym schematem audytu aplikacji AI zmapowanym na OWASP Top 10 dla LLM.
  • Zestawem payloadów, promptów i konfiguracji narzędzi do zabrania po szkoleniu.
  • Certyfikatem ukończenia w języku polskim i angielskim.

Zakres

Dzień 1. Chatbot i baza wiedzy: aplikacje LLM oraz RAG

1. Powierzchnia ataku aplikacji LLM:

  • Od wejścia użytkownika po akcje modelu, gdzie są granice zaufania i dlaczego klasyczne kontrole nie wystarczają.
  • OWASP Top 10 dla LLM jako mapa zagrożeń.

2. Prompt injection i wyciek danych:

  • Bezpośredni i pośredni prompt injection, wyciąganie promptu systemowego, obchodzenie filtrów wyjścia, wyciek poufnych danych.
  • Laboratorium: ekstrakcja promptu systemowego i obejście filtra, potem guardrail i retest.
  • Laboratorium: pośredni prompt injection przez wgrany dokument, model wykonuje ukrytą akcję, potem filtrowanie kontekstu i retest.

3. Obrona aplikacji LLM:

  • Guardraile wejścia i wyjścia, walidacja, separacja promptu systemowego, telemetria i co logować.
  • Laboratorium: automatyczny przegląd podatności chatbota z garak i promptfoo, odczytanie wyników i priorytetyzacja.

4. Ataki na RAG i bazy wiedzy:

  • Retrieval hijacking, zatruwanie bazy wiedzy, kontrola dostępu do firmowych informacji.
  • Laboratorium: retrieval hijacking przez wgrany dokument, potem kontrola dostępu i retest.

Dzień 2. Agenci, infrastruktura i audyt całego wdrożenia

5. Agenci AI i MCP:

  • Nadużycie uprawnień, tool description poisoning, łańcuch narzędzi aż po zdalne wykonanie kodu, rogue agent.
  • Laboratorium: wyciek sekretu przez narzędzie MCP, potem ograniczenie uprawnień agenta i retest.

6. Bezpieczeństwo API i infrastruktury AI:

  • Zarządzanie sekretami i uprawnieniami, bezpieczeństwo API modeli, obrona i testowanie po wdrożeniu.
  • Jak wpleść automatyczne testy (garak, promptfoo) w proces wdrożeniowy zespołu wytwórczego.

7. Audyt całego wdrożenia:

  • Laboratorium końcowe: pełny audyt firmowego wdrożenia AI (chatbot, RAG, agent) od znalezienia luk, przez zabezpieczenie, po ponowny test, z raportem dla zespołu deweloperskiego i podsumowaniem dla zarządu, zmapowanym na OWASP Top 10 dla LLM.

 

Narzędzia, z których skorzystamy w trakcie szkolenia:

PyRIT, garak, promptfoo, Burp Suite, OWASP ZAP, modele komercyjne i lokalne (Ollama), OWASP Top 10 dla aplikacji LLM oraz MITRE ATLAS jako punkty odniesienia.

Dodatkowe informacje

W cenie szkolenia uczestnik otrzymuje:

  • Slajdy, instrukcje do labów, zestaw payloadów i promptów, szablon raportu z audytu; po szkoleniu dostęp do materiałów dla uczestników.
  • Dostęp do środowiska szkoleniowego w chmurze z gotowymi aplikacjami LLM, bazą wiedzy RAG, agentem z narzędziami MCP oraz zainstalowanymi narzędziami (PyRIT, garak, promptfoo, Burp Suite, OWASP ZAP).
  • Certyfikat ukończenia w języku polskim i angielskim.

 

Informacje o szkoleniu

  • Rodzaj szkolenia: otwarte
  • Forma realizacji: zdalnie lub stacjonarnie; program identyczny w obu formach. Więcej informacji: Formy Szkoleń Asseco Academy
  • Język szkolenia: polski
  • Język materiałów: polski/angielski
  • Wielkość grupy: optymalnie 6 do 10 osób, maksymalnie 12 (praca na labach wymaga indywidualnego wsparcia)

 

Organizacja szkolenia w formie stacjonarnej:

  • Sesje realizowane w godzinach 09:00-17:00.
  • Uczestnik zapewnia we własnym zakresie laptop z aktualną przeglądarką. Firmowe proxy lub VPN na laptopie nie mogą blokować połączenia ze środowiskiem szkoleniowym.

 

Organizacja szkolenia w Wirtualnej Klasie:

  • Każdy uczestnik powinien dokonać rejestracji do zdalnej sesji szkoleniowej, na 10 minut przed jej rozpoczęciem
  • Szkolenie jest realizowane w godz. 09:00-17:00
  • W trakcie sesji przewidujemy kilka przerw 10-minutowych i jedną dłuższą przerwę na lunch. Szczegółowy rozkład przerw każdy trener ustala indywidualnie z grupą
  • Uczestnik zapewnia we własnym zakresie laptop z aktualną przeglądarką oraz stabilny internet. Firmowe proxy lub VPN na laptopie nie mogą blokować połączenia ze środowiskiem szkoleniowym
  • Materiały szkoleniowe w formie PDF

Terminarz Szkoleń

Zdalnie

… jeśli cenisz sobie możliwość nauki z trenerem i innymi uczestnikami, z dowolnego miejsca bez konieczności dojazdu.

Stacjonarnie

… jeśli chesz się uczyć, siedząc w jednej sali z trenerem i innymi uczestnikami.

Online

… jeśli chcesz uczyć się z materiałów dostępnych przez interenet w dowolnym miejscu o dowolnym czasie

Filtry:

Szkolenie: AI-HACKLLM_Z

Hacking LLM-ów w praktyce: audyt bezpieczeństwa firmowego wdrożenia AI od chatbota po agentów

Data
Forma
Język
Dodatkowe informacje
Cena
10.12 – 11.12
Wirtualna klasa
polski
1 800,00 zł netto
Dodaj do koszyka

Filtry:

Szkolenie: AI-HACKLLM_Z

Hacking LLM-ów w praktyce: audyt bezpieczeństwa firmowego wdrożenia AI od chatbota po agentów

Data
Lokalizacja
Język
Dodatkowe informacje
Cena

Currently, there is no trainings in the selected form.

Filtry:

Szkolenie: AI-HACKLLM_Z

Hacking LLM-ów w praktyce: audyt bezpieczeństwa firmowego wdrożenia AI od chatbota po agentów

Dostęp do szkolenia
Forma
Język
Dodatkowe informacje
Cena

Currently, there is no trainings in the selected form.

Szukasz szkolenia w innym terminie?

Szukasz szkolenia w innym terminie?

Co nowego?

  • Najnowsze
  • Baza wiedzy
  • Marketing
Chcesz z nami porozmawiać?

Chcesz z nami porozmawiać?

Zadzwoń do nas: tel. 801 30 30 30