Зрозуміти основи AI та машинного навчання з погляду наступальної безпеки

Визначати поверхні атаки на AI, ландшафти загроз і техніки зловмисників відповідно до MITRE ATLAS

Застосовувати методології хакінгу систем AI, фреймворки та враховувати ризики

Класифікувати таксономії та моделі атак на AI

Визначати основи скоупінгу (визначення меж) наступальних робіт з AI та засади захисту систем AI

Надавати огляд і зіставлення OWASP LLM & ML Top 10 (2025) із загрозами AI та аспектами управління (governance)

Застосовувати інструменти та техніки OSINT для виявлення та профілювання активів AI

Збирати розвідувальні дані з джерел даних AI та конвеєрів навчання

Виявляти та картувати поверхні атаки на AI за допомогою загальнодоступної інформації

Здійснювати енумерацію кінцевих точок, сервісів, API та відкритих параметрів AI

Виявляти та аналізувати моделі AI й векторні сховища з погляду зловмисника

Оцінювати відкритість даних через OSINT та застосовувати заходи посилення захисту для зниження ризику

Використовувати розвідку загроз AI для підтримки безперервного моніторингу та готовності до захисту

Розуміти ключові принципи оцінювання вразливостей AI та виявлення загроз

Використовувати інструменти та техніки для сканування вразливостей у моделях AI, конвеєрах і розгортаннях

Застосовувати практичні методи фазингу (fuzzing), адаптовані під системи AI та інтерфейси моделей

Інтегрувати сканування та фазинг у робочі процеси безпеки AI для проактивного зниження ризиків

Архітектура LLM, межі довіри та пов'язані вектори атак

Виконувати ін'єкцію запитів (prompt injection) та джейлбрейкінг у реальних LLM-застосунках

Виявляти ризики розкриття конфіденційної інформації та витоку системних запитів (system prompt)

Оцінювати вразливості неналежного оброблення вихідних даних і загрози дезінформації

Застосовувати складні техніки атак на основі запитів та стратегії експлуатації

Впроваджувати принципи безпечного проєктування LLM-застосунків та захисні механізми

Визначати основні класи змагальних (adversarial) атак на машинне навчання

Виконувати практичні змагальні атаки на вхідні дані в різних модальностях

Застосовувати техніки атак на приватність, інференс та вилучення моделі

Оцінювати методи визначення стійкості, надійності та ризиків

Впроваджувати захисні стратегії для приватності та стійкості моделей

Розуміти архітектуру даних AI та конвеєрів навчання, а також поверхні загроз

Виконувати практичні техніки отруєння даних (data poisoning) та сценарії атак

Застосовувати впровадження бекдорів і троянів під час навчання моделі

Впроваджувати заходи безпеки для захисту даних і конвеєрів навчання

Розуміти архітектуру агентного AI та поверхню атаки

Застосовувати техніки експлуатації надмірних повноважень і автономності (excessive agency)

Визначати вектори атак між LLM та «модель–модель»

Оцінювати ризики «відмови гаманця» (denial-of-wallet) та необмеженого споживання ресурсів

Виконувати атаки на робочі процеси AI та рівні оркестрації

Впроваджувати захисні стратегії для убезпечення агентних AI-застосунків

Розуміти компоненти інфраструктури AI та архітектури системної інтеграції

Виявляти вразливості в системах, фреймворках і конвеєрах розгортання AI

Аналізувати зловживання інструментами, плагінами та API в застосунках на базі AI

Оцінювати загрози ланцюга постачання AI та ризики залежностей (поглиблено)

Впроваджувати стратегії посилення захисту інфраструктури та ланцюгів постачання AI

Розуміти методології тестування безпеки AI та техніки оцінювання

Застосовувати red-team фреймворки для наступального оцінювання AI

Виявляти, підтверджувати та звітувати про вразливості й ризики AI

Впроваджувати найкращі практики посилення захисту та пом'якшення ризиків для систем AI

Виявляти інциденти безпеки, специфічні для AI, та реагувати на них

Збирати та аналізувати журнали AI, телеметрію та цифрові докази

Аналізувати першопричини під час постінцидентного аналізу