AI Red Teamer: редтиминг систем на базе ИИ (часть 1/2025) [HTB Academy]
AI Red Teamer Job Role Path
Программа подготовки на позицию AI Red Teamer, созданная в сотрудничестве с Google, обучает специалистов по кибербезопасности оценивать, эксплуатировать и защищать системы на базе искусственного интеллекта. Курс охватывает внедрение промптов (prompt injection), атаки на конфиденциальность моделей, использование ИИ в злонамеренных целях (adversarial AI), риски цепочки поставок и угрозы на этапе развертывания, сочетая теорию с практическими упражнениями. Курс разработан в соответствии с фреймворком для создания безопасного ИИ (Secure AI Framework/SAIF) от Google, что обеспечивает его релевантность для реальных задач, связанных с безопасностью ИИ. Вы приобретете следующие навыки: манипулирование поведением моделей, разработка стратегий red teaming, заточенных под ИИ, и проведение наступательного тестирования безопасности в отношении приложений, основанных на ИИ.
Ключевые темы курса:
Основы ИИ
Варианты использования ИИ в информационной безопасности
Введение в red teaming ИИ
Атаки с внедрением промптов
Атаки на вывод LLM
Атаки на данные ИИ
Атаки на прикладные и системные компоненты развертываний ИИ
Атаки на модели ИИ с уклонением - основы
Атаки на модели ИИ с уклонением - First-Order атаки
Атаки на модели ИИ с уклонением - атаки на разреженность данных
Атаки на конфиденциальность ИИ
Защита ИИ
Содержание первой части:
Модуль 01: Основы ИИ
В этом модуле представлено руководство по теоретическим основам искусственного интеллекта (ИИ). Будут рассмотрены различные парадигмы обучения, включая обучение с учителем, без учителя и обучение с подкреплением. Это обеспечит глубокое понимание ключевых алгоритмов и концепций.
Ключевые темы модуля:
Введение в машинное обучение
Математические концепции в основе алгоритмов и процессов
Алгоритмы обучения с учителем
Линейная регрессия
Логистическая регрессия
Деревья решений
Наивный байесовский классификатор
Машины опорных векторов (SVM)
Алгоритмы обучения без учителя
Кластеризация по методу k-средних
Метод главных компонент (PCA)
Обнаружение аномалий
Алгоритмы обучения с подкреплением
Q-обучение
SARSA (State-Action-Reward-State-Action)
Введение в глубокое обучение
Перцептроны
Нейронные сети
Сверточные нейронные сети
Рекуррентные нейронные сети
Введение в генеративный ИИ
Большие языковые модели
Диффузионные модели
Дата релиза: 2025-2026
Тип перевода: перевод с английского языка на русский
Формат: PDF
Объем оригинала: 12 модулей
Объем перевода первой части: Модуль 01: Основы ИИ (~114 стр.)
Дата выдачи: 15.02.2026
Сэмпл перевода: во вложении
Скачать:
Для просмотра содержимого вам необходимо авторизоваться