Fine-tuning¶

PDX génère des datasets d'entraînement pour fine-tuner des LLMs pour des tâches de cybersécurité — défensives (détection, alerte) et offensives (assistance pentest, reconstruction de TTPs).

Prérequis¶

Modèles de base supportés¶

Fine-tune rapide¶

python training/finetune_pdx.py \
  --dataset training_output/data_router/defensive/sft_detection_patterns.jsonl \
  --model qwen \
  --epochs 3 \
  --rank 16

Options¶

Entraîner un modèle défensif¶

python -m pdx.training.data_router generate --defensive

python training/finetune_pdx.py \
  --dataset training_output/data_router/defensive/sft_detection_patterns.jsonl \
  --model qwen --epochs 5 --rank 16

Après l'entraînement, le modèle peut identifier les tactiques MITRE ATT&CK à partir de séquences de commandes SSH, scorer le niveau de menace et évaluer l'efficacité des personas.

Entraîner un modèle offensif¶

python -m pdx.training.data_router generate --offensive

python training/finetune_pdx.py \
  --dataset training_output/data_router/offensive/sft_attack_chains.jsonl \
  --model llama --epochs 5 --rank 32

Après l'entraînement, le modèle peut reconstruire des séquences de post-exploitation, suggérer les prochaines étapes d'un pentest et mapper les commandes vers les techniques MITRE ATT&CK.

Entraîner un modèle dual-perspective¶

python -m pdx.training.data_router generate --combined

python training/finetune_pdx.py \
  --dataset training_output/data_router/combined/react_dual_perspective.jsonl \
  --model qwen --epochs 5 --rank 32

Cela produit un modèle capable d'analyser la même séquence de commandes sous les perspectives offensive et défensive — la sortie la plus unique du pipeline PDX.

Gestion VRAM¶

Le script inclut des vérifications automatiques de sécurité VRAM. Si Ollama tourne, le script vous avertira — Ollama et le fine-tuning se disputent la VRAM.