RAG, Vector Databases και AI Retrieval Security — DedSec Project

Ελληνική έκδοση — Μάθημα 138. Οι διεθνείς τεχνικοί όροι, protocol names, standards και commands παραμένουν στα Αγγλικά όπου αυτό αυξάνει την ακρίβεια.

Το RAG προσθέτει ingestion, embeddings, vector stores και retrieval ως νέα trust boundaries. Μελέτησε authorization, provenance και indirect prompt injection.

Μαθησιακοί στόχοι

Στο τέλος πρέπει να μπορείς να:

• εξηγήσεις το RAG architecture and trust boundaries και να εντοπίσεις trust boundary, state transition και evidence που σχετίζονται με αυτό,
• εξηγήσεις το document ingestion and parsing και να εντοπίσεις trust boundary, state transition και evidence που σχετίζονται με αυτό,
• εξηγήσεις το chunking and embeddings και να εντοπίσεις trust boundary, state transition και evidence που σχετίζονται με αυτό,
• εξηγήσεις το vector-store tenancy and authorization και να εντοπίσεις trust boundary, state transition και evidence που σχετίζονται με αυτό,
• εξηγήσεις το retrieval-time metadata filters και να εντοπίσεις trust boundary, state transition και evidence που σχετίζονται με αυτό,
• εξηγήσεις το indirect prompt injection και να εντοπίσεις trust boundary, state transition και evidence που σχετίζονται με αυτό,

Βαθιές τεχνικές έννοιες

1. RAG architecture και trust boundaries

RAG έχει ingestion, indexing, retrieval, prompt assembly, model και output layers. Retrieved text είναι untrusted data και δεν πρέπει να αποκτά authority πάνω σε deterministic application/tool policy.

2. ingestion και parsing

Documents μπορεί να έχουν malformed/active content, hidden text ή adversarial instructions. Περιορίσε formats, parse σε constrained pipeline, βάλε resource limits και κράτησε source provenance.

3. chunking και embeddings

Chunking/embeddings επηρεάζουν retrieval αλλά security labels όπως tenant/classification/source πρέπει να μένουν explicit metadata και όχι να προκύπτουν από similarity.

4. tenancy και authorization

Vector similarity δεν είναι authorization. Κάνε server-side tenant/resource filtering πριν το content μπει στο model context και δοκίμασε isolation με δύο synthetic tenants.

5. metadata filters

Filters πρέπει να κατασκευάζονται από trusted application state. Μην αφήνεις model/client να διευρύνει tenant, classification ή document-state constraints.

6. indirect prompt injection

Retrieved document μπορεί να προσπαθήσει να χειραγωγήσει model/tools. Χώρισε instructions από data, βάλε deterministic authorization έξω από model και ελάχιστα tool permissions.

7. source provenance και citations

Κράτησε document ID/version, owner/tenant, classification και source location. Citations πρέπει να προέρχονται από τα πραγματικά retrieved sources και να επιτρέπουν audit.

8. poisoning, deletion και reindexing

Poisoned/stale content μπορεί να παραμένει σε embeddings μετά από source change. Χρειάζονται authenticated ingestion, deletion propagation, reindexing, version rollback και incident traceability.

Καθοδηγούμενο εργαστήριο

• Εργαστήριο 1 — Σχεδίασε σε χαρτί τοπικό εκπαιδευτικό σύστημα RAG με δημόσια ή δοκιμαστικά έγγραφα και σημείωσε όρια εμπιστοσύνης.

• Εργαστήριο 2 — Δημιούργησε συνθετικές κακόβουλες οδηγίες μέσα σε έγγραφα και όρισε ασφαλή συμπεριφορά μοντέλου χωρίς σύνδεση εξωτερικών εργαλείων.

• Εργαστήριο 3 — Σχεδίασε φίλτρα μεταδεδομένων για δύο υποθετικούς πελάτες και έλεγξε επιτρεπόμενες και απορριπτόμενες ανακτήσεις με πίνακα αποφάσεων.

Πλήρες αγγλικό μάθημα

English Module 138

Επόμενα μαθήματα

Σχετικά modules: 022, 025, 041, 046, 057, 071, 114. Από το κύριο menu επίλεξε Αναζήτηση μαθημάτων για να βρεις σχετικά θέματα σε όλο το project.