BEGIN:VCALENDAR VERSION:2.0 PRODID:-//TUC//Events//EN CALSCALE:GREGORIAN BEGIN:VTIMEZONE TZID:Europe/Athens TZNAME:EEST DTSTART:19700329T030000 RRULE:FREQ=YEARLY;BYDAY=-1SU;BYMONTH=3 BEGIN:STANDARD TZOFFSETFROM:+0200 TZOFFSETTO:+0300 TZNAME:EET DTSTART:19701025T040000 RRULE:FREQ=YEARLY;BYDAY=-1SU;BYMONTH=10 END:STANDARD END:VTIMEZONE BEGIN:VEVENT CREATED:20260421T140652Z LAST-MODIFIED:20260421T140652Z DTSTAMP:20260719T222020Z UID:1784488820@tuc.gr SUMMARY:Παρουσίαση Διπλωματικής Εργασίας κας Μαρίας Νικολούδη - Σχολή ΗΜΜΥ LOCATION:Λ - Κτίριο Επιστημών/ΗΜΜΥ, 141Π-36,1 41Π-37 DESCRIPTION:https://www.ece.tuc.gr/el/katalogos- ekdiloseon?tx_tucevents2_tuceventsdi splay%5Baction%5D=show&tx_tucevents2 _tuceventsdisplay%5Bcontroller%5D=Ev ent&tx_tucevents2_tuceventsdisplay%5 Bevent%5D=8380&cHash=c6ff49694409fb2 acd6f25d039311233\nΠΟΛΥΤΕΧΝΕΙΟ ΚΡΗΤΗ Σ\n Σχολή Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών\n Πρόγραμμα Π ροπτυχιακών Σπουδών\n ΠΑΡΟΥΣΙΑΣΗ ΔΙΠ ΛΩΜΑΤΙΚΗΣ ΕΡΓΑΣΙΑΣ\n Μαρίας Νικολούδ η\n με θέμα\n Διατήρηση Απορρήτου σε Ομοσπονδιακή Μάθηση \n Privacy Pres ervation in Federated Learning\n Εξε ταστική Επιτροπή\n Καθηγητής Αθανάσι ος Λιάβας (Επιβλέπων)\n Καθηγητής Γε ώργιος Καρυστινός\n Καθηγητής Μηχαήλ Λαγουδάκης\n Περίληψη\n Η διαδεδομέ νη χρήση τεχνικών μηχανικής μάθησης σε διάφορους τομείς έχει εγείρει σοβ αρές ανησυχίες σχετικά με την ιδιωτι κότητα των χρηστών. Η Ομοσπονδιακή Μ άθηση έχει αναδειχθεί ως λύση, καθώς επιτρέπει την εκπαίδευση των νευρων ικών δικτύων μέσω παραλλαγών του αλγ ορίθμου Stochastic Gradient Descent και του διαμοιρασμού ενημερώσεων μον τέλων χωρίς να εκθέτει τα πρωτογενή δεδομένα. Ωστόσο, πρόσφατες μελέτες επισημαίνουν την δυνατότητα απειλής για την ασφάλεια των χρηστών που προ κύπτει από επιθέσεις που μπορούν να ανακατασκευάσουν δεδομένα αντιστρέφο ντας τις διαμοιραζόμενες κλίσεις (gr adients). Η παρούσα διπλωματική εργα σία εξετάζει τις πιθανές απειλές αξι ολογώντας διεξοδικά τις σύγχρονες επ ιθέσεις αντιστροφής κλίσης και προτε ίνοντας έναν πιθανό μηχανισμό άμυνας για τον περιορισμό των κινδύνων.\n Η αξιολόγηση επιτυγχάνεται χρησιμοπο ιώντας διάφορα μοντέλα νευρωνικών δι κτύων εκπαιδευμένα στο σύνολο δεδομέ νων MNIST. Οι επιθέσεις διεξάγονται σε διάφορα στάδια της εκπαίδευσης κα ι η αποτελεσματικότητά τους ποσοτικο ποιείται συγκρίνοντας τις ανακατασκε υασμένες εικόνες με τις πρωτότυπες, χρησιμοποιώντας καθιερωμένες μετρικέ ς. Επιπλέον, παρουσιάζεται μία νέα π αραλλαγή της αρχικής επίθεσης {Deep Leakage from Gradients, που ονομάζετ αι Normalized Deep Leakage from Grad ients και βελτιώνει σημαντικά την πο ιότητα της ανακατασκευής των εικόνων . Τα πειραματικά αποτελέσματα καταδε ικνύουν ότι ο διαμοιρασμός των κλίσε ων θέτει σε κίνδυνο την ιδιωτικότητα των χρηστών, ενώ παράλληλα αναδεικν ύουν την άμεση εξάρτηση της αποτελεσ ματικόητας των επιθέσεων από την αρχ ιτεκτονική πολυπλοκότητα των νευρωνι κών δικτύων, το μέγεθος του batch πο υ χρησιμοποιείται και το στάδιο της εκπαίδευσης.\n Ο προτεινόμενος μηχαν ισμός άμυνας είναι εμπνευσμένος από τη διαφορική ιδιωτικότητα (Different ial Privacy) και περιλαμβάνει την πρ οσθήκη γκαουσιανού θορύβου ανάλογου του μέτρου της κλίσης. Ο μηχανισμός έχει σχεδιαστεί ώστε να ελαχιστοποιε ί τη διαρροή πληροφορίας χωρίς να επ ηρεάζει σημαντικά την απόδοση της εκ παίδευσης. Τα πειραματικά αποτελέσμα τα δείχνουν ότι ο συνδυασμός πολύπλο κων αρχιτεκτονικών με μεγαλύτερα μεγ έθη batch, συμβάλλει σημαντικά στη δ ιατήρηση του απορρήτου των χρηστών μ ε ελάχιστη επίδραση στην απόδοση του μοντέλου. \n Εν κατακλείδι, η εργασ ία αυτή παρέχει μία ολοκληρωμένη ανά λυση των πιθανών κινδύνων για την ιδ ιωτικότητα των χρηστών που προκύπτου ν από τον διαμοιρασμό των κλίσεων. Π ροσδιορίζοντας τόσο τις δυνατότητες όσο και τους περιορισμούς των επιθέσ εων, σε συνδυασμό με την πρόταση ενό ς αμυντικού μηχανισμού, αναδεικνύοντ αι τρόποι με τους οποίους μπορεί να ενισχυθεί η ιδιωτικότητα των χρηστών . Τα ευρήματα αυτής της εργασίας όχι μόνο αναγνωρίζουν τους πιθανούς κιν δύνους για την ιδιωτικότητα αλλά χτί ζουν και τα θεμέλια για μελλοντική έ ρευνα προς πιο ασφαλή συστήματα. \n Abstract \n The widespread adoption of machine learning techniques in va rious fields has raised serious conc erns regarding the user data privacy . Federated Learning has emerged as a solution, since it enables trainin g neural networks by sharing model u pdates without exposing raw user dat a. However, recent studies have high lighted potential vulnerabilities, i ntroduced by gradient inversion atta cks, demonstrating data reconstructi on from shared gradients. This thesi s studies this topic by comprehensiv ely evaluating state-of-the-art grad ient inversion attacks and testing a potential defense mechanism to miti gate the risks.\n The evaluation is conducted using multiple neural netw ork models trained on the MNIST data set. The attacks are launched during different stages of training and th eir effectiveness is quantified by c omparing reconstructed images with o riginal ones using established simil arity metrics. Furthermore, a varian t of the original Deep Leakage from Gradients is introduced, termed Norm alized Deep Leakage from Gradients, which significantly improves the rec onstruction quality. Experimental re sults reveal substantial information leakage from gradients, while also demonstrating that attack performanc e is heavily influenced by the model 's architectural complexity, batch s ize and training stage. \n The propo sed defense mechanism is inspired by differential privacy and involves i njecting Gaussian noise proportional to the gradient norm. The defense i s designed to minimize the informati on leakage while preserving the trai ning dynamics. Experimental results indicate that when combined with  mo re complex model architectures and l arger batch sizes, the user privacy is preserved with a minimal impact o n the model performance. \n In concl usion, this thesis provides a compre hensive study of potential privacy v ulnerabilities arising from gradient sharing. Identifying both the stren gths and limitations of gradient inv ersion attacks, alongside with a pro posed defense mechanism, this work p rovides insight for preserving user privacy. The findings not only highl ight the privacy risks, but also bui ld a foundation for future research toward more robust systems. \n STATUS:CONFIRMED ORGANIZER;RSVP=FALSE;CN=TUC;CUTYPE=TUC:mailto:webmaster@tuc.gr DTSTART:20260422T140000 DTEND:20260422T150000 TRANSP:OPAQUE CLASS:DEFAULT END:VEVENT END:VCALENDAR