BEGIN:VCALENDAR VERSION:2.0 PRODID:-//TUC//Events//EN CALSCALE:GREGORIAN BEGIN:VTIMEZONE TZID:Europe/Athens TZNAME:EEST DTSTART:19700329T030000 RRULE:FREQ=YEARLY;BYDAY=-1SU;BYMONTH=3 BEGIN:STANDARD TZOFFSETFROM:+0200 TZOFFSETTO:+0300 TZNAME:EET DTSTART:19701025T040000 RRULE:FREQ=YEARLY;BYDAY=-1SU;BYMONTH=10 END:STANDARD END:VTIMEZONE BEGIN:VEVENT CREATED:20260317T085611Z LAST-MODIFIED:20260317T085611Z DTSTAMP:20260719T223221Z UID:1784489541@tuc.gr SUMMARY:Παρουσίαση Διπλωματικής Εργασίας κ. Κωνσταντίνου Νικολού - Σχολή ΗΜΜΥ LOCATION: DESCRIPTION:https://www.ece.tuc.gr/el/katalogos- ekdiloseon?tx_tucevents2_tuceventsdi splay%5Baction%5D=show&tx_tucevents2 _tuceventsdisplay%5Bcontroller%5D=Ev ent&tx_tucevents2_tuceventsdisplay%5 Bevent%5D=8358&cHash=dd553170c89b0ed fbaffac3969b35f3a\nΠΟΛΥΤΕΧΝΕΙΟ ΚΡΗΤΗ Σ\n Σχολή Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών\n Πρόγραμμα Π ροπτυχιακών Σπουδών\n ΠΑΡΟΥΣΙΑΣΗ ΔΙΠ ΛΩΜΑΤΙΚΗΣ ΕΡΓΑΣΙΑΣ\n Κωνσταντίνου Νι κολού\n με θέμα\n Βελτιστοποίηση Κατ ανεμημένων Βαθιών Νευρωνικών Δικτύων για Προβλήματα Ταξινόμησης\n Optimi zing Distributed Deep Neural Network s for Classification Problems\n Εξετ αστική Επιτροπή\n Καθηγητής Θρασύβου λος Σπυρόπουλος (επιβλέπων)\n Καθηγη τής Βασίλειος Διγαλάκης\n Καθηγητής Ευάγγελος Καλογεράκης\n Περίληψη\n Τ ο Διαδίκτυο των Πραγμάτων (ΙοΤ) ήδη αποτελείται από έναν ταχέως αναπτυσσ όμενο στόλο συσκευών διεσπαρμένων πα γκοσμίως. ΄Ενα μεγάλο μέρος αυτού το υ οικοσυστήματος αποτελείται από κάμ ερες CCTV και μονάδες ελέγχου κυκλοφ ορίας, παράγοντας μια ολοένα αυξανόμ ενη ροή δεδομένων. Μια μεμονωμένη κά μερα 4K παράγει έναν τεράστιο όγκο δ εδομένων καθημερινά που χρειάζεται ν α επεξεργαστεί και να ταξινομηθεί το πικά ή απομακρυσμένα, με τις δύο περ ιπτώσεις να ασκούν βαριά πίεση στην κατανομή εύρους ζώνης και στους υπολ ογιστικούς πόρους. Παρόμοιες προκλήσ εις εμφανίζονται σε μεγάλης κλίμακας μοντέλα τεχνητής νοημοσύνης όπως τα LLMs, όπου οι υπολογιστικές απαιτήσ εις ξεπερνούν τις περιορισμένες δυνα τότητες των συσκευών στο άκρο. Στην πράξη, όλες αυτές οι cloud-edge εφαρ μογές αντιμετωπίζουν το ίδιο δίλημμα : να επεξεργαστούν κάθε καρέ τοπικά για να εξοικονομήσουν κόστος εύρους ζώνης, ή να το αποφορτώσουν στο clou d κερδίζοντας υψηλότερη ακρίβεια ως αντάλλαγμα. Μια λύση που ερευνάται ή δη από την κοινότητα είναι η χρήση τ ων Κατανεμημένων Βαθιών Νευρωνικών Δ ικτύων (DDNNs). Σε αυτά τα συστήματα , το ρηχό μέρος του μοντέλου εκτελεί ται στη συσκευή, στοχεύοντας σε γρήγ ορες αποκρίσεις χαμηλής καθυστέρησης , ενώ το βαθύτερο μέρος εκτελείται σ το cloud, παράγοντας πιο λεπτομερείς και σύνθετες απαντήσεις. Παλαιότερε ς εργασίες συχνά έκαναν την απόφαση αποφόρτωσης εξετάζοντας απλές μετρήσ εις εμπιστοσύνης, όπως ο υπολογισμός της εντροπίας της τοπικής εξόδου ή η χρήση του Monte Carlo Dropout Unce rtainty. Ωστόσο, αυτές οι ευρετικές τεχνικές μπορεί να είναι παραπλανητι κές, ειδικά σε περιπτώσεις όπου το e dge μοντέλο είναι ιδιαίτερα σίγουρο για τη δική του λανθασμένη πρόβλεψη. Η προσέγγισή μας διατηρεί την αρχιτ εκτονική του κατανεμημένου δικτύου α λλά αλλάζει τον κανόνα απόφασης: αντ ί για σταθερές ευρετικές μεθόδους, έ να μικρό ρηχό Νευρωνικό Δίκτυο που β ρίσκεται στη συσκευή εκπαιδεύεται να προβλέπει εάν ένα δείγμα μπορεί να ταξινομηθεί με ασφάλεια τοπικά ή θα πρέπει να σταλεί στο υπολογιστικό νέ φος για περαιτέρω επεξεργασία. Δοκιμ ές στο CIFAR-10 και άλλα σύνολα δεδο μένων δείχνουν ότι αυτή η εκμαθημένη στρατηγική υπεραποδίδει έναντι των απλών ευρετικών τεχνικών όπως η εντρ οπία, μία φυσική επιλογή για τα τελε υταίας τεχνολογίας μοντέλα, επιτρέπο ντας ταυτόχρονα περισσότερα δείγματα να επεξεργάζονται απευθείας στο άκρ ο.\n Abstract \n The Internet of Thi ngs (IoT) already consists of a fast -growing fleet of devices scattered worldwide. A large part of this ecos ystem is made up of CCTV cameras and traffic-control units producing an ever-increasing flow of data. A sing le 4K camera produces a huge amount of data daily that needs to be proce ssed and classified locally or remot ely both of which put heavy pressure on bandwidth and computing resource s. Similar challenges appear in larg e-scale AI models such as LLMs, wher e the computational demands exceed t he limited capabilities of edge devi ces. In practice, all these cloud-ed ge applications face the same dilemm a: process each frame locally to sav e bandwidth cost or offload it to th e cloud to gain higher accuracy in r eturn. One solution already in resea rch by the community is the use of D istributed Deep Neural Networks (DDN Ns). In these systems, the shallow p art of the model runs on the device aiming for fast low-latency response s, while the deeper part executes in the cloud producing more detailed a nd complex answers. Earlier work oft en made the off-loading decision by looking at simple confidence measure s, such as calculating the entropy o f the local exit or using Monte Carl o Dropout Uncertainty. However, thes e heuristic techniques can be mislea ding, especially in cases where the edge model is highly confident about its own wrong prediction. Our appro ach keeps the distributed-network ar chitecture but changes the decision rule: instead of fixed heuristics, a small shallow Neural Network locate d on the device is trained to predic t whether a sample can be safely cla ssified locally or should be sent to the cloud for further processing. T esting on CIFAR-10 and other dataset s showed that this learned strategy clearly outperforms simple heuristic s such as the entropy, a natural cho ice in state-of-the-art models, whil e allowing more samples to be proces sed directly on the edge.\n STATUS:CONFIRMED ORGANIZER;RSVP=FALSE;CN=TUC;CUTYPE=TUC:mailto:webmaster@tuc.gr DTSTART:20260330T170000 DTEND:20260330T180000 TRANSP:OPAQUE CLASS:DEFAULT END:VEVENT END:VCALENDAR