RemoteSensing Wiki - Συνεισφορές χρήστη [el]

Μελίτα Νεφέλη

2024-01-31T17:16:20Z

Melita nefeli: Νέα σελίδα με '*[[Μέτρηση της φασματικής υπογραφής των πολικών αρκούδων μέσω drone για τη βελτίωση της ανίχνευσ...'

*[[Μέτρηση της φασματικής υπογραφής των πολικών αρκούδων μέσω drone για τη βελτίωση της ανίχνευσής τους από το διάστημα]]
* [[Μοντελοποίηση Κατάλληλων Οικοτόπων Αποδημητικών Πτηνών μέσω Τηλεπισκόπησης και Συνελικτικών Νευρωνικών Δικτύων]]
*[[Η Μέθοδος Dropout]]
*[[Gradient Descent (Κλίση Καθόδου)]]

[[category:ΔΠΜΣ "Περιβάλλον & Ανάπτυξη" (Αθήνα) ]]

Gradient Descent (Κλίση Καθόδου)

2024-01-31T10:39:00Z

Melita nefeli:

[[εικόνα: gradient.png|thumb|right|400px|'''Gradient Descent''' ]]

''' Εισαγωγή '''

Η κλίση καθόδου (gradient descent) έχει αναδειχθεί ως ένα αποτελεσματικό εργαλείο βελτιστοποίησης με ευρεία εφαρμογή σε πολλούς αλγορίθμους μηχανικής μάθησης, συμπεριλαμβανομένων των νευρωνικών δικτύων. Ο βασικός σκοπός αυτού του αλγορίθμου βελτιστοποίησης είναι η ελαχιστοποίηση μιας κυρτής συνάρτησης κόστους, η οποία αντιπροσωπεύει την απόδοση ενός μοντέλου.
Η βασική ιδέα πίσω από την κλίση καθόδου είναι να προσαρμόζονται επαναληπτικά οι παράμετροι ενός μοντέλου με στόχο την ελαχιστοποίηση της συνάρτησης κόστους. Κατά τη διαδικασία αυτή, οι παράμετροι ενημερώνονται με βάση την αντίθετη κατεύθυνση της κλίσης της συνάρτησης κόστους. Αυτό σημαίνει ότι το μοντέλο κινείται προς την κατεύθυνση της μεγαλύτερης αύξησης της συνάρτησης κόστους, με σκοπό την εύρεση του ελάχιστου.
Ουσιαστικά, η διαδικασία είναι ως εξής: Αφού προσδιοριστεί μια αρχική θέση (ή σύνολο παραμέτρων) για το μοντέλο, η κλίση της συνάρτησης κόστους υπολογίζεται σε αυτήν τη θέση. Στη συνέχεια, οι παράμετροι ενημερώνονται κατά μήκος της αντίθετης κατεύθυνσης της κλίσης, λαμβάνοντας υπόψιν έναν ρυθμό εκμάθησης. Αυτή η διαδικασία επαναλαμβάνεται μέχρις ότου επιτευχθεί σύγκλιση σε ένα ολικό ελάχιστο.
Είναι σημαντικό να τονίσουμε ότι η αποτελεσματικότητα της κλίσης καθόδου οφείλεται στο γεγονός ότι οι περισσότερες συναρτήσεις κόστους είναι κυρτές. Αυτό εξασφαλίζει την σύγκλιση του αλγορίθμου σε ένα ολικό ελάχιστο.
Η κλίση καθόδου αντιπροσωπεύει ένα βασικό κομμάτι της εφαρμογής μηχανικής μάθησης, επιτρέποντας τη βελτιστοποίηση μοντέλων και την προσαρμογή τους προς τα επιθυμητά αποτελέσματα.

''' Τι είναι κλίση (gradient); '''

Ο όρος «κλίση» αναφέρεται στο μέτρο της μεταβολής όλων των βαρών ενός μοντέλου ως αποτέλεσμα της μεταβολής του σφάλματος. Μπορούμε επίσης να σκεφτούμε την κλίση ως την κλίση μιας συνάρτησης. Όσο μεγαλύτερη είναι η κλίση, τόσο πιο απότομη είναι η κάθοδος και τόσο γρηγορότερα μαθαίνει ένα μοντέλο. Αν όμως η κλίση είναι μηδενική, το μοντέλο σταματά να μαθαίνει. Μαθηματικά, η κλίση είναι μια μερική παράγωγος ως προς τις εισόδους της.
Ένα απτό παράδειγμα είναι το εξής: Ένας τυφλός άνθρωπος θέλει να ανέβει στην κορυφή ενός λόφου με τον λιγότερο δυνατό αριθμό βημάτων. Αρχικά, μπορεί να αρχίσει να ανεβαίνει το λόφο κάνοντας πολύ μεγάλα βήματα προς την πιο απότομη κατεύθυνση, όσο δεν είναι κοντά στην κορυφή. Καθώς πλησιάζει όμως στην κορυφή, τα βήματά του γίνονται ολοένα και μικρότερα για να αποφύγει το να την υπερβεί. Αυτή η διαδικασία μπορεί να περιγραφεί μαθηματικά χρησιμοποιώντας την έννοια της κλίσης [1].

''' Η εξίσωση της μεθόδου '''

Η εξίσωση που περιγράφει τη μέθοδο είναι:

[[εικόνα: typos_gradient.png|thumb|center|300px]]

1. Pn+1: Αντιπροσωπεύει τη νέα θέση ή το νέο σύνολο παραμέτρων. Κατά την εκτέλεση της κλίσης καθόδου, η θέση ενημερώνεται βάσει της κατεύθυνσης και του ρυθμού εκμάθησης.

2. pn: Αντιπροσωπεύει την τρέχουσα θέση ή το τρέχον σύνολο παραμέτρων.

3. η: Ο ρυθμός εκμάθησης. Αυτή η παράμετρος καθορίζει πόσο μεγάλο είναι το βήμα προς την επόμενη θέση. Είναι σημαντικό να επιλεγεί με προσοχή, καθώς μικρές μεταβολές μπορούν να επηρεάσουν σημαντικά τον χρόνο και την ποιότητα της εκπαίδευσης.

4. ∇f(pn) Η κατεύθυνση της πιο απότομης κατάβασης της συνάρτησης κόστους στο σημείο pn.

Σε κάθε επανάληψη, η νέα θέση που προκύπτει είναι αντίστροφη προς την κατεύθυνση, ενώ το μέγεθος της ενημέρωσης ελέγχεται από τον ρυθμό εκμάθησης. Ο αλγόριθμος συνεχίζει να εκτελείται μέχρι να επιτευχθεί σύγκλιση σε ένα ολικό ελάχιστο.
Αυτή η διαδικασία επιτρέπει στο μοντέλο να ενημερώνει τις παραμέτρους του προς την κατεύθυνση που μειώνει τη συνάρτηση κόστους, ελαχιστοποιώντας έτσι την απόκλιση και βελτιώνοντας την απόδοση του μοντέλου.

''' Εφαρμογές της μεθόδου '''

Η εφαρμογή της κλίσης καθόδου είναι ευρέως διαδεδομένη σε προβλήματα μηχανικής μάθησης.

1. '''Εκπαίδευση Νευρωνικών Δικτύων (Neural Networks):'''

Τα νευρωνικά δίκτυα χρησιμοποιούνται ευρέως σε προβλήματα μηχανικής μάθησης, όπως αναγνώριση εικόνας, φωνής, και άλλα. Κατά τη διάρκεια της εκπαίδευσης των νευρωνικών δικτύων, η κλίση καθόδου χρησιμοποιείται για την ενημέρωση των βαρών του δικτύου με σκοπό την ελαχιστοποίηση της συνάρτησης κόστους [2].

2. '''Γραμμική Κατηγοριοποίηση και Παλινδρόμηση: '''
Σε αλγόριθμους παλινδρόμησης και κατηγοριοποίησης, όπως η γραμμική παλινδρόμηση και η λογιστική παλινδρόμηση, η κλίση καθόδου χρησιμοποιείται για την εκπαίδευση του μοντέλου προσαρμόζοντας τις παραμέτρους προς την κατεύθυνση της ελαχιστοποίησης του κόστους [3].

3. '''Μηχανή Διανυσματικής Υποστήριξης (SVM): '''
Η κλίση καθόδου χρησιμοποιείται για την εκπαίδευση μοντέλων SVM προσαρμόζοντας τις παραμέτρους τους για την επίτευξη βέλτιστης απόστασης μεταξύ των κλάσεων [4].

4. '''Βελτιστοποίηση Υπερπαραμέτρων:'''
Η κλίση καθόδου χρησιμοποιείται επίσης για τη βελτιστοποίηση των υπερπαραμέτρων μοντέλων μηχανικής μάθησης, όπως οι ρυθμίσεις του ρυθμού εκμάθησης [5].

''' Τύποι Κλίσης Καθόδου '''

Υπάρχουν τρία είδη αλγορίθμων κλίσης καθόδου:

Η στοχαστική κλίση καθόδου, ο Batch gradient descent και ο Mini-batch gradient descent

• '''Στοχαστική Κλίση Καθόδου (Stochastic Gradient Descent):'''
Η στοχαστική κλίση καθόδου βασίζεται στην μεθοδολογία που αναφέρθηκε παραπάνω, με την διαφορά ότι η κλίση υπολογίζεται με βάση ενός υποσυνόλου του σετ δεδομένων. Η λειτουργία αυτή επιταχύνει σημαντικά τον αλγόριθμο καθιστώντας την απαραίτητη σε προβλήματα υψηλών διαστάσεων. Εκ πρώτης όψεως, η στοχαστική κλίση καθόδου παρουσιάζεται ως αλγόριθμος χαμηλής ποιότητας, ωστόσο επιλύονται σημαντικά προβλήματα του κλίσης καθόδου όπως είναι η προσκόλληση της συνάρτησης σε τοπικά ελάχιστα.

• '''Batch Gradient Descent: '''
Ο batch gradient descent είναι ένας αλγόριθμος βελτιστοποίησης που χρησιμοποιείται για την εκπαίδευση μοντέλων στην μηχανική μάθηση. Λειτουργεί ως εξής:

1. '''Υπολογισμός Σφάλματος:''' Κάθε φορά που το μοντέλο μηχανικής μάθησης κάνει μια πρόβλεψη, υπολογίζουμε το πόσο λάθος ήταν σε σχέση με το πραγματικό αποτέλεσμα.

2. '''Σύνολο Εκπαίδευσης:''' Έχουμε ένα σύνολο εκπαίδευσης με πολλά παραδείγματα.

3. '''Μέσος Υπολογισμός:''' Ο Batch Gradient Descent υπολογίζει το συνολικό σφάλμα για όλα τα παραδείγματα εκπαίδευσης.

4. '''Ανανέωση Παραμέτρων:''' Με βάση αυτό το συνολικό σφάλμα, ανανεώνουμε τις παραμέτρους του μοντέλου μας.

5. '''Επανάληψη:''' Επαναλαμβάνουμε τη διαδικασία για πολλές εποχές (epochs), προσπαθώντας να μειώσουμε συνεχώς το σφάλμα.

• '''Mini-Batch Gradient Descent: '''
Ο Mini-batch gradient descent συνδυάζει ιδέες από τους αλγορίθμους batch gradient descent και στοχαστικής κλίσης καθόδου. Διαιρεί τα σετ δεδομένων εκπαίδευσης σε μικρά τμήματα (μικρές δέσμες) και κάνει ενημερώσεις(updates) σε κάθε δέσμη. Αυτή η προσέγγιση εξασφαλίζει μια ισορροπία ανάμεσα στην αποτελεσματικότητα του batch gradient descent και την ταχύτητα της στοχαστικής κλίσης καθόδου [6].

''' Προκλήσεις '''

'''Τοπικά Ελάχιστα και Σημεία Σέλας'''

Σε προβλήματα όπου θέλουμε να βρούμε το καλύτερο αποτέλεσμα (γενικά το "ελάχιστο"), μπορεί να υπάρχουν τοπικά ελάχιστα. Αυτά είναι σημεία που μοιάζουν με ελάχιστα, αλλά δεν είναι το πραγματικό καλύτερο αποτέλεσμα. Υπάρχουν επίσης τα σημεία σέλας, σημεία δηλαδή όπου η καμπύλη της συνάρτησης είναι επίπεδη και μπορεί να είναι δύσκολο για τον αλγόριθμο να προχωρήσει προς μια κατεύθυνση. Κάτι που μπορεί να βοηθήσει τον αλγόριθμο να "δραπετεύσει" από τα τοπικά ελάχιστα και τα σημεία σέλας, επιτρέποντας του να συνεχίσει την εύρεση του γενικού ελαχίστου, είναι ο θόρυβος. Ο "θόρυβος" στην κλίση καθόδου αναφέρεται σε μικρές ανεπιθύμητες αλλαγές στην κατεύθυνση. Αυτό μπορεί να οφείλεται σε διάφορους παράγοντες, όπως τα δεδομένα που δεν είναι απόλυτα καθαρά.

Κατά την εκπαίδευση βαθιών νευρωνικών δικτύων (DNN), όπως τα αναδρομικά νευρωνικά δίκτυα (RNN), μπορεί να συναντήσουμε άλλους 2 τύπους προβλημάτων:

'''Vanishing gradients'''

Συμβαίνει όταν η κλίση γίνεται πολύ μικρή. Καθώς προχωράμε πίσω κατά τη διαδικασία του backpropagation, η κλίση συνεχίζει να μικραίνει, κάνοντας τα πρώτα επίπεδα του δικτύου να μαθαίνουν πιο αργά από τα επόμενα. Αυτό μπορεί να οδηγήσει σε ανανέωση των βαρών μέχρι να γίνουν αμελητέα (δηλαδή 0), με αποτέλεσμα να μην μαθαίνει πλέον το μοντέλο.

'''Exploding gradients'''

Συμβαίνει όταν η κλίση γίνεται πολύ μεγάλη, δημιουργώντας ένα ασταθές μοντέλο. Σε αυτήν την περίπτωση, τα βάρη του μοντέλου θα αυξηθούν πολύ, με αποτέλεσμα να γίνονται NaN (μη ορισμένα). Μια λύση σε αυτό το πρόβλημα είναι να χρησιμοποιηθεί μια τεχνική μείωσης των διαστάσεων, η οποία μπορεί να βοηθήσει στον περιορισμό της πολυπλοκότητας μέσα στο μοντέλο.

''' Αναφορές '''

[1] N. Donges, “Gradient Descent in Machine Learning: A Basic Introduction,” 2023. [Online]. Available: https://builtin.com/data-science/gradient-descent.

[2] E. M. Dogo, O. J. Afolabi, N. I. Nwulu, B. Twala, and C. O. Aigbavboa, “A comparative analysis of gradient descent-based optimization algorithms on convolutional neural networks,” in 2018 international conference on computational techniques, electronics and mechanical systems (CTEMS), 2018, pp. 92–99.

[3] J. Friedman and B. E. Popescu, “Gradient directed regularization for linear regression and classification,” Technical Report, Statistics Department, Stanford University, 2003.

[4] C.-J. Hsieh, K.-W. Chang, C.-J. Lin, S. S. Keerthi, and S. Sundararajan, “A dual coordinate descent method for large-scale linear SVM,” in Proceedings of the 25th international conference on Machine learning, 2008, pp. 408–415.

[5] D. Maclaurin, D. Duvenaud, and R. Adams, “Gradient-based hyperparameter optimization through reversible learning,” in International conference on machine learning, 2015, pp. 2113–2122.

[6] IBM, “What is gradient descent?,” 2023. [Online]. Available: https://www.ibm.com/topics/gradient-descent.

[[category:Υπολογιστικά/αλγοριθμικά θέματα]]

Gradient Descent (Κλίση Καθόδου)

2024-01-31T10:35:25Z

Melita nefeli: Νέα σελίδα με ''''Gradient Descent''' ''' Εισαγωγή ''' Η κλίση καθόδου (gradie...'

[[εικόνα: gradient.png|thumb|right|400px|'''Gradient Descent''' ]]

''' Εισαγωγή '''

Η κλίση καθόδου (gradient descent) έχει αναδειχθεί ως ένα αποτελεσματικό εργαλείο βελτιστοποίησης με ευρεία εφαρμογή σε πολλούς αλγορίθμους μηχανικής μάθησης, συμπεριλαμβανομένων των νευρωνικών δικτύων. Ο βασικός σκοπός αυτού του αλγορίθμου βελτιστοποίησης είναι η ελαχιστοποίηση μιας κυρτής συνάρτησης κόστους, η οποία αντιπροσωπεύει την απόδοση ενός μοντέλου.
Η βασική ιδέα πίσω από την κλίση καθόδου είναι να προσαρμόζονται επαναληπτικά οι παράμετροι ενός μοντέλου με στόχο την ελαχιστοποίηση της συνάρτησης κόστους. Κατά τη διαδικασία αυτή, οι παράμετροι ενημερώνονται με βάση την αντίθετη κατεύθυνση της κλίσης της συνάρτησης κόστους. Αυτό σημαίνει ότι το μοντέλο κινείται προς την κατεύθυνση της μεγαλύτερης αύξησης της συνάρτησης κόστους, με σκοπό την εύρεση του ελάχιστου.
Ουσιαστικά, η διαδικασία είναι ως εξής: Αφού προσδιοριστεί μια αρχική θέση (ή σύνολο παραμέτρων) για το μοντέλο, η κλίση της συνάρτησης κόστους υπολογίζεται σε αυτήν τη θέση. Στη συνέχεια, οι παράμετροι ενημερώνονται κατά μήκος της αντίθετης κατεύθυνσης της κλίσης, λαμβάνοντας υπόψιν έναν ρυθμό εκμάθησης. Αυτή η διαδικασία επαναλαμβάνεται μέχρις ότου επιτευχθεί σύγκλιση σε ένα ολικό ελάχιστο.
Είναι σημαντικό να τονίσουμε ότι η αποτελεσματικότητα της κλίσης καθόδου οφείλεται στο γεγονός ότι οι περισσότερες συναρτήσεις κόστους είναι κυρτές. Αυτό εξασφαλίζει την σύγκλιση του αλγορίθμου σε ένα ολικό ελάχιστο.
Η κλίση καθόδου αντιπροσωπεύει ένα βασικό κομμάτι της εφαρμογής μηχανικής μάθησης, επιτρέποντας τη βελτιστοποίηση μοντέλων και την προσαρμογή τους προς τα επιθυμητά αποτελέσματα.

''' Τι είναι κλίση (gradient); '''

Ο όρος «κλίση» αναφέρεται στο μέτρο της μεταβολής όλων των βαρών ενός μοντέλου ως αποτέλεσμα της μεταβολής του σφάλματος. Μπορούμε επίσης να σκεφτούμε την κλίση ως την κλίση μιας συνάρτησης. Όσο μεγαλύτερη είναι η κλίση, τόσο πιο απότομη είναι η κάθοδος και τόσο γρηγορότερα μαθαίνει ένα μοντέλο. Αν όμως η κλίση είναι μηδενική, το μοντέλο σταματά να μαθαίνει. Μαθηματικά, η κλίση είναι μια μερική παράγωγος ως προς τις εισόδους της.
Ένα απτό παράδειγμα είναι το εξής: Ένας τυφλός άνθρωπος θέλει να ανέβει στην κορυφή ενός λόφου με τον λιγότερο δυνατό αριθμό βημάτων. Αρχικά, μπορεί να αρχίσει να ανεβαίνει το λόφο κάνοντας πολύ μεγάλα βήματα προς την πιο απότομη κατεύθυνση, όσο δεν είναι κοντά στην κορυφή. Καθώς πλησιάζει όμως στην κορυφή, τα βήματά του γίνονται ολοένα και μικρότερα για να αποφύγει το να την υπερβεί. Αυτή η διαδικασία μπορεί να περιγραφεί μαθηματικά χρησιμοποιώντας την έννοια της κλίσης[1].

''' Η εξίσωση της μεθόδου '''

Η εξίσωση που περιγράφει τη μέθοδο είναι:

[[εικόνα: typos_gradient.png|thumb|center|300px]]

1. Pn+1: Αντιπροσωπεύει τη νέα θέση ή το νέο σύνολο παραμέτρων. Κατά την εκτέλεση της κλίσης καθόδου, η θέση ενημερώνεται βάσει της κατεύθυνσης και του ρυθμού εκμάθησης.

2. pn: Αντιπροσωπεύει την τρέχουσα θέση ή το τρέχον σύνολο παραμέτρων.

3. η: Ο ρυθμός εκμάθησης. Αυτή η παράμετρος καθορίζει πόσο μεγάλο είναι το βήμα προς την επόμενη θέση. Είναι σημαντικό να επιλεγεί με προσοχή, καθώς μικρές μεταβολές μπορούν να επηρεάσουν σημαντικά τον χρόνο και την ποιότητα της εκπαίδευσης.

4. ∇f(pn) Η κατεύθυνση της πιο απότομης κατάβασης της συνάρτησης κόστους στο σημείο pn.

Σε κάθε επανάληψη, η νέα θέση που προκύπτει είναι αντίστροφη προς την κατεύθυνση, ενώ το μέγεθος της ενημέρωσης ελέγχεται από τον ρυθμό εκμάθησης. Ο αλγόριθμος συνεχίζει να εκτελείται μέχρι να επιτευχθεί σύγκλιση σε ένα ολικό ελάχιστο.
Αυτή η διαδικασία επιτρέπει στο μοντέλο να ενημερώνει τις παραμέτρους του προς την κατεύθυνση που μειώνει τη συνάρτηση κόστους, ελαχιστοποιώντας έτσι την απόκλιση και βελτιώνοντας την απόδοση του μοντέλου.

''' Εφαρμογές της μεθόδου '''

Η εφαρμογή της κλίσης καθόδου είναι ευρέως διαδεδομένη σε προβλήματα μηχανικής μάθησης.

1. '''Εκπαίδευση Νευρωνικών Δικτύων (Neural Networks):'''

Τα νευρωνικά δίκτυα χρησιμοποιούνται ευρέως σε προβλήματα μηχανικής μάθησης, όπως αναγνώριση εικόνας, φωνής, και άλλα. Κατά τη διάρκεια της εκπαίδευσης των νευρωνικών δικτύων, η κλίση καθόδου χρησιμοποιείται για την ενημέρωση των βαρών του δικτύου με σκοπό την ελαχιστοποίηση της συνάρτησης κόστους[2].

2. '''Γραμμική Κατηγοριοποίηση και Παλινδρόμηση: '''
Σε αλγόριθμους παλινδρόμησης και κατηγοριοποίησης, όπως η γραμμική παλινδρόμηση και η λογιστική παλινδρόμηση, η κλίση καθόδου χρησιμοποιείται για την εκπαίδευση του μοντέλου προσαρμόζοντας τις παραμέτρους προς την κατεύθυνση της ελαχιστοποίησης του κόστους[3].

3. '''Μηχανή Διανυσματικής Υποστήριξης (SVM): '''
Η κλίση καθόδου χρησιμοποιείται για την εκπαίδευση μοντέλων SVM προσαρμόζοντας τις παραμέτρους τους για την επίτευξη βέλτιστης απόστασης μεταξύ των κλάσεων[4].

4. '''Βελτιστοποίηση Υπερπαραμέτρων:'''
Η κλίση καθόδου χρησιμοποιείται επίσης για τη βελτιστοποίηση των υπερπαραμέτρων μοντέλων μηχανικής μάθησης, όπως οι ρυθμίσεις του ρυθμού εκμάθησης [5].

''' Τύποι Κλίσης Καθόδου '''

Υπάρχουν τρία είδη αλγορίθμων κλίσης καθόδου:

Η στοχαστική κλίση καθόδου, ο Batch gradient descent και ο Mini-batch gradient descent

• '''Στοχαστική Κλίση Καθόδου (Stochastic Gradient Descent):'''
Η στοχαστική κλίση καθόδου βασίζεται στην μεθοδολογία που αναφέρθηκε παραπάνω, με την διαφορά ότι η κλίση υπολογίζεται με βάση ενός υποσυνόλου του σετ δεδομένων. Η λειτουργία αυτή επιταχύνει σημαντικά τον αλγόριθμο καθιστώντας την απαραίτητη σε προβλήματα υψηλών διαστάσεων. Εκ πρώτης όψεως, η στοχαστική κλίση καθόδου παρουσιάζεται ως αλγόριθμος χαμηλής ποιότητας, ωστόσο επιλύονται σημαντικά προβλήματα του κλίσης καθόδου όπως είναι η προσκόλληση της συνάρτησης σε τοπικά ελάχιστα.

• '''Batch Gradient Descent: '''
Ο batch gradient descent είναι ένας αλγόριθμος βελτιστοποίησης που χρησιμοποιείται για την εκπαίδευση μοντέλων στην μηχανική μάθηση. Λειτουργεί ως εξής:

1. '''Υπολογισμός Σφάλματος:''' Κάθε φορά που το μοντέλο μηχανικής μάθησης κάνει μια πρόβλεψη, υπολογίζουμε το πόσο λάθος ήταν σε σχέση με το πραγματικό αποτέλεσμα.

2. '''Σύνολο Εκπαίδευσης:''' Έχουμε ένα σύνολο εκπαίδευσης με πολλά παραδείγματα.

3. '''Μέσος Υπολογισμός:''' Ο Batch Gradient Descent υπολογίζει το συνολικό σφάλμα για όλα τα παραδείγματα εκπαίδευσης.

4. '''Ανανέωση Παραμέτρων:''' Με βάση αυτό το συνολικό σφάλμα, ανανεώνουμε τις παραμέτρους του μοντέλου μας.

5. '''Επανάληψη:''' Επαναλαμβάνουμε τη διαδικασία για πολλές εποχές (epochs), προσπαθώντας να μειώσουμε συνεχώς το σφάλμα.

• '''Mini-Batch Gradient Descent: '''
Ο Mini-batch gradient descent συνδυάζει ιδέες από τους αλγορίθμους batch gradient descent και στοχαστικής κλίσης καθόδου. Διαιρεί τα σετ δεδομένων εκπαίδευσης σε μικρά τμήματα (μικρές δέσμες) και κάνει ενημερώσεις(updates) σε κάθε δέσμη. Αυτή η προσέγγιση εξασφαλίζει μια ισορροπία ανάμεσα στην αποτελεσματικότητα του batch gradient descent και την ταχύτητα της στοχαστικής κλίσης καθόδου[6].

''' Προκλήσεις '''

'''Τοπικά Ελάχιστα και Σημεία Σέλας'''

Σε προβλήματα όπου θέλουμε να βρούμε το καλύτερο αποτέλεσμα (γενικά το "ελάχιστο"), μπορεί να υπάρχουν τοπικά ελάχιστα. Αυτά είναι σημεία που μοιάζουν με ελάχιστα, αλλά δεν είναι το πραγματικό καλύτερο αποτέλεσμα. Υπάρχουν επίσης τα σημεία σέλας, σημεία δηλαδή όπου η καμπύλη της συνάρτησης είναι επίπεδη και μπορεί να είναι δύσκολο για τον αλγόριθμο να προχωρήσει προς μια κατεύθυνση. Κάτι που μπορεί να βοηθήσει τον αλγόριθμο να "δραπετεύσει" από τα τοπικά ελάχιστα και τα σημεία σέλας, επιτρέποντας του να συνεχίσει την εύρεση του γενικού ελαχίστου, είναι ο θόρυβος. Ο "θόρυβος" στην κλίση καθόδου αναφέρεται σε μικρές ανεπιθύμητες αλλαγές στην κατεύθυνση. Αυτό μπορεί να οφείλεται σε διάφορους παράγοντες, όπως τα δεδομένα που δεν είναι απόλυτα καθαρά.

Κατά την εκπαίδευση βαθιών νευρωνικών δικτύων (DNN), όπως τα αναδρομικά νευρωνικά δίκτυα (RNN), μπορεί να συναντήσουμε άλλους 2 τύπους προβλημάτων:

'''Vanishing gradients'''

Συμβαίνει όταν η κλίση γίνεται πολύ μικρή. Καθώς προχωράμε πίσω κατά τη διαδικασία του backpropagation, η κλίση συνεχίζει να μικραίνει, κάνοντας τα πρώτα επίπεδα του δικτύου να μαθαίνουν πιο αργά από τα επόμενα. Αυτό μπορεί να οδηγήσει σε ανανέωση των βαρών μέχρι να γίνουν αμελητέα (δηλαδή 0), με αποτέλεσμα να μην μαθαίνει πλέον το μοντέλο.

'''Exploding gradients'''

Συμβαίνει όταν η κλίση γίνεται πολύ μεγάλη, δημιουργώντας ένα ασταθές μοντέλο. Σε αυτήν την περίπτωση, τα βάρη του μοντέλου θα αυξηθούν πολύ, με αποτέλεσμα να γίνονται NaN (μη ορισμένα). Μια λύση σε αυτό το πρόβλημα είναι να χρησιμοποιηθεί μια τεχνική μείωσης των διαστάσεων, η οποία μπορεί να βοηθήσει στον περιορισμό της πολυπλοκότητας μέσα στο μοντέλο.

''' Αναφορές '''

[1] N. Donges, “Gradient Descent in Machine Learning: A Basic Introduction,” 2023. [Online]. Available: https://builtin.com/data-science/gradient-descent.

[2] E. M. Dogo, O. J. Afolabi, N. I. Nwulu, B. Twala, and C. O. Aigbavboa, “A comparative analysis of gradient descent-based optimization algorithms on convolutional neural networks,” in 2018 international conference on computational techniques, electronics and mechanical systems (CTEMS), 2018, pp. 92–99.

[3] J. Friedman and B. E. Popescu, “Gradient directed regularization for linear regression and classification,” Technical Report, Statistics Department, Stanford University, 2003.

[4] C.-J. Hsieh, K.-W. Chang, C.-J. Lin, S. S. Keerthi, and S. Sundararajan, “A dual coordinate descent method for large-scale linear SVM,” in Proceedings of the 25th international conference on Machine learning, 2008, pp. 408–415.

[5] D. Maclaurin, D. Duvenaud, and R. Adams, “Gradient-based hyperparameter optimization through reversible learning,” in International conference on machine learning, 2015, pp. 2113–2122.

[6] IBM, “What is gradient descent?,” 2023. [Online]. Available: https://www.ibm.com/topics/gradient-descent.

[[category:Υπολογιστικά/αλγοριθμικά θέματα]]

Αρχείο:Typos gradient.png

2024-01-31T10:26:44Z

Melita nefeli:

Αρχείο:Gradient.png

2024-01-31T10:26:32Z

Melita nefeli:

Η Μέθοδος Dropout

2024-01-31T10:05:46Z

Melita nefeli:

[[εικόνα: dropout layers.png|thumb|right|400px|'''Εικόνα 1:''' Layer νευρωνικού δικτύου πριν και μετά την εφαρμογή της μεθόδου Dropout [1]]]
[[εικόνα: paradeigma_dropout.png|thumb|right|400px|'''Εικόνα 2:''' Μείωση των σφαλμάτων της ταξινόμησης μετά την εφαρμογή της μεθόδου Dropout[1]]]
[[εικόνα: pseydokwdikas.png|thumb|right|400px|'''Εικόνα 3''' ]]
[[εικόνα: neyronika_diktia_.png|thumb|right|400px|'''Εικόνα 4:''' Εικονική αναπαράσταση ενός νευρωνικού δικτύου]]

''' Τι είναι; '''

Η μέθοδος Dropout είναι μια μέθοδος κανονικοποίησης που χρησιμοποιείται κυρίως στην εκπαίδευση των νευρωνικών δικτύων προκειμένου να λυθεί το πρόβλημα του overfitting. Είναι μια ισχυρή τεχνική που ενώ σχετίζεται κυρίως με νευρωνικά δίκτυα, οι αρχές της μπορούν να προσαρμοστούν και σε άλλους στατιστικούς αλγόριθμους, πχ σε ensemble μεθόδους όπως είναι η random forests και η gradient boosting, σε γραμμική και λογιστική παλινδρόμηση, σε αλγορίθμους ημι-εποπτευόμενης μάθησης και πολλούς άλλους.

''' Τι είναι το overfitting; '''

To overfitting είναι μια κατάσταση που συμβαίνει όταν ένα νευρωνικό δίκτυο εκπαιδεύεται τόσο πολύ στα δεδομένα εκπαίδευσης, που αρχίζει να μαθαίνει τα δεδομένα αυτά τόσο καλά, που χάνει την δυνατότητα να γενικεύει όταν λάβει νέα δεδομένα. Αυτό συμβαίνει συχνότερα όταν περίπλοκα νευρωνικά δίκτυα εκπαιδεύονται πάνω σε σχετικά μικρό σετ δεδομένων.
Για παράδειγμα, είναι σαν ένα άτομο να διαβάζει και να μαθαίνει πολύ καλά ένα συγκεκριμένο βιβλίο μιας θεματικής ενότητας και να είναι σε θέση να απαντήσει ανασύροντας από τη μνήμη του οποιαδήποτε πληροφορία έχει να κάνει με το συγκεκριμένο βιβλίο, αλλά αν ερωτηθεί κάτι που ναι μεν αφορά στη θεματική ενότητα του βιβλίου αλλά διαφοροποιείται από αυτό, αδυνατεί να απαντήσει ή απαντά λανθασμένα.
Ας δούμε δύο απλά παραδείγματα.

o Έστω ότι εκπαιδεύουμε ένα νευρωνικό δίκτυο για να μπορεί να αναγνωρίζει αν ένα αντικείμενο είναι γάτα ή όχι από εικόνες, και έστω ότι για την εκπαίδευσή του χρησιμοποιούμε ένα σύνολο εικόνων που λαμβάνει υπόψη διάφορες γωνίες λήψης, φωτεινότητα και το φόντο άλλα μόνο μια μικρή ποικιλία από ράτσες γάτας. Το δίκτυο θα αναπτύξει περίπλοκους κανόνες ώστε να είναι σε θέση να αναγνωρίσει τις συγκεκριμένες ράτσες μέσω του σετ δεδομένων, ωστόσο αν δοκιμάσουμε το δίκτυο με φωτογραφίες γατών που διαφέρουν σημαντικά από τις ράτσες του σετ, υπάρχει μεγάλη πιθανότητα να μην είναι αποτελεσματικό. Αυτό οφείλεται στο γεγονός ότι το δίκτυο έχει "μάθει" πολύ συγκεκριμένα χαρακτηριστικά από το σύνολο δεδομένων εκπαίδευσης, αλλά δεν έχει αναπτύξει τη γενικότητα για να αντιμετωπίσει νέες, διαφορετικές καταστάσεις.

o Έστω ότι εκπαιδεύουμε τώρα ένα νευρωνικό δίκτυο έτσι ώστε να είναι σε θέση να διαχωρίζει τα “spam” email από τα υπόλοιπα και έστω ότι για να το εκπαιδεύσουμε χρησιμοποιούμε παραδείγματα από διάφορα “spam” email. Το δίκτυο είναι πιθανό να υπερεκπαιδευτεί και να αναγνωρίζει ως “spam” μόνο όσα mail περιέχουν κάποιες συγκεκριμένες λέξεις ή συγκεκριμένο τρόπο γραφής. Το αποτέλεσμα θα είναι να μην αναγνωρίζει ως “spam” mail που δεν περιέχουν αυτές τις λέξεις καθώς όμως μπορεί να συμβεί και το αντίθετο, δηλαδή mail που δεν είναι “spam” να ταξινομούνται ως τέτοια.

''' Πώς αντιμετωπίζεται το overfitting;'''

• Έχουν αναπτυχθεί αρκετές μέθοδοι και αλγόριθμοί προκειμένου να λυθεί το πρόβλημα το overfitting. Οι περισσότερες και πιο παραδοσιακές από αυτές αφορούν κυρίως γραμμικά νευρωνικά δίκτυα. Μερικά παραδείγματα είναι η L1 Regularization, η L2 Regularization, η Elastic Net και η Early Stopping που εφαρμόζονται κυρίως σε γραμμικά νευρωνικά δίκτυα.

Όπως αναφέραμε και πριν η μέθοδος Dropout είναι μια μέθοδος κανονικοποίησης που χρησιμοποιείται στην εκπαίδευση των νευρωνικών δικτύων προκειμένου να λυθεί το πρόβλημα του overfitting. Το βασικό της πλεονέκτημα σε σχέση με τις υπόλοιπες μεθόδους κανονικοποίησης που αναφέραμε πριν είναι ότι μπορεί να εφαρμοστεί και σε μη γραμμικά μοντέλα. Η βασική ιδέα πίσω από το Dropout είναι ότι “απενεργοποιεί” τυχαία κάποιους νευρώνες σε κάθε επανάληψη εκπαίδευσης. Αυτό σημαίνει ότι κάθε φορά το δίκτυο μαθαίνει να εκπαιδεύεται βασιζόμενο σε διαφορετικούς συνδυασμούς νευρώνων γεγονός που επιλύει το πρόβλημα του overfitting αφού οι νευρώνες “μαθαίνουν” να μην εξαρτώνται υπερβολικά ο ένας από τον άλλον.
Ας την δούμε όμως πιο αναλυτικά.
Για να εφαρμοστεί η μέθοδος Dropout ορίζεται η υπερπαράμετρος p (hyperparameter p ή dropout p ) η οποία αναφέρεται στο ποσοστό των νευρώνων που “απενεργοποιούνται” κατά τη διάρκεια της εκπαίδευσης. Ουσιαστικά η p είναι η πιθανότητα ένας νευρώνας να είναι ενεργοποιημένος η απενεργοποιημένος κατά τη διάρκεια της εκπαίδευσης. Οι τιμές που μπορεί να πάρει η p είναι από 0 έως 1 αλλά συνήθως ορίζεται από 0.2-0.5. Για κάθε επανάληψη εκπαίδευσης ορίζεται διαφορετική υπερπαράμετρος. Κατά την απενεργοποίηση ενός νευρώνα η τιμή της εξόδου του τίθεται ως μηδέν και δεν συμμετέχει στην καθόλου στην διαμόρφωση της τελικής εξόδου του μοντέλου. Σε κάθε επανάληψη εκπαίδευσης ορίζεται μια διαφορετική τιμή p και στο τέλος γίνεται ένας συνδυασμός των βασικών διεργασιών κάθε εκπαίδευσης προκειμένου να έχουμε την τελική ολοκληρωμένη εκπαίδευση του δικτύου.
Σε κάθε layer τα βάρη του κάθε νευρώνα κατανέμονται ανάλογα με τον αριθμό τους. Στην Εικόνα 1a φαίνεται ένα layer που αποτελείται από 4 νευρώνες. Το βάρος κάθε νευρώνα θα είναι ¼=0.25. Έστω τώρα ότι εφαρμόζουμε την μέθοδο dropout σε αυτό το layer εικόνα 2b. Τότε θα μείνουν δύο νευρώνες και το βάρος στον κάθε ένα θα είναι ½=0.5. Όμως επειδή δεν θέλουμε τα βάρη στη διαδικασία της εκπαίδευσης να είναι τόσο υψηλά, παρά μόνο να εκπαιδεύσουμε το δίκτυο να μπορεί κάθε φορά να λειτουργεί χωρίς να εξαρτάται από συγκεκριμένους νευρώνες, πολλαπλασιάζουμε με p τα βάρη των νευρώνων που έχουν μέινει και το αποτέλεσμα είναι ότι έχουμε πάλι βάρος 0.25 για τους δύο νευρώνες που έχουν μείνει. Αυτή είναι και η βασική μεθοδολογία που ακολουθείται κάθε φορά με διάφορες προσαρμογές της πιθανότητας p.

''' Υπάρχουν αρνητικά της μεθόδου;'''

Ενώ η μέθοδος dropout έχει βοηθήσει κατά πολύ στην βελτίωση του overfitting έχει και ορισμένα αρνητικά. Τα βασικότερα από αυτά είναι:
Ενώ η μέθοδος dropout παραμένει ένα ισχυρό εργαλείο για την αντιμετώπιση της υπερεκπαίδευσης και της βελτίωσης της γενίκευσης σε πολλά προβλήματα μηχανικής μάθησης, η βέλτιστη χρήση της εξαρτάται από τα χαρακτηριστικά του συγκεκριμένου προβλήματος και του μοντέλου που χρησιμοποιείται. Μερικά από τα βασικότερα και συχνότερα προβλήματα που μπορεί να παρουσιαστούν είναι:

1. Χρειάζεται αρκετά παραπάνω χρόνο να εκπαιδευτεί.

2. Υπάρχει κίνδυνος απώλειας πληροφορίες κατά την απενεργοποίηση νευρώνων.

3. Τα νευρωνικά δίκτυα παρουσιάζουν μεγάλη ευαισθησία στην επιλογή της τιμής p. Μπορούν πολύ εύκολα να υποεκπαιδευτούν αν οριστεί μια λανθασμένη τιμή p

4. Είναι δύσκολη η εφαρμογή της σε συγκεκριμένες αρχιτεκτονικές δικτύου όπως είναι για παράδειγμα τα συνελικτικά νευρωνικά δίκτυα (convolutional neural networks)

Στην Εικόνα 3 Παρακάτω βλέπουμε ένα παράδειγμα απλού κώδικα που δείχνει πώς θα μπορούσε να εφαρμοστεί η μέθοδος Dropout κατά την εκπαίδευση σε γλώσσα προγραμματισμού python.

''' Λίγα Λόγια για τα Νευρωνικά Δίκτυα '''

Τα νευρωνικά δίκτυα είναι υπολογιστικά συστήματα που ουσιαστικά “αντιγράφουν” τον τρόπο που λειτουργεί ο ανθρώπινος εγκέφαλος. Αποτελούνται από μια σειρά “τεχνιτών νευρώνων” που συνδέονται μεταξύ τους με διάφορους τρόπους προκειμένου να επεξεργαστούν πληροφορίες.

Μπορούμε να χωρίσουμε τον τρόπο που λειτουργεί ένας τεχνητός νευρώνας σε 5 βασικά βήματα (Εικόνα 4):

1. Είσοδος (Input): Κάθε νευρώνας δέχεται μια είσοδο που μπορεί να είναι το αποτέλεσμα μιας μέτρησης ή η έξοδος ενός άλλου νευρώνα

2. Κάθε είσοδος χαρακτηρίζεται από ένα βάρος (weight). Το βάρος καθορίζει πόση σημασία θα δοθεί στην αντίστοιχη είσοδο.

3. Επεξεργασία (Processing): κάθε νευρώνας επεξεργάζεται την είσοδο πολλαπλασιάζοντας την με το αντίστοιχο βάρος.

4. Σύνοψη (Summation): το άθροισμα των πολλαπλασιασμών συνοψίζεται για να δώσει ένα συνολικό αποτέλεσμα

5. Συνάρτηση ενεργοποίησης και έξοδος (Activation Function and Output): το τελικό αποτέλεσμα περνά μέσα από μια συνάρτηση ενεργοποίησης που με βάσει το αποτέλεσμα θα ορίσει αν θα πραγματοποιήσει έξοδο ή όχι.

Τα νευρωνικά δίκτυα αποτελούνται από πολλούς τέτοιους νευρώνες οι οποίοι είναι οργανωμένοι σε στρώματα (layers), και ο κάθε ένας από αυτούς εκτελεί την παραπάνω σειρά ενεργειών. Τα layers εκτός από αυτά της είσοδού και της εξόδου ονομάζονται “κρυφά” καθώς δεν υπάρχει η δυνατότητα από κάποιον εξωτερικό παρατηρητή να βλέπει ακριβώς τις διεργασίες που λαμβάνουν χώρα εκεί.
Κάποια παραδείγματα εφαρμογών στα οποία χρησιμοποιούνται τα νευρωνικά δίκτυα είναι η αναγνώριση εικόνων, η αυτόματη μετάφραση, η φωνητική αναγνώριση καθώς και τα συστήματα συστάσεων σε πλατφόρμες όπως είναι οι ειδήσεις του Google και οι αλγόριθμοι του Facebook του Instagram κτλ.

''' Βιβλιογραφία '''

[1] S. ’Nitish, H. ’Geoffrey, K. ’Alex, S. ’Ilya, and S. ’Ruslan, “Dropout: A Simple Way to Prevent Neural Networks from Overfitting,” Journal of Machine Learning Research, pp. 1929–1958, 2014.

[[category:Υπολογιστικά/αλγοριθμικά θέματα]]

Η Μέθοδος Dropout

2024-01-31T09:57:47Z

Melita nefeli:

[[εικόνα: dropout layers.png|thumb|right|400px|'''Εικόνα 1:''' Layer νευρωνικού δικτύου πριν και μετά την εφαρμογή της μεθόδου Dropout [1]]]]]
[[εικόνα: paradeigma_dropout.png|thumb|right|400px|'''Εικόνα 2:''' Μείωση των σφαλμάτων της ταξινόμησης μετά την εφαρμογή της μεθόδου Dropout[1]]]]]
[[εικόνα: pseydokwdikas.png|thumb|right|400px|'''Εικόνα 3''' ]]
[[εικόνα: neyronika_diktia_.png|thumb|right|400px|'''Εικόνα 4:''' Εικονική αναπαράσταση ενός νευρωνικού δικτύου]]

''' Τι είναι; '''

Η μέθοδος Dropout είναι μια μέθοδος κανονικοποίησης που χρησιμοποιείται κυρίως στην εκπαίδευση των νευρωνικών δικτύων προκειμένου να λυθεί το πρόβλημα του overfitting. Είναι μια ισχυρή τεχνική που ενώ σχετίζεται κυρίως με νευρωνικά δίκτυα, οι αρχές της μπορούν να προσαρμοστούν και σε άλλους στατιστικούς αλγόριθμους, πχ σε ensemble μεθόδους όπως είναι η random forests και η gradient boosting, σε γραμμική και λογιστική παλινδρόμηση, σε αλγορίθμους ημι-εποπτευόμενης μάθησης και πολλούς άλλους.

''' Τι είναι το overfitting; '''

To overfitting είναι μια κατάσταση που συμβαίνει όταν ένα νευρωνικό δίκτυο εκπαιδεύεται τόσο πολύ στα δεδομένα εκπαίδευσης, που αρχίζει να μαθαίνει τα δεδομένα αυτά τόσο καλά, που χάνει την δυνατότητα να γενικεύει όταν λάβει νέα δεδομένα. Αυτό συμβαίνει συχνότερα όταν περίπλοκα νευρωνικά δίκτυα εκπαιδεύονται πάνω σε σχετικά μικρό σετ δεδομένων.
Για παράδειγμα, είναι σαν ένα άτομο να διαβάζει και να μαθαίνει πολύ καλά ένα συγκεκριμένο βιβλίο μιας θεματικής ενότητας και να είναι σε θέση να απαντήσει ανασύροντας από τη μνήμη του οποιαδήποτε πληροφορία έχει να κάνει με το συγκεκριμένο βιβλίο, αλλά αν ερωτηθεί κάτι που ναι μεν αφορά στη θεματική ενότητα του βιβλίου αλλά διαφοροποιείται από αυτό, αδυνατεί να απαντήσει ή απαντά λανθασμένα.
Ας δούμε δύο απλά παραδείγματα.

o Έστω ότι εκπαιδεύουμε ένα νευρωνικό δίκτυο για να μπορεί να αναγνωρίζει αν ένα αντικείμενο είναι γάτα ή όχι από εικόνες, και έστω ότι για την εκπαίδευσή του χρησιμοποιούμε ένα σύνολο εικόνων που λαμβάνει υπόψη διάφορες γωνίες λήψης, φωτεινότητα και το φόντο άλλα μόνο μια μικρή ποικιλία από ράτσες γάτας. Το δίκτυο θα αναπτύξει περίπλοκους κανόνες ώστε να είναι σε θέση να αναγνωρίσει τις συγκεκριμένες ράτσες μέσω του σετ δεδομένων, ωστόσο αν δοκιμάσουμε το δίκτυο με φωτογραφίες γατών που διαφέρουν σημαντικά από τις ράτσες του σετ, υπάρχει μεγάλη πιθανότητα να μην είναι αποτελεσματικό. Αυτό οφείλεται στο γεγονός ότι το δίκτυο έχει "μάθει" πολύ συγκεκριμένα χαρακτηριστικά από το σύνολο δεδομένων εκπαίδευσης, αλλά δεν έχει αναπτύξει τη γενικότητα για να αντιμετωπίσει νέες, διαφορετικές καταστάσεις.

o Έστω ότι εκπαιδεύουμε τώρα ένα νευρωνικό δίκτυο έτσι ώστε να είναι σε θέση να διαχωρίζει τα “spam” email από τα υπόλοιπα και έστω ότι για να το εκπαιδεύσουμε χρησιμοποιούμε παραδείγματα από διάφορα “spam” email. Το δίκτυο είναι πιθανό να υπερεκπαιδευτεί και να αναγνωρίζει ως “spam” μόνο όσα mail περιέχουν κάποιες συγκεκριμένες λέξεις ή συγκεκριμένο τρόπο γραφής. Το αποτέλεσμα θα είναι να μην αναγνωρίζει ως “spam” mail που δεν περιέχουν αυτές τις λέξεις καθώς όμως μπορεί να συμβεί και το αντίθετο, δηλαδή mail που δεν είναι “spam” να ταξινομούνται ως τέτοια.

''' Πώς αντιμετωπίζεται το overfitting;'''

• Έχουν αναπτυχθεί αρκετές μέθοδοι και αλγόριθμοί προκειμένου να λυθεί το πρόβλημα το overfitting. Οι περισσότερες και πιο παραδοσιακές από αυτές αφορούν κυρίως γραμμικά νευρωνικά δίκτυα. Μερικά παραδείγματα είναι η L1 Regularization, η L2 Regularization, η Elastic Net και η Early Stopping που εφαρμόζονται κυρίως σε γραμμικά νευρωνικά δίκτυα.

Όπως αναφέραμε και πριν η μέθοδος Dropout είναι μια μέθοδος κανονικοποίησης που χρησιμοποιείται στην εκπαίδευση των νευρωνικών δικτύων προκειμένου να λυθεί το πρόβλημα του overfitting. Το βασικό της πλεονέκτημα σε σχέση με τις υπόλοιπες μεθόδους κανονικοποίησης που αναφέραμε πριν είναι ότι μπορεί να εφαρμοστεί και σε μη γραμμικά μοντέλα. Η βασική ιδέα πίσω από το Dropout είναι ότι “απενεργοποιεί” τυχαία κάποιους νευρώνες σε κάθε επανάληψη εκπαίδευσης. Αυτό σημαίνει ότι κάθε φορά το δίκτυο μαθαίνει να εκπαιδεύεται βασιζόμενο σε διαφορετικούς συνδυασμούς νευρώνων γεγονός που επιλύει το πρόβλημα του overfitting αφού οι νευρώνες “μαθαίνουν” να μην εξαρτώνται υπερβολικά ο ένας από τον άλλον.
Ας την δούμε όμως πιο αναλυτικά.
Για να εφαρμοστεί η μέθοδος Dropout ορίζεται η υπερπαράμετρος p (hyperparameter p ή dropout p ) η οποία αναφέρεται στο ποσοστό των νευρώνων που “απενεργοποιούνται” κατά τη διάρκεια της εκπαίδευσης. Ουσιαστικά η p είναι η πιθανότητα ένας νευρώνας να είναι ενεργοποιημένος η απενεργοποιημένος κατά τη διάρκεια της εκπαίδευσης. Οι τιμές που μπορεί να πάρει η p είναι από 0 έως 1 αλλά συνήθως ορίζεται από 0.2-0.5. Για κάθε επανάληψη εκπαίδευσης ορίζεται διαφορετική υπερπαράμετρος. Κατά την απενεργοποίηση ενός νευρώνα η τιμή της εξόδου του τίθεται ως μηδέν και δεν συμμετέχει στην καθόλου στην διαμόρφωση της τελικής εξόδου του μοντέλου. Σε κάθε επανάληψη εκπαίδευσης ορίζεται μια διαφορετική τιμή p και στο τέλος γίνεται ένας συνδυασμός των βασικών διεργασιών κάθε εκπαίδευσης προκειμένου να έχουμε την τελική ολοκληρωμένη εκπαίδευση του δικτύου.
Σε κάθε layer τα βάρη του κάθε νευρώνα κατανέμονται ανάλογα με τον αριθμό τους. Στην Εικόνα 1a φαίνεται ένα layer που αποτελείται από 4 νευρώνες. Το βάρος κάθε νευρώνα θα είναι ¼=0.25. Έστω τώρα ότι εφαρμόζουμε την μέθοδο dropout σε αυτό το layer εικόνα 2b. Τότε θα μείνουν δύο νευρώνες και το βάρος στον κάθε ένα θα είναι ½=0.5. Όμως επειδή δεν θέλουμε τα βάρη στη διαδικασία της εκπαίδευσης να είναι τόσο υψηλά, παρά μόνο να εκπαιδεύσουμε το δίκτυο να μπορεί κάθε φορά να λειτουργεί χωρίς να εξαρτάται από συγκεκριμένους νευρώνες, πολλαπλασιάζουμε με p τα βάρη των νευρώνων που έχουν μέινει και το αποτέλεσμα είναι ότι έχουμε πάλι βάρος 0.25 για τους δύο νευρώνες που έχουν μείνει. Αυτή είναι και η βασική μεθοδολογία που ακολουθείται κάθε φορά με διάφορες προσαρμογές της πιθανότητας p.

''' Υπάρχουν αρνητικά της μεθόδου;'''

Ενώ η μέθοδος dropout έχει βοηθήσει κατά πολύ στην βελτίωση του overfitting έχει και ορισμένα αρνητικά. Τα βασικότερα από αυτά είναι:
Ενώ η μέθοδος dropout παραμένει ένα ισχυρό εργαλείο για την αντιμετώπιση της υπερεκπαίδευσης και της βελτίωσης της γενίκευσης σε πολλά προβλήματα μηχανικής μάθησης, η βέλτιστη χρήση της εξαρτάται από τα χαρακτηριστικά του συγκεκριμένου προβλήματος και του μοντέλου που χρησιμοποιείται. Μερικά από τα βασικότερα και συχνότερα προβλήματα που μπορεί να παρουσιαστούν είναι:

1. Χρειάζεται αρκετά παραπάνω χρόνο να εκπαιδευτεί.

2. Υπάρχει κίνδυνος απώλειας πληροφορίες κατά την απενεργοποίηση νευρώνων.

3. Τα νευρωνικά δίκτυα παρουσιάζουν μεγάλη ευαισθησία στην επιλογή της τιμής p. Μπορούν πολύ εύκολα να υποεκπαιδευτούν αν οριστεί μια λανθασμένη τιμή p

4. Είναι δύσκολη η εφαρμογή της σε συγκεκριμένες αρχιτεκτονικές δικτύου όπως είναι για παράδειγμα τα συνελικτικά νευρωνικά δίκτυα (convolutional neural networks)

Στην Εικόνα 3 Παρακάτω βλέπουμε ένα παράδειγμα απλού κώδικα που δείχνει πώς θα μπορούσε να εφαρμοστεί η μέθοδος Dropout κατά την εκπαίδευση σε γλώσσα προγραμματισμού python.

''' Λίγα Λόγια για τα Νευρωνικά Δίκτυα '''

Τα νευρωνικά δίκτυα είναι υπολογιστικά συστήματα που ουσιαστικά “αντιγράφουν” τον τρόπο που λειτουργεί ο ανθρώπινος εγκέφαλος. Αποτελούνται από μια σειρά “τεχνιτών νευρώνων” που συνδέονται μεταξύ τους με διάφορους τρόπους προκειμένου να επεξεργαστούν πληροφορίες.

Μπορούμε να χωρίσουμε τον τρόπο που λειτουργεί ένας τεχνητός νευρώνας σε 5 βασικά βήματα (Εικόνα 4):

1. Είσοδος (Input): Κάθε νευρώνας δέχεται μια είσοδο που μπορεί να είναι το αποτέλεσμα μιας μέτρησης ή η έξοδος ενός άλλου νευρώνα

2. Κάθε είσοδος χαρακτηρίζεται από ένα βάρος (weight). Το βάρος καθορίζει πόση σημασία θα δοθεί στην αντίστοιχη είσοδο.

3. Επεξεργασία (Processing): κάθε νευρώνας επεξεργάζεται την είσοδο πολλαπλασιάζοντας την με το αντίστοιχο βάρος.

4. Σύνοψη (Summation): το άθροισμα των πολλαπλασιασμών συνοψίζεται για να δώσει ένα συνολικό αποτέλεσμα

5. Συνάρτηση ενεργοποίησης και έξοδος (Activation Function and Output): το τελικό αποτέλεσμα περνά μέσα από μια συνάρτηση ενεργοποίησης που με βάσει το αποτέλεσμα θα ορίσει αν θα πραγματοποιήσει έξοδο ή όχι.

Τα νευρωνικά δίκτυα αποτελούνται από πολλούς τέτοιους νευρώνες οι οποίοι είναι οργανωμένοι σε στρώματα (layers), και ο κάθε ένας από αυτούς εκτελεί την παραπάνω σειρά ενεργειών. Τα layers εκτός από αυτά της είσοδού και της εξόδου ονομάζονται “κρυφά” καθώς δεν υπάρχει η δυνατότητα από κάποιον εξωτερικό παρατηρητή να βλέπει ακριβώς τις διεργασίες που λαμβάνουν χώρα εκεί.
Κάποια παραδείγματα εφαρμογών στα οποία χρησιμοποιούνται τα νευρωνικά δίκτυα είναι η αναγνώριση εικόνων, η αυτόματη μετάφραση, η φωνητική αναγνώριση καθώς και τα συστήματα συστάσεων σε πλατφόρμες όπως είναι οι ειδήσεις του Google και οι αλγόριθμοι του Facebook του Instagram κτλ.

''' Βιβλιογραφία '''

[1] S. ’Nitish, H. ’Geoffrey, K. ’Alex, S. ’Ilya, and S. ’Ruslan, “Dropout: A Simple Way to Prevent Neural Networks from Overfitting,” Journal of Machine Learning Research, pp. 1929–1958, 2014.

[[category:Υπολογιστικά/αλγοριθμικά θέματα]]

Η Μέθοδος Dropout

2024-01-31T09:50:20Z

Melita nefeli: Νέα σελίδα με '[[εικόνα: dropout layers.png|thumb|right|400px|'''Εικόνα 1:''' Layer νευρωνικού δικτύου πριν και μετά την εφαρμογή τη...'

[[εικόνα: dropout layers.png|thumb|right|400px|'''Εικόνα 1:''' Layer νευρωνικού δικτύου πριν και μετά την εφαρμογή της μεθόδου DropoutΑΝΑΦΟΡΑ]]
[[εικόνα: paradeigma_dropout.png|thumb|right|400px|'''Εικόνα 2:''' Μείωση των σφαλμάτων της ταξινόμησης μετά την εφαρμογή της μεθόδου DropoutANAFORA]]
[[εικόνα: pseydokwdikas.png|thumb|right|400px|'''Εικόνα 3:''' ]]
[[εικόνα: neyronika_diktia_.png|thumb|right|400px|'''Εικόνα 4:''' Εικονική αναπαράσταση ενός νευρωνικού δικτύου]]

''' Τι είναι; '''

Η μέθοδος Dropout είναι μια μέθοδος κανονικοποίησης που χρησιμοποιείται κυρίως στην εκπαίδευση των νευρωνικών δικτύων προκειμένου να λυθεί το πρόβλημα του overfitting. Είναι μια ισχυρή τεχνική που ενώ σχετίζεται κυρίως με νευρωνικά δίκτυα, οι αρχές της μπορούν να προσαρμοστούν και σε άλλους στατιστικούς αλγόριθμους, πχ σε ensemble μεθόδους όπως είναι η random forests και η gradient boosting, σε γραμμική και λογιστική παλινδρόμηση, σε αλγορίθμους ημι-εποπτευόμενης μάθησης και πολλούς άλλους.

''' Τι είναι το overfitting; '''

To overfitting είναι μια κατάσταση που συμβαίνει όταν ένα νευρωνικό δίκτυο εκπαιδεύεται τόσο πολύ στα δεδομένα εκπαίδευσης, που αρχίζει να μαθαίνει τα δεδομένα αυτά τόσο καλά, που χάνει την δυνατότητα να γενικεύει όταν λάβει νέα δεδομένα. Αυτό συμβαίνει συχνότερα όταν περίπλοκα νευρωνικά δίκτυα εκπαιδεύονται πάνω σε σχετικά μικρό σετ δεδομένων.
Για παράδειγμα, είναι σαν ένα άτομο να διαβάζει και να μαθαίνει πολύ καλά ένα συγκεκριμένο βιβλίο μιας θεματικής ενότητας και να είναι σε θέση να απαντήσει ανασύροντας από τη μνήμη του οποιαδήποτε πληροφορία έχει να κάνει με το συγκεκριμένο βιβλίο, αλλά αν ερωτηθεί κάτι που ναι μεν αφορά στη θεματική ενότητα του βιβλίου αλλά διαφοροποιείται από αυτό, αδυνατεί να απαντήσει ή απαντά λανθασμένα.
Ας δούμε δύο απλά παραδείγματα.

o Έστω ότι εκπαιδεύουμε ένα νευρωνικό δίκτυο για να μπορεί να αναγνωρίζει αν ένα αντικείμενο είναι γάτα ή όχι από εικόνες, και έστω ότι για την εκπαίδευσή του χρησιμοποιούμε ένα σύνολο εικόνων που λαμβάνει υπόψη διάφορες γωνίες λήψης, φωτεινότητα και το φόντο άλλα μόνο μια μικρή ποικιλία από ράτσες γάτας. Το δίκτυο θα αναπτύξει περίπλοκους κανόνες ώστε να είναι σε θέση να αναγνωρίσει τις συγκεκριμένες ράτσες μέσω του σετ δεδομένων, ωστόσο αν δοκιμάσουμε το δίκτυο με φωτογραφίες γατών που διαφέρουν σημαντικά από τις ράτσες του σετ, υπάρχει μεγάλη πιθανότητα να μην είναι αποτελεσματικό. Αυτό οφείλεται στο γεγονός ότι το δίκτυο έχει "μάθει" πολύ συγκεκριμένα χαρακτηριστικά από το σύνολο δεδομένων εκπαίδευσης, αλλά δεν έχει αναπτύξει τη γενικότητα για να αντιμετωπίσει νέες, διαφορετικές καταστάσεις.

o Έστω ότι εκπαιδεύουμε τώρα ένα νευρωνικό δίκτυο έτσι ώστε να είναι σε θέση να διαχωρίζει τα “spam” email από τα υπόλοιπα και έστω ότι για να το εκπαιδεύσουμε χρησιμοποιούμε παραδείγματα από διάφορα “spam” email. Το δίκτυο είναι πιθανό να υπερεκπαιδευτεί και να αναγνωρίζει ως “spam” μόνο όσα mail περιέχουν κάποιες συγκεκριμένες λέξεις ή συγκεκριμένο τρόπο γραφής. Το αποτέλεσμα θα είναι να μην αναγνωρίζει ως “spam” mail που δεν περιέχουν αυτές τις λέξεις καθώς όμως μπορεί να συμβεί και το αντίθετο, δηλαδή mail που δεν είναι “spam” να ταξινομούνται ως τέτοια.

''' Πώς αντιμετωπίζεται το overfitting;'''

• Έχουν αναπτυχθεί αρκετές μέθοδοι και αλγόριθμοί προκειμένου να λυθεί το πρόβλημα το overfitting. Οι περισσότερες και πιο παραδοσιακές από αυτές αφορούν κυρίως γραμμικά νευρωνικά δίκτυα. Μερικά παραδείγματα είναι η L1 Regularization, η L2 Regularization, η Elastic Net και η Early Stopping που εφαρμόζονται κυρίως σε γραμμικά νευρωνικά δίκτυα.

Όπως αναφέραμε και πριν η μέθοδος Dropout είναι μια μέθοδος κανονικοποίησης που χρησιμοποιείται στην εκπαίδευση των νευρωνικών δικτύων προκειμένου να λυθεί το πρόβλημα του overfitting. Το βασικό της πλεονέκτημα σε σχέση με τις υπόλοιπες μεθόδους κανονικοποίησης που αναφέραμε πριν είναι ότι μπορεί να εφαρμοστεί και σε μη γραμμικά μοντέλα. Η βασική ιδέα πίσω από το Dropout είναι ότι “απενεργοποιεί” τυχαία κάποιους νευρώνες σε κάθε επανάληψη εκπαίδευσης. Αυτό σημαίνει ότι κάθε φορά το δίκτυο μαθαίνει να εκπαιδεύεται βασιζόμενο σε διαφορετικούς συνδυασμούς νευρώνων γεγονός που επιλύει το πρόβλημα του overfitting αφού οι νευρώνες “μαθαίνουν” να μην εξαρτώνται υπερβολικά ο ένας από τον άλλον.
Ας την δούμε όμως πιο αναλυτικά.
Για να εφαρμοστεί η μέθοδος Dropout ορίζεται η υπερπαράμετρος p (hyperparameter p ή dropout p ) η οποία αναφέρεται στο ποσοστό των νευρώνων που “απενεργοποιούνται” κατά τη διάρκεια της εκπαίδευσης. Ουσιαστικά η p είναι η πιθανότητα ένας νευρώνας να είναι ενεργοποιημένος η απενεργοποιημένος κατά τη διάρκεια της εκπαίδευσης. Οι τιμές που μπορεί να πάρει η p είναι από 0 έως 1 αλλά συνήθως ορίζεται από 0.2-0.5. Για κάθε επανάληψη εκπαίδευσης ορίζεται διαφορετική υπερπαράμετρος. Κατά την απενεργοποίηση ενός νευρώνα η τιμή της εξόδου του τίθεται ως μηδέν και δεν συμμετέχει στην καθόλου στην διαμόρφωση της τελικής εξόδου του μοντέλου. Σε κάθε επανάληψη εκπαίδευσης ορίζεται μια διαφορετική τιμή p και στο τέλος γίνεται ένας συνδυασμός των βασικών διεργασιών κάθε εκπαίδευσης προκειμένου να έχουμε την τελική ολοκληρωμένη εκπαίδευση του δικτύου.
Σε κάθε layer τα βάρη του κάθε νευρώνα κατανέμονται ανάλογα με τον αριθμό τους. Στην Εικόνα 1a φαίνεται ένα layer που αποτελείται από 4 νευρώνες. Το βάρος κάθε νευρώνα θα είναι ¼=0.25. Έστω τώρα ότι εφαρμόζουμε την μέθοδο dropout σε αυτό το layer εικόνα 2b. Τότε θα μείνουν δύο νευρώνες και το βάρος στον κάθε ένα θα είναι ½=0.5. Όμως επειδή δεν θέλουμε τα βάρη στη διαδικασία της εκπαίδευσης να είναι τόσο υψηλά, παρά μόνο να εκπαιδεύσουμε το δίκτυο να μπορεί κάθε φορά να λειτουργεί χωρίς να εξαρτάται από συγκεκριμένους νευρώνες, πολλαπλασιάζουμε με p τα βάρη των νευρώνων που έχουν μέινει και το αποτέλεσμα είναι ότι έχουμε πάλι βάρος 0.25 για τους δύο νευρώνες που έχουν μείνει. Αυτή είναι και η βασική μεθοδολογία που ακολουθείται κάθε φορά με διάφορες προσαρμογές της πιθανότητας p.

''' Υπάρχουν αρνητικά της μεθόδου;'''

Ενώ η μέθοδος dropout έχει βοηθήσει κατά πολύ στην βελτίωση του overfitting έχει και ορισμένα αρνητικά. Τα βασικότερα από αυτά είναι:
Ενώ η μέθοδος dropout παραμένει ένα ισχυρό εργαλείο για την αντιμετώπιση της υπερεκπαίδευσης και της βελτίωσης της γενίκευσης σε πολλά προβλήματα μηχανικής μάθησης, η βέλτιστη χρήση της εξαρτάται από τα χαρακτηριστικά του συγκεκριμένου προβλήματος και του μοντέλου που χρησιμοποιείται. Μερικά από τα βασικότερα και συχνότερα προβλήματα που μπορεί να παρουσιαστούν είναι:

1. Χρειάζεται αρκετά παραπάνω χρόνο να εκπαιδευτεί.

2. Υπάρχει κίνδυνος απώλειας πληροφορίες κατά την απενεργοποίηση νευρώνων.

3. Τα νευρωνικά δίκτυα παρουσιάζουν μεγάλη ευαισθησία στην επιλογή της τιμής p. Μπορούν πολύ εύκολα να υποεκπαιδευτούν αν οριστεί μια λανθασμένη τιμή p

4. Είναι δύσκολη η εφαρμογή της σε συγκεκριμένες αρχιτεκτονικές δικτύου όπως είναι για παράδειγμα τα συνελικτικά νευρωνικά δίκτυα (convolutional neural networks)

Στην Εικόνα 3 Παρακάτω βλέπουμε ένα παράδειγμα απλού κώδικα που δείχνει πώς θα μπορούσε να εφαρμοστεί η μέθοδος Dropout κατά την εκπαίδευση σε γλώσσα προγραμματισμού python.

''' Λίγα Λόγια για τα Νευρωνικά Δίκτυα '''

Τα νευρωνικά δίκτυα είναι υπολογιστικά συστήματα που ουσιαστικά “αντιγράφουν” τον τρόπο που λειτουργεί ο ανθρώπινος εγκέφαλος. Αποτελούνται από μια σειρά “τεχνιτών νευρώνων” που συνδέονται μεταξύ τους με διάφορους τρόπους προκειμένου να επεξεργαστούν πληροφορίες.

Μπορούμε να χωρίσουμε τον τρόπο που λειτουργεί ένας τεχνητός νευρώνας σε 5 βασικά βήματα (Εικόνα 4):

1. Είσοδος (Input): Κάθε νευρώνας δέχεται μια είσοδο που μπορεί να είναι το αποτέλεσμα μιας μέτρησης ή η έξοδος ενός άλλου νευρώνα

2. Κάθε είσοδος χαρακτηρίζεται από ένα βάρος (weight). Το βάρος καθορίζει πόση σημασία θα δοθεί στην αντίστοιχη είσοδο.

3. Επεξεργασία (Processing): κάθε νευρώνας επεξεργάζεται την είσοδο πολλαπλασιάζοντας την με το αντίστοιχο βάρος.

4. Σύνοψη (Summation): το άθροισμα των πολλαπλασιασμών συνοψίζεται για να δώσει ένα συνολικό αποτέλεσμα

5. Συνάρτηση ενεργοποίησης και έξοδος (Activation Function and Output): το τελικό αποτέλεσμα περνά μέσα από μια συνάρτηση ενεργοποίησης που με βάσει το αποτέλεσμα θα ορίσει αν θα πραγματοποιήσει έξοδο ή όχι.

Τα νευρωνικά δίκτυα αποτελούνται από πολλούς τέτοιους νευρώνες οι οποίοι είναι οργανωμένοι σε στρώματα (layers), και ο κάθε ένας από αυτούς εκτελεί την παραπάνω σειρά ενεργειών. Τα layers εκτός από αυτά της είσοδού και της εξόδου ονομάζονται “κρυφά” καθώς δεν υπάρχει η δυνατότητα από κάποιον εξωτερικό παρατηρητή να βλέπει ακριβώς τις διεργασίες που λαμβάνουν χώρα εκεί.
Κάποια παραδείγματα εφαρμογών στα οποία χρησιμοποιούνται τα νευρωνικά δίκτυα είναι η αναγνώριση εικόνων, η αυτόματη μετάφραση, η φωνητική αναγνώριση καθώς και τα συστήματα συστάσεων σε πλατφόρμες όπως είναι οι ειδήσεις του Google και οι αλγόριθμοι του Facebook του Instagram κτλ.

[[category:Υπολογιστικά/αλγοριθμικά θέματα]]

Αρχείο:Pseydokwdikas.png

2024-01-31T09:41:03Z

Melita nefeli:

Αρχείο:Paradeigma dropout.png

2024-01-31T09:40:53Z

Melita nefeli:

Αρχείο:Neyronika diktia .png

2024-01-31T09:40:44Z

Melita nefeli:

Αρχείο:Dropout layers.png

2024-01-31T09:40:33Z

Melita nefeli:

Μέτρηση της φασματικής υπογραφής των πολικών αρκούδων μέσω drone για τη βελτίωση της ανίχνευσής τους από το διάστημα

2024-01-31T09:26:36Z

Melita nefeli:

'''Πρωτότυπος τίτλος:''' '''Measuring the spectral signature of polar bears from a drone to improve their detection from space'''

'''Συγγραφείς: ''' Dominique Chabot, Seth Stapleton, Charles M. Francis

'''Δημοσιεύθηκε: ''' ELSEVIER, Biological Conservation, 2019

'''Link:''' https://www.sciencedirect.com/science/article/pii/S0006320719302678?casa_token=SylM2RpwP2cAAAAA:BlGaShjKZVaCuZgg8ZBHaDWHq42PfYFPEUhLNc0kOs6Csg-Eg6Zin_1MPCCereiuPuQPHixs

[[εικόνα: arkoyditsa.png|thumb|right|400px|'''Εικόνα 1:''' Ursus Maritimus]]

[[εικόνα: diagramma.png|thumb|right|400px|'''Εικόνα 2:''' Φασματικές υπογραφές των ενήλικων αρκούδων όπως αυτές καταγράφηκαν από την πολυφασματική κάμερα του drone τον Οκτώβρη του 2014 στην περιοχή Churchill, MB του Καναδά]]

[[εικόνα: pinakas_arkouditses.png|thumb|right|400px|'''Εικόνα 3:''' Αποτελέσματα επιβλεπόμενης ταξινόμησης]]

[[εικόνα: fasmatiki1.png|thumb|right|400px|'''Εικόνα 4:''' Πολυφασματική απεικόνιση με χιόνι για background]]

[[εικόνα: fasmatiki2.png|thumb|right|400px|'''Εικόνα 5:''' Πολυφασματική απεικόνιση με στοιχεία βλάστησης εκτός από χιόνι και πάγο]]

[[εικόνα: fasmatiki3.png|thumb|right|400px|'''Εικόνα 6:''' Πολυφασματική εικόνα με στοιχεία βράχων και χαλίκι]]

''' Αντικείμενο'''

Το παρόν άρθρο εστιάζει στην παρακολούθηση της πολικής αρκούδας (Ursus maritimus) μέσω drone με χρήση φασματικών υπογραφών και επιβλεπόμενης ταξινόμησης, με σκοπό την βελτίωση των μεθόδων και τεχνολογιών γύρω από την έρευνα των πληθυσμών της πολικής πανίδας που απειλείται άμεσα από την κλιματική αλλαγή.
Ο στόχος της έρευνας ήταν να συλλεχτούν και να αναλυθούν εικόνες πολλών πολικών αρκούδων μαζί με ποικιλία πολλών χαρακτηριστικών του γύρω τοπίου που μπορεί να δημιουργούν σύγχυση στις φασματικές υπογραφές έτσι ώστε να καταγραφούν νέες πληροφορίες που θα μπορούσαν να βοηθήσουν στην αναγνώριση των αρκούδων στις δορυφορικές εικόνες.
Ενώ οι τεχνολογίες τηλεπισκόπησης μέσω δορυφορικών εικόνων χρησιμοποιούνται πολλά χρόνια στον τομέα της μελέτης της άγριας πανίδας, μόνο τα τελευταία 20 χρόνια επιτεύχθηκε υψηλή χωρική ανάλυση, έτσι ώστε να μπορεί να γίνεται άμεσα ο εντοπισμός των ζώων. Στο παρελθόν έχουν πραγματοποιηθεί πολλές σχετικές μελέτες με ζώα σε αντίστοιχα περιβάλλοντα με αυτό της πολικής αρκούδας, όπως πιγκουΐνοι, φλαμίνγκο, φάλαινες, αλμπατρός και πολλών μεταναστευτικών πουλιών υπό εξαφάνιση.

''' Γιατί είναι απαραίτητη η τηλεπισκόπηση;'''

Η μελέτη της πολικής αρκούδας έχει αποδειχθεί αρκετά δύσκολή και ακριβή για τους ερευνητές της πολικής άγριας πανίδας. Το γεγονός αυτό αρχικά οφείλεται στο λευκό χρώμα της που δεν ξεχωρίζει εύκολα από το φυσικό της περιβάλλον το οποίο αποτελείται κυρίως από χιόνι και πάγο, αλλά και από την πολύ αραιή και μη ομοιόμορφη κατανομή της σε μεγάλης έκτασης πεδίο. Επιπρόσθετα, οι παραδοσιακές μέθοδοι παρακολούθησης της πολικής αρκούδας όπως είναι για παράδειγμα η «mark-recapture» μέθοδος, έχουν αποδειχτεί εξαιρετικά επικίνδυνες για τους ερευνητές καθώς πολλοί από αυτούς έχουν χάσει τη ζωή τους κατά τη διάρκεια ερευνών. Για να προσπεραστούν τα παραπάνω εμπόδια, με τη χρήση drone χαμηλού υψομέτρου ( ≤100m) έγινε μέτρηση της φασματικής υπογραφής της πολικής αρκούδας μέσα από πολυφασματικές εικόνες.

''' Μέθοδοι '''

Τα δεδομένα συλλέχθηκαν την χρονική περίοδο 27-31 Οκτωβρίου 2014 στην περιοχή Cape Churchill, Manitoba στον Καναδά όπου συγκεντρώνεται μεγάλος πληθυσμός πολικών αρκούδων από το Western Hudson Bay από το τέλος του καλοκαιριού έως την αρχή του χειμώνα. Της ημερομηνίες διεξαγωγής της έρευνας η θερμοκρασία κυμαινόταν από -1 έως -7 βαθμούς, οι άνεμοι από 10 έως 40 km/h και επικρατούσε κυρίως συννεφιά εκτός από την 31 Οκτώβρη που υπήρχε αραιή συννεφιά με ηλιοφάνεια
Για τη συλλογή των δεδομένων έγινε χρήση ενός Responder drone helicopter (ING Robotic Aviation, Ottawa, ON, Canada) το οποίο ήταν εξοπλισμένο με μια Mini-MCA6 πολυφασματική κάμερα (Tetracam, Chatsworth, CA, USA) η οποία κατέγραψε έξι φασματικά κανάλια των 1280x1024- pixel με πλάτος 10nm: Το μπλε κανάλι (470nm), το πράσινο κανάλι(550nm) το κόκκινο κανάλι (690nm), το red-edge( 690nm) και το red-edge (710nm) και το εγγύς υπέρυθρο (810nm).
Η διαδικασία της έρευνας ήταν η εξής: μια ομάδα ¨πεδίου¨ ταξίδευε στους κεντρικούς δρόμους της περιοχής μελέτης με ένα “Tundra Buggy bus” η με “pickup” φορτηγό τις ώρες με φως, ψάχνοντας για πολικές αρκούδες. Όταν εντοπιζόταν μια αρκούδα το όχημα σταματούσε 100-300 μέτρα μακριά και έθετε το drone σε λειτουργία, το οποίο ξεκινούσε την πτήση συνήθως από την οροφή του οχήματος, οδηγούταν μέσω χειροκίνητου radio-control και έφτανε περίπου στα 100 μέτρα ύψος τραβώντας ανά δύο δευτερόλεπτα απεικονίσεις. Οι απεικονίσεις στελνόντουσαν αυτόματα στο control-panel του drone έτσι ώστε να είναι σε θέση ο χειριστής να το οδηγήσει ακριβώς πάνω από την αρκούδα.
Συνολικά συλλέχθηκαν 14 απεικονίσεις που οι 13 από αυτές αφορούν μια αρκούδα και 1 από αυτές μία αρκούδα με τα δύο μωρά της. Οι απεικονίσεις περιλαμβάνουν πια ποικιλία από τοπία τα οποία χοντρικά μπορούν να χωριστούν σε αυτά με πέτρες και χαλίκια, σε αυτά που υπάρχουν στοιχεία βλάστησης και σε αυτά με χιόνι ή/και πάγο.
Όλες οι αρχικές εικόνες επεξεργάστηκαν χωρικά και υποβλήθηκαν σε πολυφασματική επεξεργασία των 8-bit (6 κανάλια ανά φωτογραφία) σε μορφή Tiff μέσω του Tetracam PixelWrench2 v1.2.4. Οι αναλύσεις πραγματοποιήθηκαν με το ENVI v5.4.1 (Exelis/Harris Geospatial, Boulder, CO, USA). Σε κάθε εικόνα, με χρήση πολυγώνων εστιάστηκε το αντικείμενο του ενδιαφέροντος και υπολογίστηκαν τα στατιστικά στοιχεία, ο μέσος αριθμός των pixel και η τυπική απόκλιση κάθε πολυγώνου, σε κάθε κανάλι ξεχωριστά.
Ένα βασικό πρόβλημα που αντιμετωπίζεται είναι η ανάλυση των πολυφασματικών εικόνων (2.4m/ pixel) που φαίνεται να είναι αρκετά χαμηλή για την μελέτη αντικειμένων στο μέγεθος της αρκούδας, όμως ήδη από τον χρόνο διεξαγωγής της έρευνας έχει βελτιωθεί και φαίνεται ότι θα συνεχίσει να βελτιώνεται τα επόμενα χρόνια

''' Ταξινόμηση '''

Προκειμένου να ερευνηθεί σε βάθος ποια χαρακτηριστικά του τοπίου συγχέονται περισσότερο με τις πολικές αρκούδες στις πολυφασματικές απεικονίσεις, πραγματοποιήθηκε επιβλεπόμενη ταξινόμηση σε κάθε μια από τις επιλεγμένες εικόνες. Συγκεκριμένα έγινε χρήση του αλγορίθμου Maximum Likelihood και με threshold αυτό των 0.5001, σε κάθε εικόνα δημιουργήθηκαν δύο κλάσεις, μια αυτή που εμπεριείχε την αρκούδα (bear) και μια αυτή με όλη την υπόλοιπη εικόνα (background). Με τη χρήση του συγκεκριμένου threshold θα ταξινομούνταν στη κάθε κατηγορία μόνο τα pixel που είχαν πάνω από 50% πιθανότητα να ανήκουν σε μία από αυτές τις κατηγορίες και τα άλλα θα έμεναν αταξινόμητα. Προκειμένου να γίνει καλύτερα κατανοητό ποια κανάλια είναι καλύτερα να χρησιμοποιούνται για την διαφοροποίηση της πολικής αρκούδας με το γύρω περιβάλλον της, δημιουργήθηκε ένας κανόνας ταξινόμησης για κάθε σετ απεικονίσεων (δηλαδή ένας διαφορετικός κανόνας για τις εικόνες κάθε πτήσης), που εφαρμόστηκε σε συνδυασμό με τον αλγόριθμο Maximum Likelihood. Συγκεκριμένα, για κάθε φασματικό κανάλι, ορίστηκαν thresholds για την ταξινόμηση των pixel ως “bear”.

• Ως κατώτερο threshold ορίστηκε:
Min(μέσος αριθμός pixel που περιέχει αρκούδα - την τυπική απόκλιση κάθε σετ εικόνων), για όλες τις εικόνες του σετ.

• Ως μεγαλύτερο threshold ορίστηκε:
Max (μέσος αριθμός pixel που περιέχει αρκούδα + την τυπική απόκλιση κάθε σετ εικόνων), για όλες τις εικόνες του σετ.
Τέλος, έγινε χρήση του IDL scripting application για την επεξεργασία όλων των εικόνων που περιείχαν αρκούδες (786 εικόνες) και για κάθε τελική ταξινομημένη εικόνα έγινε εξαγωγή του ποσοστού τις εκατό του αριθμού των pixel που χαρακτηρίστηκαν ως “bear” και αυτών που χαρακτηρίστηκαν ως “background”, καθώς και των pixel που ταξινομήθηκαν σε λανθασμένη κατηγορία.

''' Αποτελέσματα '''

Οι φασματικές υπογραφές των αρκούδων όπως αυτές καταγράφηκαν από την πολυφασματική κάμερα απεικονίζονται στην εικόνα 2. Οι φασματικές υπογραφές στις 28 Οκτωβρίου, δηλαδή των αρκούδων 4,5 και 6 είναι οι πιο αντιπροσωπευτικές υπογραφές ζώων σε πολικά περιβάλλοντα σύμφωνα με τη θεωρία που γνωρίζουμε έως τώρα. Οι υπόλοιπες υπογραφές συμβαδίζουν και αυτές με τη θεωρία έχοντας προφανώς κάποιες μικρές διαφοροποιήσεις που δεν κρίνονται αξιοσημείωτες. Άρα η φασματική υπογραφή της πολικής αρκούδας χαρακτηρίζεται από μια συνεχόμενη αύξηση της ανακλαστικότητας η οποία κυμαίνεται από ~0.35–0.45 στα470 nm, από 0.50 έως 0.60 στα 550 nm, από 0.60 έως 0.70 στα 660 nm και από 0.70 έως 0.85 στα 690 nm, οριακά υψηλή στα 710 nm και φτάνει από 0.80 έως 0.95 στα 810nm.

Τα αποτελέσματα της επιβλεπόμενης ταξινόμησης έχουν καταγραφεί στον πίνακα της εικόνας 3 όπου και για τις 13 ενήλικες αρκούδες αναφέρεται ο αριθμός των εικόνων που η κάθε μία απεικονίζεται, ο αριθμός των pixel στα οποία εμφανίζεται η αρκούδα σε κάθε εικόνα, το ποσοστό τις εκατό των pixel που απεικονίζουν αρκούδα και έχουν ταξινομηθεί ως “bear” και το ποσοστό τις εκατό των pixel που ενώ έπρεπε να ταξινομηθούν ως “bear” ταξινομήθηκαν ως “background”.
Κάποια βασικά συμπεράσματα που προέκυψαν είναι τα εξής:

1. Η ταξινόμηση των απεικονίσεων σε περιοχές που κυριαρχεί το χιόνι και ο πάγος έχουν το μεγαλύτερο ποσοστό επιτυχίας λόγω της πολύ χαμηλότερης ανακλαστικότητας των αρκούδων στο μπλε και στο πράσινο κανάλι (εικόνα 4)

2. Η ταξινόμηση που εκτός από χιόνι και πάγο έχει και στοιχεία βλάστησης παρουσιάζει λάθη (εικόνα 5)

3. Η ταξινόμηση των απεικονίσεων που εμπεριέχουν χαρακτηριστικά όπως βράχους και χαλίκι παρουσιάσει τα περισσότερα χονδροειδή λάθη (εικόνα 6), όμως η ταξινόμηση βελτιώνεται κατά πολύ στο εγγύς υπέρυθρο κανάλι (810nm)

''' Σύνοψη '''

Η μελέτη χρησιμοποίησε ένα drone εφοδιασμένο με πολυφασματική κάμερα για τον εντοπισμό πολικών αρκούδων μέσω απομακρυσμένης ανίχνευσης. Οι φασματικές υπογραφές των αρκούδων ήταν παρόμοιες με αυτές σε προηγούμενες έρευνες και γνωστή θεωρία. Η ανάλυση των φασματικών υπογραφών και η χρήση του αλγορίθμου ταξινόμησης Maximum Likelihood έδειξαν ότι μπορεί να επιτευχθεί ακριβέστερος εντοπισμός των αρκούδων σε φωτεινούς βράχους, χαλίκι και χιονοκαλυμμένη βλάστηση δηλαδή στα περιβάλλοντα που ο διαχωρισμός της αρκούδας από το περιβάλλον της παρουσιάζει μεγαλύτερα προβλήματα. Τα αποτελέσματα υποδεικνύουν ότι η χρήση πολλαπλών φασματικών εικόνων με υψηλή χωρική ανάλυση μπορεί να μειώσει τα λάθη σε αναγνώριση, καθιστώντας τη μέθοδο χρήσιμη για την παρακολούθηση των πολικών αρκούδων και άλλων ειδών στην άγρια φύση.

[[category:Εφαρμογές άγριας πανίδας]]

Μέτρηση της φασματικής υπογραφής των πολικών αρκούδων μέσω drone για τη βελτίωση της ανίχνευσής τους από το διάστημα

2024-01-31T09:26:20Z

Melita nefeli:

Μέτρηση της φασματικής υπογραφής των πολικών αρκούδων μέσω drone για τη βελτίωση της ανίχνευσής τους από το διάστημα

2024-01-31T09:26:02Z

Melita nefeli:

'''Πρωτότυπος τίτλος:''' '''Measuring the spectral signature of polar bears from a drone to improve their detection from space'''

'''Συγγραφείς: ''' Dominique Chabot, Seth Stapleton, Charles M. Francis

'''Δημοσιεύθηκε: ''' '''ELSEVIER, Biological Conservation, 2019'''

'''Link:''' https://www.sciencedirect.com/science/article/pii/S0006320719302678?casa_token=SylM2RpwP2cAAAAA:BlGaShjKZVaCuZgg8ZBHaDWHq42PfYFPEUhLNc0kOs6Csg-Eg6Zin_1MPCCereiuPuQPHixs

[[εικόνα: arkoyditsa.png|thumb|right|400px|'''Εικόνα 1:''' Ursus Maritimus]]

[[εικόνα: diagramma.png|thumb|right|400px|'''Εικόνα 2:''' Φασματικές υπογραφές των ενήλικων αρκούδων όπως αυτές καταγράφηκαν από την πολυφασματική κάμερα του drone τον Οκτώβρη του 2014 στην περιοχή Churchill, MB του Καναδά]]

[[εικόνα: pinakas_arkouditses.png|thumb|right|400px|'''Εικόνα 3:''' Αποτελέσματα επιβλεπόμενης ταξινόμησης]]

[[εικόνα: fasmatiki1.png|thumb|right|400px|'''Εικόνα 4:''' Πολυφασματική απεικόνιση με χιόνι για background]]

[[εικόνα: fasmatiki2.png|thumb|right|400px|'''Εικόνα 5:''' Πολυφασματική απεικόνιση με στοιχεία βλάστησης εκτός από χιόνι και πάγο]]

[[εικόνα: fasmatiki3.png|thumb|right|400px|'''Εικόνα 6:''' Πολυφασματική εικόνα με στοιχεία βράχων και χαλίκι]]

''' Αντικείμενο'''

Το παρόν άρθρο εστιάζει στην παρακολούθηση της πολικής αρκούδας (Ursus maritimus) μέσω drone με χρήση φασματικών υπογραφών και επιβλεπόμενης ταξινόμησης, με σκοπό την βελτίωση των μεθόδων και τεχνολογιών γύρω από την έρευνα των πληθυσμών της πολικής πανίδας που απειλείται άμεσα από την κλιματική αλλαγή.
Ο στόχος της έρευνας ήταν να συλλεχτούν και να αναλυθούν εικόνες πολλών πολικών αρκούδων μαζί με ποικιλία πολλών χαρακτηριστικών του γύρω τοπίου που μπορεί να δημιουργούν σύγχυση στις φασματικές υπογραφές έτσι ώστε να καταγραφούν νέες πληροφορίες που θα μπορούσαν να βοηθήσουν στην αναγνώριση των αρκούδων στις δορυφορικές εικόνες.
Ενώ οι τεχνολογίες τηλεπισκόπησης μέσω δορυφορικών εικόνων χρησιμοποιούνται πολλά χρόνια στον τομέα της μελέτης της άγριας πανίδας, μόνο τα τελευταία 20 χρόνια επιτεύχθηκε υψηλή χωρική ανάλυση, έτσι ώστε να μπορεί να γίνεται άμεσα ο εντοπισμός των ζώων. Στο παρελθόν έχουν πραγματοποιηθεί πολλές σχετικές μελέτες με ζώα σε αντίστοιχα περιβάλλοντα με αυτό της πολικής αρκούδας, όπως πιγκουΐνοι, φλαμίνγκο, φάλαινες, αλμπατρός και πολλών μεταναστευτικών πουλιών υπό εξαφάνιση.

''' Γιατί είναι απαραίτητη η τηλεπισκόπηση;'''

Η μελέτη της πολικής αρκούδας έχει αποδειχθεί αρκετά δύσκολή και ακριβή για τους ερευνητές της πολικής άγριας πανίδας. Το γεγονός αυτό αρχικά οφείλεται στο λευκό χρώμα της που δεν ξεχωρίζει εύκολα από το φυσικό της περιβάλλον το οποίο αποτελείται κυρίως από χιόνι και πάγο, αλλά και από την πολύ αραιή και μη ομοιόμορφη κατανομή της σε μεγάλης έκτασης πεδίο. Επιπρόσθετα, οι παραδοσιακές μέθοδοι παρακολούθησης της πολικής αρκούδας όπως είναι για παράδειγμα η «mark-recapture» μέθοδος, έχουν αποδειχτεί εξαιρετικά επικίνδυνες για τους ερευνητές καθώς πολλοί από αυτούς έχουν χάσει τη ζωή τους κατά τη διάρκεια ερευνών. Για να προσπεραστούν τα παραπάνω εμπόδια, με τη χρήση drone χαμηλού υψομέτρου ( ≤100m) έγινε μέτρηση της φασματικής υπογραφής της πολικής αρκούδας μέσα από πολυφασματικές εικόνες.

''' Μέθοδοι '''

Τα δεδομένα συλλέχθηκαν την χρονική περίοδο 27-31 Οκτωβρίου 2014 στην περιοχή Cape Churchill, Manitoba στον Καναδά όπου συγκεντρώνεται μεγάλος πληθυσμός πολικών αρκούδων από το Western Hudson Bay από το τέλος του καλοκαιριού έως την αρχή του χειμώνα. Της ημερομηνίες διεξαγωγής της έρευνας η θερμοκρασία κυμαινόταν από -1 έως -7 βαθμούς, οι άνεμοι από 10 έως 40 km/h και επικρατούσε κυρίως συννεφιά εκτός από την 31 Οκτώβρη που υπήρχε αραιή συννεφιά με ηλιοφάνεια
Για τη συλλογή των δεδομένων έγινε χρήση ενός Responder drone helicopter (ING Robotic Aviation, Ottawa, ON, Canada) το οποίο ήταν εξοπλισμένο με μια Mini-MCA6 πολυφασματική κάμερα (Tetracam, Chatsworth, CA, USA) η οποία κατέγραψε έξι φασματικά κανάλια των 1280x1024- pixel με πλάτος 10nm: Το μπλε κανάλι (470nm), το πράσινο κανάλι(550nm) το κόκκινο κανάλι (690nm), το red-edge( 690nm) και το red-edge (710nm) και το εγγύς υπέρυθρο (810nm).
Η διαδικασία της έρευνας ήταν η εξής: μια ομάδα ¨πεδίου¨ ταξίδευε στους κεντρικούς δρόμους της περιοχής μελέτης με ένα “Tundra Buggy bus” η με “pickup” φορτηγό τις ώρες με φως, ψάχνοντας για πολικές αρκούδες. Όταν εντοπιζόταν μια αρκούδα το όχημα σταματούσε 100-300 μέτρα μακριά και έθετε το drone σε λειτουργία, το οποίο ξεκινούσε την πτήση συνήθως από την οροφή του οχήματος, οδηγούταν μέσω χειροκίνητου radio-control και έφτανε περίπου στα 100 μέτρα ύψος τραβώντας ανά δύο δευτερόλεπτα απεικονίσεις. Οι απεικονίσεις στελνόντουσαν αυτόματα στο control-panel του drone έτσι ώστε να είναι σε θέση ο χειριστής να το οδηγήσει ακριβώς πάνω από την αρκούδα.
Συνολικά συλλέχθηκαν 14 απεικονίσεις που οι 13 από αυτές αφορούν μια αρκούδα και 1 από αυτές μία αρκούδα με τα δύο μωρά της. Οι απεικονίσεις περιλαμβάνουν πια ποικιλία από τοπία τα οποία χοντρικά μπορούν να χωριστούν σε αυτά με πέτρες και χαλίκια, σε αυτά που υπάρχουν στοιχεία βλάστησης και σε αυτά με χιόνι ή/και πάγο.
Όλες οι αρχικές εικόνες επεξεργάστηκαν χωρικά και υποβλήθηκαν σε πολυφασματική επεξεργασία των 8-bit (6 κανάλια ανά φωτογραφία) σε μορφή Tiff μέσω του Tetracam PixelWrench2 v1.2.4. Οι αναλύσεις πραγματοποιήθηκαν με το ENVI v5.4.1 (Exelis/Harris Geospatial, Boulder, CO, USA). Σε κάθε εικόνα, με χρήση πολυγώνων εστιάστηκε το αντικείμενο του ενδιαφέροντος και υπολογίστηκαν τα στατιστικά στοιχεία, ο μέσος αριθμός των pixel και η τυπική απόκλιση κάθε πολυγώνου, σε κάθε κανάλι ξεχωριστά.
Ένα βασικό πρόβλημα που αντιμετωπίζεται είναι η ανάλυση των πολυφασματικών εικόνων (2.4m/ pixel) που φαίνεται να είναι αρκετά χαμηλή για την μελέτη αντικειμένων στο μέγεθος της αρκούδας, όμως ήδη από τον χρόνο διεξαγωγής της έρευνας έχει βελτιωθεί και φαίνεται ότι θα συνεχίσει να βελτιώνεται τα επόμενα χρόνια

''' Ταξινόμηση '''

Προκειμένου να ερευνηθεί σε βάθος ποια χαρακτηριστικά του τοπίου συγχέονται περισσότερο με τις πολικές αρκούδες στις πολυφασματικές απεικονίσεις, πραγματοποιήθηκε επιβλεπόμενη ταξινόμηση σε κάθε μια από τις επιλεγμένες εικόνες. Συγκεκριμένα έγινε χρήση του αλγορίθμου Maximum Likelihood και με threshold αυτό των 0.5001, σε κάθε εικόνα δημιουργήθηκαν δύο κλάσεις, μια αυτή που εμπεριείχε την αρκούδα (bear) και μια αυτή με όλη την υπόλοιπη εικόνα (background). Με τη χρήση του συγκεκριμένου threshold θα ταξινομούνταν στη κάθε κατηγορία μόνο τα pixel που είχαν πάνω από 50% πιθανότητα να ανήκουν σε μία από αυτές τις κατηγορίες και τα άλλα θα έμεναν αταξινόμητα. Προκειμένου να γίνει καλύτερα κατανοητό ποια κανάλια είναι καλύτερα να χρησιμοποιούνται για την διαφοροποίηση της πολικής αρκούδας με το γύρω περιβάλλον της, δημιουργήθηκε ένας κανόνας ταξινόμησης για κάθε σετ απεικονίσεων (δηλαδή ένας διαφορετικός κανόνας για τις εικόνες κάθε πτήσης), που εφαρμόστηκε σε συνδυασμό με τον αλγόριθμο Maximum Likelihood. Συγκεκριμένα, για κάθε φασματικό κανάλι, ορίστηκαν thresholds για την ταξινόμηση των pixel ως “bear”.

• Ως κατώτερο threshold ορίστηκε:
Min(μέσος αριθμός pixel που περιέχει αρκούδα - την τυπική απόκλιση κάθε σετ εικόνων), για όλες τις εικόνες του σετ.

• Ως μεγαλύτερο threshold ορίστηκε:
Max (μέσος αριθμός pixel που περιέχει αρκούδα + την τυπική απόκλιση κάθε σετ εικόνων), για όλες τις εικόνες του σετ.
Τέλος, έγινε χρήση του IDL scripting application για την επεξεργασία όλων των εικόνων που περιείχαν αρκούδες (786 εικόνες) και για κάθε τελική ταξινομημένη εικόνα έγινε εξαγωγή του ποσοστού τις εκατό του αριθμού των pixel που χαρακτηρίστηκαν ως “bear” και αυτών που χαρακτηρίστηκαν ως “background”, καθώς και των pixel που ταξινομήθηκαν σε λανθασμένη κατηγορία.

''' Αποτελέσματα '''

Οι φασματικές υπογραφές των αρκούδων όπως αυτές καταγράφηκαν από την πολυφασματική κάμερα απεικονίζονται στην εικόνα 2. Οι φασματικές υπογραφές στις 28 Οκτωβρίου, δηλαδή των αρκούδων 4,5 και 6 είναι οι πιο αντιπροσωπευτικές υπογραφές ζώων σε πολικά περιβάλλοντα σύμφωνα με τη θεωρία που γνωρίζουμε έως τώρα. Οι υπόλοιπες υπογραφές συμβαδίζουν και αυτές με τη θεωρία έχοντας προφανώς κάποιες μικρές διαφοροποιήσεις που δεν κρίνονται αξιοσημείωτες. Άρα η φασματική υπογραφή της πολικής αρκούδας χαρακτηρίζεται από μια συνεχόμενη αύξηση της ανακλαστικότητας η οποία κυμαίνεται από ~0.35–0.45 στα470 nm, από 0.50 έως 0.60 στα 550 nm, από 0.60 έως 0.70 στα 660 nm και από 0.70 έως 0.85 στα 690 nm, οριακά υψηλή στα 710 nm και φτάνει από 0.80 έως 0.95 στα 810nm.

Τα αποτελέσματα της επιβλεπόμενης ταξινόμησης έχουν καταγραφεί στον πίνακα της εικόνας 3 όπου και για τις 13 ενήλικες αρκούδες αναφέρεται ο αριθμός των εικόνων που η κάθε μία απεικονίζεται, ο αριθμός των pixel στα οποία εμφανίζεται η αρκούδα σε κάθε εικόνα, το ποσοστό τις εκατό των pixel που απεικονίζουν αρκούδα και έχουν ταξινομηθεί ως “bear” και το ποσοστό τις εκατό των pixel που ενώ έπρεπε να ταξινομηθούν ως “bear” ταξινομήθηκαν ως “background”.
Κάποια βασικά συμπεράσματα που προέκυψαν είναι τα εξής:

1. Η ταξινόμηση των απεικονίσεων σε περιοχές που κυριαρχεί το χιόνι και ο πάγος έχουν το μεγαλύτερο ποσοστό επιτυχίας λόγω της πολύ χαμηλότερης ανακλαστικότητας των αρκούδων στο μπλε και στο πράσινο κανάλι (εικόνα 4)

2. Η ταξινόμηση που εκτός από χιόνι και πάγο έχει και στοιχεία βλάστησης παρουσιάζει λάθη (εικόνα 5)

3. Η ταξινόμηση των απεικονίσεων που εμπεριέχουν χαρακτηριστικά όπως βράχους και χαλίκι παρουσιάσει τα περισσότερα χονδροειδή λάθη (εικόνα 6), όμως η ταξινόμηση βελτιώνεται κατά πολύ στο εγγύς υπέρυθρο κανάλι (810nm)

''' Σύνοψη '''

Η μελέτη χρησιμοποίησε ένα drone εφοδιασμένο με πολυφασματική κάμερα για τον εντοπισμό πολικών αρκούδων μέσω απομακρυσμένης ανίχνευσης. Οι φασματικές υπογραφές των αρκούδων ήταν παρόμοιες με αυτές σε προηγούμενες έρευνες και γνωστή θεωρία. Η ανάλυση των φασματικών υπογραφών και η χρήση του αλγορίθμου ταξινόμησης Maximum Likelihood έδειξαν ότι μπορεί να επιτευχθεί ακριβέστερος εντοπισμός των αρκούδων σε φωτεινούς βράχους, χαλίκι και χιονοκαλυμμένη βλάστηση δηλαδή στα περιβάλλοντα που ο διαχωρισμός της αρκούδας από το περιβάλλον της παρουσιάζει μεγαλύτερα προβλήματα. Τα αποτελέσματα υποδεικνύουν ότι η χρήση πολλαπλών φασματικών εικόνων με υψηλή χωρική ανάλυση μπορεί να μειώσει τα λάθη σε αναγνώριση, καθιστώντας τη μέθοδο χρήσιμη για την παρακολούθηση των πολικών αρκούδων και άλλων ειδών στην άγρια φύση.

[[category:Εφαρμογές άγριας πανίδας]]

Μέτρηση της φασματικής υπογραφής των πολικών αρκούδων μέσω drone για τη βελτίωση της ανίχνευσής τους από το διάστημα

2024-01-31T09:25:30Z

Melita nefeli: Νέα σελίδα με ''''Πρωτότυπος τίτλος:''' '''Measuring the spectral signature of polar bears from a drone to improve their detection from space''' '''Συγγραφείς:...'

'''Πρωτότυπος τίτλος:''' '''Measuring the spectral signature of polar bears from a drone to improve their detection from space'''

'''Συγγραφείς: ''' Dominique Chabot, Seth Stapleton, Charles M. Francis

'''Δημοσιεύθηκε: ''' '''ELSEVIER, Biological Conservation'''

'''Link:''' https://www.sciencedirect.com/science/article/pii/S0006320719302678?casa_token=SylM2RpwP2cAAAAA:BlGaShjKZVaCuZgg8ZBHaDWHq42PfYFPEUhLNc0kOs6Csg-Eg6Zin_1MPCCereiuPuQPHixs

[[εικόνα: arkoyditsa.png|thumb|right|400px|'''Εικόνα 1:''' Ursus Maritimus]]

[[εικόνα: diagramma.png|thumb|right|400px|'''Εικόνα 2:''' Φασματικές υπογραφές των ενήλικων αρκούδων όπως αυτές καταγράφηκαν από την πολυφασματική κάμερα του drone τον Οκτώβρη του 2014 στην περιοχή Churchill, MB του Καναδά]]

[[εικόνα: pinakas_arkouditses.png|thumb|right|400px|'''Εικόνα 3:''' Αποτελέσματα επιβλεπόμενης ταξινόμησης]]

[[εικόνα: fasmatiki1.png|thumb|right|400px|'''Εικόνα 4:''' Πολυφασματική απεικόνιση με χιόνι για background]]

[[εικόνα: fasmatiki2.png|thumb|right|400px|'''Εικόνα 5:''' Πολυφασματική απεικόνιση με στοιχεία βλάστησης εκτός από χιόνι και πάγο]]

[[εικόνα: fasmatiki3.png|thumb|right|400px|'''Εικόνα 6:''' Πολυφασματική εικόνα με στοιχεία βράχων και χαλίκι]]

''' Αντικείμενο'''

Το παρόν άρθρο εστιάζει στην παρακολούθηση της πολικής αρκούδας (Ursus maritimus) μέσω drone με χρήση φασματικών υπογραφών και επιβλεπόμενης ταξινόμησης, με σκοπό την βελτίωση των μεθόδων και τεχνολογιών γύρω από την έρευνα των πληθυσμών της πολικής πανίδας που απειλείται άμεσα από την κλιματική αλλαγή.
Ο στόχος της έρευνας ήταν να συλλεχτούν και να αναλυθούν εικόνες πολλών πολικών αρκούδων μαζί με ποικιλία πολλών χαρακτηριστικών του γύρω τοπίου που μπορεί να δημιουργούν σύγχυση στις φασματικές υπογραφές έτσι ώστε να καταγραφούν νέες πληροφορίες που θα μπορούσαν να βοηθήσουν στην αναγνώριση των αρκούδων στις δορυφορικές εικόνες.
Ενώ οι τεχνολογίες τηλεπισκόπησης μέσω δορυφορικών εικόνων χρησιμοποιούνται πολλά χρόνια στον τομέα της μελέτης της άγριας πανίδας, μόνο τα τελευταία 20 χρόνια επιτεύχθηκε υψηλή χωρική ανάλυση, έτσι ώστε να μπορεί να γίνεται άμεσα ο εντοπισμός των ζώων. Στο παρελθόν έχουν πραγματοποιηθεί πολλές σχετικές μελέτες με ζώα σε αντίστοιχα περιβάλλοντα με αυτό της πολικής αρκούδας, όπως πιγκουΐνοι, φλαμίνγκο, φάλαινες, αλμπατρός και πολλών μεταναστευτικών πουλιών υπό εξαφάνιση.

''' Γιατί είναι απαραίτητη η τηλεπισκόπηση;'''

Η μελέτη της πολικής αρκούδας έχει αποδειχθεί αρκετά δύσκολή και ακριβή για τους ερευνητές της πολικής άγριας πανίδας. Το γεγονός αυτό αρχικά οφείλεται στο λευκό χρώμα της που δεν ξεχωρίζει εύκολα από το φυσικό της περιβάλλον το οποίο αποτελείται κυρίως από χιόνι και πάγο, αλλά και από την πολύ αραιή και μη ομοιόμορφη κατανομή της σε μεγάλης έκτασης πεδίο. Επιπρόσθετα, οι παραδοσιακές μέθοδοι παρακολούθησης της πολικής αρκούδας όπως είναι για παράδειγμα η «mark-recapture» μέθοδος, έχουν αποδειχτεί εξαιρετικά επικίνδυνες για τους ερευνητές καθώς πολλοί από αυτούς έχουν χάσει τη ζωή τους κατά τη διάρκεια ερευνών. Για να προσπεραστούν τα παραπάνω εμπόδια, με τη χρήση drone χαμηλού υψομέτρου ( ≤100m) έγινε μέτρηση της φασματικής υπογραφής της πολικής αρκούδας μέσα από πολυφασματικές εικόνες.

''' Μέθοδοι '''

Τα δεδομένα συλλέχθηκαν την χρονική περίοδο 27-31 Οκτωβρίου 2014 στην περιοχή Cape Churchill, Manitoba στον Καναδά όπου συγκεντρώνεται μεγάλος πληθυσμός πολικών αρκούδων από το Western Hudson Bay από το τέλος του καλοκαιριού έως την αρχή του χειμώνα. Της ημερομηνίες διεξαγωγής της έρευνας η θερμοκρασία κυμαινόταν από -1 έως -7 βαθμούς, οι άνεμοι από 10 έως 40 km/h και επικρατούσε κυρίως συννεφιά εκτός από την 31 Οκτώβρη που υπήρχε αραιή συννεφιά με ηλιοφάνεια
Για τη συλλογή των δεδομένων έγινε χρήση ενός Responder drone helicopter (ING Robotic Aviation, Ottawa, ON, Canada) το οποίο ήταν εξοπλισμένο με μια Mini-MCA6 πολυφασματική κάμερα (Tetracam, Chatsworth, CA, USA) η οποία κατέγραψε έξι φασματικά κανάλια των 1280x1024- pixel με πλάτος 10nm: Το μπλε κανάλι (470nm), το πράσινο κανάλι(550nm) το κόκκινο κανάλι (690nm), το red-edge( 690nm) και το red-edge (710nm) και το εγγύς υπέρυθρο (810nm).
Η διαδικασία της έρευνας ήταν η εξής: μια ομάδα ¨πεδίου¨ ταξίδευε στους κεντρικούς δρόμους της περιοχής μελέτης με ένα “Tundra Buggy bus” η με “pickup” φορτηγό τις ώρες με φως, ψάχνοντας για πολικές αρκούδες. Όταν εντοπιζόταν μια αρκούδα το όχημα σταματούσε 100-300 μέτρα μακριά και έθετε το drone σε λειτουργία, το οποίο ξεκινούσε την πτήση συνήθως από την οροφή του οχήματος, οδηγούταν μέσω χειροκίνητου radio-control και έφτανε περίπου στα 100 μέτρα ύψος τραβώντας ανά δύο δευτερόλεπτα απεικονίσεις. Οι απεικονίσεις στελνόντουσαν αυτόματα στο control-panel του drone έτσι ώστε να είναι σε θέση ο χειριστής να το οδηγήσει ακριβώς πάνω από την αρκούδα.
Συνολικά συλλέχθηκαν 14 απεικονίσεις που οι 13 από αυτές αφορούν μια αρκούδα και 1 από αυτές μία αρκούδα με τα δύο μωρά της. Οι απεικονίσεις περιλαμβάνουν πια ποικιλία από τοπία τα οποία χοντρικά μπορούν να χωριστούν σε αυτά με πέτρες και χαλίκια, σε αυτά που υπάρχουν στοιχεία βλάστησης και σε αυτά με χιόνι ή/και πάγο.
Όλες οι αρχικές εικόνες επεξεργάστηκαν χωρικά και υποβλήθηκαν σε πολυφασματική επεξεργασία των 8-bit (6 κανάλια ανά φωτογραφία) σε μορφή Tiff μέσω του Tetracam PixelWrench2 v1.2.4. Οι αναλύσεις πραγματοποιήθηκαν με το ENVI v5.4.1 (Exelis/Harris Geospatial, Boulder, CO, USA). Σε κάθε εικόνα, με χρήση πολυγώνων εστιάστηκε το αντικείμενο του ενδιαφέροντος και υπολογίστηκαν τα στατιστικά στοιχεία, ο μέσος αριθμός των pixel και η τυπική απόκλιση κάθε πολυγώνου, σε κάθε κανάλι ξεχωριστά.
Ένα βασικό πρόβλημα που αντιμετωπίζεται είναι η ανάλυση των πολυφασματικών εικόνων (2.4m/ pixel) που φαίνεται να είναι αρκετά χαμηλή για την μελέτη αντικειμένων στο μέγεθος της αρκούδας, όμως ήδη από τον χρόνο διεξαγωγής της έρευνας έχει βελτιωθεί και φαίνεται ότι θα συνεχίσει να βελτιώνεται τα επόμενα χρόνια

''' Ταξινόμηση '''

Προκειμένου να ερευνηθεί σε βάθος ποια χαρακτηριστικά του τοπίου συγχέονται περισσότερο με τις πολικές αρκούδες στις πολυφασματικές απεικονίσεις, πραγματοποιήθηκε επιβλεπόμενη ταξινόμηση σε κάθε μια από τις επιλεγμένες εικόνες. Συγκεκριμένα έγινε χρήση του αλγορίθμου Maximum Likelihood και με threshold αυτό των 0.5001, σε κάθε εικόνα δημιουργήθηκαν δύο κλάσεις, μια αυτή που εμπεριείχε την αρκούδα (bear) και μια αυτή με όλη την υπόλοιπη εικόνα (background). Με τη χρήση του συγκεκριμένου threshold θα ταξινομούνταν στη κάθε κατηγορία μόνο τα pixel που είχαν πάνω από 50% πιθανότητα να ανήκουν σε μία από αυτές τις κατηγορίες και τα άλλα θα έμεναν αταξινόμητα. Προκειμένου να γίνει καλύτερα κατανοητό ποια κανάλια είναι καλύτερα να χρησιμοποιούνται για την διαφοροποίηση της πολικής αρκούδας με το γύρω περιβάλλον της, δημιουργήθηκε ένας κανόνας ταξινόμησης για κάθε σετ απεικονίσεων (δηλαδή ένας διαφορετικός κανόνας για τις εικόνες κάθε πτήσης), που εφαρμόστηκε σε συνδυασμό με τον αλγόριθμο Maximum Likelihood. Συγκεκριμένα, για κάθε φασματικό κανάλι, ορίστηκαν thresholds για την ταξινόμηση των pixel ως “bear”.

• Ως κατώτερο threshold ορίστηκε:
Min(μέσος αριθμός pixel που περιέχει αρκούδα - την τυπική απόκλιση κάθε σετ εικόνων), για όλες τις εικόνες του σετ.

• Ως μεγαλύτερο threshold ορίστηκε:
Max (μέσος αριθμός pixel που περιέχει αρκούδα + την τυπική απόκλιση κάθε σετ εικόνων), για όλες τις εικόνες του σετ.
Τέλος, έγινε χρήση του IDL scripting application για την επεξεργασία όλων των εικόνων που περιείχαν αρκούδες (786 εικόνες) και για κάθε τελική ταξινομημένη εικόνα έγινε εξαγωγή του ποσοστού τις εκατό του αριθμού των pixel που χαρακτηρίστηκαν ως “bear” και αυτών που χαρακτηρίστηκαν ως “background”, καθώς και των pixel που ταξινομήθηκαν σε λανθασμένη κατηγορία.

''' Αποτελέσματα '''

Οι φασματικές υπογραφές των αρκούδων όπως αυτές καταγράφηκαν από την πολυφασματική κάμερα απεικονίζονται στην εικόνα 2. Οι φασματικές υπογραφές στις 28 Οκτωβρίου, δηλαδή των αρκούδων 4,5 και 6 είναι οι πιο αντιπροσωπευτικές υπογραφές ζώων σε πολικά περιβάλλοντα σύμφωνα με τη θεωρία που γνωρίζουμε έως τώρα. Οι υπόλοιπες υπογραφές συμβαδίζουν και αυτές με τη θεωρία έχοντας προφανώς κάποιες μικρές διαφοροποιήσεις που δεν κρίνονται αξιοσημείωτες. Άρα η φασματική υπογραφή της πολικής αρκούδας χαρακτηρίζεται από μια συνεχόμενη αύξηση της ανακλαστικότητας η οποία κυμαίνεται από ~0.35–0.45 στα470 nm, από 0.50 έως 0.60 στα 550 nm, από 0.60 έως 0.70 στα 660 nm και από 0.70 έως 0.85 στα 690 nm, οριακά υψηλή στα 710 nm και φτάνει από 0.80 έως 0.95 στα 810nm.

Τα αποτελέσματα της επιβλεπόμενης ταξινόμησης έχουν καταγραφεί στον πίνακα της εικόνας 3 όπου και για τις 13 ενήλικες αρκούδες αναφέρεται ο αριθμός των εικόνων που η κάθε μία απεικονίζεται, ο αριθμός των pixel στα οποία εμφανίζεται η αρκούδα σε κάθε εικόνα, το ποσοστό τις εκατό των pixel που απεικονίζουν αρκούδα και έχουν ταξινομηθεί ως “bear” και το ποσοστό τις εκατό των pixel που ενώ έπρεπε να ταξινομηθούν ως “bear” ταξινομήθηκαν ως “background”.
Κάποια βασικά συμπεράσματα που προέκυψαν είναι τα εξής:

1. Η ταξινόμηση των απεικονίσεων σε περιοχές που κυριαρχεί το χιόνι και ο πάγος έχουν το μεγαλύτερο ποσοστό επιτυχίας λόγω της πολύ χαμηλότερης ανακλαστικότητας των αρκούδων στο μπλε και στο πράσινο κανάλι (εικόνα 4)

2. Η ταξινόμηση που εκτός από χιόνι και πάγο έχει και στοιχεία βλάστησης παρουσιάζει λάθη (εικόνα 5)

3. Η ταξινόμηση των απεικονίσεων που εμπεριέχουν χαρακτηριστικά όπως βράχους και χαλίκι παρουσιάσει τα περισσότερα χονδροειδή λάθη (εικόνα 6), όμως η ταξινόμηση βελτιώνεται κατά πολύ στο εγγύς υπέρυθρο κανάλι (810nm)

''' Σύνοψη '''

Η μελέτη χρησιμοποίησε ένα drone εφοδιασμένο με πολυφασματική κάμερα για τον εντοπισμό πολικών αρκούδων μέσω απομακρυσμένης ανίχνευσης. Οι φασματικές υπογραφές των αρκούδων ήταν παρόμοιες με αυτές σε προηγούμενες έρευνες και γνωστή θεωρία. Η ανάλυση των φασματικών υπογραφών και η χρήση του αλγορίθμου ταξινόμησης Maximum Likelihood έδειξαν ότι μπορεί να επιτευχθεί ακριβέστερος εντοπισμός των αρκούδων σε φωτεινούς βράχους, χαλίκι και χιονοκαλυμμένη βλάστηση δηλαδή στα περιβάλλοντα που ο διαχωρισμός της αρκούδας από το περιβάλλον της παρουσιάζει μεγαλύτερα προβλήματα. Τα αποτελέσματα υποδεικνύουν ότι η χρήση πολλαπλών φασματικών εικόνων με υψηλή χωρική ανάλυση μπορεί να μειώσει τα λάθη σε αναγνώριση, καθιστώντας τη μέθοδο χρήσιμη για την παρακολούθηση των πολικών αρκούδων και άλλων ειδών στην άγρια φύση.

[[category:Εφαρμογές άγριας πανίδας]]

Αρχείο:Pinakas arkouditses.png

2024-01-31T09:06:40Z

Melita nefeli:

Αρχείο:Fasmatiki3.png

2024-01-31T09:06:29Z

Melita nefeli:

Αρχείο:Fasmatiki2.png

2024-01-31T09:06:19Z

Melita nefeli:

Αρχείο:Fasmatiki1.png

2024-01-31T09:06:10Z

Melita nefeli:

Αρχείο:Diagramma.png

2024-01-31T09:06:00Z

Melita nefeli: ανέβασμα νέας έκδοσης του "Αρχείο:Diagramma.png"

Αρχείο:Arkoyditsa.png

2024-01-31T09:05:50Z

Melita nefeli:

Μοντελοποίηση Κατάλληλων Οικοτόπων Αποδημητικών Πτηνών μέσω Τηλεπισκόπησης και Συνελικτικών Νευρωνικών Δικτύων

2024-01-31T08:54:35Z

Melita nefeli:

[[category:Εφαρμογές άγριας πανίδας]]

'''Πρωτότυπος τίτλος:''' ''Modeling Habitat Suitability of Migratory Birds from Remote Sensing Images Using Convolutional Neural Networks''

'''Συγγραφείς: ''' Jin-He Su, Ying-Chao Piao, Ze Luo, Bao-Ping Yan

'''Δημοσιεύθηκε: ''' ''MDPI, animals''

'''Link:''' https://www.mdpi.com/2076-2615/8/5/66

[[εικόνα: Screenshot_1.png|thumb|right|400px|'''Εικόνα 2:''' Αλγόριθμος]]
[[εικόνα: Screenshot_2.png|thumb|right|400px|'''Εικόνα 3:''' Παράδειγμα σημείων με διαφορετική βαρύτητα]]
[[εικόνα: Screenshot_3.png|thumb|right|400px|'''Εικόνα 4:''' Στάσεις της Ινδικής Χήνας ενδιάμεσα της μεταναστευτικής της περιόδου]]

''' Αντικείμενο'''

Το συγκεκριμένο άρθρο εστιάζει την μελέτη του γύρω από την χήνα bar-headed goose (γνωστή στην Ελλάδα ως Ινδική χήνα). Σκοπός της μελέτης είναι να δημιουργήσει χάρτες καταλληλότητας (suitability maps) για την Ινδική Χήνα κάνοντας χρήση δεδομένων κίνησης σε συνδυασμό με εικόνες από απομακρυσμένους αισθητήρες (remote sensing) και δεδομένα από περιβαλλοντικούς παράγοντες, όπως είναι για παράδειγμα η θερμοκρασία. Κατανοώντας με τις παραπάνω μεθόδους την χωρική και χρονική κατανομή των ειδών στον χώρο θα βοηθήσει στην καλύτερη και αποτελεσματικότερη προστασία και διαχείριση της άγριας πανίδας.

''' Γιατί είναι σημαντική η τηλεπισκόπηση;'''

Η παραδοσιακή niche-based μέθοδος για την κατανομή των ειδών άγριας πανίδας έχει δύο βασικά μειονεκτήματα. Πρώτον, τα υπάρχοντα δεδομένα από large-scale έρευνες, μουσεία και άλλες συλλογές, παρέχουν πληροφορίες μόνο για το όνομα της χώρας ή της πόλης λήψης των δεδομένων και ελάχιστα από αυτά μπορούν να χρησιμοποιηθούν αξιόπιστα σε μελέτες. Δεύτερον, δεν παρέχουν αρκετή πληροφορία σχετικά με τα χωρικά χαρακτηριστικά των περιοχών. Τα δορυφορικά δεδομένα από την άλλη παρέχουν άφθονή πληροφορία η οποία με τη χρήση της τηλεπισκόπησης και των εργαλείων που αυτή παρέχει για την επεξεργασία αυτών των
άλλων δεδομένων μπορούμε να έχουμε μια αναλυτική εικόνα του ανάγλυφου της περιοχής, των υδρολογικών χαρακτηριστικών κ.α.

''' Μεθοδολογία '''

Στην συγκεκριμένη μελέτη έγινε έρευνα με την χρήση ενός αλγορίθμου με 2 στάδια προκειμένου να λάβουμε αποτελέσματα από τον συνδυασμό των δεδομένων κίνησης και των δεδομένων των εικόνων remote sensing από τον Landsat 5 TM.

Αρχικά εισάγεται μια νέα μέθοδος αναγνώρισης των στάσεων των αποδημητικών πουλιών, η οποία βασίζεται στην πυκνότητα τους όπως αυτή φαίνεται στις τηλεπισκοπηκες εικόνες.Συγκεκριμένα οι εικόνες του απομακρυσμένου αισθητήρα χωρίζονται σε κομμάτια 16x16 και όταν κάποιο από αυτά έχει επικάλυψη (overlap) με δεδομένα στάσης, το κομμάτι αυτό χαρακτηρίζεται ως “θετικό”.

 Έπειτα με τη χρήση ενός μοντέλου multi-convolution neural network εξάγονται πληροφορίες για την θερμοκρασία από ατμοσφαιρικά δεδομένα και τέλος με τη βοήθεια ενός Support Vector Machine (SVM) μοντέλου γίνεται συνδυασμός όλων των πληροφοριών και δημιουργείται η τελική ταξινόμηση.

Πιο αναλυτικά, ο αλγόριθμος χωρίζεται σε 4 βασικά στάδια :

1. Παίρνουμε πληροφορίες για το ποιες είναι οι στάσεις των πουλιών (της Ινδικής Χήνας) από τον αλγόριθμο GPS tracks του DBIC.O DBIC είναι ένας density-based αλγόριθμος που καθορίζει χωροχρονικά την πυκνότητα του αντικειμένου ενδιαφέροντος σε ένα σημείο κάνοντας χρήση της global και της trajectory density. Για τον υπολογισμό αυτών γίνεται χρήση της γκαουσιανής συνάρτησης Ιnfluence η οποία ορίζεται ως εξής:

''' Ορισμός:'''

H συνάρτηση Influence για ένα σημείο y δίνεται από τον τύπο:

[[εικόνα: typos_nefeli.png|thumb|center|300px]]

Όπου d(x,y) είναι η Ευκλείδεια απόσταση του x από το y.

Η global density ενός σημείου υπολογίζεται ως το άθροισμα των τιμών της influence από τα γειτονικά σημεία αλλά και από σημεία άλλων τροχιών (trajectories). H trajectory density υπολογίζεται ως η influence μεταξύ του σημείου ενδιαφέροντος και ενός γειτονικού του.

Στην συγκεκριμένη μελέτη χρησιμοποιείται το άθροισμα του global και του trajectory density για να υπολογιστεί το πόσο σημαντικό είναι ένα σημείο. Για παράδειγμα στην Εικόνα 3 ενώ και τα δύο σημεία έχουν την ίδια βαρύτητα, με την μέθοδο της συγκεκριμένης μελέτης το p2 θεωρείται πιθανότερο σημείο στάσης.

Στην Εικόνα 4 φαίνεται η ταξινόμηση των στάσεων, αποτέλεσμα που έδωσε ο DBIC, και δείχνει 290 στάσεις ανάμεσα στην λίμνη Qinghai και των περιοχών της χειμερινής εγκατάστασης της χήνας όπως για παράδειγμα οι λίμνες Hala και Lhasa.

2. Οι Landsat φωτογραφίες σε συνδυασμό με τις πληροφορίες για την θερμοκρασία διαχωρίστηκαν σε θετικές αν στην έκταση που καλύπτει η εικόνα βρίσκεται κάποια στάση και αρνητικές αν δεν υπάρχει.

3. Οι εικόνες που ταξινομήθηκαν στο προηγούμενο στάδιο χρησιμοποιούνται για να
εκπαιδευτεί ένα M-CNN network.

4. Από το εκπαιδευμένο μοντέλο M-CNN εξάγονται τα δεδομένα αναπαράστασης και χρησιμοποιούνται για να φτιαχτεί τελικά o suitability map με το SVM μοντέλο.

''' Ταξινόμηση με M-CNN '''

Με τα Convolutional Neural Networks μπορούν να χρησιμοποιηθούν πολλά φίλτρα σε κάθε convolutional layer. Στην συγκεκριμένη εργασία χρησιμοποιούνται one-dimensional convolution για την εξαγωγή των δεδομένων θερμοκρασίας και two-dimensional για την εξαγωγή των remote sensing εικόνων που έχουν χαρακτηριστεί ως θετικές (που συμπεριλαμβάνουν δηλαδή σημεία στάσης)
Στη συνέχεια σχεδιάστηκε ένα M-CNN το οποίο συγκρίνει ταυτόχρονα τα 1-dimensional και 2-dimensional convolutions.
Για την συγκεκριμένη έρευνα έγινε χρήση τριών data sets:
 Των real trajectory datasets από 29 Ινδικές Χήνες,
 Από εικόνες του Landsat 5 TM του U.S. Geological Survey. Κάθε εικόνα χωρίστηκε σε μικρότερες εικόνες 16x16 pixels. Για την έρευνα χρησιμοποιήθηκαν τα bands 1, 2, 3,
4, 5 και 7 και επιλέχθηκαν φωτογραφίες με cloud cover μικρότερο του 20%.
 Dataset θερμοκρασίας από το National Oceanic and Atmospheric Administration.

''' Αποτελέσματα: '''

Τα αποτελέσματα της συγκεκριμένης έρευνας δείχνουν ότι το χρησιμοποιούμενο μοντέλο υπερτερεί σε σχέση με της υπάρχουσες μεθόδους. Η μέθοδος M-CNN σε συνδυασμό με την ταξινόμηση Support Vector Machine (SVM) και τη χρήση των Landsat 5 εικόνων, πετυχαίνει καλή απόδοση στον ακριβή εντοπισμό των στάσεων αλλά και της πρόβλεψης της θέσης αυτών. Λόγω του συνδυασμού διαφορετικών datasets και των δυνατοτήτων που μας προσφέρουν οι αλγόριθμοι CNN και τα εργαλεία επεξεργασίας τηλεσκοπικών εικόνων, αυτή η προσέγγιση ενδέχεται να είναι ενδιαφέρουσα για την μελέτη και άλλων ειδών άγριας πανίδας ακόμα και με πιο περιορισμένα δεδομένα

Αρχείο:Typos nefeli.png

2024-01-31T08:46:35Z

Melita nefeli:

Μοντελοποίηση Κατάλληλων Οικοτόπων Αποδημητικών Πτηνών μέσω Τηλεπισκόπησης και Συνελικτικών Νευρωνικών Δικτύων

2024-01-31T06:19:50Z

Melita nefeli:

[[category:Εφαρμογές άγριας πανίδας]]

'''Πρωτότυπος τίτλος:''' ''Modeling Habitat Suitability of Migratory Birds from Remote Sensing Images Using Convolutional Neural Networks''

'''Συγγραφείς: ''' Jin-He Su, Ying-Chao Piao, Ze Luo, Bao-Ping Yan

'''Δημοσιεύθηκε: ''' ''MDPI, animals''

'''Link:''' https://www.mdpi.com/2076-2615/8/5/66

[[εικόνα: Screenshot_7.png|thumb|right|'''Εικόνα 1:''' Ινδική Χήνα]]
[[εικόνα: Screenshot_1.png|thumb|right|'''Εικόνα 2:''' Αλγόριθμος]]
[[εικόνα: Screenshot_2.png|thumb|right|'''Εικόνα 3:''' Παράδειγμα σημείων με διαφορετική βαρύτητα]]
[[εικόνα: Screenshot_3.png|thumb|right|'''Εικόνα 4:''' Στάσεις της Ινδικής Χήνας ενδιάμεσα της μεταναστευτικής της περιόδου]]

'''Αντικείμενο'''

Το συγκεκριμένο άρθρο εστιάζει την μελέτη του γύρω από την χήνα bar-headed goose (γνωστή στην Ελλάδα ως Ινδική χήνα). Σκοπός της μελέτης είναι να δημιουργήσει χάρτες καταλληλότητας (suitability maps) για την Ινδική Χήνα κάνοντας χρήση δεδομένων κίνησης σε συνδυασμό με εικόνες από απομακρυσμένους αισθητήρες (remote sensing) και δεδομένα από περιβαλλοντικούς παράγοντες, όπως είναι για παράδειγμα η θερμοκρασία. Κατανοώντας με τις παραπάνω μεθόδους την χωρική και χρονική κατανομή των ειδών στον χώρο θα βοηθήσει στην καλύτερη και αποτελεσματικότερη προστασία και διαχείριση της άγριας πανίδας.

'''Γιατί είναι σημαντική η τηλεπισκόπηση;'''

Η παραδοσιακή niche-based μέθοδος για την κατανομή των ειδών άγριας πανίδας έχει δύο βασικά μειονεκτήματα. Πρώτον, τα υπάρχοντα δεδομένα από large-scale έρευνες, μουσεία και άλλες συλλογές, παρέχουν πληροφορίες μόνο για το όνομα της χώρας ή της πόλης λήψης των δεδομένων και ελάχιστα από αυτά μπορούν να χρησιμοποιηθούν αξιόπιστα σε μελέτες. Δεύτερον, δεν παρέχουν αρκετή πληροφορία σχετικά με τα χωρικά χαρακτηριστικά των περιοχών. Τα δορυφορικά δεδομένα από την άλλη παρέχουν άφθονή πληροφορία η οποία με τη χρήση της τηλεπισκόπησης και των εργαλείων που αυτή παρέχει για την επεξεργασία αυτών των
άλλων δεδομένων μπορούμε να έχουμε μια αναλυτική εικόνα του ανάγλυφου της περιοχής, των υδρολογικών χαρακτηριστικών κ.α.

'''Μεθοδολογία'''

Στην συγκεκριμένη μελέτη έγινε έρευνα με την χρήση ενός αλγορίθμου με 2 στάδια προκειμένου να λάβουμε αποτελέσματα από τον συνδυασμό των δεδομένων κίνησης και των δεδομένων των εικόνων remote sensing από τον Landsat 5 TM.

Αρχικά εισάγεται μια νέα μέθοδος αναγνώρισης των στάσεων των αποδημητικών πουλιών, η οποία βασίζεται στην πυκνότητα τους όπως αυτή φαίνεται στις τηλεπισκοπηκες εικόνες.Συγκεκριμένα οι εικόνες του απομακρυσμένου αισθητήρα χωρίζονται σε κομμάτια 16x16 και όταν κάποιο από αυτά έχει επικάλυψη (overlap) με δεδομένα στάσης, το κομμάτι αυτό χαρακτηρίζεται ως “θετικό”.
 Έπειτα με τη χρήση ενός μοντέλου multi-convolution neural network εξάγονται πληροφορίες για την θερμοκρασία από ατμοσφαιρικά δεδομένα και τέλος με τη βοήθεια ενός Support Vector Machine (SVM) μοντέλου γίνεται συνδυασμός όλων των πληροφοριών και δημιουργείται η τελική ταξινόμηση.

Πιο αναλυτικά, ο αλγόριθμος χωρίζεται σε 4 βασικά στάδια :
1. Παίρνουμε πληροφορίες για το ποιες είναι οι στάσεις των πουλιών (της Ινδικής Χήνας) από τον αλγόριθμο GPS tracks του DBIC.O DBIC είναι ένας density-based αλγόριθμος που καθορίζει χωροχρονικά την πυκνότητα του αντικειμένου ενδιαφέροντος σε ένα σημείο κάνοντας χρήση της global και της trajectory density. Για τον υπολογισμό αυτών γίνεται χρήση της γκαουσιανής συνάρτησης Ιnfluence η οποία ορίζεται ως εξής:

'''Ορισμός:'''

H συνάρτηση Influence για ένα σημείο y δίνεται από τον τύπο:
<math>f_{\text{Gauss}}^y(x) = f(x,y) = e^{-\frac{d(x,y)^2}{2\sigma^2}}</math>

Όπου d(x,y) είναι η Ευκλείδεια απόσταση του x από το y.
Η global density ενός σημείου υπολογίζεται ως το άθροισμα των τιμών της influence από τα γειτονικά σημεία αλλά και από σημεία άλλων τροχιών (trajectories). H trajectory density υπολογίζεται ως η influence μεταξύ του σημείου ενδιαφέροντος και ενός γειτονικού του.

Στην συγκεκριμένη μελέτη χρησιμοποιείται το άθροισμα του global και του trajectory density για να υπολογιστεί το πόσο σημαντικό είναι ένα σημείο. Για παράδειγμα στην Εικόνα 3 ενώ και τα δύο σημεία έχουν την ίδια βαρύτητα, με την μέθοδο της συγκεκριμένης μελέτης το p2 θεωρείται πιθανότερο σημείο στάσης.

Στην Εικόνα 4 φαίνεται η ταξινόμηση των στάσεων, αποτέλεσμα που έδωσε ο DBIC, και δείχνει 290 στάσεις ανάμεσα στην λίμνη Qinghai και των περιοχών της χειμερινής εγκατάστασης της χήνας όπως για παράδειγμα οι λίμνες Hala και Lhasa.

2. Οι Landsat φωτογραφίες σε συνδυασμό με τις πληροφορίες για την θερμοκρασία διαχωρίστηκαν σε θετικές αν στην έκταση που καλύπτει η εικόνα βρίσκεται κάποια στάση και αρνητικές αν δεν υπάρχει.

3. Οι εικόνες που ταξινομήθηκαν στο προηγούμενο στάδιο χρησιμοποιούνται για να
εκπαιδευτεί ένα M-CNN network.

4. Από το εκπαιδευμένο μοντέλο M-CNN εξάγονται τα δεδομένα αναπαράστασης και χρησιμοποιούνται για να φτιαχτεί τελικά o suitability map με το SVM μοντέλο.

'''Ταξινόμηση με M-CNN'''

Με τα Convolutional Neural Networks μπορούν να χρησιμοποιηθούν πολλά φίλτρα σε κάθε convolutional layer. Στην συγκεκριμένη εργασία χρησιμοποιούνται one-dimensional convolution για την εξαγωγή των δεδομένων θερμοκρασίας και two-dimensional για την εξαγωγή των remote sensing εικόνων που έχουν χαρακτηριστεί ως θετικές (που συμπεριλαμβάνουν δηλαδή σημεία στάσης)
Στη συνέχεια σχεδιάστηκε ένα M-CNN το οποίο συγκρίνει ταυτόχρονα τα 1-dimensional και 2-dimensional convolutions.
Για την συγκεκριμένη έρευνα έγινε χρήση τριών data sets:
 Των real trajectory datasets από 29 Ινδικές Χήνες,
 Από εικόνες του Landsat 5 TM του U.S. Geological Survey. Κάθε εικόνα χωρίστηκε σε μικρότερες εικόνες 16x16 pixels. Για την έρευνα χρησιμοποιήθηκαν τα bands 1, 2, 3,
4, 5 και 7 και επιλέχθηκαν φωτογραφίες με cloud cover μικρότερο του 20%.
 Dataset θερμοκρασίας από το National Oceanic and Atmospheric Administration.

'''Αποτελέσματα:'''

Τα αποτελέσματα της συγκεκριμένης έρευνας δείχνουν ότι το χρησιμοποιούμενο μοντέλο υπερτερεί σε σχέση με της υπάρχουσες μεθόδους. Η μέθοδος M-CNN σε συνδυασμό με την ταξινόμηση Support Vector Machine (SVM) και τη χρήση των Landsat 5 εικόνων, πετυχαίνει καλή απόδοση στον ακριβή εντοπισμό των στάσεων αλλά και της πρόβλεψης της θέσης αυτών. Λόγω του συνδυασμού διαφορετικών datasets και των δυνατοτήτων που μας προσφέρουν οι αλγόριθμοι CNN και τα εργαλεία επεξεργασίας τηλεσκοπικών εικόνων, αυτή η προσέγγιση ενδέχεται να είναι ενδιαφέρουσα για την μελέτη και άλλων ειδών άγριας πανίδας ακόμα και με πιο περιορισμένα δεδομένα

Μοντελοποίηση Κατάλληλων Οικοτόπων Αποδημητικών Πτηνών μέσω Τηλεπισκόπησης και Συνελικτικών Νευρωνικών Δικτύων

2024-01-30T20:19:24Z

Melita nefeli:

[[category:Εφαρμογές άγριας πανίδας]]

'''Πρωτότυπος τίτλος:''' ''Modeling Habitat Suitability of Migratory Birds from Remote Sensing Images Using Convolutional Neural Networks''

'''Συγγραφείς: ''' Jin-He Su, Ying-Chao Piao, Ze Luo, Bao-Ping Yan

'''Δημοσιεύθηκε: ''' ''MDPI, animals''

'''Link:''' https://www.mdpi.com/2076-2615/8/5/66

[[εικόνα: Screenshot_7.png|thumb|right|'''Εικόνα 1:''' Ινδική Χήνα]]
[[εικόνα: Screenshot_1.png|thumb|right|'''Εικόνα 2:''' Αλγόριθμος]]
[[εικόνα: Screenshot_2.png|thumb|right|'''Εικόνα 3:''' Παράδειγμα σημείων με διαφορετική βαρύτητα]]
[[εικόνα: Screenshot_3.png|thumb|right|'''Εικόνα 4:''' Στάσεις της Ινδικής Χήνας ενδιάμεσα της μεταναστευτικής της περιόδου]]

'''Αντικείμενο'''

Το συγκεκριμένο άρθρο εστιάζει την μελέτη του γύρω από την χήνα bar-headed goose (γνωστή στην Ελλάδα ως Ινδική χήνα). Σκοπός της μελέτης είναι να δημιουργήσει χάρτες καταλληλότητας (suitability maps) για την Ινδική Χήνα κάνοντας χρήση δεδομένων κίνησης σε συνδυασμό με εικόνες από απομακρυσμένους αισθητήρες (remote sensing) και δεδομένα από περιβαλλοντικούς παράγοντες, όπως είναι για παράδειγμα η θερμοκρασία. Κατανοώντας με τις παραπάνω μεθόδους την χωρική και χρονική κατανομή των ειδών στον χώρο θα βοηθήσει στην καλύτερη και αποτελεσματικότερη προστασία και διαχείριση της άγριας πανίδας.

'''Γιατί είναι σημαντική η τηλεπισκόπηση;'''

Η παραδοσιακή niche-based μέθοδος για την κατανομή των ειδών άγριας πανίδας έχει δύο βασικά μειονεκτήματα. Πρώτον, τα υπάρχοντα δεδομένα από large-scale έρευνες, μουσεία και άλλες συλλογές, παρέχουν πληροφορίες μόνο για το όνομα της χώρας ή της πόλης λήψης των δεδομένων και ελάχιστα από αυτά μπορούν να χρησιμοποιηθούν αξιόπιστα σε μελέτες. Δεύτερον, δεν παρέχουν αρκετή πληροφορία σχετικά με τα χωρικά χαρακτηριστικά των περιοχών. Τα δορυφορικά δεδομένα από την άλλη παρέχουν άφθονή πληροφορία η οποία με τη χρήση της τηλεπισκόπησης και των εργαλείων που αυτή παρέχει για την επεξεργασία αυτών των
άλλων δεδομένων μπορούμε να έχουμε μια αναλυτική εικόνα του ανάγλυφου της περιοχής, των υδρολογικών χαρακτηριστικών κ.α.

'''Μεθοδολογία'''

Στην συγκεκριμένη μελέτη έγινε έρευνα με την χρήση ενός αλγορίθμου με 2 στάδια προκειμένου να λάβουμε αποτελέσματα από τον συνδυασμό των δεδομένων κίνησης και των δεδομένων των εικόνων remote sensing από τον Landsat 5 TM.

Αρχικά εισάγεται μια νέα μέθοδος αναγνώρισης των στάσεων των αποδημητικών πουλιών, η οποία βασίζεται στην πυκνότητα τους όπως αυτή φαίνεται στις τηλεπισκοπηκες εικόνες.Συγκεκριμένα οι εικόνες του απομακρυσμένου αισθητήρα χωρίζονται σε κομμάτια 16x16 και όταν κάποιο από αυτά έχει επικάλυψη (overlap) με δεδομένα στάσης, το κομμάτι αυτό χαρακτηρίζεται ως “θετικό”.
 Έπειτα με τη χρήση ενός μοντέλου multi-convolution neural network εξάγονται πληροφορίες για την θερμοκρασία από ατμοσφαιρικά δεδομένα και τέλος με τη βοήθεια ενός Support Vector Machine (SVM) μοντέλου γίνεται συνδυασμός όλων των πληροφοριών και δημιουργείται η τελική ταξινόμηση.

Πιο αναλυτικά, ο αλγόριθμος χωρίζεται σε 4 βασικά στάδια :
1. Παίρνουμε πληροφορίες για το ποιες είναι οι στάσεις των πουλιών (της Ινδικής Χήνας) από τον αλγόριθμο GPS tracks του DBIC.O DBIC είναι ένας density-based αλγόριθμος που καθορίζει χωροχρονικά την πυκνότητα του αντικειμένου ενδιαφέροντος σε ένα σημείο κάνοντας χρήση της global και της trajectory density. Για τον υπολογισμό αυτών γίνεται χρήση της γκαουσιανής συνάρτησης Ιnfluence η οποία ορίζεται ως εξής:

'''Ορισμός:'''

H συνάρτηση Influence για ένα σημείο y δίνεται από τον τύπο:
<math> (f^{y})\index{Gauss}(x) = f(x,y) = e^{-\frac{(d(x,y))^2}{2\sigma^2}} </math>

Όπου d(x,y) είναι η Ευκλείδεια απόσταση του x από το y.
Η global density ενός σημείου υπολογίζεται ως το άθροισμα των τιμών της influence από τα γειτονικά σημεία αλλά και από σημεία άλλων τροχιών (trajectories). H trajectory density υπολογίζεται ως η influence μεταξύ του σημείου ενδιαφέροντος και ενός γειτονικού του.

Στην συγκεκριμένη μελέτη χρησιμοποιείται το άθροισμα του global και του trajectory density για να υπολογιστεί το πόσο σημαντικό είναι ένα σημείο. Για παράδειγμα στην Εικόνα 3 ενώ και τα δύο σημεία έχουν την ίδια βαρύτητα, με την μέθοδο της συγκεκριμένης μελέτης το p2 θεωρείται πιθανότερο σημείο στάσης.

Στην Εικόνα 4 φαίνεται η ταξινόμηση των στάσεων, αποτέλεσμα που έδωσε ο DBIC, και δείχνει 290 στάσεις ανάμεσα στην λίμνη Qinghai και των περιοχών της χειμερινής εγκατάστασης της χήνας όπως για παράδειγμα οι λίμνες Hala και Lhasa.

2. Οι Landsat φωτογραφίες σε συνδυασμό με τις πληροφορίες για την θερμοκρασία διαχωρίστηκαν σε θετικές αν στην έκταση που καλύπτει η εικόνα βρίσκεται κάποια στάση και αρνητικές αν δεν υπάρχει.

3. Οι εικόνες που ταξινομήθηκαν στο προηγούμενο στάδιο χρησιμοποιούνται για να
εκπαιδευτεί ένα M-CNN network.

4. Από το εκπαιδευμένο μοντέλο M-CNN εξάγονται τα δεδομένα αναπαράστασης και χρησιμοποιούνται για να φτιαχτεί τελικά o suitability map με το SVM μοντέλο.

'''Ταξινόμηση με M-CNN'''

Με τα Convolutional Neural Networks μπορούν να χρησιμοποιηθούν πολλά φίλτρα σε κάθε convolutional layer. Στην συγκεκριμένη εργασία χρησιμοποιούνται one-dimensional convolution για την εξαγωγή των δεδομένων θερμοκρασίας και two-dimensional για την εξαγωγή των remote sensing εικόνων που έχουν χαρακτηριστεί ως θετικές (που συμπεριλαμβάνουν δηλαδή σημεία στάσης)
Στη συνέχεια σχεδιάστηκε ένα M-CNN το οποίο συγκρίνει ταυτόχρονα τα 1-dimensional και 2-dimensional convolutions.
Για την συγκεκριμένη έρευνα έγινε χρήση τριών data sets:
 Των real trajectory datasets από 29 Ινδικές Χήνες,
 Από εικόνες του Landsat 5 TM του U.S. Geological Survey. Κάθε εικόνα χωρίστηκε σε μικρότερες εικόνες 16x16 pixels. Για την έρευνα χρησιμοποιήθηκαν τα bands 1, 2, 3,
4, 5 και 7 και επιλέχθηκαν φωτογραφίες με cloud cover μικρότερο του 20%.
 Dataset θερμοκρασίας από το National Oceanic and Atmospheric Administration.

'''Αποτελέσματα:'''

Τα αποτελέσματα της συγκεκριμένης έρευνας δείχνουν ότι το χρησιμοποιούμενο μοντέλο υπερτερεί σε σχέση με της υπάρχουσες μεθόδους. Η μέθοδος M-CNN σε συνδυασμό με την ταξινόμηση Support Vector Machine (SVM) και τη χρήση των Landsat 5 εικόνων, πετυχαίνει καλή απόδοση στον ακριβή εντοπισμό των στάσεων αλλά και της πρόβλεψης της θέσης αυτών. Λόγω του συνδυασμού διαφορετικών datasets και των δυνατοτήτων που μας προσφέρουν οι αλγόριθμοι CNN και τα εργαλεία επεξεργασίας τηλεσκοπικών εικόνων, αυτή η προσέγγιση ενδέχεται να είναι ενδιαφέρουσα για την μελέτη και άλλων ειδών άγριας πανίδας ακόμα και με πιο περιορισμένα δεδομένα

Μοντελοποίηση Κατάλληλων Οικοτόπων Αποδημητικών Πτηνών μέσω Τηλεπισκόπησης και Συνελικτικών Νευρωνικών Δικτύων

2024-01-30T20:16:53Z

Melita nefeli:

[[category:Εφαρμογές άγριας πανίδας]]

'''Πρωτότυπος τίτλος:''' ''Modeling Habitat Suitability of Migratory Birds from Remote Sensing Images Using Convolutional Neural Networks''

'''Συγγραφείς: ''' Jin-He Su, Ying-Chao Piao, Ze Luo, Bao-Ping Yan

'''Δημοσιεύθηκε: ''' ''MDPI, animals''

'''Link:''' https://www.mdpi.com/2076-2615/8/5/66

[[εικόνα: Screenshot_7.png|thumb|right|'''Εικόνα 1:''' Ινδική Χήνα]]
[[εικόνα: Screenshot_1.png|thumb|right|'''Εικόνα 2:''' Αλγόριθμος]]
[[εικόνα: Screenshot_2.png|thumb|right|'''Εικόνα 3:''' Παράδειγμα σημείων με διαφορετική βαρύτητα]]
[[εικόνα: Screenshot_3.png|thumb|right|'''Εικόνα 4:''' Στάσεις της Ινδικής Χήνας ενδιάμεσα της μεταναστευτικής της περιόδου]]

'''Αντικείμενο'''

Το συγκεκριμένο άρθρο εστιάζει την μελέτη του γύρω από την χήνα bar-headed goose (γνωστή στην Ελλάδα ως Ινδική χήνα). Σκοπός της μελέτης είναι να δημιουργήσει χάρτες καταλληλότητας (suitability maps) για την Ινδική Χήνα κάνοντας χρήση δεδομένων κίνησης σε συνδυασμό με εικόνες από απομακρυσμένους αισθητήρες (remote sensing) και δεδομένα από περιβαλλοντικούς παράγοντες, όπως είναι για παράδειγμα η θερμοκρασία. Κατανοώντας με τις παραπάνω μεθόδους την χωρική και χρονική κατανομή των ειδών στον χώρο θα βοηθήσει στην καλύτερη και αποτελεσματικότερη προστασία και διαχείριση της άγριας πανίδας.

'''Γιατί είναι σημαντική η τηλεπισκόπηση;'''

Η παραδοσιακή niche-based μέθοδος για την κατανομή των ειδών άγριας πανίδας έχει δύο βασικά μειονεκτήματα. Πρώτον, τα υπάρχοντα δεδομένα από large-scale έρευνες, μουσεία και άλλες συλλογές, παρέχουν πληροφορίες μόνο για το όνομα της χώρας ή της πόλης λήψης των δεδομένων και ελάχιστα από αυτά μπορούν να χρησιμοποιηθούν αξιόπιστα σε μελέτες. Δεύτερον, δεν παρέχουν αρκετή πληροφορία σχετικά με τα χωρικά χαρακτηριστικά των περιοχών. Τα δορυφορικά δεδομένα από την άλλη παρέχουν άφθονή πληροφορία η οποία με τη χρήση της τηλεπισκόπησης και των εργαλείων που αυτή παρέχει για την επεξεργασία αυτών των
άλλων δεδομένων μπορούμε να έχουμε μια αναλυτική εικόνα του ανάγλυφου της περιοχής, των υδρολογικών χαρακτηριστικών κ.α.

'''Μεθοδολογία'''

Στην συγκεκριμένη μελέτη έγινε έρευνα με την χρήση ενός αλγορίθμου με 2 στάδια προκειμένου να λάβουμε αποτελέσματα από τον συνδυασμό των δεδομένων κίνησης και των δεδομένων των εικόνων remote sensing από τον Landsat 5 TM.

Αρχικά εισάγεται μια νέα μέθοδος αναγνώρισης των στάσεων των αποδημητικών πουλιών, η οποία βασίζεται στην πυκνότητα τους όπως αυτή φαίνεται στις τηλεπισκοπηκες εικόνες.Συγκεκριμένα οι εικόνες του απομακρυσμένου αισθητήρα χωρίζονται σε κομμάτια 16x16 και όταν κάποιο από αυτά έχει επικάλυψη (overlap) με δεδομένα στάσης, το κομμάτι αυτό χαρακτηρίζεται ως “θετικό”.
 Έπειτα με τη χρήση ενός μοντέλου multi-convolution neural network εξάγονται πληροφορίες για την θερμοκρασία από ατμοσφαιρικά δεδομένα και τέλος με τη βοήθεια ενός Support Vector Machine (SVM) μοντέλου γίνεται συνδυασμός όλων των πληροφοριών και δημιουργείται η τελική ταξινόμηση.

Πιο αναλυτικά, ο αλγόριθμος χωρίζεται σε 4 βασικά στάδια :
1. Παίρνουμε πληροφορίες για το ποιες είναι οι στάσεις των πουλιών (της Ινδικής Χήνας) από τον αλγόριθμο GPS tracks του DBIC.O DBIC είναι ένας density-based αλγόριθμος που καθορίζει χωροχρονικά την πυκνότητα του αντικειμένου ενδιαφέροντος σε ένα σημείο κάνοντας χρήση της global και της trajectory density. Για τον υπολογισμό αυτών γίνεται χρήση της γκαουσιανής συνάρτησης Ιnfluence η οποία ορίζεται ως εξής:

'''Ορισμός:'''

H συνάρτηση Influence για ένα σημείο y δίνεται από τον τύπο:
<math> (f^{y})\index{Gauss}(x) = f(x,y) = e^{-\frac{(d(x,y))^2}{2\sigma^2}} </math>
<math>Εισαγωγή τύπου εδώ</math>

Όπου d(x,y) είναι η Ευκλείδεια απόσταση του x από το y.
Η global density ενός σημείου υπολογίζεται ως το άθροισμα των τιμών της influence από τα γειτονικά σημεία αλλά και από σημεία άλλων τροχιών (trajectories). H trajectory density υπολογίζεται ως η influence μεταξύ του σημείου ενδιαφέροντος και ενός γειτονικού του.

Στην συγκεκριμένη μελέτη χρησιμοποιείται το άθροισμα του global και του trajectory density για να υπολογιστεί το πόσο σημαντικό είναι ένα σημείο. Για παράδειγμα στην Εικόνα 3 ενώ και τα δύο σημεία έχουν την ίδια βαρύτητα, με την μέθοδο της συγκεκριμένης μελέτης το p2 θεωρείται πιθανότερο σημείο στάσης.

Στην Εικόνα 4 φαίνεται η ταξινόμηση των στάσεων, αποτέλεσμα που έδωσε ο DBIC, και δείχνει 290 στάσεις ανάμεσα στην λίμνη Qinghai και των περιοχών της χειμερινής εγκατάστασης της χήνας όπως για παράδειγμα οι λίμνες Hala και Lhasa.

2. Οι Landsat φωτογραφίες σε συνδυασμό με τις πληροφορίες για την θερμοκρασία διαχωρίστηκαν σε θετικές αν στην έκταση που καλύπτει η εικόνα βρίσκεται κάποια στάση και αρνητικές αν δεν υπάρχει.

3. Οι εικόνες που ταξινομήθηκαν στο προηγούμενο στάδιο χρησιμοποιούνται για να
εκπαιδευτεί ένα M-CNN network.

4. Από το εκπαιδευμένο μοντέλο M-CNN εξάγονται τα δεδομένα αναπαράστασης και χρησιμοποιούνται για να φτιαχτεί τελικά o suitability map με το SVM μοντέλο.

'''Ταξινόμηση με M-CNN'''

Με τα Convolutional Neural Networks μπορούν να χρησιμοποιηθούν πολλά φίλτρα σε κάθε convolutional layer. Στην συγκεκριμένη εργασία χρησιμοποιούνται one-dimensional convolution για την εξαγωγή των δεδομένων θερμοκρασίας και two-dimensional για την εξαγωγή των remote sensing εικόνων που έχουν χαρακτηριστεί ως θετικές (που συμπεριλαμβάνουν δηλαδή σημεία στάσης)
Στη συνέχεια σχεδιάστηκε ένα M-CNN το οποίο συγκρίνει ταυτόχρονα τα 1-dimensional και 2-dimensional convolutions.
Για την συγκεκριμένη έρευνα έγινε χρήση τριών data sets:
 Των real trajectory datasets από 29 Ινδικές Χήνες,
 Από εικόνες του Landsat 5 TM του U.S. Geological Survey. Κάθε εικόνα χωρίστηκε σε μικρότερες εικόνες 16x16 pixels. Για την έρευνα χρησιμοποιήθηκαν τα bands 1, 2, 3,
4, 5 και 7 και επιλέχθηκαν φωτογραφίες με cloud cover μικρότερο του 20%.
 Dataset θερμοκρασίας από το National Oceanic and Atmospheric Administration.

'''Αποτελέσματα:'''

Τα αποτελέσματα της συγκεκριμένης έρευνας δείχνουν ότι το χρησιμοποιούμενο μοντέλο υπερτερεί σε σχέση με της υπάρχουσες μεθόδους. Η μέθοδος M-CNN σε συνδυασμό με την ταξινόμηση Support Vector Machine (SVM) και τη χρήση των Landsat 5 εικόνων, πετυχαίνει καλή απόδοση στον ακριβή εντοπισμό των στάσεων αλλά και της πρόβλεψης της θέσης αυτών. Λόγω του συνδυασμού διαφορετικών datasets και των δυνατοτήτων που μας προσφέρουν οι αλγόριθμοι CNN και τα εργαλεία επεξεργασίας τηλεσκοπικών εικόνων, αυτή η προσέγγιση ενδέχεται να είναι ενδιαφέρουσα για την μελέτη και άλλων ειδών άγριας πανίδας ακόμα και με πιο περιορισμένα δεδομένα

Μοντελοποίηση Κατάλληλων Οικοτόπων Αποδημητικών Πτηνών μέσω Τηλεπισκόπησης και Συνελικτικών Νευρωνικών Δικτύων

2024-01-30T20:10:30Z

Melita nefeli: Νέα σελίδα με ' category:Εφαρμογές άγριας πανίδας '''Πρωτότυπος τίτλος:''' ''Modeling Habitat Suitability of Migratory Birds from Remote Sensin...'

[[category:Εφαρμογές άγριας πανίδας]]

'''Πρωτότυπος τίτλος:''' ''Modeling Habitat Suitability of Migratory Birds from Remote Sensing Images Using Convolutional Neural Networks''

'''Συγγραφείς: ''' Jin-He Su, Ying-Chao Piao, Ze Luo, Bao-Ping Yan

'''Δημοσιεύθηκε: ''' ''MDPI, animals''

'''Link:''' https://www.mdpi.com/2076-2615/8/5/66

[[εικόνα: Screenshot_7.png|thumb|right|'''Εικόνα 1:''' Ινδική Χήνα]]
[[εικόνα: Screenshot_1.png|thumb|right|'''Εικόνα 2:''' Αλγόριθμος]]
[[εικόνα: Screenshot_2.png|thumb|right|'''Εικόνα 3:''' Παράδειγμα σημείων με διαφορετική βαρύτητα]]
[[εικόνα: Screenshot_3.png|thumb|right|'''Εικόνα 4:''' Στάσεις της Ινδικής Χήνας ενδιάμεσα της μεταναστευτικής της περιόδου]]

'''Αντικείμενο'''

Το συγκεκριμένο άρθρο εστιάζει την μελέτη του γύρω από την χήνα bar-headed goose (γνωστή στην Ελλάδα ως Ινδική χήνα). Σκοπός της μελέτης είναι να δημιουργήσει χάρτες καταλληλότητας (suitability maps) για την Ινδική Χήνα κάνοντας χρήση δεδομένων κίνησης σε συνδυασμό με εικόνες από απομακρυσμένους αισθητήρες (remote sensing) και δεδομένα από περιβαλλοντικούς παράγοντες, όπως είναι για παράδειγμα η θερμοκρασία. Κατανοώντας με τις παραπάνω μεθόδους την χωρική και χρονική κατανομή των ειδών στον χώρο θα βοηθήσει στην καλύτερη και αποτελεσματικότερη προστασία και διαχείριση της άγριας πανίδας.

'''Γιατί είναι σημαντική η τηλεπισκόπηση;'''

Η παραδοσιακή niche-based μέθοδος για την κατανομή των ειδών άγριας πανίδας έχει δύο βασικά μειονεκτήματα. Πρώτον, τα υπάρχοντα δεδομένα από large-scale έρευνες, μουσεία και άλλες συλλογές, παρέχουν πληροφορίες μόνο για το όνομα της χώρας ή της πόλης λήψης των δεδομένων και ελάχιστα από αυτά μπορούν να χρησιμοποιηθούν αξιόπιστα σε μελέτες. Δεύτερον, δεν παρέχουν αρκετή πληροφορία σχετικά με τα χωρικά χαρακτηριστικά των περιοχών. Τα δορυφορικά δεδομένα από την άλλη παρέχουν άφθονή πληροφορία η οποία με τη χρήση της τηλεπισκόπησης και των εργαλείων που αυτή παρέχει για την επεξεργασία αυτών των
άλλων δεδομένων μπορούμε να έχουμε μια αναλυτική εικόνα του ανάγλυφου της περιοχής, των υδρολογικών χαρακτηριστικών κ.α.

'''Μεθοδολογία'''

Στην συγκεκριμένη μελέτη έγινε έρευνα με την χρήση ενός αλγορίθμου με 2 στάδια προκειμένου να λάβουμε αποτελέσματα από τον συνδυασμό των δεδομένων κίνησης και των δεδομένων των εικόνων remote sensing από τον Landsat 5 TM.

Αρχικά εισάγεται μια νέα μέθοδος αναγνώρισης των στάσεων των αποδημητικών πουλιών, η οποία βασίζεται στην πυκνότητα τους όπως αυτή φαίνεται στις τηλεπισκοπηκες εικόνες.Συγκεκριμένα οι εικόνες του απομακρυσμένου αισθητήρα χωρίζονται σε κομμάτια 16x16 και όταν κάποιο από αυτά έχει επικάλυψη (overlap) με δεδομένα στάσης, το κομμάτι αυτό χαρακτηρίζεται ως “θετικό”.
 Έπειτα με τη χρήση ενός μοντέλου multi-convolution neural network εξάγονται πληροφορίες για την θερμοκρασία από ατμοσφαιρικά δεδομένα και τέλος με τη βοήθεια ενός Support Vector Machine (SVM) μοντέλου γίνεται συνδυασμός όλων των πληροφοριών και δημιουργείται η τελική ταξινόμηση.

Πιο αναλυτικά, ο αλγόριθμος χωρίζεται σε 4 βασικά στάδια :
1. Παίρνουμε πληροφορίες για το ποιες είναι οι στάσεις των πουλιών (της Ινδικής Χήνας) από τον αλγόριθμο GPS tracks του DBIC.O DBIC είναι ένας density-based αλγόριθμος που καθορίζει χωροχρονικά την πυκνότητα του αντικειμένου ενδιαφέροντος σε ένα σημείο κάνοντας χρήση της global και της trajectory density. Για τον υπολογισμό αυτών γίνεται χρήση της γκαουσιανής συνάρτησης Ιnfluence η οποία ορίζεται ως εξής:

'''Ορισμός:'''

H συνάρτηση Influence για ένα σημείο y δίνεται από τον τύπο:
<math> (f^y)\index{Gauss}(x)=f(x,y)=e^(-(d(x,y))^2)/(2(σ^2)) </math>

Όπου d(x,y) είναι η Ευκλείδεια απόσταση του x από το y.
Η global density ενός σημείου υπολογίζεται ως το άθροισμα των τιμών της influence από τα γειτονικά σημεία αλλά και από σημεία άλλων τροχιών (trajectories). H trajectory density υπολογίζεται ως η influence μεταξύ του σημείου ενδιαφέροντος και ενός γειτονικού του.

Στην συγκεκριμένη μελέτη χρησιμοποιείται το άθροισμα του global και του trajectory density για να υπολογιστεί το πόσο σημαντικό είναι ένα σημείο. Για παράδειγμα στην Εικόνα 3 ενώ και τα δύο σημεία έχουν την ίδια βαρύτητα, με την μέθοδο της συγκεκριμένης μελέτης το p2 θεωρείται πιθανότερο σημείο στάσης.

Στην Εικόνα 4 φαίνεται η ταξινόμηση των στάσεων, αποτέλεσμα που έδωσε ο DBIC, και δείχνει 290 στάσεις ανάμεσα στην λίμνη Qinghai και των περιοχών της χειμερινής εγκατάστασης της χήνας όπως για παράδειγμα οι λίμνες Hala και Lhasa.

2. Οι Landsat φωτογραφίες σε συνδυασμό με τις πληροφορίες για την θερμοκρασία διαχωρίστηκαν σε θετικές αν στην έκταση που καλύπτει η εικόνα βρίσκεται κάποια στάση και αρνητικές αν δεν υπάρχει.

3. Οι εικόνες που ταξινομήθηκαν στο προηγούμενο στάδιο χρησιμοποιούνται για να
εκπαιδευτεί ένα M-CNN network.

4. Από το εκπαιδευμένο μοντέλο M-CNN εξάγονται τα δεδομένα αναπαράστασης και χρησιμοποιούνται για να φτιαχτεί τελικά o suitability map με το SVM μοντέλο.

'''Ταξινόμηση με M-CNN'''

Με τα Convolutional Neural Networks μπορούν να χρησιμοποιηθούν πολλά φίλτρα σε κάθε convolutional layer. Στην συγκεκριμένη εργασία χρησιμοποιούνται one-dimensional convolution για την εξαγωγή των δεδομένων θερμοκρασίας και two-dimensional για την εξαγωγή των remote sensing εικόνων που έχουν χαρακτηριστεί ως θετικές (που συμπεριλαμβάνουν δηλαδή σημεία στάσης)
Στη συνέχεια σχεδιάστηκε ένα M-CNN το οποίο συγκρίνει ταυτόχρονα τα 1-dimensional και 2-dimensional convolutions.
Για την συγκεκριμένη έρευνα έγινε χρήση τριών data sets:
 Των real trajectory datasets από 29 Ινδικές Χήνες,
 Από εικόνες του Landsat 5 TM του U.S. Geological Survey. Κάθε εικόνα χωρίστηκε σε μικρότερες εικόνες 16x16 pixels. Για την έρευνα χρησιμοποιήθηκαν τα bands 1, 2, 3,
4, 5 και 7 και επιλέχθηκαν φωτογραφίες με cloud cover μικρότερο του 20%.
 Dataset θερμοκρασίας από το National Oceanic and Atmospheric Administration.

'''Αποτελέσματα:'''

Τα αποτελέσματα της συγκεκριμένης έρευνας δείχνουν ότι το χρησιμοποιούμενο μοντέλο υπερτερεί σε σχέση με της υπάρχουσες μεθόδους. Η μέθοδος M-CNN σε συνδυασμό με την ταξινόμηση Support Vector Machine (SVM) και τη χρήση των Landsat 5 εικόνων, πετυχαίνει καλή απόδοση στον ακριβή εντοπισμό των στάσεων αλλά και της πρόβλεψης της θέσης αυτών. Λόγω του συνδυασμού διαφορετικών datasets και των δυνατοτήτων που μας προσφέρουν οι αλγόριθμοι CNN και τα εργαλεία επεξεργασίας τηλεσκοπικών εικόνων, αυτή η προσέγγιση ενδέχεται να είναι ενδιαφέρουσα για την μελέτη και άλλων ειδών άγριας πανίδας ακόμα και με πιο περιορισμένα δεδομένα

Αρχείο:Screenshot 3.png

2024-01-30T19:36:17Z

Melita nefeli:

Αρχείο:Screenshot 2.png

2024-01-30T19:35:53Z

Melita nefeli:

Αρχείο:Screenshot 1.png

2024-01-30T19:35:30Z

Melita nefeli:

Αρχείο:Screenshot 7.png

2024-01-30T19:29:52Z

Melita nefeli: