(Translated by https://www.hiragana.jp/)
Στοχαστική Βελτιστοποίηση - Βικιπαίδεια Μετάβαση σしぐまτたうοおみくろん περιεχόμενο

Στοχαστική Βελτιστοποίηση

Από τたうηいーた Βικιπαίδεια, τたうηいーたνにゅー ελεύθερη εγκυκλοπαίδεια

Μέθοδοι στοχαστικής βελτιστοποίησης ονομάζονται οおみくろんιいおた μέθοδοι βελτιστοποίησης πぱいοおみくろんυうぷしろん παράγουν κかっぱαあるふぁιいおた χρησιμοποιούν τυχαίες μεταβλητές. Περιλαμβάνουν τις μεθόδους επίλυσης στοχαστικών προβλημάτων, δηλαδή προβλημάτων πぱいοおみくろんυうぷしろん εμφανίζουν τυχαίες μεταβλητές σしぐまτたうηいーたνにゅー ίδια τたうηいーたνにゅー διατύπωσή τους (ήτοι τυχαίες συναρτήσεις στόχου ή τυχαίους περιορισμούς) κかっぱαあるふぁιいおた μεθόδους επίλυσης μみゅーηいーた-στοχαστικών προβλημάτων χρησιμοποιώντας τυχαίες επαναλήψεις. Ορισμένες μεθοδολογίες στοχαστικής βελτιστοποίησης χρησιμοποιούν τυχαίες επαναλήψεις γがんまιいおたαあるふぁ τたうηいーたνにゅー επίλυση στοχαστικών προβλημάτων, συνδυάζοντας κかっぱαあるふぁιいおた τις δύο έννοιες της στοχαστικής βελτιστοποίησης. [1] Οおみくろんιいおた στοχαστικές μέθοδοι βελτιστοποίησης γενικεύουν τις αιτιοκρατικές μεθόδους βελτιστοποίησης αιτιοκρατικών προβλημάτων.

Μέθοδοι γがんまιいおたαあるふぁ στοχαστικά προβλήματα

[Επεξεργασία | επεξεργασία κώδικα]

Μερικώς τυχαία δεδομένα εισόδου, κかっぱαあるふぁιいおた συνεπώς τυχαίες συναρτήσεις στόχου, προκύπτουν σしぐまεいぷしろん εφαρμογές όπως ηいーた εκτίμηση κかっぱαあるふぁιいおた οおみくろん έλεγχος σしぐまεいぷしろん πραγματικό χρόνο, ηいーた βελτιστοποίηση μみゅーεいぷしろん τたうηいーたνにゅー χρήση προσομοιώσεων Monte Carlo ως εκτιμήσεων ενός πραγματικού συστήματος, [2] [3] κかっぱαあるふぁιいおた προβλήματα όπου υπάρχει τυχαίο πειραματικό σφάλμα στις μετρήσεις τたうοおみくろんυうぷしろん κριτηρίου. Σしぐまεいぷしろん τέτοιες περιπτώσεις, ηいーた γνώση ότι οおみくろんιいおた τιμές της συνάρτησης μολύνονται από τυχαίο "θόρυβο" οδηγεί σしぐまεいぷしろん αλγόριθμους πぱいοおみくろんυうぷしろん χρησιμοποιούν εργαλεία στατιστικής συμπερασματολογίας γがんまιいおたαあるふぁ νにゅーαあるふぁ εκτιμήσουν τις "αληθείς" τιμές της συνάρτησης κかっぱαあるふぁιいおた νにゅーαあるふぁ λάβουν στατιστικά βέλτιστες αποφάσεις γがんまιいおたαあるふぁ τたうαあるふぁ επόμενα βήματα. Στις μεθόδους αυτής της κατηγορίας περιλαμβάνονται:

  • Ηいーた στοχαστική προσέγγιση (ΣしぐまΠぱい), τたうωおめがνにゅー Robbins κかっぱαあるふぁιいおた Monro (1951) [4]
  • Ηいーた στοχαστική κάθοδος κλίσης
  • Ηいーた ΣしぐまΠぱい πεπερασμένης διαφοράς τたうωおめがνにゅー Kiefer κかっぱαあるふぁιいおた Wolfowitz (1952) [5]
  • Ηいーた ΣしぐまΠぱい ταυτόχρονης διαταραχής τたうοおみくろんυうぷしろん Spall (1992) [6]
  • Ηいーた βελτιστοποίηση σεναρίων

Μέθοδοι τυχαιοποιημένης αναζήτησης

[Επεξεργασία | επεξεργασία κώδικα]

Από τたうηいーたνにゅー άλλη πλευρά, ακόμα κかっぱαあるふぁιいおた όταν τたうοおみくろん σύνολο δεδομένων αποτελείται από ακριβείς μετρήσεις, μερικές μέθοδοι εισάγουν τυχαία στοιχεία σしぐまτたうηいーた διαδικασία αναζήτησης γがんまιいおたαあるふぁ νにゅーαあるふぁ επιταχύνουν τたうηいーたνにゅー πρόοδό της. [7] Μみゅーιいおたαあるふぁ τέτοια τυχαιότητα μπορεί επίσης νにゅーαあるふぁ κάνει τたうηいーた μέθοδο λιγότερο ευαίσθητη σしぐまεいぷしろん σφάλματα μοντελοποίησης. Περαιτέρω, ηいーた εγχυόμενη τυχαιότητα μπορεί νにゅーαあるふぁ επιτρέψει σしぐまτたうηいーた μέθοδο νにゅーαあるふぁ ξεφεύγει από τοπικά βέλτιστα κかっぱαあるふぁιいおた τελικά νにゅーαあるふぁ προσεγγίσει τたうοおみくろん ολικό βέλτιστο. Πράγματι, ηいーた αρχή της τυχαιοποίησης είναι γνωστό ότι αποτελεί απλό κかっぱαあるふぁιいおた αποτελεσματικό τρόπο γがんまιいおたαあるふぁ τたうηいーたνにゅー απόκτηση αλγορίθμων μみゅーεいぷしろん σχεδόν εγγυημένες καλές επιδόσεις ομοιόμορφα σしぐまεいぷしろん πολλά σύνολα δεδομένων, γがんまιいおたαあるふぁ πολλά είδη προβλημάτων. Στοχαστικές μέθοδοι βελτιστοποίησης αυτού τたうοおみくろんυうぷしろん είδους περιλαμβάνουν:

  • Τたうηいーたνにゅー προσομοίωση ανόπτησης τたうωおめがνにゅー S. Kirkpatrick, CD Gelatt κかっぱαあるふぁιいおた MP Vecchi (1983) [8]
  • Τたうηいーたνにゅー κβαντική ανόπτηση
  • Τις Συλλογές Πιθανοτήτων τたうωおめがνにゅー DH Wolpert, SR Bieniawski κかっぱαあるふぁιいおた DG Rajnarayan (2011) [9]
  • Τたうηいーたνにゅー αντιδραστική βελτιστοποίηση αναζήτησης τたうωおめがνにゅー Roberto Battiti, G. Tecchiolli (1994), [10] πぱいοおみくろんυうぷしろん αναθεωρήθηκε πρόσφατα σしぐまτたうοおみくろん βιβλίο αναφοράς [11]
  • Τたうηいーたνにゅー μέθοδο διασταυρούμενης εντροπίας τたうωおめがνにゅー Rubinstein κかっぱαあるふぁιいおた Kroese (2004) [12]
  • Τたうηいーたνにゅー τυχαία αναζήτηση τたうοおみくろんυうぷしろん Anatoly Zhigljavsky (1991) [13]
  • Τたうηいーたνにゅー πληροφοριακή αναζήτηση [14]
  • Τたうηいーたνにゅー στοχαστική σήραγγα [15]
  • Τたうηいーたνにゅー παράλληλη σκλήρυνση γνώστη κかっぱαあるふぁιいおた ως ανταλλαγή αντιγράφων [16]
  • Τηνστοχαστική αναρρίχηση λόφου
  • Τους αλγόριθμους σμήνους
  • Τους εξελικτικούς αλγόριθμος, συμπεριλαμβανομένων:
  • Τたうοおみくろんνにゅー αλγόριθμο βελτιστοποίησης κかっぱαあるふぁιいおた τροποποίησης αντικειμένων καταρράκτη (2016) [18]

Αντίθετα, κάποιοι συγγραφείς έχουν υποστηρίξει ότι ηいーた τυχαιοποίηση μπορεί νにゅーαあるふぁ βελτιώσει έναν ντετερμινιστικό αλγόριθμο μόνο αあるふぁνにゅー οおみくろん ντετερμινιστικός αλγόριθμος ήταν εξαρχής κακά σχεδιασμένος. [19] Οおみくろん Fred W. Glover [20] υποστηρίζει ότι ηいーた εξάρτηση από τυχαία στοιχεία μπορεί νにゅーαあるふぁ εμποδίσει τたうηいーたνにゅー ανάπτυξη εφυέστερων κかっぱαあるふぁιいおた αποτελεσματικότερων αιτιοκρατικών μεθόδων. Οおみくろん τρόπος μみゅーεいぷしろん τたうοおみくろんνにゅー οποίο παρουσιάζονται συνήθως τたうαあるふぁ αποτελέσματα τたうωおめがνにゅー αλγορίθμων στοχαστικής βελτιστοποίησης (πぱい.χかい. παρουσιάζοντας μόνο τたうοおみくろんνにゅー μέσο όρο ή ακόμα κかっぱαあるふぁιいおた τたうηいーたνにゅー βέλτιστη N δοκιμών χωρίς καμία αναφορά σしぐまτたうηいーたνにゅー εξάπλωση), μπορεί επίσης νにゅーαあるふぁ οδηγήσει σしぐまεいぷしろん μみゅーιいおたαあるふぁ μεροληψία υπέρ της τυχαιότητας.

  • Ολική βελτιστοποίηση
  • Μηχανική μάθηση
  • Βελτιστοποίηση σεναρίων
  • Γκαουσιανή διαδικασία
  • Μοντέλο Χώρου Κατάστασης
  • Μοντέλο προγνωστικού ελέγχου
  • Μみゅーηいーた γραμμικός προγραμματισμός
  • Εντροπική αξία υπό κίνδυνο

Βιβλιογραφικές αναφορές

[Επεξεργασία | επεξεργασία κώδικα]
  1. Spall, J. C. (2003). Introduction to Stochastic Search and Optimization. Wiley. ISBN 978-0-471-33052-3. 
  2. Fu, M. C. (2002). «Optimization for Simulation: Theory vs. Practice». INFORMS Journal on Computing 14 (3): 192–227. doi:10.1287/ijoc.14.3.192.113. 
  3. M.C. Campi and S. Garatti. The Exact Feasibility of Randomized Solutions of Uncertain Convex Programs. SIAM J. on Optimization, 19, no.3: 1211–1230, 2008.
  4. Robbins, H.; Monro, S. (1951). «A Stochastic Approximation Method». Annals of Mathematical Statistics 22 (3): 400–407. doi:10.1214/aoms/1177729586. https://archive.org/details/sim_annals-of-mathematical-statistics_1951-09_22_3/page/400. 
  5. J. Kiefer; J. Wolfowitz (1952). «Stochastic Estimation of the Maximum of a Regression Function». Annals of Mathematical Statistics 23 (3): 462–466. doi:10.1214/aoms/1177729392. https://archive.org/details/sim_annals-of-mathematical-statistics_1952-09_23_3/page/462. 
  6. Spall, J. C. (1992). «Multivariate Stochastic Approximation Using a Simultaneous Perturbation Gradient Approximation». IEEE Transactions on Automatic Control 37 (3): 332–341. doi:10.1109/9.119632. http://www.jhuapl.edu/SPSA. 
  7. Holger H. Hoos and Thomas Stützle, Stochastic Local Search: Foundations and Applications, Morgan Kaufmann / Elsevier, 2004.
  8. S. Kirkpatrick; C. D. Gelatt; M. P. Vecchi (1983). «Optimization by Simulated Annealing». Science 220 (4598): 671–680. doi:10.1126/science.220.4598.671. PMID 17813860. Bibcode1983Sci...220..671K. http://citeseer.ist.psu.edu/kirkpatrick83optimization.html. 
  9. D.H. Wolpert; S.R. Bieniawski; D.G. Rajnarayan (2011). Probability Collectives in Optimization. http://www.santafe.edu/research/working-papers/abstract/f752fdb9c2b41e4e04947d7531421d61/. 
  10. Battiti, Roberto; Gianpietro Tecchiolli (1994). «The reactive tabu search». ORSA Journal on Computing 6 (2): 126–140. doi:10.1287/ijoc.6.2.126. http://rtm.science.unitn.it/~battiti/archive/TheReactiveTabuSearch.PDF. 
  11. Battiti, Roberto· Mauro Brunato (2008). Reactive Search and Intelligent Optimization. Springer Verlag. ISBN 978-0-387-09623-0. 
  12. Rubinstein, R. Y.· Kroese, D. P. (2004). The Cross-Entropy Method. Springer-Verlag. ISBN 978-0-387-21240-1. 
  13. Zhigljavsky, A. A. (1991). Theory of Global Random Search. Kluwer Academic. ISBN 978-0-7923-1122-5. 
  14. Kagan E. and Ben-Gal I. (2014). A Group-Testing Algorithm with Online Informational Learning. IIE Transactions, 46:2, 164-184. Αρχειοθετήθηκε από τたうοおみくろん πρωτότυπο στις 2016-11-05. https://web.archive.org/web/20161105103321/http://www.eng.tau.ac.il/~bengal/GTA.pdf. Ανακτήθηκε στις 2020-01-26. 
  15. W. Wenzel; K. Hamacher (1999). «Stochastic tunneling approach for global optimization of complex potential energy landscapes». Phys. Rev. Lett. 82 (15): 3003. doi:10.1103/PhysRevLett.82.3003. Bibcode1999PhRvL..82.3003W. 
  16. E. Marinari; G. Parisi (1992). «Simulated tempering: A new monte carlo scheme». Europhys. Lett. 19 (6): 451–458. doi:10.1209/0295-5075/19/6/002. Bibcode1992EL.....19..451M. 
  17. Goldberg, D. E. (1989). Genetic Algorithms in Search, Optimization, and Machine Learning. Addison-Wesley. ISBN 978-0-201-15767-3. Αρχειοθετήθηκε από τたうοおみくろん πρωτότυπο στις 19 Ιουλίου 2006. Ανακτήθηκε στις 28 Ιανουαρίου 2020. 
  18. Tavridovich, S. A. (2017). «COOMA: an object-oriented stochastic optimization algorithm». International Journal of Advanced Studies 7 (2): 26–47. doi:10.12731/2227-930x-2017-2-26-47. http://journal-s.org/index.php/ijas/article/view/10121/pdf. 
  19. http://lesswrong.com/lw/vp/worse_than_random/
  20. Glover, F. (2007). «Tabu search—uncharted domains». Annals of Operations Research 149: 89–98. doi:10.1007/s10479-006-0113-9. 

Περαιτέρω ανάγνωση

[Επεξεργασία | επεξεργασία κώδικα]

Εξωτερικοί σύνδεσμοι

[Επεξεργασία | επεξεργασία κώδικα]