Tez No İndirme Tez Künye Durumu
601924
Novel swarm intelligence algorithms for structure learning of bayesian networks and a comparative evalnation / Bayes ağ yapılarının öğrenilmesi için yeni sürü zekası algoritmaları ve karşılaştırılmalı bir değerlendirme
Yazar:SHAHAB WAHHAB KAREEM
Danışman: PROF. DR. MEHMET CUDİ OKUR
Yer Bilgisi: Yaşar Üniversitesi / Fen Bilimleri Enstitüsü / Bilgisayar Mühendisliği Ana Bilim Dalı
Konu:Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol = Computer Engineering and Computer Science and Control
Dizin:Bayes ağlar = Bayes networks ; Öğrenme = Learning
Onaylandı
Doktora
İngilizce
2020
149 s.
Bayesian networks are useful analytical models for designing the structure of knowledge in machine learning which can represent probabilistic dependency relationships among the variables. A Bayesian network depends on; 1.the parameters of the network and 2.the structure. Parameters represent conditional probabilities while the structure represents dependencies between the random variables. The structure of a Bayesian network is a directed acyclic graph (DAG). Learning the structure of a Bayesian network is NP-hard but still extensive work have been done to optimize approximate solutions. In this thesis, we have conducted research for structure learning to develop algorithms to find a solution to the problem. There are two approaches for learning the structure of Bayesian networks. The first is a constraint-based approach, and the second is a score and a search approach. One common type of method for Bayesian network structure learning is the score-based search. Score-based methods rely on a function to test how well the network model matches the data, and they search for a structure that produces high scores on this function. There are two types of scoring functions: Bayesian score and information-theoretic score. The Bayesian and information-theoretic scores have been implemented in several structure learning methods. In this thesis, we focused on the score based search for testing the structure learning of Bayesian network using heuristic methods for searching and BDeu as a score function. In this thesis we proposed five algorithms for the search part and used BDeu as a score function. We also proposed a sixth method which is also a nature inspired one. The first proposed algorithm used Pigeon Inspired Optimization as a search method and the above mentioned score function. The proposed method has shown a good result when compared with default methods like Simulated Annealing iii and greedy search. This algorithm is a novel approach applied for structure learning of Bayesian network. The second proposed algorithm used Bee optimization and Simulated Annealing as a hybrid algorithm, which used Bee optimization as a local search and Simulated Annealing as a global search. The third proposed algorithm also used bee optimization and Simulated Annealing as a hybrid but used Bee optimization as a global search and Simulated Annealing as a local search. The fourth proposed algorithm used Bee optimization and Greedy search as a hybrid algorithm. It used Bee optimization as local search and Greedy as global search. The fifth algorithms also used bee optimization and Greedy as a hybrid algorithm, but it used Bee optimization as a global search and Greedy as a local search Our last proposed algorithm used Elephant Swarm Water Search Algorithm (ESWSA). The thesis presents the results of extensive evaluations of these algorithms based on common benchmark data sets. Applications of ESWSA in Structure learning of Bayesian Network and comparisons with the Simulated Annealing and Greedy Search, show that this proposed method is better than the default Simulated Annealing and Greedy search methods. Keywords: Bayesian network, structure learning, Pigeon Inspired Optimization, Bee Optimization, greedy, Simulated Annealing, elephant swarm search, water search, global search, local search, search and score.
Bayes ağları, makina öğrenmesinde değişkenler arasındaki rassal ilişkileri temsil eden bilgi yapısının tasarımında kullanılan yararlı analitik modellerdir. Genel olarak Bayes ağı Ağın Parametreleri ve Ağın yapısına bağlıdır.Parametreler şartlı olasılıkları,yapı ise şans değişkenleri arasındaki bağımlılıkları temsil eder. Bir Bayes ağının yapısı yönlü çevrimsel olmayan bir çizgedir.Bayes ağının yapısını öğrenmek bir NP-zor problem olmasına ragmen,yaklaşık çözümlerin eniyilenmesi için çok sayıda geniş kapsamlı çalışmalar yapılmıştır.Bu tezde yapı öğrenme problemine çözüm bulmayı amaçlayan algoritmalar geliştirmek için araştırmalar yürütülmüştür.Bayes ağların yapısın öğrenmek için iki yaklaşım vardır.Birinci yaklaşım kısıtlamalı diğeri ise skor ve arama temellidir.Skor temelli yaklaşımlar genel yaklaşımlardır.Bu yaklaşımlar ağ modelinin verilere nasıl uyum gösterdiğni ölçen bir fonksiyonu esas alırlar ve bu fonıksiyonun değerini daha iyileştirecek yapıyı üretmeye çalışırlar.İki tür skor fonksiyonu vardır :Bayesçi skor ve bilgi teorisi skoru. Her iki skor da yapı öğrenme yöntemlerinde uygulanmıştır.Bu tezde Bayes ağın yapısını öğrenmede skor temelli arama için sezgisel yötemler kullanılmış ve skor fonksiyonu olarak BDeu metriği kullanılmıştır.Bu amaçla,BDeu yu kullanan altı algoritma önerimiştir.Önerilen ilk algoritma güvercinlerin yön bulmasından esinlenen eniyileme algoritmasıdır ve BDeu skorunu kullanmaktadır.Önerilen yöntemin yaygın kullanılan yöntemlerden daha iyi sonuçlar verdiği görülmüştür.Bu algoritma bu alanda ilk defa kullanılmaktadır.İkinci önerilen algoritma arı eniyilemesi algoritmasına ve benzetilmiş tavlama algoritmasına dayanmakta ve ilkini global ikincisini de yerel arama için kullanmaktadır.Üçüncü önerilen yöntem gene önceki ikisini esas almakta fakat bu defa arı eniyilemesi global, vi benzetilmiş tavlama algoritması yerel arama için kullanılmıştır. Dördüncü önerilen yöntemde melez bir yöntem olup arı eniyilemesi ve açgözlü amayı esas almakta ve arı eniyilemesini yerel ve açgözlüyü de global arama için kullnmaktadır.Beşinci yöntem de melezdir ve arı eniyilemesini global,açgözlü yöntemi yerel arama için kullanmaktadır.Son önerimiz Fil sürülerinin su kaynağı arama algoritmasına dayanmaktadır.Tezde genel kıyaslama veri setleri kullanılarak BDeu metriği ve karışıklık matrislerine dayanan değerlendirmeler tartışılmış, sonuçta güvercin yön bulma ve fil sürüleri su arama yöntemlerine dayanan algoritmaların diğerlerindan daha başarılı olduğu gösterimiştir. Anahtar sözcükler: Bayes ağı,yapı öğrenme,Güvercinden Esinlenen Algoritma,Arı Eniyilemesi,açgözlü,Benzetilmiş Tavlama,,Fil sürü araması,su araması,global arama,yerel arama, arama ve skor.