Tez No İndirme Tez Künye Durumu
129448 Bu tezin, veri tabanı üzerinden yayınlanma izni bulunmamaktadır. Yayınlanma izni olmayan tezlerin basılı kopyalarına Üniversite kütüphaneniz aracılığıyla (TÜBESS üzerinden) erişebilirsiniz.
Combining multiple machine learning algorithms to learn rules and exceptions / Kurallar ve istisnaların öğrenilmesi için birden çok sınıflandırıcının birleştirilmesi
Yazar:CENK KAYNAK
Danışman: DOÇ. DR. ETHEM ALPAYDIN
Yer Bilgisi: Boğaziçi Üniversitesi / Fen Bilimleri Enstitüsü / Bilgisayar Mühendisliği Ana Bilim Dalı
Konu:Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol = Computer Engineering and Computer Science and Control
Dizin:Algoritmalar = Algorithms ; Rex yöntemi = Rex method ; Sınıflandırıcı sistemler = Classfier systems
Onaylandı
Doktora
İngilizce
2002
178 s.
ÖZET KURALLAR VE İSTİSNALARIN ÖĞRENİLMESİ İÇİN BİRDEN ÇOK SINIFLANDIRICININ BİRLEŞTİRİLMESİ Bu tez Kıtral-ve-îstisnalar (İngilizce kısaltması REx) isimli bir grup çoğul öğrenme algoritmasının geliştirilmesini içerir. Farklı algoritmalar içerikleri ve öğrenme farklılıkları nedeni ile aynı problem için farklı sınıflandırıcılar oluşturmaktadır. Böylece birden çok sınırlandırıcıyı bir araya getirermek başarıyı arttıracaktır. REx metodlan da birden çok sınırlandırıcıyı kullanmaktadır ve öğrenilecek olan kavramın bir kaç kural ve bunlara uymayan istisnalar ile ifade edilebileceğini öngörmektedir. REx metodları üçe ayrılır; Ardışık, İşbirlikçi ve Karışım çoğul-sınıflandırıcı. Ardışık REx çok-seviyeli bir sınırlandırıcı algoritmasıdır. Bu metod, verilen eğitim kümesi üzerinde bir kural oluşturduktan sonra gerekirse diğer kuralları birbirini takip edecek şekilde oluşturur. Bu kurallarla belli bir güven çerçevesinde öğrenilemeyen örnekler istisna olarak ayrılırlar, işbirlikçi ve Karışım REx metodlan ise tek-seviyelidir. Ardışık REx metoddan farklı olarak tek bir kural ve onun istisnalarından oluşurlar. İşbirlikçi REx metodunda kural tüm uzayda geçerliyken, Karışım REx metodu istisnalara uyguladığı gibi kurala da bir geçerlilik alam koyar. Bu üç metod kabul görmüş çoğul-sınıflandırıcılar ve kendisini oluşturan sınıflandırıcılar ile kıyaslanmıştır. Ayrıca bu metodlar UCI'a ait on veri kümesinde test edilmiş ve sonuçlar bahsi geçen diğer metodlarla kıyaslanmıştır. Yapılan testlerin sonuçlan göstermiştir ki REx metodlan oldukça başarılı sınıflandırma sonuçlan elde etmiş ve bu sonuçlara ulaşırken Adaboost ve Bagging gibi popüler çoğul-sınıflandırıcı metodlarından daha az maliyetle ulaşmıştır.
IV ABSTRACT COMBINING MULTIPLE MACHINE LEARNING ALGORITHMS TO LEARN RULES AND EXCEPTIONS This thesis is concerned with development of a group of learning methods, namely REx (Rule-and-Exceptions), which are ensemble methods (composed of multiple learners). Depending on its inductive bias, each algorithm converges to a different classifier and makes errors accordingly. So, they complement each other and an ensemble scheme can outperform its base classifiers. Therefore, combining statistically less correlated base classifiers helps even more. REx algorithms also use this combination principle. These methods use a priori assumption that a concept to be learned can be defined in terms of a few simple rules and exceptions. There are three types of REx; Cascading, Collaborative and Mixture REx. Cascading REx is a multistage ensemble, focusing not only on accuracy but also cost. It tries to fit a few rules to the training set in a cascaded order. After learning a few rules at different stages, samples failing at all confidence tests are extracted as exceptions. Collaborative and Mixture REx methods are single-stage ensembles. These methods consist of single rule and its exceptions. In Collaborative REx, the rule is valid for the whole input space, whereas, Mixture REx defines an expertise area not only for exceptions but also for the rule. The REx algorithms are analyzed and compared with well-known ensembles, Adaboost and Bagging, and base classifiers. Empirical studies on ten UCI data sets show that REx algorithms get highly accurate results at low costs.