|
Endüstriyel devrimlerin ortaya çıkmasıyla birlikte, insanlık geliştirilen yeni teknolojilerden fayda sağlamaktadır. Üçüncü endüstri devriminde, elektronik, telekomünikasyon ve bilgisayar sistemlerindeki artış çok büyük bir yere sahiptir. Aynı zamanda, bilgisayar bilimleri alanında çeşitli öğrenme algoritmalarının geliştirilmesi yine üçüncü endüstri devrimindeki ortaya çıkan ilerlemelere paralel olarak başlayıp devam etmiştir. Bu ilerlemeler endüstrilerde yüksek düzeyli otomasyon sistemine geçişi sağlamıştır. Üçüncü endüstri devrimi sonrası algoritma düzeyindeki ilerlemelerde, yapay sinir ağlarının temelini oluşturan perseptron algoritması geri yayılımlı eğitim algoritması sayseinde geliştirilerek aynı katmanda çok perseptronlu yapay sinir ağlarına dönüştürülmüştür. Yapay sinir ağları genel bir fonksiyon yakınsaması alogritması olarak örüntü tanıma, fonksiyon uydurma ve yakınsama, zaman serisi modelleme ve kümeleme analizleri alanlarında etkinliğini kanıtlamıştır. Ancak derin yapay sinir ağlarının eğitimi için gerekli büyük veri, hesaplama güçlüğü, hesaplamalar ve eğitim için gerekli güçlü donanım eksikliği yapay sinir ağlarındaki derinlik meselesini problem olarak bırakmıştır. Destek vektör makineleri de ayrıca sınıflandırma amaçlı önerilen algoritmalardan olup, daha sonra regresyon amaçlı versiyonu da literatüre kazandırılmıştır. Sayılan iki önemli algoritma dışında çeşitli makine öğrenmesi algoritmaları yine bu dönemde geliştirilmiştir. Bu geliştirmelerin çoğu algoritma geliştirmedeki ana amaç öğrenme olduğu için gözetimli ve gözetimsiz öğrenme alanlarına aittir. Bunun yanında üçüncü bir öğrenme tipi olan sıralı verilerin olduğu durumlarda karar verme yöntemi olan pekiştirmeli öğrenme tipi de, ne tam olarak gözetimli ne de tam olarak gözetimsiz öğrenme sınıfına düşen, deneme yanılma metodolojisine dayalı olarak kullanılan bir yapay zeka metodları sınıfıdır. Pekiştirmeli öğrenme metodolojisinde, ajan ismi verilen bir karar verme ünitesi, deneme yanılma yoluyla etkileşimde bulunduğu belirsiz çevrenin dinamiklerine göre toplam kümülatif ödül değerini maksimize etmeyi amaçlamaktadır. Bellman operatörü ve Bellman optimallik operatörü dinamik programlama perspektifinden Markov Karar Süreçlerini kullanarak pekiştirmeli öğrenme problemleri için çözüm yolları üretmeye çalışmıştır. Bunların yanında, Q-öğrenmesi, SARSA, Monte Carlo metodları pekiştirmeli öğrenme perspektifinden pekiştirmeli öğrenme problemleri için çözüm yolları üretmeye çalışmıştır. Pekiştirmeli öğrenme tipinde büyük uzay-durum kümeleri klasik pekiştirmeli öğrenme algoritmalarının bu problem tiplerinin çözümünde etkinliğini kısıtlamaktadır. Anlatılan gelişmeler ve mevcut çözümler yapay zekanın ilk ve en büyük atılımından önceki en önemli etkenlerdi. Ünlü bir bilgisayar bilimcisi olan Alex Krizhevsky tarafından önerilen AlexNet modeli 2012 yılında ImageNet Büyük Ölçekli Görsel Tanımlama Yarışması'nda tüm zamanların en iyi performansını gerçekleştirmiştir. Çalışmasının temeli, yapay sinir ağlarının yüksek performansını sağlayan en önemli etken olan yapay sinir ağlarındaki derinliğin artırılmasına dayanmaktadır. Bundan dolayı Alex Krizhevsky evrişimli katmanlar ve full bağımlı katmanları içeren bir model olan AlexNet'i önermişlerdir. AlexNet'in büyük başarısı önerilen yapay sinir ağı modelinin grafik işlemcileri üzerinde eğitilmesiyle sağlanmıştır. Grafik işlemcilerinin kullanılması derin yapay sinir ağlarının eğitilmesindeki hesaplama gücü zorluğunu kolaylşatırmış ve onların bu şekilde eğitimini mümkün hale getirmiştir. Üretilen bu derin yapay sinir ağları klasik pekiştirmeli öğrenme algoritmalarıyla çözülemeyen problemler için de çözüm olarak ortaya çıkmıştır. Bu derinlik devriminden sonra araştırmacılar yapay sinir ağlarının derinliği konusunda arşatırmaları artırarak, bu şekilde yapay sinir ağlarının performansını diğer klasik makine öğrenmesi algoritmalarına oranla daha da artırmışlardır. Derin yapay sinir ağları veri açısından büyük çaplı veriye ihtiyaç duyduğundan son zamanlardaki trend olan büyük veri artışı durumundan çok fazla fayda sağlamıştır. Derin yapay sinir ağları eğitiminde yoğun paralel işleme üniteleri, grafik işleme üniteleri kullanımları çok çeşitli uygulama alanalarında bu ağların kullanımını yaygınlaştırmıştır. Derin yapay sinir ağlarının hızlı bir şekilde yükselişe geçmesi büyük veri rejiminin hzılı yükselişi, buna paralel olarak algoritmik gelişmelerin de devam etmesi ve yeni donanımsal çözümlerin geliştirilmesi sonucunda oluşmuştur. Bunun sonucunda ise son endüstri devrimi olan Endüstri 4.0 bu öğrenme sistemlerinin gelişmesi ile katkı sağlanmıştır. Bu devrimde yüksek seviyeli otomasyondan daha da ileri nokta olan siber fiziksel sistemlere geçiş bu yeni gelişmeler temelli teknolojilerle sağlanmıştır. Yapay zeka bu devrimde çok büyük bir yere sahiptir ve de bu öenmli konuma sahip olma etkinliği yazılımsal açısından derin yapay sinir ağlarına bağımlıdır. Derin öğrenme, derin pekiştirmeli öğrenme robotik, doğal dil işleme, ses işleme, bilgisayarla görü, finans, sağlık, nesne takibi ve konumlandırma, otonom araç gibi alanlarda başta olmak üzere çeşitli alanlarda uygulama sahalarına sahiptir.
Büyük veri rejimi ve Endüstri 4.0 çağında veri işletmeler açıısndan çok değerli bir varlık olmaktadır. Hız, çeşitlilik, değer, hacim ve doğruluk büyük verinin 5 özelliğindendir. Gerçek zamanlı veri akışı, bulut sistemleri, nesnelerin intenreti, dijitaleşme gibi konseptler büyük veri yükselişine ivme katmaktadır. Yeni algoritma ve teknoloji geliştirmeleri, büyük datanın sayılan özelliklerindeki nitelik artışını çok hızlı bir şekilde ivemlendirmiş ve bunun sonuncunda büyük veriden iş değeri üretmek şirketler açısından önemli bir yönetim aracı haline gelmiştir. Daha önce de belirtildiği gibi yapay zeka uygulamaları için çeşitli uygulama alanları mevcuttur. Bu uygulama alanlarında derin yapay sinir ağları ve derin pekiştirmeli öğrenme konuları veriden değer üretme konusunda önem kazanmaya devam etmektedir.
Enerji sektörü elindeki mevcut veriler sayesinde bunların iş değerine döünüştürülebileceği ve bu şekilde büyük veriden fayda sağlanabilecek alanlardan birisidir. Akıllı şebekeler, dağıtık sistemler, Enerji 5.0, enerjide nesnelerin interneti gibi konseptler elektrik sağlayıcıları açısından daha akıllı teknolojilerin kullanılmasını gerektirmektedir çünkü akıllı teknolojilerin kullanılması organizasyonlara çeşitli seviyelerde katkılar sağlamaktadır. Bu katkılar operasyonel, taktiksel ve stratejik katkıları içermektedir. Enerji tedarik sisteminin emniyeti ve stabilizasyonu, bakım maliyetlerinde azalma, tedarik sistemi operatörü çizelgeleme etkinliğinin artışı, tahmin hataları kaynaklı maliyetlerde azalma, pazar payı artışı, pazarda rakiplere karşı rekabetçiliğin artışı vb. Katkılar bahsi geçen katkı türlerinin bir kısmıdır.
Elektrik üretici firmaları için elektrik talep tahmini operasyonları içinde hayati bir yere sahiptir. Talep tahmininde kullanılan metodların yanında, tahmin ufku da önemli bir yere sahiptir. Tahmin ufkuna göre metod seçimi yapılması ve girdi değişkenleri ayarlanması yapılması tahmin ufkunun önemini vurgulamaktadır. Elektrik talep tahmini konusunda tahmin ufku dört ana grupta incelenmektedir. Çok kısa dönemli, kısa dönemli, orta dönemli ve uzun dönemli talep tahmini ufukları bu dört grubu oluşturmaktadır. Bu çalışmaya konu olan problem gerçek bir kısa dönemli talep tahminidir. Kısa dönemli talep tahminin ufku bir saatten birkaç gün öteye kadar olabilmektedir. Enerji piyasası düzenlemeleri Türkiye'de piyasa yasal düzenlemelerinin başladığı 2001 yılından itibaren süregelmektedir. Devlet kontrolündeki piyasadan serbest piyasaya geçişteki yasal düzenlemeler ve uygulamalardan sonra Enerji Piyasaları İşletmeleri Anonim Şirketi (EPİAŞ) 2015 yılında kuruldu. Bu piyasada gün öncesi, gün içi ve dengeleme piyasaları mekanizmaları Türkiye'deki elektrik sistemi yönetimi açısından önemli rol oynamaktadır. Bu mekanizmalar birbirlerini tamamlayıcı roller de oynamaktadırlar.
Bu piyasada paydaşlar eksik ya da fazla elektrik üretiminden kaynaklanan farkların paydaşlar arasında al-sat mekanizmasıyla tazmin edildiği dengeleme piyasasında fazla maliyetlerden kaçınmak istemektedirler. Bunun nedeni gereğinden düşük ya da fazla olan miktarlar dolayısıyla %3 oranında ceza maliyeti ödemektir. Bu ceza maliyetinden kaçınma etkin bir tahminleme ile mümkün olabilmektedir. Bu nedenlerden dolayı tahminleme işi bu alandaki yöneticiler için önemli bir araç olmaktadır. EPİAŞ'ın yönettiği piyasadan önceki dönemde tahminlemeler haftalık ya da birkaç hafta ötesinden gerçekleştirilmekteydi. Bundan dolayı da hata marjları yüksek ve esnekti. Bu esneklik elektrik tedarikçilerine gereğinden fazla ya da düşük olarak ürettikleri miktarı dengelemek için yeni düzenlenen piyasa şartları düşünüldüğünde kolaylıklar sağlıyordu. Hata marjlarındaki esneklikler tedarikçilere uzun vadede düşük maliyetlerle piyasadaki teminatlarını gerçekleştirmeye imkan veriyordu. Yasal düzenlemeler sonucu oluşan piyasada gün öncesi ve gün içi piyasaları bu piyasanın vazgeçilmez parçaları olmuştur. Piyasadaki rekabetçiliğin sürdürülmesi, pazar payı artışı, operasyonel giderlerin azaltılması, tahmin hataları sebebiyle ortaya çıkan ceza maliyetlerinin düşürülmesi, bir saat sonrası ve bir gün sonrası tahminlemelerin bu piyasada merkezi konuma gelmesini sağlamıştır. Bunun sonucunda bu tahminleme operasyonları tedarikçiler açısından odaklanılan bir alan olmuş ve bu operasyonlarla veriden iş değeri elde etme işlemlerine de imkan sağlamıştır. Bu değerlendirmeler ışığında teze konu olan çalışma tedarikçiler için önem arz eden kısa dönemli elektrik talep tahmini konusunda gerçek bir tahminleme problemi için derin öğrenme tekniklerinin uygulanmasını içermektedir.
Bu çalışmada İstanbul'da bir bölgede 2015-2017 yıllarına ait üç yıllık elektrik tüketim verisi kullanılmıştır. Elde edilen zaman serisi verisi içerik olarak ilgili saatlere ait tüketim ve sıcaklık değerleri ile birlikte gün ve saat değerlerini içermektedir. Bu özellikler ayrıca ilgili tedarikçi firma tarafından da tahminleme işlemleri için kullanılmaktadır. Uygulamaların ilk aşamasında hem derin öğrenme hem de makine öğrenmesi yöntemlerinin zaman serileri problemlerine uyarlanması dikkate alınarak yönerge halinde veri inceleme çalışmaları gerçekleştirilmiştir. Bu incelemeler her bir metod için veri normalizasyonu, kategorik veri eklenmesi, otokorelasyon belirlenmesi çalışmalarıdır. Bu aşama uygulanan yöntemler için girdi seti oluşturmayı takip etmiştir. Zaman serisi verisi otokorelasyon incelemesi sonucu belirlenen geri bakma süresine göre veriler otokorelatif şekilde geriye doğru ötelenerek veri seti gözetimli öğenme veri setine çevrilmiştir. Bunun yanında tezin odak noktasında yapay sinir ağları olduğundan dolayı hızlı yakınsama ve sayısal stabilizasyon sağlamak adına sıfır ortlamalı normalizasyon yöntemi kullanılmıştır. İlk aşama veri incelemeleri sonrasında ilgili yöntemlerin geniş kapsamlı karşılaştırılmaları gerçekleştirilmiştir. İlk karşılaştırma çalışmasında zaman serileri için popüler makine öğrenmesi metodları ve iki derin yapay sinir ağı modeli karşılaştırılmıştır. Bu karşılaştırmada derin öğrenme metodlarının klasik makine öğrenmesi metodlarına uygulmaya konu olan verinin kısa dönemli talep tahmininde üstünlük sağlayıp sağlayamadığı belirlenmeye çalışılmıştır. Bu karşılaştırmaların sonucunda istatistiksel testlerin de gerçeklemiş olduğu sonuçlara göre derin yapay sinir ağları uygulanan klasik makine öğrenme metodlarından daha iyi sonuçlar üretmiştir. İkinci karşılaştırmada ise sadece derin yapay sinir ağları modelleri karşılaştırılmış olup tezin odak noktası bu karşılaştırmalardan oluşmaktadır. Çünkü tezin amacı gerçek bir problem için yeni bir derin yapay sinir ağı metodu önermeyi amaçlamaktadır. Bu amaçlar dolayısıyla bu tez çalışmasında bir boyutlu evrişimli sinir ağlarına dayalı bir metod ilgili problem ele alınarak önerilmiş ve de bu metodun performansı diğer derin yapay sinir ağları metodlarının performansları ile karşılaştırılmıştır. İkinci karşılaştırmalar sonucunda elde edilen sonuçlara göre bir saat sonrası ve bir gün sonrası talep tahmini işlemlerinde önerilen metod etkinliğini kanıtlamış olup bu durum istatistiksel önem testleriyle de desteklenmiştir.
Tezin kısa özeti olarak, bu çalışmadan çıkarılacak farklı düzeyde çıkarımlar bulunmaktadır. Organizasyonel düzeyde bu çıkarımlara bakılırsa, derin yapay sinir ağları ve derin pekiştirmeli öğrenme gibi akıllı metodların özellikle enerji sektöründe kullanılması organizasyonlara taktiki operasyonel ve stratejik seviyelerde farklı katkılar sağlayacaktır. İkinci olarak ise enerji sektörü anlık verilerin toplandığı sektörlerden birisidir. Büyük veri rejimi, yazılımsal ve donanımsal çözümlerin gelişmesi, yeni derin yapay sinir ağları modelleri geliştirilmesi konuları göz önünde bulundurulduğunda kısa, orta ve uzun vadeli başarıların kazanılması için ismi geçen akıllı yöntemlerin kullanılmasıyla veriden iş değeri üretilmesi konusu önemli bir yer tutmaktadır. Kavramsal düzeyde ise elde edilen sonuçlar neticesinde kısa dönemli talep tahminleri için derin yapay sinir ağları yüksek performans üreten tahminleme araçları olmaktadır. Bu tip yapay zeka metodlarının uygulanması onların piyasada ön plana çıkmasını sağlamıştır. Metod düzeyinde ise takvimsel etkilerin kısa dönemli zaman serisi modellenmesinde çok önemli bir yere sahip olduğu görülmüştür. Ayrıca nadir zamanlarda kaynaklanan durumlar ve çift takvim etkileri de kısa dönemli zaman serisi problemlerinin modellenmesinde önemli bir yer tutmakta olduğu görülmüştür. Evrişimli yapay sinir ağlarının etkin özellik çıkarma özelliği ve verideki uzun dönemli ilişkileri otomatik yakalama kabiliyetleri, evirşimli yapay sinir ağlarının ses tanıma, doğal dil işleme işlemlerinin yanı sıra zaman serisi problemleri için de bu ağların LSTM ve GRU karşısında rakip olarak ortaya çıkabileceğini göstermektedir. Dışsal veri ekleme kabiliyetine sahip olan önerilen metod bu sayede diğer derin öğrenme metodlarına göre daha iyi sonuç üretmiştir. Bunun nedeni ise evrişimli sinir ağlarına uygulanan veri girdisi ayarlarının veri içindeki farklı düzeydeki örüntüleri etkin şekilde tanıması olarak gösterilebilir. Bundan dolayı bu ayarlar daha sonraki derin yapay sinir ağları metodları geliştirilmeleri için kullanılabilir.
|
|
With the introduction of industrial revolutions, humanity has benefited from new technologies. In the third revolution, rise of electronics, telecommunications and computer systems occupied a large space. In the meantime, several learning algorithm developments began in computer science part in accordance with the rises in the third revolution. These rises and developments enabled high-level automation in the industries. In the years after the third industrial revolution, learning alogorithm developments have gone underway by researchers. Perceptrons were extended to neural networks by backpropagation introduction. As a universal function approximator, neural networks proved their efficacy in pattern recognition, function approximation, time series modelling, clustering tasks. However, depth of the networks left as a problem due to computational burdensome, lack of big data availability for training the networks, lack of enooguh powerful hardware. Support Vector Machines were also introduced for the context of classification, and extented to the context of regression later on. Several machine learning algorithms were developed in this era. These developments belonged to mainly supervised or unsupervised learning types since learning is the central theme in algorithm development efforts. On the other hand, another type of learning, that is reinforcement learning, was being deployed for sequential decision making problems by trial and error manner which is neither a fully supervised learning type nor a fully unsupervised learning type. In this type of learning, a decision making unit, especially called an agent, tries to maximize the total cumulative reward with the aim of achieving a goal in an uncertain environment by trial and error manner. Bellman operator, and Bellman optimality operator tried to yield solution ways for the problems by utilizing Markov Decision Processes in dynamic programming part. On the other hand, Q-learning, SARSA, Monte Carlo methods tried to yield solution ways for the problems in reinforcement learning part. In this type of the learning problems, very large state-spaces hinder traditional reinforcement learning algorithms to solve these learning problems. These developments and available solutions were the base for booming artificial intelligence till the first and the major breakthrough in deep neural network training came out. AlexNet introduced by a famous computer scientist Alex Krizhevsky achieved the best performance ever in the ImageNet Large Scale Visual Recognition Challenge. His work was based on training the network with many depth since it is an integral part for achieveing high performance. Hence, he created a network that incorporates convolutional layers and fully connected layers. The breakthrough came up with the introducing utilization of Graphical Processing Unit (GPU) in the training stage. The utilization of GPU in the training overcame the problem of computational burdensome of deep neural networks, and made training of them feasible. These deep networks enabled to solve the problems of traditional reinforcement learning algorithms by deep reinforcement learning. After this depth breakthrough, the depth of the networks was exploited by the researchers, thereby boosting the performance of the networks with a great extent when compared to their counterpart machine learning algorithms. Since deep neural networks are data hunger for the training, they have benefited from the big data surge in recent times as well. Massively Parallel Processing (MPP), Graphical Processing Units utilizations for the training of deep neural networks enhanced the spread of the deployment of deep neural networks in diverse set of applications. Continuing algorithmic developments along with the big data regime, new hardware solutions supercharged the spread of the deep networks deployments. These developments in learning systems in turn contributed to the last industrial revolution that is Industry 4.0. In this revolution, transition from high-level automation extended to high-level cyber-physical systems in the industries along with technological advents. Artificial Intelligence (AI) plays important roles in this revolution, and its success is mainly based on deep neural networks in software part. Deep learning , deep reinforcement learning have been deployed for diverse set of application areas mainly including robotics, natural language processing, audio processing, computer vision, finance, healthcare, object tracking and localization, self-driving cars, however, its deployment areas are not limited to these mentioned ones.
In the big data regime and Industry 4.0, data becomes more valuable assets for the businesses. Velocity, Variety, Veracity, Value, and Volume stand for 5Vs of big data. Real-time data streaming, cloud systems, IoT, digitalization in business concepts rapidly make a stimulus for big data surge. By the time of new technological developments and algortihmic developments, increase of these 5Vs has been supercharged, creating business value from the big data has been in turn emerged as an efficient management tool for businesses. As mentioned earlier, diverse set of application areas are open for deployment of artificial intelligence techniques. In these areas, deep neural networks and deep reinforcement learning have gained importance to benefit from the data.
Energy sector is one of the beneficiary business sector that can create business value from their data available. Smart Grids (SG), Distributed Generations (DG), Energy 5.0, IoT in energy entail more intelligent techniques in part of providers since intelligent system utilization will make contributions to different levels of organizations. These contributions incorporate operational, tactical and strategical ones. Security of power supply systems, reduction in maintenance cost, efficacy of the supply system operator scheduling, reduction in penalty costs created by overestimation and/or underestimation of forecasting, market share growth, and enhancement of competitiveness among shareholders are some of these called contributions for businesses.
For the electricity provider firms, load forecasting task has a landmark importance among their operations. Beside methods to be used in forecasting, forecasting horizon is important in forecasting task since model settings are defined by regarding the horizon and the methods to be used. Forecasting horizons for electricty load forecasting are classified into four groups. These horizons are Very Short-Term Load Forecasting (VSTLF), Short-Term Load Forecasting (STLF), Medium-Term Load Forecasting (MTLF), and Long-Term Load Forecasting (LTLF). In this study, STLF is considered for the real-world case application. STLF horizon spans of half-hour-ahead up to several-day-ahaed timesteps. Energy market establishments have been developed by introducing market regulations in Turkey since 2001. After many regulations and transitions from state-run-market to a non-governmental regulated market, Energy Markets Enterprise Corporation (EPİAŞ in Turkish)was established in 2015. In this market, the day-ahead-market, intraday market and balancing market mechanisms play important roles for the electricity system management in Turkey. These mechanisms plays complementary roles for each other.
In this market, stakeholders aim to avoid extra costs arose in balancing market where deficient and excessive amounts of electricity are compensated by purchase and sale among stakeholders since the market imposes 3% penalty costs for these deficient and excessive amounts. And this avoidance can be facilitated by efficient forecasting performance. Hence, forecasting task arises as an important tool for decision makers in forecasting. Before transtion to a regulated market by EPİAŞ, predctions are performed mainly weekly or more than one-week-ahead. The error margins for the predictions made were in turn very high and flexible. This flexibility provided the electricty providers in the market to compromise their excessive and deficient amounts easily when compared to the regılated market situations. Flexibility in the prediction error margins enabled the providers to meet their requirements in the market in the ong horizon with less price charge. In the regulated market, the day-ahead market and intraday market mechanism have turned out to be the integral part of the market mechanisms. Sustaining the competition in the market, growing the market share, reducing the operational costs, and penalty costs created by overestimation and underestimation of the load forecasting, tasks of one-hour-ahead forecasting and one-day-ahead forecasting located at the heart of major concerns for the electricity provider firms in the regulated market. The provider firms in turn focused on these tasks to achieve the aforementioned goals, then create business value through performing these tasks. Thus, this study focuses on the major concerns for the providers by deploying deep learning algorithms for a real-world case.
In this study, electricty load data which consists of hourly load demands, for 3 years collected between 2015 and 2017 years were utilized. The granularity of the time series data obtained was composed of load values and temperature values as it is used for the regular forecasting task by the provider firm. In the first stage of applications, preliminary data examinations were performed which provides a guide for time series problem handling for both applications of conventional machine learning, and deep learning methods. These data examinations contained data normalization, dummy variable inclusion, autocorrelation identification tasks for each method type. This stage is followed by input set preparation for the methods deployed. We framed our dataset into a supervised learning dataset by shifting values according to the results of autocorrelation identification, that is time lag. Weekly time lag was found the best choice, hence we used this time lag value in our framing. In addition, since neural networks are at the heart of the applications in this study, we used data normalization as zero-mean normalization to facilitate fast convergence and numerical stability for the networks in training and testing. After preliminary data examinations, we conducted comprehensive comparative analyses of the methods. In the first round of the comparative analyses, two deep learning methods and some popular machine learning methosds were compared whether deep learning methods overcome the conventional methods in STLF task. The deep learning methods were in turn found superior to the conventional methods used which the results were validated by statistical significant test. In the second round of the comparative analyses, just deep learning methods were compared. This round of the comparisons was the central theme in this study since the aim was to propose a deep learning method for the real-world case. For this reason, we proposed a new method based on one-dimensional convolutional neural networks, and compared its performance with the other deep learning methods by applying them to the real-world case. As per the results obtained from this round of comparisons, the proposed method proved its efficiency for both one-hour-ahead, and one-day-ahead prediction tasks. This fact was also validated by statistical significance test as well.
In brief of this study, there are some level of takeaways from the results of the study. At the organizational level takeaways, intelligent technqiues use especially in energy sector such as deep learning, deep reinforcement learning tools will make contributions to organizations with different levels. Secondly, energy sector is one of the businesses that enormous amount of data is hoarded even hourly. Hence, creating business value by utilizing intelligent systems in their operations will enable short-term, mid-term, and long-term achievements for them when considered big data regime, advents in hardware and software solutions, and developments in artificial intelligence methods especially in neural networks. At the most conceptual level, deep learning methods provide high-performance forecasting engine for the providers for STLF as per the results obtained. Deployment of these type of artificial intelligence method will make them at the front line in the market. At the method-level takeaways, calendar effects have landmark importance in time series modelling for STLF. Rare time issues, and dual calendar effects are another landmark important issues in time series modelling as well. Efficient feature extraction ability of Convolutional Neural Networks (CNN), and auto-capturing long-term relations in long sequences make them a rival for Long-Short Term Memory (LSTM) and Gated Recurrent Unit (GRU) in time series modelling tasks besides the tasks of audio recognition, speech recognition, natural language processing. In addition, the proposed method's exogenous variable inclusion for modelling the time series problems boosts the performance of the method since different level of resolutions are captured by this setting. Hence, this setting can be extended for later method developments of deep learning methods. |
