Proje Bağlamı
Birçok istatistiksel yöntem, Büyük Sayılar Yasası (Law of Large Numbers, LLN) ve Merkezi Limit Teoremi (Central Limit Theorem, CLT) gibi asimptotik sonuçlara dayanır. Bu sonuçlar; örneklem ortalamalarının, Normal yaklaşımların, güven aralıklarının ve birçok başka istatistiksel çıkarım yönteminin teorik temelini oluşturur.
Ancak bu sonuçların güvenilirliği, veriyi üreten temel dağılıma ilişkin varsayımlara bağlıdır.
Bu projede, söz konusu varsayımlar sağlandığında, zayıfladığında veya ihlal edildiğinde ne olduğunu simülasyon yoluyla inceledim. Düzenli davranış gösteren bir Poisson dağılımını ağır kuyruklu Pareto ve Cauchy dağılımlarıyla karşılaştırarak örneklem büyüklüğünü artırmanın istikrarlı ortalamalar ve yaklaşık Normal örneklem dağılımları elde etmek için yeterli olup olmadığını araştırdım.
Araştırma Hedefleri
- Düzenli davranış gösteren bir olasılık dağılımı altında LLN yakınsamasını ampirik olarak göstermek.
- Temel dağılım klasik asimptotik teorinin gerektirdiği momentlere sahip olmadığında örneklem ortalamalarının nasıl davrandığını incelemek.
- Farklı kuyruk davranışlarına sahip Pareto dağılımlarında CLT yaklaşımını test etmek.
- Standart istatistiksel varsayımların hangi koşullarda güvenilirliğini kaybettiğini belirlemek için simülasyon, dağılım karşılaştırmaları ve QQ analizi kullanmak.
- Daha büyük örneklemlerin çıkarımı iyileştirdiği durumlarla, yalnızca örneklem büyüklüğünü artırmanın temel problemi çözmediği durumları birbirinden ayırmak.
Yöntem
- Poisson Simülasyonu: Artan örneklem büyüklüklerinde tekrar tekrar Poisson örneklemleri ürettim ve örneklem ortalamasının anakütle ortalaması çevresindeki sabit bir aralıkta ne sıklıkla kaldığını ölçtüm.
- Cauchy Simülasyonu: Örneklem büyüklüğü arttıkça ortalamaların istikrarlı hâle gelip gelmediğini incelemek için aynı örneklem ortalaması deneyini Cauchy dağılımlı gözlemlerle tekrarladım.
- Pareto Simülasyonu: Pareto dağılımlarından tekrarlı örneklemler oluşturarak örneklem ortalamalarının ampirik dağılımını inceledim.
- CLT Karşılaştırması: Simülasyonla elde edilen örneklem ortalaması dağılımlarını klasik CLT'nin öngördüğü Normal yaklaşımla karşılaştırdım.
- QQ Analizi: Özellikle dağılımların kuyruklarında Normal davranıştan sapmaları belirlemek için quantile-quantile grafiklerinden yararlandım.
- Kuyruk Davranışına Duyarlılık: Sonlu varyansa sahip Pareto dağılımlarını, varyansın tanımsız olduğu sınır durumuyla karşılaştırdım.
- Araçlar: Python, NumPy, SciPy, matplotlib
Sonuçlar
Simülasyonlar, klasik istatistiksel yaklaşımların güvenilirliğini yalnızca örneklem büyüklüğünün belirlemediğini gösterdi. Temel dağılımın özellikleri de aynı derecede önemliydi.
- Poisson: Örneklem büyüklüğü arttıkça örneklem ortalamaları anakütle ortalaması çevresinde giderek daha fazla yoğunlaştı ve LLN'nin açık bir ampirik gösterimini sundu.
- Cauchy: Örneklem ortalamaları aynı şekilde istikrarlı hâle gelmedi. Cauchy dağılımının sonlu bir anakütle ortalaması veya varyansı bulunmadığından, daha fazla gözlemin ortalamasını almak Poisson örneğinde görülen yoğunlaşmayı üretmedi.
- Sonlu varyanslı Pareto: Örneklem büyüklüğü arttıkça örneklem ortalamalarının dağılımı CLT'nin öngördüğü Normal yaklaşıma giderek daha fazla yaklaştı. Şekil parametresi 5 olan Pareto örneğinde, yaklaşımın merkezi kısmı yaklaşık 30 örneklem büyüklüğünde belirgin biçimde iyileşmişti.
- Kuyruk davranışı: QQ grafikleri, dağılımın merkezinde yakınsama gerçekleşirken kuyrukların henüz iyi temsil edilmeyebileceğini gösterdi. Bu fark yalnızca histogram veya toplulaştırılmış bir istatistiğe bakıldığında kolaylıkla gözden kaçabilirdi.
- Şekil parametresi 2 olan Pareto: Ortalama mevcutken varyans tanımsızdır. Bu durumda klasik sonlu varyanslı CLT'nin gerektirdiği varsayımlar sağlanmadı ve simüle edilen örneklem ortalamaları Normal davranıştan belirgin biçimde saptı.
Dolayısıyla temel sonuç yalnızca daha büyük örneklemlerin tahmini iyileştirdiği değildi; asimptotik garantilerin, uygulandıkları dağılımsal koşullara kritik biçimde bağlı olduğu ortaya çıktı.
Katkılar
- Hafif ve ağır kuyruklu dağılımlarda yakınsama davranışını karşılaştırmak için bir simülasyon çerçevesi oluşturdum.
- Poisson verisindeki istikrarlı LLN davranışı ile Cauchy verisindeki istikrarsız örneklem ortalamaları arasındaki farkı ampirik olarak gösterdim.
- Pareto kuyruk davranışının örneklem ortalamaları için Normal yaklaşımın hızını ve geçerliliğini nasıl etkilediğini inceledim.
- Merkezi yakınsama ile kuyruklarda devam eden sapmaları birbirinden ayırmak için histogramları, teorik yoğunluk karşılaştırmalarını ve QQ grafiklerini birlikte kullandım.
- Gerekli momentlerin mevcut olmaması nedeniyle yaygın istatistiksel varsayımların geçersiz hâle geldiği somut durumları belirledim.
Projenin Önemi
Bu proje, belirsizlik altında nicel modellerin güvenilirliğine olan ilgimi güçlendirdi.
İstatistiksel ve makine öğrenmesi sistemleri sıklıkla daha sonra kararları desteklemek için kullanılan tahminler, öngörüler veya belirsizlik ölçüleri üretir. Bu çıktılar oldukça kesin görünebilir; ancak olağandışı, ağır kuyruklu veya değişen veri koşullarında geçerli olmayabilecek varsayımlara dayanabilir.
Simülasyonlar, daha sonraki çalışmalarımda da önem kazanan daha genel bir ilkeyi ortaya koydu: bir modelin çıktısına güvenmeden önce, istatistiksel garantilerinin hangi koşullarda geçerli kaldığını ve hangi koşullarda başarısız olabileceğini anlamak gerekir.