ELN 3401 Mühendislik Olasılığı Tuncay ERTAŞ Ders Notları-1 ELN3401 Mühendislik Olasılığı Kullanılan Ders Kitabı: D. P. Bertsekas and J.N. Tsitsiklis, Introduction to Probability, 1. Baskı, Athena Scientific, 2002 P. Z. Peebles, Jr., Probability, Random Variables and Random Signal Principles, 3. Baskı, McGraw-Hill, 1993. Dersin Yardımcısı: Yok Dersin Amacı Olasılığın temel kavramlarını ve bunların mühendislik uygulamalarını anlamak. Dersin Hedefi Dersin tamamlanması ile genel olarak aşağıdaki becerileri kazanacaksınız: • Bir deneyin örnek uzayını ve ilgili olaylarını belirlemek, olaylara aksiyomlara uygun biçimde olasılık atamak. • Koşullu olasılıkları hesap etmek, deney sonrası olasılıkları hesaplamada Bayes Kuralını kullanmak. • Rasgele değişkenlere ilişkin temel kavramları anlamak. • Olay olasılıklarını ve beklenen değerleri hesaplamada olasılık yoğunluklarını beceriyle kullanmak. • Koşullu yoğunlukları ve koşullu beklentileri hesaplamak. • Rasgele değişkenlerin fonksiyonlarının beklenen değerlerini ve olasılık yoğunluklarını hesaplamak. • Rasgele süreçlere ilişkin temel kavramları anlamak. • Durağan rastgele süreçleri ve Gauss rasgele süreçleri tanımak ve özelliklerini belirlemek. • Durağan süreçlerin özilinti ve güç spektrumunu hesaplamak. • Girişi bir rasgele süreç olan doğrusal zamanla değişmeyen sistemlerin çıkışını karakterize etmek. ELN3401 Mühendislik Olasılığı 1- ELN3401 Mühendislik Olasılığı Ders Programı Hafta Yer Zaman Çarşamba 1-2 Y205 YLab3 3-4 Y205 YLab3 5-6 Y205 YLab3 08:45 11:30 17:00 19:30 Çarşamba 08:45 11:30 17:00 19:30 Çarşamba 7-8-9 Y205 YLab3 08:45 11:30 17:00 19:30 Çarşamba 08:45 11:30 17:00 19:30 İçerik Ödevler Olasılığa giriş. Örnek uzayı ve olaylar. Olasılık Aksiyomları. Olasılık hesabı, koşullu olasılık ve bağımsızlık. Birleşik deneyler ve Bernoulli denemeleri. Rasgele değişkenler. Bazı önemli rasgele değişkenler. Bir rasgele değişkenin fonksiyonları ve beklenti. Bir rasgele değişkenin bir fonksiyonunun dağılımı. Birden fazla rasgele değişkenlere giriş. Koşullu dağılımlar ve koşullu beklenti. Rasgele değişkenlerin toplamı ve Merkezi Limit Teoremi. Beklentiler ve ortak değişintiler. Birden fazla rasgele değişkenin fonksiyonları. 1. Arasınav Haftası Çarşamba 11-12 13-14 Y205 YLab3 Y205 YLab3 08:45 11:30 17:00 19:30 Rastsal Süreçler Çarşamba 08:45 11:30 17:00 19:30 Doğrusal Sistemlerin Rasgele sinyallere cevabı, problemler, 2. arasınav ELN3401 Mühendislik Olasılığı Değerlendirme Dönemiçi Sınavı (1-2) %50 Dönemsonu Sınavı %50 Derse Devam Derse devam esastır. %70 Devam alamayan öğrenciler devamsız sayılır. Derste bulunmayan öğrencilerin, yapılan duyurulardan doğan sorumlukları kendilerine aittir. Dersin internet sayfasını http://home.uludag.edu.tr/~tertas/ her zaman kontrol ediniz. ELN3401 Mühendislik Olasılığı 1- Bölüm I Örnek Uzayı ve Olasılık • • • • • • Olasılık Modelleri Koşullu Olasılık Olasılığın Aksiyomları Toplam Olasılık ve Bayes Kuralı Bağımsızlık Sayma Olasılık Olasılık kullanışlı bir kavram olarak, değişik şekillerde yorumlanması mümkündür. Aşağıdaki konuşmayı izleyelim. Bir hasta hastaneye alınır ve kendisine muhtemelen hayatını kurtaracak bir ilaç verilir. Hemşire ile hasta yakını arasında geçen bir konuşmayı inceleyelim. Hasta Yakını: Hemşire hanım, bu ilacın işe yarama olasılığı nedir? Hemşire: Umarım işe yarar, sonucu yarın görürüz. Hasta Yakını: Evet, ama bunun olasılığı nedir? Hemşire: Bu hastadan hastaya değişir. Sonucu görmek için beklemeliyiz. Hasta Yakını: Tamam ama, aynı konumdaki 100 hasta için bunun kaç kez işe yaramasını beklersiniz? Hemşire ( ): Size söyledim, her hasta farklıdır. Bazılarına iyi gelir bazılarına gelmez. Hasta Yakını: O zaman söyleyin bana, eğer iyi gelip gelmeyeceği konusunda bahse girmeniz gerekseydi, hangisini seçerdiniz? Hemşire (☺): İyi geleceğini. Hasta Yakını ( ): Peki, o zaman iyi gelirse $1 kazanmaya, gelmezse $2 kaybetmeye var mısınız? Hemşire ( ): : Hasta mısın kardeşim!!!! Beni boş yere meşgul etme… ELN3401 Mühendislik Olasılığı 1- Olasılık Konuşmada, hasta yakını sonucu belirsiz bir durumu tartışmak için olasılık kavramlarını kullanmakta ve olası sonuç hakkında daha fazla bilgi sahibi olmaya çalışmaktadır. İlk yaklaşım olasılığı olma sıklığı (frekans), yani yeterli sayıda benzer durum içindeki başarı yüzdesi, olarak tanımlamaktır. Bu tanım genellikle doğaldır. Mesela: Hilesiz bir paranın yazı veya tura gelme olasılığı %50 dir. Yani, zamanın yarısında. Hemşirenin, bu terimler cinsinden tartışmak istememesi de doğal karşılanabilir. Ancak, ya bu ilaç bu hastanede veya hemşirenin hayatında ilk defa kullanılsaydı o zaman ne olurdu? Frekans yorumunun uygun olduğu birçok durum olmasına rağmen, olmadığı durumlarda vardır. Mesela: İki farklı bestenin aynı kişi tarafından bestelenme olasılığı %90 olarak iddia edilse, bu bir anlam taşır ancak frekans cinsinden değil. Çünkü olay bir kerede yapılan bir iştir. Bu daha çok kişisel bir kanıdır. Kişisel kanıların en azından bilimsel bir değeri yoktur denilebilir. Ancak, diğer taraftan, insanlar belirsizlik durumlarında seçimler yapmaktadır. Konuşmada, aslında hasta yakınının yaptığı hemşirenin kişisel kanısından dolaylı olarak bir sonuç çıkarmaktır. Olasılık Konuşmada, hemşire bire-bir bahsi kabul etmek isteseydi, hasta yakını ilacın iyi gelme olasılığının en az %50 olacağı gibi bir sonuç çıkarabilirdi. Eğer, ikiyebir bahsi kabul etseydi, bu iyi gelme olasılığının en azından 2/3 olabileceğine işaret ederdi. Neden Olasılık Kuramını Öğreniyoruz? Çünkü olasılık kuramı: • Belirsizlik durumlarını etkili bir şekilde modeller. • Belirsizlik altında karar vermemize yarar. Karar verme süreci: Veri topla, olayı modelle, sonuç çıkar, karar ver. Bu bölümümün ana hedefi, belirsizliği olasılık modelleri ile tanımlamaktır. Bunun için önce bazı kavramları hatırlayalım. ELN3401 Mühendislik Olasılığı 1- Kümeler Olasılık, küme operasyonlarını yoğun bir şekilde kullanmakta olduğundan, ilgili notasyon ve terminolojiden bahsetmek yararlı olacaktır. Küme: Aynı türden nesnelerin (elemanların) bütünüdür. S = {x1 , x 2 , K, x n }, xi ∈ S , xi ∉ S , Zar atmanın mümkün çıktılarının kümesi {1, 2, 3, 4, 5, 6} Yazı-Tura atmanın mümkün çıktılarının kümesi {Y, T} Küme belli bir özelliği sağlayan x’lerin bütünü şeklinde de olabilir. S = { k | k / 2 bir tam sayıdır } S = { x | 0 ≤ x ≤ 1} , sayılabilir sonsuz sayılamaz sonsuz Küme elemanları sonlu veya sonsuz sayıda olabilir. Kümeler Ω S Ω S T Ω S T T S IT S IT c S UT Ω T S U T T ⊂ S, S c ELN3401 Mühendislik Olasılığı Ω Ω T S T Ayrık S U Partition 1- Küme Cebri S ∪T =T ∪ S S ∩ (T ∪U ) = ( S ∩ T ) ∪ ( S ∩ U ) S ∪ (T ∪U ) = ( S ∪ T ) ∪U S ∪ (T ∩U ) = ( S ∪ T ) ∩ ( S ∪U ) (S C ) C = S S ∩SC = Φ S ∪Ω=Ω S ∩Ω = S C ⎛ ⎞ ⎜ U Sn ⎟ = I SnC ⎜ ⎟ n ⎝n ⎠ C ⎛ ⎞ ⎜ I Sn ⎟ = U SnC ⎜ ⎟ n ⎝n ⎠ DeMorgan Kuralı Olasılık Modelleri Belirsiz durumların matematiksel tanımıdır. Aşağıdaki bileşenlerden oluşur. Deney: Çıktıları rastgele olan bir süreçtir. Örnek Uzayı: Bir deneyin mümkün bütün çıktılarının kümesidir. Olay: Örnek uzayının bir alt kümesidir. Olasılık Yasası: Bir olayın gerçekleşmesine ilişkin [0,1] arasında bir nümerik değerin atanmasıdır. B olayı Olasılık Yasası P(B) Deney A olayı Örnek Uzayı P(A) A B Olaylar Olasılık Modelinin temel bileşenleri ELN3401 Mühendislik Olasılığı 1- Olasılık Modelleri Ardışıl Modeller 1,1 1 2 zar atışının örnek uzayı 1,3 1,4 2,1 4 2 3 2,2 2,3 2. atış 2,4 Başlangıç 2 1 1,2 1 3,1 3 2 3 4 3,2 3,3 1. atış 3,4 4,1 4 4,2 4,3 4,4 Olasılık Aksiyomları Olasılık Modelleri aşağıdaki aksiyomları sağlamalıdır. Pozitiflik: Herhangi bir olay A için P ( A) ≥0 Toplamsallık: Eğer iki olay ayrık iseler, bunların olasılıkları için P( A ∪ C ) ≤ P( A) + P(C ) veya genel olarak P ( A1 ∪A2 ∪L) ≤ P ( A1 ) + P ( A2 ) + L Normalizasyon: Bütün örnek uzayının olasılığı bire eşittir. P(Ω) = 1 1 = P(Ω) = P (Ω ∪φ ) = P(Ω) + P(φ ) ELN3401 Mühendislik Olasılığı P (φ ) = 0 1- Olasılık Kuralı Ayrık olasılık kuralı: Eğer örnek uzayı sonlu sayıda mümkün çıktıdan meydana geliyorsa, olasılık kuralı, tek elemanlı olayların olasılıkları ile ifade edilir. Yani, özel olarak, bir {s1 , s 2 ,L , s n } olayının olasılığı, onun elemanlarının olasılıkları toplamına eşittir. Ayrık uniform olasılık kuralı: Eğer örnek uzayı, n eşit olasılıklı mümkün çıktılardan oluşuyorsa, herhangi bir A olayının olasılığı, P(A) = A' nın eleman sayısı n Örnek olarak, dört yüzlü bir çift zar atma deneyini düşünelim. Olasılık Kuralı (Ayrık) Dört yüzlü hilesiz bir zar iki kez atılmaktadır. Deneyin örnek uzayının iki farklı gösterimi 1,1 T,T T 1 T,Y Başlangıç Y Y,T Y,Y Y 1,2 1,3 4 1,4 2,1 3 2 2,2 2,3 T 2 T 2,4 Başlangıç Y 1 1 2 3 4 3,1 3 3,2 3,3 4 3,4 A1 3 A1={ En az birinin 3 gelmesi } A2 2 A2={ İki zarın da aynı gelmesi } 4,1 4 4,2 4,3 4,4 1 1 2 ELN3401 Mühendislik Olasılığı 3 4 1- Olasılık Kuralı (Ayrık) Hilesiz bir para ile, arka arkaya 3 kez yazı tura atma deneyinin örnek uzayı, Ω = {TTT , TTY , TYT , TYY , YTT , YTY , YYT , YYY } Atışlardan sadece ikisinin tura gelme olayı, A = {TTY , TYT , YTT } Her bir deney sonucunun eşit olasılıklı olduğunu kabul edersek P ( A ) = P ({TTY }) + P ({TYT }) + P ({YTT }) =1 / 8 +1 / 8 +1 / 8 = 3/8 Olasılık Kuralı (Ayrık) Her bir çıktının olasılığı eşit ve 1/16 dır. Olasılık, olayın elemanlarının sayısının toplam çıktı sayısına oranıdır. 2 zar atışının örnek uzayı 4 Olay: {İlk atış ikincisine eşit}. Olasılık=4/16 3 2. atış 2 1 1 2 3 4 Olay: {Atışlardan en az biri=4}. Olasılık=7/16 1. atış {Toplamlarının çift sayı olması}, P=1/2 {Toplamlarının tek sayı olması}, P=1/2 ELN3401 Mühendislik Olasılığı 1- Olasılık Kuralı (Sürekli) Romeo ve Juliet belirli bir saatte buluşacaklardır. Bütün gecikmeler eşit olasılıklı olmak üzere, her biri en fazla 0 ila 1 saat arasında bir gecikme ile buluşma yerine varacaklardır. İlk gelen 15 dakika bekleyecek, diğeri gelmemişse buluşma yerinden ayrılacaktır. İkisinin buluşma olasılığı nedir? Örnek uzayı şekildeki birim alanlı kare üzerindeki bütün noktalardır. Her bir noktanın eşit olasılıklı kabulü ile, şekil üzerindeki herhangi bir alan o bölgenin olasılığı olacaktır. Kurulan bu olasılık yasası, üç aksiyom ile de tutarlıdır. y 1 M 1/4 Buluşma saati 0 1/4 1 x Şekildeki mor alan çiftin buluşmama olasılığı olacaktır. Bu da, M = { ( x, y ) | | x − y | ≤ 1 / 4, 0 ≤ x ≤ 1, 0 ≤ y ≤ 1} 1 − (3 / 4) ⋅ (3 / 4) = 7 / 16 Olasılık Kurallarının Özellikleri A, B, ve C olaylar olsunlar If A ⊂ B ise, P( A) ≤P( B ) P( A∪B) = P( A) + P( B) P( A ∩B) P( A∪B) ≤ P( A) + P( B) P( A∪B ∪C ) = P( A) + P( Ac ∩B) + P( Ac ∩B c ∩C ) Bunlardan genellemeler de yapılabilir. ELN3401 Mühendislik Olasılığı 1- Koşullu Olasılık Koşullu olasılık, örnek uzayının belirli bir kısmını kapsayan bir olay meydana geldikten sonra diğer bir olayın olma olasılığı şeklinde tanımlanır. A Ω B B olayı verildiğinde (meydana geldikten sonra), A olayının koşullu olasılığı P(A|B) şeklinde gösterilir. İlgili bazı örnekler vermek gerekirse: • Ardışık iki zarın atılması deneyinde, gelen sayıların toplamının 9 olduğu bilindiğinde, ilk zarın 6 olma olasılığı nedir? • Radar ekranında bir nokta tespit edildiğinde, bunun bir uçağa ait olma olasılığı nedir? Görüldüğü gibi problem, gerçekleşen bir olayın bilgisi ile, diğerinin olma olasılığının bulunmasıdır. Şimdi amacımız, olasılık aksiyomlarını sağlayan, yeni bir olasılık yasasını oluşturmaktır. Koşullu Olasılık Bütün çıktıları eşit olasılıklı olan bir zar atma deneyi düşünelim. Deney sonucunun çift sayı olduğu söylendiğinde, acaba atılan sayının 6 olma olasılığı nedir? Yani: P( sonuç = 6 | sonuç çift sayı) = ? A = { 6} Bütün deney çıktılarının eşit olasılıklı olması durumunda, P( A | B) = A ∩ B' nin eleman sayısı B' nin eleman sayısı P( A | B) = 1 / 3 3 A∩B B = { 2, 4, 6 } B A B Ω 2 6 4 1 Genelleştirilirse, ELN3401 Mühendislik Olasılığı P( B ) > 0, P( A | B) = 5 P( A ∩ B) P( B) 1- Koşullu Olasılık P (Ω | B ) = P (Ω ∩ B ) P ( B ) = =1 P( B) P( B) 1 P (( A1 ∪ A2 ) ∩ B) P( B) P (( A1 ∩ B) ∪ ( A2 ∩ B )) P( A1 ∩ B) + P ( A2 ∩ B ) = = P( B) P( B) P ( A1 ∩ B ) P( A2 ∩ B ) = + P( B) P( B) = P ( A1 | B ) + P ( A2 | B) ( A1 ∩ B) ve ( A2 ∩ B) 2 P( A1 ∪ A2 | B ) = P( A | B) > 0 ayrık 3 Koşullu olasılıklar, olasılık yasalarının bütün genel özelliklerinin geçerli olduğu bir olasılık yasası oluştururlar. P ( A ∪ C | B ) ≤ P ( A | B ) + P (C | B ) P ( A ∪ C ) ≤ P ( A) + P (C ) Koşullu Olasılık P( B | B) = P( B ∩ B) P( B) = =1 P( B) P( B) olduğundan Koşullu olasılık, yeni örnek uzayı B üzerinde yeni bir olasılık yasası olarak da düşünülebilir. Hilesiz bir para ile, arka arkaya 3 kez yazı tura atılıyor. A ve B olayları, A={Tura’nın Yazı’dan fazla gelmesi } B={İlk atışın Tura gelmesi} ise her bir deney sonucunun eşit olasılıklı olduğu kabulü ile P(A|B)=? Ω = {TTT , TTY , TYT , TYY , YTT , YTY , YYT , YYY }, B = {TTT , TTY , TYT , TYY } P( B) = 4 / 8 P( A | B) = P( A ∩ B) = 3 / 8 A ∩ B = {TTT , TTY , TYT } P( A ∩ B) 3 / 8 = = 3/ 4 P( B) 4/8 B’yi yeni örnek uzayımız kabul edersek, kısaca P( A | B) = 3 / 4 bulunur. ELN3401 Mühendislik Olasılığı 1- Koşullu Olasılık 16 mümkün sonucun eşit olasılıklı olduğu kabulü ile, hilesiz dört yüzlü bir zar 2 kez atılıyor. X ve Y olayları, 1. ve 2. atışları temsil etsinler. A ve B olayları, A = { max( X , Y ) = m } , B = { min( X , Y ) = 2 } ise m=1,2,3,4 için P(A|B)=? 4 3 İkinci atış Y B 2 ⎧2 / 5, m = 3 veya 4 için ⎪ P ( A | B ) = ⎨1 / 5 m = 2 için ⎪0 m = 1 için ⎩ 1 1 3 2 Birinci atış X 4 Koşullu Olasılık ile Modelleme Ardışıl karakteri olan deneyler için olasılık modelleri oluştururken, öncelikle koşullu olasılıkları belirleyip bunlar ile de koşulsuz olasılıkları hesaplamak genellikle daha uygun olmaktadır. Belirli bir bölgede bir uçak mevcut iken, 0.99 olasılık ile bir radar onu yakalayarak bir alarm sinyali, uçak mevcut değil iken de 0.1 olasılıkla Yanlış Alarm sinyali üretmektedir. Bir uçağın bölgede bulunma olasılığının 0.05 olduğunu farz edelim. Uçak bulunmaması ve Yanlış Alarm olasılığı nedir? Uçak bulunması ve ıskalama olasılığı nedir? A = {Uçak var } B = {Radar alarm sinyali üretir} A C = {Uçak yok} B C = {Radar alarm sinyali üretmez} ELN3401 Mühendislik Olasılığı 1- Koşullu Olasılık ile Modelleme P( uçak yok, yanlış alarm) = P(A C ∩ B) = P(A C ) P(B | A C ) = 0.95 ⋅ 0.10 = 0.095 P( uçak var , alarm yok ) = P( A ∩ B C ) = P( A) P( B C | A) = 0.05 ⋅ 0.01 = 0.0005 P( B | A) = 0.99 Uçak var P( A) = 0.05 Iskalama P( B C | A) = 0.01 P( AC ) = 0.95 P( B | AC ) = 0.10 Yanlış alarm Uçak yok P( B C | AC ) = 0.90 Çarpım Kuralı Sadece ve sadece belli olayların ardışık olarak meydana gelmesi ile oluşan bir A olayının, yani A = A1 ∩ A2 ∩ A3 ∩ LL ∩ An , olma olasılığı P (∩in=1 Ai ) = P( A1 ) P ( A2 | A1 ) P ( A3 | A1 ∩ A2 ) LL P ( An | ∩in=−11 Ai ) P (∩in=1 Ai ) = P ( A1 ) P (∩in=1 Ai ) P ( A2 ∩ A1 ) P ( A3 ∩ A1 ∩ A2 ) LL P ( A1 ) P ( A2 ∩ A1 ) P (∩in=−11 Ai ) Sadece iki olay için formül, koşullu olasılığın tanımına dönüşür. ELN3401 Mühendislik Olasılığı 1- Çarpım Kuralı 52lik iskambil destesinden üç kart çekilmektedir (desteye geri bırakmadan). Her bir adımda kalan kartların çekilme olasılıklarının eşit olduğu kabul edilirse, çekilen kartlardan hiçbirinin kupa olmama olasılığı nedir? Simetri dolayısı ile her kart üçlüsünün de çekilme olasılıkları eşit olacaktır. Karışık bir yöntem, kupa olmayan mümkün kart üçlülerini sayıp bunu toplam kart üçlülerinin sayısına bölmektir. Aslında, çarpım kuralının kullanılması ile problem daha basit bir şekilde çözülebilir. Ai = { i. kart kupa değildir } i = 1, 2, 3 P( A1 ∩ A2 ∩ A3 ) = P( A1 ) P ( A2 | A1 ) P ( A3 | A1 ∩ A2 ) P( A1 ) = 39 / 52 P( A2 | A1 ) = 38 / 51 P( A1 ∩ A2 ∩ A3 ) = P( A3 | A1 ∩ A2 ) = 37 / 50 39 38 37 ⋅ ⋅ 52 51 50 Toplam Olasılık Teoremi Bir çok olayın olasılığını Parçala-Yut yöntemiyle hesaplamak mümkündür. A1 , A2 , L , An olayları örnek uzayının uygun bir şekilde bölünmüş birbirinden ayrık parçaları olmak üzere ve P ( Ai ) > 0 şartı ile bir B olayının olasılığı aşağıdaki şekilde yazılabilir. Ω A1 A2 A5 A3 B A4 An −1 A6 A7 An B = ( A1 ∩ B) ∪ ( A2 ∩ B) ∪LL ∪ ( An ∩ B) P( B) = P( A1 ∩ B) + P( A2 ∩ B) + LL + P( An ∩ B) = P( A1 ) P( B | A1 ) + LL + P( An ) P( B | An ) n P ( B ) =∑ P ( B | Ai ) P ( Ai ) i =1 ELN3401 Mühendislik Olasılığı 1- Toplam Olasılık Teoremi Bir satranç turnuvasına katılıyorsunuz. •Oyuncuların yarısına karşı kazanma olasılığınız 0.3 (Tip1 oyuncu) •Oyuncuların ¼ üne karşı kazanma olasılığınız 0.4 (Tip2 oyuncu) •Oyuncuların kalan ¼ üne karşı kazanma olasılığınız 0.5 (Tip3 oyuncu) Rastgele seçilmiş bir rakip ile oynuyorsunuz. Kazanma olasılığınız nedir? Ai Tip i olan bir rakip ile oynama olayını, B de kazanma olayını temsil etsin. P( A2 ) = 0.25 P ( A1 ) = 0.5 P( B | A1 ) = 0.3 P( B | A2 ) = 0.4 P( B | A3 ) = 0.5 P ( A3 ) = 0.25 3 P ( B ) =∑ P ( B | Ai ) P ( Ai ) = 0.5 ⋅ 0.3 + 0.25 ⋅ 0.4 + 0.25 ⋅ 0.5 i =1 = 0.375 Bayes Kuralı A1 , A2 , L , An olayları örnek uzayının uygun bir şekilde bölünmüş birbirinden ayrık parçalarıdır. P( Ai ) > 0 ve P( B ) > 0 şartı ile, P( Ai | B) = P( B ∩ Ai ) = P( B) P( B | Ai ) P( Ai ) n ∑ P( B | Ak ) P( Ak ) k =1 Bayes kuralı genellikle sonuç çıkarmak için kullanılır. Örneğin gözlenen bir etkinin birden fazla sebebi olabilir. Etki gözlendiğinde, bunun hangi sebepten kaynaklandığı sonucunu çıkarma işlemine uygulanabilir. Satranç oyununa dönecek olursak: Örneğin, kazandığımızı varsayalım. Tip1 oyuncu ile oynamış olma olasılığımız nedir? Bayes kuralını kullanırsak, P( A1 | B) = = ELN3401 Mühendislik Olasılığı P( B | A1 ) P( A1 ) P( B | A1 ) P( A1 ) + P( B | A2 ) P( A2 ) + P( B | A3 ) P( A3 ) 0.5 ⋅ 0.3 = 0.4 0.5 ⋅ 0.3 + 0.25 ⋅ 0.4 + 0.25 ⋅ 0.5 1- Bağımsızlık P( A | B) = P( A) Olması durumunda A, B den bağımsızdır denir. Yani bir olayın olma olasılığı, bir diğerinin olup olmamasına bağlı değil ise bu olaylar birbirinden bağımsız olaylardır. Buradan, P( A | B) = P( A ∩ B) P( B) P( A ∩ B) = P( A) P( B) Bağımsızlığın örnek uzayı yoluyla anlaşılması kişiyi yanlışa sevk edebilir. İlk akla gelen yaygın görüş şudur: İki olay ayrık ise, birbirinden bağımsızdır. Bu görüş aslında yanlıştır. Ayrık oldukları halde (kesişimleri boş küme) iki olay bağımlı olabilir. Bağımsızlık Dört yüzlü bir zarın ardışık olarak 2 defa atıldığı bir deneyi düşünelim, öyle ki bütün deney çıktı olasılıkları 1/16 olsun. A={Birinci atışın 1 olması} B={İki atışın toplamlarının 5 olması} durumunda A ve B olayları bağımsız mıdır? A = { (1,1), (1, 2), (1, 3), (1, 4) } , B = { (1, 4), (2, 3), (3, 2), (4,1) } P( A ∩ B) = P(iki atışın sonucu (1,4) ) = 1 / 16 A' nın eleman sayısı = 4 / 16 toplam çıktı sayısı B nin eleman sayısı P( B) = = 4 / 16 toplam çıktı sayısı P( A) = P( A ∩ B) = P( A) P( B) ELN3401 Mühendislik Olasılığı P( A) P( B) = 1 / 16 olduğundan A ve B bağımsızdır 1- Bağımsızlık Bir önceki örneği aşağıdaki olaylar için düşünelim. A={Birinci atışın 1 olması} B={İki atışın toplamlarının 3 olması} durumunda A ve B olayları bağımsız mıdır? A = { (1,1), (1, 2), (1, 3), (1, 4) } , B = { (1, 2), (2,1) } P( A ∩ B) = P(iki atışın sonucu (1,2) ) = 1 / 16 A' nın eleman sayısı = 4 / 16 toplam çıktı sayısı B nin eleman sayısı P( B) = = 2 / 16 toplam çıktı sayısı P( A) = P( A ∩ B) ≠ P( A) P( B) P( A) P( B) = 1 / 32 olduğundan A ve B bağımlıdır. B olayı ikinci zarın 3 veya 4 olamayacağı hakkında bilgi vermektedir! Sadece toplamların 5 olması durumunda bağımsızlık vardır. Bağımsızlık X ve Y birinci ve ikinci atışı temsil etmek üzere, A = { max (X, Y) = 2 } B = { min (X, Y) = 2 } olayları bağımsız mıdır? P(A ∩ B) = P(iki atışın sonucu (2, 2) ) = 1/16 P(A) = A nın eleman sayısı = 3/16 toplam çıktı sayısı B nin eleman sayısı P(B) = = 5/16 toplam çıktı sayısı P( A ∩ B) ≠ P( A) P( B) P( A) P( B) = 15 / 256 olduğundan A ve B bağımlıdır. Aslında, iki atışın minimumu aynı zamanda maksimumu hakkında da bilgi taşıdığından iki olayın bağımlı oldukları mantıksal olarak bellidir. Mesela, minimum=2 ise maksimum=1 olamaz. ELN3401 Mühendislik Olasılığı 1- Koşullu Bağımsızlık P(A∩ B ∩C) P(A| B ∩C) P(B | C) P(C) = P(C) P(C) = P(B | C) P(A| B ∩C) P(A∩ B | C) = P( A | B ∩ C ) = P( A | C ) P( A ∩ B | C ) = P( A | C ) P( B | C ) Dört mümkün durumun eşit olasılıklı olduğu, iki hilesiz para atma deneyini düşünelim. H1 = { Birinci atış TURA} H 2 = { İkinci atış TURA} D = { İki sonuç farklı } H1 ve H2 koşulsuz olarak bağımsızdır, fakat koşullu olarak bağımlıdır. P ( H 1 | D) = 1 / 2 , P( H 2 | D) = 1 / 2 , P( H 1 ∩ H 2 | D) = 0 P ( H 1 ∩ H 2 | D ) ≠ P ( H 1 | D) P ( H 2 | D ) Koşullu Bağımsızlık Biri kırmızı diğeri mavi renkli olmak üzere iki tane para vardır. Bir tanesi ½ olasılıkla rastgele seçilip arda arda iki defa atılsın. Herhangi bir atışta, 0.99 olasılıkla mavi olan TURA kırmızı olan ise YAZI gelmektedir (yanlı). B = { Mavi paranın seçilmesi} H i = { i. atışın TURA gelmesi } Para seçildikten sonra, H1 ve H2 olayları birbirinden bağımsızdır. Mavi paranın seçilmiş olduğunu farz edersek (B olayı) P( H 1 ∩ H 2 | B) = P( H 1 | B) P( H 2 | B) = 0.99 × 0.99 Diğer taraftan, H1 ve H2 olayları birbirinden bağımsız değildir. Çünkü, diyelim bir para atıldı ve TURA geldi. Bu bize mavi paranın atılmış olacağını ve dolayısı ile de sonraki atışın da tekrar TURA gelmesi gerektiğini düşündürür. Toplam olasılık teoremini kullanarak, P ( H 1 ) = P ( B ) P( H 1 | B ) + P ( B C ) P ( H 1 | B C ) = 1 1 1 × 0.99 + × 0.01 = , P( H 2 ) = 1 / 2 2 2 2 P ( H 1 ∩ H 2 ) = P ( B ) P( H 1 | B ) P( H 2 | B ) + P ( B C ) P ( H 1 | B C ) P ( H 2 | B C ) 1 1 = × 0.99 × 0.99 + × 0.01× 0.01 ≈1 / 2 2 2 ELN3401 Mühendislik Olasılığı P( H 1 ∩ H 2 ) ≠ P( H 1 ) P( H 2 ) 1- Bağımsızlık İki olay A ve B birbirinden bağımsız ise, P( A ∩ B) = P( A) P( B) Eşdeğer olarak, P( B) > 0 için, P( A | B) = P( A) A ile B bağımsız ise, A ile BC de bağımsızdır. Eğer A ile B, C verildiğinde koşullu olarak bağımsız ise, PP(C)>0 (C ) > 0 olmak üzere, P( A ∩ B | C ) = P( A | C ) P( B | C ) Eğer ek olarak, P( B ∩ C ) > 0, P( A | B ∩ C ) = P( A | C ) Bağımsızlık, koşullu bağımsızlığı, koşullu bağımsızlık da bağımsızlığı gerektirmez. Koşullama bağımsızlığı etkiler! İkiden Fazla Olayın Bağımsızlığı A1 , A2 , ........, An olayları bağımsızdır, eğer {1, 2, ........, n} nin herhangi bir alt kümesi S için ⎛ ⎞ P⎜ I Ai ⎟ = ∏ P( Ai ) ⎜ i∈S ⎟ i∈S ⎝ ⎠ Örneğin, A1 , A2 , A3 gibi üç olayın bağımsız olabilmesi için dört durumu sağlaması gerekir. P( A1 ∩ A2 ) = P( A1 ) P( A2 ) ..................... 1 P( A1 ∩ A3 ) = P( A1 ) P( A3 ) ..................... 2 Çifter bağımsızlık P( A2 ∩ A3 ) = P( A2 ) P( A3 ) ..................... 3 P( A1 ∩ A2 ∩ A3 ) = P( A1 ) P( A2 ) P( A3 ) ..... 4 Not: İlk üç bağımsızlık dördüncüyü, dördüncü de diğerlerini garantilemez! ELN3401 Mühendislik Olasılığı 1- İkiden Fazla Olayın Bağımsızlığı Çifter bağımsızlık, tam bağımsızlık anlamına gelmez. Birbirinden bağımsız iki hilesiz para atışını düşünelim. H1 = {1. atışın TURA gelmesi}, H 2 = { 2. atışın TURA gelmesi} D = { İki atışın sonucu farklı} Tanımdan H1 ve H2 olayları bağımsızdır. Diğer üç durum için, P( D | H 1 ) = P( H 1 ∩ D) 1 / 4 1 = = = P( D) P( H 1 ) 1/ 2 2 H1 ile D bağımsız P( D | H 2 ) = P( H 2 ∩ D) 1 / 4 1 = = = P( D) P( H 2 ) 1/ 2 2 H2 ile D bağımsız P( H 1 ∩ H 2 ∩ D) = 0 ≠ 1 1 1 × × = P( H 1 ) P( H 2 ) P( D) 2 2 2 H1, H2, D bağımsız değil İkiden Fazla Olayın Bağımsızlığı P ( A1 ∩ A2 ∩ A3 ) = P ( A1 ) P ( A2 ) P( A3 ) bağımsızlık için yeterli değildir. Birbirinden bağımsız iki hilesiz zar atışını düşünelim. Üç olay sırasıyla A = {1. atış 1, 2, veya 3}, B = {1. atış 3, 4, veya 5}, C = { İki zarın toplamı 9} 1 1 1 ≠ × = P( A) P( B) 6 2 2 1 1 4 P( A ∩ C ) = ≠ × = P( A) P(C ) 36 2 36 1 1 4 P( B ∩ C ) = ≠ × = P( B) P(C ) 12 2 36 P ( A ∩ B) = P( A ∩ B ∩ C ) = ELN3401 Mühendislik Olasılığı 1 1 1 4 = × × = P( A) P( B) P(C ) 36 2 2 36 1- Bernoulli Denemeleri Bir deney benzer fakat birbirinden bağımsız adımlar içerebilir. İki hilesiz zar atışını düşünelim. Özel olarak, her bir adımda sadece iki mümkün sonuç söz konusu ise (Yazı-Tura), deneye Bernoulli denemeleri adı verilir. Birbirinden bağımsız n defa yazı-tura atılsın. Her bir atış için TURA gelme olasılığı p YAZI gelme olasılığı ise (1-p) olsun. k adet TURA dolayısı ile de (n-k) adet YAZI içeren herhangi bir deney çıktısının olasılığı p k (1 − p) n−k bütün k = 0, ...., n için doğru. Ayrıca içinde k adet TURA bulunan n uzunluklu deney çıktılarının sayısı da ⎛n⎞ n! ⎜⎜ ⎟⎟ = , k = 0,1, ....., n Binom katsayıları (0! = 1) ⎝ k ⎠ k!(n − k )! Dolayısı ile, n adet denemede k adet TURA gelme olasılığı p(k), ⎛n⎞ p (k ) = ⎜⎜ ⎟⎟ p k (1 − p) n−k ⎝k ⎠ Binom olasılıkları Bernoulli Denemeleri Binom olasılıkları toplamı 1 dir. Yani, n n ⎛ ⎞ p(k ) = ∑ ⎜⎜ ⎟⎟ p k (1 − p) n−k = 1 k =0 ⎝ k ⎠ n=3 için deneyi inceleyelim. p p 1− p 1− p TTY p 2 (1 − p) p TYT p 2 (1 − p) p p 1− p 1− p TYY p (1 − p) 2 p 2 YTT p (1 − p) 1− p YTY p (1 − p) 2 p 1− p 1− p ELN3401 Mühendislik Olasılığı TTT p 3 YYT p (1 − p) YYY (1 − p) 3 2 ⎛3⎞ ⎜⎜ ⎟⎟ = 1 ⎝0⎠ Sıfır TURA ⎛ 3⎞ ⎜⎜1 ⎟⎟ = 3 ⎝ ⎠ Bir TURA ⎛3 ⎞ ⎜⎜ 2 ⎟⎟ = 3 ⎝ ⎠ İki TURA ⎛ 3⎞ ⎜⎜ ⎟⎟ = 1 ⎝ 3⎠ Üç TURA 3 p 2 (1 − p) +3 p (1 − p) 2 + (1 − p)3 + p3 =1 1- Bernoulli Denemeleri Grade of Service (Hizmet Derecesi) Bir internet hizmet sağlayıcı, n adet müşteriye hizmet vermek için c adet modem kurmuştur. Herhangi bir zamanda, her bir müşterinin diğerlerinden bağımsız olarak bağlantı isteme olasılığı p dir. Bağlantı isteyen müşteri sayısının modem sayısından fazla olma olasılığı nedir? Yapılması gereken eşzamanlı olarak bağlanmak isteyen müşteri sayısının c den fazla olma olasılığını bulmaktır. Bu da, n ⎛n⎞ ∑ ⎜⎜ k ⎟⎟ p k (1 − p) n−k k =c +1 ⎝ ⎠ n=100, p=0.1, c=15 için servis dışı kalma olasılığı 0.0399 Sayma Sayma prensip olarak kolay görünmesine rağmen, çoğu durumlarda zordur. Sayma sanatı, kombinatorik alanının büyük bir bölümünü işgal etmektedir. Bu derste, saymanın temel prensipleri ele alınarak, olasılık modellerinde sıkça karşılaşılan durumlara uygulanacaktır. Birinci kısmının mümkün çıktıları a1 , a 2 , ....., a m ve ikinci kısmının mümkün çıktıları b1 , b2 , ....., bn olan iki kısımlı bir deney düşünelim. İki adımlı deneyin mümkün çıktıları ise mn adet (ai , b j ) , i = 1, ...., m, j = 1, ...., n sıralı çiftleridir. Bunu r adımlı bir deneye genellersek, mümkün sonuçların toplam sayısı n1n2 ..... nr olacaktır. r =4 durumu için sonuçları gösterirsek, ELN3401 Mühendislik Olasılığı 1- Sayma 1 r=4 2 n1-1 n1 n1 n2 n3 Adım 1 Adım 2 Adım 3 n4 Adım 4 Sayma Telefon Numaralarının Sayısı Bir telefon numarası 7 rakamlıdır. Fakat, ilk rakam 0 veya 1 olamaz. Kaç tane telefon numarası vardır? Durum, her adımında diğerlerinden bağımsız olarak bir rakamın seçildiği 7 adımlı bir deney olarak ele alınabilir. Telefon numaralarının sayısı, ilk adımda 8 seçenekli, diğer adımlarda ise 10 seçenekli mümkün deney sonuçlarının toplam sayısıdır. Dolayısı ile cevap, 8 ⋅ 10 ⋅ 10 ⋅ ⋅ ⋅ ⋅10 = 8 ⋅ 10 6 6 adet n-Elemanlı Bir Kümenin Alt Kümelerinin Sayısı Alt küme seçimi, n-elemanlı bir kümenin elemanlarının sırasıyla alt küme elemanı olarak seçilip seçilmeyeceğine karar verildiği (binary seçim) ardışık bir süreç olarak düşünülebilir. Dolayısı ile alt küme sayısı, { s1 , s 2 , ..... , s n } 2 ⋅ 2 ⋅ 2 ⋅ ⋅ ⋅ ⋅ ⋅ 2 = 2n n adet ELN3401 Mühendislik Olasılığı 1- Permutasyon n-adet elemandan k-adedinin sıralama gözeterek seçimini içeren bir sayma türüdür. Yani n-elemanlı bir diziden kaç farklı k-elemanlı dizi seçebiliriz? Bu dizilerin sayısına, n-elemanlı bir dizinin k-elemanlı permutasyonu denir. n (n − 1) L (n − (k − 1)) = n(n − 1) L (n − k + 1) (n − k ) L 2 ⋅ 1 n! = (n − k ) L 2 ⋅ 1 (n − k ) ! Özel olarak k=n ise, mümkün dizi sayısına sadece permutasyonları denir. ( n !) 26 harf içinden seçerek kaç farklı 4 harfli kelime üretilebilir? Problem, 26 harfin 4-lü permutasyonlarının sayısını saymaktır. Öyleyse cevap, n! 26 ! = = 358800 (n − k ) ! 22 ! n1 adet klasik, n2 adet rock ve n3 adet halk müziği CDleri vardır. Aynı tür CDler ardışık olarak sıralanmış olmak kaydıyla, CDler kaç değişik şekilde sıralanabilirler? 3! n1!n2 !n3 ! Kombinasyon n-adet elemandan k-adedinin sıralama gözetmeden seçimini içeren bir sayma türüdür. Örnek olarak, A, B, C, D harflerinin 2-li permutasyonları AB, AC, AD, BA, BC, BD, CA, CB, CD, DA, DB, DC iken kombinasyonları AB, AC, AD, BC, BD, CD ⎛n⎞ n! C kn = ⎜⎜ ⎟⎟ = k k ! ( n − k )! ⎝ ⎠ Görüldüğü gibi permutasyonların sayısı kombinasyonların sayısının k! katıdır. ELN3401 Mühendislik Olasılığı 1- Ayrık Parçalama n-elemanlı bir küme ve toplamları n olan pozitif n1, n2, …., nr sayıları veriliyor. Kümeyi her birinin eleman sayısı ni olan r adet ayrık alt kümeye ayırmak istiyoruz. Bu işlem acaba kaç değişik şekilde yapılabilir? ⎛ n ⎞ ⎛ n − n1 ⎞ ⎛ n − n1 − n2 ⎞ ⎛ n − n1 − L − nr −1 ⎞ ⎟⎟ L⎜⎜ ⎟⎟ ⎜⎜ ⎟⎟ ⎜⎜ ⎟⎟ ⎜⎜ ⎝ n1 ⎠ ⎝ n2 ⎠ ⎝ n3 ⎠ ⎠ ⎝ nr (n − n1 ) ! (n − n1 − L − nr −1 ) ! n! LL n1!(n − n1 ) ! n2 !(n − n1 − n2 ) ! nr !(n − n1 − nr −1 − nr ) ! n! n1!n2 !LL nr ! ELN3401 Mühendislik Olasılığı Multinomial katsayı n ⎛ ⎞ ⎜⎜ ⎟⎟ n , n , L L , n r⎠ ⎝ 1 2 1-