π

मार्कोव श्रृंखला स्थिर-अवस्था कैलकुलेटर

स्थिर वितरण · गाउसीय उन्मूलन · Power Iteration

n×n संक्रमण प्रायिकता मैट्रिक्स दर्ज करके गाउसीय उन्मूलन के माध्यम से स्थिर-अवस्था वितरण πP = π ज्ञात करें। Power iteration अभिसरण और बार चार्ट सहित।

त्वरित उदाहरण (Quick Examples)

प्रत्येक पंक्ति का योग 1.000 होना चाहिए

मार्कोव श्रृंखला (Markov Chain) क्या है?

एक मार्कोव श्रृंखला एक stochastic प्रक्रिया है जो निश्चित संक्रमण प्रायिकताओं के अनुसार अवस्थाओं के परिमित समुच्चय के बीच संक्रमण करती है। इसकी महत्वपूर्ण विशेषता यह है कि अगली अवस्था केवल वर्तमान अवस्था पर निर्भर करती है — किसी भी पूर्व इतिहास पर नहीं। इस स्मृतिहीन गुण को मार्कोव गुण कहते हैं।

औपचारिक रूप से, एक discrete-time Markov chain एक संक्रमण प्रायिकता मैट्रिक्स P द्वारा परिभाषित होती है, जहाँ P[i][j] एक चरण में अवस्था i से अवस्था j में जाने की प्रायिकता है। P की प्रत्येक पंक्ति का योग 1.0 होना चाहिए।

स्थिर-अवस्था (Stationary) वितरण

स्थिर-अवस्था वितरण π = [π1, π2, …, πn] एक प्रायिकता सदिश है जो दो शर्तें पूरी करता है:

  • संतुलन समीकरण: πP = π — वितरण श्रृंखला के एक चरण से अपरिवर्तित रहता है
  • Normalization: Σπi = 1 — मान एक वैध प्रायिकता वितरण बनाते हैं

सहजता से, πi दीर्घकाल में अवस्था i में बिताए गए समय का अनुपात है। Ergodic chains के लिए, Pkij k→∞ के साथ πj में अभिसरित होता है।

अद्वितीय स्थिर अवस्था कब होती है?

Ergodic Markov chains के लिए एक अद्वितीय stationary distribution गारंटीकृत है:

  • Irreducible: प्रत्येक अवस्था हर दूसरी अवस्था तक पहुँच सकती है
  • Aperiodic: कोई भी अवस्था में forced periodic cycle नहीं है

Perron-Frobenius प्रमेय गारंटी देता है कि एक positive stochastic matrix में हमेशा एक अद्वितीय stationary distribution होता है — यह PageRank और कई अन्य अनुप्रयोगों का सैद्धांतिक आधार है।

समाधान विधियाँ

गाउसीय उन्मूलन (Gaussian Elimination)

πP = π को (PT − I)π = 0 के रूप में लिखें। यह एक homogeneous रेखीय तंत्र है। अद्वितीय समाधान के लिए, अंतिम समीकरण को normalization constraint Σπi = 1 से बदलें और numerical stability के लिए partial pivoting के साथ Gaussian elimination लागू करें।

Power Iteration

Uniform वितरण π0 = [1/n, 1/n, …, 1/n] से प्रारंभ करें और अभिसरण तक πk+1 = πkP दोहराएं। अभिसरण की दर P के दूसरे सबसे बड़े eigenvalue |λ2| द्वारा नियंत्रित होती है।

Mean Recurrence Time

Ergodic chains के लिए, Mean Recurrence Time μi = 1/πi अवस्था i पर क्रमिक दौरों के बीच अपेक्षित चरणों की संख्या देता है। उच्च steady-state प्रायिकता वाली अवस्थाओं का recurrence time कम होता है।

वास्तविक अनुप्रयोग

  • PageRank: Google वेब को Markov chain के रूप में मॉडल करता है; steady-state distribution पृष्ठों को महत्व के अनुसार रैंक करता है
  • वित्त: Credit rating agencies AAA, AA, A, …, Default ratings के बीच transitions को Markov chain के रूप में मॉडल करती हैं
  • आनुवंशिकी: Hardy-Weinberg equilibrium और mutation के तहत allele frequency drift
  • मौसम मॉडलिंग: Sunny/Cloudy/Rainy जैसे सरल जलवायु पैटर्न
  • Queueing theory: Server load और queue लंबाई steady state में
  • NLP: Text generation, वर्तनी सुधार, और speech recognition

संदर्भ: मौसम उदाहरण (2×2)

से / तकधूपबारिश
धूप0.80.2
बारिश0.40.6

स्थिर अवस्था: π = [2/3, 1/3] ≈ [0.6667, 0.3333]। दीर्घकाल में 66.7% दिन धूप के और 33.3% बारिश के, आज के मौसम से स्वतंत्र।

अक्सर पूछे जाने वाले प्रश्न

मार्कोव श्रृंखला क्या है?
मार्कोव श्रृंखला एक stochastic प्रक्रिया है जहाँ अगली अवस्था में जाने की प्रायिकता केवल वर्तमान अवस्था पर निर्भर करती है, पूर्व अवस्थाओं के इतिहास पर नहीं। संक्रमण मैट्रिक्स P द्वारा परिभाषित, जहाँ P[i][j] अवस्था i से j में जाने की प्रायिकता है। प्रत्येक पंक्ति का योग 1 होता है।
स्थिर-अवस्था वितरण क्या है?
स्थिर-अवस्था वितरण π वह है जो πP = π और Σπi = 1 को संतुष्ट करता है। यह प्रत्येक अवस्था में दीर्घकालीन रूप से बिताए गए समय के अनुपात का प्रतिनिधित्व करता है, प्रारंभिक अवस्था से स्वतंत्र (ergodic chains के लिए)।
स्थिर-अवस्था वितरण कब अस्तित्व में होता है?
एक अद्वितीय stationary distribution ergodic Markov chains के लिए गारंटीकृत है — जो irreducible (हर अवस्था हर दूसरे से पहुँच योग्य) और aperiodic दोनों हों। Positive stochastic matrices हमेशा ergodic होते हैं। Absorbing states वाली chains के एकाधिक stationary distributions हो सकते हैं।
स्थिर वितरण की गणना कैसे होती है?
(PT − I)π = 0 का homogeneous तंत्र बनाएं, अंतिम समीकरण को Σπi = 1 से बदलें, फिर Gaussian elimination से हल करें। वैकल्पिक रूप से, power iteration: uniform vector से प्रारंभ करें और अभिसरण तक P से गुणा करें।
Absorbing Markov Chain क्या है?
Absorbing Markov chain में कम से कम एक absorbing state होती है — P[i][i] = 1 वाली अवस्था जिसे छोड़ा नहीं जा सकता। एक बार प्रवेश करने पर chain वहीं रहती है। ऐसी chains का एकल ergodic steady state नहीं होता; इसके बजाय absorption probabilities और absorption times का विश्लेषण किया जाता है।
स्थिर-अवस्था और क्षणिक व्यवहार में क्या अंतर है?
क्षणिक (transient) व्यवहार chain के शुरुआती चरणों में विकास को दर्शाता है, जो प्रारंभिक वितरण पर निर्भर होता है। Steady-state दीर्घकालीन सीमा π को दर्शाता है जिस पर chain अनेक चरणों के बाद अभिसरित होती है। Mean recurrence time μi = 1/πi अवस्था i पर औसत चरणों की संख्या देता है।
मार्कोव श्रृंखला स्थिर-अवस्था विश्लेषण के वास्तविक अनुप्रयोग क्या हैं?
PageRank (Google का मूल वेब रैंकिंग), वित्त में credit rating transitions, आनुवंशिक allele frequency संतुलन, मौसम और जलवायु पैटर्न मॉडलिंग, server डिज़ाइन के लिए queueing theory, spam filter training, natural language processing (n-gram language models), और network packet routing — सभी Markov chain steady-state analysis पर निर्भर करते हैं।