התפלגות מרצ'נקו-פסטור

התפלגות מרצ'נקו פסטור

פונקציית צפיפות ההסתברות
מאפיינים
פרמטרים	${\displaystyle \sigma }$ סטיית תקן ערכי המטריצה, ${\displaystyle \lambda \in (0,\infty )}$
תומך	${\displaystyle x\in [\lambda ^{-},\lambda ^{+}]\!}$ כאשר:${\displaystyle \lambda ^{-}=\sigma ^{2}(1-{\sqrt {\lambda }})^{2},\lambda ^{+}=\sigma ^{2}(1+{\sqrt {\lambda }})^{2}}$
פונקציית צפיפות הסתברות (pdf)	${\displaystyle (1-{\frac {1}{\lambda }})_{+}\delta _{0}+{\frac {\sqrt {(\lambda ^{+}-x)(x-\lambda ^{-})}}{2\pi \sigma ^{2}\lambda x}}1_{[\lambda ^{-},\lambda ^{+}]}(x)dx\!}$
תוחלת	${\displaystyle \sigma ^{2}}$
שונות	${\displaystyle \sigma ^{4}\lambda }$

התפלגות מרצ'נקו פסטור היא פונקציית התפלגות מתחום המטריצות האקראיות. השימוש העיקרי בה הוא תיאור ההתנהגות האסימפטוטית של ערכים עצמיים של מטריצות אקראיות בעלות ערכים ממשיים, בלתי תלויים ושווי התפלגות.

ההתפלגות (שלעיתים נקראת גם חוק מרצ'נקו-פסטור) קרויה על שם צמד המתמטיקאים הסובייטים וולודימיר מרצ'נקו וליאוניד פסטור שהוכיחו אותה בשנת 1967.

תהי ${\displaystyle X}$ מטריצה אקראית בגודל ${\displaystyle m\times n}$ שערכיה הם משתנים מקריים בלתי תלויים ושווי התפלגות המקיימים ${\displaystyle E[X_{ij}]=0}$ ו- ${\displaystyle E[X_{ij}^{2}]=\sigma ^{2}<\infty }$ לכל ${\displaystyle 1\leq i\leq m,1\leq j\leq n}$. בנוסף נניח כי ${\displaystyle m,n\rightarrow \infty }$ כך ש- ${\displaystyle {\frac {m}{n}}\rightarrow \lambda \in (0,\infty )}$, ונסמן${\displaystyle \lambda ^{-}=\sigma ^{2}(1-{\sqrt {\lambda }})^{2},\lambda ^{+}=\sigma ^{2}(1+{\sqrt {\lambda }})^{2}}$.

נסמן ${\displaystyle Y={\frac {1}{n}}XX^{T}}$. נשים לב כי ${\displaystyle Y}$ מטריצה חיובית ויהיו ${\displaystyle \lambda _{1},...,\lambda _{m}}$ ערכיה העצמיים. כמו כן, נסמן ב- ${\displaystyle \mu _{m}}$ את פונקציית התפלגות הערכים העצמיים שלה (Empirical Spectral Measure) אשר אותה נרצה לאמוד. פונקציית ההתפלגות מוגדרת לכל קבוצה ${\displaystyle A}$ חלקית של ${\displaystyle \mathbb {R} }$ על ידי: $${\displaystyle \mu _{H}(A)={\frac {1}{n}}\,\#\left\{{\text{eigenvalues of }}H{\text{ in }}A\right\},\quad A\subset \mathbb {R} .}$$ או באמצעות הניסוח השקול: $${\displaystyle \mu _{H}(A)={\frac {1}{n}}\sum _{i}\delta _{\lambda _{i}}}$$

כאשר תנאי המשפט מתקיימים, הפונקציה ${\displaystyle \mu _{m}}$ מקיימת ${\displaystyle \mu _{m}\rightarrow \mu }$ כאשר ${\displaystyle \mu }$ היא פונקציה המוגדרת באופן הבא:

המקרה ${\displaystyle 0<\lambda \leq 1}$

במקרה זה מתקיים כי המטריצה ${\displaystyle Y}$ היא בסבירות גבוהה הפיכה והפונקציה ${\displaystyle \mu }$ מוגדרת על ידי:

${\displaystyle d\mu (x)={\frac {1}{2\pi \sigma ^{2}\lambda x}}{\sqrt {(\lambda ^{+}-x)(x-\lambda ^{-})}}1_{[\lambda ^{-},\lambda ^{+}]}(x)dx}$

המקרה ${\displaystyle \lambda >1}$

במקרה זה למטריצה ${\displaystyle Y}$ יש ערך עצמי 0 עם ריבוב התלוי בפרמטר ${\displaystyle \lambda }$. זה בא לידי ביטוי בפונקציה בתור נקודת מסה ${\displaystyle \mu }$ בנקודה 0. השינוי ביחס למקרה ${\displaystyle \lambda \leq 1}$ מתקבל על ידי הוספה של של הביטוי ${\displaystyle (1-{\frac {1}{\lambda }})\delta _{0}}$ כאשר ${\displaystyle \delta _{0}}$ זוהי פונקציית דלתא, כך שבמקרה זה הפונקציה ${\displaystyle \mu }$ היא:

${\displaystyle d\mu (x)=(1-{\frac {1}{\lambda }})\delta _{0}+{\frac {1}{2\pi \sigma ^{2}\lambda x}}{\sqrt {(\lambda ^{+}-x)(x-\lambda ^{-})}}1_{[\lambda ^{-},\lambda ^{+}]}(x)dx}$

לעיתים מקובל לחבר את שני המקרים לביטוי אחד באופן הבא: מגדירים את הפונקציה ${\displaystyle (x)_{+}=max(x,0)}$ ובכך ניתן להחליף את המחובר הראשון עם הביטוי ${\displaystyle (1-{\frac {1}{\lambda }})_{+}\delta _{0}}$ ובכך מקבלים ביטוי יחיד עבור שני המקרים.

במקרה זה מתקיים ${\displaystyle \lambda ^{-}=0,\lambda ^{+}=4}$ וכן:

${\displaystyle d\mu (x)={\frac {1}{2\pi x}}{\sqrt {(4-x)x}}1_{[0,4]}(x)dx}$

עבור החלפת המשתנים ${\displaystyle x=u^{2},dx=2udu}$ מקבלים:

${\displaystyle d\mu (u)={\frac {1}{2\pi u^{2}}}{\sqrt {(4-u^{2})u^{2}}}1_{[0,2]}(u)*2udu={\frac {1}{\pi }}{\sqrt {(4-u^{2})}}1_{[0,2]}(u)du}$

התפלגות זו נקראת גם "חוק רבע המעגל". ניתן לשים לב לדמיון הרב בין ביטוי זה להתפלגות חצי המעגל של ויגנר.

עבור ${\displaystyle k\geq 1}$ המומנט ה-${\displaystyle k}$ של ההתפלגות נתון על ידי:

$${\displaystyle \sum _{r=0}^{k-1}{\frac {\sigma ^{2k}}{r+1}}{\binom {k}{r}}{\binom {k-1}{r}}\lambda ^{r}={\frac {\sigma ^{2k}}{k}}\sum _{r=0}^{k-1}{\binom {k}{r}}{\binom {k}{r+1}}\lambda ^{r}}$$

מהצבה של ${\displaystyle k=1}$ ניתן לחשב כי תוחלת ההתפלגות היא ${\displaystyle \sigma ^{2}}$. כעת על ידי ההצבה ${\displaystyle k=2}$ השונות שמתקבלת היא ${\displaystyle \sigma ^{4}\lambda }$.

אחת הדרכים להוכחת המשפט היא באמצעות שיטת המומנטים. מכיוון שהתומך של ${\displaystyle \mu }$ קומפקטי היא נקבעת באופן בלעדי באמצעות המומנטים שלה. חישוב ישיר מראה כי

$${\displaystyle \int x^{k}d\mu ={\frac {\sigma ^{2k}}{k}}\sum _{r=0}^{k-1}{\binom {k}{r}}{\binom {k}{r+1}}\lambda ^{r}}$$

המשפט מוכח באמצעות שימוש בלמה של בורל-קנטלי, בכך שמוכיחים כי

${\displaystyle \mathbb {E} [\int x^{k}d\mu _{m}]\rightarrow \int x^{k}d\mu }$

וגם

${\displaystyle Var(\int x^{k}d\mu _{m})\leq {\frac {C_{k}}{n^{2}}}}$

טרנספורמציית סטילטיס של ההתפלגות נתונה על ידי הפונקציה:

${\displaystyle s(z)={\frac {\sigma ^{2}(1-\lambda )-z+{\sqrt {(z-\sigma ^{2}(\lambda +1))^{2}-4\lambda \sigma ^{4}}}}{2\lambda z\sigma ^{2}}}}$

עבור z מספר מרוכב בעל ערך מדומה אי-שלילי, וכאשר השורש הריבועי נלקח גם כן להיות בעל ערך מדומה אי-שלילי. פונקציה זו היא פתרון למשוואה הריבועית

${\displaystyle \lambda \sigma ^{2}zs(z)^{2}+[z+\sigma ^{2}(\lambda +1)]s(z)+1=0}$

טרנספורמציית סטילטיס משמשת גישה נוספת להוכחה של המשפט באופן הבא:

תחילה מראים כי הטרנספורמציה של ${\displaystyle \mu _{m}}$ מרוכזת סביב התוחלת שלה, כלומר אם נסמן את הטרנספורמציה שלה ב-${\displaystyle g(z)}$ אז מתקיים:

${\displaystyle g(z)-\mathbb {E} [g(z)]\rightarrow 0,m\rightarrow \infty }$

בנוסף, יש להראות כי פונקציה זו פותרת את המשווה:

${\displaystyle \lambda \sigma ^{2}zg(z)^{2}+[z+\sigma ^{2}(\lambda +1)]g(z)+1=\epsilon _{m}}$

כאשר ${\displaystyle \epsilon _{m}\rightarrow 0}$ עבור ${\displaystyle m\rightarrow \infty }$. לבסוף מראים יציבות של המשוואה האחרונה.

ערכים מורחבים – מודל spiked covariance

דוגמה לשימוש בהתפלגות מרצ'נקו פסטור היא במודל spiked covariance. כאשר עובדים עם מטריצה שערכיה רועשים, ניתן לעיתים להניח כי הרעש מבוטא כמטריצה שערכיה הם שווי התפלגות ובלתי תלויים, ולכן ערכיה העצמיים מתפלגים לפי מרצ'נקו פסטור.

כעת מוסיפים למטריצת הרעש את המטריצה המקורית, מקבלים שערכיה העצמיים של המטריצה המקורית לא השתנו בהרבה, ולכן אם הם נמצאים מחוץ לתומך של מרצ'נקו פסטור ניתן יהיה לזהות אותם מבין הערכים העצמיים של המטריצה החדשה. בנוסף ניתן יהיה לשחזר בקירוב את הערך העצמי המקורי ואת הווקטור העצמי המתאים לו. דרך זו היא דוגמה להפחתת רעשים (אנ') בעזרת התפלגות מרצ'נקו פסטור.

ניתן להיעזר בהתפלגות במרצ'נקו פסטור בשימוש ב-PCA. השימוש בהתפלגות עוזר למצוא את הרכיבים העיקריים שיעזרו לאפיין את הסיגנל המקורי, ולהפריד אותם מרכיבים אחרים שככל הנראה מאפיינים רעש. בדרך זו אפשר לחשוב על קצה התומך הימני של ההתפלגות בתור "סף" אשר קובע באילו ערכים עצמיים (או באופן שקול רכיבים עיקריים) נשתמש ובאילו לא.

מלבד הפחתת רעשים, השילוב בטכניקה זו עוזר גם בכיווץ, ובהבנה טובה יותר של המידע, והוא נפוץ במגוון תחומים, ביניהם: רפואה, גנומיקה וביואינפורמטיקה, ניתוח טכני, כיווץ תמונות וסרטונים, אסטרונומיה, ועוד.

• מטריצה אקראית
• התפלגות חצי המעגל של ויגנר
• התפלגות טרייסי-וידום
• מודל spiked covariance

התפלגויות
התפלגויות בדידות כלליות	אחידה בדידה • בינומית • מולטינומית • בינומית שלילית • ברנולי • גאומטרית • היפרגאומטרית • היפרגאומטרית שלילית • מנוונת • פואסון
התפלגויות רציפות כלליות	אחידה רציפה • בטא • גמא • לוג-נורמלית • מעריכית (אקספוננציאלית) • נורמלית (גאוסית) • לפלס • משולשת • פארטו • ריילי • קושי • כי בריבוע • חצי המעגל של ויגנר • התפלגות טרייסי-וידום
התפלגויות בפיזיקה סטטיסטית	בולצמן • מקסוול-בולצמן • בוז-איינשטיין • פרמי-דיראק • זטא
התפלגויות נוספות	התפלגות t • התפלגות F • ארלנג • וייבול • לוגיסטית
סוגי התפלגויות	בדידה • רציפה • מותנית • נורמלית מוכללת • זנב עבה • לא פריקה • משותפת