Voir la source de Facteur d'inflation de la variance

Vous n’avez pas la permission de modifier cette page, pour la raison suivante :

Votre adresse IP fait partie d’une plage qui a été bloquée sur tous les wikis de la Fondation Wikimédia.

Le blocage a été effectué par ‪EPIC‬. Le motif invoqué est Open proxy/Webhost: See the help page if you are affected.

Début du blocage : 2 juillet 2024 à 09:48
Expiration du blocage : 2 juillet 2025 à 09:48

Votre adresse IP actuelle est 206.189.44.186. La plage bloquée est 206.189.32.0/20.

Veuillez inclure tous les détails ci-dessus dans toutes les demandes que vous effectuerez. Si vous pensez avoir été bloqué(e) par erreur, vous pouvez trouver plus d’informations et d’instructions dans la politique globale Pas de serveurs mandataires ouverts.

Sinon, pour discuter du blocage, veuillez publier une demande de révision sur Méta-Wiki. Vous pouvez également envoyer un courriel à la file des coordinateurs VRT à stewards@wikimedia.org, en incluant tous les détails ci-dessus.

Vous pouvez voir et copier le contenu de cette page.

== Définition ==
Considérez le [[modèle linéaire]] suivant avec ''k'' variables indépendantes, notée ''X'' <sub>''k''</sub> :

: ''Y'' = ''β'' <sub>0</sub> + ''β'' <sub>1</sub> ''X'' <sub>1</sub> + ''β'' <sub>2</sub> ''X'' <sub>2</sub> + ... + ''β'' <sub>''k''</sub> ''X'' <sub>''k''</sub> + ''ε''.

L'[[erreur type]] de l'estimation de ''β'' <sub>''j''</sub> est la racine carrée de ''j''+1 élément diagonal de ''s''<sup>2</sup>(''X'' ′''X'' ) <sup>− 1</sup>, où ''s'' est la racine de l'[[Racine de l'erreur quadratique moyenne|erreur quadratique moyenne (RMSE)]] (notez que RMSE<sup>2</sup> est un estimateur convergent de la vraie variance du terme d'erreur, <math> \sigma^2 </math>); ''X'' est la matrice d'expérience de la régression — une matrice telle que ''X'' <sub>''i'', ''j'' +1</sub> est la valeur de la ''j'' <sup>ème</sup> [[variable indépendante]] pour la ''i''<sup>ème</sup> observation, et telle que ''X''<sub>''i'',1</sub>, le vecteur prédicteur associé à l'intercept, est égal à 1 pour tout ''i''. Il s'avère que le carré de cette erreur standard, la variance estimée de l'estimation de ''β''<sub>''j''</sub>, peut être exprimé de manière équivalente comme suit<ref>{{Ouvrage|prénom1=John O.|nom1=Rawlings|prénom2=Sastry G.|nom2=Pantula|prénom3=David A.|nom3=Dickey|titre=Applied regression analysis : a research tool|lieu=New York|éditeur=Second|date=1998|pages totales=[https://archive.org/details/appliedregressio00rawl_492/page/n384 372], 373|isbn=0387227539|oclc=54851769|lire en ligne=https://archive.org/details/appliedregressio00rawl_492|accès url=limité}}</ref>{{,}}<ref>{{Ouvrage|prénom1=Julian J.|nom1=Faraway|titre=Practical Regression and Anova using R|année=2002|pages totales=117, 118|lire en ligne=https://cran.r-project.org/doc/contrib/Faraway-PRA.pdf}}</ref>:

: <math>
\widehat{\operatorname{var}}(\hat{\beta}_j) = \frac{s^2}{(n-1)\widehat{\operatorname{var}}(X_j)}\cdot \frac{1}{1-R_j^2},
</math>

où ''R''<sub>''j''</sub> <sup>2</sup> est le [[Coefficient de détermination|''R<sup>2</sup> -multiple'']]  pour la régression de ''X''<sub>''j''</sub> sur les autres covariables (une régression qui n'implique pas la variable de réponse ''Y'' ) et <math>\hat{\beta}_j</math> sont les [[Estimateur (statistique)|estimateurs]] des coefficients, c'est à dire, des vrais <math>{\beta}_j</math>. Cette identité sépare les influences de plusieurs facteurs distincts sur la variance de l'estimation du coefficient :

* ''s'' <sup>2</sup> : une plus grande dispersion dans les données autour de la surface de régression conduit à une variance proportionnellement plus grande dans les estimations des coefficients.
* ''n'' : une taille d'échantillon plus grande entraîne une variance proportionnellement plus faible dans les estimations des coefficients.
* <math>\widehat\operatorname{var}(X_j)</math>: une plus grande variabilité dans une covariable particulière conduit à une variance proportionnellement plus faible dans l'estimation du coefficient correspondant.

Le terme restant, 1/(1-''R''<sub>''j''</sub><sup>2</sup>) est le VIF. Il reflète tous les autres facteurs qui influencent l’incertitude dans les estimations des coefficients. Le VIF est égal à 1 lorsque le vecteur ''X''<sub>''j''</sub> est [[Orthogonalité|orthogonal]] à chaque colonne de la matrice de conception pour la régression de ''X'' <sub>''j''</sub> sur les autres covariables. En revanche, le VIF est supérieur à 1 lorsque le vecteur ''X'' <sub>''j''</sub> n’est pas orthogonal à toutes les colonnes de la matrice de conception pour la régression de ''X'' <sub>''j''</sub> sur les autres covariables. Enfin, notons que le VIF est invariant à la mise à l'échelle des variables (c'est-à-dire que nous pourrions mettre à l'échelle chaque variable ''X'' <sub>''j''</sub> par une constante ''c'' <sub>''j''</sub> sans changer le VIF).

: <math>
\widehat{\operatorname{var}}(\hat{\beta}_j) = s^2 [(X^T X)^{-1}]_{jj}
</math>

Maintenant, posons <math>r= X^T X</math>, et sans perdre la généralité, nous réorganisons les colonnes de ''X'' pour définir la première colonne comme <math>X_j</math>

: <math>
r^{-1} = \begin{bmatrix} r_{j,j} & r_{j,-j} \\ r_{-j,j} & r_{-j,-j}\end{bmatrix}^{-1}
</math>

: <math> r_{j,j} = X_j^T X_j, r_{j,-j} = X_j^T X_{-j}, r_{-j,j} = X_{-j}^T X_j, r_{-j,-j} = X_{-j}^T X_{-j}</math>.

En utilisant le [[complément de Schur]], l'élément de la première ligne et de la première colonne de <math> r^{-1} </math> est :

: <math>r^{-1}_{1,1} = [r_{j,j} - r_{j,-j} r_{-j,-j}^{-1} r_{-j,j} ]^{-1} </math>

Ensuite nous avons,

: <math>
\begin{align}
& \widehat{\operatorname{var}}(\hat{\beta}_j) = s^2 [(X^T X)^{-1}]_{jj} = s^2 r^{-1}_{1,1} \\
= {} & s^2 [X_j^T X_j - X_j^T X_{-j} (X_{-j}^T X_{-j})^{-1} X_{-j}^T X_j ]^{-1} \\ 
= {} & s^2 [X_j^T X_j - X_j^T X_{-j} (X_{-j}^T X_{-j})^{-1} (X_{-j}^T X_{-j}) (X_{-j}^T X_{-j})^{-1} X_{-j}^T X_j ]^{-1} \\
= {} & s^2 [X_j^T X_j - \hat{\beta}_{*j}^T(X_{-j}^T X_{-j}) \hat{\beta}_{*j} ]^{-1} \\
= {} & s^2 \frac{1}{\mathrm{RSS}_j} \\
= {} & \frac{s^2}{(n-1)\widehat\operatorname{var}(X_j)}\cdot \frac{1}{1-R_j^2}
\end{align}
</math>

Ici, <math> \hat{\beta}_{*j} </math> est le coefficient de régression de la variable dépendante <math>X_j </math> sur la covariable <math>X_{-j} </math>. <math>\mathrm{RSS}_j </math> est la somme des carrés des résidus correspondante.

Revenir à la page Facteur d'inflation de la variance.

Ce document provient de « https://fr.wikipedia.org/wiki/Facteur_d%27inflation_de_la_variance ».