Ch3 Inférence Dans Les Modèles de régression Non Linéaires | Confidence Interval | Linear Regression\nsaveSave Ch3 Inférence Dans Les Modèles de régression Non L... For Later\nGlossaire D_écono Métrie(1)\nInférence dans les\nModèles de Régression non Linéaire\nSupposons que l’on dispose d’un vecteur y donné des observations de quelques\nvariables dépendantes, d’un vecteur x(β) de fonctions de régression en général\nnon linéaires, qui devraient dépendre et dépendront en général de variables\nindépendantes, et des données nécessaires au calcul de x(β). Puis en sup-\nposant que ces données permettent d’identifier tous les éléments du vecteur\nde paramètres β, et que l’on ait accès à un programme informatique adéquat\npour les moindres carrés non linéaires et à suffisamment de temps, il serait\npossible d’obtenir des estimations NLS β̂. Dans le but d’interpréter ces esti-\nmations, il faut généralement faire l’hypothèse très forte selon laquelle y est\nen réalité généré par un DGP de la famille\ny = x(β) + u, u ∼ IID(0, σ 2 I), (3.01)\nde sorte que le modèle est supposé “correct”. Sans recourir à cette hypothèse,\nou à une de ses variantes moins restrictives, il serait extrêmement difficile de\ndire quoi que ce soit à propos des propriétés de β̂, bien que cela soit possible\ndans certains cas particuliers.\nIl est clair que β̂ doit être un vecteur de variables aléatoires, puisqu’il\ndépend de y, et donc du vecteur d’aléas u. Ainsi, si l’on désire opérer des\ninférences sur β, il nous faut reconnaı̂tre que β̂ est aléatoire, et quantifier cet\naléa. Dans le Chapitre 5, nous démontrerons lorsque la taille de l’échantillon\nest suffisamment importante qu’il est raisonnable de traiter β̂ comme nor-\nmalement distribué autour de la vraie valeur de β, que nous nommerons β0 .\nAinsi, la seule chose dont on a besoin si l’on désire pratiquer des inférences\nasymptotiques correctes à propos de β est la matrice de covariance de β̂,\nnotée V (β̂). Dans la prochaine section, nous verrons comment la matrice\nde covariance pourrait être estimée pour les modèles de régression linéaire et\nnon linéaire, et dans la Section 3.3 nous montrerons comment les estimations\nobtenues peuvent être utilisées pour faire des inférences sur β. Dans la Sec-\ntion 3.4, nous discuterons des idées de base qui sous-tendent tous les types\n3.2 Estimation de la Matrice de Covariance 73\nde tests d’hypothèses. Dans la Section 3.5, nous discuterons des procédures\npour les tests d’hypothèses dans les modèles de régression linéaire, et dans\nla Section 3.6, nous verrons les procédures similaires qui s’appliquent aux\ntests d’hypothèses dans les modèles de régression non linéaire. Cette dernière\nsection nous offrira l’opportunité de présenter les trois principes fondamen-\ntaux sur lesquels la plupart des tests d’hypothèses se basent, c’est-à-dire les\nprincipes de Wald, du multiplicateur de Lagrange et du rapport de vraisem-\nblance. Enfin, dans la Section 3.7, nous discuterons des effets de restric-\ntions incorrectes, et nous introduirons la notion des estimateurs issus des\n3.2 Estimation de la Matrice de Covariance\nDans le cas du modèle de régression linéaire\ny = Xβ + u, u ∼ IID(0, σ 2 I), (3.02)\nil est bien connu que lorsque le DGP vérifie (3.02) pour des valeurs définies des\nparamètres de β0 et de σ0 , la matrice de covariance du vecteur des estimations\nβ̂ obtenu par OLS, est\nV (β̂) = σ02 X>X . (3.03)\nLa démonstration de ce résultat familier est assez immédiate. La matrice de\ncovariance V (β̂) est définie comme l’espérance du produit extérieur de β̂ − β0\navec lui-même, conditionnellement aux variables indépendantes X. A partir\nde cette définition, et en utilisant le fait que E(β̂) = β0 , on remplace tout\nd’abord β̂ par un terme qui lui est équivalent sous le DGP, puis on calcule\nl’espérance conditionnellement à X, et on simplifie l’expression algébrique\npour obtenir (3.03):\nV (β̂) ≡ E(β̂ − β0 )(β̂ − β0 )>\n¡ ¢¡ ¢\n= E (X>X)−1X>y − β0 (X>X)−1X>y − β0 >\n= E (X>X)−1X>(Xβ0 + u) − β0 (X>X)−1X>(Xβ0 + u) − β0 >\n= E β0 + (X>X)−1X>u − β0 β0 + (X>X)−1X>u − β0 >\n= E X>X X>uu>X X>X\n¡ ¢−1 ¡ ¢ ¡ ¢−1\n= X>X X> σ02 I X X>X\n= σ02 X>X X>X X>X\n= σ02 X>X .\nObtenir un résultat analogue pour le modèle de régression non linéaire (3.01)\nrequiert quelques concepts d’analyse asymptotique que nous n’avons pas\n74 Inférence dans les Modèles de Régression non Linéaire\ndéveloppés jusqu’ici, et une certaine quantité de manipulations mathéma-\ntiques. Nous repoussons donc cette analyse au Chapitre 5, et nous établissons\nici un résultat au plus approximatif.\nPour un modèle non linéaire, on ne peut pas en général obtenir une\nexpression exacte de V (β̂) dans le cas d’un échantillon de taille finie. Dans\nle Chapitre 5, sous l’hypothèse que les données ont été générées par un DGP\nqui serait un cas particulier de (3.01), nous obtiendrons toutefois un résultat\nasymptotique qui nous permettra d’établir que\nV (β̂) ∼\n= σ02 X>(β0 )X(β0 ) , (3.04)\noù = ∼ signifie “est approximativement égal à”, et X(β0 ) est la matrice\ndes dérivées partielles de la fonction de régression présentée dans (2.04).\nLa qualité de cette approximation dépendra du modèle et de la taille de\nl’échantillon. Elle sera en général bien meilleure pour des modèles quasiment\nlinéaires et pour des échantillons de grande taille.\nDans la pratique, nous ne pourrions bien évidemment pas faire usage de\n(3.04) car σ02 et β0 ne sont pas connus; il nous faut les estimer. Le seul moyen\nraisonnable d’estimer β0 dans ce contexte est de prendre β̂, mais il y a au\nmoins deux façons d’estimer σ02 . Il en résulte deux façons d’estimer V (β̂). La\npremière que l’on peut utiliser est\nV̂ (β̂) ≡ σ̂ 2 X̂>X̂ , (3.05)\noù σ̂ 2 ≡ n−1SSR(β̂), et l’autre est\nVs (β̂) ≡ s2 X̂>X̂ , (3.06)\noù s2 ≡ (n − k)−1SSR(β̂).\nLe premier de ces estimateurs, l’expression (3.05), fait usage de l’estima-\nteur σ 2 du maximum de vraisemblance (consulter le Chapitre 8), qui est biaisé\nvers le bas. Pour se rendre compte de cela, remarquons que\nSSR(β̂) ≤ SSR(β0 ).\ncar SSR(β̂) minimise SSR(β). De plus,\nE SSR(β0 ) = nσ02 ,\nsous le DGP présumé, car SSR(β0 ) est alors tout simplement t=1 ut , et\nut a une espérance égale à σ0 . Ainsi, en faisant usage de σ̂ dans (3.05),\nnous tendrons à sous-estimer σ 2 et donc, à sous-estimer la variabilité de nos\nestimations des paramètres.\n3.2 Estimation de la Matrice de Covariance 75\nCela suggère que nous devrions prendre s2 au lieu de σ̂ 2 lorsque nous\nestimons la matrice de covariance pour les estimations des paramètres dans\nles modèles de régression non linéaire, et ce en dépit du fait qu’il n’y ait\naucune justification exacte dans le cas d’un échantillon fini pour pratiquer\nde la sorte. Il semble qu’un consensus autour de cette approche se mani-\nfeste, bien que quelques progiciels de régression non linéaire fassent toujours\nusage de σ̂ 2. La raison pour laquelle on utilise s2 est que dans le cas de la\nrégression linéaire, il entraı̂ne une estimation non biaisée de σ 2, et le bon sens\n(combiné à l’évidence apportée par les expériences Monte Carlo) suggère qu’il\nentraı̂nera systématiquement une estimation moins biaisée dans le cas non\nLe fait que s2 offre une estimation non biaisée de σ 2 dans le cas de\nla régression non linéaire est sans aucun doute bien connu des lecteurs.\nMalgré tout, il reste suffisamment important pour que nous esquissions la\ndémonstration. Dans le cas linéaire pour lequel x(β) = Xβ,\nSSR(β̂) ≡ (y − Xβ̂)>(y − Xβ̂)\n= y − X(X>X)−1X>y > y − X(X>X)−1X>y\n¡ ¢ (3.07)\n= y> I − X(X>X)−1X> y\n= y>MX y.\nSous le DGP que nous avons utilisé, y>MX y devient\n(Xβ0 + u)>MX (Xβ0 + u).\nMais souvenons-nous que MX annule tout ce qui se situe dans S(X). L’espé-\nrance conditionnelle Xβ0 se situe assurément dans S(X), de sorte que SSR(β̂)\nse résume à\nL’espérance de cette expression est\nE(u>MX u) = E Tr(u>MX u)\n= E Tr(MX uu>)\n= Tr MX σ02 I (3.08)\n= σ02 Tr MX\n= σ02 (n − k),\noù la deuxième et la dernière ligne de (3.08) font usage de la propriété pratique\nde la trace que nous avons déjà rencontrée à la Section 1.6. Les lecteurs qui\nne sont pas familiers avec ce résultat en (3.08) souhaiteront probablement\n76 Inférence dans les Modèles de Régression non Linéaire\n... Xβ0...................... S(X)\n... S⊥ (X)\n... X β̂ ....\n... ........... ... ..\n. ... .. u\n........... O .....\nFigure 3.1 Les résidus sont inférieurs aux aléas\nL’intuition de l’expression (3.08) est claire. Elle nous indique que, en\nmoyenne, les résidus au carré sont (n − k)/n fois plus grands que les aléas\noriginels au carré. De fait, alors, chacune des k dimensions de l’espace en-\ngendré par X “absorbe” un des aléas d’origine. Cette “absorption” a été\nreprésentée sur la Figure 3.1 dans le cas d’un modèle de régression linéaire\npour lequel k = 1. Ici y est en fait égal à Xβ0 + u. La longueur du vecteur\nû = MX y est inférieure à la longueur du véritable vecteur d’aléas u, car le\npremier est orthogonal à S(X) alors que le second ne l’est pas.\nCette “absorption” des aléas originels engendre les erreurs que les moin-\ndres carrés entraı̂nent en estimant le vecteur des coefficients. Les composantes\nde u qui ne sont pas orthogonales à X sont projetées sur S(X) et donc finissent\ndans β̂. Cela arrive à tous les éléments de u à des degrés différents. Comme\nla discussion à propos de la pondération dans la Section 1.6 a dû le montrer,\nquelques résidus au carré seront moins de (n − k)/n fois plus grands que les\naléas au carré correspondantes, alors que d’autres seront plus que (n − k)/n\nfois plus grandes. L’analyse algébrique nous montre que\nE(û2t ) = E(yt − Xt β̂)2\n= E(yt − Xt β0 + Xt β0 − Xt β̂)2\n= E ut − Xt (β̂ − β0 )\n= E(u2t ) − 2E ut Xt (X>X)−1X>u\n+ E Xt (X>X)−1X>uu>X(X>X)−1Xt>\n= σ02 − 2σ02 Xt (X>X)−1Xt> + σ02 Xt (X>X)−1Xt>\n= σ02 1 − Xt (X>X)−1Xt>\n= σ02 Mtt ,\noù Xt est la ligne t de X. Ici, Mtt , l’élément diagonal t de MX , est égal à 1−ht ,\nht étant l’élément diagonal t de PX . Ce résultat utilise le fait que E(ut us ) = 0\n3.3 Intervalles de Confiance et Régions de Confiance 77\npour tout t 6= s. Pour les observations fortement pondérées (c’est-à-dire avec\nun¡ ht fort), l’espérance\n¢ 2 du résidu au carré û2t sera substantiellement inférieure\nà (n − k)/n σ0 .\nA partir de (3.08), il est clair que l’estimateur\ns2 ≡ (3.09)\naura une espérance égale à σ02 si les données avaient été générées par un\ncas particulier de (3.02). Cet estimateur paraı̂t donc être un estimateur\nraisonnable dans un contexte de moindres carrés ordinaires, et c’est ce que\npresque tous les programmes de régression par moindres carrés ordinaires\nutilisent lorsqu’ils calculent la matrice de covariance OLS. Mais notons que\nbien que s2 soit non biaisé pour σ 2, s n’est pas non biaisé pour σ, car prendre\nla racine carrée de s2 n’est pas une opération linéaire.\nCes résultats doivent rendre évident le fait que dans le cas des modèles\nde régression linéaire, l’estimateur standard de la covariance OLS\nVs (β̂) ≡ s2 X>X , (3.10)\noffre une estimation non biaisée de la véritable matrice de covariance, qui est\nσ02 (X>X)−1. Toutefois, et par contraste avec le cas linéaire, toute tentative\nde pratiquer des inférences à partir des estimations des modèles de régression\nnon linéaire sera entravée par le fait que (3.04) n’est elle-même qu’une ap-\nproximation, et que (3.06) est au plus une évaluation de (3.04). Malgré cela,\nla plupart des utilisateurs traitent (3.06), et même (3.05), exactement de la\nmême manière que la matrice habituelle de covariance des OLS (3.10) pour\nconstruire des intervalles de confiance et des tests d’hypothèses pour de nom-\nbreux éléments de β. Parce que (3.06) n’est qu’une évaluation, c’est pourtant\nune opération risquée. Malgré tout, dans les deux sections qui suivent, nous\ndiscuterons de ce qu’implique cette opération.\n3.3 Intervalles de Confiance et Régions de Confiance\nUn intervalle de confiance pour un paramètre unique à un niveau quelconque\nα (compris entre 0 et 1) est un intervalle sur la droite réelle construit de\ntelle manière que l’on peut être sûr que la véritable valeur du paramètre se\nsituera dans cet intervalle (1 − α)% du temps. Une région de confiance est\nconceptuellement la même chose, sauf que c’est une région dans un espace à\nl dimensions (habituellement l’analogue d’une ellipse à l dimensions) qui est\nconstruite de manière à ce que la vraie valeur d’un vecteur de paramètres à\nl composantes se trouve dans cette région (1 − α)% du temps. Remarquons\nque lorsque nous trouvons un intervalle de confiance, nous ne faisons aucune\naffirmation concernant la distribution du paramètre lui-même, mais plutôt\n78 Inférence dans les Modèles de Régression non Linéaire\nsur la probabilité que notre intervalle aléatoire, à cause de sa construction\nen termes des estimations des paramètres et de leur matrice de covariance,\ncomprenne la véritable valeur.\nDans le contexte des modèles de régression, la construction d’un intervalle\nde confiance se fait généralement à l’aide d’une estimation du seul paramètre\nen cause, d’une estimation de son écart type, et d’une valeur critique que l’on\nprend soit dans la distribution normale, soit dans la distribution de Student.\nL’écart type estimé est bien évidemment la racine carrée de l’élément appro-\nprié de la diagonale de la matrice de covariance estimée. La valeur critique\ndépend de 1 − α, la probabilité que l’intervalle de confiance prenne la vraie\nvaleur; si nous désirons que cette probabilité soit proche de un, la valeur cri-\ntique devra être relativement importante, et par là l’intervalle de confiance\nSupposons que le paramètre qui nous intéresse soit β1 , que son estimation\nNLS soit β̂1 , et que l’écart type estimé de l’estimateur soit\nŜ(β̂1 ) ≡ s (X̂>X̂)11 .\nIl nous faut tout d’abord connaı̂tre la longueur de notre intervalle de confiance\nen termes de l’écart type estimé Ŝ(β̂1 ). Nous recherchons donc la valeur de\nα dans une table bilatérale de la distribution normale ou de la distribution\nde Student, ou la valeur α/2 dans une table unilatérale.1 Cela nous donne la\nvaleur critique cα . Nous trouvons donc un intervalle de confiance approximé\nβ̂1 − cα Ŝ(β̂1 ) à β̂1 + cα Ŝ(β̂1 ), (3.11)\nqui comprendra la vraie valeur de β1 , grossièrement, dans (1−α)% des cas. Par\nexemple, si α était .05 et si l’on utilisait les tables pour la distribution normale,\nnous trouverions une valeur critique bilatérale égale à 1.96. Cela implique que,\npour la distribution normale avec une espérance µ et une variance ω 2, 95%\nde la masse de probabilité de cette distribution se situe entre µ − 1.96ω et\nµ + 1.96ω. Donc dans ce cas, notre intervalle de confiance approximé irait de\nβ̂1 − 1.96Ŝ(β̂1 ) à β̂1 + 1.96Ŝ(β̂1 ).\nA l’évidence, nous faisons de fortes hypothèses lorsque nous construisons\nun intervalle de confiance de cette façon. Premièrement, il nous faut supposer\nque β̂1 est normalement distribué, une hypothèse qui n’est strictement jus-\ntifiée que si nous traitons un modèle de régression avec des régresseurs fixes et\nEn réalité, nous laisserions sans doute l’ordinateur moderne remplir cette tâche.\nUn programme de statistiques convenable devrait être capable de donner la\nvaleur critique associée à tout niveau de signification α, ainsi que le niveau de\nsignification correspondant à une valeur critique, pour les distributions nor-\nmales, de Student, de Fisher et du χ2 .\n3.3 Intervalles de Confiance et Régions de Confiance 79\ndes aléas normaux.2 Deuxièmement, nous supposons que Ŝ(β̂1 ) est la véritable\ndéviation moyenne de β̂1 , ce qui ne sera en fait jamais le cas. A moins que\nle DGP ne soit un cas particulier du modèle que nous avons estimé, notre\nestimation de la matrice de covariance de β̂, (3.06), ne sera généralement\npas valide, pas même en tant qu’approximation. Dans le cas où elle serait\ncorrecte, s2 n’est qu’une estimation de σ 2 et X̂>X̂ n’est qu’une estimation\nde X>(β0 )X(β0 ), de sorte que Ŝ(β̂1 ) sera probablement une estimation peu\nsatisfaisante de S(β̂1 ).\nDans le cas linéaire, il est traditionnel de ne traiter qu’un (et un seul!)\nde ces problèmes, c’est à dire le problème de la nature de s2 (qui est une\nestimation de σ 2). Comme nous le montrerons plus tard dans la Section 3.5,\npour les modèles de régression linéaire avec des régresseurs fixes et des aléas\nnormaux, la quantité\nβ̂i − β0i\nest distribuée selon la loi de Student à n − k degrés de liberté lorsque le DGP\nest un cas particulier du modèle que l’on estime. Ainsi, en prenant les valeurs\ncritiques utilisées dans (3.11) à partir de la loi de Student à n − k degrés\nde liberté au lieu de la normale centrée réduite, nous trouvons l’intervalle de\nconfiance exact dans ce cas particulier. En utilisant la distribution de Student,\non intègre systématiquement le fait que s est un estimateur biaisé.\nLorsque l’on traite des modèles non linéaires, il est généralement plus\nfiable d’utiliser la distribution de Student à n − k degrés de liberté plutôt que\nla distribution normale standard. L’intervalle de confiance qui en résulte sera\nlégèrement plus large, mais dans de nombreux cas, il ne sera toujours pas assez\nlarge. La plupart du temps (mais pas toujours), les problèmes mentionnés plus\nhaut, résultent de l’étroitesse des intervalles de confiance estimés, de sorte qu’il\nest bon d’opérer mentalement une réduction du niveau de confiance associé\nà tout intervalle de ce genre. Ceci est particulièrement important lorsque\nle modèle a un fort degré de non linéarité, lorsque les aléas peuvent être\ntrès sensiblement non normaux, et lorsque la taille de l’échantillon est faible.\nMalheureusement, il n’existe pas de règle de sélection aisée qui nous dise\nde combien réduire le niveau de confiance dans la plupart des cas. Tout ce\nque nous pouvons faire généralement, c’est de se ramener à l’expérience, à\nl’évidence à partir des simulations Monte Carlo, et au bon sens.\nLorsque l’on s’intéresse à deux ou trois paramètres, il peut être très\ntrompeur d’observer les intervalles de confiance pour les paramètres pris indi-\nviduellement plutôt que la région de confiance de tous les paramètres pris\nconjointement. Pour s’en rendre compte, il est nécessaire de comprendre\nCela se justifie parce que β̂ − β0 = (X>X)−1X>u, ce qui implique que β̂ − β0\nest simplement une combinaison linéaire des variables aléatoires u distribuées\nnormalement, et doit donc être, lui-aussi, distribué normalement.\n80 Inférence dans les Modèles de Régression non Linéaire\npourquoi une région de confiance pour l paramètres prend la forme d’une\nfigure à l dimensions comparable à une ellipse. L’un des résultats présentés\ndans l’Annexe B est que, si x est un vecteur à l composantes distribué nor-\nmalement, à espérance nulle et à matrice de covariance V non singulière et\nde dimension l × l, alors la variable aléatoire scalaire donnée par la forme\nquadratique x>V −1 x suit une distribution du χ2 à l degrés de liberté. Il nous\nest possible de construire une région de confiance pour tout sous-ensemble des\ncomposantes de β en faisant usage de ce résultat.\nSupposons que l’on désire construire une région de confiance pour les l\npremiers éléments du vecteur β à k éléments où l > 1. Pour cette opération,\nnous aurons besoin d’une estimation de la matrice de covariance des l premiers\néléments de β̂. Si l = k, nous pouvons utiliser soit V̂ (β̂) soit Vs (β̂), telles que\nnous les avons données dans (3.05) et (3.06). Si l < k, il nous faut utiliser\nune sous-matrice de dimension l × l d’une de ces deux matrices de covariance\nestimées. Cette sous-matrice peut être obtenue par l’utilisation d’une formule\nsur l’inversion des matrices partitionnées (consulter l’Annexe A) ou, de façon\nplus simple, par l’utilisation du Théorème FWL.3 Si l’on partitionne le vecteur\ncomplet de paramètres β en [β1 ... β2 ], avec β1 qui représente le sous-vecteur\nqui nous intéresse, et si l’on prend σ̂ 2 comme estimateur de σ 2, nous obtenons\nV̂ (β̂1 ) = σ̂ 2 X̂1>M̂2 X̂1 ,\noù M̂2 projette sur le complémentaire de S(X̂2 ). Il est ainsi aussi facile de\ntraiter le cas où l < k que le cas où l = k. Pour conserver la simplicité\nde la notation toutefois, nous supposerons pour la suite de notre discussion\nque nous construisons une région de confiance pour la totalité des paramètres\ndu vecteur β, de sorte que l = k. Par souci de réalisme, nous supposerons\négalement que la matrice de covariance estimée de β̂ est V̂ (β̂), bien qu’elle\npuisse être aussi bien Vs (β̂).\nNotons β0 la véritable (et inconnue) valeur de β. Considérons la forme\n(β̂ − β0 )>V̂ −1 (β̂)(β̂ − β0 ), (3.13)\nqui est une variable aléatoire scalaire dépendant du vecteur aléatoire β̂. Elle\nn’aura en fait une distribution du χ2 à l degrés de liberté pour des échantillons\nde taille finie ni pour une régression linéaire, ni pour une régression non\nlinéaire. Mais il est raisonnable d’espérer qu’elle suivra approximativement\nune distribution du χ2 (l), et en réalité une telle approximation est correcte\nlorsque la taille de l’échantillon est suffisamment élevée; voir la Section 5.7.\nPar conséquent, avec autant de justifications (ou peut-être avec aussi peu!)\nBien que l’usage du Théorème FWL soit incontestable ici, il n’est peut-être pas\névident qu’il soit approprié lorsque le modèle est non linéaire. Dans le cas non\nlinéaire, il devrait être appliqué à la régression de Gauss-Newton, dont nous\ndiscuterons au Chapitre 6.\n3.3 Intervalles de Confiance et Régions de Confiance 81\nque pour le cas d’un paramètre unique, la région de confiance pour β est\nélaborée comme si (3.13) suivait réellement une distribution du χ2 (l).4\nPour un ensemble donné d’estimations β̂, la région de confiance (ap-\nproximée) à un niveau de confiance α peut être définie comme l’ensemble des\nvecteurs β0 pour lesquels la valeur de (3.13) est inférieure à une valeur critique\ndonnée, disons cα (l). Cette valeur critique sera telle que, si z est une variable\naléatoire suivant une distribution du χ2 (l),\nPr z > cα (l) = α.\nLa région de confiance est donc l’ensemble de tous les β pour lesquels\n(β̂ − β)>V̂ −1 (β̂)(β̂ − β) < cα (l). (3.14)\nPuisque le membre de gauche de cette équation est quadratique en β, la\nrégion est, pour l = 2, l’intérieur d’une ellipse, et pour l > 2, l’intérieur d’une\nellipsoı̈de à l dimensions.\nβ2 .. ..\n. . Ellipse de confiance pour (β1 , ..β2 )\n(β10 , β20 )& ..\n.... • .. .................. ..\n.... .... .... .... .... .... ............... .... ...... .... .... .... .... ..................... .... .... .... .... .... .... .... .... .... .... .... .... .... .... .... .... ...... .... .... .... .... .... ....\n.. ... .. ...... ..\n.. .... .. ..... .\n.. ..... ... ..... ..\n.. .. ....... ..... ..\n.. .. .... • ....\n.. ..... (β̂1 , β̂2 ) ....\n.. .. ..... .... ..\n.. .. ..... .... .\n.. .. • ..... .....\n.. . (β ∗ , β ∗ )\n.. .. ..... .. ....\n.... .... .... .... .... .... .......... .... ...... .... .... .... .... .... .... .... .... .... .... .... .... .... .... .... .... .... ................ .... .... .... .... ...... .... ............. .... .... ....\n.. .. . ....... .\n. .. .. . .....\nC A B D β1\nFigure 3.2 Ellipse de confiance et intervalles de confiance\nIl est également envisageable de construire une région de confiance estimée\nen utilisant la loi du F (l, n − k), ce qui pourrait éventuellement fournir une\nmeilleure approximation dans les échantillons finis. On se sert ici du χ2 pour\n82 Inférence dans les Modèles de Régression non Linéaire\nLa Figure 3.2 illustre ce à quoi peut ressembler une ellipse de con-\nfiance dans un cas bi-dimensionnel. Dans ce cas, les deux estimations des\nparamètres sont corrélées négativement, et sont centrées autour des estima-\ntions (β̂1 , β̂2 ) des paramètres. Les intervalles de confiance pour β1 et β2 sont\naussi représentés; et il devrait être clair désormais qu’il peut être trompeur de\nne considérer que ces derniers plutôt que l’ellipse de confiance. D’une part, il\ny a, à l’évidence, quelques points tels que (β1∗ , β2∗ ), qui se situent à l’extérieur\nde l’ellipse de confiance et à l’intérieur des intervalles de confiance, et d’autre\npart, il y a des points comme (β10 , β20 ), qui appartiennent à l’ellipse mais qui\nse situent à l’extérieur d’une ou de deux régions de confiance.\nIl est très utile de passer davantage de temps sur la Figure 3.2, pour\nvoir plus précisément la relation entre l’ellipse de confiance et les intervalles\nde confiance unidimensionnels. Il est tentant de penser que ces derniers de-\nvraient être obtenus par les points correspondant aux extrémités de l’ellipse de\nconfiance, de sorte que, par exemple, l’intervalle de confiance pour β1 dans la\nfigure serait donné par le segment de droite CD. Cela est cependant incorrect,\nce qui peut être vu de deux façons différentes et révélatrices.\nLe premier argument est le suivant. Le membre de droite de (3.14) est\nune valeur critique pour une distribution du χ2 avec, dans le cas de notre\nfigure, deux degrés de liberté. Si l’on porte son attention sur l’intervalle de\nconfiance d’un paramètre unique, la distribution du χ2 qui est pertinente\nn’aurait qu’un seul degré de liberté. Pour un niveau de confiance donné α,\nla valeur critique est une fonction croissante du nombre de degrés de liberté.\nDans le cas présent, la valeur critique à 5% pour une variable suivant une\ndistribution du χ2 à un degré de liberté est 3.84, et pour deux degrés de\nliberté, elle est égale à 5.99.\nLe second argument est plus général. Souvenons-nous que la région de\nconfiance est définie de telle sorte qu’elle contienne les véritables valeurs des\nparamètres avec une probabilité de 1 − α. Mais il est possible d’inverser les\nrôles de β et β̂. Si les vraies valeurs des paramètres étaient données par β, la\nrégion définie par (3.14) serait une région dans laquelle la variable aléatoire β̂\nserait réalisée avec la probabilité 1−α. Ainsi l’ellipse de confiance contient une\nmasse de probabilité de 1 − α. Il en va de même pour l’intervalle de confiance\nde β1 : il doit également contenir une masse de probabilité de 1 − α. Dans la\nconstruction bi-dimensionnelle de la Figure 3.2, le rectangle infini limité par\nles lignes verticales passant par les points A et B doit avoir cette masse de\nprobabilité, puisque nous voulons permettre à β2 de prendre n’importe quelle\nvaleur réelle. Parce que le rectangle infini et l’ellipse de confiance doivent\navoir la même masse de probabilité, aucun ne peut contenir l’autre, et nous\nvoyons pourquoi l’ellipse doit déborder de la région définie par l’intervalle de\nIl est clair d’après (3.13) que l’orientation de l’ellipse de confiance et les\nlongueurs relatives de ses axes sont déterminées par la matrice de covariance\nestimée V̂ (β̂). Si cette dernière était diagonale, les axes de l’ellipse seraient\n3.3 Intervalles de Confiance et Régions de Confiance 83\n... ..... ...... ...\n... •Xβ̂ .....\n(b) ....... ........................................\n..... ( β̂ 1 , β̂ 2 ) ...\n... ............ .\nFigure 3.3 Ellipses de confiance de forme elliptique\nparallèles aux axes des coordonnées. Et si tous les éléments diagonaux étaient\négaux, la région de confiance serait une sphère. Il y a, toutefois, un autre\nmoyen de représenter géométriquement une région de confiance, un moyen\navec lequel elle prendra toujours une forme analogue à une sphère à l dimen-\nsions. Cette représentation est assez révélatrice. Par souci de simplicité, nous\nnous limiterons au cas des modèles de régression linéaire avec n observations\net deux paramètres, β1 et β2 .\nConsidérons l’espace à n dimensions dans lequel les variables sont repré-\nsentées par des vecteurs. Maintenant, portons notre attention sur le sous-\nensemble bi-dimensionnel de l’espace à n dimensions engendré par les deux\nvecteurs X1 et X2 . Cet espace à deux dimensions est dessiné dans la partie (a)\nde la Figure 3.3, dans laquelle nous voyons également le vecteur de valeurs\np Xβ̂. Nous avançons que le cercle tracé autour de Xβ̂ et de rayon\nσ̂ cα (2) correspond à l’ellipse de confiance de β1 et β2 . En réalité, il est aisé\nde saisir cela. L’équation du cercle est\nky − Xβ̂k = σ̂ cα (2). (3.15)\nTout vecteur y appartenant à S(X) peut s’exprimer par Xβ pour un β donné.\nAinsi (3.15) peut s’écrire\nkXβ − Xβ̂k = σ̂ cα (2)\n84 Inférence dans les Modèles de Régression non Linéaire\nou, en prenant les carrés,\n(β̂ − β)>X>X(β̂ − β) = σ̂ 2 cα (2). (3.16)\nPuisque l’estimation de la matrice de covariance de β̂ est σ̂ 2 (X>X)−1, (3.16)\nest simplement l’équation qui délimite l’ellipse de confiance pour β; à com-\nparer avec (3.14).\nCela signifie que nous disposons de deux manières de représenter géomé-\ntriquement l’espace dans lequel se situe β. L’une est la représentation directe\nillustrée dans la Figure 3.2 et dans la partie (b) de la Figure 3.3, pour laquelle\nil y a deux axes mutuellement perpendiculaires pour les directions des deux\nparamètres β1 et β2 , et pour laquelle la région de confiance ressemble à une\nellipse. L’autre est illustrée dans la partie (a) de la Figure 3.3, dans laquelle\nun point β est représenté par le vecteur Xβ. Dans un certain sens, la seconde\nreprésentation est la plus naturelle, parce que la région de confiance y est\nsymétrique dans toutes les directions. Bien entendu, cette symétrie dépend\nde l’hypothèse selon laquelle tous les aléas ont même variance, σ 2, et nous ne\nl’obtiendrions pas si E(u2t | Xt ) était une fonction de Xt . Le point crucial est\nque le cercle de la partie (a) et l’ellipse de la partie (b) contiennent tous deux\nla même région de confiance.\nLa brève discussion que nous avons tenue à propos des intervalles de con-\nfiance et des régions de confiance reposait sur des arguments géométriques.\nPour une approche plus traditionnelle, les lecteurs intéressés pourront con-\nsulter une référence telle que l’ouvrage de Kendall et Stuart (1979, Chapitre\n20). Elle offre une discussion plus détaillée sur la signification des intervalles\nde confiance et sur la manière de bâtir différents types d’intervalles et de\nrégions de confiance lorsque la distribution d’échantillonnage des estimations\ndes paramètres est connue. Le problème attaché aux modèles de régression\nnon linéaire réside dans le fait que la distribution d’échantillonnage n’est ja-\nmais connue avec exactitude. De ce fait, à moins que l’échantillon ne soit très\nimportant, il n’y a souvent pas d’intérêt à essayer de construire des formes\nsophistiquées d’intervalles de confiance et de régions de confiance.\n3.4 Tests d’Hypothèses: Introduction\nLes économistes désirent souvent tester les hypothèses des modèles de régres-\nsion qu’ils estiment. De telles hypothèses prennent généralement la forme de\ncontraintes d’égalité sur quelques uns des paramètres. Elles peuvent impliquer\ndes tests pour savoir si un paramètre unique prend une certaine valeur (disons\nβ2 = 1), si deux paramètres sont reliés de telle ou telle façon (disons β3 = 2β4 ),\nsi une restriction non linéaire telle que β1 /β3 = β2 /β4 est valide, ou si un\nensemble complet de contraintes linéaires et/ou non linéaires est acceptable.\nL’hypothèse selon laquelle la restriction ou l’ensemble des restrictions que\nl’on désire tester est valide, est appelée hypothèse nulle, et on la note souvent\n3.4 Tests d’Hypothèses: Introduction 85\nH0 . Le modèle pour lequel les contraintes sont inexactes est généralement\nappelé hypothèse alternative, ou quelquefois hypothèse maintenue, et est noté\nH1 . La terminologie “hypothèse maintenue” provient du fait que lors d’un\ntest statistique seule l’hypothèse nulle H0 est soumise au test. Rejeter H0\nn’oblige en rien à accepter H1 , puisque ce n’est pas H1 que l’on soumet au test.\nConsidérons ce qu’il adviendrait si le DGP n’était pas un cas particulier de\nH1 . Clairement H0 et H1 seraient simultanément fausses, et il est fort possible\nqu’un test sur H0 conduise à son rejet. D’autres tests pourraient permettre\nde rejeter l’hypothèse fausse H1 , mais uniquement si elle prenait la place de\nl’hypothèse nulle et si l’on formulait de nouvelles hypothèses alternatives.\nTous les tests d’hypothèses discutés dans cet ouvrage impliquent l’éla-\nboration de statistiques de test. Une statistique de test, disons T , est une\nvariable aléatoire dont la distribution de probabilité est connue, soit avec ex-\nactitude, soit approximativement, sous l’hypothèse nulle. Nous examinons\nensuite avec quelle probabilité la valeur observée de T peut survenir, en fonc-\ntion de cette distribution de probabilité. Si T est un nombre qui a pû sur-\nvenir avec une grande probabilité, alors nous n’avons aucune raison de rejeter\nl’hypothèse nulle H0 . Toutefois, si c’est un nombre qui ne surviendrait qu’avec\nune faible probabilité, il faut nous rendre à l’évidence, et la rejeter.\nLa meilleure façon d’exécuter un test est de diviser l’ensemble de toutes\nles valeurs possibles de T en deux régions, la région d’acceptation et la\nrégion de rejet (ou région critique). Si la valeur de T appartient à la région\nd’acceptation, on accepte l’hypothèse nulle (ou du moins on ne la rejette\npas, au taux choisi) alors que si elle appartient à la région de rejet, on la\nrejette.5 Par exemple, si l’on savait que T suit une distribution du χ2 , la\nrégion d’acceptation serait composée de toutes les valeurs de T égales ou\ninférieures à une certaine valeur critique, disons C. Si au lieu de cela, T\nétait telle qu’elle suive une distribution normale, alors pour un test bilatéral,\nla région d’acceptation serait formée par toutes les valeurs absolues de T\ninférieures ou égales à C, de sorte que la région de rejet serait composée de\ndeux parties, l’une contenant les valeurs supérieures à C et l’autre contenant\nles valeurs inférieures à −C.\nLe niveau de signification ou plus simplement le niveau d’un test est la\nprobabilité que la statistique de test rejetera l’hypothèse nulle lorsque celle-ci\nest vraie. Notons θ le vecteur de paramètres que l’on doit tester, Θ0 l’ensemble\ndes valeurs de θ qui satisfont H0 , et R la région de rejet. Alors le niveau de\nLes termes “région d’acceptation” et “région de rejet” font également référence\nà des sous-échantillons de l’espace d’échantillonnage. Tout échantillon, disons\ny, génère une statistique de test T . Si la valeur de T appartient à la région de\nrejet, alors y doit aussi y appartenir, et inversement si la valeur de T appartient\nà la région d’acceptation. Dans ce sens, l’échantillon tout entier peut être\npartitionné en deux régions qui correspondent à la région d’acceptation et à la\nrégion de rejet de l’hypothèse nulle.\n86 Inférence dans les Modèles de Régression non Linéaire\nla statistique de test T est\nα ≡ Pr (T ∈ R | θ ∈ Θ0 ).\nConventionnellement, le niveau est choisi à une valeur très faible, généralement\nde l’ordre de .001 à .10. Il est choisi de façon plus ou moins arbitraire,\net comme nous le verrons au cours d’une discussion ultérieure, cette car-\nactéristique des tests d’hypothèses est quelquefois assez peu satisfaisante.\nNous exécutons des tests dans l’espoir de les voir rejeter l’hypothèse nulle\nlorsqu’elle est inexacte. En conséquence, la puissance du test est d’un grand\nintérêt. La puissance d’une statistique de test T est la probabilité que T\nrejette l’hypothèse nulle lorsque celle-ci est fausse. De façon formelle, elle\npeut se définir comme\nPr (T ∈ R | θ 6∈ Θ0 ).\nLa puissance dépendra évidemment de la façon dont les données ont été\ngénérées. Si l’hypothèse nulle est seulement légèrement fausse, nous espérons\nque la puissance sera inférieure à ce qu’elle serait si l’hypothèse nulle était\nmanifestement fausse. Nous nous attendons également à ce que la puissance\naugmente avec la taille de l’échantillon, n. Si pour tout θ dans une région\ndonnée de l’espace des paramètres, disons Θ1 , la puissance du test tend vers\nun lorsque n → ∞, le test est dit convergent contre les hypothèses alternatives\ndans Θ1 . Bien sûr, un test peut être convergent contre certaines hypothèses\nalternatives et pas contre d’autres. Nous discuterons au cours des Chapitres\n12 et 13 de ce qui détermine exactement la puissance des statistiques de test,\nlorsque le DGP est, et n’est pas, un cas particulier de l’hypothèse alternative.\nLa façon traditionnelle d’exécuter un test est tout d’abord de choisir son\nniveau, et ensuite d’utiliser ce niveau pour déterminer une valeur critique que\nl’on trouve dans les tables de distribution appropriée. Par exemple, si une\nstatistique de test est distribuée suivant la χ2 (1) sous l’hypothèse nulle, la\nvaleur critique à .05 (ou 5%) est 3.84, car la probabilité d’obtenir un tirage\naléatoire à partir de la χ2 (1) qui soit supérieur à 3.84 est de .05. Puis,\nsi la statistique de test s’avérait être, disons 3.51, nous ne rejetterions pas\nl’hypothèse nulle au niveau .05, alors que si elle se révélait être supérieure,\ndisons par exemple 5.43, nous devrions rejeter l’hypothèse nulle à ce niveau\nIl y a deux problèmes relatifs à cette procédure. Premièrement, le choix\ndu niveau du test est plus ou moins arbitraire. Cela reflète l’intensité de notre\ndésir de faire une erreur en rejetant l’hypothèse nulle lorsqu’elle est exacte (ou\nde commettre l’erreur de première espèce), plutôt que d’accepter l’hypothèse\nnulle lorsqu’elle est fausse (ou de commettre l’erreur de deuxième espèce). Si\nnous désirons fortement éviter une erreur de première espèce, nous utiliserons\nun très faible niveau de signification, certainement inférieur à .01 et probable-\nment .001, ou même moins encore. Si nous sommes plus sensibles à l’erreur de\ndeuxième espèce, nous prendrons un niveau de signification plus fort, comme\n3.4 Tests d’Hypothèses: Introduction 87\n.05 ou même .10. Si un utilisateur exécute un test au niveau .05 et qu’un\nautre décide de l’exécuter au niveau .01, ils aboutiront sans aucun doute à\ndes résultats divergents. Cela pose de sérieux problèmes pour les lecteurs qui\ntentent d’interpréter ces résultats, particulièrement si seules les conclusions\ndes tests (plutôt que les vraies valeurs des statistiques de test) ont été men-\ntionnées. Ne rapporter que les conclusions des tests est une pratique que nous\nabhorrons, et que nous déconseillons plus que vivement.\nCela nous amène à considérer le second problème. Si un auteur rapporte\nen fait les valeurs des statistiques de test, les lecteurs peuvent potentiellement\nétablir quelques conclusions, mais cela leur demandera des efforts pour con-\nvertir les statistiques de test en nombres signifiant quelque chose d’intéressant.\nCela devient plus facile pour le lecteur lorsque l’auteur adopte un moyen alter-\nnatif de présenter les résultats des tests, un moyen qui se popularise désormais.\nCela consiste à mentionner le P marginal (ou niveau marginal de signification)\nassocié à toute statistique de test, soit avec, soit à la place des statistiques\nelles-mêmes, puisque ces dernières ne comprennent pas plus d’information que\nles P marginaux. Le P marginal est la probabilité d’observer, si la statistique\nde test était réellement distribuée comme elle le serait sous l’hypothèse nulle,\nune valeur de la statistique de test au moins aussi extrême que celle observée.\nSi elle est inférieure à α, alors nous rejetterions H0 au niveau α.\nIl n’est généralement pas possible de calculer les P marginaux à par-\ntir des tables de distribution, mais cela devient envisageable si l’on dispose\nd’un logiciel informatique adéquat (qui devrait être inclus dans tout progiciel\nde régression moderne); l’usage croissant d’ordinateurs toujours plus perfor-\nmants joue certainement dans la diffusion de l’approche de l’utilisation du\nP marginal. Dans l’exemple précédent, au lieu de rapporter les valeurs des\nstatistiques de test 3.51 et 5.43, le chercheur devrait plutôt se servir du fait\nqu’elles sont supposées suivre une distribution du χ2 (1) sous H0 , et rapporter\nles valeurs P marginaux respectifs de .0610 et .0198. Ces valeurs de P nous\nindiquent que pour la distribution du χ2 (1), les valeurs au moins aussi fortes\nque 3.51 apparaı̂traient pour environ 6.1% dans les tirages, alors que les nom-\nbres supérieurs ou égaux à 5.43 n’apparaı̂traient que pour moins de 2% dans\nLe P marginal ne nous oblige pas à établir une décision concernant l’hypo-\nthèse nulle. Si nous obtenons un P marginal, disons d’environ .000001, nous\nvoudrons presque sûrement rejeter l’hypothèse nulle. Mais si nous obtenons\nun P marginal de .04 ou même de .004, rien ne nous oblige à la rejeter. Nous\nconsidérerions ce résultat comme une information qui nous permet d’émettre\nquelques doutes à propos de l’hypothèse nulle, mais non comme un résultat\nprobant par lui-même. Nous voyons que cette approche quelque peu agnos-\ntique envers les statistiques de test, dans le sens où elles sont considérées\nau plus comme des indices à partir desquels on pourrait ou non prendre des\ndécisions, est généralement la plus raisonnable à adopter. Elle est peut-être\nparticulièrement appropriée dans le cas des modèles de régression non linéaire,\n88 Inférence dans les Modèles de Régression non Linéaire\nou les P marginaux ne sont généralement que des approximations (et quelque-\nfois assez imprécises!).\nIl est crucial de comprendre qu’une valeur de P n’est pas la proba-\nbilité que l’hypothèse nulle soit correcte, et par elle-même ne nous permet\npas de déduire cette probabilité. Dans l’élaboration traditionnelle des tests\nd’hypothèses, une hypothèse est soit vraie, soit fausse, et nous ne pouvons pas\nparler d’une probabilité quelconque qu’elle soit vraie. Dans la méthodologie\nBayésienne, que nous n’utiliserons pas dans cet ouvrage, il est possible de dire\nqu’il y a une probabilité qu’une hypothèse soit vraie, mais il faut alors faire\nréférence à une information a priori sur cette probabilité et il faut également\npréciser quelles sont les autres hypothèses qui pourraient être vraies. Puis\nétant donnée la probabilité a priori qu’une hypothèse soit vraie et les résultats\nde la statistique de test, il est possible de calculer une probabilité a posteriori\nque l’hypothèse soit correcte. Cette dernière probabilité sera sûrement plus\nimportante que le P marginal.6\nComme nous l’avons précédemment indiqué, la distribution qu’une statis-\ntique de test est censée suivre sous l’hypothèse nulle peut être ou ne pas être\nconnue avec précision. Si elle est connue, alors le test est communément ap-\npelé un test exact; dans le cas contraire, le test sera généralement basé sur\nune distribution dont on sait qu’elle s’applique uniquement asymptotique-\nment et s’appelle alors un test asymptotique. Les tests exacts sont rarement\ndisponibles pour les modèles de régression non linéaire. Toutefois, il y a un\ncas bien particulier pour lequel les tests exacts de contraintes linéaires sont\nutilisables. La fonction de régression doit alors être linéaire, il doit être pos-\nsible de traiter les régresseurs comme s’ils étaient fixés dans les échantillons\nrépétés, et les aléas doivent être normalement et identiquement distribués.\nDans la section qui suit, nous définirons le terme “fixés dans les échantillons\nrépétés” et discuterons de ce cas particulier. Puis à la Section 3.6, nous abor-\nderons les trois principes de base, soulignerons l’élaboration de la plupart des\nstatistiques de test, et nous verrons comment elles pourraient être appliquées\naux modèles de régression non linéaire.\n3.5 Tests d’Hypothèses dans les Régressions Linéaires\nTous les étudiants en économétrie sont familiers avec les Students pour les\ntests d’hypothèses relatives à un paramètre unique et les Fisher pour les\ntests d’hypothèses concernant plusieurs paramètres simultanément. Si β̂i\ndésigne l’estimation par moindres carrés du paramètre βi , le Student pour\ntester l’hypothèse d’égalité de βi à une quelconque valeur donnée β0i est tout\nsimplement égal à β̂i − β0i divisée par une estimation de l’écart type de β̂i\n(expression (3.12)). Si β̂ désigne un ensemble d’estimations non contraintes\nPour une discussion des relations entre le P marginal et l’inférence Bayésienne,\nconsulter entre autre Lindley (1957), Shafer (1982), et Berger et Sellke (1987).\n3.5 Tests d’Hypothèses dans les Régressions Linéaires 89\npar moindres carrés et β̃ désigne un ensemble d’estimations soumises à r con-\ntraintes distinctes, le Fisher pour le test de ces contraintes peut être calculée\ngrâce à ¡ ¢\nSSR(β̃) − SSR(β̂) /r 1 ¡ ¢\n= 2 SSR(β̃) − SSR(β̂) . (3.17)\nSSR(β̂)/(n − k) rs\nLes tests fondés sur les Students ou Fisher peuvent être aussi bien exacts\nqu’approximatifs. Dans le cas particulier dont nous avons discuté à la fin de\nla section précédente, dans lequel le modèle de régression et les contraintes sont\nlinéaires en leurs paramètres, les régresseurs sont (ou peuvent être considérés\ncomme étant) fixés dans les échantillons répétés, et les aléas sont normalement\net indépendamment distribués, les Students et Fisher ordinaires suivent en\néchantillons finis, sous l’hypothèse nulle, la distribution dont ils portent le\nnom. Bien que ce cas ne soit pas aussi courant qu’on le voudrait, ces résultats\nsont suffisamment importants pour être traités dans une section séparée. De\nplus, il est utile de conserver à l’esprit le cas linéaire lorsque l’on considère le\ncas des modèles de régression non linéaire.\nConsidérons le modèle contraint\ny = X1 β1 + u (3.18)\net le modèle non contraint\ny = X1 β1 + X2 β2 + u, (3.19)\noù les aléas u sont supposés suivre une distribution normale avec un vecteur\nd’espérance nulle et une matrice de covariance σ 2 I. Le vecteur de paramètres\nβ a été scindé en deux sous-vecteurs, β1 et β2 , respectivement composés de\nk − r et r éléments. Nous voulons tester l’hypothèse de nullité de β2 . Les\nestimations contraintes sont β̃ = [ β̃1 ... 0], et les estimations non contraintes\nsont β̂ = [ β̂1 ... β̂2 ]. En limitant notre attention à des contraintes de nullité,\nnous ne limitons en rien la généralité des résultats puisque, ainsi que nous\nl’avons montré à la Section 1.3, tout ensemble de contraintes linéaires appliqué\nà un modèle linéaire peut toujours, par une reparamétrisation adéquate, être\nécrit comme un ensemble de contraintes de nullité.\nIl suit de l’expression (3.07) que SSR(β̃) = y>M1 y, où M1 désigne la\nprojection sur S⊥ (X1 ), le complément orthogonal de l’espace engendré par\nX1 . De façon similaire, SSR(β̂) = y>MX y, où MX désigne la projection sur\nS⊥ (X), le complément orthogonal de l’espace engendré par X ≡ [X1 X2 ].\nGrâce au Théorème FWL (voir Section 1.4), y>MX y, qui est la somme des\nrésidus au carré de la régression (3.19), est identique à la SSR de la régression\nM1 y = M1 X2 β2 + résidus.\nAinsi nous constatons que\nSSR(β̂) ≡ y>MX y = y>M1 y − y>M1 X2 X2>M1 X2 X2>M1 y. (3.20)\n90 Inférence dans les Modèles de Régression non Linéaire\nDe (3.07) et (3.20), il vient que r fois le numérateur du Fisher de (3.17) est\n¡ ¢−1 ° °2\ny>M1 X2 X2>M1 X2 X2>M1 y = °PM1 X2 y ° , (3.21)\noù PM1 X2 ≡ M1 X2 (X2>M1 X2 )−1X2>M1 est la matrice projetant sur l’espace\nS(M1 X2 ). Sous le DGP\ny = X1 β10 + u, u ∼ N (0, σ02 I), (3.22)\nles deux membres de l’expression (3.21) deviennent\nu>M1 X2 X2>M1 X2 X2>M1 u = °PM1 X2 u° , (3.23)\ncar M1 annule X1 β10 .\nL’expression (3.23), qui est égale à r fois le numérateur du Fisher sous le\nDGP (3.22), peut être considérée comme une forme quadratique du vecteur\naléatoire à r composantes\nv ≡ X2>M1 u, (3.24)\nqui est distribué normalement (puisque ce n’est qu’une combinaison linéaire\ndes variables aléatoires normalement distribuées que sont les éléments de u)\navec une espérance nulle et une matrice de covariance\nΩ ≡ E X2>M1 uu>M1 X2 = σ02 X2>M1 X2 . (3.25)\nAinsi, en combinant (3.24) et (3.25), le membre de droite de l’expression (3.23)\nσ02 v>Ω −1 v. (3.26)\nCette expression est σ02 fois une forme quadratique en v (vecteur à r com-\nposantes), qui est un vecteur normal multivarié d’espérance nulle et de ma-\ntrice de covariance égale à l’inverse de la matrice de covariance de v, Ω. Ainsi,\nen faisant usage du résultat familier sur les formes quadratiques des vecteurs\naléatoires normaux dont nous avons déjà parlé à la Section 3.3, nous en ar-\nrivons à la conclusion que 1/σ02 fois la forme quadratique (3.26) est distribué\nselon le χ2 (r).\nSi la taille de l’échantillon était infiniment grande, nous pourrions nous\narrêter à cette conclusion. Le s2 estimé correspondrait sans distinction pos-\nsible à la véritable valeur de σ02 de sorte que, sous l’hypothèse nulle, r fois le\nFisher (3.17) serait égal à\n1 > ¡ > ¢−1 >\nu M 1 X2 X2 M1 X2 X2 M1 u,\net nous avons précisément remarqué que cette quantité suit une distribution\ndu χ2 (r) sous H0 . Mais dans le cas d’un échantillon fini, s2 sera une variable\n3.5 Tests d’Hypothèses dans les Régressions Linéaires 91\naléatoire qui évalue σ02 avec une précision qui croı̂t avec n − k. Il nous faut,\npar conséquent, considérer la distribution du dénominateur du Fisher (3.17).\nSous le DGP (3.22), (n − k)s2 est grâce à l’équation (3.09), égale à\nu>MX u. (3.27)\nDans l’Annexe B, nous démontrons que toute forme quadratique idempotente\nde variables aléatoires normales centrées réduites et indépendantes suit une\ndistribution du χ2 dont le nombre de degrés de liberté correspond au rang de\nla matrice idempotente. De façon évidente, u>MX u/σ02 est une telle forme\nquadratique idempotente, et puisque le rang de MX est n − k, nous en conclu-\nons que 1/σ02 fois le dénominateur du Fisher suit une distribution du χ2 (n−k).\nAinsi le Fisher (3.17) est (n−k)/r fois le ratio de deux variables aléatoires,\nle numérateur étant distribué selon le χ2 (r) et le dénominateur selon le\nχ2 (n − k). A condition que ces deux variables aléatoires soient mutuelle-\nment indépendantes, leur rapport sera distribué selon la F (r, n − k) (voir\nAnnexe B). Une condition suffisante pour qu’elles soient indépendantes est\nMX PM1 X2 = 0.\nCe qui est en effet le cas, car S(M1 X2 ), l’espace engendré par M1 X2 , est\nun sous-espace de S(X), l’espace engendré par X1 et X2 ; pour l’apercevoir,\nobservons que M1 X2 = X2 − P1 X2 . Ainsi MX annule PM1 X2 .\nVoici une explication plus intuitive de l’indépendance des formes quadra-\ntiques (3.23) et (3.27). La forme quadratique qui apparaı̂t dans le dénomi-\nnateur, (3.27), est la somme des carrés des résidus du modèle non contraint\n(3.19). Ces résidus sont ce qui reste après que u ait été projeté en dehors\nde tout ce qui se situe en S(X). Par contraste, la forme quadratique qui ap-\nparaı̂t au numérateur, (3.23), est la somme des réductions des résidus au carré\ndu modèle contraint réalisée en ajoutant X2 à la régression. Ces réductions\ndoivent se situer en S(X). Il en résulte que la variable aléatoire qui apparaı̂t\nau numérateur doit se situer dans un sous-espace orthogonal à celui dans\nlequel se situe la variable aléatoire qui apparaı̂t au dénominateur. Cela se\nvoit clairement dans la partie (a) de la Figure 1.7, dans le cas précis où r = 1\net k = 2.\nNous avons désormais vérifié que le Fisher (3.17) suit réellement la distri-\nbution de Fisher à r et n−k degrés de liberté, pour le cas des modèles linéaires\nsoumis à des contraintes linéaires et des aléas normalement distribués. Un\ncorollaire simple de ce résultat est que pour le même cas le Student (3.12)\nordinaire suit la distribution de Student à n − k degrés de liberté. Pour s’en\nrendre compte, supposons que X2 est composé d’une colonne unique, que nous\nappellerons x2 . Alors avec le Théorème FWL, l’estimation de β2 à partir de\n(3.19) est identique à l’estimation à partir de la régression\nM1 y = M1 x2 β2 + résidus,\n92 Inférence dans les Modèles de Régression non Linéaire\nqui est égale à\nx2 M1 x2 x2>M1 y.\nL’écart type estimé de β̂2 est s(x2>M1 x2 )−1/2. De sorte que le Student pour\nβ2 = 0 est\ns(x2>M1 x2 )1/2\nLe carré de ce Student est\n1 > ¡ ¢−1\ny M1 x2 x2>M1 x2 x2>M1 y, (3.28)\net c’est tout simplement le Fisher (3.17) pour le cas particulier où r = 1.\nPuisque la racine carrée d’une variable aléatoire qui suit une Fisher F (1, n−k)\nsuit une distribution de Student t(n − k) (consulter l’Annexe A), nous avons\nprouvé le corollaire que nous avons mis en évidence.\nLa géométrie des Students et Fisher est intéressante. Le carré du Student\nque nous avons observé est donné par (3.28). Elle dépend de s, l’estimation\nOLS de σ, qui est donnée par\ns≡ . (3.29)\nDu Théorème FWL nous savons que\ny>MX y = y>M1 MM1 x2 M1 y, (3.30)\noù MM1 x2 désigne la matrice qui projette en dehors de S(M1 x2 ). En d’autres\ntermes, cela signifierait simplement que la somme des résidus au carré à partir\nde la régression de y sur X est la même que la somme des résidus au carré\nà partir de la régression de M1 y sur M1 x2 . En utilisant (3.29) et (3.30), il\nnous est possible de réécrire le Student (3.28) au carré comme\ny>M1 x2 x2>M1 x2 x2>M1 y\ny>M1 MM1 x2 M1 y\ny>M1 PM1 x2 M1 y\n= (n − k) > ,\ny M1 MM1 x2 M1 y\nde sorte que le Student lui-même est\nkPM1 x2 M1 yk\nsigne(y>M1 x2 )(n − k)1/2 .\nkMM1 x2 M1 yk\nNous voyons donc que les Students ont une interprétation géométrique simple.\nSi nous disons que y sur la Figure 1.3 représente M1 y, et S(X) représente\n3.5 Tests d’Hypothèses dans les Régressions Linéaires 93\nS(M1 x2 ), alors il est clair que le Student de β2 est simplement (n − k)1/2\nfois la cotangente de l’angle φ (consulter l’Annexe A). Lorsque l’angle est\nnul, et donc M1 x2 explique entièrement M1 y, le Student est égal à, soit\nplus l’infini, soit moins l’infini, son signe dépendant du signe de β̂2 . Au\ncontraire, lorsque l’angle est de 90◦, et donc M1 x2 a un pouvoir explicatif\nnul sur M1 y, le Student est nul. Pour tout angle φ compris entre zéro et un,\nexclus, l’amplitude du Student sera proportionnelle à (n − k)1/2 , de sorte que\nsi M1 x2 a un quelconque pouvoir explicatif sur M1 y, nous nous attendrions à\nce que le Student nous permette de rejeter l’hypothèse nulle avec la probabilité\nunitaire lorsque l’échantillon est de taille suffisamment importante.\nLes résultats précédents s’appliquent bien entendu également aux statis-\ntiques F moyennant quelques modifications légères. Si X2 possède r colonnes\nau lieu d’une seule, le Fisher pour tester β2 = 0 peut s’écrire sous une forme\néquivalente à (3.31), c’est-à-dire\nn − k y>M1 X2 X2>M1 X2 X2>M1 y\nr y>M1 MM1 X2 M1 y\nn−k kPM1 X2 M1 yk\nr kMM1 X2 M1 yk2\nPar conséquent, le Fisher est égal à (n − k)/r fois le carré de la cotangente de\nl’angle φ formé par les vecteurs M1 y et PM1 X2 M1 y; observons à nouveau la\nFigure 1.3 en gardant à l’esprit que M1 y remplace désormais y et S(M1 X2 )\nremplace S(X). Comme nous l’avons vu au cours du Chapitre 1, le carré du\ncosinus de φ est le R2 de ce qui est ici la régression de M1 y sur M1 X2 . Ceci\nsuggère un lien étroit entre les Fisher et les R2 . Ce lien existe en effet.\nUn usage familier du test en F est de tester l’hypothèse nulle selon laquelle\ntous les coefficients sauf le terme constant sont nuls. C’est un test de β2 = 0\ndans le modèle de régression\ny = β1 + X2 β2 + u, (3.33)\noù X2 est désormais n × (k − 1). Avec le Théorème FWL, la SSR de cette\nrégression est identique à celle de la régression\nMι y = Mι X2 β2 + résidus,\ny>Mι y − y>Mι X2 X2>Mι X2 X2>Mι y.\nAinsi la différence entre la somme des résidus contraints et la somme des\nrésidus non contraints est\ny>Mι X2 X2>Mι X2 X2>Mι y = °PMι X2 Mι y ° ,\n94 Inférence dans les Modèles de Régression non Linéaire\net le Fisher pour l’hypothèse β2 = 0 est\nn−k kPMι X2 Mι yk2\n× , (3.34)\nk−1 kMMι X2 Mι yk2\nqui est un cas particulier de (3.32).\nParce que (3.33) contient effectivement un terme constant, le R2 centré\npour cette régression est\nkPMι X2 Mι yk2\nRc2 = .\nEvidemment cela correspond, comme d’habitude, au carré du cosinus de\nl’angle formé par PMι X2 Mι y et Mι y, alors que le Fisher (3.34) est égal à\n(n − k)/(k − 1) fois le carré de la cotangente du même angle. Il est ainsi\nenvisageable d’exprimer ce Fisher comme\nk−1 1 − Rc2\nCe résultat peut être mis en évidence si l’on considère que cot2 φ = cos2 φ/\n(1 − cos2 φ) ou par l’usage des définitions algébriques simples de F et de\nRc2 . Notons toutefois qu’il faudrait normalement éviter de calculer un Fisher\nde cette façon, à moins qu’à la fois Rc2 et 1 − Rc2 ne soient connus avec au-\ntant de décimales qu’il est nécessaire pour construire le Fisher avec précision.\nPlusieurs progiciels de régression rapportent le R2 sous le format d’un nombre\nà trois ou quatre décimales, et 1 − R2 peut être précis à une seule ou à deux\nIl est possible d’exprimer le R2 comme\nkMMι X2 Mι yk2 kMX yk2 /n\nRc2 = 1 − = 1 − .\nkMι yk2 kMι yk2 /n\nLe numérateur du deuxième terme du membre de droite est ici σ̂ 2, dont nous\nsavons que c’est une estimation biaisée de σ 2. Le dénominateur est aussi une\nestimation biaisée de la variance de yt autour de son espérance conditionnelle.\nIl paraı̂t naturel de remplacer ces estimations biaisées par des estimations non\nbiaisées. Cette opération nous permet de disposer du R̄2, le R2 ajusté, dont\nla définition est\nkMX yk2 /(n − k) n − 1 kMX yk2\nR̄2 = 1 − = 1 − .\nkMι yk2 /(n − 1) n − k kMι yk2\nLe R̄2 non centré est extrêmement rare, aussi avons-nous omis d’indicer le R̄2\npar un “c”.\n3.5 Tests d’Hypothèses dans les Régressions Linéaires 95\nLa quantité R̄2 est disponible dans presque tous les progiciels de régres-\nsion. Ce n’est pas cependant une estimation d’un quelconque paramètre du\nmodèle (puisque pour la grande majorité des modèles, la variance de yt au-\ntour de sa propre espérance non conditionnelle dépendra de la distribution\ndes variables du membre de droite), et ne sera pas particulièrement utile en\npratique. L’usage grandissant du R̄2 date des balbutiements de l’économétrie,\nlorsque les échantillons étaient de taille modeste et les chercheurs souvent im-\npressionnés par des modèles qui s’ajustaient bien, dans le sens où la valeur du\nRc2 était importante. Les observateurs ont rapidement appris qu’en ajoutant\ndes régresseurs dans une régression linéaire, on augmente toujours le R2 ordi-\nnaire (centré ou non), et plus particulièrement lorsque la taille de l’échantillon\nest faible. Cela poussa quelques chercheurs à estimer plus rigoureusement les\nmodèles intégrant un grand nombre de paramètres. On préconise l’usage du\nR̄2 plutôt que le Rc2 pour traiter ce type de problème, parce que l’addition de\nnouveaux régresseurs ne fera augmenter le R̄2 qu’à condition que la réduction\nproportionnelle de la SSR soit plus forte que la réduction proportionnelle de\nn − k.\nComme nous l’avons noté au tout début de cette section, tous les résultats\nexacts sur la distribution des Students et Fisher (ou plus généralement sur\nles distributions des estimateurs OLS avec des échantillons de taille finie) re-\nquièrent que les aléas soient normaux et que les régresseurs soient fixés en\néchantillons répétés, ou qu’ils puissent être traités comme tels. La dernière\npossibilité nécessite quelques commentaires. La raison pour laquelle il est pra-\ntique de supposer que les régresseurs sont fixes est que nous voulons être ca-\npables de manipuler les expressions matricielles qui dépendent des régresseurs\ncomme des expressions invariables en vue d’opérer des calculs d’espérances.\nAussi grâce à cette hypothèse, il nous est possible de soutenir que, par exemple\nE (X>X)−1X>u = X>X X>E(u) = 0. (3.35)\nL’hypothèse de régresseurs fixes nous permet de faire cette manipulation,\nmais elle s’avère malheureusement trop forte dans la plupart des applications\nUne hypothèse plus simple, mais qui a le même effet, est celle selon\nlaquelle toutes les espérances que nous calculons sont conditionnelles à la ma-\ntrice X, de sorte que, par exemple, E(u) dans (3.35) doit s’interpréter comme\nE(u | X). Puisque nous conditionnons par rapport à X, nous la traitons\nvéritablement comme fixe. Cependant, à moins que la matrice X ne soit\ntotalement indépendante des aléas u, les Students et Fisher ne seront pas\ndistribués suivant les lois dont ils portent le nom. Le problème survient dans\nle cas des modèles dynamiques, dans lesquels les aléas ne peuvent pas être\nindépendants des valeurs retardées des variables dépendantes.\n96 Inférence dans les Modèles de Régression non Linéaire\n3.6 Tests d’Hypothèses dans le Cas non Linéaire\nIl y a au moins trois manières différentes de dériver les statistiques de test\npour des hypothèses concernant les paramètres des modèles de régression non\nlinéaire. Elles consistent à employer le principe de Wald, le principe du mul-\ntiplicateur de Lagrange, et le principe du rapport de vraisemblance. Elles\noffrent ce que l’on regroupe souvent sous la dénomination de statistiques de\ntest “classiques”. Dans cette section, nous présentons ces trois principes et\nmontrons comment ils produisent des statistiques de test pour les hypothèses\nrelatives à β dans les modèles de régression non linéaire (et implicitement dans\nles modèles de régression linéaire également, puisque les modèles linéaires ne\nsont que des cas particuliers des modèles non linéaires). Les trois principes\npeuvent avoir un emploi très étendu, et réapparaı̂tront dans des contextes\nvariés au cours de l’ouvrage.7 Un traitement formel de ces tests dans le cadre\ndes moindres carrés sera offert au Chapitre 5. Ils seront ensuite introduits\ndans le cadre de l’estimation par maximum de vraisemblance au Chapitre 8,\net une discussion plus détaillée dans ce même contexte suivra au Chapitre 13.\nLes références sérieuses que l’on peut donner sont Engle (1984) et Godfrey\n(1988), et une discussion introductive se trouvera chez Buse (1982).\nLe principe de Wald, dû à Wald (1943), consiste à élaborer une statistique\nde test sur les estimations des paramètres non contraints et une estimation\nde la matrice de covariance non contrainte. Si l’hypothèse n’implique qu’une\nseule contrainte, disons βi = βi∗ , alors il est possible de calculer la statistique\nβ̂i − βi∗\nOn se réfère à cette statistique en tant que statistique “pseudo-t” parce que\nsa distribution ne sera pas véritablement la Student à n − k degrés de liberté\navec des échantillons finis, lorsque xt (β) est non linéaire dans ses paramètres,\nlorsque xt (β) dépend des valeurs retardées yt , ou lorsque les aléas ut ne\nsont pas normalement distribués. Cependant, elle sera distribuée asympto-\ntiquement suivant une N (0, 1) moyennant quelques hypothèses légères (voir\nChapitre 5), et sa distribution dans le cas d’un échantillon fini sera fréquem-\nment approximée avec satisfaction par la Student à n − k degrés de liberté.\nDans le contexte plus général où il y a r contraintes au lieu d’une seule,\nles tests de Wald emploieraient le fait que si v est un vecteur aléatoire à r com-\nNous employons les termes de “principe du multiplicateur de Lagrange”,\n“principe de Wald”, et “principe du rapport de vraisemblance” plutôt que\nles termes “tests du multiplicateur de Lagrange”, “tests de Wald”, et “tests\ndu rapport de vraisemblance” parce que de nombreux auteurs font usage de\nces derniers termes pour faire référence à des tests basés sur les modèles es-\ntimés par la méthode du maximum de vraisemblance (voir Chapitre 8 et 13).\nNous croyons que cet usage ambigu se perdra lorsque la polyvalence de ces trois\nprincipes sera largement reconnue.\n3.6 Tests d’Hypothèses dans le Cas non Linéaire 97\nposantes distribuées normalement avec une espérance nulle et une matrice de\ncovariance Λ, la forme quadratique\nv>Λ−1 v (3.37)\ndoit suivre une distribution du χ2 (r). Ce résultat est démontré dans l’An-\nnexe B et nous l’avons déjà utilisé dans les Sections 3.3 et 3.5.\nPour élaborer un test de Wald asymptotique, il suffit ensuite de trouver\nun vecteur de variables aléatoires qui, sous l’hypothèse nulle, soit asympto-\ntiquement normalement distribué avec une espérance nulle et une matrice de\ncovariance que l’on peut estimer. Par exemple, supposons que β soit soumis\nà r(≤ k) contraintes linéairement indépendantes,\nRβ = r, (3.38)\noù R est une matrice de dimension r × k de rang r, et r est un vecteur à r\ncomposantes. Nous n’avons supposé les contraintes linéaires que par souci de\nsimplicité, et non pas parce que les tests de Wald ne peuvent pas intégrer des\ncontraintes non linéaires. Toutefois, parce que les tests de Wald ne sont pas\ninvariants à une reparamétrisation non linéaire du modèle ou des contraintes,\nil faut prendre quelques précautions lorsque l’on teste des contraintes non\nlinéaires à l’aide de tels tests. Nous verrons tout ceci au cours du Chapitre 13;\nconsulter Gregory et Veall (1985), Lafontaine et White (1986), et Phillips et\nPark (1988). Ainsi, il paraı̂t approprié de ne se concentrer que sur le cas\nlinéaire pour l’instant.\nSupposons que l’on évalue le vecteur Rβ − r pour les estimations non\ncontraintes β̂ pour obtenir un vecteur aléatoire à r composantes\nRβ̂ − r. (3.39)\nComme nous le démontrerons au Chapitre 5, si les données ont été générées\nréellement par le modèle que l’on teste, le vecteur d’estimations β̂ tendrait\nasymptotiquement vers le vrai vecteur de paramètres β0 , et la matrice de\ncovariance de β̂ autour de β0 pourrait être évaluée avec satisfaction par\ns2 (X̂>X̂)−1. Si les contraintes (3.38) sont effectives, alors il doit être vérifié\nRβ̂ − r = R(β̂ − β0 ) + Rβ 0 − r = R(β̂ − β0 )\nde sorte que chaque élément de Rβ̂ − r est une combinaison linéaire des\néléments de β̂ − β0 . Ainsi la matrice de covariance de (3.39) doit être\nV R(β̂ − β0 ) = RV (β̂)R>,\nqui peut être estimée par la matrice\ns2 R X̂>X̂ R>. (3.40)\n98 Inférence dans les Modèles de Régression non Linéaire\nEn combinant (3.39) et (3.40), on obtient la statistique de Wald\n(Rβ̂ − r)> s2 R(X̂>X̂)−1R> (Rβ̂ − r)\n1 ¡ ¢ (3.41)\n> > −1 > −1\n= (R β̂ − r) R( X̂ X̂) R (Rβ̂ − r).\nPourvu que β̂ soit asymptotiquement normalement distribué et que V (β̂) con-\nverge asymptotiquement vers la véritable matrice de covariance, alors (3.41)\nsera asymptotiquement distribuée suivant la loi du χ2 (r). Notons que dans le\ncas simple où R est un vecteur colonne composé de zéros et d’un un à la i ième\nposition, et r est égal à βi∗ , de sorte que l’on teste l’hypothèse βi = βi∗ , le\ncarré de la statistique pseudo-t (3.36) est précisément la statistique de Wald\nLa deuxième approche pour calculer des statistiques de test consiste à\nestimer le modèle soumis aux contraintes que l’on doit tester. On appelle sou-\nvent cette approche principe du multiplicateur de Lagrange (ou LM), parce\nqu’une façon d’obtenir les estimations moindres carrés est d’établir un La-\ngrangien qui est simultanément minimisé par rapport aux paramètres et ma-\nximisé par rapport aux multiplicateurs de Lagrange. Lorsque les contraintes\nsont vraies, on s’attend à ce que les multiplicateurs de Lagrange estimés aient\nune espérance nulle (du moins asymptotiquement); l’idée générale des tests\nLM est de savoir si c’est véritablement le cas.\nPour estimer un modèle tel que (3.01) soumis aux contraintes (3.38), il\nest possible d’élaborer le Lagrangien\n1¡ ¢¡ ¢\n− y − x(β) > y − x(β) + (Rβ − r)>λ, (3.42)\noù λ est un vecteur composé de r multiplicateurs de Lagrange, et où la fonction\nSSR(β) a été multipliée par .5 pour simplifier l’expression algébrique. Les\nconditions du premier ordre que l’on obtient en dérivant (3.42) par rapport à\nβ et λ, et en annulant ces dérivées partielles, sont\n−X>(β̃) y − x(β̃) + R>λ̃ = 0 (3.43)\nRβ̃ − r = 0, (3.44)\noù β̃ désigne les estimations contraintes et λ̃ désigne les multiplicateurs de\nLagrange estimés. A partir de (3.43) nous voyons que\nR>λ̃ = X̃> y − x̃ , (3.45)\noù selon notre notation habituelle, x̃ et X̃ désignent x(β̃) et X(β̃). Le mem-\nbre de droite de (3.45) est un vecteur composé de k dérivées de − 21 SSR(β) par\nrapport aux éléments de β, évaluées en β̃. Ce vecteur est souvent dénommé\nvecteur du score. Puisque y − x̃ correspond au vecteur de résidus, qui devrait\n3.6 Tests d’Hypothèses dans le Cas non Linéaire 99\nconverger asymptotiquement sous H0 vers le vecteur des aléas u, il semble\nplausible que la matrice de covariance du vecteur du score soit\nσ02 X>(β0 )X(β0 ). (3.46)\nMoyennant quelques propriétés asymptotiques, c’est en effet le cas, et une\nversion plus rigoureuse de ce résultat sera présentée au cours du Chapitre 5.\nLe moyen le plus évident d’évaluer (3.46) est de faire usage de s̃2 X̃>X̃,\noù s̃2 est égale à SSR(β̃)/(n − k + r). En combinant cette estimation avec les\ndeux membres de l’égalité (3.45), nous pouvons construire deux statistiques\nde test qui diffèrent à première vue, mais qui sont numériquement identiques.\nLa première d’entre elles est\n¡ ¢−1 1 ¡ ¢−1\nλ̃>R s̃2 X̃>X̃ R>λ̃ = 2 λ̃>R X̃>X̃ R>λ̃. (3.47)\nSous cette forme, on a clairement à faire à une statistique du multiplicateur de\nLagrange. Puisque λ̃ est un vecteur à r composantes, il ne devrait pas être sur-\nprenant que cette statistique suive une distribution de χ2 (r). Pour démontrer\ncette proposition, nous utilisons pour l’essentiel les mêmes arguments que ceux\nemployés pour les tests de Wald, puisque (3.47) est une forme quadratique\nsimilaire à (3.37). Evidemment, ce résultat dépend du vecteur λ̃ qui doit être\nasymptotiquement normal, ce que nous démontrerons au Chapitre 5.\nLa seconde statistique de test dont nous avons précisé l’identité numé-\nrique avec la première, est obtenue en remplaçant X̃>(y − x̃) par λ̃>R dans\n(3.47). Le résultat, qui correspond à la forme du score de la statistique LM,\n¡ > ¢−1 > 1\n(y − x̃) X̃ X̃ X̃ X̃ (y − x̃) = 2\n(y − x̃)>P̃X (y − x̃), (3.48)\noù P̃X ≡ X̃(X̃>X̃)−1X̃>. Clairement, cette expression est tout simplement\nla somme des carrés expliqués de la régression linéaire artificielle\n(y − x̃) = X̃b + résidus, (3.49)\npour laquelle les résidus y − x̃, que l’on a préalablement divisés par s̃, l’écart\ntype estimé de la régression contrainte, sont régressés sur la matrice X̃. La\nrégression (3.49) est un exemple de la régression de Gauss-Newton, ou GNR,\ndont nous ferons un exposé très détaillé dans le Chapitre 6. Il est clair que\nla forme du score de la statistique LM peut se calculer aisément une fois que\nl’on a obtenu les estimations contraintes β̃, avec l’aide explicite ou pas du\nLagrangien (3.42). Les tests LM peuvent presque toujours se calculer à l’aide\ndes régressions linéaires artificielles, comme nous le verrons au Chapitre 6\npour les modèles de régression non linéaires, et au Chapitres 13, 14 et 15 pour\nles modèles estimés par maximum de vraisemblance.\n100 Inférence dans les Modèles de Régression non Linéaire\nLa troisième et dernière approche que l’on peut choisir pour tester les\nhypothèses concernant β est d’estimer à la fois le modèle soumis aux con-\ntraintes et le modèle non contraint, et ainsi d’obtenir deux valeurs de SSR(β),\nque nous désignerons par SSR(β̃) et SSR(β̂). Une statistique pseudo-F peut\nalors être calculée comme\nSSR(β̃) − SSR(β̂) /r SSR(β̃) − SSR(β̂)\n= . (3.50)\nSSR(β̂)/(n − k) rs2\nNous avons déjà vu que cette statistique de test suit exactement une dis-\ntribution de F (r, n − k) lorsqu’elle sert à tester les contraintes linéaires sur\nles modèles linéaires où les aléas sont normaux. Nous aurons l’occasion de\ndémontrer au Chapitre 5 qu’elle suit en général la distribution de F (r, n − k)\n(et également que multipliée par r, elle suit une distribution du χ2 (r)),\nasymptotiquement. Comme nous l’observerons au Chapitre 6, des statistiques\npseudo-F asymptotiquement correctes peuvent aussi être calculées à partir de\nrégressions artificielles similaires à (3.49), mais pour lesquelles la régressande\nn’a pas été nécessairement divisée par s̃. Nous remplaçons tout simplement\nSSR(β̂) dans (3.50) par la somme des résidus au carré de la régression artifi-\nL’idée générale de la statistique de test (3.50) est d’observer la différence\nentre les valeurs de la fonction objectif SSR(β) en les estimations contraintes et\nnon contraintes. Le dénominateur a pour fonction de normaliser les résultats.\nPlus tard, dans cet ouvrage, nous verrons que l’on peut trouver des tests\nd’hypothèses basés sur les logarithmes des fonctions de vraisemblance, lorsque\nnous discuterons de l’estimation par maximum de vraisemblance. Parce que\nla différence de deux logarithmes est le logarithme d’un rapport (dans ce cas\nle rapport de la valeur de la fonction de vraisemblance contrainte par la valeur\nde la fonction de vraisemblance non contrainte), ceux-ci sont connus sous le\nnom de tests du rapport de vraisemblance, ou tests LR. Ce serait faire un\nusage abusif de la terminologie que d’appeler (3.50) un test LR, mais il est\ncertainement raisonnable de prétendre que (3.50) est fondé sur le principe\ndu rapport de vraisemblance si ce dernier est grossièrement défini comme\ndésignant un test basé sur la différence de deux valeurs de la fonction objectif\ncalculée pour les estimations contraintes et non contraintes.\nUne caractéristique notable des principes de Wald, de LM et de LR\nest que des tests qui s’appuient sur ces principes sont asymptotiquement\néquivalents. De façon intuitive, cela signifie que lorsque la taille de l’échantil-\nlon devient suffisamment importante et que les hypothèses testées sont soit\ncorrectes, soit presque correctes (nous définirons plus précisément ce que nous\nentendons par presque correctes, aux Chapitres 12 et 13), alors les statis-\ntiques de test de la même hypothèse nulle basées sur n’importe lequel des\ntrois principes devraient donner exactement les mêmes résultats. Bien en-\ntendu, avec des échantillons finis et des modèles qui pourraient ne pas être\nexacts, les trois principes peuvent souvent donner des tests qui conduisent à\n3.6 Tests d’Hypothèses dans le Cas non Linéaire 101\ndes résultats différents. De fait, le choix du test dépend souvent du test dont\nla distribution en échantillon fini est le mieux approchée par la distribution\nen échantillon infini.\nUne démonstration de l’équivalence asymptotique des tests LM, LR et\nWald dans un contexte de modèles de régression non linéaire dépasse la portée\nde ce chapitre. Toutefois, dans le cas particulier des modèles de régression\nlinéaire, une telle démonstration est assez aisée. Par souci de simplicité, nous\nsupposerons que l’on est confronté à la situation décrite dans la Section 3.5,\npuisque nous n’essayons pas d’extraire des résultats exacts. L’hypothèse nulle\nest β2 = 0 dans la régression\ny = Xβ + u = X1 β1 + X2 β2 + u, u ∼ IID(0, σ 2 I).\nComme nous l’avons vu dans la Section 3.5, l’utilisation du principe du rap-\nport de vraisemblance dans ce problème de test entraı̂ne le Fisher\nkPM1 X2 yk2\nqui, multiplié par r suivrait asymptotiquement la distribution du χ2 (r). Evi-\ndemment, il n’y a rien dans le principe de LR qui nous oblige à choisir un test\nen F plutôt qu’un test en χ2 , et rien dans les principes de Wald et du LM\nne nous oblige à employer les tests en χ2 plutôt que les tests en F . Le choix\nentre les configurations F et χ2 devrait normalement se fonder sur la taille de\nl’échantillon, ce qui favorise la configuration en F lorsqu’elle est finie.\nMaintenant examinons ce qu’il advient lorsque nous appliquons les prin-\ncipes de Wald et du LM. La formule générale pour un test de Wald sur un\nmodèle de régression non linéaire est donnée par (3.41). Dans ce cas Rβ̂ − r\ncorrespond à β̂2 . On peut faire usage du Théorème FWL pour obtenir une\nexpression de ce dernier vecteur, et ainsi avoir\nRβ̂ − r = β̂2 = X2>M1 X2 X2>M1 y.\nLa matrice R dans ce cas est [0k−r Ir ]. De sorte que R(X>X)−1R>, que nous\navons besoin d’évaluer pour élaborer une statistique de Wald, est simplement\nle bloc de dimension r × r situé en bas à droite de la matrice (X>X)−1. Il\nest aisé d’arriver à ce résultat en faisant usage du Théorème FWL ou des\nformules sur les inversions des matrices partitionnées que l’on a rappelées\ndans l’Annexe A; c’est tout simplement (X2>M1 X2 )−1. Par conséquent, la\nstatistique de Wald (3.41) est\n1 > ¡ ¢−1 ¡ ¢−1\ny M1 X2 X2>M1 X2 X2>M1 X2 X2>M1 X2 X2>M1 y\n1 ¡ ¢−1 1° °2\n= 2 y>M1 X2 X2>M1 X2 X2>M1 y = 2 °PM1 X2 y ° ,\n102 Inférence dans les Modèles de Régression non Linéaire\nqui est égal à r fois (3.51). Ainsi, dans ce cas, les principes de Wald et du LR\nentraı̂nent pour l’essentiel les mêmes statistiques de test. La seule différence\nprovient du fait que nous choisissons d’écrire la statistique de Wald (3.52)\ndans la configuration du χ2 lorsque la statistique LR (3.51) s’écrit dans une\nconfiguration en F .\nQu’en est-il du principe du LM? Nous avons vu que la statistique LM\n(3.18) correspond à la somme des carrés expliqués de la régression artificielle\n(3.49), qui dans ce cas est\nM1 y = X1 b1 + X2 b2 + résidus. (3.53)\nPuisque la régressande est ici orthogonale à X1 , la somme des carrés expliqués\nde (3.53) doit, par l’intermédiaire du Théorème FWL, être égale à la somme\ndes carrés expliqués de la régression\nM1 y = M1 X2 b2 + résidus,\n1 > ¡ > ¢−1 > 1° °\n°PM X y °2 .\ny M1 X2 X2 M 1 X2 X2 M 1 y =\ns̃2 s̃2 1 2\nAinsi, pour les contraintes linéaires s’appliquant à des modèles de régression\nlinéaire, la seule différence entre les statistiques LM et les statistiques de Wald\net LR est que la première estime σ 2 par s̃2 alors que les dernières utilisent\ns2. Si σ 2 était connue, les trois statistiques de test seraient identiques. Si\nl’hypothèse nulle était vérifiée, à la fois s̃2 et s2 tendraient vers σ 2 à mesure\nque la taille de l’échantillon augmente. Ainsi, on considère les trois statistiques\nde test comme équivalentes asymptotiquement. Même lorsque les échantillons\nsont de taille finie, on s’attend à ce que s̃2 et s2 soient très proches l’une de\nl’autre lorsque H0 est vraie, à moins que la taille de l’échantillon ne soit\nextrêmement petite. Normalement les différences substantielles entre les trois\nstatistiques de test sont très peu probables si l’hypothèse nulle était en fait\nvérifiée. Bien entendu, si l’hypothèse nulle était fausse, s̃2 et s2 pourraient\ndiverger sensiblement, et par conséquent la statistique LM serait, dans ce cas,\nrelativement différente des deux autres statistiques de test.\n3.7 Contraintes et Estimateurs de Tests Préliminaires\nDans les trois sections qui ont précédé, nous avons discuté des tests d’hypo-\nthèses en détail, mais nous n’avons rien dit sur les motivations profondes qui\nfont que l’on impose et que l’on teste des restrictions. Dans la plupart des cas,\nce n’est pas la théorie économique qui impose des contraintes, mais plutôt le\nchercheur qui les impose dans le but d’obtenir un modèle contraint plus facile\n3.7 Contraintes et Estimateurs de Tests Préliminaires 103\nà estimer et qui produira des estimations plus efficaces que le modèle non con-\ntraint. Les tests de ce genre de contraintes sont les tests DWH (Chapitre 7),\nles tests d’autocorrélation (Chapitre 10), les tests de contrainte du facteur\ncommun (Chapitre 10), les tests de changement de régime (Chapitre 11),\net les tests sur la longueur des retards (Chapitre 19). Dans ces situations, et\ndans d’autres encore, les contraintes sont testées dans le but d’arbitrer entre les\nmodèles à utiliser pour l’inférence sur les paramètres qui nous intéressent, mais\naussi pour écarter des modèles qui s’avèrent incompatibles avec les données.\nToutefois, comme l’estimation et les tests se fondent sur les mêmes ensembles\nde données, les propriétés des estimations ultimes peuvent être très difficiles\nà analyser. C’est le problème des tests préliminaires.\nPar simplification, nous ne considérerons dans cette section que le cas\ndes modèles de régression linéaire avec des régresseurs fixés, et dont certains\nparamètres sont soumis à des contraintes de nullité. Le modèle contraint sera\n(3.18), pour lequel y est régressée sur la matrice X1 , de dimension n × (k − r),\net le modèle non contraint sera (3.19), dans lequel y est régressée sur X1 et\nsur X2 , qui est de dimension n × r. Les estimations OLS des paramètres du\nmodèle contraint sont ¡ ¢−1\nβ̃1 = X1>X1 X1>y.\nLes estimations OLS de ces mêmes paramètres à partir du modèle non con-\ntraint s’obtiennent facilement par l’usage du Théorème FWL. Elles sont\nβ̂1 = X1>M2 X1 X1>M2 y,\noù M2 désigne la matrice qui projette orthogonalement sur S⊥ (X2 ).\nIl est naturel de se demander quels sont les avantages de chaque es-\ntimation par rapport à l’autre. Si les données sont effectivement générées\npar le DGP (3.22), qui est un cas particulier du modèle contraint, elles\nsont à l’évidence non biaisées. Cependant, comme nous allons le démontrer,\nl’estimation contrainte β̃1 est plus efficace que l’estimation non contrainte β̂1 .\nUn estimateur est dit plus efficace qu’un autre si la différence entre la matrice\nde covariance de l’estimateur inefficace et celle de l’estimateur efficace est une\nmatrice semi-définie positive; consulter la Section 5.5. Si β̃1 est plus efficace\nque β̂1 selon cette définition, alors toute combinaison linéaire des éléments\nde β̃1 doit avoir une variance au plus égale à la variance correspondant à la\ncombinaison linéaire des éléments de β̂1 .\nLa démonstration de l’efficacité supérieure de β̃1 sur β̂1 sous le DGP\n(3.22) est assez simple. La différence entre les matrices de covariance de β̂1\net β̃1 est\nσ02 X1>M2 X1 − σ02 X1>X1 . (3.54)\nIl est aisé de montrer que cette quantité est une matrice semi-définie positive:\ncela peut se faire grâce à un résultat dont la démonstration apparaı̂t dans\nl’Annexe A. Selon ce résultat, la différence de deux matrices symétriques\n104 Inférence dans les Modèles de Régression non Linéaire\nsemi-définies positives est semi-définie positive si et seulement si la différence\ndes opposées de leurs inverses est semi-définie positive. Ainsi considérons la\nX1>X1 − X1>M2 X1 = X1>P2 X1 , (3.55)\noù P2 = I − M2 . Puisque le membre de droite de (3.55) est à l’évidence une\nmatrice semi-définie positive, ce doit être aussi le cas de (3.54).\nNous venons d’établir que l’estimateur contraint β̃1 est plus efficace (ou,\nau moins, aussi efficace) que l’estimateur non contraint β̂1 lorsque le DGP\nsatisfait les contraintes. Mais que se passe-t-il lorsque ce n’est pas le cas?\nSupposons que le DGP soit\ny = X1 β10 + X2 β20 + u, u ∼ N (0, σ02 I), (3.56)\navec β20 6= 0. Il est alors facile de voir que l’estimateur contraint β̃1 sera, en\ngénéral, biaisé. Sous ce DGP,\n³¡ ¢−1 ´\nE(β̃1 ) = E X1>X1 X1>y\n³¡ ¢−1 >¡ ¢´\n= E X1 X1 X1 X1 β10 + X2 β20 + u (3.57)\n= β10 + X1>X1 X1>X2 β20 .\nA moins que X1>X2 ne soit une matrice nulle, ou que β20 ne soit un vecteur\nnul, β̃1 sera un estimateur biaisé. L’amplitude du biais dépendra des matrices\nX1>X1 et X1>X2 et du vecteur β20 .\nDes résultats très comparables à (3.57) sont valables pour tous les genres\nde contraintes, pas seulement pour les contraintes linéaires, et pour toutes\nsortes de modèles autres que les modèles de régression linéaire. Nous ne ten-\nterons pas de traiter les modèles non linéaires pour l’instant car cela réclame\nun outillage technique important qui ne sera développé qu’au Chapitre 12.\nOn trouvera des résultats analogues à (3.57) pour les modèles de régression\nnon linéaire et pour les autres types de modèles non linéaires dans l’article de\nKiefer et Skoog (1984). Le point important est que lorsque l’on impose des\ncontraintes qui sont erronées sur certains paramètres, les estimations de tous\nles paramètres sont alors généralement des estimations biaisées. Et ce biais\nne disparaı̂t pas lorsque la taille de l’échantillon augmente.\nMême si β̃1 est biaisé lorsque le DGP est (3.56), il peut être intéressant\nde savoir quel est son degré d’efficacité. Le concept correspondant à la matrice\nde covariance pour un estimateur biaisé est la matrice d’erreur quadratique\nmoyenne, qui est dans ce cas\nE β̃1 − β10 β̃1 − β10 >\n¡ ¢−1 ¢¡ ¢−1 ¢\n= E X1>X1 X1>(X2 β20 + u) X1>X1 X1>(X2 β20 + u) >\n¡ ¢−1 ¡ > ¢−1 > ¡ ¢−1\n= σ02 X1>X1 + X1 X1 X1 X2 β20 β20 >\nX2>X1 X1>X1 . (3.58)\n3.7 Contraintes et Estimateurs de Tests Préliminaires 105\nLa dernière ligne correspond à la somme de deux matrices: la matrice de co-\nvariance de β̃1 lorsque le DGP satisfait les contraintes, et le produit extérieur\ndu second terme de la dernière ligne de (3.57) avec lui-même. Il est envisa-\ngeable de comparer (3.58) à V (β̂1 ), la matrice de covariance de l’estimateur\nnon contraint β̂1 , à condition que σ0 et β20 soient connus. Puisque le premier\nterme de (3.58) est plus petit, dans le sens matriciel du terme, que V (β̂1 ), il\nest clair que si β20 est suffisamment faible (3.58) sera plus petit que V (β̂1 ).\nAinsi, il pourrait être avantageux d’utiliser β̃1 lorsque les contraintes sont\nerronées, pourvu qu’elles ne le soient pas trop.\nLors d’une application pratique on se trouve fréquemment dans une si-\ntuation telle que celle décrite. On désire estimer β1 et on ne sait pas si, oui\nou non, β2 est nul. Il paraı̂t naturel de définir un nouvel estimateur,\nβ̃1 si Fβ2 =0 < cα ;\nβ̂1 si Fβ2 =0 ≥ cα .\nIci, Fβ2 =0 est la statistique de test en F habituelle pour l’hypothèse nulle\nβ2 = 0, et cα est la valeur critique pour un test de niveau α qui est retournée\npar la distribution F (r, n−k). Ainsi, β̌1 correspondra à l’estimateur contraint\nβ̃1 lorsque le test en F ne permet pas de rejeter l’hypothèse selon laquelle les\ncontraintes sont satisfaites, et correspondra à l’estimateur β̂1 lorsque le test\nen F permet de rejeter cette hypothèse. Ceci est un exemple de ce que l’on\nnomme un estimateur issu d’un test préliminaire ou estimateur i.t.p..\nLes estimateurs i.t.p. sont abondamment utilisés. Lorsque, par exemple,\nnous testons un quelconque caractère de spécification d’un modèle et décidons,\nsur la base des résultats fournis par le test, de quelle version nous allons\nfaire l’estimation ou de la méthode d’estimation à employer, nous utilisons\nun estimateur i.t.p.. Malheureusement, les propriétés des estimateurs i.t.p.\nsont très difficiles à déceler dans la pratique. Ces difficultés apparaissent bien\nà partir de l’exemple que nous avons étudié. Supposons que les contraintes\nsoient valides. L’estimateur qu’il faudrait utiliser serait alors l’estimateur\ncontraint, c’est à dire β̃1 . Mais, dans α% des cas, le test en F rejetera à tort\nl’hypothèse nulle et β̌1 sera égal à l’estimateur non contrait β̂1 . Ainsi β̌1 se\nrévèle être moins efficace que β̃1 lorsque les contraintes sont valides. De plus,\nétant donné que la matrice de covariance estimée retournée par le progiciel de\nrégression ne prend pas en compte le test préliminaire, les inférences pratiquées\nsur β̌1 pourraient être trompeuses.\nD’autre part, lorsque les restrictions ne sont pas valides, nous pouvons\nutiliser l’estimateur non contraint β̂1 ou pas. En fonction de la puissance\ndu test en F , β̌1 sera quelquefois égal à β̃1 et d’autres fois égal à β̂1 . Il ne\nsera assurément pas non biaisé, parce que β̃1 est non biaisé, et il sera plus ou\nmoins efficace (dans le sens de l’erreur quadratique moyenne) que l’estimateur\nnon contraint. Les inférences sur β̌1 basées sur la matrice de covariance OLS\nestimée, que β̌1 soit égal à β̃1 ou à β̂1 , pourraient être trompeuses, parce\nqu’elles ne tiennent pas compte du test préliminaire précédent.\n106 Inférence dans les Modèles de Régression non Linéaire\nDans la pratique, il n’y a souvent pas grand chose à faire à propos des\ndifficultés causées par les tests préliminaires sinon de reconnaı̂tre que ces tests\nsont source d’un facteur d’incertitude supplémentaire pour les problèmes de\nl’inférence statistique. Puisque α, le niveau du test préliminaire, aura une in-\nfluence sur les propriétés de β̌1 , il est sans doute préférable d’essayer plusieurs\nvaleurs de α. Des niveaux de signification tels que .05 ne sont pas optimaux\ndans la plupart des cas, et il existe toute une littérature sur la façon de choisir\ndes niveaux plus appropriés dans des cas bien déterminés; consulter, par exem-\nple, Toyoda et Wallace (1976). Cependant, les véritables problèmes des tests\npréliminaires sont beaucoup plus délicats que celui dont nous avons discuté à\ntitre d’exemple, ou que ceux étudiés dans la littérature. Chaque fois que l’on\nsoumet un modèle à n’importe quel genre de test, le résultat obtenu influence\npeut-être la formulation définitive du modèle, et l’estimateur i.t.p. qui en\ndécoule devient donc encore plus complexe et il est très difficile d’imaginer\ncomment on peut analyser cela de façon formelle.\nNotre discours sur les estimateurs issus des tests préliminaires a été très\nconcis. On trouvera des traitements plus explicites chez Fomby, Hill, et\nJohnson (1984, Chapitre 7), Judge, Hill, Griffiths, Lütkepohl, et Lee (1985,\nChapitre 21), et Judge et Bock (1978). Dans le reste du livre nous ferons ab-\nstraction des problèmes engendrés par les tests préliminaires, non pas parce\nqu’ils sont marginaux, mais parce que dans la pratique, il sont généralement\nCe chapitre a présenté une introduction à certains thèmes importants: esti-\nmation de la matrice de covariance pour les estimations OLS; usage de telles\nmatrices de covariance estimées dans l’élaboration des intervalles de confiance;\nidées de base des tests d’hypothèses; justification de l’utilisation des tests en\nt et en F pour mettre à l’épreuve des contraintes linéaires sur des modèles de\nrégression linéaire; les trois principes classiques de tests d’hypothèses et leur\napplication au modèle non linéaire. A plusieurs reprises, il nous a fallu rester\nimprécis et faire référence à des résultats concernant les propriétés asymp-\ntotiques des estimations par moindres carrés non linéaires que nous n’avons\npas encore démontrées. Leur démonstration sera l’objet des deux chapitres\nsuivants. Le Chapitre 4 s’intéresse aux idées de base de l’analyse asympto-\ntique, entre autres la convergence, la normalité asymptotique, les Théorèmes\nde la Limite Centrale, les lois des grands nombres et l’usage des notations\n“grand-O” et “petit-o”. Puis le Chapitre 5 emploie ces concepts pour la\ndémonstration de la convergence et de la normalité asymptotique des estima-\ntions par moindres carrés non linéaires des modèles de régression univariée\net pour la dérivation des distributions asymptotiques des statistiques de test\nque nous avons rencontrées tout au long de ce chapitre. Nous y démontrerons\nTermes et Concepts 107\naussi un certain nombre de résultats asymptotiques dont nous apprécierons\nl’utilité par la suite.\nellipse de confiance: relation avec les pseudo-F et pseudo-t\nintervalles de confiance puissance d’un test\nerreur de première espèce et de région critique, ou région de rejet\ndeuxième espèce région d’acceptation\nestimateur issu de test préliminaire régions de confiance et intervalles de\n(itp) confiance, exacts et approchés\nFisher et distribution de F régresseurs artificiels\nfixes en échantillons répétés régression de Gauss-Newton (GNR)\nhypothèse nulle et alternative R2 ajusté, ou R̄2\ninformation a priori statistique de test\nmatrice de covariance Student et distribution de t\nmaximum de vraisemblance niveau d’un test\nP marginal, ou niveau de signification test asymptotique\nmarginale test convergent\nprétest test exact\nprincipe de Wald tests asymptotiquement équivalents\nprincipe du multiplicateur de valeur critique (pour une statistique\nLagrange (LM) de test)\nprincipe du rapport de vraisemblance vecteur de score\nDocuments Similar To Ch3 Inférence Dans Les Modèles de régression Non Linéaires


Film : Captain America - Le Soldat de l'Hiver\nArticle rédigé par Thierry B., docteur à bord le 16/08/2015\nTAGS : 2014, Anthony Mackie, Anthony Russo (réalisation), Callan Mulvey, CAPTAIN AMERICA, Chris Evans, Christopher Markus (scénario), Cobie Smulders, Emily VanCamp, Frank Grillo, Garry Shandling, Hayley Atwell, Joe Russo (réalisation), MARVEL, Maximiliano Hernandez, Robert Redford, Samuel L. Jackson, Scarlett Johansson, Sebastian Stan, Stan Lee, Stephen McFeely (scénario), Toby Jones\nDeux ans après la « Bataille de New York » (cf. « The Avengers »), Steve Rogers essaie toujours tant bien que mal de s’adapter au 21e siècle, chose d’autant plus difficile que tous ses compagnons d’armes de la Seconde Guerre Mondiale ont tous disparu. Ou presque : seule reste Peggy Carter, l’ancien objet de son cœur, presque centenaire aujourd’hui…\nLa rencontre fortuite, lors de son jogging matinal, avec Sam Wilson lui donne un peu d’espoir. Cet ancien militaire, en effet, se consacre à la réintégration de vétérans. Mais les deux hommes n’ont guère le temps d’approfondir le sujet : Natasha Romanoff emmène Rogers pour une nouvelle mission. « Captain America » (redevenu une véritable célébrité aux USA) travaille en effet pour le SHIELD, directement sous les ordres du Directeur, Nick Fury.\nLa nouvelle mission consiste à libérer des otages à bord d’un navire du SHIELD. Si tout se déroule – presque – sans encombre, Rogers réalise que Romanoff ne lui a pas tout dit : la « Veuve Noire » en profite pour récupérer des informations confidentielles. Furieux par ce manque de confiance et de transparence, Steve Rogers confronte Nick Fury. Ce dernier lui parle alors d’Insight : un nouveau projet visant à neutraliser les menaces de manière préventive. Rogers ne voit pas cela d’un bon œil. Et il n’a sans doute pas tort.\nMais les choses se précipitent. Après un attentat contre Nick Fury perpétré par un mystérieux agresseur, Captain America voit des ombres de son propre passé ressurgir. Il lui reste peu de temps et peu d’alliés pour empêcher le pire de se produire…\nSi le premier film consacré au personnage de Captain America avait un air de nostalgie, la suite est bien différente. Mais différence ne signifie pas perte de qualité ! Bien au contraire. Les critiques et le public ont d’ailleurs largement apprécié ce deuxième épisode, qui constitue une étape importante dans la franchise, aussi bien pour la trame de l’histoire que la qualité du scénario. De l’action mais aussi de la réflexion, une histoire intelligente et plus sombre avec des personnages fouillés et nuancés, du suspens et de l’intrigue, des effets spéciaux à bonne dose…\nLa présence de Robert Redford, acteur de films comme « Les 3 jours du Condor », rattache d’ailleurs un peu plus « Le Soldat de l’Hiver » aux thrillers et histoires de complot et de conspiration des années 1970.\nA titre personnel, je dirais que « Le soldat de l’Hiver » est un peu à Captain America ce que « l’Empire contre-attaque » est à la « Guerre des Etoiles ».\nEn résumé, une belle réussite !\n1.Posté par Frédéric VASSEUR le 16/08/2015 15:07 | Alerter\nL'un des meilleurs Marvel, je trouve. Et probablement celui qui est le plus à même de plaire aux personnes qui n'aiment pas les super-héros.


Télémètre de chasse : le télémètre boblov lf1000s est un produit haut de gamme, mesurant jusqu’à 1094 verges avec mesure continue, fournit une mesure rapide et précise. Haute précision : lorsque la portée de mesure est de moins de 400 mètres, la précision est à moins de ±1m. Sinon, il est égal à 0,4% de la plage de mesure. Fonction vibration : lorsque la cible est verrouillée, les lf1000 vibrent automatiquement, faciles à utiliser et vous fournissent la mesure précise.\nOculaire réglable, grossissement 6x, objectif objectif de 22 mm, optique recouverte de mulit facile à utiliser avec un écran propre et un menu très intuitif, le boblov lf1000s maintient les choses simples, mais fournit un haut niveau de performance. Idéal pour les chasseurs d’armes à feu, les tireurs cibles et les chasseurs d’arcs. Marque: modèle boblov: lf1000s gamme: 6.61094 (yd)/61000m pour lf-1000s portée mesurant la précision: dans les 400 mètres, +/-1m;dépasser 400 mètres, 0,4% plage de mesure de la vitesse: 20300km/h grossissement: 6x température de fonctionnement: -10°c50°c/-50°f122°f oculaire efficace: 16mm diamètre de la pupille de sortie: 3.7mm taille de lentille objet: 22mm batterie: batterie lithium intégrée 3.7v/800mah poids: 178g/6.3oz dimensions: 118x75x40(mm)/4.6x3.0x1.6 (in) batterie de spécification de batterie: batterie rechargeable au lithium, 3.7v 800mah (2.96wh) autonomie de la batterie: charge-décharge 800 fois (disponible pour 30000 fois sur une charge complète) adaptateur de puissance: 5v/0.8a.\nContenu de l’emballage: 1x boblov lf1000s télémètre 1x câble de charge usb 1x porter sac 1x lentille tissu 1x opération manuel 1x forte crochet 1x bracelet. Les livraisons de Wa peuvent parfois prendre plus de temps.\nExtra aud 1.99-3.99 , s’il vous plaît se référer à la liste avant d’acheter. Si les week-ends ou les jours fériés, nous vous répondrons dans les 48 heures. Fera de son mieux pour résoudre le problème. L’article " boblov 1000m chasse laser range finder 6x optical vibration function telescope " est en vente depuis le mercredi 23 décembre 2020. Cet article est dans la catégorie " articles de sport\_chasse\_scopes, optiques, lasers\_ ange finders ".