2081:
1130:
2076:{\displaystyle \operatorname {K} _{\mathbf {X} \mathbf {Y} }={\begin{bmatrix}\mathrm {E} )(Y_{1}-\operatorname {E} )]&\mathrm {E} )(Y_{2}-\operatorname {E} )]&\cdots &\mathrm {E} )(Y_{n}-\operatorname {E} )]\\\\\mathrm {E} )(Y_{1}-\operatorname {E} )]&\mathrm {E} )(Y_{2}-\operatorname {E} )]&\cdots &\mathrm {E} )(Y_{n}-\operatorname {E} )]\\\\\vdots &\vdots &\ddots &\vdots \\\\\mathrm {E} )(Y_{1}-\operatorname {E} )]&\mathrm {E} )(Y_{2}-\operatorname {E} )]&\cdots &\mathrm {E} )(Y_{n}-\operatorname {E} )]\end{bmatrix}}}
36:
2726:
3771:
3592:
644:
2836:
2511:
2591:
2597:
1067:
3974:
3607:
3435:
487:
2732:
2987:
2169:
2278:
2236:
3867:
327:
2404:
759:
710:
361:
2388:
2517:
2721:{\displaystyle \operatorname {cov} (\mathbf {X_{1}} +\mathbf {X_{2}} ,\mathbf {Y} )=\operatorname {cov} (\mathbf {X_{1}} ,\mathbf {Y} )+\operatorname {cov} (\mathbf {X_{2}} ,\mathbf {Y} )}
893:
3919:
3070:
3041:
3766:{\displaystyle \operatorname {J} _{\mathbf {Z} \mathbf {W} }=\operatorname {cov} (\mathbf {Z} ,{\overline {\mathbf {W} }}){\stackrel {\mathrm {def} }{=}}\ \operatorname {E} }
3339:
3914:
3892:
3829:
3807:
3423:
3401:
3214:
3166:
3118:
3012:
2926:
2904:
2882:
2860:
1122:
1096:
847:
825:
803:
781:
476:
454:
416:
394:
293:
271:
137:
3365:
3306:
3240:
3192:
3144:
3096:
2304:
2336:
882:
3587:{\displaystyle \operatorname {K} _{\mathbf {Z} \mathbf {W} }=\operatorname {cov} (\mathbf {Z} ,\mathbf {W} ){\stackrel {\mathrm {def} }{=}}\ \operatorname {E} }
3280:
3260:
639:{\displaystyle \operatorname {K} _{\mathbf {X} \mathbf {Y} }=\operatorname {cov} (\mathbf {X} ,\mathbf {Y} ){\stackrel {\mathrm {def} }{=}}\ \operatorname {E} }
2831:{\displaystyle \operatorname {cov} (A\mathbf {X} +\mathbf {a} ,B^{\rm {T}}\mathbf {Y} +\mathbf {b} )=A\,\operatorname {cov} (\mathbf {X} ,\mathbf {Y} )\,B}
165:
3376:
2931:
2094:
2241:
2174:
3838:
2506:{\displaystyle \operatorname {cov} (\mathbf {X} ,\mathbf {Y} )=\operatorname {E} -\mathbf {\mu _{X}} \mathbf {\mu _{Y}} ^{\rm {T}}}
298:
158:
127:
92:
4005:
3782:
3425:
are complex random vectors, the definition of the cross-covariance matrix is slightly changed. Transposition is replaced by
715:
666:
102:
122:
87:
4042:
2586:{\displaystyle \operatorname {cov} (\mathbf {X} ,\mathbf {Y} )=\operatorname {cov} (\mathbf {Y} ,\mathbf {X} )^{\rm {T}}}
151:
332:
2341:
97:
1062:{\displaystyle \operatorname {K} _{X_{i}Y_{j}}=\operatorname {cov} =\operatorname {E} )(Y_{j}-\operatorname {E} )]}
245:
3969:{\displaystyle \operatorname {K} _{\mathbf {Z} \mathbf {W} }=\operatorname {J} _{\mathbf {Z} \mathbf {W} }=0}
248:. Intuitively, the cross-covariance matrix generalizes the notion of covariance to multiple dimensions.
27:
3046:
3017:
3311:
57:
3897:
3875:
3812:
3790:
3406:
3384:
3197:
3149:
3101:
2995:
2909:
2887:
2865:
2843:
1105:
1079:
830:
808:
786:
764:
459:
437:
399:
377:
276:
254:
3916:
are called uncorrelated if their covariance matrix and pseudo-covariance matrix is zero, i.e. if
132:
3344:
3285:
3219:
3171:
3123:
3075:
2283:
52:
2309:
855:
233:
201:
8:
3426:
3377:
Complex random vector § Cross-covariance matrix and pseudo-cross-covariance matrix
3265:
3245:
189:
4047:
4001:
1124:. This gives the following component-wise definition of the cross-covariance matrix.
179:
62:
229:
423:
419:
4036:
2982:{\displaystyle \operatorname {cov} (\mathbf {X} ,\mathbf {Y} )=0_{p\times q}}
372:
221:
2884:
are independent (or somewhat less restrictedly, if every random variable in
2398:
For the cross-covariance matrix, the following basic properties apply:
885:
213:
193:
20:
4022:
3998:
Probability and Random
Processes for Electrical and Computer Engineers
849:
need not have the same dimension, and either might be a scalar value.
2164:{\displaystyle \mathbf {X} =\left(X_{1},X_{2},X_{3}\right)^{\rm {T}}}
427:
35:
2273:{\displaystyle \operatorname {cov} (\mathbf {X} ,\mathbf {Y} )}
2231:{\displaystyle \mathbf {Y} =\left(Y_{1},Y_{2}\right)^{\rm {T}}}
3862:{\displaystyle \operatorname {K} _{\mathbf {X} \mathbf {Y} }}
322:{\displaystyle \operatorname {K} _{\mathbf {X} \mathbf {Y} }}
4023:"Lectures on probability theory and mathematical statistics"
244:
values. The potential values are specified by a theoretical
236:
random variable. Each element has either a finite number of
228:-th element of another random vector. A random vector is a
232:
with multiple dimensions. Each element of the vector is a
3370:
3597:
For complex random vectors, another matrix called the
1159:
754:{\displaystyle \mathbf {\mu _{Y}} =\operatorname {E} }
705:{\displaystyle \mathbf {\mu _{X}} =\operatorname {E} }
3922:
3900:
3878:
3841:
3815:
3793:
3610:
3438:
3409:
3387:
3347:
3314:
3288:
3268:
3248:
3222:
3200:
3174:
3152:
3126:
3104:
3078:
3049:
3020:
2998:
2934:
2912:
2890:
2868:
2846:
2735:
2600:
2520:
2407:
2344:
2312:
2286:
2244:
2177:
2097:
1133:
1108:
1082:
896:
858:
833:
811:
789:
767:
718:
669:
490:
462:
440:
402:
380:
335:
301:
279:
257:
240:empirical values or a finite or infinite number of
185:
Type of matrix in probability theory and statistics
3968:
3908:
3886:
3861:
3823:
3801:
3765:
3586:
3417:
3395:
3359:
3333:
3300:
3274:
3254:
3234:
3208:
3186:
3160:
3138:
3112:
3090:
3064:
3035:
3006:
2981:
2920:
2898:
2876:
2854:
2830:
2720:
2585:
2505:
2382:
2330:
2298:
2272:
2230:
2163:
2075:
1116:
1090:
1061:
876:
841:
819:
797:
775:
753:
704:
638:
470:
448:
410:
388:
356:{\displaystyle \Sigma _{\mathbf {X} \mathbf {Y} }}
355:
321:
287:
265:
251:The cross-covariance matrix of two random vectors
2383:{\displaystyle \operatorname {cov} (X_{i},Y_{j})}
4034:
852:The cross-covariance matrix is the matrix whose
2906:is uncorrelated with every random variable in
761:are vectors containing the expected values of
159:
166:
152:
2824:
2798:
3991:
3989:
4035:
4020:
3995:
4014:
3986:
3783:Uncorrelatedness (probability theory)
3371:Definition for complex random vectors
481:
3776:
13:
3944:
3924:
3843:
3754:
3690:
3679:
3676:
3673:
3612:
3575:
3511:
3500:
3497:
3494:
3440:
2770:
2577:
2497:
2458:
2436:
2222:
2155:
2037:
1996:
1973:
1937:
1896:
1873:
1842:
1801:
1778:
1717:
1676:
1653:
1617:
1576:
1553:
1522:
1481:
1458:
1422:
1381:
1358:
1322:
1281:
1258:
1227:
1186:
1163:
1135:
1031:
990:
965:
898:
734:
685:
627:
563:
552:
549:
546:
492:
337:
303:
14:
4059:
3835:if their cross-covariance matrix
3954:
3949:
3934:
3929:
3902:
3880:
3853:
3848:
3817:
3795:
3742:
3729:
3716:
3703:
3651:
3641:
3622:
3617:
3563:
3550:
3537:
3524:
3477:
3469:
3450:
3445:
3411:
3389:
3202:
3154:
3106:
3065:{\displaystyle \mathbf {X_{2}} }
3056:
3052:
3036:{\displaystyle \mathbf {X_{1}} }
3027:
3023:
3000:
2953:
2945:
2914:
2892:
2870:
2848:
2817:
2809:
2785:
2777:
2757:
2749:
2711:
2701:
2697:
2676:
2666:
2662:
2641:
2631:
2627:
2616:
2612:
2567:
2559:
2539:
2531:
2489:
2476:
2452:
2446:
2426:
2418:
2263:
2255:
2179:
2099:
1145:
1140:
1110:
1084:
835:
813:
791:
769:
744:
725:
695:
676:
615:
602:
589:
576:
529:
521:
502:
497:
464:
442:
404:
382:
347:
342:
313:
308:
281:
259:
34:
4000:. Cambridge University Press.
3760:
3749:
3725:
3722:
3699:
3696:
3660:
3637:
3599:pseudo-cross-covariance matrix
3581:
3570:
3546:
3543:
3520:
3517:
3481:
3465:
2957:
2941:
2821:
2805:
2789:
2742:
2715:
2692:
2680:
2657:
2645:
2607:
2572:
2555:
2543:
2527:
2464:
2442:
2430:
2414:
2377:
2351:
2325:
2313:
2267:
2251:
2062:
2059:
2056:
2043:
2021:
2018:
2015:
2002:
1980:
1977:
1962:
1959:
1956:
1943:
1921:
1918:
1915:
1902:
1880:
1877:
1867:
1864:
1861:
1848:
1826:
1823:
1820:
1807:
1785:
1782:
1742:
1739:
1736:
1723:
1701:
1698:
1695:
1682:
1660:
1657:
1642:
1639:
1636:
1623:
1601:
1598:
1595:
1582:
1560:
1557:
1547:
1544:
1541:
1528:
1506:
1503:
1500:
1487:
1465:
1462:
1447:
1444:
1441:
1428:
1406:
1403:
1400:
1387:
1365:
1362:
1347:
1344:
1341:
1328:
1306:
1303:
1300:
1287:
1265:
1262:
1252:
1249:
1246:
1233:
1211:
1208:
1205:
1192:
1170:
1167:
1056:
1053:
1050:
1037:
1015:
1012:
1009:
996:
974:
971:
959:
933:
871:
859:
748:
740:
699:
691:
652:
633:
622:
598:
595:
572:
569:
533:
517:
246:joint probability distribution
1:
3979:
3334:{\displaystyle 0_{p\times q}}
2393:
366:
3909:{\displaystyle \mathbf {W} }
3887:{\displaystyle \mathbf {Z} }
3824:{\displaystyle \mathbf {Y} }
3802:{\displaystyle \mathbf {X} }
3655:
3418:{\displaystyle \mathbf {W} }
3396:{\displaystyle \mathbf {Z} }
3209:{\displaystyle \mathbf {b} }
3161:{\displaystyle \mathbf {a} }
3113:{\displaystyle \mathbf {Y} }
3007:{\displaystyle \mathbf {X} }
2921:{\displaystyle \mathbf {Y} }
2899:{\displaystyle \mathbf {X} }
2877:{\displaystyle \mathbf {Y} }
2855:{\displaystyle \mathbf {X} }
1117:{\displaystyle \mathbf {Y} }
1091:{\displaystyle \mathbf {X} }
842:{\displaystyle \mathbf {Y} }
820:{\displaystyle \mathbf {X} }
798:{\displaystyle \mathbf {Y} }
776:{\displaystyle \mathbf {X} }
471:{\displaystyle \mathbf {Y} }
449:{\displaystyle \mathbf {X} }
411:{\displaystyle \mathbf {Y} }
389:{\displaystyle \mathbf {X} }
288:{\displaystyle \mathbf {Y} }
266:{\displaystyle \mathbf {X} }
7:
3308:matrices of constants, and
10:
4064:
4043:Covariance and correlation
3780:
3374:
2086:
177:
128:Cross-correlation function
93:Cross-correlation function
28:Correlation and covariance
3869:matrix is a zero matrix.
3360:{\displaystyle p\times q}
3301:{\displaystyle q\times p}
3235:{\displaystyle p\times 1}
3187:{\displaystyle q\times 1}
3139:{\displaystyle q\times 1}
3091:{\displaystyle p\times 1}
2299:{\displaystyle 3\times 2}
2238:are random vectors, then
138:Cross-covariance function
116:For deterministic signals
103:Cross-covariance function
3996:Gubner, John A. (2006).
295:is typically denoted by
178:Not to be confused with
123:Autocorrelation function
88:Autocorrelation function
81:For stochastic processes
58:Cross-correlation matrix
3872:Complex random vectors
3601:is defined as follows:
3427:Hermitian transposition
432:cross-covariance matrix
198:cross-covariance matrix
133:Autocovariance function
98:Autocovariance function
68:Cross-covariance matrix
4021:Taboga, Marco (2010).
3970:
3910:
3888:
3863:
3825:
3803:
3767:
3588:
3419:
3397:
3361:
3335:
3302:
3276:
3256:
3236:
3210:
3188:
3162:
3140:
3114:
3092:
3066:
3037:
3008:
2983:
2922:
2900:
2878:
2856:
2832:
2722:
2587:
2507:
2384:
2332:
2300:
2274:
2232:
2165:
2077:
1118:
1092:
1063:
878:
843:
821:
799:
777:
755:
706:
640:
472:
450:
412:
390:
357:
323:
289:
267:
63:Auto-covariance matrix
53:Autocorrelation matrix
3971:
3911:
3889:
3864:
3826:
3804:
3768:
3589:
3420:
3398:
3362:
3336:
3303:
3277:
3257:
3237:
3211:
3189:
3163:
3141:
3115:
3093:
3067:
3038:
3009:
2984:
2923:
2901:
2879:
2857:
2833:
2723:
2588:
2508:
2385:
2333:
2331:{\displaystyle (i,j)}
2301:
2275:
2233:
2166:
2078:
1119:
1093:
1064:
879:
877:{\displaystyle (i,j)}
844:
822:
800:
778:
756:
707:
641:
473:
451:
413:
391:
358:
324:
290:
268:
204:whose element in the
3920:
3898:
3876:
3839:
3813:
3791:
3608:
3436:
3407:
3385:
3345:
3312:
3286:
3266:
3246:
3220:
3198:
3172:
3150:
3124:
3102:
3076:
3047:
3018:
2996:
2932:
2910:
2888:
2866:
2844:
2733:
2598:
2518:
2405:
2342:
2310:
2284:
2242:
2175:
2095:
1131:
1106:
1080:
894:
856:
831:
809:
787:
765:
716:
667:
488:
460:
438:
400:
378:
333:
299:
277:
255:
19:Part of a series on
3787:Two random vectors
3966:
3906:
3884:
3859:
3821:
3799:
3763:
3584:
3415:
3393:
3367:matrix of zeroes.
3357:
3331:
3298:
3272:
3252:
3232:
3206:
3184:
3158:
3136:
3110:
3088:
3062:
3033:
3004:
2979:
2918:
2896:
2874:
2852:
2828:
2718:
2583:
2503:
2380:
2328:
2296:
2270:
2228:
2161:
2073:
2067:
1114:
1088:
1059:
874:
839:
817:
795:
773:
751:
702:
636:
468:
446:
418:, each containing
408:
386:
353:
319:
285:
263:
190:probability theory
46:For random vectors
4007:978-0-521-86470-1
3689:
3684:
3658:
3510:
3505:
3275:{\displaystyle B}
3255:{\displaystyle A}
660:
659:
562:
557:
220:-th element of a
180:Covariance matrix
176:
175:
4055:
4027:
4026:
4018:
4012:
4011:
3993:
3975:
3973:
3972:
3967:
3959:
3958:
3957:
3952:
3939:
3938:
3937:
3932:
3915:
3913:
3912:
3907:
3905:
3893:
3891:
3890:
3885:
3883:
3868:
3866:
3865:
3860:
3858:
3857:
3856:
3851:
3830:
3828:
3827:
3822:
3820:
3808:
3806:
3805:
3800:
3798:
3777:Uncorrelatedness
3772:
3770:
3769:
3764:
3759:
3758:
3757:
3747:
3746:
3745:
3732:
3721:
3720:
3719:
3706:
3687:
3686:
3685:
3683:
3682:
3670:
3665:
3659:
3654:
3649:
3644:
3627:
3626:
3625:
3620:
3593:
3591:
3590:
3585:
3580:
3579:
3578:
3568:
3567:
3566:
3553:
3542:
3541:
3540:
3527:
3508:
3507:
3506:
3504:
3503:
3491:
3486:
3480:
3472:
3455:
3454:
3453:
3448:
3424:
3422:
3421:
3416:
3414:
3402:
3400:
3399:
3394:
3392:
3366:
3364:
3363:
3358:
3340:
3338:
3337:
3332:
3330:
3329:
3307:
3305:
3304:
3299:
3281:
3279:
3278:
3273:
3261:
3259:
3258:
3253:
3241:
3239:
3238:
3233:
3215:
3213:
3212:
3207:
3205:
3193:
3191:
3190:
3185:
3167:
3165:
3164:
3159:
3157:
3145:
3143:
3142:
3137:
3119:
3117:
3116:
3111:
3109:
3097:
3095:
3094:
3089:
3071:
3069:
3068:
3063:
3061:
3060:
3059:
3042:
3040:
3039:
3034:
3032:
3031:
3030:
3013:
3011:
3010:
3005:
3003:
2988:
2986:
2985:
2980:
2978:
2977:
2956:
2948:
2927:
2925:
2924:
2919:
2917:
2905:
2903:
2902:
2897:
2895:
2883:
2881:
2880:
2875:
2873:
2861:
2859:
2858:
2853:
2851:
2837:
2835:
2834:
2829:
2820:
2812:
2788:
2780:
2775:
2774:
2773:
2760:
2752:
2727:
2725:
2724:
2719:
2714:
2706:
2705:
2704:
2679:
2671:
2670:
2669:
2644:
2636:
2635:
2634:
2621:
2620:
2619:
2592:
2590:
2589:
2584:
2582:
2581:
2580:
2570:
2562:
2542:
2534:
2512:
2510:
2509:
2504:
2502:
2501:
2500:
2494:
2493:
2492:
2481:
2480:
2479:
2463:
2462:
2461:
2455:
2449:
2429:
2421:
2389:
2387:
2386:
2381:
2376:
2375:
2363:
2362:
2337:
2335:
2334:
2329:
2305:
2303:
2302:
2297:
2279:
2277:
2276:
2271:
2266:
2258:
2237:
2235:
2234:
2229:
2227:
2226:
2225:
2219:
2215:
2214:
2213:
2201:
2200:
2182:
2170:
2168:
2167:
2162:
2160:
2159:
2158:
2152:
2148:
2147:
2146:
2134:
2133:
2121:
2120:
2102:
2091:For example, if
2082:
2080:
2079:
2074:
2072:
2071:
2055:
2054:
2033:
2032:
2014:
2013:
1992:
1991:
1976:
1955:
1954:
1933:
1932:
1914:
1913:
1892:
1891:
1876:
1860:
1859:
1838:
1837:
1819:
1818:
1797:
1796:
1781:
1773:
1748:
1735:
1734:
1713:
1712:
1694:
1693:
1672:
1671:
1656:
1635:
1634:
1613:
1612:
1594:
1593:
1572:
1571:
1556:
1540:
1539:
1518:
1517:
1499:
1498:
1477:
1476:
1461:
1453:
1440:
1439:
1418:
1417:
1399:
1398:
1377:
1376:
1361:
1340:
1339:
1318:
1317:
1299:
1298:
1277:
1276:
1261:
1245:
1244:
1223:
1222:
1204:
1203:
1182:
1181:
1166:
1150:
1149:
1148:
1143:
1123:
1121:
1120:
1115:
1113:
1097:
1095:
1094:
1089:
1087:
1068:
1066:
1065:
1060:
1049:
1048:
1027:
1026:
1008:
1007:
986:
985:
958:
957:
945:
944:
923:
922:
921:
920:
911:
910:
883:
881:
880:
875:
848:
846:
845:
840:
838:
826:
824:
823:
818:
816:
804:
802:
801:
796:
794:
782:
780:
779:
774:
772:
760:
758:
757:
752:
747:
730:
729:
728:
711:
709:
708:
703:
698:
681:
680:
679:
654:
645:
643:
642:
637:
632:
631:
630:
620:
619:
618:
605:
594:
593:
592:
579:
560:
559:
558:
556:
555:
543:
538:
532:
524:
507:
506:
505:
500:
482:
477:
475:
474:
469:
467:
455:
453:
452:
447:
445:
417:
415:
414:
409:
407:
395:
393:
392:
387:
385:
362:
360:
359:
354:
352:
351:
350:
345:
328:
326:
325:
320:
318:
317:
316:
311:
294:
292:
291:
286:
284:
272:
270:
269:
264:
262:
212:position is the
168:
161:
154:
38:
16:
15:
4063:
4062:
4058:
4057:
4056:
4054:
4053:
4052:
4033:
4032:
4031:
4030:
4019:
4015:
4008:
3994:
3987:
3982:
3953:
3948:
3947:
3943:
3933:
3928:
3927:
3923:
3921:
3918:
3917:
3901:
3899:
3896:
3895:
3879:
3877:
3874:
3873:
3852:
3847:
3846:
3842:
3840:
3837:
3836:
3816:
3814:
3811:
3810:
3794:
3792:
3789:
3788:
3785:
3779:
3753:
3752:
3748:
3741:
3737:
3736:
3728:
3715:
3711:
3710:
3702:
3672:
3671:
3666:
3664:
3663:
3650:
3648:
3640:
3621:
3616:
3615:
3611:
3609:
3606:
3605:
3574:
3573:
3569:
3562:
3558:
3557:
3549:
3536:
3532:
3531:
3523:
3493:
3492:
3487:
3485:
3484:
3476:
3468:
3449:
3444:
3443:
3439:
3437:
3434:
3433:
3410:
3408:
3405:
3404:
3388:
3386:
3383:
3382:
3379:
3373:
3346:
3343:
3342:
3319:
3315:
3313:
3310:
3309:
3287:
3284:
3283:
3267:
3264:
3263:
3247:
3244:
3243:
3221:
3218:
3217:
3201:
3199:
3196:
3195:
3173:
3170:
3169:
3153:
3151:
3148:
3147:
3125:
3122:
3121:
3105:
3103:
3100:
3099:
3077:
3074:
3073:
3055:
3051:
3050:
3048:
3045:
3044:
3026:
3022:
3021:
3019:
3016:
3015:
2999:
2997:
2994:
2993:
2967:
2963:
2952:
2944:
2933:
2930:
2929:
2913:
2911:
2908:
2907:
2891:
2889:
2886:
2885:
2869:
2867:
2864:
2863:
2847:
2845:
2842:
2841:
2816:
2808:
2784:
2776:
2769:
2768:
2764:
2756:
2748:
2734:
2731:
2730:
2710:
2700:
2696:
2695:
2675:
2665:
2661:
2660:
2640:
2630:
2626:
2625:
2615:
2611:
2610:
2599:
2596:
2595:
2576:
2575:
2571:
2566:
2558:
2538:
2530:
2519:
2516:
2515:
2496:
2495:
2488:
2484:
2483:
2482:
2475:
2471:
2470:
2457:
2456:
2451:
2450:
2445:
2425:
2417:
2406:
2403:
2402:
2396:
2371:
2367:
2358:
2354:
2343:
2340:
2339:
2311:
2308:
2307:
2285:
2282:
2281:
2262:
2254:
2243:
2240:
2239:
2221:
2220:
2209:
2205:
2196:
2192:
2191:
2187:
2186:
2178:
2176:
2173:
2172:
2154:
2153:
2142:
2138:
2129:
2125:
2116:
2112:
2111:
2107:
2106:
2098:
2096:
2093:
2092:
2089:
2066:
2065:
2050:
2046:
2028:
2024:
2009:
2005:
1987:
1983:
1972:
1970:
1965:
1950:
1946:
1928:
1924:
1909:
1905:
1887:
1883:
1872:
1870:
1855:
1851:
1833:
1829:
1814:
1810:
1792:
1788:
1777:
1774:
1771:
1770:
1765:
1760:
1755:
1749:
1746:
1745:
1730:
1726:
1708:
1704:
1689:
1685:
1667:
1663:
1652:
1650:
1645:
1630:
1626:
1608:
1604:
1589:
1585:
1567:
1563:
1552:
1550:
1535:
1531:
1513:
1509:
1494:
1490:
1472:
1468:
1457:
1454:
1451:
1450:
1435:
1431:
1413:
1409:
1394:
1390:
1372:
1368:
1357:
1355:
1350:
1335:
1331:
1313:
1309:
1294:
1290:
1272:
1268:
1257:
1255:
1240:
1236:
1218:
1214:
1199:
1195:
1177:
1173:
1162:
1155:
1154:
1144:
1139:
1138:
1134:
1132:
1129:
1128:
1109:
1107:
1104:
1103:
1102:-th element of
1083:
1081:
1078:
1077:
1076:-th element of
1044:
1040:
1022:
1018:
1003:
999:
981:
977:
953:
949:
940:
936:
916:
912:
906:
902:
901:
897:
895:
892:
891:
857:
854:
853:
834:
832:
829:
828:
812:
810:
807:
806:
790:
788:
785:
784:
768:
766:
763:
762:
743:
724:
720:
719:
717:
714:
713:
694:
675:
671:
670:
668:
665:
664:
661:
626:
625:
621:
614:
610:
609:
601:
588:
584:
583:
575:
545:
544:
539:
537:
536:
528:
520:
501:
496:
495:
491:
489:
486:
485:
463:
461:
458:
457:
441:
439:
436:
435:
420:random elements
403:
401:
398:
397:
381:
379:
376:
375:
369:
346:
341:
340:
336:
334:
331:
330:
312:
307:
306:
302:
300:
297:
296:
280:
278:
275:
274:
258:
256:
253:
252:
230:random variable
186:
183:
172:
143:
142:
118:
108:
107:
83:
73:
72:
48:
12:
11:
5:
4061:
4051:
4050:
4045:
4029:
4028:
4013:
4006:
3984:
3983:
3981:
3978:
3965:
3962:
3956:
3951:
3946:
3942:
3936:
3931:
3926:
3904:
3882:
3855:
3850:
3845:
3819:
3797:
3781:Main article:
3778:
3775:
3774:
3773:
3762:
3756:
3751:
3744:
3740:
3735:
3731:
3727:
3724:
3718:
3714:
3709:
3705:
3701:
3698:
3695:
3692:
3681:
3678:
3675:
3669:
3662:
3657:
3653:
3647:
3643:
3639:
3636:
3633:
3630:
3624:
3619:
3614:
3595:
3594:
3583:
3577:
3572:
3565:
3561:
3556:
3552:
3548:
3545:
3539:
3535:
3530:
3526:
3522:
3519:
3516:
3513:
3502:
3499:
3496:
3490:
3483:
3479:
3475:
3471:
3467:
3464:
3461:
3458:
3452:
3447:
3442:
3413:
3391:
3375:Main article:
3372:
3369:
3356:
3353:
3350:
3328:
3325:
3322:
3318:
3297:
3294:
3291:
3271:
3251:
3231:
3228:
3225:
3204:
3183:
3180:
3177:
3156:
3135:
3132:
3129:
3108:
3087:
3084:
3081:
3058:
3054:
3029:
3025:
3002:
2990:
2989:
2976:
2973:
2970:
2966:
2962:
2959:
2955:
2951:
2947:
2943:
2940:
2937:
2916:
2894:
2872:
2850:
2838:
2827:
2823:
2819:
2815:
2811:
2807:
2804:
2801:
2797:
2794:
2791:
2787:
2783:
2779:
2772:
2767:
2763:
2759:
2755:
2751:
2747:
2744:
2741:
2738:
2728:
2717:
2713:
2709:
2703:
2699:
2694:
2691:
2688:
2685:
2682:
2678:
2674:
2668:
2664:
2659:
2656:
2653:
2650:
2647:
2643:
2639:
2633:
2629:
2624:
2618:
2614:
2609:
2606:
2603:
2593:
2579:
2574:
2569:
2565:
2561:
2557:
2554:
2551:
2548:
2545:
2541:
2537:
2533:
2529:
2526:
2523:
2513:
2499:
2491:
2487:
2478:
2474:
2469:
2466:
2460:
2454:
2448:
2444:
2441:
2438:
2435:
2432:
2428:
2424:
2420:
2416:
2413:
2410:
2395:
2392:
2379:
2374:
2370:
2366:
2361:
2357:
2353:
2350:
2347:
2327:
2324:
2321:
2318:
2315:
2295:
2292:
2289:
2269:
2265:
2261:
2257:
2253:
2250:
2247:
2224:
2218:
2212:
2208:
2204:
2199:
2195:
2190:
2185:
2181:
2157:
2151:
2145:
2141:
2137:
2132:
2128:
2124:
2119:
2115:
2110:
2105:
2101:
2088:
2085:
2084:
2083:
2070:
2064:
2061:
2058:
2053:
2049:
2045:
2042:
2039:
2036:
2031:
2027:
2023:
2020:
2017:
2012:
2008:
2004:
2001:
1998:
1995:
1990:
1986:
1982:
1979:
1975:
1971:
1969:
1966:
1964:
1961:
1958:
1953:
1949:
1945:
1942:
1939:
1936:
1931:
1927:
1923:
1920:
1917:
1912:
1908:
1904:
1901:
1898:
1895:
1890:
1886:
1882:
1879:
1875:
1871:
1869:
1866:
1863:
1858:
1854:
1850:
1847:
1844:
1841:
1836:
1832:
1828:
1825:
1822:
1817:
1813:
1809:
1806:
1803:
1800:
1795:
1791:
1787:
1784:
1780:
1776:
1775:
1772:
1769:
1766:
1764:
1761:
1759:
1756:
1754:
1751:
1750:
1747:
1744:
1741:
1738:
1733:
1729:
1725:
1722:
1719:
1716:
1711:
1707:
1703:
1700:
1697:
1692:
1688:
1684:
1681:
1678:
1675:
1670:
1666:
1662:
1659:
1655:
1651:
1649:
1646:
1644:
1641:
1638:
1633:
1629:
1625:
1622:
1619:
1616:
1611:
1607:
1603:
1600:
1597:
1592:
1588:
1584:
1581:
1578:
1575:
1570:
1566:
1562:
1559:
1555:
1551:
1549:
1546:
1543:
1538:
1534:
1530:
1527:
1524:
1521:
1516:
1512:
1508:
1505:
1502:
1497:
1493:
1489:
1486:
1483:
1480:
1475:
1471:
1467:
1464:
1460:
1456:
1455:
1452:
1449:
1446:
1443:
1438:
1434:
1430:
1427:
1424:
1421:
1416:
1412:
1408:
1405:
1402:
1397:
1393:
1389:
1386:
1383:
1380:
1375:
1371:
1367:
1364:
1360:
1356:
1354:
1351:
1349:
1346:
1343:
1338:
1334:
1330:
1327:
1324:
1321:
1316:
1312:
1308:
1305:
1302:
1297:
1293:
1289:
1286:
1283:
1280:
1275:
1271:
1267:
1264:
1260:
1256:
1254:
1251:
1248:
1243:
1239:
1235:
1232:
1229:
1226:
1221:
1217:
1213:
1210:
1207:
1202:
1198:
1194:
1191:
1188:
1185:
1180:
1176:
1172:
1169:
1165:
1161:
1160:
1158:
1153:
1147:
1142:
1137:
1112:
1086:
1070:
1069:
1058:
1055:
1052:
1047:
1043:
1039:
1036:
1033:
1030:
1025:
1021:
1017:
1014:
1011:
1006:
1002:
998:
995:
992:
989:
984:
980:
976:
973:
970:
967:
964:
961:
956:
952:
948:
943:
939:
935:
932:
929:
926:
919:
915:
909:
905:
900:
873:
870:
867:
864:
861:
837:
815:
805:. The vectors
793:
771:
750:
746:
742:
739:
736:
733:
727:
723:
701:
697:
693:
690:
687:
684:
678:
674:
658:
657:
648:
646:
635:
629:
624:
617:
613:
608:
604:
600:
597:
591:
587:
582:
578:
574:
571:
568:
565:
554:
551:
548:
542:
535:
531:
527:
523:
519:
516:
513:
510:
504:
499:
494:
480:
478:is defined by
466:
444:
424:expected value
406:
384:
373:random vectors
368:
365:
349:
344:
339:
315:
310:
305:
283:
261:
184:
174:
173:
171:
170:
163:
156:
148:
145:
144:
141:
140:
135:
130:
125:
119:
114:
113:
110:
109:
106:
105:
100:
95:
90:
84:
79:
78:
75:
74:
71:
70:
65:
60:
55:
49:
44:
43:
40:
39:
31:
30:
24:
23:
9:
6:
4:
3:
2:
4060:
4049:
4046:
4044:
4041:
4040:
4038:
4024:
4017:
4009:
4003:
3999:
3992:
3990:
3985:
3977:
3963:
3960:
3940:
3870:
3834:
3784:
3738:
3733:
3712:
3707:
3693:
3667:
3645:
3634:
3631:
3628:
3604:
3603:
3602:
3600:
3559:
3554:
3533:
3528:
3514:
3488:
3473:
3462:
3459:
3456:
3432:
3431:
3430:
3428:
3378:
3368:
3354:
3351:
3348:
3326:
3323:
3320:
3316:
3295:
3292:
3289:
3269:
3249:
3229:
3226:
3223:
3181:
3178:
3175:
3133:
3130:
3127:
3085:
3082:
3079:
2974:
2971:
2968:
2964:
2960:
2949:
2938:
2935:
2839:
2825:
2813:
2802:
2799:
2795:
2792:
2781:
2765:
2761:
2753:
2745:
2739:
2736:
2729:
2707:
2689:
2686:
2683:
2672:
2654:
2651:
2648:
2637:
2622:
2604:
2601:
2594:
2563:
2552:
2549:
2546:
2535:
2524:
2521:
2514:
2485:
2472:
2467:
2439:
2433:
2422:
2411:
2408:
2401:
2400:
2399:
2391:
2372:
2368:
2364:
2359:
2355:
2348:
2345:
2338:-th entry is
2322:
2319:
2316:
2306:matrix whose
2293:
2290:
2287:
2259:
2248:
2245:
2216:
2210:
2206:
2202:
2197:
2193:
2188:
2183:
2149:
2143:
2139:
2135:
2130:
2126:
2122:
2117:
2113:
2108:
2103:
2068:
2051:
2047:
2040:
2034:
2029:
2025:
2010:
2006:
1999:
1993:
1988:
1984:
1967:
1951:
1947:
1940:
1934:
1929:
1925:
1910:
1906:
1899:
1893:
1888:
1884:
1856:
1852:
1845:
1839:
1834:
1830:
1815:
1811:
1804:
1798:
1793:
1789:
1767:
1762:
1757:
1752:
1731:
1727:
1720:
1714:
1709:
1705:
1690:
1686:
1679:
1673:
1668:
1664:
1647:
1631:
1627:
1620:
1614:
1609:
1605:
1590:
1586:
1579:
1573:
1568:
1564:
1536:
1532:
1525:
1519:
1514:
1510:
1495:
1491:
1484:
1478:
1473:
1469:
1436:
1432:
1425:
1419:
1414:
1410:
1395:
1391:
1384:
1378:
1373:
1369:
1352:
1336:
1332:
1325:
1319:
1314:
1310:
1295:
1291:
1284:
1278:
1273:
1269:
1241:
1237:
1230:
1224:
1219:
1215:
1200:
1196:
1189:
1183:
1178:
1174:
1156:
1151:
1127:
1126:
1125:
1101:
1075:
1045:
1041:
1034:
1028:
1023:
1019:
1004:
1000:
993:
987:
982:
978:
968:
962:
954:
950:
946:
941:
937:
930:
927:
924:
917:
913:
907:
903:
890:
889:
888:
887:
884:entry is the
868:
865:
862:
850:
737:
731:
721:
688:
682:
672:
656:
649:
647:
611:
606:
585:
580:
566:
540:
525:
514:
511:
508:
484:
483:
479:
433:
429:
425:
421:
374:
364:
249:
247:
243:
239:
235:
231:
227:
223:
222:random vector
219:
215:
211:
207:
203:
199:
195:
191:
181:
169:
164:
162:
157:
155:
150:
149:
147:
146:
139:
136:
134:
131:
129:
126:
124:
121:
120:
117:
112:
111:
104:
101:
99:
96:
94:
91:
89:
86:
85:
82:
77:
76:
69:
66:
64:
61:
59:
56:
54:
51:
50:
47:
42:
41:
37:
33:
32:
29:
26:
25:
22:
18:
17:
4016:
3997:
3871:
3833:uncorrelated
3832:
3786:
3598:
3596:
3380:
3120:is a random
2991:
2397:
2090:
1099:
1073:
1072:between the
1071:
851:
662:
650:
431:
370:
250:
241:
237:
225:
217:
216:between the
209:
205:
197:
187:
115:
80:
67:
45:
3831:are called
3072:are random
430:exist, the
4037:Categories
3980:References
2394:Properties
886:covariance
367:Definition
214:covariance
194:statistics
21:Statistics
3739:μ
3734:−
3713:μ
3708:−
3694:
3656:¯
3635:
3560:μ
3555:−
3534:μ
3529:−
3515:
3463:
3352:×
3324:×
3293:×
3227:×
3179:×
3131:×
3098:vectors,
3083:×
2972:×
2939:
2803:
2740:
2690:
2655:
2605:
2553:
2525:
2486:μ
2473:μ
2468:−
2440:
2412:
2349:
2291:×
2249:
2041:
2035:−
2000:
1994:−
1968:⋯
1941:
1935:−
1900:
1894:−
1846:
1840:−
1805:
1799:−
1768:⋮
1763:⋱
1758:⋮
1753:⋮
1721:
1715:−
1680:
1674:−
1648:⋯
1621:
1615:−
1580:
1574:−
1526:
1520:−
1485:
1479:−
1426:
1420:−
1385:
1379:−
1353:⋯
1326:
1320:−
1285:
1279:−
1231:
1225:−
1190:
1184:−
1035:
1029:−
994:
988:−
969:
931:
738:
722:μ
689:
673:μ
612:μ
607:−
586:μ
581:−
567:
515:
338:Σ
242:potential
4048:Matrices
3242:vector,
3194:vector,
3146:vector,
2928:), then
1098:and the
428:variance
238:observed
2087:Example
4004:
3688:
3509:
2992:where
663:where
561:
422:whose
234:scalar
202:matrix
3341:is a
3216:is a
3168:is a
2280:is a
200:is a
4002:ISBN
3894:and
3809:and
3403:and
3282:are
3262:and
3043:and
2862:and
2171:and
827:and
783:and
712:and
653:Eq.1
456:and
426:and
396:and
371:For
273:and
224:and
196:, a
192:and
3632:cov
3460:cov
3381:If
2936:cov
2840:If
2800:cov
2737:cov
2687:cov
2652:cov
2602:cov
2550:cov
2522:cov
2409:cov
2346:cov
2246:cov
928:cov
512:cov
434:of
329:or
188:In
4039::
3988:^
3976:.
3429::
3014:,
2390:.
363:.
208:,
4025:.
4010:.
3964:0
3961:=
3955:W
3950:Z
3945:J
3941:=
3935:W
3930:Z
3925:K
3903:W
3881:Z
3854:Y
3849:X
3844:K
3818:Y
3796:X
3761:]
3755:T
3750:)
3743:W
3730:W
3726:(
3723:)
3717:Z
3704:Z
3700:(
3697:[
3691:E
3680:f
3677:e
3674:d
3668:=
3661:)
3652:W
3646:,
3642:Z
3638:(
3629:=
3623:W
3618:Z
3613:J
3582:]
3576:H
3571:)
3564:W
3551:W
3547:(
3544:)
3538:Z
3525:Z
3521:(
3518:[
3512:E
3501:f
3498:e
3495:d
3489:=
3482:)
3478:W
3474:,
3470:Z
3466:(
3457:=
3451:W
3446:Z
3441:K
3412:W
3390:Z
3355:q
3349:p
3327:q
3321:p
3317:0
3296:p
3290:q
3270:B
3250:A
3230:1
3224:p
3203:b
3182:1
3176:q
3155:a
3134:1
3128:q
3107:Y
3086:1
3080:p
3057:2
3053:X
3028:1
3024:X
3001:X
2975:q
2969:p
2965:0
2961:=
2958:)
2954:Y
2950:,
2946:X
2942:(
2915:Y
2893:X
2871:Y
2849:X
2826:B
2822:)
2818:Y
2814:,
2810:X
2806:(
2796:A
2793:=
2790:)
2786:b
2782:+
2778:Y
2771:T
2766:B
2762:,
2758:a
2754:+
2750:X
2746:A
2743:(
2716:)
2712:Y
2708:,
2702:2
2698:X
2693:(
2684:+
2681:)
2677:Y
2673:,
2667:1
2663:X
2658:(
2649:=
2646:)
2642:Y
2638:,
2632:2
2628:X
2623:+
2617:1
2613:X
2608:(
2578:T
2573:)
2568:X
2564:,
2560:Y
2556:(
2547:=
2544:)
2540:Y
2536:,
2532:X
2528:(
2498:T
2490:Y
2477:X
2465:]
2459:T
2453:Y
2447:X
2443:[
2437:E
2434:=
2431:)
2427:Y
2423:,
2419:X
2415:(
2378:)
2373:j
2369:Y
2365:,
2360:i
2356:X
2352:(
2326:)
2323:j
2320:,
2317:i
2314:(
2294:2
2288:3
2268:)
2264:Y
2260:,
2256:X
2252:(
2223:T
2217:)
2211:2
2207:Y
2203:,
2198:1
2194:Y
2189:(
2184:=
2180:Y
2156:T
2150:)
2144:3
2140:X
2136:,
2131:2
2127:X
2123:,
2118:1
2114:X
2109:(
2104:=
2100:X
2069:]
2063:]
2060:)
2057:]
2052:n
2048:Y
2044:[
2038:E
2030:n
2026:Y
2022:(
2019:)
2016:]
2011:m
2007:X
2003:[
1997:E
1989:m
1985:X
1981:(
1978:[
1974:E
1963:]
1960:)
1957:]
1952:2
1948:Y
1944:[
1938:E
1930:2
1926:Y
1922:(
1919:)
1916:]
1911:m
1907:X
1903:[
1897:E
1889:m
1885:X
1881:(
1878:[
1874:E
1868:]
1865:)
1862:]
1857:1
1853:Y
1849:[
1843:E
1835:1
1831:Y
1827:(
1824:)
1821:]
1816:m
1812:X
1808:[
1802:E
1794:m
1790:X
1786:(
1783:[
1779:E
1743:]
1740:)
1737:]
1732:n
1728:Y
1724:[
1718:E
1710:n
1706:Y
1702:(
1699:)
1696:]
1691:2
1687:X
1683:[
1677:E
1669:2
1665:X
1661:(
1658:[
1654:E
1643:]
1640:)
1637:]
1632:2
1628:Y
1624:[
1618:E
1610:2
1606:Y
1602:(
1599:)
1596:]
1591:2
1587:X
1583:[
1577:E
1569:2
1565:X
1561:(
1558:[
1554:E
1548:]
1545:)
1542:]
1537:1
1533:Y
1529:[
1523:E
1515:1
1511:Y
1507:(
1504:)
1501:]
1496:2
1492:X
1488:[
1482:E
1474:2
1470:X
1466:(
1463:[
1459:E
1448:]
1445:)
1442:]
1437:n
1433:Y
1429:[
1423:E
1415:n
1411:Y
1407:(
1404:)
1401:]
1396:1
1392:X
1388:[
1382:E
1374:1
1370:X
1366:(
1363:[
1359:E
1348:]
1345:)
1342:]
1337:2
1333:Y
1329:[
1323:E
1315:2
1311:Y
1307:(
1304:)
1301:]
1296:1
1292:X
1288:[
1282:E
1274:1
1270:X
1266:(
1263:[
1259:E
1253:]
1250:)
1247:]
1242:1
1238:Y
1234:[
1228:E
1220:1
1216:Y
1212:(
1209:)
1206:]
1201:1
1197:X
1193:[
1187:E
1179:1
1175:X
1171:(
1168:[
1164:E
1157:[
1152:=
1146:Y
1141:X
1136:K
1111:Y
1100:j
1085:X
1074:i
1057:]
1054:)
1051:]
1046:j
1042:Y
1038:[
1032:E
1024:j
1020:Y
1016:(
1013:)
1010:]
1005:i
1001:X
997:[
991:E
983:i
979:X
975:(
972:[
966:E
963:=
960:]
955:j
951:Y
947:,
942:i
938:X
934:[
925:=
918:j
914:Y
908:i
904:X
899:K
872:)
869:j
866:,
863:i
860:(
836:Y
814:X
792:Y
770:X
749:]
745:Y
741:[
735:E
732:=
726:Y
700:]
696:X
692:[
686:E
683:=
677:X
655:)
651:(
634:]
628:T
623:)
616:Y
603:Y
599:(
596:)
590:X
577:X
573:(
570:[
564:E
553:f
550:e
547:d
541:=
534:)
530:Y
526:,
522:X
518:(
509:=
503:Y
498:X
493:K
465:Y
443:X
405:Y
383:X
348:Y
343:X
314:Y
309:X
304:K
282:Y
260:X
226:j
218:i
210:j
206:i
182:.
167:e
160:t
153:v
Text is available under the Creative Commons Attribution-ShareAlike License. Additional terms may apply.
