Зависимость количества лейкоцитов в крови человека от уровня радиации

Overview

vichislenia
diagrammi
Гист1
Гист2
regress
KorrelTabl
Лист1
Лист2
Gipoteza

Sheet 1: vichislenia

X Y
M(X)= 1,467
x*x y*y
x*x*x y*y*y
X для цм3 Y для цм3
0,6266666667 4527,23688144 M(Y)= 9979,0582663252 0,3927111111 20495873,7806706 0,246098963 92789675697,191 -0,59340988 -162040978299,892
0,6533333333 5108,70923264 0,4268444444 26098910,0236612 0,2788717037 133331742599,719 -0,5386908193 -115526138770,924
0,6466666667 5207,55501084 D(X)= 0,2794732884 0,4181777778 27118629,1909248 0,2704216296 141221753330,312 -0,5520406734 -108633975605,994
0,7733333333 5458,40594364 D(Y)= 10499319,6650111 0,5980444444 29794195,4455645 0,4624877037 162628813506,041 -0,3337739793 -92385395410,5581
0,78 5507,01081684 0,6084 30327168,1367928 0,474552 167012042973,443 -0,324242703 -89437408874,2218
0,74 5673,07716144 MO(X)= 1,0933333333 0,5476 32183804,4796521 0,405224 182581206161,765 -0,384240583 -79839233581,5895
0,8 5728,14201024 MO(Y)= 8506,90117004 0,64 32811610,8894763 0,512 187949566759,658 -0,296740963 -76815285331,3324
0,8533333333 5812,47667364 0,7281777778 33784885,0816091 0,6213783704 196373856458,461 -0,2310987526 -72333532116,8973
0,8666666667 5965,56775724 ME(X)= 1,42 0,7511111111 35587998,6662215 0,650962963 212302617387,911 -0,2163602 -64649730817,3035
0,96 6149,16751904 ME(Y)= 9689,21194722 0,9216 37812261,1772166 0,884736 232513928252,397 -0,130323843 -56177079285,7006
0,92 6255,46281984 0,8464 39130815,0904006 0,778688 244781358908,035 -0,163667323 -51628257994,3489
0,9 6329,59436564 СРЕД.КВАДР.ОТКЛ.(X) 0,5286523323 0,81 40063764,8335416 0,729 253587380156,711 -0,182284263 -48605701597,5387
1,0933333333 6332,22573984 СРЕД.КВАДР.ОТКЛ.(Y) 3240,2653695355 1,1953777778 40097082,8202923 1,3069463704 253903779927,151 -0,0521738726 -48500638830,6469
0,86 6337,09930464 0,7396 40158827,5968688 0,636056 254490478439,275 -0,223648543 -48306452289,5875
0,82 6385,75196324 a1(X) 1,467 0,6724 40777828,1360235 0,551368 260397096076,275 -0,270840023 -46396232664,2842
0,9533333333 6391,24189964 a2(X) 2,4287675556 0,9088444444 40847973,0197139 0,8664317037 261069276678,96 -0,1355327193 -46183901690,1149
0,9266666667 6595,45401164 a3(X) 4,45698776 0,8587111111 43500013,6196582 0,795738963 286902339334,169 -0,15775578 -38738133113,708
0,96 6738,95099904 0,9216 45413460,5674622 0,884736 306039085460,963 -0,130323843 -34015602259,0015
0,9466666667 6838,88914904 a1(Y) 9979,0582663252 0,8961777778 46770404,7928571 0,8483816296 319857613834,079 -0,1408785734 -30964146555,7785
0,7866666667 7091,04251024 a2(Y) 109975930,351074 0,6188444444 50282883,8820308 0,4868242963 356558067144,942 -0,3148946267 -24087885317,1165
0,9933333333 7097,94431424 a3(Y) 1323398399859,28 0,9867111111 50380813,4880519 0,980133037 357600208644,304 -0,106271906 -23915601415,1918
0,9866666667 7253,37533804 0,9735111111 52611453,7944869 0,960530963 381610621451,362 -0,11082256 -20250045446,1086
1,0933333333 7318,543206 Центрмом1(X) 0 1,1953777778 53561074,6580888 1,3069463704 391989039045,014 -0,0521738726 -18832031199,6389
1,02 7379,69029824 Центрмом2(X) 0,2794732884 1,0404 54459828,8979376 1,061208 401896670961,92 -0,089314623 -17563185508,3372
1,0466666667 7391,09011004 Центрмом3(X) 0,082210874 1,0955111111 54628213,0147311 1,146634963 403762044942,337 -0,07426454 -17333121636,7236
1,0266666667 7408,13259264 1,0540444444 54880428,5101351 1,0821522963 406561491143,981 -0,0853777467 -16992941553,6446
1,14 7467,51484544 Центрмом1(Y) 0 1,2996 55763777,9668668 1,481544 416416839805,398 -0,034965783 -15842440059,0078
1,0866666667 7515,75113744 Центрмом2(Y) 10499319,6650111 1,1808444444 56486515,1599307 1,2831842963 424538590563,271 -0,0550165267 -14947057015,4642
1,0933333333 7574,01233264 Центрмом3(Y) 18491004058,6283 1,1953777778 57365662,8149828 1,3069463704 434488237630,748 -0,0521738726 -13911377184,9737
1,04 7608,59146944 1,0816 57890664,1488352 1,124864 440466413403,043 -0,077854483 -13319920403,6394
1,0066666667 7717,1744 Ковариация 1671,6545741546 1,0133777778 59554780,7200154 1,0201336296 459594629170,116 -0,0975477534 -11572066175,5103
1,0133333333 7803,208244 Корреляция 0,985735993 1,0268444444 60890058,8992296 1,0405357037 475137809580,114 -0,0933706993 -10301177500,7607
1,04 7881,09791924 1,0816 62111704,4126491 1,124864 489508424406,978 -0,077854483 -9234041592,61113
1,2066666667 8250,37800704 1,4560444444 68068737,2590493 1,7569602963 561592812849,045 -0,0176436867 -5165876481,24914
1,12 8464,47074304 1,2544 71647264,9597801 1,404928 606456178070,894 -0,041781923 -3474426467,59949
1,2666666667 8506,90117004 1,6044444444 72367367,5168279 2,0322962963 615622043401,618 -0,0080400667 -3190527338,13909
1,2666666667 8506,90117004 1,6044444444 72367367,5168279 2,0322962963 615622043401,618 -0,0080400667 -3190527338,13909
1,2666666667 8506,90117004 1,6044444444 72367367,5168279 2,0322962963 615622043401,618 -0,0080400667 -3190527338,13909
1,12 8525,00573184 1,2544 72675722,7279049 1,404928 619560952821,004 -0,041781923 -3074257868,02583
1,0533333333 8539,60576404 1,1095111111 72924866,6052252 1,168685037 622749611203,829 -0,070786686 -2982579420,98783
1,3066666667 8639,86787664 1,7073777778 74647316,9257958 2,2309736296 644942955584,548 -0,0041216534 -2401745425,61038
1,3533333333 8804,89275224 1,8315111111 77526136,3784485 2,478645037 682609316307,771 -0,001468586 -1618780492,76329
1,2066666667 8873,71818944 1,4560444444 78742874,5055983 1,7569602963 698742077789,119 -0,0176436867 -1350478735,56291
1,3333333333 8960,73398064 1,7777777778 80294753,4717964 2,3703703704 719499925901,838 -0,0023881926 -1055986348,3117
1,4 8975,01964944 1,96 80550977,7078341 2,744 722946607709,415 -0,000300763 -1012164847,80619
1,2133333333 9260,91645284 1,4721777778 85764573,5464826 1,7862423704 794258550227,427 -0,0163226326 -370365600,087514
1,1666666667 9332,44342004 1,3611111111 87094500,1882479 1,587962963 812804495203,486 -0,0270901 -270356624,443177
1,4533333333 9469,076864 2,1121777778 89663416,6563401 3,0696983704 849029784207,742 -2,55262962962953E-006 -132636488,763532
1,5733333333 9539,75763104 2,4753777778 91006975,6589859 3,8945943704 868184490520,683 0,0012022874 -84778454,2581012
1,4 9683,77195344 1,96 93775439,2462312 2,744 908099968494,17 -0,000300763 -25747196,7079091
1,3066666667 9694,651941 1,7073777778 93986276,2571351 2,2309736296 911164235543,597 -0,0041216534 -23004762,4588021
1,4933333333 9978,551024 2,2300444444 99571480,5385714 3,3301997037 993579099089,358 1,82607037037041E-005 -0,1305108007
1,5 10012,905344 2,25 100258273,427904 3,375 1003876601786,47 0,000035937 38776,0470943171
1,4 10035,86989184 1,96 100718684,485941 2,744 1010799613178,18 -0,000300763 183362,975134176
1,4733333333 10137,97421624 2,1707111111 102778521,209147 3,198181037 1041965998001,61 0,000000254 4013307,75852144
1,5133333333 10150,809344 2,2901777778 103038930,338238 3,4658023704 1045928536873,15 9,94673703703718E-005 5066387,60292942
1,5133333333 10150,809344 2,2901777778 103038930,338238 3,4658023704 1045928536873,15 9,94673703703718E-005 5066387,60292942
1,44 10156,15237104 2,0736 103147430,983782 2,985984 1047581025752,62 -0,000019683 5554082,32303898
1,5866666667 10166,75314304 2,5175111111 103362869,471514 3,994450963 1050864778073,15 0,00171364 6612371,64794049
1,4733333333 10172,29902884 2,1707111111 103475667,532139 3,198181037 1052585432345,75 0,000000254 7215995,06535238
1,4533333333 10327,17158304 2,1121777778 106650472,905549 3,0696983704 1101397733107,96 -2,55262962962953E-006 42185374,7294115
1,5666666667 10370,44061664 2,4544444444 107546038,583257 3,8452962963 1115299806682,54 0,0009900333 59952004,8342662
1,6133333333 10484,95486064 2,6028444444 109934278,429658 4,1992557037 1152655946972 0,0031335007 129474805,496421
1,58 10546,76963964 2,4964 111234349,831632 3,944312 1173163063689,35 0,001442897 182971220,241239
1,5533333333 10639,606016 2,4128444444 113201216,175703 3,7479517037 1204416340641,53 0,0006434807 288212393,498192
1,72 10710,06054144 2,9584 114705396,80131 5,088448 1228501744171,93 0,016194277 390621538,209217
1,78 10894,356434 3,1684 118687002,111037 5,639752 1293018505080,55 0,030664297 766810019,362494
1,54 10904,36332544 2,3716 118905139,533201 3,652264 1296584842732,16 0,000389017 792236431,888148
1,6733333333 11133,18559184 2,8000444444 123947821,422354 4,6854077037 1379934099599,31 0,0087843207 1537309004,40308
1,7 11426,35002704 2,89 130561474,940437 4,913 1491841112716,04 0,012649337 3031574666,18098
1,66 11483,29537524 2,7556 131866072,675008 4,574296 1514257062499,99 0,007189057 3403681350,15792
1,8333333333 11530,378301 3,3611111111 132949623,764172 6,162037037 1532959456976,52 0,049161974 3733397254,80446
1,8 11636,61318144 3,24 135410766,334463 5,832 1575722708436,51 0,036926037 4554112730,28495
1,72 11685,42418784 2,9584 136549138,449756 5,088448 1595634605269,49 0,016194277 4968399474,79136
1,6466666667 11755,890224 2,7115111111 138200954,958739 4,464954963 1624675255346,9 0,00579966 5609692687,1627
1,6533333333 11829,514736 2,7335111111 139937418,889241 4,519405037 1655391758868,08 0,006469514 6336312958,90447
1,78 11888,40116204 3,1684 141334082,189594 5,639752 1680236266938,63 0,030664297 6960681927,4218
1,84 12092,16363264 3,3856 146220421,318541 6,229504 1768121261017,37 0,051895117 9435468276,14506
1,8466666667 12168,77011584 3,4101777778 148078966,132161 6,2974616296 1801938897853,52 0,0547277266 10499313549,8616
1,8666666667 12438,42597504 3,4844444444 154714440,73655 6,5042962963 1924404118371,29 0,0638401333 14875459828,3897
2,0333333333 12787,43834004 4,1344444444 163518579,300325 8,4067037037 2090983750253,85 0,1816420407 22149689817,606
1,9333333333 13261,70312064 3,7377777778 175872769,659993 7,2263703704 2332372458235,53 0,1014120074 35372984053,7853
2,0333333333 13298,55828704 4,1344444444 176851652,5138 8,4067037037 2351872009114,12 0,1816420407 36577837574,6492
1,9466666667 13381,06633344 3,7895111111 179052936,219921 7,376914963 2395919216755,97 0,11036176 39373680905,4406
2,0133333333 13643,987279 4,0535111111 186158388,869514 8,161069037 2539942689614,78 0,163069634 49226244127,233
2,0733333333 13826,89811984 4,2987111111 191183111,616435 8,912661037 2643469406554,44 0,222912454 56970622571,0789
2,1466666667 14134,15333824 4,6081777778 199774290,588881 9,8922216296 2823640456221,36 0,3139698266 71736947959,4098
2,36 14770,698384 5,5696 218173530,7511 13,144256 3222575418096,85 0,712121957 110015170731,338
2,26 14869,74167744 5,1076 221109217,553796 11,543176 3287836947525,83 0,498677257 116979201236,708
2,44 15085,67629244 5,9536 227577629,200286 14,526784 3433162445516,46 0,921167317 133168074981,122
2,2866666667 15170,25396224 5,2288444444 230136605,278858 11,9566242963 3491230748088,06 0,5506958733 139895003416,155
2,5333333333 15448,30337024 6,4177777778 238650077,018969 16,2583703704 3686738789120,17 1,2124922074 163599570840,279
2,52 15974,40470444 6,3504 255181605,661235 16,003008 4076374241961,38 1,167575877 215497805017,111
2,2733333333 16240,56571904 5,1680444444 263755974,874457 11,7486877037 4283546243738,09 0,5242565207 245491639041,374
2,1933333333 16377,19784064 4,8107111111 268212609,111463 10,551493037 4392570962772,68 0,383184494 261915457340,091
2,6733333333 16409,90263224 7,1467111111 269284904,399597 19,105541037 4418939061529,45 1,755504654 265952451426,413
2,5666666667 16562,51831624 6,5877777778 274317012,975785 16,9086296296 4543380551867,69 1,3297903666 285339971483,019
2,5533333333 17086,6176 6,5195111111 291952501,00863 16,646485037 4988480742098,07 1,282003814 359055415620,702
2,5 17102,29938404 6,25 292488644,221335 15,625 5002228359905,23 1,102302937 361437271971,16
2,6733333333 17181,38025344 7,1467111111 295199827,413298 19,105541037 5071940485537,73 1,755504654 373609231907,695

Доверительный интервал


ДЛЯ X ДЛЯ Y

S(X)= 0,2822962509 исправленная дисперсия S(Y)= 10605373,3990012
s*(X)= 0,5313155851 исправленное сред. Квадрат. Отклон. s*(Y)= 3256,5892278581


Для 0,95 Для 0,95

1,3615869879 < m < 1,5724130121 9332,9509635182 < m < 10625,1655691322


для 0,99 для 0,99

1,3274233958 < m < 1,6065766042 9123,5522761669 < m < 10834,5642564835


для 0,999 для 0,999

1,2867777535 < m < 1,6472222465 8874,4232002358 < m < 11083,6933324147

Sheet 2: diagrammi

X Y



















0,6266666667 4527,23688144
0,6533333333 5108,70923264
0,6466666667 5207,55501084
0,7733333333 5458,40594364

0,78 5507,01081684
0,74 5673,07716144
0,8 5728,14201024
0,8533333333 5812,47667364
0,8666666667 5965,56775724
0,96 6149,16751904
0,92 6255,46281984
0,9 6329,59436564
1,0933333333 6332,22573984
0,86 6337,09930464
0,82 6385,75196324
0,9533333333 6391,24189964
0,9266666667 6595,45401164
0,96 6738,95099904
0,9466666667 6838,88914904
0,7866666667 7091,04251024
0,9933333333 7097,94431424 Xmin Xmax N H Ymin Ymax N H
0,9866666667 7253,37533804 0,6266666667 2,6733333333 10 0,2046666667 4527,23688144 17181,38025344 10 1265,4143372
1,0933333333 7318,543206
1,02 7379,69029824 Карман Карман
1,0466666667 7391,09011004 0,6266666667 4527,23688144
1,0266666667 7408,13259264 0,8313333333 5792,65121864
1,14 7467,51484544 1,036 7058,06555584
1,0866666667 7515,75113744 1,2406666667 8323,47989304
1,0933333333 7574,01233264 1,4453333333 9588,89423024
1,04 7608,59146944 1,65 10854,30856744
1,0066666667 7717,1744 1,8546666667 12119,72290464
1,0133333333 7803,208244 2,0593333333 13385,13724184
1,04 7881,09791924 2,264 14650,55157904
1,2066666667 8250,37800704 2,4686666667 15915,96591624
1,12 8464,47074304 2,6733333333 17181,38025344
1,2666666667 8506,90117004
1,2666666667 8506,90117004
1,2666666667 8506,90117004
1,12 8525,00573184
1,0533333333 8539,60576404
1,3066666667 8639,86787664
1,3533333333 8804,89275224
1,2066666667 8873,71818944
1,3333333333 8960,73398064
1,4 8975,01964944
1,2133333333 9260,91645284
1,1666666667 9332,44342004
1,4533333333 9469,076864
1,5733333333 9539,75763104
1,4 9683,77195344
1,3066666667 9694,651941
1,4933333333 9978,551024
1,5 10012,905344
1,4 10035,86989184
1,4733333333 10137,97421624
1,5133333333 10150,809344
1,5133333333 10150,809344
1,44 10156,15237104
1,5866666667 10166,75314304
1,4733333333 10172,29902884
1,4533333333 10327,17158304
1,5666666667 10370,44061664
1,6133333333 10484,95486064
1,58 10546,76963964
1,5533333333 10639,606016
1,72 10710,06054144
1,78 10894,356434
1,54 10904,36332544
1,6733333333 11133,18559184
1,7 11426,35002704
1,66 11483,29537524
1,8333333333 11530,378301
1,8 11636,61318144
1,72 11685,42418784
1,6466666667 11755,890224
1,6533333333 11829,514736
1,78 11888,40116204
1,84 12092,16363264
1,8466666667 12168,77011584
1,8666666667 12438,42597504
2,0333333333 12787,43834004
1,9333333333 13261,70312064
2,0333333333 13298,55828704
1,9466666667 13381,06633344
2,0133333333 13643,987279
2,0733333333 13826,89811984
2,1466666667 14134,15333824
2,36 14770,698384
2,26 14869,74167744
2,44 15085,67629244
2,2866666667 15170,25396224
2,5333333333 15448,30337024
2,52 15974,40470444
2,2733333333 16240,56571904
2,1933333333 16377,19784064
2,6733333333 16409,90263224
2,5666666667 16562,51831624
2,5533333333 17086,6176
2,5 17102,29938404
2,6733333333 17181,38025344

Sheet 3: Гист1

Карман Частота








0,6266666667 1
0,8313333333 8
1,036 16
1,2406666667 15
1,4453333333 11
1,65 16
1,8546666667 12
2,0593333333 6
2,264 4
2,4686666667 4
2,6733333333 7
Еще 0

Карман Частота
0,6266666667 0,01
0,8313333333 0,09
1,036 0,25 0,6266666667 0,01
1,2406666667 0,4 0,8313333333 0,01
1,4453333333 0,51 0,8313333333 0,09
1,65 0,67 1,036 0,09
1,8546666667 0,79 1,036 0,25
2,0593333333 0,85 1,249 0,25
2,264 0,89 1,2406666667 0,4
2,4686666667 0,93 1,4453333333 0,4
2,6733333333 1 1,4453333333 0,51

1,65 0,51

1,65 0,67

1,8546666667 0,67

1,8546666667 0,79

2,0593333333 0,79

2,0593333333 0,85

2,264 0,85

2,264 0,89

2,4686666667 0,89

2,4686666667 0,93

2,6733333333 0,93

2,6733333333 1







Sheet 4: Гист2

Карман Частота



4527,23688144 1
5792,65121864 6
7058,06555584 12
8323,47989304 15
9588,89423024 15
10854,30856744 17
12119,72290464 12
13385,13724184 6
14650,55157904 3
15915,96591624 5
17181,38025344 8
Еще 0

4527,23688144 0,01
5792,65121864 0,07
7058,06555584 0,19
8323,47989304 0,34
9588,89423024 0,49
10854,30856744 0,66
12119,72290464 0,78
13385,13724184 0,84 4527,23688144 0,01
14650,55157904 0,87 5792,65121864 0,01
15915,96591624 0,92 5792,65121864 0,07
17181,38025344 1 7058,06555584 0,07

7058,06555584 0,19

8323,47989304 0,19

8323,47989304 0,34

9588,89423024 0,34

9588,89423024 0,49

10854,30856744 0,49

10854,30856744 0,66

12119,72290464 0,66

12119,72290464 0,78

13385,13724184 0,78

13385,13724184 0,84

14650,55157904 0,84

14650,55157904 0,87

15915,96591624 0,87

15915,96591624 0,92

17181,38025344 0,92

17181,38025344 1

Sheet 5: regress





















ΣXi ΣYi ΣX^2i ΣXiYi параболическая регрессия
Линейная регрессия
146,7 997905,82663252 242,8767555556 1631093,30508536


X Y X^3 X^4 X^2i 887,5751420188 a+ 445,698776 b+ 242,8767555556 c= 2963201,39907061
X Y X^2i XiYi
0,6266666667 4527,23688144 0,246098963 0,1542220168 0,3927111111 445,698776 a+ 242,8767555556 b+ 146,7 c= 1631093,30508536
0,6266666667 4527,23688144 0,3927111111 2837,0684457024
0,6533333333 5108,70923264 0,2788717037 0,1821961798 0,4268444444 242,8767555556 a+ 146,7 b+ 100 c= 997905,82663252
0,6533333333 5108,70923264 0,4268444444 3337,6900319915
0,6466666667 5207,55501084 0,2704216296 0,1748726538 0,4181777778
0,6466666667 5207,55501084 146,7 100 997905,82663252 0,4181777778 3367,5522403432
0,7733333333 5458,40594364 0,4624877037 0,3576571575 0,5980444444 887,5751420188 445,698776 242,8767555556 2963201,39907061
0,7733333333 5458,40594364 242,8767555556 146,7 1631093,30508536 0,5980444444 4221,1672630816
0,78 5507,01081684 0,474552 0,37015056 0,6084 445,698776 242,8767555556 146,7 1631093,30508536
0,78 5507,01081684
0,6084 4295,4684371352
0,74 5673,07716144 0,405224 0,29986576 0,5476 242,8767555556 146,7 100 997905,82663252
0,74 5673,07716144 det= -2766,7855555556 не 0 0,5476 4198,0770994656
0,8 5728,14201024 0,512 0,4096 0,64
0,8 5728,14201024 0,64 4582,513608192
0,8533333333 5812,47667364 0,6213783704 0,530242876 0,7281777778 det 24417,143535043
0,8533333333 5812,47667364 обрат -0,0530218179 0,0361430252 0,7281777778 4959,9800948395
0,8666666667 5965,56775724 0,650962963 0,5641679012 0,7511111111 0,1133132363 -0,3661303603 0,2619017266
0,8666666667 5965,56775724
0,0877830069 -0,0530218179 0,7511111111 5170,1587229413
0,96 6149,16751904 0,884736 0,84934656 0,9216 обр -0,3661303603 1,2191596355 -0,8992616451
0,96 6149,16751904 0,9216 5903,2008182784
0,92 6255,46281984 0,778688 0,71639296 0,8464 0,2619017266 -0,8992616451 0,6931184171
0,92 6255,46281984 0,8464 5755,0257942528
0,9 6329,59436564 0,729 0,6561 0,81
0,9 6329,59436564 0,81 5696,634929076
1,0933333333 6332,22573984 1,3069463704 1,4289280316 1,1953777778 -69,5801288897
1,0933333333 6332,22573984 X= а= 6041,8653364658 1,1953777778 6923,2334755584
0,86 6337,09930464 0,636056 0,54700816 0,7396 коэф 6266,688124062
0,86 6337,09930464 b= 1115,6418177298
0,7396 5449,9054019904
0,82 6385,75196324 0,551368 0,45212176 0,6724 954,8207478851 7,93079379945993E-010
0,82 6385,75196324
0,6724 5236,3166098568
0,9533333333 6391,24189964 0,8664317037 0,8259982242 0,9088444444 8,09450284577906E-011
0,9533333333 6391,24189964
0,9088444444 6092,9839443235
0,9266666667 6595,45401164 0,795738963 0,7373847723 0,8587111111 E3 0,000000003 min 8,09450284577906E-011
0,9266666667 6595,45401164
0,8587111111 6111,7873841197
0,96 6738,95099904 0,884736 0,84934656 0,9216 4527,23688144 4854,620415903 -327,383534463
0,96 6738,95099904
0,9216 6469,3929590784
0,9466666667 6838,88914904 0,8483816296 0,8031346094 0,8961777778 5108,70923264 5019,3570974786 89,3521351614
0,9466666667 6838,88914904 E2 4,1927705751732E-010 0,8961777778 6474,1483944245
0,7866666667 7091,04251024 0,4868242963 0,3829684464 0,6188444444 5207,55501084 4978,1822044352 229,3728064048
0,7866666667 7091,04251024
0,6188444444 5578,2867747221
0,9933333333 7097,94431424 0,980133037 0,9735988168 0,9867111111 5458,40594364 5759,4475543001 -301,0416106601
0,9933333333 7097,94431424 4527,23688144 4901,8774285817 -374,6405471417 0,9867111111 7050,6246854784
0,9866666667 7253,37533804 0,960530963 0,9477238835 0,9735111111 5507,01081684 5800,5049342369 -293,4941173969
0,9866666667 7253,37533804 5108,70923264 5062,9938375542 45,7153950858 0,9735111111 7156,6636668661
1,0933333333 7318,543206 1,3069463704 1,4289280316 1,1953777778 5673,07716144 5554,0678811109 119,0092803291
1,0933333333 7318,543206 5207,55501084 5022,7147353111 184,8402755289 1,1953777778 8001,60723856
1,02 7379,69029824 1,061208 1,08243216 1,0404 5728,14201024 5923,6399646452 -195,4979544052
1,02 7379,69029824 5458,40594364 5788,0176779301 -329,6117342901 1,0404 7527,2841042048
1,0466666667 7391,09011004 1,146634963 1,2001445946 1,0955111111 5812,47667364 6251,7279101188 -439,2512364788
1,0466666667 7391,09011004 5507,01081684 5828,2967801732 -321,2859633332 1,0955111111 7736,0076485085
1,0266666667 7408,13259264 1,0821522963 1,1110096909 1,0540444444 5965,56775724 6333,6880474838 -368,1202902438
1,0266666667 7408,13259264 5673,07716144 5586,6221667145 86,4549947255 1,0540444444 7605,6827951104
1,14 7467,51484544 1,481544 1,68896016 1,2996 6149,16751904 6906,7163001998 -757,5487811598
1,14 7467,51484544 5728,14201024 5949,1340869025 -220,9920766625 1,2996 8512,9669238016
1,0866666667 7515,75113744 1,2831842963 1,394393602 1,1808444444 6255,46281984 6661,2812009298 -405,8183810898
1,0866666667 7515,75113744 5812,47667364 6271,3669048473 -458,8902312073 1,1808444444 8167,1162360181
1,0933333333 7574,01233264 1,3069463704 1,4289280316 1,1953777778 6329,59436564 6538,4801551401 -208,8857895001
1,0933333333 7574,01233264 5965,56775724 6351,9251093335 -386,3573520935 1,1953777778 8280,9201503531
1,04 7608,59146944 1,124864 1,16985856 1,0816 6332,22573984 7723,2252236764 -1390,9994838364
1,04 7608,59146944 6149,16751904 6915,832540737 -766,665021697 1,0816 7912,9351282176
1,0066666667 7717,1744 1,0201336296 1,0269345205 1,0133777778 6337,09930464 6292,7110712515 44,3882333885
1,0066666667 7717,1744 6255,46281984 6674,1579272784 -418,6951074384 1,0133777778 7768,6222293333
1,0133333333 7803,208244 1,0405357037 1,0544095131 1,0268444444 6385,75196324 6046,7193309504 339,0326322896
1,0133333333 7803,208244 6329,59436564 6553,3206205491 -223,7262549091 1,0268444444 7907,2510205867
1,04 7881,09791924 1,124864 1,16985856 1,0816 6391,24189964 6865,8259125723 -474,5840129323
1,04 7881,09791924 6332,22573984 7721,4145855991 -1389,1888457591 1,0816 8196,3418360096
1,2066666667 8250,37800704 1,7569602963 2,1200654242 1,4560444444 6595,45401164 6702,202513059 -106,748501419
1,2066666667 8250,37800704 6337,09930464 6311,6460070904 25,4532975496 1,4560444444 9955,4561284949
1,12 8464,47074304 1,404928 1,57351936 1,2544 6738,95099904 6906,7163001998 -167,7653011598
1,12 8464,47074304 6385,75196324 6069,9713936318 315,7805696082 1,2544 9480,2072322048
1,2666666667 8506,90117004 2,0322962963 2,5742419753 1,6044444444 6838,88914904 6824,9293400445 13,9598089955
1,2666666667 8506,90117004 6391,24189964 6875,5534384939 -484,3115388539 1,6044444444 10775,4081487173
1,2666666667 8506,90117004 2,0322962963 2,5742419753 1,6044444444 7091,04251024 5841,5561292733 1249,4863809667
1,2666666667 8506,90117004 6595,45401164 6714,4370295215 -118,9830178815 1,6044444444 10775,4081487173
1,2666666667 8506,90117004 2,0322962963 2,5742419753 1,6044444444 7097,94431424 7111,0754648319 -13,1311505919
1,2666666667 8506,90117004 6738,95099904 6915,832540737 -176,881541697 1,6044444444 10775,4081487173
1,12 8525,00573184 1,404928 1,57351936 1,2544 7253,37533804 7070,2160017062 183,1593363338
1,12 8525,00573184 6838,88914904 6835,2743362508 3,6148127892 1,2544 9548,0064196608
1,0533333333 8539,60576404 1,168685037 1,2310149057 1,1095111111 7318,543206 7723,2252236764 -404,6820176764
1,0533333333 8539,60576404 7091,04251024 5868,5758824163 1222,4666278237 1,1095111111 8995,0514047888
1,3066666667 8639,86787664 2,2309736296 2,915138876 1,7073777778 7379,69029824 7274,4514683314 105,2388299086
1,3066666667 8639,86787664 7097,94431424 7117,2280519526 -19,2837377125 1,7073777778 11289,4273588096
1,3533333333 8804,89275224 2,478645037 3,3544329501 1,8315111111 7391,09011004 7437,7285134253 -46,6384033853
1,3533333333 8804,89275224 7253,37533804 7076,9489497094 176,4263883306 1,8315111111 11915,9548580315
1,2066666667 8873,71818944 1,7569602963 2,1200654242 1,4560444444 7408,13259264 7315,2800069554 92,8525856846
1,2066666667 8873,71818944 7318,543206 7721,4145855991 -402,8713795991 1,4560444444 10707,6199485909
1,3333333333 8960,73398064 2,3703703704 3,1604938272 1,7777777778 7467,51484544 8008,4188738106 -540,9040283706
1,3333333333 8960,73398064 7379,69029824 7278,344460925 101,345837315 1,7777777778 11947,64530752
1,4 8975,01964944 2,744 3,8416 1,96 7515,75113744 7682,4585340559 -166,7073966159
1,4 8975,01964944 7391,09011004 7439,4608698974 -48,3707598574 1,96 12565,027509216
1,2133333333 9260,91645284 1,7862423704 2,1673074094 1,4721777778 7574,01233264 7723,2252236764 -149,2128910364
1,2133333333 9260,91645284 7408,13259264 7318,6235631681 89,5090294719 1,4721777778 11236,5786294459
1,1666666667 9332,44342004 1,587962963 1,8526234568 1,3611111111 7608,59146944 7396,9185295024 211,6729399376
1,1666666667 9332,44342004 7467,51484544 8003,3683013009 -535,8534558609 1,3611111111 10887,8506567133
1,4533333333 9469,076864 3,0696983704 4,4612949649 2,1121777778 7717,1744 7192,7758363823 524,3985636177
1,4533333333 9469,076864 7515,75113744 7681,135483356 -165,384345916 2,1121777778 13761,7250423467
1,5733333333 9539,75763104 3,8945943704 6,1274951427 2,4753777778 7803,208244 7233,616744807 569,591499193
1,5733333333 9539,75763104 7574,01233264 7721,4145855991 -147,4022529591 2,4753777778 15009,2186728363
1,4 9683,77195344 2,744 3,8416 1,96 7881,09791924 7396,9185295024 484,1793897376
1,4 9683,77195344 7608,59146944 7399,1817676543 209,4097017857 1,96 13557,280734816
1,3066666667 9694,651941 2,2309736296 2,915138876 1,7073777778 8250,37800704 8415,3126574729 -164,9346504329
1,3066666667 9694,651941 7717,1744 7197,7862564388 519,3881435612 1,7073777778 12667,67853624
1,4933333333 9978,551024 3,3301997037 4,9730982242 2,2300444444 8464,47074304 7886,2301331552 578,2406098848
1,4933333333 9978,551024 7803,208244 7238,0653586819 565,1428853181 2,2300444444 14901,3028625067
1,5 10012,905344 3,375 5,0625 2,25 8506,90117004 8780,9882537893 -274,0870837493
1,5 10012,905344 7881,09791924 7399,1817676543 481,9161515857 2,25 15019,358016
1,4 10035,86989184 2,744 3,8416 1,96 8506,90117004 8780,9882537893 -274,0870837493
1,4 10035,86989184 8250,37800704 8406,1593237319 -155,7813166919 1,96 14050,217848576
1,4733333333 10137,97421624 3,198181037 4,7119867279 2,1707111111 8506,90117004 8780,9882537893 -274,0870837493
1,4733333333 10137,97421624 8464,47074304 7882,5309945716 581,9397484684 2,1707111111 14936,6153452603
1,5133333333 10150,809344 3,4658023704 5,2449142538 2,2901777778 8525,00573184 7886,2301331552 638,7755986848
1,5133333333 10150,809344 8506,90117004 8768,6712439199 -261,7700738799 2,2901777778 15361,5581405867
1,5133333333 10150,809344 3,4658023704 5,2449142538 2,2901777778 8539,60576404 7478,532312448 1061,0734515921
1,5133333333 10150,809344 8506,90117004 8768,6712439199 -261,7700738799 2,2901777778 15361,5581405867
1,44 10156,15237104 2,985984 4,29981696 2,0736 8639,86787664 9024,4936641514 -384,6257875114
1,44 10156,15237104 8506,90117004 8768,6712439199 -261,7700738799 2,0736 14624,8594142976
1,5866666667 10166,75314304 3,994450963 6,3378621946 2,5175111111 8804,89275224 9308,3018966081 -503,4091443681
1,5866666667 10166,75314304 8525,00573184 7882,5309945716 642,4747372684 2,5175111111 16131,2483202901
1,4733333333 10172,29902884 3,198181037 4,7119867279 2,1707111111 8873,71818944 8415,3126574729 458,4055319671
1,4733333333 10172,29902884 8539,60576404 7479,7399721405 1059,8657918995 2,1707111111 14987,1872358243
1,4533333333 10327,17158304 3,0696983704 4,4612949649 2,1121777778 8960,73398064 9186,7069063859 -225,9729257459
1,4533333333 10327,17158304 8639,86787664 9010,3458573785 -370,4779807385 2,1121777778 15008,8227006848
1,5666666667 10370,44061664 3,8452962963 6,0242975309 2,4544444444 8975,01964944 9591,8070689479 -616,7874195079
1,5666666667 10370,44061664 8804,89275224 9292,2995730803 -487,4068208402 2,4544444444 16247,023632736
1,6133333333 10484,95486064 4,1992557037 6,774799202 2,6028444444 9260,91645284 8455,9680188872 804,9484339528
1,6133333333 10484,95486064 8873,71818944 8406,1593237319 467,5588657081 2,6028444444 16915,7271751659
1,58 10546,76963964 3,944312 6,23201296 2,4964 9332,44342004 8171,2506060797 1161,1928139604
1,58 10546,76963964 8960,73398064 9171,4622663509 -210,7282857109 2,4964 16663,8960306312
1,5533333333 10639,606016 3,7479517037 5,8218183131 2,4128444444 9469,076864 9915,4418861726 -446,3650221726
1,5533333333 10639,606016 8975,01964944 9574,253288782 -599,233639342 2,4128444444 16526,8546781867
1,72 10710,06054144 5,088448 8,75213056 2,9584 9539,75763104 10642,1729582473 -1102,4153272073
1,72 10710,06054144 9260,91645284 8446,438425975 814,478026865 2,9584 18421,3041312768
1,78 10894,356434 5,639752 10,03875856 3,1684 9683,77195344 9591,8070689479 91,9648844921
1,78 10894,356434 9332,44342004 8164,4847102733 1167,9587097667 3,1684 19391,95445252
1,54 10904,36332544 3,652264 5,62448656 2,3716 9694,651941 9024,4936641514 670,1582768486
1,54 10904,36332544 9469,076864 9896,4861067268 -427,4092427268 2,3716 16792,7195211776
1,6733333333 11133,18559184 4,6854077037 7,8402488909 2,8000444444 9978,551024 10157,9082332766 -179,3572092766
1,6733333333 11133,18559184 9539,75763104 10621,5099471027 -1081,7523160627 2,8000444444 18629,5305570123
1,7 11426,35002704 4,913 8,3521 2,89 10012,905344 10198,2976439761 -185,3922999761
1,7 11426,35002704 9683,77195344 9574,253288782 109,518664658 2,89 19424,795045968
1,66 11483,29537524 4,574296 7,59333136 2,7556 10035,86989184 9591,8070689479 444,0628228921
1,66 11483,29537524 9694,651941 9010,3458573785 684,3060836215 2,7556 19062,2703228984
1,8333333333 11530,378301 6,162037037 11,2970679012 3,3611111111 10137,97421624 10036,7028917762 101,2713244638
1,8333333333 11530,378301 9978,551024 10138,1607201855 -159,6096961855 3,3611111111 21139,0268851667
1,8 11636,61318144 5,832 10,4976 3,24 10150,809344 10279,057910674 -128,248566674
1,8 11636,61318144 10012,905344 10178,4398224286 -165,5344784286 3,24 20945,903726592
1,72 11685,42418784 5,088448 8,75213056 2,9584 10150,809344 10279,057910674 -128,248566674
1,72 11685,42418784 10035,86989184 9574,253288782 461,616603058 2,9584 20098,9296030848
1,6466666667 11755,890224 4,464954963 7,3522925057 2,7115111111 10156,15237104 9834,5702912685 321,5820797715
1,6466666667 11755,890224 10137,97421624 10017,3234134561 120,6508027839 2,7115111111 19358,0325688533
1,6533333333 11829,514736 4,519405037 7,4720829946 2,7335111111 10166,75314304 10722,7971571376 -556,0440140976
1,6533333333 11829,514736 10150,809344 10258,9980269148 -108,1886829148 2,7335111111 19558,1310301867
1,78 11888,40116204 5,639752 10,03875856 3,1684 10172,29902884 10036,7028917762 135,5961370638
1,78 11888,40116204 10150,809344 10258,9980269148 -108,1886829148 3,1684 21161,3540684312
1,84 12092,16363264 6,229504 11,46228736 3,3856 10327,17158304 9915,4418861726 411,7296968674
1,84 12092,16363264 10156,15237104 9815,9279022406 340,2244687994 3,3856 22249,5810840576
1,8466666667 12168,77011584 6,2974616296 11,629312476 3,4101777778 10370,44061664 10601,8515814516 -231,4109648116
1,8466666667 12168,77011584 10166,75314304 10702,0681515889 -535,3150085489 3,4101777778 22471,6621472512
1,8666666667 12438,42597504 6,5042962963 12,1413530864 3,4844444444 10484,95486064 10883,971336114 -399,016475474
1,8666666667 12438,42597504 10172,29902884 10017,3234134561 154,9756153839 3,4844444444 23218,395153408
2,0333333333 12787,43834004 8,4067037037 17,0936308642 4,1344444444 10546,76963964 10682,4881501426 -135,7185105026
2,0333333333 12787,43834004 10327,17158304 9896,4861067268 430,6854763132 4,1344444444 26001,124624748
1,9333333333 13261,70312064 7,2263703704 13,970982716 3,7377777778 10639,606016 10521,1902731593 118,4157428407
1,9333333333 13261,70312064 10370,44061664 10581,2308448596 -210,7902282196 3,7377777778 25639,292699904
2,0333333333 13298,55828704 8,4067037037 17,0936308642 4,1344444444 10710,06054144 11527,6784679642 -817,6179265242
2,0333333333 13298,55828704 10484,95486064 10863,1845605614 -378,2296999214 4,1344444444 27040,4018503147
1,9466666667 13381,06633344 7,376914963 14,3603944612 3,7895111111 10894,356434 11889,0679283411 -994,7114943411
1,9466666667 13381,06633344 10546,76963964 10661,7890493458 -115,0194097058 3,7895111111 26048,4757957632
2,0133333333 13643,987279 8,161069037 16,4309523279 4,0535111111 10904,36332544 10440,5042252656 463,8591001744
2,0133333333 13643,987279 10639,606016 10500,6726403734 138,9333756266 4,0535111111 27469,8943883867
2,0733333333 13826,89811984 8,912661037 18,4789172168 4,2987111111 11133,18559184 11246,2514221406 -113,0658303006
2,0733333333 13826,89811984 10710,06054144 11507,6501964511 -797,589655011 4,2987111111 28667,7687684683
2,1466666667 14134,15333824 9,8922216296 21,2353024316 4,6081777778 11426,35002704 11407,103986299 19,246040741
2,1466666667 14134,15333824 10894,356434 11870,162116639 -975,805682639 4,6081777778 30341,3158327552
2,36 14770,698384 13,144256 31,02044416 5,5696 11483,29537524 11165,7880306593 317,5073445807
2,36 14770,698384 10904,36332544 10420,1144358872 484,2488895528 5,5696 34858,84818624
2,26 14869,74167744 11,543176 26,08757776 5,1076 11530,378301 12209,8824310081 -679,5041300081
2,26 14869,74167744 11133,18559184 11225,6964807493 -92,5108889093 5,1076 33605,6161910144
2,44 15085,67629244 14,526784 35,44535296 5,9536 11636,61318144 12009,4197535938 -372,8065721538
2,44 15085,67629244 11426,35002704 11386,8128897217 39,5371373183 5,9536 36809,0501535536
2,2866666667 15170,25396224 11,9566242963 27,3408142242 5,2288444444 11685,42418784 11527,6784679642 157,7457198758
2,2866666667 15170,25396224 11483,29537524 11145,1382762631 338,1570989769 5,2288444444 34689,3140603221
2,5333333333 15448,30337024 16,2583703704 41,1878716049 6,4177777778 11755,890224 11085,2998995767 670,5903244233
2,5333333333 15448,30337024 11530,378301 12192,3949345838 -662,0166335838 6,4177777778 39135,7018712747
2,52 15974,40470444 16,003008 40,32758016 6,3504 11829,514736 11125,5470575682 703,9676784318
2,52 15974,40470444 11636,61318144 11990,9994233683 -354,3862419283 6,3504 40255,4998551888
2,2733333333 16240,56571904 11,7486877037 26,7086833798 5,1680444444 11888,40116204 11889,0679283411 -0,6667663011
2,2733333333 16240,56571904 11685,42418784 11507,6501964511 177,7739913889 5,1680444444 36920,2194012843
2,1933333333 16377,19784064 10,551493037 23,1429413946 4,8107111111 12092,16363264 12249,9564117899 -157,7927791499
2,1933333333 16377,19784064 11755,890224 11064,5800717769 691,3101522231 4,8107111111 35920,6539304704
2,6733333333 16409,90263224 19,105541037 51,0754797057 7,1467111111 12168,77011584 12290,0242076714 -121,2540918314
2,6733333333 16409,90263224 11829,514736 11104,85917402 724,65556198 7,1467111111 43869,1397035216
2,5666666667 16562,51831624 16,9086296296 43,3988160494 6,5877777778 12438,42597504 12410,1904859138 28,2354891262
2,5666666667 16562,51831624 11888,40116204 11870,162116639 18,239045401 6,5877777778 42510,4636783493
2,5533333333 17086,6176 16,646485037 42,5040251279 6,5195111111 12787,43834004 13409,4114228124 -621,9730827724
2,5533333333 17086,6176 12092,16363264 12232,674036827 -140,510404187 6,5195111111 43627,830272
2,5 17102,29938404 15,625 39,0625 6,25 13261,70312064 12810,3427281992 451,3603924408
2,5 17102,29938404 12168,77011584 12272,9531390701 -104,1830232301 6,25 42755,7484601
2,6733333333 17181,38025344 19,105541037 51,0754797057 7,1467111111 13298,55828704 13409,4114228124 -110,8531357724
2,6733333333 17181,38025344 12438,42597504 12393,7904457994 44,6355292406 7,1467111111 45931,5565441963
13381,06633344 12890,2989578521 490,7673755879

12787,43834004 13400,768001877 -613,329661837
13643,987279 13289,709012096 354,278266904

13261,70312064 12796,5814682304 465,1216524096
13826,89811984 13648,649251936 178,248867904

13298,55828704 13400,768001877 -102,209714837
14134,15333824 14086,6736504801 47,4796877599

13381,06633344 12877,1396727166 503,9266607234
14770,698384 15356,671234807 -585,972850807

13643,987279 13279,9306951477 364,0565838523
14869,74167744 14762,1484419478 107,5932354922

13826,89811984 13642,4426153356 184,4555045044
15085,67629244 15831,2875152383 -745,6112227983

14134,15333824 14085,5127400098 48,6405982302 15170,25396224 14920,8239211845 249,4300410555

14770,698384 15374,4440117892 -603,7456277892 15448,30337024 16383,8808572118 -935,5774869718

14869,74167744 14770,2574781426 99,4841992974 15974,40470444 16305,0131700198 -330,6084655798

15085,67629244 15857,7932387065 -772,1169462665 16240,56571904 14841,4985513669 1399,0671676731

15170,25396224 14931,373887115 238,880075125 16377,19784064 14365,0268008319 2012,1710398082

15448,30337024 16421,7006701099 -973,3972998699 16409,90263224 17210,4979192952 -800,5952870552

15974,40470444 16341,1424656237 -366,7377611837 16562,51831624 16580,941839436 -18,423523196

16240,56571904 14850,8156826288 1389,7500364112 17086,6176 16502,1360012474 584,4815987526

16377,19784064 14367,4664557115 2009,7313849285 17102,29938404 16186,6652524791 915,6341315609

16409,90263224 17267,5618172152 -857,6591849752 17181,38025344 17210,4979192952 -29,1176658552

16562,51831624 16623,0961813255 -60,5778650855

17086,6176 16542,5379768392 544,0796231608

17102,29938404 16220,3051588944 881,9942251456

17181,38025344 17267,5618172152 -86,1815637751

Sheet 6: KorrelTabl

X|Y 4527,23688144 5792,65121864 7058,06555584 8323,47989304 9588,89423024 10854,30856744 12119,72290464 13385,13724184 14650,55157904 15915,96591624 17181,38025344 Nx
0,6266666667 1 0 0 0 0 0 0 0 0 0 0 1
0,8313333333 0 6 2 0 0 0 0 0 0 0 0 8
1,036 0 0 10 6 0 0 0 0 0 0 0 16
1,2406666667 0 0 0 9 6 0 0 0 0 0 0 15
1,4453333333 0 0 0 0 8 3 0 0 0 0 0 11
1,65 0 0 0 0 1 13 2 0 0 0 0 16
1,8546666667 0 0 0 0 0 1 10 1 0 0 0 12
2,0593333333 0 0 0 0 0 0 0 6 0 0 0 6
2,264 0 0 0 0 0 0 0 0 2 1 1 4
2,4686666667 0 0 0 0 0 0 0 0 0 3 1 4
2,6733333333 0 0 0 0 0 0 0 0 0 1 6 7
Ny 1 6 12 15 15 17 12 6 3 5 8 n=100

X Y M*(X) 1,57018
0,6266666667 4527,23688144 M*(Y) 10639,188130116
0,6533333333 5108,70923264 D*(X) 0,2780513054 0,8902174102 37355948,0661921
0,6466666667 5207,55501084 D*(Y) 10313962,3852453 4,3671551748 140933520,205796
0,7733333333 5458,40594364 Исправл. Среднее Квадратичное откл*(X) 0,5273057039 4,5655723584 153893266,70387
0,78 5507,01081684 Исправл. Среднее Квадратичное откл*(Y) 3211,5358296686 1,6286855527 80437569,5889245
0,74 5673,07716144 0,171453592 16546759,1417511
0,8 5728,14201024 0,1019397184 786705,643425972
0,8533333333 5812,47667364 0,9711919621 26303798,622898
0,8666666667 5965,56775724 1,4356259011 45241419,1450669
0,96 6149,16751904 1,9255447696 48273110,1580903
0,92 6255,46281984 3,2291131607 139221919,020658 2,36 14770,698384
0,9 6329,59436564 8,5186309379 342402222,227861 2,44 15085,67629244
1,0933333333 6332,22573984 2,2866666667 15170,25396224
0,86 6337,09930464 2,2733333333 16240,56571904
0,82 6385,75196324
0,9533333333 6391,24189964
0,9266666667 6595,45401164
0,96 6738,95099904
0,9466666667 6838,88914904
0,7866666667 7091,04251024
0,9933333333 7097,94431424
0,9866666667 7253,37533804
1,0933333333 7318,543206
1,02 7379,69029824
1,0466666667 7391,09011004
1,0266666667 7408,13259264
1,14 7467,51484544
1,0866666667 7515,75113744
1,0933333333 7574,01233264
1,04 7608,59146944
1,0066666667 7717,1744
1,0133333333 7803,208244
1,04 7881,09791924
1,2066666667 8250,37800704
1,12 8464,47074304
1,2666666667 8506,90117004
1,2666666667 8506,90117004
1,2666666667 8506,90117004
1,12 8525,00573184
1,0533333333 8539,60576404
1,3066666667 8639,86787664
1,3533333333 8804,89275224
1,2066666667 8873,71818944
1,3333333333 8960,73398064
1,4 8975,01964944
1,2133333333 9260,91645284
1,1666666667 9332,44342004
1,4533333333 9469,076864
1,5733333333 9539,75763104
1,4 9683,77195344
1,3066666667 9694,651941
1,4933333333 9978,551024
1,5 10012,905344
1,4 10035,86989184
1,4733333333 10137,97421624
1,5133333333 10150,809344
1,5133333333 10150,809344
1,44 10156,15237104
1,5866666667 10166,75314304
1,4733333333 10172,29902884
1,4533333333 10327,17158304
1,5666666667 10370,44061664
1,6133333333 10484,95486064
1,58 10546,76963964
1,5533333333 10639,606016
1,72 10710,06054144
1,78 10894,356434
1,54 10904,36332544
1,6733333333 11133,18559184
1,7 11426,35002704
1,66 11483,29537524
1,8333333333 11530,378301
1,8 11636,61318144
1,72 11685,42418784
1,6466666667 11755,890224
1,6533333333 11829,514736
1,78 11888,40116204
1,84 12092,16363264
1,8466666667 12168,77011584
1,8666666667 12438,42597504
2,0333333333 12787,43834004
1,9333333333 13261,70312064
2,0333333333 13298,55828704
1,9466666667 13381,06633344
2,0133333333 13643,987279
2,0733333333 13826,89811984
2,1466666667 14134,15333824
2,36 14770,698384
2,26 14869,74167744
2,44 15085,67629244
2,2866666667 15170,25396224
2,5333333333 15448,30337024
2,52 15974,40470444
2,2733333333 16240,56571904
2,1933333333 16377,19784064
2,6733333333 16409,90263224
2,5666666667 16562,51831624
2,5533333333 17086,6176
2,5 17102,29938404
2,6733333333 17181,38025344

Sheet 7: Лист1





1,72 10710,06054144











0,8533333333 5812,47667364 1,0933333333 6332,22573984 1,78 10894,356434
0,8666666667 5965,56775724 1,0933333333 7318,543206 1,6733333333 11133,18559184
0,96 6149,16751904 1,0466666667 7391,09011004 1,7 11426,35002704 4527,23688-5792,65121 5792,65121-7058,06555 7058,06555-8323,47989 8323,47989-9588,89423 9588,89423-10854,30856 10854,30856-12119,7229 12119,7229-13385,13724 13385,13724-14650,55157 14650,55157-15915,96591 15915,96591-17181,38025344
0,92 6255,46281984 1,14 7467,51484544 1,66 11483,29537524 0,6266666-0,8313333 7 2 0 0 0 0 0 0 0 0
0,9 6329,59436564 1,0866666667 7515,75113744 1,8333333333 11530,378301 0,8313333-1,036 0 10 6 0 0 0 0 0 0 0
0,86 6337,09930464 1,0933333333 7574,01233264 1,8 11636,61318144 1,036-1,2406666 0 1 8 6 0 0 0 0 0 0
0,9533333333 6391,24189964 1,04 7608,59146944 1,72 11685,42418784 1,2406666-1,4453333 0 0 0 8 5 0 0 0 0 0
0,9266666667 6595,45401164 1,04 7881,09791924 1,6533333333 11829,514736 1,4453333-1,65 0 0 0 1 13 2 0 0 0 0
0,96 6738,95099904 1,2066666667 8250,37800704 1,78 11888,40116204 1,65-1,8546666 0 0 0 0 1 10 1 0 0 0
0,9466666667 6838,88914904 1,12 8464,47074304 1,84 12092,16363264 1,8546666-2,0593333 0 0 0 0 0 0 6 0 0 0
0,9933333333 7097,94431424 1,12 8525,00573184 1,8466666667 12168,77011584 2,0593333-2,264 0 0 0 0 0 0 0 2 1 1
0,9866666667 7253,37533804 1,0533333333 8539,60576404 2,264-2,4686666 0 0 0 0 0 0 0 0 3 1
1,02 7379,69029824 1,2066666667 8873,71818944 2,5333333333 15448,30337024 2,4686666-2,6733333 0 0 0 0 0 0 0 0 1 6
1,0266666667 7408,13259264 1,2133333333 9260,91645284 2,52 15974,40470444
1,0066666667 7717,1744 1,1666666667 9332,44342004 2,6733333333 16409,90263224
1,0133333333 7803,208244 2,5666666667 16562,51831624

2,5533333333 17086,6176 2,36 14770,698384

2,5 17102,29938404 2,44 15085,67629244
1,2666666667 8506,90117004 1,5733333333 9539,75763104 2,6733333333 17181,38025344 2,2866666667 15170,25396224
1,2666666667 8506,90117004 1,5 10012,905344 2,0333333333 12787,43834004 2,2733333333 16240,56571904
1,2666666667 8506,90117004 1,4733333333 10137,97421624 1,9333333333 13261,70312064
1,3066666667 8639,86787664 1,5133333333 10150,809344 2,0333333333 13298,55828704
1,3533333333 8804,89275224 1,5133333333 10150,809344 1,9466666667 13381,06633344
1,3333333333 8960,73398064 1,4733333333 10137,97421624 2,0133333333 13643,987279
1,4 8975,01964944 1,5133333333 10150,809344
1,4533333333 9469,076864 1,5133333333 10150,809344
1,4 9683,77195344 1,5866666667 10166,75314304 2,0733333333 13826,89811984
1,3066666667 9694,651941 1,4733333333 10172,29902884 2,1466666667 14134,15333824
1,4933333333 9978,551024 1,5666666667 10370,44061664 2,26 14869,74167744
1,4 10035,86989184 1,6133333333 10484,95486064 2,1933333333 16377,19784064
1,4533333333 10327,17158304 1,58 10546,76963964

1,5533333333 10639,606016

1,54 10904,36332544

1,6466666667 11755,890224

Sheet 8: Лист2

i pi Niштрих=pi*100 i pi Niштрих=pi*100
1 0,1131 11,31 6 0,1342 13,42
2 0,093 9,3 7 0,1176 11,76
3 0,1275 12,75 8 0,0483 4,83
4 0,1465 14,65 9 0,0399 3,99
5 0,153 15,3 10 0,0269 2,69

Sheet 9: Gipoteza


 Проверка гипотезы о нормальном распределении




Сравнение выборочной средней с гипотетической генеральной средней (Дисперсия не известна)




I Xi Ni piтеор Строим вспомогательную функцию
1 0,6266666667 1 = T=((X с чертой-а0)*корень (n))/S
2 0,8313333333 8
S 0,5260024292
3 1,036 16 T= -0,6273735285 X c чертой 1,467
4 1,2406666667 15
а0 1,5
5 1,4453333333 11 Правило 1 альфа 0,05
6 1,65 16
к= 99
7 1,8546666667 12
tдвухстороннее 1,99
8 2,0593333333 6
9 2,264 4
tправостороннее 1,661
10 2,4686666667 4 Xс чертой* 1,4698933333

2,6733333333 7 сред. Квадр откл.* 0,5266665577 tлевостор -1,661




Частота серед. Инт-лов Частота
i Xi Xi+1 ni X*i=(Xi+Xi+1)/2 ni*
1 0,6266666667 0,8313333333 9 0,729 9 4,9403063824
2 0,8313333333 1,036 16 0,9336666667 16 4,6006246087
3 1,036 1,2406666667 15 1,1383333333 15 1,648980504
4 1,2406666667 1,4453333333 11 1,343 11 0,1771210985
5 1,4453333333 1,65 16 1,5476666667 16 0,096779062
6 1,65 1,8546666667 12 1,7523333333 12 0,9572682432
7 1,8546666667 2,0593333333 6 1,957 6 1,4236374283
8 2,0593333333 2,264 4 2,1616666667 4 1,9142013788
9 2,264 2,4686666667 4 2,3663333333 4 3,2144186944
10 2,4686666667 2,6733333333 7 2,571 7 8,4870512396

номер интервала Границы интервала Границы интервалов
i Xi Xi+1 Xi-X*cчерт Xi+1-X*cчер Zi=(Xi-X*cчерт)/сред. Квадр откл.* Zi+1=(Xi+1-X*cчерт)/сред. Квадр откл.*
1 0,6266666667 0,8313333333 -0,63856 0 -1,212455947
2 0,8313333333 1,036 -0,63856 -0,4338933333 -1,212455947 -0,8238482717
3 1,036 1,2406666667 -0,4338933333 -0,2292266667 -0,8238482717 -0,4352405964
4 1,2406666667 1,4453333333 -0,2292266667 -0,02456 -0,4352405964 -0,046632921
5 1,4453333333 1,65 -0,02456 0,1801066667 -0,046632921 0,3419747543
6 1,65 1,8546666667 0,1801066667 0,3847733333 0,3419747543 0,7305824296
7 1,8546666667 2,0593333333 0,3847733333 0,58944 0,7305824296 1,1191901049
8 2,0593333333 2,264 0,58944 0,7941066667 1,1191901049 1,5077977802
9 2,264 2,4686666667 0,7941066667 0,9987733333 1,5077977802 1,8964054555
10 2,4686666667 2,6733333333 0,9987733333 1,8964054555 0

Границы интервалов


Zi=(Xi-X*cчерт)/сред. Квадр откл.* Zi+1=(Xi+1-X*cчерт)/сред. Квадр откл.* Ф(Zi) Ф(Zi+1) pi Niштрих=pi*100 ni
бескон с минусом -1,212455947 -0,5 -0,3869 0,1131 11,31 9
-1,212455947 -0,8238482717 -0,3869 -0,2939 0,093 9,3 16
-0,8238482717 -0,4352405964 -0,2939 -0,1664 0,1275 12,75 15
-0,4352405964 -0,046632921 -0,1664 -0,0199 0,1465 14,65 11
-0,046632921 0,3419747543 -0,0199 0,1331 0,153 15,3 16
0,3419747543 0,7305824296 0,1331 0,2673 0,1342 13,42 12
0,7305824296 1,1191901049 0,2673 0,3849 0,1176 11,76 6
1,1191901049 1,5077977802 0,3849 0,4332 0,0483 4,83 4
1,5077977802 1,8964054555 0,4332 0,4731 0,0399 3,99 4
1,8964054555 бескон 0,4731 0,5 0,0269 2,69 7

((ni-ni`)^2)/n`^2
7,1618037135 Хи^2 набл 16,6569017549
27,5268817204
17,6470588235 16,6569017549
8,2593856655
16,7320261438
10,7302533532
3,0612244898
3,3126293996
4,0100250627
18,2156133829

Международный университет природы, общества и человека

“Дубна”

Кафедра высшей математики

Кафедра системного анализа и управления

Курсовая работа

по теории вероятностей и математической статистике

на тему:



Зависимость количества лейкоцитов в крови человека от уровня радиации

студентки 2 курса группы 2101

Березиной Ирины Владимировны

Руководители: проф. Чавлейшвили М. П.

ассистент Крейдер О. А.

ассистент Возвышаева Н. А.

Дубна, 2003

Оглавление

Введение……………………………………………………………...3

Исходные данные……………………………………………………4

Постановка задачи…………………………………………………..7

Теоретическая основа…………………………………………….…8

Теория вероятностей……………………………………………….11

Математическая статистика……………………………………….14

Вывод………………………………………………………………..24

Список литературы………………………………………………...25

Приложение………………………………………………………...26

Введение

В данной курсовой работе будет проводиться исследование числа лейкоцитов в крови человека от уровня радиации. Это исследование будет проводиться на основе исходных данных, с помощью метода наименьших квадратов, проверки статистических гипотез а так же с помощью различных геометрических построений. На основе полученных результатов будет сделан вывод о существовании зависимости.

Исходные данные

За Х принят уровень радиации, за Y — количество лейкоцитов в крови человека.

X

Y

0,626667

4527,237

0,653333

5108,709

0,646667

5207,555

0,773333

5458,406

0,78

5507,011

0,74

5673,077

0,8

5728,142

0,853333

5812,477

0,866667

5965,568

0,96

6149,168

0,92

6255,463

0,9

6329,594

1,093333

6332,226

0,86

6337,099

0,82

6385,752

0,953333

6391,242

0,926667

6595,454

0,96

6738,951

0,946667

6838,889

0,786667

7091,043

0,993333

7097,944

0,986667

7253,375

1,093333

7318,543

1,02

7379,69

1,046667

7391,09

1,026667

7408,133

1,14

7467,515

1,086667

7515,751

1,093333

7574,012

1,04

7608,591

1,006667

7717,174

1,013333

7803,208

1,04

7881,098

1,206667

8250,378

1,12

8464,471

1,266667

8506,901

1,266667

8506,901

1,266667

8506,901

1,12

8525,006

1,053333

8539,606

1,306667

8639,868

1,353333

8804,893

1,206667

8873,718

1,333333

8960,734

1,4

8975,02

1,213333

9260,916

1,166667

9332,443

1,453333

9469,077

1,573333

9539,758

1,4

9683,772

1,306667

9694,652

1,493333

9978,551

1,5

10012,91

1,4

10035,87

1,473333

10137,97

1,513333

10150,81

1,513333

10150,81

1,44

10156,15

1,586667

10166,75

1,473333

10172,3

1,453333

10327,17

1,566667

10370,44

1,613333

10484,95

1,58

10546,77

1,553333

10639,61

1,72

10710,06

1,78

10894,36

1,54

10904,36

1,673333

11133,19

1,7

11426,35

1,66

11483,3

1,833333

11530,38

1,8

11636,61

1,72

11685,42

1,646667

11755,89

1,653333

11829,51

1,78

11888,4

1,84

12092,16

1,846667

12168,77

1,866667

12438,43

2,033333

12787,44

1,933333

13261,7

2,033333

13298,56

1,946667

13381,07

2,013333

13643,99

2,073333

13826,9

2,146667

14134,15

2,36

14770,7

2,26

14869,74

2,44

15085,68

2,286667

15170,25

2,533333

15448,3

2,52

15974,4

2,273333

16240,57

2,193333

16377,2

2,673333

16409,9

2,566667

16562,52

2,553333

17086,62

2,5

17102,3

2,673333

17181,38

Таблица 1. Исходные данные

Постановка задачи

В данной работе на основании имеющихся данных провести статистический анализ генеральной совокупности заданных чисел. Производя этот анализ, использовать различные числовые функции, а также и графические: диаграмму и гистограммы рассеяния, регрессии. По корреляционной таблице подсчитать некоторые характерные величины. На основании этого проверить статистические гипотезы, согласовать исходные данные с теорией.

Теоретическая основа

С давних времен человек совершенствовал себя, как физически, так и умственно, постоянно создавая и совершенствуя орудия труда. Постоянная нехватка энергии заставляла человека искать и находить новые источники, внедрять их, не заботясь о будущем. В порыве за открытиями в конце XIX в. двумя учеными: Пьером Кюри и Марией Склодовской-Кюри было открыто явление радиоактивности. Именно это достижение поставило существование всей планеты под угрозу. За 100 с лишним лет человек наделал столько глупостей, сколько не делал за все свое существование. Давно уже прошла Холодная война, мы уже пережили Чернобыль и многие засекреченные аварии на полигонах, однако проблема радиационной угрозы никуда не ушла и по сей день служит главной угрозой биосфере.

Радиация играет огромную роль в развитии цивилизации на данном историческом этапе. Благодаря явлению радиоактивности был совершен существенный прорыв в области медицины и в различных отраслях промышленности, включая энергетику. Но одновременно с этим стали всё отчётливее проявляться негативные стороны свойств радиоактивных элементов: выяснилось, что воздействие радиационного излучения на организм может иметь трагические последствия. Подобный факт не мог пройти мимо внимания общественности. И чем больше становилось известно о действии радиации на человеческий организм и окружающую среду, тем противоречивее становились мнения о том, насколько большую роль должна играть радиация в различных сферах человеческой деятельности.

Воздействие радиации на организм может быть различным, но почти всегда оно негативно. В малых дозах радиационное излучение может стать катализатором процессов, приводящих к раку или генетическим нарушениям, а в больших дозах часто приводит к полной или частичной гибели организма вследствие разрушения клеток тканей.

Сложность в отслеживании последовательности процессов, вызванных облучением, объясняется тем, что последствия облучения, особенно при небольших дозах, могут проявиться не сразу, и зачастую для развития болезни требуются годы или даже десятилетия. Кроме того, вследствие различной проникающей способности разных видов радиоактивных излучений они оказывают неодинаковое воздействие на организм: -частицы наиболее опасны, однако для -излучения даже лист бумаги является непреодолимой преградой; -излучение способно проходить в ткани организма на глубину один-два сантиметра; наиболее безобидное -излучение характеризуется наибольшей проникающей способностью: его может задержать лишь толстая плита из материалов, имеющих высокий коэффициент поглощения, например, из бетона или свинца.

Также различается чувствительность отдельных органов к радиоактивному излучению. Поэтому, чтобы получить наиболее достоверную информацию о степени риска, необходимо учитывать соответствующие коэффициенты чувствительности тканей при расчете эквивалентной дозы облучения:

0,03 – костная ткань

0,03 – щитовидная железа

0,12 – красный костный мозг

0,12 – легкие

0,15 – молочная железа

0,30 – другие ткани

1,00 – организм в целом.

Вероятность повреждения тканей зависит от суммарной дозы и от величины дозировки, так как благодаря репарационным способностям большинство органов имеют возможность восстановиться после серии мелких доз.

Если поступление радиоактивных веществ было однократным, то концентрация их в крови вначале возрастает до максимума, а затем в течение 15-20 суток снижается.

При повышении уровня радиации повышается уровень лейкоцитов в крови.

Лейкоциты, или белые кровяные тельца, — это бесцветные клетки, содержащие ядра разнообразной формы. В 1 мм куб крови здорового человека содержится около 6-8тыс лейкоцитов. При рассмотрении в микроскоп мазка окрашенной крови можно заметить, что лейкоциты имеют разнообразную форму. Различают две группы лейкоцитов: зернистые и незернистые. У первых в цитоплазме содержатся мелкие зерна (гранулы), окрашивающиеся разными красителями в синий, красный или фиолетовый цвет. У незернистых форм лейкоцитов таких зерен нет. Среди незернистых лейкоцитов различают лимфоциты (круглые клетки с очень темными, округлыми ядрами) и моноциты (клетки большей величины, с ядрами неправильной формы). Зернистые лейкоциты по-разному относятся к различным красителям. Если зерна цитоплазмы лучше окрашиваются основными (щелочными) красками, то такие формы называют базофилами, если кислыми - эозинофилами (эозин - кислый краситель), а если цитоплазма окрашивается нейтральными красками - нейтрофилами. Между отдельными формами лейкоцитов существует определенное соотношение. Соотношение различных форм лейкоцитов, выраженное в процентах, называют лейкоцитарной формулой. При некоторых заболеваниях наблюдаются характерные изменения соотношения отдельных форм лейкоцитов. В случае глистной инвазии увеличивается число эозинофилов, при воспалениях возрастает число нейтрофилов, при туберкулезе часто отмечают увеличение количества лимфоцитов. Часто лейкоцитарная формула меняется в течение заболевания. В острый период инфекционного заболевания, при тяжелом течении болезни, эозинофилы могут не обнаружиться в крови, а с началом выздоровления, еще до видимых признаков улучшения состояния больного, они отчетливо видны под микроскопом. Кол-во лейкоцитов в крови может меняться. После приема пищи, тяжелой мышечной работы содержание этих клеток в крови увеличивается. Особенно много лейкоцитов появляется в крови при воспалительных процессах. Лейкоцитарная формула также имеет свои возрастные особенности: высокое содержание лимфоцитов и малое количество нейтрофилов в первые годы жизни постепенно выравнивается, достигая к 5-6 годам почти одинаковых величин. После этого процент нейтрофилов неуклонно растет, а процент лимфоцитов понижается. Основная функция лейкоцитов - защита организма от микроорганизмов, чужеродных белков, инородных тел, проникающих в кровь и ткани. Лейкоциты обладают способностью самостоятельно двигаться, выпуская ложноножки (псевдоподии). Они могут покидать кровеносные сосуды, проникая через сосудистую стенку, и передвигаться между клетками различных тканей организма. При замедлении движения крови лейкоциты прилипают к внутренней поверхности капилляров и в огромном кол-ве покидают сосуды, протискиваясь между клетками эндотелия капилляров. По пути своего следования они захватывают и подвергают внутриклеточному перевариванию микробов и другие инородные тела. Лейкоциты активно проникают через неповрежденные сосудистые стенки, легко проходят через мембраны, перемещаются в соединительной ткани под действием различных химических веществ образующихся в тканях. В кровеносных сосудах лейкоциты передвигаются вдоль стенок. Иногда даже против тока крови. Скорость движения не всех клеток одинаковы. Наиболее быстро движутся нейтрофилы - около 30 мкм в 1 мин, лимфоциты и базофилы передвигаются медленнее. При заболеваниях скорость движения лейкоцитов, как правило, возрастает. Это связано с тем, что проникшие в организм болезнетворные микробы в результате жизнедеятельности выделяют ядовитые для человека вещества - токсины. Они-то и вызывают ускоренное движение лейкоцитов.

Теория вероятностей

Теория вероятностей — наука, изучающая вероятностные закономерности случайных событий. Знание этих закономерностей позволяет предвидеть, как эти события будут протекать. Знание и методы теории вероятностей используются в различных отраслях естествознания и техники.

Числовые характеристики случайной величины

Случайная величина — это величина, которая в результате испытания примет одно и только одно возможное значение, заранее неизвестное и зависящее от случайных причин, которые заранее не могут быть известны.

Случайные величины подразделяются на дискретные и непрерывные. Дискретной случайной величиной называют случайную величину, которая принимает отдельные, изолированные возможные значения с определенными вероятностями. Непрерывной случайной величиной называют случайную величину, которая может принимать все значения из некоторого конечного или бесконечного промежутка. Законом распределения дискретной случайной величины называют соответствие между возможными значениями и их вероятностями. Законами распределения непрерывных случайных величин называют плотности распределений.

Математическое ожидание

Случайные величины имеют числовые характеристики, одной из которых является математическое ожидание. Математическим ожиданием дискретной случайной величины называют сумму произведений всех ее возможных значений на их вероятности. Математическое ожидание приближенно равно среднему значению случайной величины. Допустим, что случайная величина Х может принимать значения x>1>, x>2>, ..., x>n>, вероятности которых соответственно равны p>1>, p>2>,…,p>n>. Тогда математическое ожидание М(X) случайной величины X определяется равенством

M(X) = x>1>p>1> +x>2>p>2> + … + x>n>p>n>.> >

Если дискретная случайная величина Х принимает счетное множество возможных значений, то можно записать:

>>

Для данных, указанных в этой работе, математическое ожидание равно (p>n> принимается равным 0,01)

M(X) = 1,467;

M(Y) = 9979,058266.

Моды. Медианы

Мода случайной величины (Mo) — это число с наибольшей вероятностью.

Медиана случайной величины(Me) — это ее среднее значение.

Для данных, указанных в этой работе, моды и медианы равны

Mo(X)= 1,093333333;

Mo(Y)= 8506,90117;

Me(X)= 1,42;

Me(Y)= 9689,211947.

Дисперсия

Для определения дисперсии необходимо ввести понятие отклонения случайной величины от ее математического ожидания.

Пусть X — случайная величина и М(Х) — ее математическое ожидание. Рассмотрим в качестве новой случайной величины разность Х – М(Х). Эту разность и называют отклонением, т.е. разность между случайной величиной и ее математическим ожиданием. При определении дисперсии используется следующее свойство отклонения:

y = px2 + qx + r.

Дисперсией случайной величины Х называют математическое ожидание квадрата отклонения случайной величины от ее математического ожидания:

D(X) = M[X – M(X)]2.

Также дисперсию вычисляют по формуле:

D(X) = M(X2) – [M(X)]2.

Для данных, указанных в этой работе дисперсия равна:

D(X) = 0,279473288;

D(Y) = 10499319,67.

.

Среднее квадратическое отклонение

Для оценки рассеяния возможных значений случайной величины вокруг ее среднего значения кроме дисперсии служат и другие характеристики, такие как среднее квадратическое отклонение. Средним квадратическим отклонением случайной величины X называют квадратный корень из дисперсии:

> >

Для данных, указанных в этой работе отклонение равно:

(X) = 0,528652332;

(Y) = 3240,26537.

Моменты

Моменты служат для более подробной характеристики случайной величины. Они делятся на начальные и центральные. Начальные моменты характеризуют саму случайную величину, а центральные — отклонения случайной величины от М(Х).

Начальный момент n-го порядка — математическое ожидание от n-ой степени случайной величины; обозначается:

α>n> = M(Xn).

Центральный момент n-го порядка — математическое ожидание величины (X – M(X))n; обозначается:

μ>n> = M[(X – M(X))n].

В частности,

α>1> = M(X); μ>1> = 0;

α>2> = M(X2); μ>2> = D(X).

Для данных, указанных в этой работе, начальные и центральные моменты 1-3 порядков равны:

X

Y

α1

1,467

9979,058266

α2

2,428767556

109975930,4

α3

4,45698776

1,3234E+12

μ1

0

0

μ2

0,279473288

10499319,67

μ3

0,082210874

18491004059

Математическая статистика

Математическая статистика — это наука, которая занимается получением, обработкой и анализом данных, характеризующих количественные закономерности жизни общества в неразрывной связи с их качественным содержанием. Статистика, в узком смысле — это совокупность данных о каком-либо процессе или явлении. Основной задачей математической статистики является выяснение вероятностных свойств совокупности: распределения, числовых характеристик и т. д. с применением методов теории вероятности, позволяющих оценить надёжность и точность выводов, делаемых на основании ограниченного статистического материала (выборки) Совокупность объектов, или совокупность значений какого-то признака объектов, называется генеральной совокупностью. Обычно из генеральной совокупности делают выборку, т.е. исследуют некоторые ее объекты. Выборочной совокупностью или просто выборкой называют совокупность случайно отобранных объектов. С помощью выборки оценивают генеральную совокупность по вероятным свойствам. Чтобы оценки были достоверными, выборка должна быть представительной, т.е. ее вероятностные свойства должны совпадать или быть близкими к свойствам генеральной совокупности. Часто под генеральной совокупностью понимают и исследуемую случайную величину. Для исследования случайной величины при постоянных условиях выполняются испытания. Совокупность полученных значений также называется выборкой и обрабатывается статистически. Методы статистической обработки выборки аналогичны в обоих случаях. При исследовании объектов можно фиксировать или измерять значение одного или нескольких признаков, т.е. речь может идти об одномерной или многомерной выборках.

Корреляционный анализ

Корреляционная таблица

Две случайные величины могут быть связаны либо функциональной, либо статистической зависимостью, либо быть независимыми. Строгая функциональная зависимость реализуется редко в реальной жизни, так как обе величины или одна из них могут быть подвержены еще действию случайных факторов, причем среди них могут быть и общие для обеих величин. В этом случае возникает статистическая зависимость. Статистической называют зависимость, при которой изменение одной из величин влечет изменение распределения другой. В частности, статистическая зависимость проявляется в том, что при изменении одной из величин изменяется среднее значение другой; в этом случае статистическую зависимость называют корреляционной.

Предположим, что рассматриваемые случайные величины Х и У связаны корреляционной зависимостью. Так как при большом числе наблюдений одно и то же значение x может встретиться n>x> раз, и значения y — n>y> раз, одна и та же пара чисел (х,у) — n>xy> раз. Поэтому данные наблюдений группируют, т.е. подсчитывают частоты n>x>, n>y>, n>xy>. Все сгруппированные данные записывают в виде таблицы, которую называют корреляционной.

X|Y

4527,24

5792,65

7058,07

8323,48

9588,89

10854,30

12119,72

13385,13

14650,55

15915,96

17181,38

Nx

0,626667

1

0

0

0

0

0

0

0

0

0

0

1

0,831333

0

6

2

0

0

0

0

0

0

0

0

8

1,036

0

0

10

6

0

0

0

0

0

0

0

16

1,240667

0

0

0

9

6

0

0

0

0

0

0

15

1,445333

0

0

0

0

8

3

0

0

0

0

0

11

1,65

0

0

0

0

1

13

2

0

0

0

0

16

1,854667

0

0

0

0

0

1

10

1

0

0

0

12

2,059333

0

0

0

0

0

0

0

6

0

0

0

6

2,264

0

0

0

0

0

0

0

0

2

1

1

4

2,468667

0

0

0

0

0

0

0

0

0

3

1

4

2,673333

0

0

0

0

0

0

0

0

0

1

6

7

Ny

1

6

12

15

15

17

12

6

3

5

8

n=100

Таблица 2. Корреляционная таблица

Характеристики значений выборки

На основе данных корреляционной таблицы можно посчитать все характеристики наблюдаемых значений выборки намного быстрее и проще, но они будут иметь некоторые отклонения от выборочных характеристик, посчитанных по формулам. Это объясняется уменьшением размеров рассматриваемых величин, которое происходит из-за разбиения их на интервалы.

Посчитаем числовые характеристики для Х и Y по корреляционной таблице.

М
атематическое ожидание для выборочной совокупности называется выборочной средней и находится по формуле:

Выборочной дисперсией называют среднее арифметическое квадратов отклонения наблюдаемых значений признака от их среднего значения:

В
ыборочным средним квадратичным отклонением называют квадратный корень из выборочной дисперсии:

Корреляционным моментом (ковариацией, смешанной дисперсией) случайных величин Х и Y называют математическое ожидание произведения отклонений этих величин:

k>xy> = M[(x – M(x))(y – M(y))].

К

оэффициентом корреляции случайных величин Х и Y называют отношение корреляционного момента к произведению средних квадратичных отклонений этих величин: при условии

Для данной работы:

М*(X) = 1,57018; М*(Y) = 10639,18813;

D*(X) = 0,278051305; D*(Y) = 10313962,39;

* (X)= 0,527305704; *(Y) = 3211,53583.

r*>xy> = 0,985735993; k*>xy> = 1671,654574.

Графический способ анализа данных

В данной курсовой работе необходимо наглядно изобразить различные зависимости величин друг от друга. Одним из лучших средств визуального изображения зависимостей являются:

    диаграмма рассеивания;

    гистограмма рассеяния;

    полигон относительных частот

    линейная регрессия .

    эмпирическая функция распределения

Диаграмма рассеивания

Диаграмма рассеивания получается путем нанесения данных всех пар чисел (100) на координатную плоскость (см. приложение, рис.1).

Гистограммы рассеивания

Гистограммы рассеивания также являются одним из способов наглядного представления распределения значений случайной величины. В данной курсовой построены гистограммы рассеивания относительных частот для случайных величин Х (уровень радиации) и Y (количество лейкоцитов в крови человека). Гистограммой относительных частот называют ступенчатую фигуру, состоящую из прямоугольников, основаниями которых служат частичные интервалы длиной h, а высоты равны отношению p>i>*/n , (n –– общее количество точек). Приведем гистограмму относительных частот распределения уровня радиации и гистограмму относительных частот для количества лейкоцитов в крови человека (см. приложение, рис. 2, 3).

Полигон относительных частот — ломаная, соединяющая точки (x>1>, W>1>)…(x>n>>, >W>n>). Для построения полигона относительных частот на оси абсцисс откладывают варианты x>i>, а на оси ординат — соответствующие им относительные частоты W>i>. Приведены полигоны относительных частот распределения уровня радиации и количества лейкоцитов в крови человека (см. приложение, рис.4,5) Эмпирической функцией распределения называют функцию F*(x), определяющую для каждого значения x относительную частоту события X<x.

По определению, F*(x)=n>x>/n, где n>x>> >— число вариант , меньших> > x; n — объем выборки.

Функции распределения X и Y имеют вид (см. приложение, Рис. 6, 7).

Регрессионный анализ

Между переменными X и Y существует функциональная связь у = f(x), т.е. каждому значению аргумента Х соответствует единственное значение аргумента Y. Регрессия — зависимость среднего значения какой-либо величины Y от другой величины X. Понятие регрессии в некотором смысле обобщает понятие функциональной зависимости у = f(x). Только в случае регрессии одному и тому же значению x в различных случаях соответствуют различные значения y.

Регрессионный анализ заключается в определении аналитического выражения связи, в котором изменения одной величины (называемой зависимой или результативным признаком) обусловлено влиянием одной или нескольких независимых величин (факторов).

По форме зависимости различают:

1). Линейную регрессию, которая выражается уравнением прямой — линейной функцией вида: у =ax+b.

Если в результате n экспериментов точки на диаграмме рассеивания расположены таким образом, что прослеживается тенденция роста Y при росте X, то это предположение о линейной зависимости: у = f(x).

Эта зависимость определяется двумя параметрами — а и b. Подобрав эти параметры, можно получить уравнение регрессии.

2). Нелинейную (параболическую) регрессию: у =ах2 +bх+с.

3). Полиномную регрессию

— полином первой степени: у =ах+b (линейная регрессия);

— полином второй степени: у = ах2 +bх+с (параболическая регрессия);

— полином n-ой степени: y = a>n>xn + … + a>2>x2 + a>1>x + a>0>.

Целью регрессионного анализа является оценка функциональной зависимости результативного признака (у) от факторных (x>1>, x>2>, …,>Xn>).

Метод наименьших квадратов (МНК)

Найдем по данным наблюдений выборочное уравнение прямой линии у = ах+b среднеквадратичной регрессии Y на X.

Это можно сделать с помощью метода наименьших квадратов (МНК). Этот метод, применяется в теории ошибок, для отыскания одной или нескольких величин по результатам измерений, содержащих случайные ошибки. МНК также используется для приближенного представления заданной функции другими (более простыми) функциями и часто оказывается полезным для обработки наблюдений.

Для того чтобы определить параметры a и b необходимо знать отклонения

(точки, находящиеся не на на прямой, а рядом). Суммарное отклонение будет равно:

где Y>iexp> — экспериментальные точки (не обязательно лежащие на прямой), Y>iteor> — теоретические точки (лежащие на прямой).

Ч
тобы все отклонения давали в суммарном отклонении положительные числа, надо возвести в квадрат эти отклонения:

где Δ — суммарное квадратичное отклонение, которое зависит от параметров а и b, Y>i> — экспериментальные значения Y, ax>i> + b — теоретические значения Y.

Лучшими параметрами а и b являются такие, которые минимизируют Δ, следовательно, среди бесконечного множества прямых, которых дает прямая у = ax + b, наилучшей является прямая с такими значениями параметров а и b, для которых Δ(а, b) принимает минимальное значение.

Чтобы найти эти значения параметров а и b, необходимо найти точку минимума функции Δ(а, b). Для этого берется производная

и рассматривается система двух уравнений, решения которой — значения a и b:

Для данных курсовой работы получаем:

a = 6041,9;

b = 1115,6.

Т.е. y = 6041,9x + 1115,6;

По тем же данным курсовой работы вычислим коэффициенты уравнения параболической регрессии.

Параболическое уравнение регрессии Y на X имеет вид

Неизвестные параметры A, B,C находят из системы уравнений:

Для данных курсовой работы получаем:

A=-69,58; B=6266,7; C=954,82.

т.е. y =–69,58x2+6266,7x+954,82

Линии регрессий на диаграмме рассеивания имеют вид (см. приложение, рис. 8, 9).

На рис.10 приложения — сравнение двух регрессий.

Какая регрессия соответствует исходным данным:

E>2>=7,93079*10-10

E>3>=8,0945*10-11

E>2>>E>3> это параболическая регрессия.

Доверительный интервал

Доверительным называют интервал (, где k= n-1 степеней свободы, s*— исправленное среднее квадратическое отклонение, — надежность оценки

Доверительный интервал для X.

Доверительный интервал для

Доверительный интервал для > >

> >

Доверительный интервал для > >

> >

Доверительный интервал для Y рассчитывается аналогично.

Проверка гипотез

Статистической называют гипотезу о виде неизвестного распределений или о параметрах известных распределений. Нулевой называют выдвинутую гипотезу Н>0>. Конкурирующей гипотезой называют гипотезу Н>1>, которая противоречит нулевой. Простой называют гипотезу, содержащую только одно предположение. Сложной называет гипотезу, которая состоит из конечного или бесконечного числа простых гипотез. Статистическим критерием называют величину К, которая служит для проверки гипотезы. Наблюдаемым (эмпирическим) значением критерия К>набл> называют то значение критерия, которое вычислено по выборкам. Критической областью называют совокупность значений, при которых нулевую гипотезу отвергают. Областью принятия гипотезы называют совокупность значений, при которых нулевую гипотезу принимают. Основной принцип проверки статистических гипотез: если К>набл >принадлежит критической области, то нулевую гипотезу отвергают; если наблюдаемое значение критерия принадлежит области принятия гипотезы, то гипотезу принимают. Критическими точками k>кр> называют точки, отделяющие критическую область от области принятия гипотезы. Правосторонней называют критическую область, определяемую неравенством К > k>кр>> >, где k>кр> — положительное число. Левосторонней называю критическую область, определяемую неравенством К < k>кр>> >, где k>кр> — отрицательное число. Двухсторонней называют критическую область, определяемую неравенствами K<k>1>, K>k>2>, k>2>>k>1>.

Для отыскания критической области задаются уровнем значимости α и ищут критические точки, исходя из следующих соотношений:

    для правосторонней критической области

P(K>k>кр>) = α (k>кр>>0);

    для левосторонней критической области

P(K<k>кр>) = α (k>кр><0);

    для двухсторонней симметричной области

P(K>k>кр>) = α/2 (k>кр>>0), P(K<-k>кр>) = α/2.

Сравнение выборочной средней с гипотетической генеральной средней (Дисперсия генеральной совокупности неизвестна).

Если дисперсия генеральной совокупности неизвестна, то в качестве критерия проверки нулевой гипотезы принимают случайную величину

> >

где > > — исправленное среднее квадратическое отклонение. Величина T имеет распределение Стьюдента с k = n-1 степенями свободы.

Правило 1. Для того, чтобы при заданном уровне значимости α проверить нулевую гипотезу H>0>: а=а>0>> >о равенстве неизвестной генеральной средней а гипотетическому значению а>0> при конкурирующей гипотезе H>1>: а≠а>0>, надо вычислить наблюдаемое значение критерия

> >

и по таблице критических точек распределения Стьюдента по заданному уровню значимости α и числу степеней свободы k = n-1 найти критическую точку t>двуст. кр>(α; k).

Если > > — нет оснований отвергнуть нулевую гипотезу. Если > > — нулевую гипотезу отвергают.

Правило 2. При конкурирующей гипотезе H>1>: а>а>0>, по уровню значимости α, помещенному в нижней строке таблицы приложения 6 пункта 1 из списка литературы, и числу степеней свободы k=n-1 находят критическую точку t>правост. к>.(α; k) правосторонней критической области. Если > >— нет оснований отвергнуть нулевую гипотезу. Если > > — нулевую гипотезу отвергают.

Правило 3. При конкурирующей гипотезе H>1>: а<а>0> сначала находят «вспомогательную» критическую точку (по правилу 2) t>правост. к>.(α; k) и полагают границу левосторонней критической области t>левост. кр.>=– t>правост. кр.>. Если > >, нет оснований отвергнуть нулевую гипотезу. Если > >— нулевую гипотезу отвергают.

Для данной работы:

S= 0,526002;

> >1,467

α=0,05

a>0>=1,5

k=99

T=-0,627373528

Правило 1.

а=1,5

t>двуст>>. >>кр>(α; k)= t>двуст>>.>>кр>(0,05;99)=1,99

> >— нет оснований отвергнуть нулевую гипотезу, т. е выборочная средняя > >1,467 незначительно отличается от гипотетической генеральной средней a>0>=1,5.

Правило 2.

a>1,5

t>правост. кр.> (α; k)= t>правост. кр.> (0,05; 99)=1,661

> > — нет оснований отвергнуть нулевую гипотезу.

Правило 3.

a<1,5

t>правост. кр.> (α; k)= t>правост. кр.> (0,05; 99)=1,661

t>левост. кр.>=– t>правост. кр.>= – 1,661

> >— нет оснований отвергнуть нулевую гипотезу.

Все параметры по Y находятся аналогично.

Проверка гипотезы о нормальном распределении генеральной совокупности по критерию Пирсона

Пусть эмпирическое распределение задано в виде последовательных интервалов (x>i>, x>i>>+1>) и соответствующим им частот n>i>. Требуется, используя критерий Пирсона проверить гипотезу о том, что генеральная совокупность X распределена нормально.

Правило: Чтобы при уровне значимости α проверить гипотезу о нормальном распределении генеральной совокупности, надо:

    Вычислить выборочную среднюю > > и выборочное среднее квадратическое отклонение > >, причем > >.

    Перейти к случайной величине > >, и вычислить концы интервалов > >, > >.

    Вычислить теоретические частоты > >, где n — объем выборки; Р>i>=Ф(z>i>>+1>)– Ф(z>i>) — вероятности попадания X в интервалы (x>i>, x>i>>+1>); Ф(Z) — функция Лапласа.

    Сравнить эмпирические и теоретические частоты с помощью критерия Пирсона. Для этого строят таблицу и находят значение критерия Пирсона > >. По таблице распределения



Вывод

Проведя обработку выборочной совокупности случайно отобранных статистических данных, мы получили некоторые оценки их параметров, а также выяснили, что данная выборка случайных величин имеет такую зависимость, что при росте значения X увеличивается и значение Y, т.е., переводя на тему курсовой работы. При увеличении радиации число лейкоцитов возрастает. Зависимость параболическая, поэтому Уравнение зависимости Y от X выглядит следующим образом:

y =–69,58x2+6266,7x+954,82

Список литературы

    Гмурман В. Е. Руководство к решению задач по теории вероятностей и математической статистике. — М.: Высшая школа, 1998.

    Гмурман В. Е. Теория вероятностей и математическая статистика. — М.: Высшая школа, 1977.

    Чавлейшвили М. П. Курс лекций

    Кабанова Е. И Теория вероятностей и математическая статистика. Курс лекций.—Дубна, 1996.

    Мазный Г. Л., Прогулова Т. Б. Методическое пособие к курсовому проектированию по высшей математике. - Дубна, 1996.

    Радиация, ее влияние на организм человека. http://monax.ru/order/ <5.11.2003>

    Большая Советская Энциклопедия. Т.14. — М., 1973

Приложение

Рис 1. Диаграмма рассеивания

Рис 2 . Гистограмма рассеивания относительных частот для X

Рис. 3. Гистограмма рассеивания относительных частот для Y

Рис.4 Полигон относительных частот для X

Рис.5 Полигон относительных частот для Y

Рис6 Эмпирическая функция распределения Х

Рис.7 Эмпирическая функция распределения Y

Рис. 8. График линейной регрессии

Рис. 9. График параболической регрессии

Рис.10. Сравнение линейной и параболической регрессий

Дата

ФИО

Подпись

“____”__________200__г.

Березина И. В.

Дата

ФИО

Оценка

Подпись

“____”__________200__г.

Асс. Возвышаева Н.А.

“____”__________200__г.

Крейдер О.А.