Skip to content

sim01.md

Latest commit

 

History

History
325 lines (256 loc) · 14.3 KB

sim01.md

File metadata and controls

325 lines (256 loc) · 14.3 KB
Raw

sim01.md

Mean dispersion $\overline d$

$x[0,1]$, $n=10000$, $M=5$

sim0(0,1,n,5,seed0)

sim0(0,1,10000,5,5045)
sim0(0,1,10000,5,5050)
sim0(0,1,10000,5,5055)
sim0(0,1,10000,5,5060)
sim0(0,1,10000,5,5065)

Table 1. Initial seed $seed_0$, simulated $\overline d$, estimated $\hat{\overline d}$, differences $diff$ and corresponding mean values for $x[0,1]$ with $n=10000$ over $m=5\cdot 5=25$ cycles $M_1$.

seed0	 dsim		d'			diff

5045	0,79918329	0,79756012	0,00162317
5050	0,79424268	0,79756012	-0,00331744
5055	0,79647252	0,79756012	-0,00108760
5060	0,79904275	0,79756012	0,00148263
5065	0,79915051	0,79756012	0,00159039

		0,79761835	0,79756012	0,00005823

Mean dispersion $\overline d$, $\hat\sigma_{\overline d}$

$x[0,1]$, $n=\{5,10,20,40,80,160\}$, $M=200$, $M_1=10\cdot 5$.

sim01(0,1,n,200,1.96,seed0)

sim01(0,1,5,200,1.96,100)
sim01(0,1,5,200,1.96,105)
sim01(0,1,5,200,1.96,110)
sim01(0,1,5,200,1.96,115)
sim01(0,1,5,200,1.96,120)

sim01(0,1,10,200,1.96,125)
sim01(0,1,10,200,1.96,130)
sim01(0,1,10,200,1.96,135)
sim01(0,1,10,200,1.96,140)
sim01(0,1,10,200,1.96,145)

sim01(0,1,20,200,1.96,150)
sim01(0,1,20,200,1.96,155)
sim01(0,1,20,200,1.96,160)
sim01(0,1,20,200,1.96,165)
sim01(0,1,20,200,1.96,170)

sim01(0,1,40,200,1.96,175)
sim01(0,1,40,200,1.96,180)
sim01(0,1,40,200,1.96,185)
sim01(0,1,40,200,1.96,190)
sim01(0,1,40,200,1.96,195)

sim01(0,1,80,200,1.96,200)
sim01(0,1,80,200,1.96,205)
sim01(0,1,80,200,1.96,210)
sim01(0,1,80,200,1.96,215)
sim01(0,1,80,200,1.96,220)

sim01(0,1,160,200,1.96,225)
sim01(0,1,160,200,1.96,230)
sim01(0,1,160,200,1.96,235)
sim01(0,1,160,200,1.96,240)
sim01(0,1,160,200,1.96,245)

Table 2. Simulated $p$-level, $p$ from $t$-value with $df=n-1$, $p$ from $z$-value to critical $z=1.96$; simulated $\overline d$ and $\sigma_{\overline d}$, estimated $\hat{\overline d}$ and $\hat\sigma_{\overline d}$ for $x[0,1]$ over $m=200\cdot 10\cdot 5=10000$ cycles $M_1$ by $k_n=6$.

psim	ptdf			pz				dsim			sdsim			d'				sd'		

5								
0,96	0,939222680075	0,975002104852	0,709474421068	0,256339052407	0,713395127542	0,24375
0,965	0,939222680075	0,975002104852	0,707504939761	0,254533005864	0,713395127542	0,24375
0,965	0,939222680075	0,975002104852	0,709608288461	0,267779533313	0,713395127542	0,24375
0,965	0,939222680075	0,975002104852	0,714034125929	0,260661769842	0,713395127542	0,24375
0,965	0,939222680075	0,975002104852	0,710271736717	0,25916229128	0,713395127542	0,24375

10
0,965	0,95917779727	0,975002104852	0,752996805661	0,188249764901	0,756669798525	0,1828125	
0,965	0,95917779727	0,975002104852	0,74694171456	0,187208788231	0,756669798525	0,1828125
0,97	0,95917779727	0,975002104852	0,751491410093	0,185616084792	0,756669798525	0,1828125
0,97	0,95917779727	0,975002104852	0,750923404083	0,184540577046	0,756669798525	0,1828125
0,965	0,95917779727	0,975002104852	0,764267411701	0,190625261098	0,756669798525	0,1828125

20
0,965	0,967585510356	0,975002104852	0,776468278609	0,136247343105	0,777404316942	0,132810202186	
0,965	0,967585510356	0,975002104852	0,783553311641	0,136469443626	0,777404316942	0,132810202186
0,965	0,967585510356	0,975002104852	0,778207351716	0,135549710374	0,777404316942	0,132810202186
0,96	0,967585510356	0,975002104852	0,77694914096	0,135543325662	0,777404316942	0,132810202186
0,965	0,967585510356	0,975002104852	0,779665521815	0,135041538732	0,777404316942	0,132810202186

40
0,97	0,971415530033	0,975002104852	0,789696385312	9,4393990195e-2	0,787566896206	9,51386413819e-2	
0,97	0,971415530033	0,975002104852	0,788011975356	9,6150900015e-2	0,787566896206	9,51386413819e-2	
0,97	0,971415530033	0,975002104852	0,790405638406	9,3929578570e-2	0,787566896206	9,51386413819e-2	
0,97	0,971415530033	0,975002104852	0,792533382524	9,4084730930e-2	0,787566896206	9,51386413819e-2	
0,97	0,971415530033	0,975002104852	0,788577565447	9,4888721924e-2	0,787566896206	9,51386413819e-2	

80
0,975	0,973239007671	0,975002104852	0,793190390871	6,6130030861e-2	0,792599323744	6,77030434132e-2	
0,97	0,973239007671	0,975002104852	0,793805766158	6,7234297004e-2	0,792599323744	6,77030434132e-2	
0,975	0,973239007671	0,975002104852	0,791946525748	6,6667111398e-2	0,792599323744	6,77030434132e-2	
0,975	0,973239007671	0,975002104852	0,794556129394	6,6686015712e-2	0,792599323744	6,77030434132e-2	
0,975	0,973239007671	0,975002104852	0,794088957319	6,7335248827e-2	0,792599323744	6,77030434132e-2	

160
0,975	0,97412807584	0,975002104852	0,796156676757	4,7736227055e-2	0,795103593251	4,80245398734e-2	
0,975	0,97412807584	0,975002104852	0,795613253221	0,047109429536	0,795103593251	4,80245398734e-2	
0,975	0,97412807584	0,975002104852	0,795640382865	4,7596077286e-2	0,795103593251	4,80245398734e-2	
0,97	0,97412807584	0,975002104852	0,795638429253	4,6950789429e-2	0,795103593251	4,80245398734e-2	
0,97	0,97412807584	0,975002104852	0,796622994479	0,047526268224	0,795103593251	4,80245398734e-2

Mean dispersion $\overline d$, $\hat\sigma_{\overline d}$

$x[0,1]$, $n=\{5,10,20,40,80,160,320\}$, $M=300$, $M_1=10\cdot 5$.

sim01(0,1,n,300,1.96,seed0)

(t=35s)

sim01(0,1,5,300,1.96,300)
sim01(0,1,5,300,1.96,305)
sim01(0,1,5,300,1.96,310)
sim01(0,1,5,300,1.96,315)
sim01(0,1,5,300,1.96,320)

(t=53s)

sim01(0,1,10,300,1.96,325)
sim01(0,1,10,300,1.96,330)
sim01(0,1,10,300,1.96,335)
sim01(0,1,10,300,1.96,340)
sim01(0,1,10,300,1.96,345)

(t=1m30s)

sim01(0,1,20,300,1.96,350)
sim01(0,1,20,300,1.96,355)
sim01(0,1,20,300,1.96,360)
sim01(0,1,20,300,1.96,365)
sim01(0,1,20,300,1.96,370)

(t=2m52s)

sim01(0,1,40,300,1.96,375)
sim01(0,1,40,300,1.96,380)
sim01(0,1,40,300,1.96,385)
sim01(0,1,40,300,1.96,390)
sim01(0,1,40,300,1.96,395)

(t=5m42s)

sim01(0,1,80,300,1.96,400)
sim01(0,1,80,300,1.96,405)
sim01(0,1,80,300,1.96,410)
sim01(0,1,80,300,1.96,415)
sim01(0,1,80,300,1.96,420)

(t=12m20s)

sim01(0,1,160,300,1.96,425)
sim01(0,1,160,300,1.96,430)
sim01(0,1,160,300,1.96,435)
sim01(0,1,160,300,1.96,440)
sim01(0,1,160,300,1.96,445)

(t=29m24s)

sim01(0,1,320,300,1.96,450)
sim01(0,1,320,300,1.96,455)
sim01(0,1,320,300,1.96,460)
sim01(0,1,320,300,1.96,465)
sim01(0,1,320,300,1.96,470)

Table 3. Simulated $p$-level, $p$ from $t$-value with $df=n-1$, $p$ from $z$-value to critical $z=1.96$; simulated $\overline d$ and $\sigma_{\overline d}$, estimated $\hat{\overline d}$ and $\hat\sigma_{\overline d}$ for $x[0,1]$ over $m=300\cdot 10\cdot 5=15000$ cycles $M_1$ by $k_n=7$.

psim			ptdf			pz				dsim			sdsim			d'				sd'		

5					
0,96			0,939222680075	0,975002104852	0,707998715717	0,263679772275	0,713395127542	0,24375
0,963333333333	0,939222680075	0,975002104852	0,711619499893	0,266726025516	0,713395127542	0,24375
0,966666666667	0,939222680075	0,975002104852	0,722207784756	0,269986264992	0,713395127542	0,24375
0,963333333333	0,939222680075	0,975002104852	0,705946029595	0,263306076877	0,713395127542	0,24375
0,963333333333	0,939222680075	0,975002104852	0,71424341331	0,264617676657	0,713395127542	0,24375

10
0,963333333333	0,95917779727	0,975002104852	0,758065511763	0,189972048675	0,756669798525	0,1828125
0,966666666667	0,95917779727	0,975002104852	0,756986748228	0,18804109398	0,756669798525	0,1828125
0,963333333333	0,95917779727	0,975002104852	0,759638442434	0,192880622462	0,756669798525	0,1828125
0,966666666667	0,95917779727	0,975002104852	0,758066774341	0,188940449819	0,756669798525	0,1828125
0,97			0,95917779727	0,975002104852	0,755611944885	0,185481531954	0,756669798525	0,1828125

20
0,97			0,967585510356	0,975002104852	0,77751439301	0,131902356221	0,777404316942	0,132810202186
0,966666666667	0,967585510356	0,975002104852	0,771986876446	0,133284958365	0,777404316942	0,132810202186
0,966666666667	0,967585510356	0,975002104852	0,774753321285	0,131722301426	0,777404316942	0,132810202186
0,966666666667	0,967585510356	0,975002104852	0,777491732661	0,134658055062	0,777404316942	0,132810202186
0,97			0,967585510356	0,975002104852	0,782943550719	0,136669659072	0,777404316942	0,132810202186

40
0,97			0,971415530033	0,975002104852	0,78634324561	9,4350008473e-2	0,787566896206	9,51386413819e-2
0,97			0,971415530033	0,975002104852	0,790484241136	9,5182012128e-2	0,787566896206	9,51386413819e-2
0,97			0,971415530033	0,975002104852	0,78399690118	9,3899613104e-2	0,787566896206	9,51386413819e-2
0,97			0,971415530033	0,975002104852	0,787511382115	9,4132219838e-2	0,787566896206	9,51386413819e-2
0,973333333333	0,971415530033	0,975002104852	0,787127019072	9,4573730431e-2	0,787566896206	9,51386413819e-2

80
0,973333333333	0,973239007671	0,975002104852	0,792311719418	6,7512722840e-2	0,792599323744	6,77030434132e-2
0,97			0,973239007671	0,975002104852	0,793387446386	6,7502728226e-2	0,792599323744	6,77030434132e-2
0,973333333333	0,973239007671	0,975002104852	0,793548108607	6,7077227193e-2	0,792599323744	6,77030434132e-2
0,97			0,973239007671	0,975002104852	0,793406706496	6,6379590513e-2	0,792599323744	6,77030434132e-2
0,973333333333	0,973239007671	0,975002104852	0,79218131839	0,068107879558	0,792599323744	6,77030434132e-2

160
0,973333333333	0,97412807584	0,975002104852	0,79441788368	4,7136095861e-2	0,795103593251	4,80245398734e-2
0,976666666667	0,97412807584	0,975002104852	0,796264132541	4,6369251237e-2	0,795103593251	4,80245398734e-2
0,976666666667	0,97412807584	0,975002104852	0,797340297573	4,8362738714e-2	0,795103593251	4,80245398734e-2
0,97			0,97412807584	0,975002104852	0,795592775225	4,7385484827e-2	0,795103593251	4,80245398734e-2
0,973333333333	0,97412807584	0,975002104852	0,79450999028	4,6977176893e-2	0,795103593251	4,80245398734e-2

320
0,973333333333	0,974566966879	0,975002104852	0,797248734092	0,033909130374	0,796352774843	3,40118297305e-2
0,97			0,974566966879	0,975002104852	0,795580302037	3,3927206425e-2	0,796352774843	3,40118297305e-2
0,97			0,974566966879	0,975002104852	0,795948869307	3,3553519743e-2	0,796352774843	3,40118297305e-2
0,973333333333	0,974566966879	0,975002104852	0,796315363606	0,033973176259	0,796352774843	3,40118297305e-2
0,973333333333	0,974566966879	0,975002104852	0,796662418502	3,3467265939e-2	0,796352774843	3,40118297305e-2

Mean dispersion $\overline d$, $\hat\sigma_{\overline d}$

$x[100,15]$, $n=\{5,10,20,40,80,160\}$, $M=200$, $M_1=10\cdot 5$.

sim01(100,15,n,200,1.96,seed0)

sim01(100,15,5,200,1.96,8858)
sim01(100,15,5,200,1.96,6329)
sim01(100,15,5,200,1.96,5111)
sim01(100,15,5,200,1.96,6701)
sim01(100,15,5,200,1.96,8167)

sim01(100,15,10,200,1.96,6008)
sim01(100,15,10,200,1.96,4373)
sim01(100,15,10,200,1.96,5212)
sim01(100,15,10,200,1.96,6588)
sim01(100,15,10,200,1.96,3883)

sim01(100,15,20,200,1.96,3720)
sim01(100,15,20,200,1.96,9474)
sim01(100,15,20,200,1.96,3050)
sim01(100,15,20,200,1.96,2228)
sim01(100,15,20,200,1.96,4784)

sim01(100,15,40,200,1.96,3528)
sim01(100,15,40,200,1.96,7747)
sim01(100,15,40,200,1.96,3555)
sim01(100,15,40,200,1.96,8004)
sim01(100,15,40,200,1.96,6868)

sim01(100,15,80,200,1.96,3239)
sim01(100,15,80,200,1.96,5258)
sim01(100,15,80,200,1.96,9990)
sim01(100,15,80,200,1.96,2314)
sim01(100,15,80,200,1.96,4673)

sim01(100,15,160,200,1.96,8949)
sim01(100,15,160,200,1.96,2322)
sim01(100,15,160,200,1.96,5585)
sim01(100,15,160,200,1.96,1234)
sim01(100,15,160,200,1.96,4321)

Table 4. Simulated $p$-level, $p$ from $t$-value with $df=n-1$, $p$ from $z$-value to critical $z=1.96$; simulated $\overline d$ and $\sigma_{\overline d}$, estimated $\hat{\overline d}$ and $\hat\sigma_{\overline d}$ for $x[100,15]$ over $m=200\cdot 10\cdot 5=10000$ cycles $M_1$ by $k_n=6$.

psim  	ptdf            pz             	dsim          	sdsim         	d'            	sd'

5
0,965	0,939222680075	0,975002104852	10,8432208832	3,99749168001	10,700926913123	3,65625
0,96	0,939222680075	0,975002104852	10,6804350223	3,93839741359	10,700926913123	3,65625
0,96	0,939222680075	0,975002104852	10,6461483025	3,99997616386	10,700926913123	3,65625
0,96	0,939222680075	0,975002104852	10,525868003	3,84581866627	10,700926913123	3,65625
0,965	0,939222680075	0,975002104852	10,7971047434	3,99902298244	10,700926913123	3,65625

10
0,96	0,95917779727	0,975002104852	11,3859948855	2,86266408588	11,35004698		2,7421875
0,965	0,95917779727	0,975002104852	11,2062468988	2,90244647231	11,35004698		2,7421875
0,965	0,95917779727	0,975002104852	11,266728413	2,7611763234	11,35004698		2,7421875
0,965	0,95917779727	0,975002104852	11,2860853443	2,80351546383	11,35004698		2,7421875
0,965	0,95917779727	0,975002104852	11,3009316411	2,77943309007	11,35004698		2,7421875

20
0,97	0,967585510356	0,975002104852	11,6728166901	2,01668801169	11,66106475		1,99215303279
0,97	0,967585510356	0,975002104852	11,7168670146	1,99783183445	11,66106475		1,99215303279
0,97	0,967585510356	0,975002104852	11,7513034502	2,05701328799	11,66106475		1,99215303279
0,965	0,967585510356	0,975002104852	11,7338289539	2,02595170544	11,66106475		1,99215303279
0,965	0,967585510356	0,975002104852	11,7293390255	2,0195770337	11,66106475		1,99215303279

40
0,965	0,971415530033	0,975002104852	11,7823462663	1,42945859636	11,81350344		1,42707962072
0,975	0,971415530033	0,975002104852	11,8025469562	1,4197749701	11,81350344		1,42707962072
0,97	0,971415530033	0,975002104852	11,7942051346	1,42007519009	11,81350344		1,42707962072
0,97	0,971415530033	0,975002104852	11,7471810052	1,35739082629	11,81350344		1,42707962072
0,97	0,971415530033	0,975002104852	11,8227715262	1,43634535639	11,81350344		1,42707962072

80
0,97	0,973239007671	0,975002104852	11,88914889		0,976012861196	11,88898986		1,0155456512
0,975	0,973239007671	0,975002104852	11,9052065101	1,01818341669	11,88898986		1,0155456512
0,97	0,973239007671	0,975002104852	11,9089302946	1,00073068804	11,88898986		1,0155456512
0,975	0,973239007671	0,975002104852	11,9009640083	0,982083974712	11,88898986		1,0155456512
0,975	0,973239007671	0,975002104852	11,8911677592	0,998296186341	11,88898986		1,0155456512

160
0,97	0,97412807584	0,975002104852	11,9296678837	0,701888653635	11,92655390		0,720368098102
0,975	0,97412807584	0,975002104852	11,9159809193	0,707824789664	11,92655390		0,720368098102
0,975	0,97412807584	0,975002104852	11,9657298581	0,709125146474	11,92655390		0,720368098102
0,975	0,97412807584	0,975002104852	11,9449170214	0,721634670123	11,92655390		0,720368098102
0,975	0,97412807584	0,975002104852	11,9255988737	0,713090655203	11,92655390		0,720368098102