Matematiska institutionen Chalmers Tekniska Högskola och Göteborgs Universitet

Statistisk databehandling ht 95

L 6: Bootstrapping

Man önskar skatta standardavvikelsen

σ(F) = [∫_{−∞}^{∞} x^{2} dF (x) − (∫_{−∞}^{∞} x dF (x))^{2}]^{1/2}

för en (okänd) fördelningsfunktion F mha. ett stickprov X_{1}, …, X_{n} från (en stokastisk variabel X med fördelning) F. Härvid utnyttjas skattningen

σ̂ = σ̂(X_{1}, …, X_{n}) = [(n − 1)^{−1} ∑_{i=1}^{n}(X_{i} − \overline{X})^{2}]^{1/2}.

Uppgift 1

I L6-fil1.dat finns funktionsvärdena F (X_{1}), …, F (X_{1600}) (där X_{1}, …, X_{1600} är ett stickprov från F). Illustrera att Glivenko-Cantellis Sats “fungerar” för fördelningen F genom att plotta sup_{−∞<x<∞} |F_{n}^{⋆}(x) − F (x)| för n = 1, 4, 9, 16, 25, …, 1600. Här är F_{n}^{⋆} den empiriska fördelningsfunktionen baserad på stickprovet X_{1}, …, X_{n} från F.

Tips 1: sup_{−∞<x<∞} |F_{n}^{⋆}(x)−F (x)| = max_{1≤i≤n} max{|(i−1)/n−F (X_{(i)})|, |i/n−F (X_{(i)})|}. Denna beräkning tar lite tid för stora n-värden, så det kan löna sig börja med enbart små n-värden (tex. n ≤ 100) medan man “justerar in” sitt program.

Uppgift 2

I L6-fil2.dat finns stickprovet X_{1}, …, X_{100} från F. Använd MonteCarlo-metoden för att skatta bootstrapstandardavvikelsen [Var_{F_{n}^{⋆}}{σ̂(X_{1}, …, X_{n})}]^{1/2} för n = 20 och n = 100. Utnyttja därvid N = 200 simuleringar {σ̂((X_{1}^{(i)})^{⋆}, …, (X_{n}^{(i)})^{⋆})}_{i=1}^{200} av σ̂(X_{1}^{⋆}, …, X_{n}^{⋆}) [där {(X_{1}^{(i)})^{⋆}, …, (X_{n}^{(i)})^{⋆}}_{i=1}^{200} är (200) stickprov (med n observationer i varje) från F_{n}^{⋆}]. Beräkna vidare jackknifeskattningarna av [Var{σ̂(X_{1}, …, X_{n})}]^{1/2} (för n = 20 och n = 100).

Tips 2: Beräkningen för n = 100 tar lite tid, så det kan löna sig börja med enbart n = 20. Standardavvikelserna för n = 20 och n = 100 bör skilja sig åt med ungefär en faktor \sqrt{5}. Vidare bör förstås bootstrap- och jackknifemetoderna ge ungefär samma resultat.

Uppgift 3 Använd MonteCarlo-metoden (med N = 200) för att skatta bootstrapskattningarna av Bias{σ̂} för datamaterialen (n = 20 och n = 100) i Uppgift 2. Beräkna även motsv. jackknifeskattningar.

Tips 3: Om (som är önskvärt) Bias{σ̂} är mycket liten jämfört med σ och σ̂ (eller tom. 0), så kan bootstrapskattningar och jackknifeskattningar av Bias{σ̂} skilja sig åt “till synes” märkbart: Då man försöker skatta en mycket litet bias (eller tom. skatta en bias som är 0) kan en sorts bias-skattning ge positiva värden medan en annan blir negativ. Man bör endast bias-korrigera sin skattning av (tex.) σ̂ med bootstrap- eller jackknifeskattningen av Bias{σ̂} då bias-skattningen är någorlunda stor. I annat fall kan man nöjt konstatera att biasen är liten och att bias-korrigering varken kan eller behöver göras!