I denne opgave vender vi tilbage til fejlene ved brug af et mailsystem fordelt på 13 arbejdsområder som vist i opgave 1.1. Mailsystemet er sådan indrettet, at der bruges cirka lige meget tid i de 13 forskellige dele, og en relevant hypotese er derfor, at fejlene er spredt ligeligt ud på de 13 områder. Hvis data strider mod denne hypotese, viser dette, at der er områder, hvor der nemmere opstår fejl. I skal tænke på situationen på den måde, at vi har 73 fejl, der skal fordeles på de 13 områder.

1. Opstil multinomialmodellen for data i tabel fra opgave 1.1 omkring fordelingen af 73 fejl i et mailsystem, hvor sandsynlighederne for at falde i de 13 kasser er vilkårlige.
2. Opskriv, inden for den opstillede multinomialmodel, hypotesen om ligelig fordeling på de 13 områder. Udregn de forventede antal, og lav $G$-testet for hypotesen. Hvad bliver konklusionen af testet ?

Jeg vil nu samle de 13 områder i tre "hovedområder", nemlig de 4 første, de 4 næste og de 5 sidste. Dette giver følgende tabel med fejl i de tre hovedområder.

3. Opstil multinomialmodellen for fejlene i de tre hovedområder, og opskriv hypotesen om en fordeling proportional med antallet af delområder, der indgår i hovedområderne. Lav $G$-testet for denne hypotese. Overrasker resultatet dig i forhold til hvad du kom frem til i det foregående spørgsmål ?

Generel bemærkning.$\enspace$Ovenfor lavede I to test. I nogle artikler kan der være langt flere test. I sådanne situationer er det vigtigt at huske, at selvom alle hypoteser, der testes, er sande, så vil omkring 5% af testene give en $p$-værdi under 0.05, jævnfør omtalen af fejl af type 1 i afsnit 1.4.

Luk igen

Via Twitters API (application programming interfaces) kan man få data om trafikken på Twitter. Data i denne opgave vedrører antallet af tweets per minut på en dag i perioden fra 12.27 til 15.52, som indeholder et af søgeordene #rstats, #datascience, #bigdata, #machinelearning, #dataviz eller #ml. Data er fundet på bloggen cartesianfaith.com under et indlæg af B.L.Y. Rowe. Data er vist som en tidsrække i figuren nedenfor, og de 205 målinger kan findes i filen TwitterData.txt.

1. Indlæs de 205 tællinger med ordren nTweet=scan("TwitterData.txt").
   Lav et antalshistogram af data med intervalendepunkter endePkt=c(1:22)*2-0.5 (det første interval er fra 1.5 til 3.5, svarende til at den mindste værdi i nTweet er 3, og det sidste interval er fra 41.5 til 43.5, svarende til at den største værdi i nTweet er 43). Indsæt titler på akserne i figuren ved at benytte xlab og ylab i kaldet til hist. Placer antallet af observationer i hvert interval i en vektor antal. Vælg et af intervallerne ud, og eftervis antallet i antal ved en direkte optælling blandt de 205 dataværdier.
2. Opskriv multinomialmodellen for den stokasitkse antalsvektor Antal, hvor sandsynligheden for at falde i de forskellige kasser er vilkårlig.

I denne opgave skal I lave et goodness of fit test for at antallet af tweets per minut er poissonfordelt. Lad $\lambda$ være rateparameteren i poissonfordelingen (enhed: antal per minut). Da den første "kasse" i multinomialmodellen indeholder tælletal mindre end eller lig med tre, vil hypotesen om en poissonfordeling betyde at sandsynligheden for at falde i den første kasse er $\sum_{j=0}^3(\lambda^j/j!)e^{-\lambda}.$ Den anden kasse indeholder alle tælletal med værdien 4 eller 5, og sandsynligheden for at falde i den anden kasse er $\{(\lambda^4/4!)+(\lambda^5/5!)\}e^{-\lambda},$ og så videre op til kasse 20. Sandsynligheden for at falde i den sidste kasse (kasse nummer 21) er 1 minus summen af sandsynlighederne for de første 20 kasser. Som skøn over $\lambda$ bruges gennemsnittet af de 205 observationer, se underafsnit 2.5.1.

3. Opskriv, inden for din multinomialmodel, hypotesen om, at antallet af tweets per minut er poissonfordelt.
   Beregn de forventede antal under hypotesen. Hertil kan du benytte koden nedenfor. I R beregnes punktsandsynligheder i poissonfordelingen med dpois(x,lambda), og sandsynligheden for en værdi mindre end eller lig med $x$ beregnes med ppois(x,lambda). Forklar, at koden giver de forventede værdier.
   xxxxxxxxxx

    

   1

   lamhat=4316/205

   2

   endePkt=c(1:22)*2-0.5

   3

   endePkt0=endePkt[2:21]

   4

   pr0=ppois(endePkt0,lamhat)

   5

   pr=c(pr0,1)-c(0,pr0)

   6

   forvent=205*pr

   7

   round(forvent,2)

   Compute

   Language: Sage Gap GP HTML Macaulay2 Maxima Octave Python R Singular

   ---

   Messages
   
   
   Indtegn de forventede antal i histogrammet fra spørgsmål (a) som en rød kurve med kommandoen lines(c(1:21)*2+0.5,forvent,col=2), hvor forvent er vektoren med de forventede antal.
4. Lav $G$-testet for hypotesen, at antal tweets per minut er poissonfordelt. Slå kasser sammen, hvis de forventede ikke er større end 5 (slå kasser sammen fra hver sin ende, indtil det forventede antal er større end 5).
   Hvad bliver konklusionen af dit goodness of fit test ? Kan du give en forklaring på resultatet ?

Forklaring

Luk igen

Data i denne opgave vedrører position af pointer, når denne flyttes fra et startpunkt og ind i et målområde, som vist i figuren i opgave 1.5. Data er simulerede baseret på informationen i figur 1 i artiklen An error model for pointing based on Fitts' Law. Der er 269 observationer målt relativt til midtpunkt af målområdet (enheden angives i figuren som "pixels"). Data ligger i filen Position.txt. Opgaven går ud på at lave et goodness of fit test for, at pointerpositionen kan beskrives med en normalfordeling.

1. Indlæs de 269 positioner med kommandoen scan("Position.txt"), og placer disse i variablen pointer. Lav et tæthedshistogram af data med intervalinddelingen endePkt=c((-9):8)*2+0.5. Placer antallet af observationer i hvert af de 17 intervaller i en vektor antal.
   Hvis positionen af pointer skal beskrives med en normalfordeling, er det bedste valg af middelværdi $\hat\mu=0.1843,$ og det bedste valg af spredning er $\hat\sigma=4.9938.$ Indtegn normalfordelingstætheden i histogrammet med kommandoen

   curve(dnorm(x,0.1843,4.9938),from=-20,to=20,add=TRUE)
2. Opskriv multinomialmodellen for den stokastiske vektor Antal, hvor sandsynlighederne for at falde i de forskellige intervaller er vilkårlige.
   Opskriv dernæst hypotesen, at sandsynlighederne for at falde i de 17 intervaller er givet ved sandsynlighederne for intervallerne i en normalfordeling med middelværdi $\mu$ og spredning $\sigma.$ Husk at i denne sammenhæng skal det første interval opfattes som intervallet fra minus uendelig til -15.5, og det sidste interval skal opfattes som intervallet fra 14.5 til uendelig.
   Beregn de forventede antal under hypotesen. Hertil kan du benytte koden nedenfor. I R beregnes sandsynligheden for en værdi mindre end eller lig med $x$ i en normalfordeling med kommandoen pnorm(x,$\mu$,$\sigma$). Forklar, at koden giver de forventede værdier.
   xxxxxxxxxx

    

   1

   muhat=0.1843

   2

   sigmahat=4.9938

   3

   endePkt=-20+c(1:18)*2+0.5

   4

   endePkt0=endePkt[2:17]

   5

   pr0=pnorm(endePkt0,muhat,sigmahat)

   6

   pr=c(pr0,1)-c(0,pr0)

   7

   forvent=269*pr

   8

   round(forvent,2)

   Compute

   Language: Sage Gap GP HTML Macaulay2 Maxima Octave Python R Singular

   ---

   Messages
   
   
3. Lav $G$-testet for hypotesen, at pointerpositionenen er normalfordelt. Kan disse data beskrives med en normalfordeling ?

Luk igen

I bogen Human-Computer Interaction: An Empirical Research Perspective omtales kort et eksperiment, hvor kvinder og mænd observeres for at vurdere deres måde at scrolle i en tekst. Hver person klassificeres efter, om vedkommende bruger enten rullehjulet på musen til at scrolle i en tekst, bruger rullepanel på skærmen eller bruger tastaturtasterne. Der er 65 kvinder og 43 mænd i undersøgelsen. Fordelingen på de tre metoder for henholdsvis kvinder og mænd kan ses i tabellen nedenfor. Vi ønsker med data at se, om der er kønsspecifikke måder at arbejde med computeren på.

1. Opstil den statistiske model, hvor tælletallene for hvert køn følger sin egen multinomialfordeling. Angiv inden for den opstillede model hypotesen, at der er samme sandsynlighedsvektor for kategorierne (Rullehjul, Rullepanel, Tastatur) for de to køn.
2. Undersøg, om data er i overensstemmelse med hypotesen om samme sandsynlighedsvektor for kategorierne (Rullehjul, Rullepanel, Tastatur) for de to køn (benyt eventuelt R-koden fra eksempel 3.7.2).

Luk igen

Lad os vende tilbage til data i opgave 2.4 med antallet af fejl i kodning for tre grupper af programmører. I opgaven her betragtes kun de to første grupper af programmører. Idet vi vil bruge data til at sammenligne de to grupper, skrives raterne i de to grupper som $12\lambda_1$ og $14\lambda_2,$ idet enheden på $\lambda$ så bliver det forventede antal per 100 linjer med kode. Spørgsmålet, om de to grupper laver det samme antal fejl, kan nu formuleres som hypotesen $\lambda_1=\lambda_2.$

1. Opstil en poissonmodel til beskrivelse af eksperimentet, hvor rateparametrene $\lambda_1$ og $\lambda_2$ er som beskrevet ovenfor.
2. Lav et test for hypotesen, at der ikke er forskel i raten af fejl mellem de to grupper (se Resultat 3.8.1).
   Hvad bliver konklusionen af dette test ?

Bemærkning:$\enspace$Hvis data strider mod hypotesen $\lambda_1=\lambda_2,$ vil vi være interesseret i at indføre en parameter $\theta,$ således at $\lambda_2=\theta\lambda_1.$ Parameteren $\theta$ angiver, hvor mange gange større $\lambda_2$ er i forhold til $\lambda_1.$ Et konfidensinterval for forholdet $\theta$ kan beregnes som angivet efter Resultat 3.8.1. Hvis denne metode benyttes på data for første og tredje gruppe af programmører i opgave 2.4, får vi intervallet $[0.68,\,3.99]$ for forholdet $\lambda_3/\lambda_1$ mellem de to rater. Da værdien 1 ligger i konfidensintervallet, strider data ikke mod at sige, at der er samme rate af fejl per 100 linjer med kode i grupperne 1 og 3.

Luk igen

I opgave 2.6 betragtes tre metoder SVM, KNN og RS til at identificere spammails. Data fra opgaven gengives i følgende tabel.

1. Opstil den statistiske model, hvor tælletallene for hver metode følger sin egen multinomialfordeling. Angiv inden for den opstillede model hypotesen, at der er samme sandsynlighedsvektor for kategorierne (Fundet, Ikke Fundet) for de tre metoder.
2. Undersøg, om data er i overensstemmelse med hypotesen om samme sandsynlighedsvektor for kategorierne (Fundet, Ikke Fundet) for de tre metoder.

Når man skal vurdere en metode til at finde spammails, er det ikke nok blot at se på, hvor mange spammails der fanges, man må også se på hvor mange af de ønskede mails, der klassificeres som spam. For de tre metoder ovenfor er data som følger.

3. Undersøg, om de tre metoder er lige gode til at finde ønskede mails.
4. Hvilken metode vil du vælge til dit eget spamfilter ?

Luk igen