Formålet med data i denne opgave er at prædiktere, hvor god en kemisk forbindelse er til at bremse BTK (Brutons Tyrosine Kinase). Respons er $\text{tIC}_{50}=-\log_{10}(\text{IC}_{50})$, hvor $\text{IC}_{50}$ er half maximal inhibitory concentration, det vil sige den mængde, der er nødvendig for at nedsætte BTK aktiviteten til det halve ($\text{IC}_{50}$ skal angives i mol/L før logaritmen beregnes). Bemærk, at en stor værdi af $\text{tIC}_{50}$ betyder større evne til at bremse BTK. Hvis man ud fra simple beskrivelser af den kemiske forbindelse kan prædiktere $\text{tIC}_{50}$, kan man benytte dette til at designe nye forbindelser eller til at løbe gennem et bibliotek af kemiske forbindelse for at finde gode kandidater til at bremse BTK. Data i denne opgave er en delmængde af data fra Computational regression and prediction analysis on a dataset of 52 Pyrrolo[2,3-b]Pyridines and Pyrimidines Rheumatoid Arthritis inhibitors. Vi vil betragte fire variable til beskrivelse af $\text{tIC}_{50}$: molekylevægten af den kemiske forbindelse (MW), logaritmen til partition coefficient (logP), antal hydrogenbindinger i acceptorgruppe (HBA) og måling foretaget ved røngtenspektroskopi (KA1). Forfatterne identificerer to datapunkter som outliers, og data, I skal betragte, indeholder ikke disse. Data findes i filen tICdata.csv, som har 5 søjler i rækkefølgen MW, logP, HBA, KA1 og tIC50. Der er kun 48 datarækker i filen, idet jeg har taget to sæt ud, som I skal bruge til sidst i opgaven til prædiktion.

1. Indlæs data som en datatabel.
   Opskriv den fulde regressionsmodel, hvor middelværdien af tIC50 afhænger lineært af de fire forklarende variable.
2. Lav et qqplot af residualerne i denne model. Angiv Resultat nummer for hvordan et qqplot vurderes
3. Reducer den fulde multiple regressionsmodel ved successivt at fjerne led i modellen (backward selektion). Lav en tabel, som for hvert trin angiver den variabel der fjernes i modellen og den tilhørende $p$-værdi.
4. Opskriv slutmodellen ved backward selektionsproceduren, og lav et $F$-test for reduktion fra den fulde model til slutmodellen.
5. Lav en figur, hvor residualerne fra slutmodellen afsættes mod KA1, og med nullinjen indsat. (Overvej også, hvilke andre figurer du burde lave.) Idet du starter fra venstre side og går mod højre, hvor mange punkter ligger under nullinjen inden det første punkt, der ligger over nullinjen ?
6. Lav en figur, hvor tIC50 afsættes mod de forventede værdier, og indsæt identitetslinjen i denne figur.
   Synes du, at slutmodellen vil være god til at prædiktere tIC50 ?
7. Angiv 95%-konfidensintervaller for de to regressionsparametre i din slutmodel. Hvilke kemiske forbindelser skal man lede efter, hvis man gerne vil have en forbindelse, der er god til at bremse BTK ?
8. Datasætet indeholder to observationer, der ikke er medtaget i data, som I benyttede ovenfor. Data for de to observationer er
   $$\begin{array}{ccccc} \hline \text{MW}& \text{logP}& \text{HBA}& \text{KA1} & \text{tIC50} \\ \hline 573.67 & 5.4525 & 5 & 31.5918 & -1.5224 \\ 578.7 & 3.4987 & 5 & 31.5918 & -0.8451 \\ \hline \end{array}$$ Lav et 95%-prædiktionsinterval for tIC50 for hver af de to prøver ovenfor. Ligger den observerede værdi i prædiktionsintervallet ?
   Som nævnt i indledningen til denne opgave, blev to prøver fjernet fra datasættet, idet disse blev betragtet som outliers. Data for disse to er
   $$\begin{array}{ccccc} \hline \text{MW}& \text{logP}& \text{HBA}&\text{KA1} & \text{tIC50} \\ \hline 497.57 & 3.2129 & 5 & 27.1837 & -3.1326 \\ 580.72 & 3.7191 & 5 & 31.5918 & -2.7589 \\ \hline \end{array}$$ Gentag ovenstående beregning af prædiktionsinterval for disse to prøver.

Luk igen

I denne øvelse skal I se på NIR-spektre af småkagedej for at vurdere, om disse kan bruges til at prædiktere indholdet af vand i dejen. Data er hentet fra ppls pakken i R (programpakke til statistikberegninger), og er analyseret i de to artikler Application of near-infrared reflectance spectroscopy to compositional analysis of biscuits and biscuit dough, og Bayesian Wavelet Regression on Curves with Applications to a Spectroscopic Calibration Problem. Der er 40 prøver med NIR-spektre målt ved 700 bølgelængder (fra 1100 til 2498 nanometer). Data ligger i filen DejTraen.txt, som har 701 søjler (uden søjleoverskrifter), hvor den sidste søjle indeholder mængden af vand. Hver række i filen svarer til en prøve.

1. Indlæs data som en $40\times 701$ matriks Traen med brug af indlæsningskommandoen np.loadtxt (MATLAB: importdata).
   Placer NIR-spektrene i en $40\times 700$ matrix $T$ og mængden af vand i vektoren vand (python: T=Traen[:,0:700], MATLAB: T=Traen(:,1:700);).
   Angiv, hvor mange dejprøver der er med et vandindhold under 13.
2. Tabellen nedenfor viser resultatet af et kald til forward samt et kald til cvForward.
   $$\begin{array}{lcccccc} \hline \text{Antal variable} & 1 & 2 & 3 & 4 & 5 & 6 \\ \hline \text{Variabelnummer} & 425 & 588 & 641 & 242 & 11 & 10 \\ \text{Spredningsskøn} & 0.924 & 0.543 & 0.525 & 0.486 & 0.441 & 0.424 \\ \text{P-værdi} & 0.0000 & 0.0000 & 0.0656 & 0.0124 & 0.0059 & 0.0617 \\ \hline \text{CV-prædiktionsspredning} & 1.248 & 0.870 & 0.975 & 0.832 & 0.870 & 0.879 \\ \hline \end{array}$$ Illustrer forward selektionsprocessen med en figur som i afsnit 9.4 baseret på data i tabellen ovenfor.
   Hvor mange variable, fundet ved forward selektion, vil du medtage i en model til beskrivelse af vandindholdet ?
3. Du skal nu bruge ridge regression til at beskrive vandmængden ud fra NIR-spektrene. Lav en tabel med krydsvalideringsspredning $s_{\text{cv}}(\lambda)$ for $\lambda$-værdierne $0.001,0.01,0.1,1,10,100,200,400,1000$. Lav også en figur, hvor $s_{\text{cv}}(\lambda)$ afsættes mod $\log(\lambda)$.
   Vælg en værdi $\hat\lambda$ af $\lambda$, som du vil bruge til at beskrive data med. Lav en figur med den observerede vandmængde afsat mod den forventede vandmængde, og indsæt identitetslinjen i denne figur. Du kan eventuelt lade dig inspirere af koden i den skjulte kode Ridge regression i python.
4. Hvilken model foretrækker du, modellen fra forward selektion eller modellen fra ridge regression ?

Luk igen

Denne opgave er en fortsættelse af den foregående opgave. Udover det oprindelige datsæt med 40 dejprøver er der også et nyt datasæt med 32 prøver. Vi kan bruge dette datasæt til et uafhængigt tjek af, hvor god modellen er til at prædiktere. Det nye datasæt er i filen DejTest.txt, som har samme struktur som DejTraen.txt (men altså 32 rækker i stedet for 40 rækker).

1. Benyt data fra foregående opgave. Kør ridge regression med $\lambda=3,$ og find $\hat\alpha(\lambda),$ $\hat\beta(\lambda)$ og prædiktionsspredningen $s_{\text{cv}}(3).$
   Angiv den første koordinat i vektoren $\hat\beta(\lambda).$
2. Indlæs nu de nye data som en $32\times 701$ matriks Test med brug af indlæsningskommandoen np.loadtxt (MATLAB: importdata).
   Udregn de prædikterede værdier for de nye data.
3. Lav en figur hvor de observerede værdier for de nye data afsættes mod de prædikterede værdier. Indsæt identitetslinjen i figuren.
   Hvad er den største abolutte prædiktionsfejl, og hvor optræder den ?
4. Udregn kvadratroden af gennemsnit af den kvadrerede afstand mellem de observerede værdier og de prædikterede værdier for de nye data.
   Sammenlign denne værdi med prædiktionsspredningen $s_{\text{cv}}(3).$
5. Synes du ridge regressionsmodellen er god til at prædiktere nye dejprøver ?

Luk igen

I opgave 5.7 så I på en regressionsmodel for absorbansratioens afhængighed af proteinmængden BSA, og brugte sammenhængen som en kalibreringskurve. I opgaven var der givet en enkelt observation af absorbansratioen for hver af seks værdier af BSA. I artiklen Linearization of the Bradford Protein Assay, som data stammer fra, er hver absorbansratio faktisk gennemsnit af tre uafhængige målinger. Alle data fra artiklen er gengivet i tabel nedenfor og findes i filen TreGentagBradford.csv. Filen har tre søjler, hvor første søjle indeholder BSA, den anden søjle er en variabel gruppe, der koder for BSA-gruppe (med værdierne G1,G2,G3,G4,G5,G6), og den tredje søjle indeholder absorbansratio. $$\begin{array}{ccccc}\hline \text{BSA} & \text{Måling 1} & \text{Måling 2} & \text{Måling 3} & \text{Gennemsnit} \\ \hline 0 & 0.461 & 0.456 & 0.455 & 0.457 \\ 1 & 0.818 & 0.771 & 0.783 & 0.791 \\ 2 & 1.124 & 1.107 & 1.115 & 1.115 \\ 3 & 1.414 & 1.448 & 1.517 & 1.460 \\ 4 & 1.798 & 1.858 & 1.892 & 1.849 \\ 5 & 1.811 & 2.449 & 2.409 & 2.223 \\ \hline \end{array}$$ I skal i denne opgave bruge data til to ting. Først skal I bruge strukturen i data til at lave et test for, at der er en linær sammenhæng mellem middelværdien af absorbansratio og proteinmængden BSA. Derefter skal I gentage nogle af beregningerne i opgave 5.7 omkring skøn af BSA-mængden ud fra den målte absorbansratio.

1. Opstil normalfordelingsmodellen, hvor hver BSA-gruppe har sin egen middelværdi af absorbansratio, og alle grupperne har den samme varians.
   Analyser modellen i python/MATLAB, og angiv skøn over spredningen i modellen.
2. Opstil regressionsmodellen, hvor middelværdien af absorbansratio afhænger lineært af BSA.
   Analyser modellen i python/MATLAB, og angiv skøn over spredningen i modellen. Sammenlign dette skøn med skønnet fra foregående opgave og med skønnet, du fandt i opgave 5.7. Kan du forstå sammenhængen mellem skønnet i dette spørgsmål og skønnet i opgave 5.7 ?
3. Forklar, at regressionsmodellen er en undermodel af modellen, hvor hver BSA-gruppe har sin egen middelværdi af absorbansratio (den ensidede variansanalysemodel).
   Lav et test for reduktion fra den ensidede variansanalysemodel til regressionsmodellen. Angiv den $F$-fordeling, der bruges. Er $p$-værdien stor nok, til at du vil acceptere regressionsmodellen ?
4. Beregn et 95%-konfidensinterval for hældningen i den lineære sammenhæng mellem middelværdien af Absorbansratio og BSA.
   Sammenlign med konfidensintervallet i opgave 5.7.
5. Betragt en ny prøve med ukendt indhold af BSA, hvor absorbansratio er målt til 0.98. Angiv et 95%-konfidensinterval for det ukendte indhold af BSA.
   Sammenlign med konfidensintervallet i opgave 5.7. Kan du forklare hvorfor intervallet her er bredere ?
   Forklar, hvorfor analysen i denne opgave er mere korrekt end analysen i opgave 5.7.

Luk igen

I denne sidste opgave er det meningen, at I hovedsageligt skal bruge metoderne fra de 6 første øvelser (undtagelsen er det sidste spørgsmål). I artiklen Use of Multiple Linear Regression Models for Setting Water Quality Criteria for Copper: A Complementary Approach to the Biotic Ligand Model betragtes forskellige modeller til at beskrive giftigheden af kobber i vandløb. På den ene side har man en simplificeret model, hvor man kun bruger vandets hårdhed som forklarende variabel i en regressionsmodel. På den anden side har man en kompliceret multipel regressionsmodel med 10 forklarende variable, som ifølge forfatterne ikke har vundet indpas i vandkvalitetsprogrammer. Forfatterne betragter i stedet en mere simpel multipel regressionsmodel med tre forklarende variable, henholdsvis DOC (dissolved organic carbon, mg/L), hårdhed (mg/L) og pH. I opgaven her skal I betragte data for giftigheden af kobber for vandloppen Daphnia magna. Giftigheden måles som acute EC50 ($\mu$g/L Cu). Den bedste skala at betragte data på er ved at logaritmetransformere (dog ikke pH, som allerede er på en log-skala). Filen Dmagna.csv indeholder variablene DOC, hardness, pH og EC50. Der er data for 302 målinger. Lad logEC50 være logaritmen til acute EC50, og for nemhed i notationen lad $D$ være logaritmen til DOC og $H$ være logaritmen til hardness. En analyse af den multiple regression af logEC50 på $D$, $H$ og pH viser, at modellen kan reduceres til $$\mathrm{LogEC50}\sim N(\alpha+D+\frac{1}{2}H+\mathit{pH},\sigma^2).$$ Du kan eventuelt køre en multipel regressionsanalyse og se, at parametertabellen ikke strider mod $\beta_D=1,$ $\beta_H=\frac{1}{2}$ og $\beta_{\text{pH}}=1.$ Denne analyse giver anledning til at indføre et indeks, her kaldet giftIndex, på formen $$\text{giftIndex}=\text{logEC50}-D- \frac{1}{2}H-\mathit{pH}.$$ Fra data ses, at dette indeks svinger omkring værdien $-6.86.$ Opgaven her går ud på at lave nogle (lidt usædvanlige) undersøgelser for at se, om den multiple regressionsmodel kan forbedres ved at inkludere flere variable. Specifikt skal I se, om produktet $H\cdot\mathit{pH}$ indeholder information om giftindex ved at dele data op i grupper efter denne variabel.

1. Indlæs data og dan variablene logEC50, $D$, $H$ og pH. Dan dernæst giftindex.
   Tjek at gennemsnit af målingerne af giftindeks er $-6.86.$
2. Konstruer en kategorisk variabel gruppe, der deler op i tre grupper, $A$, $B$ og $C$, efter om $H\cdot\mathit{pH}$ er mindre end 25, er mellem 25 og 35 eller over 35. I python (pandas) eller MATLAB kan dette gøres med kommandoerne
   $$\begin{aligned} \text{python: }& \text{gruppe=pd.cut(H*pH,bins=[0,25,35,100],labels=['A','B','C'])} \\ \text{MATLAB: }& \text{gruppe=discretize(H*pH,[0,25,35,100],'categorical',\{'A','B','C'\})} \end{aligned}$$
   Dan nu to datasæt, giftA og giftC, med værdierne af giftindex hørende til gruppe $A$ og til gruppe $C$. Der er 60 observationer i gruppe $A$ og 96 i gruppe $C$.
3. For de 60 prøver i gruppe $A$ er der 14, der har en værdi af giftindex under $-7$ (konstater, at dette er rigtigt). Opstil en statistisk model til beskrivelse af observationen 14, og lav et 95%-konfidensinterval for sandsynligheden for, at værdien af giftindex er under $-7$ i gruppe $A$.
4. For de 96 prøver i gruppe $C$ er der 29, der har en værdi af giftindex under $-7.$ Undersøg, om der er samme frekvens af prøver med en værdi af giftindex under $-7$ i de to grupper $A$ og $C$.
5. Opstil en statistisk model til beskrivelse af værdierne af giftindex i giftA og giftC.
   Lav et test for hypotesen, at der er samme middelværdi af giftindex i de to grupper $A$ og $C$.
6. Betragt nu giftindex for alle 3 grupper dannet ud fra faktoren gruppe. Opstil en statistisk model for data, og undersøg først, om der er samme varians for de tre grupper, og dernæst, om der er samme middelværdi for de tre grupper.
7. Ovenstående analyse viser, at der er information i produktet $H\cdot\mathit{pH}$, der kan bruges til at beskrive giftindex, og dermed kan bruges til at beskrive giftigheden logEC50. I dette delspørgsmål skal I analysere en multipel regressionsmodel til beskrivelse af logEC50, hvor I som forklarende variable ud over $D$, $H$ og pH også bruger alle produkter af disse, det vil sige, variablene
   $$\begin{aligned} & \mathit{DD}=D*D,\enspace \mathit{HH}=H*H,\enspace \mathit{ppH}=\mathit{pH}*\mathit{pH}, \\ & \mathit{DH}=D*H,\enspace \mathit{DpH}=D*\mathit{pH},\enspace \mathit{HpH}=H*\mathit{pH}. \end{aligned}$$ Opskriv den multiple regressionsmodel, hvor alle 9 forklarende variable inddrages.
   Reducer modellen ved brug af backward selektion.
8. Lav et test for reduktion fra startmodel til slutmodellen fremkommet ved backward selektion.
   Angiv et 95%-konfidensinterval for regressionskoefficienten hørende til variablen $H\cdot\mathit{pH}$ i slutmodellen.
9. Overvej, hvilke figurer du ville lave til kontrol af slutmodellen (du skal ikke lave figurerne).
10. Sammenlign endelig skøn over spredning i slutmodellen med skøn over spredning i den multiple regressionsmodel hvor kun de tre forklarende variable $D$, $H$ og pH inddrages. Er det rimeligt at bruge denne sidste simple model ?

Luk igen