Hintergrundbild
Navigation

Flexible Regressionsmodelle

Dozent: Dr. Christian Schellhase

Beleg-Nr.: 312506

Termin: Mo 12-14 (W9-109)

Beginn: Mo, 24.04.2017

Weitere Informationen zur Veranstaltung finden Sie im ekvv der Uni Bielefeld.

Link zum Wiki

Prüfungen

Termine stehen noch nicht fest.

Inhalt

Die Veranstaltung ist in drei Teile gegliedert und orientiert sich an dem Buch 'Regression' von Fahrmeir et. al. (2009), insbesondere an den Kapiteln 3, 6, 7 und 8. Dabei werden im ersten Block der Vorlesung Abschnitte der Theorie zu 'linearen Modellen' wiederholt.

In der Praxis sind lineare Modelle nicht in allen Fällen ein guter Ansatzpunkt zur Modellierung von Daten. Eine Möglichkeit lineare Modelle zu verallgemeinern sind generalisierte lineare Modelle. Dies wird im Rahmen dieser Veranstaltung nicht besprochen (Vorlesung im Wintersemester). An dieser Stelle interessieren uns weitergehende Modellierungsmöglichkeiten.

Im zweiten Abschnitt der Vorlesung werden lineare Modelle um 'zufällige Effekte' erweitert, dabei entstehen gemischte Modelle (Mixed Models). Diese Modelle werden motiviert und definiert. Des Weiteren geht es darum Koeffizienten in diesen Modellen zu verschiedenen Annahmen zu schätzen, sowie deren Güte zu bewerten (Schätztheorie, Hypothesentests). Dazu werden Beispiele in R durchgeführt.

Im dritten Teil der Veranstaltung wird die Schätzung von nichtparametrischen Modelle mit penalisierten Splines betrachtet. Es wird thematisiert was nichtparametrische Modelle sind und welche Möglichkeiten exisitieren bei ihrer Anwendung im Vergleich zu linearen Modellen (Motivationen, Definitionen). Des Weiteren sind Koeffizienten zu schätzen und deren Güte soll abgeschätzt werden (Schätztheorie, Hypothesentests). Hier werden begleitend und zum Abschluss Beispiele in R präsentiert. Eine Erweiterung der nichtparametrischen Modelle sind die strukturiert-additiven-Modelle (Motivation, Definition), die methodisch eine Erweiterung der nichtparametrischen Modelle sind (Schätztheorie). Es wird ein Beispiel besprochen.

Literatur

Zeitstoffplan

Termin

Thema VL

Mo, 24.04.2017

Einführung, (0) Wiederholung: lineare Modelle (Fahrmeir Kap. 3)

Mo, 01.05.2017

entfällt - 1. Mai -

Mo, 08.05.2017

Hypothesentests bei linearen Modelle

(1) Einführung gemischte lineare Modelle (LMM) (Fahrmeir Kap. 6)
- Beispiel für LMM, Motivation

Mo, 15.05.2017

Definition LMM, Modellstruktur LMM (Fahrmeir Kap. 6.2)
- Wie ist LMM definiert, Matrixschreibweise, wie sind die zufälligen Effekt definiert?- Für welche Daten sind LMMs geeignet?
- marginales Modell, zweistufig hierarchisches Modell

Mo, 22.05.2017

Schätzung fixer und zufälliger Effekte bei bekannter Kovarianzstruktur, Schätzung Kovarianzstruktur (Fahrmeir Kap. 6.3)
- Schätzer der fixen und zufälligen Effekte bei bekannter Kovarianzstruktur.
- Konsistenz der Schätzer

Mo, 29.05.2017

Schätzung fixer und zufälliger Effekte bei geschätzter Kovarianzstruktur (Fahrmeir Kap. 6.3)
- Schätzer der random effects sind bedingt, E(\gamma | y).
- Eigenschaften Schätzer der Effekte mit ML, REML, EBLUP
Hypothesentests bei LMM (Fahrmeir Kap. 6.3)
- Likelihood-Ratio-test (LRT)

Mo, 05.06.2017

entfällt - Pfingstmontag -

Mo, 12.06.2017

- Modellselektion mit AIC, BIC, LRT

- R Beispiele "mchines", "pigs", "Ratten" mittels nlme()

- Erweiterung von LMM für andere Verteilungen möglich (in Vorl. nur Normalverteilung behandelt).

Mo, 19.06.2017

(2) Einführung nichtparametrische Regression (Fahrmeir Kap. 7. - 7.1.1)
- Was ist eine nichtparametrische Regression, y=f(x)
- Definition Polynom-Spline, Schätzung optimaler Gewichte ohne Bestrafung (KQ-Schätzer).

Mo, 26.06.2017

Penalisierte Splines, allgemeine Penalisierungsansätze (Fahrmeir Kap. 7.1.2 - 7.1.3)
- Basisfunktionen: Definitionen TP-Basis, B-Splines

Mo, 03.07.2017

Penalisierte Splines, allgemeine Penalisierungsansätze (Fahrmeir Kap. 7.1.2 - 7.1.3)
- Penaltyansätze für diese Basen, Knotenwahl (äquidistant)
- Veränderung der Schätzung durch weniger/mehr Knoten (zunächst ohne Penalty)

allgemeine Penalisierungsansätze (Fahrmeir Kap. 7.1.3)
- Verallgemeinerung des Bestrafungsansatzes als allgemeine Penaltymatrix K
- wie verhält sich die Schätzung für sehr kleine/sehr große Bestrafung, für wenige/viele Knoten

Mo, 10.07.2017

Allgemeine Streudiagramm-Glätter, Wahl des Glättungsparameters (Fahrmeir Kap. 7.1.8-7.1.9)
- Berechnung von punktweisen Konfidenzbändern
- Definition MSE, Bias-Variance-Trade-Off

- Wahl des optimalen Glättungsparameters mittels (G)CV, AIC, BIC
- R-Beispiele mietspiegel, mittels gam()

Mo, 17.07.2017

Strukturiert-additive Regression, Additive Modelle (Fahrmeir Kap. 8. - 8.1)
- Erweiterung des univariaten P-Splines in multivariate Definitionen
- R-Beispiele mietspiegel,  mittels gam()

Mo, 24.07.2017

Strukturiert-additive Regression, Additive Modelle (Fahrmeir Kap. 8.1 - 8.2)

Aktuelles

New paper

Paper accepted at AStA Wirtschafts- und Sozialstatistisches Archiv estimating income mobility with D-vines using bivariate penalized splines.

New paper

Our review paper on statistical models for animal movement got accepted at AStA Advances in Statistical Analysis.

New paper

Paper accepted at Dependence Modeling that compares methods for nonparametric estimation of simplified vines.

New paper

Paper accepted at JABES on selecting the number of states of an HMM.

New paper

Paper accepted at JABES on multi-scale modelling of animal movement and general animal behaviour.

New paper

Paper accepted at Ecology on the estimation and simulation of foraging trips of central-place foragers.

New member of the group

Marius Ötting has joined the group as a PhD student.

New paper

Paper accepted at Statistics and Computing on estimating non-simplified vine copulas using penalized splines.

New paper

Paper accepted at Applied Stochastic Models in Business and Industry on fitting a special type of SV models.

DFG grant

Odile Sauzet won a DFG grant to work on a project on health inequality.

New paper

Paper accepted at the Annals of Applied Statistics on possible responses of blue whales to sound exposure.

EcoHMM research group

We created the research group EcoHMM.

Karl Peter Grotemeyer Prize

Roland Langrock will be awarded the Karl Peter Grotemeyer Prize.