GLM är den mest underskattade metoden i verktygslådan. Den blir sällan omnämnd i sammanhang där gradient boosting diskuteras, och den är ändå rätt val förvånansvärt ofta.
Skälet är tolkbarhet med bibehållen korrekthet. Modellen kan förklaras för en ekonomichef, koefficienterna betyder något, och osäkerheten kommer ur ramverket i stället för att behöva simuleras fram.
De två valen
Utfallsfördelning: vad slags storhet är det?
| Utfall | Fördelning |
|---|---|
| Antal | Poisson eller negativ binomial |
| Ja eller nej | Binomial |
| Positivt belopp | Gamma |
| Andel | Beta |
Länkfunktion: hur påverkar variablerna medelvärdet?
Logaritmisk länk ger multiplikativa effekter: en variabel höjer utfallet med en viss procent. Det stämmer nästan alltid bättre med verksamheter än additiva effekter, där en variabel skulle höja med ett fast antal oavsett utgångsnivå.
Logitlänk används för sannolikheter och håller resultatet mellan noll och ett utan att man behöver kapa i efterhand.
Varför inte bara logaritmera och köra vanlig regression
Det är den vanliga genvägen och den har tre problem.
Nollor går inte att logaritmera. Standardlösningen att lägga till ett förvränger resultatet, mest för små värden.
Återtransformeringen är inte neutral. Medelvärdet av logaritmerade värden motsvarar inte logaritmen av medelvärdet, och skillnaden är systematisk.
Variansstrukturen blir fel. En GLM med logaritmisk länk modellerar rätt sak direkt, utan att datan behöver förvanskas först.
GLM eller gradient boosting
Gradient boosting vinner nästan alltid på ren prediktiv träffsäkerhet, och skillnaden är ofta liten.
GLM vinner när koefficienterna ska tolkas, när osäkerheten ska redovisas formellt, när datan är liten, eller när modellen ska granskas av någon utanför teamet. Vid prissättning och elasticitet är tolkbarheten ofta hela poängen: man vill veta hur mycket, inte bara kunna förutsäga.
En vanlig och bra ordning: börja med en GLM för att förstå, komplettera med boosting om träffsäkerheten behöver mer.