Det finns ett växande intresse för att uppskatta och analysera heterogena behandlingseffekter i experimentella och observationsstudier. Vi beskriver ett antal metaalgoritmer som kan dra nytta av någon övervakad inlärning eller regressionsmetod i maskininlärning och statistik för att uppskatta den villkorliga genomsnittliga behandling effekt (CATE) funktion. Meta-algoritmer bygger på basalgoritmer-såsom Random Forests (RF), Bayesian Additive Regression Trees (BART) eller neurala nätverk för att uppskatta CATE, en funktion som basalgoritmer inte är utformade för att uppskatta direkt. Vi introducerar en ny meta-algoritm, X-learner, som är bevisligen effektiv när antalet enheter i en behandlingsgrupp är mycket större än i en annan, och det kan utnyttja strukturella egenskaper hos CATE-funktionen. Till exempel, om CATE-funktionen är linjär och responsfunktionerna i behandling och kontroll är Lipschitz kontinuerlig, X-learner kan fortfarande uppnå den parametriska hastigheten under regelbundenhet förhållanden. Vi introducerar sedan versioner av X-learner som använder RF och BART som base learners. I omfattande simuleringsstudier, X-learner presterar gynnsamt, även om ingen av meta-lärarna är enhetligt bäst. I två övertalningsfältexperiment från statsvetenskap visar vi hur vår nya X-learner kan användas för att rikta in sig på behandlingssystem och belysa underliggande mekanismer. Ett programvarupaket tillhandahålls som implementerar våra metoder. Med ökningen av stora datamängder med finkornig information om människor och deras beteende, forskare, företag och beslutsfattare blir allt mer intresserade av hur behandlingseffekter varierar mellan individer och sammanhang. De vill gå längre än den information som ges genom att uppskatta den genomsnittliga behandlingseffekten (ATE) i randomiserade experiment och observationsstudier. Istället försöker de ofta uppskatta villkorliga genomsnittliga behandlingseffekter (CATE) för att anpassa behandlingssystemen och för att bättre förstå kausala mekanismer. Vi introducerar en ny estimator som kallas X-learner, och vi karakteriserar det och många CATE estimatorer i en enhetlig meta-learner ram. Deras prestationer jämförs med hjälp av omfattande simuleringar, teori och två datauppsättningar från randomiserade fältexperiment inom statsvetenskap. I det första randomiserade experimentet uppskattar vi effekten av en brevbärare på valdeltagandet (1) och i det andra mäter vi effekten av samtal från dörr till dörr på fördomar mot icke-överensstämmande individer (2). I båda experimenten visar sig behandlingseffekten vara icke-konstant, och vi kvantifierar denna heterogenitet genom att uppskatta KAT. Vi får insikter i de underliggande mekanismerna, och resultaten gör det möjligt för forskare att bättre rikta behandlingen. För att uppskatta CATE, bygger vi på regression eller övervakade inlärningsmetoder i statistik och maskininlärning, som är allmänt använda och framgångsrika i ett brett spektrum av tillämpningar. Speciellt studerar vi meta-algoritmer eller meta-ledare för att uppskatta KAT. De upplöste uppskattningen av KAT till flera underregressionsproblem som kan lösas med någon regression eller övervakad inlärningsmetod. Den vanligaste meta-algoritmen för att uppskatta heterogena behandlingseffekter tar två steg. För det första använder man så kallade basinlärare för att uppskatta de villkorliga förväntningarna på de resultat som ges prediktorer under kontroll och behandling separat. För det andra tar det skillnaden mellan dessa uppskattningar. Detta tillvägagångssätt har analyserats när basinlärarna är linjär regression (3) eller trädbaserade metoder (4). När det används med träd, har detta kallats Two-Tree estimator och vi kommer att, det-1 arXiv:1706.03461v4 [math.ST] fore, hänvisa till den allmänna idén om att uppskatta responsfunktioner separat som T-learner, "T" bör förstås att stå för "två". Nära släkt med T-learner är tanken på att uppskatta resultatet med hjälp av alla funktioner och behandlingsindikatorn, utan att ge behandlingsindikatorn en särskild roll. Den förväntade CATE för en enskild enhet är då skillnaden mellan de förväntade värdena när indikatorn för behandlingstilldelning ändras från kontroll till behandling, med alla andra funktioner som hålls fast. Denna metaalgoritm har studerats med BART (5, 6) och regressionsträd (4) som baslärare. Vi hänvisar till denna meta-algoritm som S-learner, eftersom den använder en enda estimator. Det finns också estimatorer för KAT som inte faller i klassen meta-algoritmer. Ett exempel är kausala skogar (7). Eftersom kausala skogar är en RF-baserad estimator, jämför vi det med meta-lärande med RF i simuleringsstudier. Vi kommer att se att kausala skogar och metallörerna presterar lika bra när de används tillsammans med RF, men meta-lärarna kan betydligt överträffa kausala skogar med andra basinlärare. Det viktigaste bidraget i detta dokument är införandet av en ny meta-algoritm: X-learner, som bygger på T-learner och använder varje observation i träningen i en "X"-liknande form. Anta att vi kunde observera de individuella behandlingseffekterna direkt. Vi kunde sedan uppskatta CATE-funktionen genom att regressera skillnaden mellan individuella behandlingseffekter på kovariaterna. Strukturella kunskaper om CATE-funktionen (t.ex. linjäritet, gleshet eller jämnhet) kan beaktas antingen genom att välja en särskild regressionsestimator för CATE eller med hjälp av en adaptiv estimator som kan lära sig dessa strukturella egenskaper. Det är uppenbart att vi inte observerar enskilda behandlingseffekter, eftersom vi bara observerar utgången under kontroll eller behandling, utan aldrig båda. Xlearner använder de observerade resultaten för att uppskatta de oobserverade individuella behandlingseffekterna. Den uppskattar därefter CATE-funktionen i ett andra steg som om de individuella behandlingseffekterna observerades. X-learner har två viktiga fördelar jämfört med andra estimatorer av CATE. För det första kan den på ett tillfredsställande sätt anpassa sig till strukturella egenskaper som CATE:s gleshet eller smidighet. Detta är särskilt användbart eftersom KATE ofta är noll eller ungefär linjär (8, 9). För det andra är det särskilt effektivt när antalet enheter i en behandlingsgrupp (vanligtvis kontrollgruppen) är mycket större än i den andra. Detta beror på att (kontroll)resultat och kovariater är lätta att få tag på med hjälp av uppgifter som samlas in av administrativa myndigheter, elektroniska medicinska registersystem eller onlineplattformar. Detta är till exempel fallet i vårt första dataexempel där valdeltagandebeslut i USA registreras av lokala valadministratörer för alla registrerade personer. Resten av tidningen är organiserad enligt följande. Vi börjar med en formell introduktion av meta-lärarna och ger intuitioner för varför vi kan förvänta oss att X-läraren presterar bra när CATE är smidigare än responsutfallet fungerar och när provstorlekarna mellan behandling och kontroll är ojämna. Vi presenterar sedan resultaten av en omfattande simuleringsstudie och ger råd till praktiker innan vi presenterar teoretiska resultat om konvergenshastigheten för olika metallarbetare. Slutligen undersöker vi två fältexperiment med hjälp av flera meta-algoritmer och illustrerar hur X-learner kan hitta användbar heterogenitet med färre observationer. Vi använder Neyman-Rubin potentiella resultatram (10, 11), och antar en super population eller distribution P från vilken en insikt av N oberoende slumpvariabler ges som träningsdata. Det vill säga (, 1} är behandlingsuppgiftsindikatorn (som ska definieras exakt senare), Y i (0) R är det potentiella resultatet av enhet i när i tilldelas kontrollgruppen, och Y i (1) är det potentiella resultatet när jag tilldelas behandlingsgruppen. Med denna definition, den genomsnittliga behandlingseffekten definieras som Det är också användbart att definiera svaret under kontroll, μ 0, och svaret under behandling, μ 1, som Dessutom använder vi följande representation av P: där π är marginalfördelningen av X, ε(0) och ε(1) är buller slumpmässiga variabler med genomsnittlig noll konditionering på X, och e(x) = P(W = 1 till X = x) är sannolikheten poäng. Det grundläggande problemet med orsakssamband är att för varje enhet i träningsdatauppsättningen antingen observerar vi det potentiella resultatet under kontroll (W i = 0), eller det potentiella resultatet under behandling (W i = 1), men aldrig båda. Därför betecknar vi observerade data som Observera att fördelningen av D anges av P. För att undvika problemet att med en liten 2 men icke-noll sannolikhet alla enheter är under kontroll eller under behandling, kommer vi att analysera beteendet hos olika estimatorer beroende på antalet behandlade enheter. Det vill säga, för en fast n med 0 < n < N, vi villkor på händelsen att Detta kommer att göra det möjligt för oss att ange resultatet av en uppskattning i termer av antalet behandlade enheter n och antalet kontrollenheter m = N − n. För en ny enhet i med kovariat vektor x i, För att avgöra om enheten behandlingen, Vi vill uppskatta den individuella behandlingseffekten (ITE) enhet i, D i, som definieras som Men, Vi observerar inte D i för någon enhet, och D i är inte identifierbar utan starka ytterligare antaganden eftersom man kan konstruera data generera processer med samma fördelning av observerade data, men olika D i (Exempel 3). Istället kommer vi att uppskatta CATE-funktionen som definieras som och vi noterar att den bästa estimatorn för CATE också är den bästa estimatorn för ITE i termer av MSE. För att se det, låtτ i vara en uppskattning för D i och decompose MSE vid x i som Eftersom vi inte kan påverka den första termen i det sista uttrycket, uppskattningen som minimerar MSE för ITE av jag också minimerar MSE för CATE vid x i. I detta papper är vi intresserade av estimatorer med en liten förväntad genomsnittlig fyrkantig Error (EMSE) för att uppskatta CATE, Förväntningen här tas överτ och X  på vilket är oberoende avτ och har samma fördelning av funktioner X. För att underlätta vår förmåga att uppskatta τ måste vi anta att det inte finns några dolda förvirringar (12): Detta antagande är dock inte tillräckligt för att identifiera KAT. Ett ytterligare antagande som ofta görs för att få identififiability av CATE i stöd av X är att anta att benägenheten poäng begränsas bort från 0 och 1, Villkor 2 Det finns e min och e max sådan att för alla x i stöd för X, 0 < e min < e(x) < e max < 1. I detta avsnitt definierar vi formellt en meta-algoritm (eller meta-learner) för CATE som ett resultat av att man kombinerar övervakad inlärning eller regressionsskattningar (dvs. baselever) på ett specifikt sätt samtidigt som baseleverna får ta på sig någon form. Meta-algoritmer har således flexibiliteten att på lämpligt sätt utnyttja olika källor av tidigare information i separata delproblem av CATE-uppskattningsproblem: de kan väljas för att passa en viss typ av data, och de kan direkt dra nytta av befintliga dataanalysrörledningar. Vi granskar först både T- och S-inlärare, och sedan föreslår vi X-learner, som är en ny meta-algoritm som kan dra nytta av obalanserade konstruktioner (dvs. kontrollen eller den behandlade gruppen är mycket större än den andra gruppen) och befintliga strukturer i CATE (t.ex. jämnhet eller sparhet). Uppenbarligen är flexibilitet en vinst endast om baseleverna i meta-algoritmen matchar egenskaperna hos data och den underliggande modellen väl. T-learner tar två steg. För det första, kontrollresponsfunktionen, uppskattas av en basinlärare, som kan vara någon övervakad inlärning eller regression uppskattning eller med hjälp av observationer i kontrollgruppen, {(X i, Y i )} Wi=0. Vi betecknar den uppskattade funktionen somμ 0. För det andra uppskattar vi behandlingsresponsfunktionen, med potentiellt en annan basinlärare med hjälp av behandlade observationer och vi betecknar uppskattningen som μ 1. En Tlearner erhålls sedan en Pseudo kod för denna T-learner finns i Algoritm 1. I S-learner, är behandlingsindikatorn ingår som en funktion som liknar alla andra funktioner utan att 3 indikator ges någon särskild roll. Vi uppskattar således den kombinerade svarsfunktionen med hjälp av någon basinlärare (övervakad maskininlärning eller regressionsalgoritm) på hela datamängden. Vi betecknar estimatorn som μ. KATE-skattningen ges sedan avτ och pseudokoden ges i algoritm 2. Det finns andra metaalgoritmer i litteraturen, men vi diskuterar dem inte här i detalj på grund av begränsat utrymme. Till exempel kan man omvandla resultaten så att varje regressionsmetod kan uppskatta CATE direkt (Algoritm 4) (4, 13, 14). I våra simuleringar fungerar denna algoritm dåligt, och vi diskuterar det inte vidare, men det kan gå bra i andra inställningar. Vi föreslår X-learner, och utgör ett belysande exempel för att belysa dess motiv. Den grundläggande idén med X-learner kan beskrivas i tre steg: 1. Uppskatta responsfunktioner med hjälp av någon övervakad inlärning eller regressionsalgoritm och betecknar de uppskattade funktionernaμ 0 ochμ 1. De algoritmer som används kallas basinlärare för det första steget. 2. Utgångspunkten är följande: Imputera behandlingseffekterna för individerna i den behandlade gruppen baserat på kontrollutfallet estimator, och behandlingseffekterna för individer i kontrollgruppen baserat på behandlingsutfallet estimator, det vill säga: och kalla dessa de imputerade behandlingseffekterna. Vi kan använda alla övervakade inlärnings- eller regressionsmetoder för att uppskatta τ (x) på två sätt: att använda de imputerade behandlingseffekterna som svarsvariabel i behandlingsgruppen för att erhållaτ 1 (x) och på liknande sätt erhållaτ 0 (x) för kontrollgruppen. Ring de övervakade lärande eller regressionsalgoritmer basinlärare i det andra steget. 3. Vad är det som händer? Definiera CATE-uppskattningen med ett vägt genomsnitt av de två uppskattningarna i steg 2: där g  till [0, 1] är en viktfunktion. Se Algoritm 3 för pseudokod. Anmärkning 1τ 0 ochτ 1 är båda estimatorer för τ. Medan g väljs för att kombinera dessa estimatorer till en förbättrad estimatorτ. Några bra val av g innebär att välja g att vara en estimator av benägenheten poäng, g =ê, men det kan också vara vettigt att välja g = 1 eller 0 om antalet behandlade enheter är mycket stor eller liten jämfört med antalet kontrollenheter. För vissa estimatorer, kan det även vara möjligt att uppskatta kovariansmatrisen avτ 1 ochτ 0. Man kan då vilja välja g för att minimera variansen avτ. X-learner kan använda information från kontrollgruppen för att få fram bättre skattningar för behandlingsgruppen och vice versa. Vi ska illustrera detta med ett enkelt exempel. Antag att vi vill studera en behandling, och vi är intresserade av att uppskatta CATE som en funktion av en kovariat x. Vi observerar dock mycket få behandlade enheter och många enheter i kontrollgruppen. Denna situation uppstår ofta i och med att administrativa och on-line datakällor växer: uppgifter om kontrollenheter är ofta mycket mer omfattande än för behandlade enheter. Figur 1 a visar resultatet för enheter i behandlingsgruppen (cirklar) och resultatet av de obehandlade (korsen). I detta exempel är KATEN konstant och lika med en. Låt oss för närvarande bara titta på det behandlade resultatet. När vi beräknar μ 1 (x) = E[Y (1) och X = x], måste vi vara försiktiga så att vi inte överanstränger datan eftersom vi bara observerar 10 datapunkter. Vi kan besluta att använda en linjär modell, μ 1 (x) (dashed linje), för att uppskatta μ 1. För kontrollgruppen lägger vi märke till observationer med x  till [0, 0.5] verkar vara olika, och vi slutar modellera μ 0 (x) = E[Y (0) till X = x] med en bitvis linjär funktion med hopp på 0 och 0.5 (fast linje). Detta är en relativt komplex funktion, men vi är inte oroliga för översittande eftersom vi observerar många datapunkter. T-learner skulle nu använda estimatorτ T (x) = μ 1 (x) −μ 0 (x) (se figur 1 c) solid linje), vilket är en relativt komplicerad funktion med hopp vid 0 och 0,5, medan den sanna τ (x) är en konstant. Detta är dock problematiskt eftersom vi uppskattar en komplex CATE-funktion baserad på tio observationer i den behandlade gruppen. När vi valde en estimator för behandlingsgruppen, vi rätt undvek övermontering, och vi hittade en bra estimator för behandlingsresponsfunktionen, men som ett resultat, valde vi en relativt komplex estimator för CATE-mängden av intresse. Vi borde ha valt en bitvis linjär funktion med hopp på 0 och 0,5, men detta är naturligtvis orimligt när man bara tittar på den behandlade gruppen. Om vi också skulle ta hänsyn till kontrollgruppen, kan denna funktion vara ett naturligt val. Med andra ord bör vi ändra vårt mål för μ 1 och μ 0. Vi vill uppskatta μ 1 och μ 0 på ett sådant sätt att deras skillnad är en bra uppskattning för τ. X-learner gör det möjligt för oss att göra just det. Det gör det möjligt för oss att använda strukturell information om CATE och att effektivt använda en obalanserad design. Det första steget i X-learner är samma som det första steget i T-learner, men i sitt andra steg, estimatorn för kontrollerna subtraheras från de observerade behandlade resultaten och på liknande sätt de observerade kontrollresultaten subtraheras från uppskattade behandlingsresultat för att erhålla de imputerade behandlingseffekter, Här använder vi notationen att Y vi effektivt uppskattar en modell för, Som har en liknande form som μ 0. Vi kan se att genom att välja en relativt dålig modell för μ 1 (x), D 0 är relativt långt från τ (x). Modellen för kommer därför att vara relativt dålig. Vår slutliga estimator kombinerar dock dessa två estimatorer enligt tô Om vi väljer g(x) =ê(x), en estimator för benägenheten poäng,τ kommer att vara mycket lik τ 1 (x), eftersom vi har många fler observationer i kontrollgruppen-d.v.s.,ê(x) är liten. Figur 1 c visar T-learner och X-learner. Det är svårt att bedöma det allmänna beteendet hos Slearner i dessa exempel eftersom vi måste välja en basinlärare. Till exempel, när vi använder RF som basinlärare för denna datamängd, S-learners första uppdelning är på behandlingsindikatorn i 97,5% av alla träd i våra simuleringar eftersom behandlingen uppgiften är mycket förutsägande av det observerade resultatet, Y (se även Figur 11 ). Därifrån är S-learner och T-learner desamma, och vi observerar dem för att prestera lika dåligt i detta exempel. Vi genomför en omfattande simuleringsstudie för att jämföra de olika metalärarna, och i detta avsnitt sammanfattar vi våra resultat och ger allmänna kommentarer om styrkor och svagheter hos S, T och X-lärarna samtidigt som vi lämnar detaljer till SI. Simuleringarna är avgörande för att ge en förståelse för prestandan hos de metoder vi överväger för modellklasser som inte omfattas av våra teoretiska resultat. Vår simuleringsstudie är utformad för att beakta en rad olika situationer, för att se till att inkludera förhållanden där vi tror att S-learner eller T-learner sannolikt kommer att prestera bäst, och vi inkluderar simuleringar som föreslagits av tidigare forskare (7). Vi anser att fall där behandlingseffekten är noll för alla enheter och så sammanslagning av behandlings- och kontrollgrupper är fördelaktigt, och fall där behandling och kontroll responsfunktioner är helt olika och så pooling skulle vara skadligt. Vi överväger fall med och utan förbryllande, och fall med lika och ojämlika urvalsstorlekar över olika behandlingsförhållanden. Alla simuleringar som diskuteras i detta avsnitt är baserade på syntetiska data. För närmare information, se avsnitt A. Vi tillhandahåller ytterligare simuleringar baserade på faktiska data när vi diskuterar våra applikationer. Vi jämför S, T och X-inlärare med RF och BART som basinlärare. Vi implementerade en version av RF för vilken trädstrukturen är oberoende av bladförutsägelsen med tanke på de observerade funktionerna, så kallade ärliga RF i ett R-paket som kallas hte (15). Denna version av RF är särskilt tillgänglig ur teoretisk synvinkel, den fungerar bra i bullriga miljöer, och den är bättre lämpad för slutledning (7, 16). För BART använder vår programvara dbarts (17) implementation för basinläraren. Genom att jämföra användningen av olika baselever kan vi visa två saker. Å ena sidan visar det 5 att de slutsatser vi drar om S, T och X eleven inte är specifika för en viss baselever och å andra sidan visar det att valet av baselever kan göra en stor skillnad i prediciton noggrannhet. Den senare är en viktig fördel för metalärare eftersom ämneskunskap kan användas för att välja baselever som presterar bra. I exempelvis Simulations 2 och 4 är responsfunktionerna globalt linjära, och vi observerar att estimatorer som agerar globalt som BART har en betydande fördel i dessa situationer eller när datamängden är liten. Om det emellertid inte finns någon global struktur eller när datamängden är stor, verkar fler lokala estimatorer som RF ha en fördel (Simuleringarna 3 och 5). Vi observerar att valet av meta-learner kan göra en stor skillnad, och för varje meta-learner finns det fall där det är den bäst presterande estimator. S-learner behandlar behandlingsindikatorn som alla andra prediktorer. För vissa baselever som knérest grannar är det inte en förnuftig uppskattning, men för andra, det kan prestera bra. Eftersom behandlingsindikatorn inte ges någon särskild roll kan algoritmer som lasso och regressionsträd helt ignorera behandlingsuppdraget genom att inte välja/dela på det. Detta är utmärkt om CATE är på många ställen 0 (Simuleringar 4 och 5), men-som vi kommer att se i vårt andra data exempel-S-learner kan vara partisk mot 0. T-learner, å andra sidan, kombinerar inte de behandlade grupperna och kontrollgrupperna. Detta kan vara en nackdel när behandling effekten är enkel eftersom genom att inte poola data, det är svårare att lära sig ett beteende som visas i både kontroll och behandling respons funktioner (t.ex., Simulering 4). Om dock behandlingseffekten är mycket komplicerad, och det inte finns några vanliga trender i μ 0 och μ 1, då det kommer att prestera särskilt bra (Simuleringar 2 och 3). X-learner presterar särskilt bra när det finns strukturella antaganden på KAT eller när en av behandlingsgrupperna är mycket större än den andra (Simulation 1 och 3). I det fall där CATE är 0, det vanligtvis inte presterar lika bra som S-learner, men det är betydligt bättre än T-learner (Simulations 4, 5, och 6), och i fallet med en mycket komplex CATE, det presterar bättre än S-learner och det ofta även överträffar T-learner (Simulations 2 och 3). Dessa simuleringsresultat har lett oss till slutsatsen att om man inte har en stark tro på att KAT är mestadels 0, som tumregel, bör man använda X-learner med BART för små dataset och RF för större. I de kommande avsnitten kommer vi vidare att stödja dessa påståenden med ytterligare teoretiska resultat och empiriska bevis från verkliga data och datainspirerade simuleringar. I detta avsnitt ger vi villkor under vilka X-learner kan bevisas överträffa T-learner i form av punktvis uppskattningshastighet. Dessa resultat kan ses som försök att rigoröst formulera intuitioner om när X-learner är önskvärt. De bekräftar vår intuition att X-learner överträffar T-learner när en grupp är mycket större än den andra gruppen och när CATE-funktionen har en enklare form än de underliggande responsfunktionerna själva. Låt oss börja med att se över några av de grundläggande resultaten inom området för minimax icke-parametrisk regressionsuppskattning (18, 19, 20). I standard regressionsproblem, observerar man N oberoende och identiskt distribuerade tuples (X i, Y i ) i R d×N × R N genereras från vissa distribution P och man är intresserad av att uppskatta den villkorliga förväntan av Y med tanke på vissa funktion vektor x, Felet i en uppskattning μ N kan utvärderas av den förväntade genomsnittliga fyrkantsfel (EMSE), För en fast P, det finns alltid estimatorer som har en mycket liten EMSE. Till exempel, att välja μ N  på μ skulle inte ha något fel. P och därmed μ är dock okänt. Istället vill man oftast hitta en estimator som uppnår en liten EMSE för en relevant uppsättning distributioner (en sådan uppsättning är relevant om den fångar domän kunskap eller tidigare information om problemet). För att göra detta problem genomförbart är ett typiskt tillvägagångssätt minimax-metoden där man analyserar den sämsta prestandan hos en estimator över en familj, F, av distributioner (21). Målet är att hitta en estimator som har en liten EMSE för alla distributioner i denna familj. Till exempel, om F 0 är familjen av distributioner P sådan att X  på Unif[0, 1], Y = βX +ε, ε på N (0, 1) och β på R, då är det väl känt att OLS estimator uppnår den optimala parametern. Det vill säga, det finns en konstant C - R sådan att för alla P - 0, EMSE( P, μ Om, dock, F 1 är familjen av alla distributioner P sådan att X - Unif[ 0, 1], Y - μ (X) + ε och μ är en Lipschitz kontinuerlig funktion med avgränsad Lipschitz konstant, då finns det ingen uppskattning som uppnår den parametriska hastigheten enhetligt för alla möjliga distributioner i F 1. För att vara exakt, kan vi som mest förvänta oss att hitta en uppskattning som uppnår en hastighet av N −2/3 och det finns en konstant C, sådan att lim inf Estimatorer som Nadaraya-Watson och k-nearest grannar kan uppnå denna optimala hastighet (20, 22). Avgörande är att den snabbaste konvergenshastigheten som är enhetlig för en familj F är en egendom som tillhör den familj som den underliggande datagenererande distributionen tillhör. Det kommer att vara bra för oss att definiera grupper av familjer för vilka särskilda skattesatser uppnås. Def inition 1 (Familjer med begränsad minimax-hastighet) För en  till (0, 1] definierar vi S(a) att vara den uppsättning av alla familjer, F, med en minimax-hastighet på högst N −a. Observera att för alla familjer finns det en estimatorμ och en konstant C sådan att det för alla N ≥ 1, Av exemplen ovan är det tydligt att F 0  på S(1) och F 1 på S(2/3). Även om minimax-hastigheten för EMSE inte är särskilt praktisk eftersom man sällan vet att den verkliga datagenereringsprocessen är i någon rimlig familj av distributioner, är det ändå ett av de mycket få användbara teoretiska verktygen för att jämföra olika icke-parametriska skattningar. Om för en stor klass av distributioner, den värsta EMSE av en estimatorμ A är mindre än den värsta EMSE avμ B, då kan man föredra estimatorμ A framför estimatorμ B. Dessutom, om estimatorn inte har ett litet fel för en familj som vi tror bygger på domäninformation kan vara relevant i praktiken, då kan vi förvänta oss att μ har en stor EMSE i verkliga data. Låt oss nu använda minimax-metoden för att ta itu med problemet med att uppskatta KAT. Kom ihåg att vi antar en superpopulation, P, av slumpmässiga variabler (Y (0), Y (1), X, W ) enligt 1 och vi observera N utfall, (. För att undvika problemet att med en liten men icke-noll sannolikhet alla enheter behandlas eller obehandlade, analyserar vi den förväntade genomsnittliga kvadratfel av en estimator med tanke på att det finns 0 < n < N behandlade enheter, Expekationen tas över de observerade data, med tanke på att vi observerar n behandlade enheter, och X som distribueras enligt P 1. Liknar Defitintion 1 karakteriserar vi familjer av superpopulationer med de hastigheter med vilka responsfunktionerna och CATE-funktionen kan uppskattas. 1 Se avsnitt E för en noggrann behandling av de berörda distributionerna. För en μ, en τ 0, 1] definierar vi S(a μ, en τ ) att vara den uppsättning av alla familjer av distributioner P av (Y (0), Y (1), X, W ) sådan att ognarability innehar (villkor 1), overlab villkor (villkor 2) är uppfyllt, och följande villkor innehar. 1. Vad är det för fel på dig? Fördelningen av (X, Y (0)) givet W = 0 är i en familj F 0  på S(a μ ), 2. Fördelningen av (X, Y (1)) givet W = 1 är i en familj F 1  på S(a μ ), 3. Fördelningen av (X, μ 1 (X) − Y (0)) givet W = 0 är i en familj F τ 0  på S(a τ ) och 4. Fördelningen av (X, Y (1) − μ 0 (X)) givet W = 1 är i en familj F τ 1  på S(a τ ). Ett enkelt exempel på en familj i S(2/3, 1) är den uppsättning distributioner P för vilka X  på Unif ([0, 1]), W på Bern(1/2), μ 0 är någon Lipschitz kontinuerlig funktion, τ är linjär, och ε(0), ε(1) är oberoende standard normal distribueras. Vi kan också bygga vidare på befintliga resultat från litteraturen för att karakterisera många familjer i termer av smidighet på CATE och på responsfunktionerna. Exempel 1 Låt C > 0 vara en godtycklig konstant och överväga familjen, F 2, av distributioner för vilka X har kompakt stöd i R d, benägenheten poäng e begränsas bort från 0 och 1 (villkor 2), μ 0, μ 1 är C Lipschitz kontinuerlig, och variansen av ε begränsas. Sedan följer det (20) att Observera att vi inte har några antaganden på X bortsett från dess stöd begränsas. Om vi är villiga att göra antaganden om densiteten (t.ex., X är jämnt distirbuted), då kan vi karakterisera många distirbutions av jämnhet förhållanden μ 0, μ 1, och τ. (20) Låt p = k + β för vissa k  till N och 0 < β ≤ 1, och låt C > 0. finns och uppfyller Exempel 2 Låt C 1, C 2 vara godtyckliga konstanter och överväga familjen, F 3, av fördelningar för vilka X  till Unif ([0, 1] d ), e  på c 0, 1), ε är tvådimensionella normalt distribuerade, μ 0 och μ 1 är (p μ, C 1 )-smooth, och τ 7 är (p τ, C 2 )-smooth. 2 Sedan följer (18, 20) att Låt oss intuitivt förstå skillnaden mellan T- och X-lärarna. T-learner delar upp problemet med att uppskatta CATE i de två delproblemen att uppskatta μ 0 och μ 1 separat. Genom att på lämpligt sätt välja baselever, kan vi förvänta oss att uppnå minimax optimal hastighet av m −aμ respektive n −aμ, där C är något konstant. Dessa hastigheter översätter omedelbart till hastigheter för att uppskatta τ, I allmänhet kan vi inte förvänta oss att göra bättre än så, när man använder en uppskattningsstrategi som faller i klassen TLearningers, eftersom subproblemen i Ekvation 10 behandlas helt självständigt och det finns inget att lära av behandlingsgruppen om kontrollgruppen och vice versa. I avsnitt F presenterar vi en noggrann analys av detta resultat och vi bevisar följande teorem. Teorem 1 (Minimax nivåer av T-learner) För en familj av superpopulationer, F  och S (a μ, en τ ), finns det basinlärare som ska användas i T-learner så att motsvarande T-learner uppskattar CATE med en hastighet av X-learner, å andra sidan, kan ses som ett lokalt vägt genomsnitt av de två estimatorerna,τ 0 och τ 1 (Eq. 9) och förordning (EEG) nr 4064/89. Ta för tillfället,τ 1. Den består av en uppskattning för resultatet under kontroll som uppnår en hastighet av m −aμ, och en uppskattning för de imputerade behandlingseffekter som intuitivt bör uppnå en hastighet av n −aτ. Vi förväntar oss därför att det under vissa förhållanden på F  på S (a μ, en τ ) finns base learners sådan attτ 0 ochτ 1 i X-learner uppnå hastigheterna, respektive. Även om det är teoretiskt möjligt att en τ liknar en μ, vår erfarenhet med verkliga data tyder på att det 2 Antagandet att X är jämnt fördelade och benägenheten poäng är konstant kan generaliseras om man använder en något annorlunda risk (18, 23, 24). är ofta större (dvs. behandling effekten är enklare att uppskatta än de potentiella resultaten), eftersom CATE-funktionen ofta är smidigare eller glest relaterad till funktionen vektor. I detta fall konvergerar X-learner i snabbare takt än T-learner. Anmärkning 2 (Obalanserade grupper) I många tillämpningar i verkligheten observerar vi att antalet styrenheter är mycket större än antalet behandlade enheter, m n. Detta händer till exempel om vi testar en ny behandling och vi har ett stort antal tidigare (obehandlade) observationer som kan användas som kontrollgrupp. I så fall, den bundna på EMSE av T-learner kommer att domineras av regressionsproblemet för den behandlade svarsfunktionen, EMSE av X-learner, kommer dock att domineras av regressionsproblemet för de imputerade behandlingseffekter och det kommer att uppnå en snabbare hastighet av n −aτ, Detta är en betydande förbättring över 13 när en τ > en μ, och det visar att i motsats till T-learner, X-learner kan utnyttja strukturella förhållanden på behandlingseffekten. Vi förväntar oss därför att X-learner presterar särskilt bra, när en av behandlingsgrupperna är större än den andra. Detta kan också ses i vår omfattande simuleringsstudie som presenteras i avsnitt A och i det fältexperiment av socialt tryck på valdeltagande som presenteras i ansökningsdelen av denna uppsats. Det visar sig vara matematiskt mycket utmanande att ge ett tillfredsställande uttalande för de extra förhållanden som behövs på F i 12. De är dock uppfyllda under svaga förhållanden när CATE är Lipschitz kontinuerlig (c.f. Avsnitt G.3) och, som vi diskuterar i följande när CATE är linjär. Vi betonar att vi anser att detta resultat har en mycket större allmängiltighet. Låt oss diskutera i följande familjer av distributioner med en linjär CATE, men utan antaganden om responsfunktioner annat än att de kan uppskattas i någon takt a. Behandlingseffekten är linjär, τ (x) = x T β, med β R d. Det finns en estimatorμ m 0 och konstanter C 0, a > 0 med För att hjälpa vår analys, antar vi också att bullertermer är oberoende med tanke på X och att funktionsvärdena är väluppfostrade. Feltermerna ε i är oberoende givet X, med E[ε i  på X = x] = 0 och Var[ε i  på X = x] ≤ σ 2. Villkor 6 X har ändliga andra ögonblick, och eigenvärdena av provet covariansmatris av X 1 är väl konditionerade, i den meningen att det finns en n 0  på N och en konstant C  på R sådan att för alla n > n 0, Under dessa förhållanden kan vi bevisa att Xlearner uppnår en hastighet av O(m −a + n −1 ). Teorem 2 Antag att vi observerar m kontrollenheter och n behandlade enheter från en superpopulation som uppfyller villkor 1-6, sedan τ 1 av X-learner med μm 0 i det första steget och OLS i det andra steget uppnår en hastighet av O(m −a + n −1 ). Specicialt, för alla n > n 0, m > 1, Vi noterar att en motsvarande uttalande också innehar för punktvis MSE (Theorem 4) och forτ 0. Detta exempel levereras också Remark 2, eftersom om det finns många styrenheter, då X-learner uppnår den parametriska hastigheten i n, I själva verket som Theorem 5 visar, även om antalet styrenheter är i samma ordning, kan vi ofta uppnå den parametriska hastigheten. I detta avsnitt behandlar vi två exempel på data. I det första exemplet betraktar vi ett stort Get-Out-Vote-experiment (GOTV) som utforskas om socialt tryck kan användas för att öka valdeltagandet i val i USA (1). I det andra exemplet överväger vi ett experiment som utforskas om dörr till dörr kan användas för att varaktigt minska transfobi i Miami (2). I båda exemplen lyckades de ursprungliga författarna inte hitta bevis på heterogena behandlingseffekter med hjälp av enkla linjära modeller utan basexpansion, och efterföljande forskare och beslutsfattare är akut intresserade av behandlingseffekt heterogenitet som skulle kunna användas för att bättre rikta insatserna. Vi använder vår ärliga slumpmässiga skogsimplementering (15) på grund av vikten av att få giltiga konfidensintervall i dessa tillämpningar. Konfidensintervall erhålls med hjälp av en bootstrap procedur (Algoritm 6). I ett stort fältexperiment, Gerber et al. visar att betydligt högre valdeltagande observerades bland registrerade väljare som fick utskick som lovade att offentliggöra sitt valdeltagande för sina grannar (1). I Förenta staterna är det allmänt känt om någon är registrerad för att rösta och deras tidigare valdeltagande. Naturligtvis, hur individer röstade är privat. Experimentet har varit mycket inflytelserikt både i den vetenskapliga litteraturen och i den politiska praktiken. I vår återanalys fokuserar vi på två behandlingstillstånd: kontrollgruppen som tilldelades 191.243 individer och "grannens" behandling, som tilldelades 38.218 individer. Lägg märke till de ojämna provstorlekarna. Experimentet genomfördes i Michigan före primärvalet i augusti 2006, vilket var ett statsomfattande val med ett stort antal kontor och förslag på valomgången. Författarna tilldelade slumpmässigt hushåll med registrerade väljare att ta emot brevbärare. Resultatet, oavsett om någon röstade, observerades i primärvalet. Utskicket av "grannar" inleds med ett meddelande där det står: "Gör din CIVIC DUTY-VOTE!" Den fortsätter sedan med att inte bara uppta hushållens röstlängder, utan också röstlängderna för dem som bor i närheten. Brevbäraren informerade individer om att "vi har för avsikt att skicka ett uppdaterat diagram" efter primären. Studien består av sju viktiga kovariater på individnivå, varav de flesta är diskreta: kön, ålder och om den registrerade personen röstade i primärvalet 2000, 2002 och 2004 att det finns tecken på en negativ motreaktion bland ett litet antal personer som bara röstade en gång under de senaste fem valen före det allmänna valet 2004. Ansökta forskare har observerat en motreaktion från dessa mailers t.ex., vissa mottagare ringer sin utrikesminister eller lokal valregistrator för att klaga (25, 26). Den nedre panelen visar fördelningen av KAT-uppskattningar för var och en av undergrupperna. Med uppskattningar av heterogeniteten möjliggör kampanjer för att bättre rikta brevbärarna i framtiden. Om till exempel antalet brevbärare är begränsat bör man rikta in sig på potentiella väljare som röstade tre gånger under de senaste fem valen, eftersom denna grupp har den högsta genomsnittliga behandlingseffekten och det är en mycket stor grupp potentiella väljare. 3 X-RF, S-RF och T-RF ger alla liknande uppskattningar av CATE. Detta är föga förvånande med tanke på den mycket stora provstorleken, det lilla antalet kovariater, och deras fördelningar. Till exempel är korrelationen mellan CATE:s uppskattningar av S-RF och T-RF 0,99 (Resultat för S-RF och T-RF finns i figur 10 ). Vi genomförde en datainspirerad simuleringsstudie för att se hur dessa estimatörer skulle bete sig i mindre prover. Vi tar de CATE uppskattningar som produceras av T-RF, och vi antar att de är sanningen. Vi kan då im-3 I praxis, det är inte nödvändigt att identifiera en viss undergrupp. Istället kan man helt enkelt rikta enheter för vilka den förutsagda KAT är stor. Utbildning Storlek (i 1000) Figur 3: Simulering, socialt tryck och väljare Turnout sätta de potentiella resultaten, under både behandling och kontroll för varje observation. Vi provar sedan träningsdata från de fullständiga data och förutsäger CATEs för testdata med hjälp av S, T och X RF. Vi behåller den ojämlika behandlingsandel som observerats i den fullständiga data fasti.e., P(W = 1) = 0,167. I figur 3 presenteras resultaten för denna simulering. De visar att i små prover både X-RF och S-RF överträffar T-RF, med X-RF utför det bästa, eftersom man kan gissa med tanke på de ojämna provstorlekar. Reducera transfobi: Ett fältexperiment på dörr-till-dörr dukning I ett experiment som fick bred media uppmärksamhet, Broockman et al. visa att korta (10 minuter) men högkvalitativa samtal från dörr till dörr tydligt kan minska fördomar mot icke-överensstämmande individer i minst tre månader (2). Experimentet publicerades i Science efter att tidskriften dragit tillbaka en tidigare artikel som påstod sig visa samma sak i ett experiment om homosexuellas rättigheter (27). Broockman m.fl. visade att den tidigare publicerade studien var bedräglig, och de genomförde den nya för att avgöra om det banbrytande beteendet att uppmuntra människor att aktivt ta andras perspektiv var effektivt för att minska fördomar (28). Det finns viktiga metodologiska skillnader mellan detta exempel och vårt tidigare. Experimentet är ett placebokontrollerat experiment med en parallell undersökning som mäter attityder, vilka är resultat av intresse. Författarna följer utformningen av (29). Författarna 10 rekryterade först registrerade väljare (n = 68, 378) via e-post för en icke-relaterad online-undersökning för att mäta utgångsresultatet. De tilldelade sedan slumpmässigt respondenterna i baseline-undersökningen antingen behandlingsgruppen (n = 913) eller placebogruppen som behandlades med ett samtal om återvinning (n = 912). Randomisering genomfördes på hushållsnivå (n = 1295), och eftersom designen använder en placebo-kontroll, etimand av intresse är complier-genomsnitt-behandling effekt. Resultaten mättes genom enkäten på nätet tre dagar, tre veckor, sex veckor och tre månader efter samtalen från dörr till dörr. Vi analyserar resultaten för den första uppföljningen. Det slutliga experimentella provet består av endast 501 observationer. Experimentet var väl drivs trots sin lilla urvalsstorlek eftersom det innehåller en baslinje undersökning av respondenter samt efterbehandlingsundersökningar. Kartläggningsfrågorna var utformade för att ha hög övertidsstabilitet. R 2 för regression av utfallet i placebokontrollgruppen för kovariater vid baseline med OLS är 0,77. Därför minskar kovariatjusteringen i hög grad provtagningsvariationen. Det finns 26 basala kovariater som inkluderar grundläggande demografi (genus, ålder, etnicitet) och grundläggande åtgärder för politiska och sociala attityder och åsikter om fördomar och åsikter om Miamis icke-diskrimineringslag. Författarna finner en genomsnittlig behandlingseffekt på 0,22 (SE: 0,072, t-stat: 3.1) på deras transgendertoleransskala. 4 Skalan kodas så att ett större antal innebär större tolerans. Skalans varians är 1,14, med ett minsta observerat värde på -2,3 och det maximala observerade värdet på 2. Detta är en stor effekt med tanke på skalan. Den uppskattade minskningen av transgenderfördomar är till exempel större än amerikanernas genomsnittliga minskning av homofobi från 1998 till 2012, då båda mäts som förändringar i standardavvikelser i respektive skala. Författarna rapporterar att det inte finns några tecken på heterogenitet i behandlingseffekten som kan förklaras av de observerade kovariaterna. Analysen baseras på linjära modeller (OLS, lasso och elastiskt nät) utan basexpansion. 5 Figur 4 (a) presenterar våra resultat för att uppskatta CATE med hjälp av X-RF. Vi finner att det finns starka bevis för att den positiva effekt som författarna finner endast finns bland en undergrupp av respondenter, som kan riktas baserat på observerade kovariater. Genomsnittet av våra CATE uppskattningar ligger inom en halv standardavvikelse av ATE som författarna rapporterar. Till skillnad från våra tidigare data finns det tydliga skillnader i de behandlingseffekter som uppskattas av våra tre elever. I figur 4 b redovisas T-RF:s uppskattningar. 4 Författarnas transgendertoleransskala är den första principkomponenten i att kombinera fem −3 till +3 Likertskalor. Se punkt 2 för närmare uppgifter. 5 (2) Beräkna CATE med hjälp av Algoritm 4 i bilaga H. Dessa uppskattningar liknar dem för X-RF, men med en större spridning. I figur 4 c redovisas S-RF:s uppskattningar. Observera att den genomsnittliga CATE-skattningen av S-RF är mycket lägre än den ATE som rapporterats av de ursprungliga författarna och de genomsnittliga CATE-skattningarna för de andra två eleverna. Och nästan ingen av KAT-skattningarna skiljer sig avsevärt från noll. Kom ihåg att ATE i försöket uppskattades med precision och var stort både materiellt och statistiskt (t-stat=3.1). I dessa data verkar S-RF krympa skattningarna av behandlingar till noll. Beställningen av de uppskattningar vi ser i denna dataapplikation är ofta vad vi har observerat i simuleringar: S-learner har minst spridning runt noll, T-learner har störst spridning, och X-learner är någonstans däremellan. Till skillnad från tidigare data exempel, kovariaterna är starkt förutsägande av resultaten, och uppdelningarna i S-RF är mestadels på funktionerna snarare än behandlingsindikatorn, eftersom de är mer förutsägande av de observerade resultaten än behandling tilldelning (c.f., Figur 11 ). Detta dokument granskade meta-algoritmer för CATE uppskattning inklusive T och S inlärare. Det introducerade sedan en ny meta-algoritm, X-learner, som kan översätta varje övervakad inlärning eller regressionsalgoritm eller en kombination av sådana algoritmer till en CATE-skattning. X-learner är anpassningsbar till olika inställningar. Till exempel, 11 både teori och data exempel visar att det fungerar särskilt bra när en av behandlingsgrupperna är mycket större än den andra eller när de separata delarna av X-learner kan utnyttja de strukturella egenskaperna hos respons och behandling effekt funktioner. Specifikt, om CATE-funktionen är linjär, men responsfunktionerna vid behandling och kontroll endast uppfyller Lipschitz kontinuerliga tillstånd, kan X-learner fortfarande uppnå den parametriska hastigheten om en av behandlingsgrupperna är mycket större än den andra (Theorem 2). Om det inte finns några regelbundenhet villkor på CATE-funktionen och responsfunktionerna är Lipschitz kontinuerlig, då både X-learner och T-learner få samma minimax optimal hastighet (Theorem 7). Vi antar att dessa resultat håller för mer allmänna modellklasser än de i våra teorem. Vi har presenterat en omfattande uppsättning simuleringar för att förstå de finita provbeteenden av olika implementationer av dessa elever, särskilt för modellklasser som inte omfattas av våra teoretiska resultat. Vi har också undersökt två dataapplikationer. Även om ingen av meta-algoritmerna alltid är den bästa, X-learner presterar bra totalt sett, särskilt i de verkliga data exempel. I praktiken, i finita prover, kommer det alltid att finnas vinster att få om man korrekt bedömer den underliggande datagenereringsprocessen. Till exempel, om behandlingseffekten är enkel, eller till och med noll, då sammanslagning av data över behandling och kontroll villkor kommer att vara fördelaktigt när man uppskattar responsmodellen (dvs, S-learner kommer att prestera bra). Emellertid, om behandlingseffekten är starkt heterogen och responsytorna av resultaten under behandling och kontroll är mycket olika, pooling data kommer att leda till sämre finita prov prestanda (dvs, T-learner kommer att prestera bra). Andra situationer är möjliga och leder till olika föredragna estimatorer. Till exempel kan man något ändra S-learner så att den krymper till den uppskattade ATE istället för noll, och det skulle då föredras när behandlingseffekten är konstant och icke-noll. Man hoppas att X-learnern kan anpassa sig till dessa olika inställningar. De simuleringar och verkliga datastudier som presenterats har visat X-learners anpassningsförmåga. Ytterligare studier och erfarenheter med mer verkliga dataset är dock nödvändiga. I pågående forskning investerar vi med hjälp av andra övervakade inlärningsalgoritmer, och vi skapar en djupt lärande arkitektur för att uppskatta CATE. Vi undersöker också ett alternativ till X-learner, U-learner (Algoritm 5), som drar nytta av situationer där sannolikheten är lätt att uppskatta och när det finns mycket förvirrande-t.ex., Simulering 6, (30). Ulearner liknar på något sätt ATE:s estimator av Chernozhukov et al. (31) och en estimator för delvis linjära modeller av Robinson (32), men för icke-parametrisk CATE-uppskattning. I ett mycket färskt dokument föreslås en modifierad version av U-learner som inte är en meta-learner eftersom det kräver anpassning av grundläraren i den andra etappen (33). Vi tror inte att denna förändring av U-learner eller U-learner i allmänhet presterar bättre än S-learner eller T-learner, men vi vill utforska U-learners egenskaper i framtida forskning.
Detta problem är särskilt akut när de behandlade proverna och kontrollproven är av olika storlek; se REF för några slående exempel.
Meta-learners for Estimating Heterogeneous Treatment Effects using Machine Learning
{'venue': None, 'journal': None, 'mag_field_of_study': ['Mathematics', 'Medicine']}