För att ett autonomt system skall vara till nytta för människor och inte utgöra några omotiverade risker, måste det anpassa sina värden till människors värden i sin omgivning på ett sådant sätt att dess handlingar bidrar till att maximera värdet för människorna. Vi föreslår en formell definition av problemet med värdeanpassning som samarbetsvilligt inverst förstärkande lärande (CIRL). Ett CIRL-problem är ett kooperativt, partiellt informationsspel med två agenter, människa och robot; båda belönas enligt människans belöningsfunktion, men roboten vet till en början inte vad detta är. I motsats till klassisk IRL, där människan antas agera optimalt i isolering, producerar optimala CIRL-lösningar beteenden som aktiv undervisning, aktivt lärande och kommunikativa åtgärder som är mer effektiva för att uppnå värdeanpassning. Vi visar att computing optimal gemensam politik i CIRL spel kan reduceras till att lösa en POMDP, bevisa att optimalitet i isolering är suboptimal i CIRL, och härleda en ungefärlig CIRL algoritm.
Ett centralt steg i vår analys formulerar avstängning spelet som ett kooperativ omvänd förstärkning lärande (CIRL) spel REF.
Cooperative Inverse Reinforcement Learning
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}