Vi initierar en studie av rättvisa i att stärka lärandet, där åtgärder av en inlärningsalgoritm kan påverka dess miljö och framtida belöningar. Vår rättvisebegränsning kräver att en algoritm aldrig föredrar en åtgärd framför en annan om den långsiktiga (diskonterade) belöningen för att välja den senare åtgärden är högre. Vårt första resultat är negativt: trots att rättvisa är förenligt med den optimala politiken, måste alla lärande algoritmer som uppfyller rättvisa ta tid exponentiellt i antalet stater för att uppnå icke-trivial approximation till den optimala politiken. Vi tillhandahåller sedan en bevisligen rättvis polynomalgoritm under ett ungefärligt begrepp om rättvisa, vilket skapar en exponentiell klyfta mellan exakt och ungefärlig rättvisa.
Ett annat exempel är Jabbari m.fl. Ref undersökte det långsiktiga priset på rättvisa när det gäller att stärka lärandet.
Fairness in Reinforcement Learning
{'venue': 'ICML 2017', 'journal': 'arXiv: Learning', 'mag_field_of_study': ['Computer Science', 'Mathematics']}