Interaktiva webbtjänster leder i allt högre grad till en kritisk arbetsbörda för företagen, såsom sökning, reklam, spel, shopping och finansiering. Medan optimering av parallella program och distribuerade serversystem historiskt har fokuserat på genomsnittlig latens och dataflöde, är det primära måttet för interaktiva program istället konsekvent lyhördhet, dvs minimera antalet förfrågningar som missar en mål latens. Detta dokument är den första att visa hur man generaliserar arbets-stöld, som traditionellt används för att minimera makepan av en enda parallell jobb, att optimera för en mål latency i interaktiva tjänster med flera parallella förfrågningar. Vi utformar ett nytt adaptivt arbete stjäla politik, kallas svanskontroll, som minskar antalet förfrågningar som missar en mål latency. Den använder omedelbar begäran framsteg, systembelastning, och en mål latency för att välja när man ska parallellisera förfrågningar med stöld, när man ska erkänna nya förfrågningar, och när man ska begränsa parallellism av stora förfrågningar. Vi implementerar detta tillvägagångssätt i biblioteket Intel Thread Building Block (TBB) och utvärderar det på verkliga arbetsbelastningar och syntetisk arbetsbelastning. Policyn för slutkontroll minskar avsevärt antalet förfrågningar som överskrider det önskade målets latens och ger upp till 58 % relativa förbättringar jämfört med olika referensstrategier. Denna generalisering av arbete stjäla för flera förfrågningar optimerar effektivt antalet förfrågningar som kompletterar inom en mål latency, ett nyckelmått för interaktiva tjänster.
Löjtnant m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m för m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m. Ref generaliserade detta tillvägagångssätt och syftade till att minska antalet förfrågningar som missar en användardefinierad latens.
Work stealing for interactive services to meet target latency
{'venue': "PPoPP '16", 'journal': None, 'mag_field_of_study': ['Computer Science']}