En 5-årig profilering i produktionsläge vid University of Stuttgart har visat att mer än 40% av körningstiden för Message Passing Interface (MPI) rutiner används i de kollektiva kommunikationsrutiner MPI Allreduce och MPI Reduce. Även om MPI-implementationer nu är tillgängliga i cirka 10 år och alla leverantörer är engagerade i denna Message Passing Interface standard, kan leverantörernas och allmänt tillgängliga reduktionsalgoritmer accelereras med nya algoritmer med en faktor mellan 3 (IBM, summa) och 100 (Cray T3E, maxloc) för långa vektorer. I detta dokument presenteras fem algoritmer optimerade för olika val av vektorstorlek och antal processer. Fokus ligger på bandbredd dominerade protokoll för power-of-två och icke-power-of-två antal processer, optimera belastningsbalansen i kommunikation och beräkning.
Som påpekades i de föreslagna Ref-strategierna är de dock optimala i homogena miljöer, och oftast med ett tvåfaldigt antal processer.
Optimization of Collective Reduction Operations
{'venue': 'In ######## ###### ####### ######, Springer-Verlag LNCS 3036', 'journal': None, 'mag_field_of_study': ['Computer Science']}