Sachverhalt: A. Im November 2005 meldeten H._ und I._ ihren Sohn K._ bei der Invalidenversicherung zum Leistungsbezug an. Die Abklärungen ergaben, dass der Versicherte an einer angeborenen leichten spastischen Cerebral Palsy (ICD-10 G80.0/GgV Zf. 390) und einer leichten Intelligenzminderung (ICD-10 F70.0) litt (Gutachten Dr. med. B._, vom 31. Mai 2006). Im März 2007 reichte K._ das Anmeldeformular zum Bezug von IV-Leistungen für Erwachsene ein und ersuchte um Arbeitsvermittlung. Vom 20. August 2007 bis 19. August 2009 absolvierte er im Rahmen einer IV-Anlehre die erstmalige berufliche Ausbildung zum Verkaufshelfer im Reformhaus L._. Im Bericht der Institution vom 18. Juli 2009 wurde eine mögliche Präsenzzeit von 100 % bei einer Leistungsfähigkeit von 60 % angegeben und das Erzielen eines Lohnes von ca. Fr. 2'000.- bis 2'500.- als möglich erachtet. Ab 20. August 2009 war K._ bei der Arbeitslosenversicherung angemeldet. Mit Vorbescheid vom 26. Oktober 2009 teilte ihm die IV-Stelle mit, er habe ab 1. August 2009 Anspruch auf eine Viertelsrente (Invaliditätsgrad: 44 %). Dagegen erhob der Versicherte Einwendungen und beantragte die Zusprechung mindestens einer Dreiviertelsrente. Die IV-Stelle holte beim Geschäftsführer im Reformhaus L._ ergänzende Auskünfte ein. Am 25. Oktober 2010 verfügte sie im Sinne des Vorbescheids. B. Die Beschwerde des K._ wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 17. November 2011 ab. C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt K._ beantragen, der Entscheid vom 17. November 2011 sei aufzuheben und ihm eine ganze Invalidenrente auszurichten. Das kantonale Sozialversicherungsgericht und die IV-Stelle verzichten auf eine Stellungnahme. Das Bundesamt für Sozialversicherungen hat keine Vernehmlassung eingereicht. 