Sachverhalt: A. Die IV-Stelle des Kantons St. Gallen sprach dem 1954 geborenen A._ mit Wirkung ab 1. November 2000 eine halbe und ab 1. Januar 2004 eine Dreiviertelsrente der Invalidenversicherung zu, was vom Eidg. Versicherungsgericht mit Urteil I 478/06 vom 24. August 2006 bestätigt wurde. Dabei berücksichtigte sie zunächst einen Invaliditätsgrad von 55 resp. 52 % und - wegen einer am 6. Februar 2003 eingetretenen Verschlechterung des Gesundheitszustandes infolge eines gleichentags erlittenen Auffahrunfalls - ab 1. Mai 2003 einen solchen von 65 %. Die Migros-Pensionskasse, bei welcher A._ aufgrund eines bis zum 31. Januar 2001 dauernden Arbeitsverhältnisses für die berufliche Vorsorge versichert war, richtete ihm ab 1. November 2001 eine Invalidenrente auf der Basis eines Invaliditätsgrades von 55 % aus. Hingegen lehnte sie es ab, die Rente entsprechend der Bemessung der Invalidenversicherung auf 65 % zu erhöhen. B. Die Klage des A._, mit der er die rückwirkende Ausrichtung der Invalidenrente (nebst Kinderrente) ab 1. Mai 2003 für eine mindestens 65 %-ige Invalidität beantragte, wies das Versicherungsgericht des Kantons St. Gallen mit Entscheid vom 10. Januar 2012 ab. C. A._ lässt mit Beschwerde in öffentlich-rechtlichen Angelegenheiten die Aufhebung des Entscheids vom 10. Januar 2012 beantragen und das vorinstanzlich gestellte Rechtsbegehren erneuern. 