Sachverhalt: A. Mit Verfügung vom 3. August 2011 verneinte die IV-Stelle Schwyz den Anspruch von F._ auf berufliche Massnahmen und eine Rente der Invalidenversicherung. B. Die Beschwerde des F._ wies das Verwaltungsgericht des Kantons Schwyz mit Entscheid vom 18. November 2011 ab. C. F._ führt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Rechtsbegehren, der Entscheid vom 18. November 2011 sei aufzuheben und eine dem Beschwerde- und Krankheitsbild angemessene Abklärung und Untersuchung anzuordnen, unter Befreiung von der Bezahlung von Verfahrenskosten. Die IV-Stelle beantragt die Abweisung der Beschwerde. Das kantonale Verwaltungsgericht und das Bundesamt für Sozialversicherungen verzichten auf eine Vernehmlassung. 