Sachverhalt: A. Der 1959 geborene S._ führte seit 1989 im Rahmen einer selbstständigen Erwerbstätigkeit einen Betrieb zur Herstellung von Kunststein- und Betonelementen. Im Juni 2005 wandelte er seine Einzelfirma in die X._ GmbH um, in welcher er als Geschäftsführer fungiert und bis Ende 2005 vier Mitarbeiter nebst seiner Ehefrau beschäftigt waren. Die von seinem Bruder gegründete Y._ GmbH übernahm auf den 1. Januar 2006 Produktionsmittel der X._ GmbH und mietete deren Fabrikationsräume. S._ meldete sich im Oktober 2006 unter Hinweis auf eine Sklerodermie bei der Invalidenversicherung zum Leistungsbezug an. Nach einem ersten Beschwerdeverfahren (Entscheid des Verwaltungsgerichts des Kantons Bern vom 6. Februar 2008), weiteren Abklärungen und Durchführung des Vorbescheidverfahrens verneinte die IV-Stelle Bern mit Verfügung vom 30. September 2009 einen Rentenanspruch bei einem Invaliditätsgrad von 29 %. B. Die Beschwerde des S._ wies das Verwaltungsgericht des Kantons Bern mit Entscheid vom 9. Juni 2010 ab. C. S._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Antrag, unter Aufhebung des Entscheids vom 9. Juni 2010 sei festzustellen, dass er ab 1. Oktober 2007 Anspruch auf eine ganze Invalidenrente habe. Die IV-Stelle schliesst auf Abweisung des Rechtsmittels. Das kantonale Gericht und das Bundesamt für Sozialversicherungen verzichten auf eine Vernehmlassung. 