Sachverhalt: A. X._ (geb. 1964) und Y._ (geb. 1954) heirateten im November 1988. Sie wurden Eltern einer Tochter (geb. 1989). Die Ehefrau ist gelernte kaufmännische Angestellte. Nach der Heirat übernahm sie die Betreuung des Haushalts und die Erziehung der Tochter. Ab dem Jahr 2001 war sie wieder in einem Pensum von 50% erwerbstätig. Seit August 2009 arbeitet sie hauptsächlich als Serviceangestellte. Die Parteien leben seit März 2006 getrennt. Die Folgen des Getrenntlebens mussten gerichtlich geregelt werden. B. Mit Eingabe vom 15. Juli 2008 leitete der Ehemann beim Zivilgericht Basel-Stadt das Scheidungsverfahren ein. Mit Urteil vom 22. Oktober 2009 schied das Zivilgericht die Ehe und regelte die Scheidungsfolgen. Insbesondere verpflichtete es X._ zu nachehelichen Unterhaltsbeiträgen von Fr. 1'600.-- pro Monat bis zum Erreichen des ordentlichen AHV-Alters von Y._. C. Die von X._ am 30. Oktober 2009 dagegen erhobene Appellation hiess das Appellationsgericht des Kantons Basel-Stadt mit Urteil vom 28. Januar 2011 teilweise gut und reduzierte die von X._ zu leistenden nachehelichen Unterhaltsbeiträge auf Fr. 1'250.-- pro Monat bis zum Erreichen des ordentlichen AHV-Alters von Y._. D. Dem Bundesgericht beantragt X._ (nachfolgend Beschwerdeführer) die Aufhebung des Urteils des Appellationsgerichts und die Festsetzung der nachehelichen Unterhaltsbeiträge an Y._ (nachfolgend Beschwerdegegnerin) auf Fr. 300.-- pro Monat für die Dauer von einem Jahr ab Rechtskraft des Scheidungsurteils. Eventualiter sei dieser Unterhaltsbeitrag von monatlich Fr. 300.-- für die Dauer von zwei Jahren ab Rechtskraft des Scheidungsurteils zu sprechen. Für das bundesgerichtliche Verfahren ersucht der Beschwerdeführer zudem um unentgeltliche Rechtspflege und Verbeiständung. Das Bundesgericht hat die Vorakten, hingegen keine Vernehmlassungen eingeholt. 