Sachverhalt: A. Am 19. August 2013 eröffnete das Zivilgericht Basel-Stadt über B._ den Konkurs. Auf den Gemeinschuldner waren zu diesem Zeitpunkt ein Lieferwagen Mercedes Benz und ein Transportanhänger eingelöst. Die beiden Fahrzeuge wurden am 29. August 2013 von der Gantbeamtung Basel-Stadt inventiert und geschätzt. B. A._ schloss mit B._ (Schuldner und Verkäufer) am 22. August 2013 einen Kaufvertrag über die besagten Fahrzeuge ab. Tags darauf wurde der am 19. August 2013 eröffnete Konkurs über den Schuldner publiziert. Am 29. Oktober 2013 erliess das Konkursamt Basel-Stadt als Konkursverwaltung gegenüber A._, der mittlerweile in den Besitz der Fahrzeuge gelangt war, die "Verfügung", dass er innert 5 Tagen den Lieferwagen Mercedes-Benz 315 CDI sowie den Sachtransportanhänger DALTEC CARGO 35 der Gantbeamtung Basel-Stadt abzuliefern habe. Dieser Verfügung sei bei Androhung von Strafe im Ungehorsamsfalle gemäss Art. 292 StGB Folge zu leisten. Zur Begründung wurde im Wesentlichen angeführt, dass ein Anwendungsfall von Art. 204 Abs. 1 SchKG vorliege, dass eine gerichtliche Feststellung nicht notwendig sei, da ungültige Verfügungen des Schuldners keine Wirkungen entfalten würden und dass der gute Glaube des Dritten dabei unbeachtlich sei. C. Gegen diese "Verfügung" erhob A._ am 11. November 2013 der Rechtsmittelbelehrung entsprechend Beschwerde bei der unteren Aufsichtsbehörde über das Betreibungs- und Konkursamt Basel-Stadt, welche die Beschwerde am 7. März 2014 abwies. Das Appellationsgericht des Kantons Basel-Stadt als obere Aufsichtsbehörde über das Betreibungs- und Konkursamt wies die anschliessend erhobene Beschwerde am 10. April 2014 ab. D. A._ (Beschwerdeführer) gelangt mit Beschwerde in Zivilsachen vom 7. Mai 2014 (Postaufgabe) an das Bundesgericht. Er beantragt, es seien der Entscheid des Appellationsgerichts vom 10. April 2014 und die Verfügung des Konkursamtes vom 29. Oktober 2013 aufzuheben und die Fahrzeuge ihm demzufolge als rechtmässigem Besitzer zu überlassen. Eventualiter sei die Sache an die Vorinstanz zurückzuweisen zwecks Berücksichtigung ausser Acht gelassener Sachverhaltspunkte. Das Konkursamt und die obere Aufsichtsbehörde schliessen auf Abweisung der Beschwerde. 