Sachverhalt: A. Der 1963 geborene A._ wohnt mit der 1969 geborenen B._ in X._ ZH in einem Konkubinat. Dieser Verbindung entsprang am 12. April 2008 das gemeinsame Kind C._, welches von seinem Vater am 12. Dezember 2008 anerkannt wurde. Die Vormundschaftsbehörde X._ stimmte am 10. März 2009 einer Vereinbarung der beiden Eltern von C._ über die gemeinsame elterliche Sorge zu. Am 7. Oktober 2011 wurde D._ geboren, A._ anerkannte seine Vaterschaft auch bezüglich dieses Kindes. Mit Verfügung vom 30. August 2013 stimmte die Kindes- und Erwachsenenschutzbehörde des Bezirks Y._ der gemeinsamen elterlichen Sorge für beide Kinder zu. Am 20. Juli 2012 beantragte A._ bei der Familienausgleichskasse Zug (FAK) rückwirkend ab 12. April 2008 resp. 7. Oktober 2011 Kinderzulagen für seine beiden Kinder. Auf Aufforderung hin reichte er sowohl die Geburtsurkunden für die beiden Kinder sowie eine Aufstellung über die Erwerbstätigkeit von B._ ein, liess der FAK aber trotz mehrmaliger Aufforderung keine Sorgerechtsvereinbarung zukommen. Mit Verfügungen vom 13. und 14. Januar 2014 und Einspracheentscheid vom 8. Mai 2014 sprach die FAK A._ für die Zeit vom 1. April 2008 bis 31. Dezember 2012 (für C._) resp. für die Zeit vom 1. Oktober 2011 bis 31. Dezember 2012 (für D._) Kinderzulagen zu, dies jedoch für die Zeiten vom 1. April bis 31. Juli 2008, vom 27. März bis 31. Mai 2009 und vom 1. Oktober 2010 bis 12. Januar 2012 als Differenzzulage zu der B._ in dieser Zeit zustehenden Zulagen der Kantone Aargau (für die Jahre 2008 und 2009) und Zürich (für die Jahre 2010 bis 2012). B. Die von A._ hiegegen erhobene Beschwerde hiess das Verwaltungsgericht des Kantons Zug mit Entscheid vom 18. September 2014 in dem Sinne teilweise gut, als es feststellte, der Beschwerdeführer habe auch für die Zeit vom 27. März bis 31. Mai 2009 einen primären Anspruch auf Kinderzulagen im Kanton Zug. Im Übrigen wies es die Beschwerde ab. C. Mit Beschwerde beantragt A._ sinngemäss, ihm oder der Mutter seiner Kinder sei unter Aufhebung des Einsprache- und des kantonalen Gerichtsentscheides für die Zeit von Geburt der Kinder bis 31. Dezember 2012 ungekürzte Kinderzulagen auszurichten. Zudem sei die FAK zu verpflichten, auf Anträge der versicherten Person innert 30 Tagen zu antworten. 