Sachverhalt: A. Der 1977 geborene X._, Staatsangehöriger von Bangladesch, reiste am 12. März 2001 in die Schweiz ein und stellte hier ein Asylgesuch. Am 22. Mai 2002 heiratete er die rund 20 Jahre ältere schweizerisch/US-amerikanische Doppelbürgerin Y._, worauf er eine Aufenthaltsbewilligung zum Verbleib bei seiner Ehefrau erhielt und das Asylgesuch zurückzog. Bereits am 13. November 2002 erlag seine Ehefrau einem Krebsleiden, was dazu führte, dass eine Verlängerung der Aufenthaltsbewilligung von X._ mit Verfügung vom 25. Juni 2003 verweigert wurde. Hiergegen ergriff dieser verschiedene Rechtsmittel. B. Noch bevor ein letztinstanzlicher Entscheid in dieser Angelegenheit erging, machte X._ geltend, er sei in der Zwischenzeit eine Beziehung mit der Schweizerin Z._ eingegangen, welche am 6. November 2004 den gemeinsamen Sohn A._ geboren habe. Aufgrund der veränderten Sachlage wurde die Aufenthaltsbewilligung von X._ mit Zustimmung des Bundesamtes für Migration (BFM) vom 15. November 2005 und vom 28. Dezember 2006 jeweils für die Dauer eines Jahres verlängert. C. Am 13. September 2007 stellte X._ erneut ein Verlängerungsgesuch, welches von den Einwohnerdiensten der Stadt Thun am 23. November 2007 mit dem Antrag auf Zustimmung dem BFM übermittelt wurde. Mit Verfügung vom 5. Mai 2008 verweigerte dieses indes seine Zustimmung. Eine hiergegen gerichtete Beschwerde von X._ beim Bundesverwaltungsgericht wurde von diesem mit Urteil vom 16. November 2009 abgewiesen. D. Mit Eingabe vom 23. Dezember 2009 führt X._ Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht. Er beantragt die Aufhebung des vorinstanzlichen Urteils und die Erteilung der Zustimmung zur Verlängerung seiner Aufenthaltsbewilligung. Während das Bundesverwaltungsgericht auf eine Vernehmlassung verzichtet, schliesst das BFM auf Abweisung der Beschwerde. 