Faits: A. Au mois de mai 2006, A._ s'est plainte d'avoir subi en 2002 des abus sexuels de la part de X._, le compagnon de sa mère. Elle demeurait, au moment où elle a formulé ses accusations, à l'Hôpital psychiatrique de Perreux. Elle y avait été admise dès le mois de février 2006, en raison de troubles du comportement liés à une consommation excessive d'alcool et de dérivés du cannabis. Par jugement du 8 mai 2008, le Tribunal correctionnel du district de la Chaux-de-Fonds a reconnu X._ coupable de contraintes, d'actes d'ordre sexuel avec des enfants et de viols ainsi que de pornographie dure. Il a été condamné à quatre ans de privation de liberté. B. Par arrêt du 11 juillet 2008, la Cour de cassation pénale du Tribunal cantonal neuchâtelois a rejeté le pourvoi interjeté par X._. C. Ce dernier forme un recours en matière pénale contre cette décision. Il conclut principalement à son acquittement de tous les chefs d'accusation autres que celui de pornographie et au prononcé d'une nouvelle peine. A titre subsidiaire, il conclut à l'annulation de la décision entreprise et au renvoi de la cause à l'autorité cantonale. Il demande, par ailleurs, la restitution de l'effet suspensif et sa mise en liberté provisoire. D. Par ordonnance du 14 octobre 2008, le Président de la cour de céans a constaté que la première requête était sans objet et a déclaré la seconde irrecevable. Il n'a pas été ordonné d'échange d'écritures. Par courrier du 28 janvier 2009, le conseil de X._ a encore produit une pièce. 