Faits: A. Durant l'après-midi du 9 avril 2011, X._, Y._ et un tiers ont bu plusieurs bières après la fin de leur travail. Vers 18h00, alors qu'ils parlaient de politique, les deux premiers se sont insultés et en sont venus aux mains. Y._ a frappé X._ à la tête au moyen d'une bouteille. Celui-ci s'est alors rendu dans les toilettes du bâtiment adjacent pour nettoyer ses plaies au cuir chevelu qui saignaient. Le coup n'avait pas été donné avec force, mais il avait pu causer de fortes douleurs. X._ est revenu environ dix minutes après et a insisté pour boire une nouvelle bière. Le calme était revenu mais après une dizaine de minutes, il a soudainement frappé au niveau du thorax, à une reprise, Y._ avec un couteau pourvu d'une lame acérée de 16 centimètres. Celle-ci a traversé les habits, puis la peau, la graisse, le diaphragme et la zone abdominale de la victime. Le couteau s'est enfoncé de 13 cm dans son corps. La plaie saignait peu, mais le coup a provoqué une hémorragie interne, laquelle aurait pu entraîner la mort de Y._. Après avoir frappé ce dernier, X._ a pris la fuite. Il s'est rendu à la police espagnole le 13 avril 2011. Y._ a été hospitalisé durant neuf jours. B. Par jugement du 9 novembre 2011, le Tribunal correctionnel de la République et canton de Genève a reconnu X._ coupable de tentative de meurtre (art. 22 et 111 CP) et il l'a condamné à une peine privative de liberté de 4 ans et 6 mois, sous déduction de la détention subie avant jugement. X._ a en outre été condamné à payer à Y._ un montant de 5'000 francs avec intérêts à 5% dès le 9 avril 2011 à titre de tort moral, ainsi qu'à une participation à ses honoraires d'avocat, les droits de Y._ étant réservés pour le surplus. C. La Chambre pénale d'appel et de révision de la Cour de Justice genevoise a rejeté, par arrêt du 1er mars 2012, l'appel formé par X._ et a partiellement admis celui de Y._, portant à 8'000 francs la somme due au précité à titre d'indemnité pour tort moral. D. X._ forme un recours en matière pénale au Tribunal fédéral contre cette décision. Il conclut à ce qu'il soit reconnu coupable de lésions corporelles simples, subsidiairement de lésions corporelles graves, et, cela fait, à ce que la peine privative de liberté prononcée soit réduite en conséquence, mais à trois ans au maximum, et à ce que le sursis partiel lui soit accordé. Il conclut également à ce qu'il soit renoncé au prononcé d'une indemnité pour tort moral. Il conclut plus subsidiairement au renvoi de la cause à l'autorité cantonale. X._ sollicite par ailleurs l'octroi de l'assistance judiciaire. Il n'a pas été ordonné d'échange d'écritures. 