Faits: Faits: A. X._, né en 1972, a été immatriculé à l'Université de Lausanne depuis le semestre d'hiver 1998/1999, d'abord à l'Ecole de français moderne où il a subi un échec définitif, puis, dès le semestre d'hiver 2000/2001 à l'Ecole des sciences criminelles, rattachée à la faculté de droit de l'Université de Lausanne (ESC; ci-après: l'Ecole) en vue d'obtenir un diplôme postgrade en criminologie. Il s'est présenté à la session d'examen d'octobre 2001 et a échoué à plus de deux examens, notamment en statistiques I et II, en psychologie de l'enfant et en psychologie légale. Il ne détenait en outre que 35 crédits sur les 120 crédits réglementaires. Le 20 avril 2004, l'Institut a adressé un courrier à X._, selon lequel, malgré un nombre de crédits insuffisant, la possibilité d'obtenir son diplôme lui était offerte, à la condition que, jusqu'en automne 2004, il repasse les examens dans les quatre branches dans lesquelles il avait obtenu un résultat insuffisant et réussisse dans deux d'entre elles. Le 26 avril 2004, X._ a en outre été informé que son mémoire final avait été jugé insuffisant. Selon le procès-verbal d'examen du 21 octobre 2004, X._ ne s'est pas présenté aux examens de statistiques I et II et a échoué à l'épreuve de psychologie légale. En outre, en lieu et place de l'examen portant sur la psychologie de l'enfant, il s'est présenté à l'épreuve de psychologie sociale. X._ s'est vu notifier le même jour une décision d'échec définitif. Le 18 février 2005, le Rectorat de l'Université a rejeté le recours de X._ contre la décision du 21 octobre 2004. Le 28 novembre 2005, la Commission de recours de l'Université a également rejeté un recours déposé contre cette dernière décision; elle constatait que les conditions fixées le 20 avril 2004 constituaient un engagement liant l'Institut au regard des règles de la bonne foi. X._ n'ayant toutefois pas rempli ces conditions, son exclusion était justifiée. X._ a recouru auprès du Tribunal administratif contre la décision du 28 novembre rendue par la Commission de recours. X._ a recouru auprès du Tribunal administratif contre la décision du 28 novembre rendue par la Commission de recours. B. Par arrêt du 4 avril 2006, le Tribunal administratif a rejeté son recours. A l'appui de son arrêt, il a relevé en substance que l'échec définitif aurait dû être constaté en octobre 2001. Toutefois, comme l'Institut était lié par les conditions posées dans le courrier du 20 avril 2004, X._ n'avait plus d'autres possibilités que de s'y conformer. Ne s'étant pas présenté aux examens dans trois des quatre branches imposées, ces conditions n'étaient manifestement pas remplies. B. Par arrêt du 4 avril 2006, le Tribunal administratif a rejeté son recours. A l'appui de son arrêt, il a relevé en substance que l'échec définitif aurait dû être constaté en octobre 2001. Toutefois, comme l'Institut était lié par les conditions posées dans le courrier du 20 avril 2004, X._ n'avait plus d'autres possibilités que de s'y conformer. Ne s'étant pas présenté aux examens dans trois des quatre branches imposées, ces conditions n'étaient manifestement pas remplies. C. Agissant par la voie du recours de droit public pour violation de l'art. 9 Cst., X._ demande au Tribunal fédéral d'annuler l'arrêt rendu le 4 avril 2006 par le Tribunal administratif et de renvoyer la cause pour nouvelle instruction dans le sens des considérants. Le Tribunal administratif et le Rectorat de l'Université de Lausanne concluent au rejet du recours. 