Faits: A. A.a Par ordonnance du 23 mars 2009, sur requête de X._ qui invoquait une créance contre Y._ de 229'086 fr. 55, avec intérêt à 5% l'an dès le 16 mars 2003 - dite prétention faisant l'objet d'un procès devant la Cour civile du Tribunal cantonal du canton de Vaud -, le Juge de paix du district de Lausanne a ordonné le séquestre, en mains de Landolt & Cie, banquiers à Lausanne, de tous avoirs, espèces, valeurs, certificats, créances présentes et futures, papiers-valeurs et autres biens de quelque nature qu'ils soient, en compte, dépôt ou coffre-fort, appartenant à Y._. Les cas de séquestre invoqués étaient ceux de l'art. 271 al. 1 ch. 1, 2 et 4 LP. Selon le procès-verbal d'exécution de cette ordonnance, le séquestre a porté sur un portefeuille en mains de Landolt & Cie, composé de quatre comptes courants et de deux cents parts d'un fonds de placement immobilier, d'une valeur globale estimée à 388'192 fr. 40. A.b Le 14 avril 2009, Y._ a formé opposition au séquestre, concluant principalement à la levée de cette mesure, subsidiairement à l'astreinte du créancier séquestrant à la constitution de sûretés. A.c Le 24 avril 2009, X._ a fait notifier à Y._ un commandement de payer en validation du séquestre. Le poursuivi a fait opposition totale. B. B.a Par prononcé du 14 mai 2009, le Juge de paix du district de Lausanne a rejeté l'opposition au séquestre, confirmé l'ordonnance du 23 mars 2009 et astreint le créancier séquestrant à la fourniture de sûretés par 30'000 fr. dans un délai au 31 mai 2009 sous forme de garantie bancaire au greffe de la justice de paix, faute de quoi l'ordonnance deviendrait caduque. B.b Par arrêt du 21 janvier 2010, la Cour des poursuites et faillites du Tribunal cantonal du canton de Vaud a rejeté le recours déposé par X._ contre ce prononcé et prolongé le délai pour fournir les sûretés jusqu'à l'échéance d'un délai de quinze jours à compter de la notification de l'arrêt. C. X._ interjette le 2 mars 2010 un recours en matière civile au Tribunal fédéral contre cet arrêt, concluant à sa réforme, principalement en ce sens qu'il est dispensé de fournir des sûretés, subsidiairement en ce sens que le montant de celles-ci est réduit à 3'000 fr. Il invoque l'arbitraire (art. 9 Cst.) dans l'application de l'art. 273 al. 1 LP. Invité à se déterminer sur le recours par courrier recommandé du 14 avril 2010, l'intimé n'a pas retiré son pli. La cour cantonale a renoncé à se déterminer, se référant à son arrêt. Par ordonnance du 19 mars 2010, l'effet suspensif a été attribué au recours. 