Sachverhalt: A. Am 29. Juni 2005 wurde X._ vom Kreisgericht X Thun unter anderem wegen mehrfacher sexueller Handlungen mit Kindern zu drei Jahren und neun Monaten Freiheitsstrafe verurteilt. Die Strafe wurde zugunsten einer vorzeitig angetretenen stationären Massnahme aufgeschoben, aus welcher er am 1. Mai 2008 unter Ansetzung einer Probezeit von drei Jahren bedingt entlassen wurde. Für die Dauer der Probezeit wurden Bewährungshilfe sowie die Fortsetzung einer Psychotherapie angeordnet. Das Untersuchungsrichteramt IV Berner Oberland führt seit dem 5. Mai 2010 ein Strafverfahren gegen X._ wegen des Verdachts sexueller Handlungen mit einem Kind. Ihm wird vorgeworfen, er habe im Jahr 2009 mehrmals ein unter 16-jähriges Mädchen in sexuelle Handlungen einbezogen. Der Beschwerdeführer habe im Jahr 2009 eine sehr enge Beziehung zum Kind aufgebaut und in dessen Familie, insbesondere zum Kind selbst, eine wichtige Vertrauensposition eingenommen. Anlässlich eines Geburtstagsfestes habe X._ mit dem Mädchen und zwei weiteren Kindern auf einem Bettsofa übernachtet. Dabei habe er sein erregtes Glied zwischen ihre Beine geführt, ohne dass es aber zum Geschlechtsverkehr gekommen sei. Ein anderes Mal habe er sein erregtes Glied über den Kleidern an ihren Geschlechtsbereich gerieben. Zweimal sei er mit seinem Glied von der Seite her in ihre Hose gelangt. B. Am 3. Mai 2010 wurde X._ festgenommen und mit Entscheid vom 6. Mai 2010 des Haftgerichts IV Berner Oberland in Untersuchungshaft versetzt. Dieses bejaht den dringenden Tatverdacht und die Ausführungsgefahr. Es verneint Kollusionsgefahr. C. X._ erhebt Beschwerde beim Bundesgericht. Er beantragt die Aufhebung der Untersuchungshaft und seine unverzügliche Entlassung aus der Untersuchungshaft. Ihm sei im Verfahren vor Bundesgericht die unentgeltliche Rechtspflege und Verbeiständung zu bewilligen. Das Untersuchungsrichteramt hat sich vernehmen lassen. Es beantragt die Abweisung der Beschwerde sowie die Abweisung des Gesuches um unentgeltliche Rechtspflege. Das Haftgericht hat sich vernehmen lassen. Es beantragt sinngemäss die Abweisung der Beschwerde. In der Replik hält der Beschwerdeführer an seiner Beschwerde fest und reicht eine Honorarnote seines Verteidigers ein. 