Sachverhalt: A. Die 1961 geborene A._ meldete sich am 25. Februar 2013 bei der Arbeitslosenversicherung zum Bezug von Leistungen an. Die gelernte Floristin hatte vom 11. August 2008 bis zum 31. Januar 2013 als administrative Mitarbeiterin bei der Firma ihres Ehemannes, der C._ gearbeitet, welcher das Arbeitsverhältnis wegen mangelnden Aufträgen und einer Umstrukturierung des Betriebes auf den 31. Januar 2013 gekündigt hatte. Die Öffentliche Arbeitslosenkasse des Kantons Solothurn verneinte mit Verfügung vom 1. März 2013 einen Anspruch auf Arbeitslosenentschädigung ab dem 18. Februar 2013, da sie als im Betrieb mitarbeitende Ehegattin eine arbeitgeberähnliche Stellung inne habe und daher vom Bezug von entsprechenden Leistungen ausgeschlossen sei. Daran hielt die Kasse auch auf Einsprache hin fest (Entscheid vom 14. Mai 2013). B. Das Versicherungsgericht des Kantons Solothurn hiess die dagegen erhobene Beschwerde in dem Sinne gut, als es den Einspracheentscheid vom 14. Mai 2013 aufhob und die Sache zu weiteren Abklärungen im Sinne der Erwägungen zur neuen Verfügung an die Arbeitslosenkasse zurückwies. C. Die Öffentliche Arbeitslosenkasse des Kantons Solothurn führt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Rechtsbegehren, der Entscheid des kantonalen Gerichts sei aufzuheben. A._ lässt auf Abweisung der Beschwerde schliessen. Das Staatssekretariat für Wirtschaft (SECO) verzichtet auf eine Vernehmlassung. 