Faits : Faits : A. P._, avec d'autres associés, a créé X._ Sàrl, qui fut inscrite au registre du commerce le 14 mars 1996. Cette société avait pour but l'achat, la vente, le commerce import-export de produits et de matériel informatique ainsi que les services d'installation, de maintenance et de configuration liées à l'informatique et la création de logiciels. Inscrits au registre du commerce en qualité d'associés gérants, P._ et L._ avaient la signature collective à deux. Dans un décompte de cotisations du 27 janvier 1998 relatif à l'année 1997, la Caisse interprofessionnelle neuchâteloise de compensation pour l'industrie, le commerce et les arts et métiers (Cicicam) a invité X._ Sàrl à s'acquitter d'un montant de 20'490 fr. 85. Par lettre du 12 mars 1998, P._, invoquant des problèmes de trésorerie passagers, a demandé un étalement du solde des cotisations, en proposant le versement de quatre acomptes échelonnés dans le temps. Le 20 mars 1998, la caisse a rendu une décision de surseoir au paiement, confirmant qu'elle était d'accord que la somme réclamée de 20'490 fr. 85 soit acquittée selon le plan suivant: 5'000 fr. au 30 mars 1998, 5'490 fr. 85 au 30 avril 1998, 5'000 fr. au 30 mai 1998 et 5'000 fr. au 30 juin 1998. Elle indiquait que les cotisations courantes restaient dues à l'échéance. X._ Sàrl a versé un premier acompte de 5'000 fr. le 3 avril 1998 et un deuxième acompte de 5'490 fr. 85 le 4 mai 1998. La société a été dissoute par suite de faillite prononcée par jugement du Tribunal du district de Neuchâtel, en date du 18 août 1998. Par ordonnance du 2 octobre 1998, le Tribunal civil du district de Neuchâtel a prononcé la suspension de la liquidation de la faillite, faute d'actif suffisant. Le 8 février 1999, la caisse a rendu deux décisions en réparation du dommage, l'une à l'encontre de P._ et l'autre à l'encontre de L._. Dans la décision notifiée à P._, elle le rendait responsable, en sa qualité d'associé gérant de X._ Sàrl, du dommage subi et lui réclamait le versement de 26'095 fr. 70, en se fondant sur le décompte suivant: 18'879 fr. 55 Cotisations AVS/AI/APG 5'607 fr. 75 Cotisations assurance-chômage 318 fr. 75 Frais administratifs 150 fr. 00 Taxes de sommation 240 fr. 00 Frais de poursuites 618 fr. 70 Contributions allocations familiales 280 fr. 95 Intérêts moratoires 26'095 fr. 70 Total 26'095 fr. 70 Total B. B.a P._ a formé opposition contre la décision qui lui a été notifiée. Le 10 mars 1999, la caisse a ouvert action contre celui-ci devant le Tribunal administratif de la République et canton de Neuchâtel, en demandant que l'opposition soit levée et que P._ soit condamné à la réparation du dommage, soit à verser solidairement 26'095 fr. 70. Dans sa réponse, P._ demandait l'audition en qualité de témoins de L._ et du sieur A._, de la fiduciaire Y._, experts-comptables à Neuchâtel et contrôleurs de X._ Sàrl. Par jugement du 9 décembre 1999, le Tribunal administratif a admis l'action et dit que P._ répondait solidairement avec L._ du dommage correspondant aux cotisations sociales impayées à concurrence de 25'477 fr. Sur recours de P._, le Tribunal fédéral des assurances, par arrêt du 7 juillet 2000, a annulé le jugement précité et renvoyé la cause à la juridiction cantonale pour qu'elle statue à nouveau en procédant à l'audition des témoins cités par P._ dans sa réponse. B.b Le 26 avril 2001, le Tribunal administratif de la République et canton de Neuchâtel a procédé à l'audition de L._, de B._ et de P._. A la suite de cette audition, la juridiction cantonale a invité les parties au procès à déposer leurs conclusions. La caisse s'est déterminée dans un mémoire du 31 mai 2001, en demandant que P._ soit condamné à la réparation du dommage et au versement de 25'477 fr. De son côté, celui-ci a conclu au rejet de la demande et à l'octroi d'une indemnité de dépens. Par jugement du 13 septembre 2001, le Tribunal administratif a admis l'action et dit que P._ répond, solidairement avec L._, du dommage correspondant aux cotisations sociales impayées à concurrence de 25'477 fr. Il a alloué au défendeur une indemnité de dépens partielle de 300 fr. à charge de la demanderesse. Par jugement du 13 septembre 2001, le Tribunal administratif a admis l'action et dit que P._ répond, solidairement avec L._, du dommage correspondant aux cotisations sociales impayées à concurrence de 25'477 fr. Il a alloué au défendeur une indemnité de dépens partielle de 300 fr. à charge de la demanderesse. C. P._ interjette recours de droit administratif contre ce jugement, en concluant à l'annulation de celui-ci. Il invite le Tribunal fédéral des assurances à statuer lui-même, en rejetant la demande de la caisse. A titre subsidiaire, il sollicite le renvoi du dossier à la juridiction cantonale pour nouvelle décision au sens des considérants. La caisse conclut au rejet du recours, la décision attaquée étant confirmée. L'Office fédéral des assurances sociales ne s'est pas déterminé sur le recours. 