Update modules/text_analysis/semantic_analysis.py

modules/text_analysis/semantic_analysis.py

@@ -11,6 +11,7 @@ from collections import Counter, defaultdict
 from sklearn.feature_extraction.text import TfidfVectorizer
 from sklearn.metrics.pairwise import cosine_similarity
 import logging
+from .stopwords import process_text
 
 logger = logging.getLogger(__name__)
 
@@ -71,100 +72,6 @@ ENTITY_LABELS = {
     }
 }
 
-CUSTOM_STOPWORDS = {
-    'es': {
-        # Artículos
-        'el', 'la', 'los', 'las', 'un', 'una', 'unos', 'unas',
-        # Preposiciones comunes
-        'a', 'ante', 'bajo', 'con', 'contra', 'de', 'desde', 'en',
-        'entre', 'hacia', 'hasta', 'para', 'por', 'según', 'sin',
-        'sobre', 'tras', 'durante', 'mediante',
-        # Conjunciones
-        'y', 'e', 'ni', 'o', 'u', 'pero', 'sino', 'porque',
-        # Pronombres
-        'yo', 'tú', 'él', 'ella', 'nosotros', 'vosotros', 'ellos',
-        'ellas', 'este', 'esta', 'ese', 'esa', 'aquel', 'aquella',
-        # Verbos auxiliares comunes
-        'ser', 'estar', 'haber', 'tener',
-        # Palabras comunes en textos académicos
-        'además', 'también', 'asimismo', 'sin embargo', 'no obstante',
-        'por lo tanto', 'entonces', 'así', 'luego', 'pues',
-        # Números escritos
-        'uno', 'dos', 'tres', 'primer', 'primera', 'segundo', 'segunda',
-        # Otras palabras comunes
-        'cada', 'todo', 'toda', 'todos', 'todas', 'otro', 'otra',
-        'donde', 'cuando', 'como', 'que', 'cual', 'quien',
-        'cuyo', 'cuya', 'hay', 'solo', 'ver', 'si', 'no',
-        # Símbolos y caracteres especiales
-        '#', '@', '/', '*', '+', '-', '=', '$', '%'
-    },
-    'en': {
-        # Articles
-        'the', 'a', 'an',
-        # Common prepositions
-        'in', 'on', 'at', 'by', 'for', 'with', 'about', 'against',
-        'between', 'into', 'through', 'during', 'before', 'after',
-        'above', 'below', 'to', 'from', 'up', 'down', 'of',
-        # Conjunctions
-        'and', 'or', 'but', 'nor', 'so', 'for', 'yet',
-        # Pronouns
-        'i', 'you', 'he', 'she', 'it', 'we', 'they', 'this',
-        'that', 'these', 'those', 'my', 'your', 'his', 'her',
-        # Auxiliary verbs
-        'be', 'am', 'is', 'are', 'was', 'were', 'been', 'have',
-        'has', 'had', 'do', 'does', 'did',
-        # Common academic words
-        'therefore', 'however', 'thus', 'hence', 'moreover',
-        'furthermore', 'nevertheless',
-        # Numbers written
-        'one', 'two', 'three', 'first', 'second', 'third',
-        # Other common words
-        'where', 'when', 'how', 'what', 'which', 'who',
-        'whom', 'whose', 'there', 'here', 'just', 'only',
-        # Symbols and special characters
-        '#', '@', '/', '*', '+', '-', '=', '$', '%'
-    },
-    'fr': {
-        # Articles
-        'le', 'la', 'les', 'un', 'une', 'des',
-        # Prepositions
-        'à', 'de', 'dans', 'sur', 'en', 'par', 'pour', 'avec',
-        'sans', 'sous', 'entre', 'derrière', 'chez', 'avant',
-        # Conjunctions
-        'et', 'ou', 'mais', 'donc', 'car', 'ni', 'or',
-        # Pronouns
-        'je', 'tu', 'il', 'elle', 'nous', 'vous', 'ils',
-        'elles', 'ce', 'cette', 'ces', 'celui', 'celle',
-        # Auxiliary verbs
-        'être', 'avoir', 'faire',
-        # Academic words
-        'donc', 'cependant', 'néanmoins', 'ainsi', 'toutefois',
-        'pourtant', 'alors',
-        # Numbers
-        'un', 'deux', 'trois', 'premier', 'première', 'second',
-        # Other common words
-        'où', 'quand', 'comment', 'que', 'qui', 'quoi',
-        'quel', 'quelle', 'plus', 'moins',
-        # Symbols
-        '#', '@', '/', '*', '+', '-', '=', '$', '%'
-    }
-}
-
-##############################################################################################################
-def get_stopwords(lang_code):
-    """
-    Obtiene el conjunto de stopwords para un idioma específico.
-    Combina las stopwords de spaCy con las personalizadas.
-    """
-    try:
-        nlp = spacy.load(f'{lang_code}_core_news_sm')
-        spacy_stopwords = nlp.Defaults.stop_words
-        custom_stopwords = CUSTOM_STOPWORDS.get(lang_code, set())
-        return spacy_stopwords.union(custom_stopwords)
-    except:
-        return CUSTOM_STOPWORDS.get(lang_code, set())
-
-
 def perform_semantic_analysis(text, nlp, lang_code):
     """
     Realiza el análisis semántico completo del texto.
@@ -178,6 +85,7 @@ def perform_semantic_analysis(text, nlp, lang_code):
     
     logger.info(f"Starting semantic analysis for language: {lang_code}")
     try:
+        tokens = process_text(text, lang_code, nlp)
         doc = nlp(text)
         key_concepts = identify_key_concepts(doc)
         concept_graph = create_concept_graph(doc, key_concepts)