# modules/text_analysis/discourse_analysis.py import streamlit as st import spacy import networkx as nx import matplotlib.pyplot as plt import pandas as pd import numpy as np import logging logger = logging.getLogger(__name__) from .semantic_analysis import ( create_concept_graph, visualize_concept_graph, identify_key_concepts, get_stopwords, POS_COLORS, POS_TRANSLATIONS, ENTITY_LABELS ) ##################### # Define colors for grammatical categories POS_COLORS = { 'ADJ': '#FFA07A', 'ADP': '#98FB98', 'ADV': '#87CEFA', 'AUX': '#DDA0DD', 'CCONJ': '#F0E68C', 'DET': '#FFB6C1', 'INTJ': '#FF6347', 'NOUN': '#90EE90', 'NUM': '#FAFAD2', 'PART': '#D3D3D3', 'PRON': '#FFA500', 'PROPN': '#20B2AA', 'SCONJ': '#DEB887', 'SYM': '#7B68EE', 'VERB': '#FF69B4', 'X': '#A9A9A9', } POS_TRANSLATIONS = { 'es': { 'ADJ': 'Adjetivo', 'ADP': 'Preposición', 'ADV': 'Adverbio', 'AUX': 'Auxiliar', 'CCONJ': 'Conjunción Coordinante', 'DET': 'Determinante', 'INTJ': 'Interjección', 'NOUN': 'Sustantivo', 'NUM': 'Número', 'PART': 'Partícula', 'PRON': 'Pronombre', 'PROPN': 'Nombre Propio', 'SCONJ': 'Conjunción Subordinante', 'SYM': 'Símbolo', 'VERB': 'Verbo', 'X': 'Otro', }, 'en': { 'ADJ': 'Adjective', 'ADP': 'Preposition', 'ADV': 'Adverb', 'AUX': 'Auxiliary', 'CCONJ': 'Coordinating Conjunction', 'DET': 'Determiner', 'INTJ': 'Interjection', 'NOUN': 'Noun', 'NUM': 'Number', 'PART': 'Particle', 'PRON': 'Pronoun', 'PROPN': 'Proper Noun', 'SCONJ': 'Subordinating Conjunction', 'SYM': 'Symbol', 'VERB': 'Verb', 'X': 'Other', }, 'fr': { 'ADJ': 'Adjectif', 'ADP': 'Préposition', 'ADV': 'Adverbe', 'AUX': 'Auxiliaire', 'CCONJ': 'Conjonction de Coordination', 'DET': 'Déterminant', 'INTJ': 'Interjection', 'NOUN': 'Nom', 'NUM': 'Nombre', 'PART': 'Particule', 'PRON': 'Pronom', 'PROPN': 'Nom Propre', 'SCONJ': 'Conjonction de Subordination', 'SYM': 'Symbole', 'VERB': 'Verbe', 'X': 'Autre', } } ENTITY_LABELS = { 'es': { "Personas": "lightblue", "Lugares": "lightcoral", "Inventos": "lightgreen", "Fechas": "lightyellow", "Conceptos": "lightpink" }, 'en': { "People": "lightblue", "Places": "lightcoral", "Inventions": "lightgreen", "Dates": "lightyellow", "Concepts": "lightpink" }, 'fr': { "Personnes": "lightblue", "Lieux": "lightcoral", "Inventions": "lightgreen", "Dates": "lightyellow", "Concepts": "lightpink" } } CUSTOM_STOPWORDS = { 'es': { # Artículos 'el', 'la', 'los', 'las', 'un', 'una', 'unos', 'unas', # Preposiciones comunes 'a', 'ante', 'bajo', 'con', 'contra', 'de', 'desde', 'en', 'entre', 'hacia', 'hasta', 'para', 'por', 'según', 'sin', 'sobre', 'tras', 'durante', 'mediante', # Conjunciones 'y', 'e', 'ni', 'o', 'u', 'pero', 'sino', 'porque', # Pronombres 'yo', 'tú', 'él', 'ella', 'nosotros', 'vosotros', 'ellos', 'ellas', 'este', 'esta', 'ese', 'esa', 'aquel', 'aquella', # Verbos auxiliares comunes 'ser', 'estar', 'haber', 'tener', # Palabras comunes en textos académicos 'además', 'también', 'asimismo', 'sin embargo', 'no obstante', 'por lo tanto', 'entonces', 'así', 'luego', 'pues', # Números escritos 'uno', 'dos', 'tres', 'primer', 'primera', 'segundo', 'segunda', # Otras palabras comunes 'cada', 'todo', 'toda', 'todos', 'todas', 'otro', 'otra', 'donde', 'cuando', 'como', 'que', 'cual', 'quien', 'cuyo', 'cuya', 'hay', 'solo', 'ver', 'si', 'no', # Símbolos y caracteres especiales '#', '@', '/', '*', '+', '-', '=', '$', '%' }, 'en': { # Articles 'the', 'a', 'an', # Common prepositions 'in', 'on', 'at', 'by', 'for', 'with', 'about', 'against', 'between', 'into', 'through', 'during', 'before', 'after', 'above', 'below', 'to', 'from', 'up', 'down', 'of', # Conjunctions 'and', 'or', 'but', 'nor', 'so', 'for', 'yet', # Pronouns 'i', 'you', 'he', 'she', 'it', 'we', 'they', 'this', 'that', 'these', 'those', 'my', 'your', 'his', 'her', # Auxiliary verbs 'be', 'am', 'is', 'are', 'was', 'were', 'been', 'have', 'has', 'had', 'do', 'does', 'did', # Common academic words 'therefore', 'however', 'thus', 'hence', 'moreover', 'furthermore', 'nevertheless', # Numbers written 'one', 'two', 'three', 'first', 'second', 'third', # Other common words 'where', 'when', 'how', 'what', 'which', 'who', 'whom', 'whose', 'there', 'here', 'just', 'only', # Symbols and special characters '#', '@', '/', '*', '+', '-', '=', '$', '%' }, 'fr': { # Articles 'le', 'la', 'les', 'un', 'une', 'des', # Prepositions 'à', 'de', 'dans', 'sur', 'en', 'par', 'pour', 'avec', 'sans', 'sous', 'entre', 'derrière', 'chez', 'avant', # Conjunctions 'et', 'ou', 'mais', 'donc', 'car', 'ni', 'or', # Pronouns 'je', 'tu', 'il', 'elle', 'nous', 'vous', 'ils', 'elles', 'ce', 'cette', 'ces', 'celui', 'celle', # Auxiliary verbs 'être', 'avoir', 'faire', # Academic words 'donc', 'cependant', 'néanmoins', 'ainsi', 'toutefois', 'pourtant', 'alors', # Numbers 'un', 'deux', 'trois', 'premier', 'première', 'second', # Other common words 'où', 'quand', 'comment', 'que', 'qui', 'quoi', 'quel', 'quelle', 'plus', 'moins', # Symbols '#', '@', '/', '*', '+', '-', '=', '$', '%' } } ############################################################################################################## def get_stopwords(lang_code): """ Obtiene el conjunto de stopwords para un idioma específico. Combina las stopwords de spaCy con las personalizadas. """ try: nlp = spacy.load(f'{lang_code}_core_news_sm') spacy_stopwords = nlp.Defaults.stop_words custom_stopwords = CUSTOM_STOPWORDS.get(lang_code, set()) return spacy_stopwords.union(custom_stopwords) except: return CUSTOM_STOPWORDS.get(lang_code, set()) ################# def compare_semantic_analysis(text1, text2, nlp, lang): """ Realiza el análisis semántico comparativo entre dos textos Args: text1: Primer texto a analizar text2: Segundo texto a analizar nlp: Modelo de spaCy cargado lang: Código de idioma Returns: tuple: (fig1, fig2, key_concepts1, key_concepts2) """ try: # Procesar los textos doc1 = nlp(text1) doc2 = nlp(text2) # Identificar conceptos clave con parámetros específicos key_concepts1 = identify_key_concepts(doc1, min_freq=2, min_length=3) key_concepts2 = identify_key_concepts(doc2, min_freq=2, min_length=3) # Crear y visualizar grafos G1 = create_concept_graph(doc1, key_concepts1) G2 = create_concept_graph(doc2, key_concepts2) fig1 = visualize_concept_graph(G1, lang) fig2 = visualize_concept_graph(G2, lang) # Limpiar títulos fig1.suptitle("") fig2.suptitle("") return fig1, fig2, key_concepts1, key_concepts2 except Exception as e: logger.error(f"Error en compare_semantic_analysis: {str(e)}") raise def create_concept_table(key_concepts): """ Crea una tabla de conceptos clave con sus frecuencias Args: key_concepts: Lista de tuplas (concepto, frecuencia) Returns: pandas.DataFrame: Tabla formateada de conceptos """ try: df = pd.DataFrame(key_concepts, columns=['Concepto', 'Frecuencia']) df['Frecuencia'] = df['Frecuencia'].round(2) return df except Exception as e: logger.error(f"Error en create_concept_table: {str(e)}") raise def perform_discourse_analysis(text1, text2, nlp, lang): """ Realiza el análisis completo del discurso Args: text1: Primer texto a analizar text2: Segundo texto a analizar nlp: Modelo de spaCy cargado lang: Código de idioma Returns: dict: Resultados del análisis """ try: # Realizar análisis comparativo fig1, fig2, key_concepts1, key_concepts2 = compare_semantic_analysis( text1, text2, nlp, lang ) # Crear tablas de resultados table1 = create_concept_table(key_concepts1) table2 = create_concept_table(key_concepts2) return { 'graph1': fig1, 'graph2': fig2, 'key_concepts1': key_concepts1, 'key_concepts2': key_concepts2, 'table1': table1, 'table2': table2, 'success': True } except Exception as e: logger.error(f"Error en perform_discourse_analysis: {str(e)}") return { 'success': False, 'error': str(e) }