Boolesk satisfiability [1] (k-SAT) är ett av de mest studerade optimeringsproblemen, eftersom en effektiv (dvs. polynom-tid) lösning till k-SAT (för k ≥ 3) innebär effektiva lösningar på ett stort antal svåra optimeringsproblem [2, 3]. Här föreslår vi en kartläggning av k-SAT till ett deterministiskt kontinuerligt tidsdynamiskt system med en unik korrelation mellan dess attraherare och k-SAT-lösningsklustren. Vi visar att bortom en begränsning densitet tröskel, de analoga banor blir tillfälligt kaotisk [4, 5, 6, 7], och gränserna mellan bassängerna av attraktion [8] av lösningen kluster blir fraktal [7, 8, 9], signalerar uppkomsten av optimering hårdhet [10]. Analytiska argument och simuleringar tyder på att systemet alltid hittar lösningar för tillfredsställande formler även i de frusna systemen av slumpmässiga 3-SAT [11] och av låsta sysselsättningsproblem [12] (som anses vara bland de svåraste algoritmiska riktmärkena); en egenskap som delvis beror på systemets hyperboliska [4, 13] karaktär. Systemet finner lösningar i polynom kontinuerlig tid, dock på bekostnad av exponentiella fluktuationer i sin energifunktion. * Artikeln publicerades i Nature Physics 7, 966 (2011) † E-post: ercsey.ravasz@phys.ubbcluj.ro E-mail: toro@nd.edu Boolean satisfiability [1] (k-SAT, k ≥ 3) är det kvintessential restriktion tillfredsställelse problem, ligger på grundval av många beslut, schemaläggning, felkorrigering och bio-computational applikationer. k-SAT är i NP, det vill säga dess lösningar är effektiva (polynom tid) kontrollerbara, men inga effektiva (polynom tid) algoritmer är kända för att beräkna dessa lösningar [2]. Om sådana algoritmer skulle hittas för k-SAT, skulle alla NP-problem vara effektivt beräkningsbara, eftersom k-SAT är NP-komplett [2, 3]. I k-SAT ges N Booleska variabler {x 1,. ., x N }, x i  till {0, 1} och M klausuler (constraints), varje klausul är diskontering (OR, betecknad som) av k variabler eller deras negation (x). Man måste hitta en tilldelning av variablerna så att alla klausuler (kallas kollektivt som en formel) är uppfyllda (TRUE = 1). När antalet begränsningar är litet, är det lätt att hitta lösningar, medan det för alltför många begränsningar är lätt att bestämma att formeln är otillfredsställande (UNSAT). Det kan dock vara mycket svårt att bestämma tillfredsställande i det "mellanliggande intervallet": den värsta komplexiteten hos alla kända algoritmer för k-SAT är exponentiellt i N. Inspirerad av mekanismerna för informationsbearbetning i biologiska system, fick analog databehandling ökat intresse från både teoretiska [14, 15, 16] och ingenjörssamfund [17, 18, 19, 20, 21]. Även om den teoretiska möjligheten till effektiv beräkning via kaotiska dynamiska system har visats tidigare [15] har den icke-linjära dynamiska systemteorin inte utnyttjats för NP-kompletta problem trots det faktum att, som Gu et al visat.[19], Nagamatu m.fl. [20] och Wah et al. [21], k-SAT kan formuleras som en kontinuerlig global optimering problem [19], och även kasta som ett analogt dynamiskt system [20, 21]. Här presenterar vi ett nytt kontinuerligt tidsdynamiskt system för k-SAT, med en dynamik som skiljer sig ganska från tidigare tillvägagångssätt. Låt oss införa de kontinuerliga variablerna [19] s i  på [−1, 1], så att s i = −1 om i-th variabeln (x i ) är FALSE och s i = 1 om det är TRUE. Vi definierar c mi = 1 för den direkta formen (x i ), c mi = −1 för den negaterade formen (x i ), och c mi = 0 för frånvaron av den i-te variabeln från klausulen m. Definiera begränsningsfunktionen (1 − c mis i ) som motsvarar klausul m, vi har K m  till [0, 1] och K m = 0 om och endast om klausul m är nöjd. Målet skulle vara att hitta en lösning s * med s * i... {-1, 1} till E(s * ) = 0, där E är energifunktionen E(s) = M m=1 K m (s) 2. Om sådana s * finns, kommer det att vara ett globalt minimum för E och en lösning på k-SAT-problemet. Men att hitta s * genom en direkt minimering av E(s) kommer vanligtvis misslyckas på grund av icke-lösning attraherare fånga sökdynamiken. För att undvika sådana fällor, här definierar vi en modifierad energifunktion V (s, a) = M=1 a m K m (s) 2, med hjälpvariabler en m  på 0, ∞) liknande Lagrange multiplikatorer [20, 21] för alla en  på 0, ❌) M. Vi inför nu en kontinuerlig-tid dynamisk system på  och genom: där är lutning operatören med avseende på s, och de ursprungliga förutsättningarna för s är godtyckliga s(0) H N, men för en de måste vara strikt positiva, a m (0) > 0 (t.ex., a m (0) = 1). De k-SAT lösningar s *  till V N är fasta punkter av (1-2), för alla en  till (0, ❌) M. K-SAT lösning kluster spänner bitvis kompakta, anslutna uppsättningar i Q N, och varje punkt i dem är en fast punkt av (1-2) (kompletterande sekt. Detta beslut träder i kraft dagen efter det att det har offentliggjorts i Europeiska unionens officiella tidning. System (1-2) har ett antal nyckelegenskaper (se Kompletterande information). (i) Dynamiken i s stannar begränsad till H N. (ii) K-SAT lösningar s *  på V N är attraktiva fasta punkter (1-2). I synnerhet, varje punkt s från ortant av en k-SAT lösning s * med fastigheten  på 2 ≥ N − 1 + (k − 1) 2 / (k + 1) 2 garanteras att flöda in i attraheraren motsvarande s *. iii) Det finns inga gränscykler. (iv) För tillfredsställande formler är dynamikens enda fasta punktdragare V:s globala minima med V = 0. Observera att i princip kan projektionen av dynamiken på H N fastna i någon punkt s, medan da/dt = 0 på obestämd tid. Detta sker inte här, som visas i Kompletterande sekt. E. Dessutom tyder analytiska argument som stöds av simuleringar på att banan kommer att lämna alla domäner som inte innehåller lösningar, se diskussionen i den kompletterande sekten. Ursprunglig hänvisning till den nationella lagstiftningen: Den nationella lagstiftningens innehåll: Den nationella lagstiftningens innehåll: Transport av farligt gods på väg, järnväg och inre vattenvägar – Transport av farligt gods – Transport av farligt gods – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport – Transport Observera, att de begränsningar funktioner (därav deras tillfredsställelse) beror direkt endast på platsen för banan i Och inte på hjälpvariabler. Dynamiken i a-rymden är enkel expansion, och av denna anledning funktionerna i hela fasrymden ligger inom dess projektion på H N. Man kan faktiskt helt eliminera hjälpvariabler från ekvationerna genom att först lösa (2) för att ge en m (t) = en m (0) exp. En annan grundläggande egenskap hos (1-2) är att det är deterministisk: för en given formel f, alla initiala villkor genererar en unik bana, och varje uppsättning från H N har en unik förbild godtyckligt tillbaka i tiden. Således, egenskaperna hos lösningen utrymme återspeglas i egenskaperna hos de invarianta uppsättningar [7] av dynamiken (1-2) inom hyperkuben H N. Den deterministiska naturen av (1-2) gör att vi kan definiera bassänger av attraktioner av lösning kluster genom att färga varje punkt i H N enligt vilken kluster banan flyter till, om starten därifrån. Dessa bassänger fyller H N upp till en uppsättning noll (Lebesgue) mått, som bildar bäckengränsen [7], varifrån dynamiken (per definition) inte kan flöda till någon av attraherarna. En k-SAT-formel f kan representeras som en hypergraf G(f ) (eller motsvarande, en faktorkurva) där noderna är variabler och hyperkanter är klausuler som förbinder noderna/variablerna i klausulen. Rent bokstavliga är de som deltar i en eller flera klausuler men alltid i samma form (direkt eller negerad); därför kan de alltid väljas så att de uppfyller dessa klausuler. Kärnan i G(f ) är subgrafen kvar efter sekventiell borttagning alla hyperkanter med rena bokstavliga [23]. För enkla formler (t.ex. de utan kärna), dynamiken i (1-2) är laminärt flöde och bassänggränserna bildar släta, icke-fractal uppsättningar (Fig.1a,c och Fig.2 topp två rader). Lägga till fler begränsningar G(f ) utvecklar en kärna, snurra ekvationer (1) bli ömsesidigt kopplade, och banor kan bli kaotiska (Fig.1b, Kompletterande sekt. F, bild 12 ) och bassänggränserna fraktal [7, 8, 9] (Fig. 1d, figur 1d. 2 fig. 8 ) och 8.............................................................................................................. Eftersom begränsningstätheten α = M/N ökas inom fördefinierade ensembler av formler (random k-SAT, sysselsättningsproblem, k-XORSAT, etc.) En kraftig förändring av kaotiskt beteende förväntas vid en kaotisk övergångspunkt α χ, där en kaotisk kärna framträder med icke-noll statistisk vikt i ensemblen som N → ∞. Låt oss till exempel betrakta 3-XORSAT. I detta fall, på grund av sin inneboende linjära natur, är det faktiskt bättre att arbeta direkt med paritetskontroll ekvationer som begränsningar, i stället för deras CNF form. Den kaotiska kärnan här är en liten ändlig hypergraf, och färgen anger energi E (färg bar) i en given punkt av banan. Medan banorna för enkla formler uppvisar laminärt flöde, blir de snabbt separerade för hårda formler, vilket visar på en kaotisk utveckling. Ta en liten 3-XORSAT instans med N = 15 (se Kompletterande sekt. G) vi fixar en slumpmässig inledande villkor för alla s i, utom s 1 och s 2 som varierar på en 400 × 400 rutnät och vi färgar varje punkt enligt den lösning de flyter till för c) γ = 0,6 (instans visas på bild. 8e) och d) för γ = 0,8 (instans visas i bild. 8f). )......................................................................................................................................... Bilda. 8 ) och 8.............................................................................................................. Notera, en kärna kan vara icke-kaotisk, och således existensen av en kärna är bara ett nödvändigt villkor för uppkomsten av kaos och i allmänhet de två övergångarna kanske inte sammanfaller. Ytterligare öka antalet begränsningar (inom någon formel ensemble) otillfredsställande visas vid tröskelvärdet α s > α χ över vilket nästan alla formler är otillfredsställande (UNSAT regim) [11, 12, 22, 24, 25, 26, 27, 28]. Ju närmare α är α s, desto svårare är det att hitta lösningar, och bortom den så kallade fryspunkt α f < α s (kallas den frysta regimen) alla kända algoritmer tar exponentiellt långa tider eller helt enkelt misslyckas med att hitta lösningar [11, 12]. En variabel fryses om den får samma värde för alla lösningar inom ett kluster, och ett kluster fryses om ett stort antal av dess variabler fryses. I den frysta regimen är alla kluster frysta och de är också långt ifrån varandra ( O(N ) Hamming avstånd) [11, 12] I LOPs alla kluster bildas av exakt en lösning, därför är de helt frysta och den frysta regimen sträcker sig från klustering (dynamisk) övergångspunkt l d till tillfredsställande tröskel l s, och därmed är det mycket brett [12]. Ett exempel LOP är slumpmässig +1-in-3-SAT [12], gjord av begränsningar som inte har negativa variabler och en begränsning uppfylls endast om exakt en av dess variabler är 1 (TRUE). I +1-in-3-SAT l d  ska = 2.256, l s  till = 2.368, och bortom l d alla kända algoritmer har exponentiella söktider eller misslyckas med att hitta lösningar (här l = 3M/N ). Eftersom kaos är närvarande för tillfredsställande formler, dvs. när systemet (1-2) har attraherat fasta punkter, är det nödvändigtvis av övergående typ. Övergående kaos [4, 5, 6, 7] är allestädes närvarande i system med många grader av frihet, till exempel flytande turbulens [30]. Det visas som ett resultat av homoclinic/heteroclinic skärningspunkter av de invarianta grenrören av hyperbolic (ostabila) fasta punkter av (1-2) ligger inom bäckengränsen [7, 8, 9], vilket leder till komplexa (fractal) bladningar av fasrymden (se Kompletterande sekt. Denna förordning träder i kraft den tjugonde dagen efter det att den har offentliggjorts i Europeiska unionens officiella tidning. Vi observerade förekomsten av tillfälligt kaos i hela regionen α χ < α < α s för alla problemklasser vi studerade. Det är intressant att lägga märke till att hastighetsfluktuationerna i banorna i den kaotiska regimen är kvalitativt liknande dem för vätskepaket i turbulenta flöden som visas i Tilläggssekten. K. Våra rön tyder på att kaotiskt beteende kan vara ett generiskt inslag i algoritmer som söker efter lösningar i svåra optimeringsproblem, vilket bekräftar Elser et al:s observationer. [10] med hjälp av en heuristisk algoritm baserad på itererade kartor. I följande visar vi resultat på slumpmässiga 3-SAT och +1-i-3-SAT formler i den frysta regimen, men samma slutsatser håller för andra ensembler som vi testade. För att undersöka komplexiteten i beräkningen av flödet (1-2) övervakade vi fraktionen av problem p(t) som inte löstes genom kontinuerlig tid t, som funktion av N och α. Bild. 3a,c visar att även i den frusna fasen, fraktionen av olösta problem av tiden t sönderfaller exponentiellt med t, det vill säga, genom en lag p(t) = re −λ(N)t. Förfallsfrekvensen λ(N) lyder λ(N) = bN −β, med β 1.6 i båda fallen, se bild. 3b,d. Från dessa två ekvationer, den kontinuerliga tiden t (p, N ) som behövs för att lösa en fast (1 − p) fraktion av slumpmässiga formler (eller missa att lösa p-th fraktion av dem) är: Attractor bassänger. För en slumpmässig 3-SAT exempel med N = 50 varierar vi α genom att successivt lägga till nya begränsningar. Fastställande av en slumpmässig inledande villkor för s i, i ≥ 3, varierar vi bara s 1 och s 2 på en 400 × 400 rutnät, och vi färgar varje punkt enligt den lösning (första kolumnen) eller lösning kluster (andra kolumnen) de flyter till. Varje färg i en viss kolumn representerar en lösning eller en lösningskluster, men färgerna mellan kolumnerna är oberoende. Den tredje kolumnen representerar den analoga söktiden t som behövs för att hitta en lösning (se färgraden) med början från motsvarande rutnätspunkt. Kartor presenteras för värden på α = 3,5, 3.7, 3.9, 4.1, 4.16, 4.2 och 4.24. Lätta formler kännetecknas av släta bassänggränser och små söktider. Observera att vi bara ser lösningar (och kluster) som avslöjar sig i (s 1, s 2 ) planet, andra kanske inte ses. För hårda formler blir gränserna och tidskartorna fraktala. = 20, 30, 40, 50, 60, 80, 100, 125, 150 (färger). Genomsnitt gjordes över 10 5 instanser för varje N. För varje fall dynamiken startades från en slumpmässig inledande tillstånd. Svarta kontinuerliga linjer visar förfall p(t) = r exp(−λ(N )t). b) Förfallsfrekvensen följer λ(N ) = bN −β, med β 1.66. c) Fraktionen av problem p(t) olöst med tiden t för +1-in-3-SAT vid l = 2.34, för N = 20, 25, 30, 35, 40, 50, 60, 70, 80. För varje fall dynamiken startades parallellt från 10 slumpmässiga inledande förhållanden, medelvärden togs över 10 4 instanser för varje N. Svart kontinuerliga linjer visar samma exponentiella förfall som i a ). d) Förfallsfrekvensen visar samma beteende som i b) med exponenten: β 1.68. indikerar att den kontinuerliga tiden (CT) behövs för att hitta lösningar skalor som en power-law med N. Eq. (3) också innebär makt-lag skalning för nästan alla hårda fall i N → ∞ gräns (kompletterande sekt. Denna förordning träder i kraft den tjugonde dagen efter det att den har offentliggjorts i Europeiska unionens officiella tidning. Längden i H N av motsvarande kontinuerliga banor ska också skalas som en kraftlag med N (Supplementary Fig. 11b, sekten. Denna förordning träder i kraft den tjugonde dagen efter det att den har offentliggjorts i Europeiska unionens officiella tidning. Observera dock att detta inte innebär att algoritmen själv är en polynom-kostnad algoritm, eftersom energifunktionen V kan ha exponentiellt stora fluktuationer. När numerisk integration sker på en digital maskin, approximerar den kontinuerliga banan med diskreta punkter. Övervakning av andelen av formler kvar olöst som funktion av antalet diskretisering steg n steg i den frysta fasen, hittar vi exponentiellt beteende för n steg (p, N ) (kompletterande sekter. Jag, J, Fig. 10).................................................................. Skillnaden mellan de kontinuerliga och diskreta tidskomplexen beror på den vilt fluktuerande karaktären hos de kaotiska banorna (se bild). 1b och metoder) i den frysta fasen. I tillägg till detta ser vi också hur Wadas egendom [7, 8] framträder i bäckenets gränser, bild. 4........................................... En fraktalbäckengräns har Wadas egendom om dess punkter samtidigt ligger på gränsen till minst tre färger/bänkar. (En underhållande metod som skapar sådana uppsättningar använder fyra julkulorna [7].) Även om Wada egenskapen inte påverkar den sanna/matematiska analoga banor, på grund av numeriska fel, kan det växla de numeriska banor mellan bassängerna. Eftersom kluster är långt (O(N )) isär, den växlade banan kommer att flöda mot en annan kluster i en praktiskt motsatta region av H N tills det kan komma nära igen till bäckengränsen etc., delvis slumpmässigt banan i H N. Figur 4 : Wada egendom. Avrinningsområdesgränserna visas för +1-i-3-SAT för exempel vid N = 30 och l = 2.28. Fastställande av en slumpmässig inledande villkor för alla s i, i ≥ 3 varierar vi bara s 1 och s 2 på en 200 × 400 rutnät och färga punkterna enligt tre olika lösningar de flyter till. Successiva förstoringar illustrerar Wada egendom: punkterna på avrinningsområdets gränser är samtidigt på gränsen till alla tre avrinningsområden vilket innebär att stora nog förstoringar kommer att innehålla alla tre färger (även om den blågröna gränsen verkar vara tom på rött i den tredje panelen, paneler fyra och fem visar att rött faktiskt är närvarande). Vi antar att kraftlagens skalning av de kontinuerliga söktiderna (3) delvis beror på en allmän egenskap hos det dynamiska systemet (1-2), nämligen att det är hyperboliskt [4, 6, 13], eller nästan hyperboliskt. Det har visat sig att för hyperboliska system flyr banorna från regioner långt från attraherarna till attraherarna i exponentiell takt, för nästan alla ursprungliga förhållanden [4, 6, 13]. Det vill säga, fraktionen av banor fortfarande söker efter en lösning efter tiden t sönderfaller som e −εt ( Kompletterande bild. 13 ), där δ är utrymningsfrekvensen. Således kan δ −1 betraktas som ett mått på hårdhet för en given formel. När denna egenskap tas över en ensemble vid en given α, genererar den exponentiellt förfall för p(t) med en genomsnittlig utrymningshastighet λ. Formen av energifunktionen V innefattar påverkan av alla klausuler hela tiden, och i denna mening systemet (1-2) är en icke-lokal sökalgoritm. Som tidigare visats, kan hjälpvariablerna elimineras, men de ger en bekväm tolkning av dynamiken. Nämligen kan man tänka sig att de ger extra dimensioner längs vilka banorna flyr från lokala brunnar, och deras form (2) ger positiv feedback som garanterar deras flykt. Det är uppenbart att dessa ekvationer inte är unika, och andra former som bygger på samma principer kan fungera lika bra. För att simulera (1-2) använder vi en 5:e ordning adaptiv Cash-Karp Runde-Kutta metod med övervakning av lokala trunkeringsfel för att säkerställa noggrannhet. För att hålla den numeriska banan inom ett rör av liten, förinställd tjocklek runt den sanna analoga banan i  ska (kompletterande bild. 9 ), RK algoritm ibland utför ett exponentiellt stort antal diskretisering steg n steg. Men detta sker bara för hårda formler, när den analoga banan har vilda, kaotiska fluktuationer. För enkla formler både p(t) och p(n steg ) förfall exponentiellt som visas i Kompletterande bild. 10a, infälld.
Till exempel, Ercsey-Ravasz och Toroczkai lagt exponentiellt växande hjälptermer till varje begränsning, så att nätverket kan fly från fällor och konvergera till k-SAT-lösningen, möjligen efter en period av kaotiskt beteende REF.
Optimization hardness as transient chaos in an analog approach to constraint satisfaction
{'venue': 'Nature Physics, vol. 7, p. 966-970, 2011', 'journal': None, 'mag_field_of_study': ['Physics', 'Mathematics', 'Computer Science']}