Nickyang/Unsupervised_Keyphrase_Extraction

document_id stringlengths 1 15	tokens listlengths 1 204	tokens_pos listlengths 1 204	tokens_stem listlengths 1 204	keyphrases listlengths 2 31
C-6	[ [ "Design", "and", "Implementation", "of", "a", "Distributed", "Content", "Management", "System" ], [ "ABSTRACT" ], [ "The", "convergence", "of", "advances", "in", "storage", ",", "encoding", ",", "and", "networking", "technologies", "has", "brought", "us", "to", "an", "environment", "where", "huge", "amounts", "of", "continuous", "media", "content", "is", "routinely", "stored", "and", "exchanged", "between", "network", "enabled", "devices", "." ], [ "Keeping", "track", "of", "-LRB-", "or", "managing", "-RRB-", "such", "content", "remains", "challenging", "due", "to", "the", "sheer", "volume", "of", "data", "." ], [ "Storing", "``", "live", "''", "continuous", "media", "-LRB-", "such", "as", "TV", "or", "radio", "content", "-RRB-", "adds", "to", "the", "complexity", "in", "that", "this", "content", "has", "no", "well", "defined", "start", "or", "end", "and", "is", "therefore", "cumbersome", "to", "deal", "with", "." ], [ "Networked", "storage", "allows", "content", "that", "is", "logically", "viewed", "as", "part", "of", "the", "same", "collection", "to", "in", "fact", "be", "distributed", "across", "a", "network", ",", "making", "the", "task", "of", "content", "management", "all", "but", "impossible", "to", "deal", "with", "without", "a", "content", "management", "system", "." ], [ "In", "this", "paper", "we", "present", "the", "design", "and", "implementation", "of", "the", "Spectrum", "content", "management", "system", ",", "which", "deals", "with", "rich", "media", "content", "effectively", "in", "this", "environment", "." ], [ "Spectrum", "has", "a", "modular", "architecture", "that", "allows", "its", "application", "to", "both", "stand-alone", "and", "various", "networked", "scenarios", "." ], [ "A", "unique", "aspect", "of", "Spectrum", "is", "that", "it", "requires", "one", "-LRB-", "or", "more", "-RRB-", "retention", "policies", "to", "apply", "to", "every", "piece", "of", "content", "that", "is", "stored", "in", "the", "system", "." ], [ "This", "means", "that", "there", "are", "no", "eviction", "policies", "." ], [ "Content", "that", "no", "longer", "has", "a", "retention", "policy", "applied", "to", "it", "is", "simply", "removed", "from", "the", "system", "." ], [ "Different", "retention", "policies", "can", "easily", "be", "applied", "to", "the", "same", "content", "thus", "naturally", "facilitating", "sharing", "without", "duplication", "." ], [ "This", "approach", "also", "allows", "Spectrum", "to", "easily", "apply", "time", "based", "policies", "which", "are", "basic", "building", "blocks", "required", "to", "deal", "with", "the", "storage", "of", "live", "continuous", "media", ",", "to", "content", "." ], [ "We", "not", "only", "describe", "the", "details", "of", "the", "Spectrum", "architecture", "but", "also", "give", "typical", "use", "cases", "." ], [ "1", "." ], [ "INTRODUCTION" ], [ "Manipulating", "and", "managing", "content", "is", "and", "has", "always", "been", "one", "of", "the", "primary", "functions", "of", "a", "computer", "." ], [ "Initial", "computing", "applications", "include", "text", "formatters", "and", "program", "compilers", "." ], [ "Content", "was", "initially", "managed", "by", "explicit", "user", "interaction", "through", "the", "use", "of", "files", "and", "filesystems", "." ], [ "As", "technology", "has", "advanced", ",", "both", "the", "types", "of", "content", "and", "the", "way", "people", "wish", "to", "use", "it", "have", "greatly", "changed", "." ], [ "New", "content", "types", "such", "as", "continuous", "multimedia", "streams", "have", "become", "commonplace", "due", "to", "the", "convergence", "of", "advances", "in", "storage", ",", "encoding", ",", "and", "networking", "technologies", "." ], [ "Another", "example", "is", "the", "combination", "of", "encoding", "and", "broadband", "networking", "technology", "." ], [ "This", "combination", "has", "allowed", "users", "to", "access", "and", "share", "multimedia", "content", "in", "both", "local", "and", "remote", "area", "networks", "with", "the", "network", "itself", "acting", "as", "a", "huge", "data", "repository", "." ], [ "The", "proliferation", "of", "high", "quality", "content", "enabled", "by", "these", "advances", "in", "storage", ",", "encoding", ",", "and", "networking", "technology", "creates", "the", "need", "for", "new", "ways", "to", "manipulate", "and", "manage", "the", "data", "." ], [ "The", "focus", "of", "our", "work", "is", "on", "the", "storage", "of", "media", "rich", "content", "and", "in", "particular", "the", "storage", "of", "continuous", "media", "content", "in", "either", "pre-packaged", "or", "``", "live", "''", "forms", "." ], [ "•", "While", "true", "for", "all", "types", "of", "content", "the", "storage", "of", "continuous", "media", "content", "is", "especially", "problematic", "." ], [ "First", "continuous", "media", "content", "is", "still", "very", "demanding", "in", "terms", "of", "storage", "resources", "which", "means", "that", "a", "policy-less", "approach", "to", "storing", "it", "will", "not", "work", "for", "all", "but", "the", "smallest", "systems", "." ], [ "Second", ",", "the", "storing", "of", "``", "live", "''", "content", "such", "as", "TV", "or", "radio", "is", "inherently", "problematic", "as", "these", "signals", "are", "continuous", "streams", "with", "no", "endpoints", "." ], [ "This", "means", "that", "before", "one", "can", "even", "think", "about", "managing", "such", "content", "there", "is", "a", "need", "to", "abstract", "it", "into", "something", "that", "could", "be", "manipulated", "and", "managed", "." ], [ "." ], [ "When", "dealing", "with", "stored", "continuous", "media", "there", "is", "a", "need", "to", "manage", "such", "content", "at", "both", "a", "fine-grained", "as", "well", "as", "an", "aggregate", "level", "." ], [ "For", "example", ",", "an", "individual", "PVR", "user", "wanting", "to", "keep", "only", "the", "highlights", "of", "a", "particular", "sporting", "event", "should", "not", "be", "required", "to", "have", "to", "store", "the", "content", "pertaining", "to", "the", "complete", "event", "." ], [ "." ], [ "As", "indicated", "above", ",", "trying", "to", "keep", "track", "of", "content", "on", "a", "standalone", "system", "without", "a", "content", "management", "system", "is", "very", "difficult", "." ], [ "However", ",", "when", "the", "actual", "storage", "devices", "are", "distributed", "across", "a", "network", "the", "task", "of", "keeping", "track", "of", "content", "is", "almost", "impossible", "." ], [ "This", "scenario", "is", "increasingly", "common", "in", "network", "based", "content", "distribution", "systems", "and", "is", "likely", "to", "also", "become", "important", "in", "home-networking", "scenarios", "." ], [ "It", "would", "seem", "clear", "then", "that", "a", "content", "management", "system", "that", "can", "efficiently", "handle", "media", "rich", "content", "while", "also", "exploiting", "the", "networked", "capability", "of", "storage", "devices", "is", "needed", "." ], [ "This", "system", "should", "allow", "efficient", "storage", "of", "and", "access", "to", "content", "across", "heterogeneous", "network", "storage", "devices", "according", "to", "user", "preferences", "." ], [ "The", "content", "management", "system", "should", "translate", "user", "preferences", "into", "appropriate", "low-level", "storage", "policies", "and", "should", "allow", "those", "preferences", "to", "be", "expressed", "at", "a", "fine", "level", "of", "granularity", "-LRB-", "while", "not", "requiring", "it", "in", "general", "-RRB-", "." ], [ "The", "content", "management", "system", "should", "allow", "the", "user", "to", "manipulate", "and", "reason", "about", "-LRB-", "i.e.", "change", "the", "storage", "policy", "associated", "with", "-RRB-", "the", "storage", "of", "-LRB-", "parts", "of", "-RRB-", "continuous", "media", "content", "." ], [ "Addressing", "this", "distributed", "content", "management", "problem", "is", "difficult", "due", "to", "the", "number", "of", "requirements", "placed", "on", "the", "system", "." ], [ "For", "example", ":", "." ], [ "The", "content", "management", "system", "must", "operate", "on", "a", "large", "number", "of", "heterogeneous", "systems", "." ], [ "In", "some", "cases", "the", "system", "may", "be", "managing", "content", "stored", "on", "a", "local", "filesystem", ",", "while", "in", "others", "the", "content", "may", "be", "stored", "on", "a", "separate", "network", "storage", "appliance", "." ], [ "The", "content", "manager", "may", "be", "responsible", "for", "implementing", "the", "policies", "it", "uses", "to", "reference", "content", "or", "that", "role", "may", "be", "delegated", "to", "a", "separate", "computer", "." ], [ "A", "application", "program", "interface", "-LRB-", "API", "-RRB-", "and", "associated", "network", "protocols", "are", "needed", "in", "order", "for", "the", "content", "management", "system", "to", "provide", "a", "uniform", "interface", "." ], [ "." ], [ "The", "content", "management", "system", "should", "be", "flexible", "and", "be", "able", "to", "handle", "differing", "requirements", "for", "content", "management", "policies", "." ], [ "These", "policies", "reflect", "what", "content", "should", "be", "obtained", ",", "when", "it", "should", "be", "fetched", ",", "how", "long", "it", "should", "be", "retained", ",", "and", "under", "what", "circumstances", "it", "should", "be", "discarded", "." ], [ "This", "means", "that", "the", "content", "management", "system", "should", "allow", "multiple", "applications", "to", "reference", "content", "with", "a", "rich", "set", "of", "policies", "and", "that", "it", "should", "all", "work", "together", "seamlessly", "." ], [ "." ], [ "The", "content", "management", "system", "needs", "to", "be", "able", "to", "monitor", "references", "for", "content", "and", "use", "that", "information", "to", "place", "content", "in", "the", "right", "location", "in", "the", "network", "for", "efficient", "application", "access", "." ], [ "." ], [ "The", "content", "management", "system", "must", "handle", "the", "interaction", "between", "implicit", "and", "explicit", "population", "of", "content", "at", "the", "network", "edge", "." ], [ "." ], [ "The", "content", "system", "must", "be", "able", "to", "efficiently", "manage", "large", "sets", "of", "content", ",", "including", "continuous", "streams", "." ], [ "It", "needs", "to", "be", "able", "to", "package", "this", "content", "in", "such", "a", "way", "that", "it", "is", "convenient", "for", "users", "to", "access", "." ], [ "To", "address", "these", "issues", "we", "have", "designed", "and", "implemented", "the", "Spectrum", "content", "management", "system", "architecture", "." ], [ "It", "allows", "multiple", "applications", "to", "reference", "content", "using", "differing", "policies", "." ], [ "Note", "that", "the", "Spectrum", "architecture", "assumes", "the", "existence", "of", "a", "content", "distribution", "network", "-LRB-", "CDN", "-RRB-", "that", "can", "facilitate", "the", "efficient", "distribution", "of", "content", "-LRB-", "for", "example", ",", "the", "PRISM", "CDN", "architecture", "-LSB-", "2", "-RSB-", "-RRB-", "." ], [ "Section", "2", "describes", "the", "architecture", "of", "our", "content", "management", "system", "." ], [ "In", "Section", "3", "we", "describe", "both", "our", "implementation", "of", "the", "Spectrum", "architecture", "and", "examples", "of", "its", "use", "." ], [ "4", "." ], [ "RELATED", "WORK" ], [ "Several", "authors", "have", "addressed", "the", "problem", "of", "the", "management", "of", "content", "in", "distributed", "networks", "." ], [ "Much", "of", "the", "work", "focuses", "on", "the", "policy", "management", "aspect", "." ], [ "For", "example", "in", "-LSB-", "5", "-RSB-", ",", "the", "problem", "of", "serving", "multimedia", "content", "via", "distributed", "servers", "is", "considered", "." ], [ "Content", "is", "distributed", "among", "server", "resources", "in", "proportion", "to", "user", "demand", "using", "a", "Demand", "Dissemination", "Protocol", "." ], [ "The", "performance", "of", "the", "scheme", "is", "benchmarked", "via", "simulation", "." ], [ "In", "-LSB-", "1", "-RSB-", "content", "is", "distributed", "among", "sub-caches", "." ], [ "The", "Cache", "Knowledge", "base", "allows", "sophisticated", "policies", "to", "be", "employed", "." ], [ "Simulation", "is", "used", "to", "compare", "the", "proposed", "scheme", "with", "well-known", "replacement", "algorithms", "." ], [ "Our", "work", "differs", "in", "that", "we", "are", "considering", "more", "than", "the", "policy", "management", "aspects", "of", "the", "problem", "." ], [ "After", "carefully", "considering", "the", "required", "functionality", "to", "implement", "content", "management", "in", "the", "networked", "environment", ",", "we", "have", "partitioned", "the", "system", "into", "three", "simple", "functions", ",", "namely", "Content", "manager", ",", "Policy", "manager", "and", "Storage", "manager", "." ], [ "This", "has", "allowed", "us", "to", "easily", "implement", "and", "experiment", "with", "a", "prototype", "system", "." ], [ "Other", "related", "work", "involves", "so", "called", "TV", "recommendation", "systems", "which", "are", "used", "in", "PVRs", "to", "automatically", "select", "content", "for", "users", ",", "e.g.", "-LSB-", "6", "-RSB-", "." ], [ "Finally", ",", "in", "the", "commercial", "CDN", "environment", "vendors", "-LRB-", "e.g.", "Cisco", "and", "Netapp", "-RRB-", "have", "developed", "and", "implemented", "content", "management", "products", "and", "tools", "." ], [ "5", "." ], [ "CONCLUSION", "AND", "FUTURE", "WORK" ], [ "In", "this", "paper", "we", "presented", "the", "design", "and", "implementation", "of", "the", "Spectrum", "content", "management", "architecture", "." ], [ "Spectrum", "allows", "storage", "policies", "to", "be", "applied", "to", "large", "volumes", "of", "content", "to", "facilitate", "efficient", "storage", "." ], [ "Specifically", ",", "the", "system", "allows", "different", "policies", "to", "be", "applied", "to", "the", "same", "content", "without", "replication", "." ], [ "Spectrum", "can", "also", "apply", "policies", "that", "are", "``", "time-aware", "''", "which", "effectively", "deals", "with", "the", "storage", "of", "continuous", "media", "content", "." ], [ "Finally", ",", "the", "modular", "design", "of", "the", "Spectrum", "architecture", "allows", "both", "stand-alone", "and", "distributed", "realizations", "so", "that", "the", "system", "can", "be", "deployed", "in", "a", "variety", "of", "applications", "." ], [ "There", "are", "a", "number", "of", "open", "issues", "that", "will", "require", "future", "work", "." ], [ "Some", "of", "these", "issues", "include", ":" ], [ "•", "We", "envision", "Spectrum", "being", "able", "to", "manage", "content", "on", "systems", "ranging", "from", "large", "CDNs", "down", "to", "smaller", "appliances", "such", "as", "TiVO", "-LSB-", "8", "-RSB-", "." ], [ "In", "order", "for", "these", "smaller", "systems", "to", "support", "Spectrum", "they", "will", "require", "networking", "and", "an", "external", "API", "." ], [ "When", "that", "API", "becomes", "available", ",", "we", "will", "have", "to", "work", "out", "how", "it", "can", "be", "fit", "into", "the", "Spectrum", "architecture", "." ], [ "•", "Spectrum", "names", "content", "by", "URL", ",", "but", "we", "have", "intentionally" ], [ "not", "defined", "the", "format", "of", "Spectrum", "URLs", ",", "how", "they", "map", "back", "to", "the", "content", "'s", "actual", "name", ",", "or", "how", "the", "names", "and", "URLs", "should", "be", "presented", "to", "the", "user", "." ], [ "•", "In", "this", "paper", "we", "'ve", "focused", "on", "content", "management", "for", "continuous", "media", "objects", "." ], [ "•", "Any", "project", "that", "helps", "allow", "multimedia", "content", "to", "be", "easily", "shared", "over", "the", "Internet", "will", "have", "legal", "hurdles", "to", "overcome", "before", "it", "can", "achieve", "widespread", "acceptance", "." ], [ "Adapting", "Spectrum", "to", "meet", "legal", "requirements", "will", "likely", "require", "more", "technical", "work", "." ] ]	[ [ "NN", "CC", "NN", "IN", "DT", "VBN", "NNP", "NNP", "NNP" ], [ "NN" ], [ "DT", "NN", "IN", "NNS", "IN", "NN", ",", "VBG", ",", "CC", "VBG", "NNS", "VBZ", "VBN", "PRP", "TO", "DT", "NN", "WRB", "JJ", "NNS", "IN", "JJ", "NNS", "NN", "VBZ", "RB", "VBN", "CC", "VBN", "IN", "NN", "VBD", "NNS", "." ], [ "VBG", "NN", "IN", "-LRB-", "CC", "NN", "-RRB-", "JJ", "NN", "VBZ", "JJ", "JJ", "TO", "DT", "JJ", "NN", "IN", "NNS", "." ], [ "VBG", "``", "VB", "''", "JJ", "NNS", "-LRB-", "JJ", "IN", "NN", "CC", "NN", "NN", "-RRB-", "VBZ", "TO", "DT", "NN", "IN", "IN", "DT", "NN", "VBZ", "RB", "RB", "VBN", "NN", "CC", "NN", "CC", "VBZ", "RB", "JJ", "TO", "VB", "IN", "." ], [ "JJ", "NN", "VBZ", "NN", "WDT", "VBZ", "RB", "VBN", "IN", "NN", "IN", "DT", "JJ", "NN", "TO", "IN", "NN", "VB", "VBN", "IN", "DT", "NN", ",", "VBG", "DT", "NN", "IN", "JJ", "NN", "DT", "CC", "JJ", "TO", "VB", "IN", "IN", "DT", "JJ", "NN", "NN", "." ], [ "IN", "DT", "NN", "PRP", "VBP", "DT", "NN", "CC", "NN", "IN", "DT", "NN", "NN", "NN", "NN", ",", "WDT", "VBZ", "IN", "JJ", "NNS", "NN", "RB", "IN", "DT", "NN", "." ], [ "NN", "VBZ", "DT", "JJ", "NN", "WDT", "VBZ", "PRP$", "NN", "TO", "DT", "JJ", "CC", "JJ", "JJ", "NNS", "." ], [ "DT", "JJ", "NN", "IN", "NN", "VBZ", "IN", "PRP", "VBZ", "CD", "-LRB-", "CC", "JJR", "-RRB-", "NN", "NNS", "TO", "VB", "TO", "DT", "NN", "IN", "NN", "WDT", "VBZ", "VBN", "IN", "DT", "NN", "." ], [ "DT", "VBZ", "IN", "EX", "VBP", "DT", "NN", "NNS", "." ], [ "NN", "IN", "DT", "JJR", "VBZ", "DT", "NN", "NN", "VBD", "TO", "PRP", "VBZ", "RB", "VBN", "IN", "DT", "NN", "." ], [ "JJ", "NN", "NNS", "MD", "RB", "VB", "VBN", "TO", "DT", "JJ", "NN", "RB", "RB", "VBG", "VBG", "IN", "NN", "." ], [ "DT", "NN", "RB", "VBZ", "NN", "TO", "RB", "VB", "NN", "VBN", "NNS", "WDT", "VBP", "JJ", "NN", "NNS", "VBN", "TO", "VB", "IN", "DT", "NN", "IN", "JJ", "JJ", "NNS", ",", "TO", "NN", "." ], [ "PRP", "RB", "RB", "VBP", "DT", "NNS", "IN", "DT", "NN", "NN", "CC", "RB", "VBP", "JJ", "NN", "NNS", "." ], [ "LS", "." ], [ "NN" ], [ "VBG", "CC", "VBG", "NN", "VBZ", "CC", "VBZ", "RB", "VBN", "CD", "IN", "DT", "JJ", "NNS", "IN", "DT", "NN", "." ], [ "JJ", "NN", "NNS", "VBP", "NN", "NNS", "CC", "NN", "NNS", "." ], [ "NN", "VBD", "RB", "VBN", "IN", "JJ", "NN", "NN", "IN", "DT", "NN", "IN", "NNS", "CC", "NNS", "." ], [ "IN", "NN", "VBZ", "VBN", ",", "CC", "DT", "NNS", "IN", "NN", "CC", "DT", "NN", "NNS", "VBP", "TO", "VB", "PRP", "VB", "RB", "VBN", "." ], [ "NNP", "JJ", "NNS", "JJ", "IN", "JJ", "NNS", "NNS", "VBP", "VBN", "NN", "JJ", "TO", "DT", "NN", "IN", "NNS", "IN", "NN", ",", "VBG", ",", "CC", "VBG", "NNS", "." ], [ "DT", "NN", "VBZ", "DT", "NN", "IN", "VBG", "CC", "NN", "NN", "NN", "." ], [ "DT", "NN", "VBZ", "VBN", "NNS", "TO", "NN", "CC", "NN", "NNS", "NN", "IN", "CC", "JJ", "CC", "JJ", "NN", "NNS", "IN", "DT", "NN", "PRP", "VBG", "IN", "DT", "JJ", "NNS", "NN", "." ], [ "DT", "NN", "IN", "JJ", "NN", "NN", "VBD", "IN", "DT", "NNS", "IN", "NN", ",", "VBG", ",", "CC", "VBG", "NN", "VBZ", "DT", "NN", "IN", "JJ", "NNS", "TO", "VB", "CC", "VB", "DT", "NNS", "." ], [ "DT", "NN", "IN", "PRP$", "NN", "VBZ", "IN", "DT", "NN", "IN", "NNS", "JJ", "NN", "CC", "IN", "JJ", "DT", "NN", "IN", "JJ", "NNS", "NN", "IN", "CC", "JJ", "CC", "``", "VB", "''", "NNS", "." ], [ "NN", "IN", "JJ", "IN", "DT", "NNS", "IN", "NN", "DT", "NN", "IN", "JJ", "NNS", "NN", "VBZ", "RB", "JJ", "." ], [ "NNP", "JJ", "NNS", "NN", "VBZ", "RB", "RB", "VBG", "IN", "NNS", "IN", "NN", "NNS", "WDT", "VBZ", "IN", "DT", "JJ", "NN", "TO", "VBG", "PRP", "MD", "RB", "VB", "IN", "DT", "CC", "DT", "JJS", "NNS", "." ], [ "RB", ",", "DT", "VBG", "IN", "``", "JJ", "''", "NN", "JJ", "IN", "NN", "CC", "NN", "VBZ", "RB", "JJ", "IN", "DT", "NNS", "VBP", "JJ", "NNS", "IN", "DT", "NNS", "." ], [ "DT", "VBZ", "IN", "IN", "PRP", "MD", "RB", "VB", "IN", "VBG", "JJ", "NN", "EX", "VBZ", "DT", "NN", "TO", "JJ", "PRP", "IN", "NN", "WDT", "MD", "VB", "VBN", "CC", "VBN", "." ], [ "." ], [ "WRB", "VBG", "IN", "VBN", "JJ", "NNS", "EX", "VBZ", "DT", "NN", "TO", "VB", "JJ", "NN", "IN", "CC", "DT", "JJ", "RB", "RB", "IN", "DT", "JJ", "NN", "." ], [ "IN", "NN", ",", "DT", "JJ", "NNP", "NN", "VBG", "TO", "VB", "RB", "DT", "VBZ", "IN", "DT", "JJ", "VBG", "NN", "MD", "RB", "VB", "VBN", "TO", "VB", "TO", "VB", "DT", "NN", "VBG", "TO", "DT", "JJ", "NN", "." ], [ "." ], [ "IN", "VBN", "IN", ",", "VBG", "TO", "VB", "NN", "IN", "NN", "IN", "DT", "JJ", "NN", "IN", "DT", "JJ", "NN", "NN", "VBZ", "RB", "JJ", "." ], [ "RB", ",", "WRB", "DT", "JJ", "NN", "NNS", "VBP", "VBN", "IN", "DT", "NN", "DT", "NN", "IN", "VBG", "NN", "IN", "NN", "VBZ", "RB", "JJ", "." ], [ "DT", "NN", "VBZ", "RB", "JJ", "IN", "NN", "VBN", "JJ", "NN", "NNS", "CC", "VBZ", "JJ", "TO", "RB", "VB", "JJ", "IN", "JJ", "NNS", "." ], [ "PRP", "MD", "VB", "JJ", "RB", "IN", "DT", "JJ", "NN", "NN", "WDT", "MD", "RB", "VB", "NNS", "JJ", "NN", "IN", "RB", "VBG", "DT", "JJ", "NN", "IN", "NN", "NNS", "VBZ", "VBN", "." ], [ "DT", "NN", "MD", "VB", "JJ", "NN", "IN", "CC", "NN", "TO", "NN", "IN", "JJ", "NN", "NN", "NNS", "VBG", "TO", "NN", "NNS", "." ], [ "DT", "JJ", "NN", "NN", "MD", "VB", "NN", "NNS", "IN", "JJ", "JJ", "NN", "NNS", "CC", "MD", "VB", "DT", "NNS", "TO", "VB", "VBN", "IN", "DT", "JJ", "NN", "IN", "NN", "-LRB-", "IN", "RB", "VBG", "PRP", "IN", "JJ", "-RRB-", "." ], [ "DT", "JJ", "NN", "NN", "MD", "VB", "DT", "NN", "TO", "VB", "CC", "NN", "IN", "-LRB-", "FW", "VB", "DT", "NN", "NN", "VBN", "IN", "-RRB-", "DT", "NN", "IN", "-LRB-", "NNS", "IN", "-RRB-", "JJ", "NNS", "NN", "." ], [ "VBG", "DT", "VBN", "NN", "NN", "NN", "VBZ", "JJ", "JJ", "TO", "DT", "NN", "IN", "NNS", "VBN", "IN", "DT", "NN", "." ], [ "IN", "NN", ":", "." ], [ "DT", "JJ", "NN", "NN", "MD", "VB", "IN", "DT", "JJ", "NN", "IN", "JJ", "NNS", "." ], [ "IN", "DT", "NNS", "DT", "NN", "MD", "VB", "VBG", "JJ", "VBN", "IN", "DT", "JJ", "NN", ",", "IN", "IN", "NNS", "DT", "NN", "MD", "VB", "VBN", "IN", "DT", "JJ", "NN", "NN", "NN", "." ], [ "DT", "JJ", "NN", "MD", "VB", "JJ", "IN", "VBG", "DT", "NNS", "PRP", "VBZ", "TO", "VB", "NN", "CC", "IN", "NN", "MD", "VB", "VBN", "TO", "DT", "JJ", "NN", "." ], [ "DT", "NN", "NN", "NN", "-LRB-", "NN", "-RRB-", "CC", "VBN", "NN", "NNS", "VBP", "VBN", "IN", "NN", "IN", "DT", "NN", "NN", "NN", "TO", "VB", "DT", "JJ", "NN", "." ], [ "." ], [ "DT", "JJ", "NN", "NN", "MD", "VB", "JJ", "CC", "VB", "JJ", "TO", "VB", "VBG", "NNS", "IN", "JJ", "NN", "NNS", "." ], [ "DT", "NNS", "VBP", "WP", "NN", "MD", "VB", "VBN", ",", "WRB", "PRP", "MD", "VB", "VBN", ",", "WRB", "RB", "PRP", "MD", "VB", "VBN", ",", "CC", "IN", "WP", "NNS", "PRP", "MD", "VB", "VBN", "." ], [ "DT", "VBZ", "IN", "DT", "NN", "NN", "NN", "MD", "VB", "JJ", "NNS", "TO", "VB", "NN", "IN", "DT", "JJ", "NN", "IN", "NNS", "CC", "IN", "PRP", "MD", "DT", "VB", "RB", "RB", "." ], [ "." ], [ "DT", "JJ", "NN", "NN", "VBZ", "TO", "VB", "JJ", "TO", "VB", "NNS", "IN", "NN", "CC", "VB", "DT", "NN", "TO", "VB", "NN", "IN", "DT", "NN", "NN", "IN", "DT", "NN", "IN", "JJ", "NN", "NN", "." ], [ "." ], [ "DT", "JJ", "NN", "NN", "MD", "VB", "DT", "NN", "IN", "JJ", "CC", "JJ", "NN", "IN", "NN", "IN", "DT", "NN", "NN", "." ], [ "." ], [ "DT", "NN", "NN", "MD", "VB", "JJ", "TO", "RB", "VB", "JJ", "NNS", "IN", "NN", ",", "VBG", "JJ", "NNS", "." ], [ "PRP", "VBZ", "TO", "VB", "JJ", "TO", "VB", "DT", "NN", "IN", "JJ", "DT", "NN", "IN", "PRP", "VBZ", "JJ", "IN", "NNS", "TO", "NN", "." ], [ "TO", "VB", "DT", "NNS", "PRP", "VBP", "VBN", "CC", "VBN", "DT", "NN", "NN", "NN", "NN", "NN", "." ], [ "PRP", "VBZ", "JJ", "NNS", "TO", "VB", "NN", "VBG", "VBG", "NNS", "." ], [ "VB", "IN", "DT", "NN", "NN", "VBZ", "DT", "NN", "IN", "DT", "JJ", "NN", "NN", "-LRB-", "NN", "-RRB-", "WDT", "MD", "VB", "DT", "JJ", "NN", "IN", "NN", "-LRB-", "IN", "NN", ",", "DT", "NNP", "NN", "NN", "-LRB-", "CD", "-RRB-", "-RRB-", "." ], [ "NN", "CD", "VBZ", "DT", "NN", "IN", "PRP$", "NN", "NN", "NN", "." ], [ "IN", "NN", "CD", "PRP", "VBP", "CC", "PRP$", "NN", "IN", "DT", "NN", "NN", "CC", "NNS", "IN", "PRP$", "NN", "." ], [ "LS", "." ], [ "JJ", "VBP" ], [ "JJ", "NNS", "VBP", "VBN", "DT", "NN", "IN", "DT", "NN", "IN", "NN", "IN", "VBN", "NNS", "." ], [ "JJ", "IN", "DT", "NN", "VBZ", "IN", "DT", "NN", "NN", "NN", "." ], [ "IN", "NN", "IN", "-LRB-", "CD", "-RRB-", ",", "DT", "NN", "IN", "VBG", "NNS", "JJ", "IN", "VBN", "NNS", "VBZ", "VBN", "." ], [ "NN", "VBZ", "VBN", "IN", "NN", "NNS", "IN", "NN", "TO", "NN", "NN", "VBG", "DT", "NN", "NN", "NNP", "." ], [ "DT", "NN", "IN", "DT", "NN", "VBZ", "VBN", "IN", "NN", "." ], [ "IN", "-LRB-", "CD", "-RRB-", "NN", "VBZ", "VBN", "IN", "NNS", "." ], [ "DT", "NNP", "NN", "NN", "VBZ", "JJ", "NNS", "TO", "VB", "VBN", "." ], [ "NN", "VBZ", "VBN", "TO", "VB", "DT", "VBN", "NN", "IN", "JJ", "NN", "NNS", "." ], [ "PRP$", "NN", "VBZ", "IN", "DT", "PRP", "VBP", "VBG", "JJR", "IN", "DT", "NN", "NN", "NNS", "IN", "DT", "NN", "." ], [ "IN", "RB", "VBG", "DT", "VBN", "NN", "TO", "VB", "JJ", "NN", "IN", "DT", "JJ", "NN", ",", "PRP", "VBP", "VBN", "DT", "NN", "IN", "CD", "JJ", "NNS", ",", "RB", "NN", "NN", ",", "NN", "NN", "CC", "NN", "NN", "." ], [ "DT", "VBZ", "VBN", "PRP", "TO", "RB", "VB", "CC", "NN", "IN", "DT", "NN", "NN", "." ], [ "JJ", "JJ", "NN", "VBZ", "RB", "VBN", "NN", "NN", "NNS", "WDT", "VBP", "VBN", "IN", "NNS", "TO", "RB", "JJ", "NN", "IN", "NNS", ",", "FW", "-LRB-", "CD", "-RRB-", "." ], [ "RB", ",", "IN", "DT", "JJ", "JJ", "NN", "NNS", "-LRB-", "FW", "NNP", "CC", "NNP", "-RRB-", "VBP", "VBN", "CC", "VBN", "JJ", "NN", "NNS", "CC", "NNS", "." ], [ "CD", "." ], [ "NN", "CC", "NN", "VBP" ], [ "IN", "DT", "NN", "PRP", "VBD", "DT", "NN", "CC", "NN", "IN", "DT", "NN", "NN", "NN", "NN", "." ], [ "NN", "VBZ", "NN", "NNS", "TO", "VB", "VBN", "TO", "JJ", "NNS", "IN", "NN", "TO", "VB", "JJ", "NN", "." ], [ "RB", ",", "DT", "NN", "VBZ", "JJ", "NNS", "TO", "VB", "VBN", "TO", "DT", "JJ", "NN", "IN", "NN", "." ], [ "NN", "MD", "RB", "VB", "NNS", "WDT", "VBP", "``", "JJ", "''", "WDT", "RB", "VBZ", "IN", "DT", "NN", "IN", "JJ", "NNS", "NN", "." ], [ "RB", ",", "DT", "JJ", "NN", "IN", "DT", "NN", "NN", "VBZ", "CC", "JJ", "CC", "VBN", "NNS", "IN", "IN", "DT", "NN", "MD", "VB", "VBN", "IN", "DT", "NN", "IN", "NNS", "." ], [ "EX", "VBP", "DT", "NN", "IN", "JJ", "NNS", "WDT", "MD", "VB", "JJ", "NN", "." ], [ "DT", "IN", "DT", "NNS", "VBP", ":" ], [ "NN", "PRP", "VBP", "NN", "VBG", "JJ", "TO", "VB", "NN", "IN", "NNS", "VBG", "IN", "JJ", "NNS", "IN", "TO", "JJR", "NNS", "JJ", "IN", "NN", "-LRB-", "CD", "-RRB-", "." ], [ "IN", "NN", "IN", "DT", "JJR", "NNS", "TO", "VB", "NN", "PRP", "MD", "VB", "NN", "CC", "DT", "JJ", "NNP", "." ], [ "WRB", "DT", "NN", "VBZ", "JJ", ",", "PRP", "MD", "VB", "TO", "VB", "RP", "WRB", "PRP", "MD", "VB", "VBN", "IN", "DT", "NN", "NN", "." ], [ "NN", "NN", "NNS", "NN", "IN", "NN", ",", "CC", "PRP", "VBP", "RB" ], [ "RB", "VBN", "DT", "NN", "IN", "NNP", "NNP", ",", "WRB", "PRP", "VBP", "RB", "TO", "DT", "NN", "POS", "JJ", "NN", ",", "CC", "WRB", "DT", "NNS", "CC", "NNS", "MD", "VB", "VBN", "TO", "DT", "NN", "." ], [ "NN", "IN", "DT", "NN", "PRP", "VBP", "VBN", "IN", "JJ", "NN", "IN", "JJ", "NNS", "NNS", "." ], [ "NN", "DT", "NN", "WDT", "VBZ", "VB", "NNS", "NN", "TO", "VB", "RB", "VBN", "IN", "DT", "NN", "MD", "VB", "JJ", "NNS", "TO", "VB", "IN", "PRP", "MD", "VB", "JJ", "NN", "." ], [ "VBG", "NN", "TO", "VB", "JJ", "NNS", "MD", "RB", "VB", "JJR", "JJ", "NN", "." ] ]	[ [ "design", "and", "implementation", "of", "a", "distribute", "Content", "Management", "System" ], [ "abstract" ], [ "the", "convergence", "of", "advance", "in", "storage", ",", "encode", ",", "and", "network", "technology", "have", "bring", "we", "to", "a", "environment", "where", "huge", "amount", "of", "continuous", "media", "content", "be", "routinely", "store", "and", "exchange", "between", "network", "enable", "device", "." ], [ "keep", "track", "of", "-lrb-", "or", "managing", "-rrb-", "such", "content", "remain", "challenging", "due", "to", "the", "sheer", "volume", "of", "datum", "." ], [ "store", "``", "live", "''", "continuous", "media", "-lrb-", "such", "as", "tv", "or", "radio", "content", "-rrb-", "add", "to", "the", "complexity", "in", "that", "this", "content", "have", "no", "well", "define", "start", "or", "end", "and", "be", "therefore", "cumbersome", "to", "deal", "with", "." ], [ "networked", "storage", "allow", "content", "that", "be", "logically", "view", "as", "part", "of", "the", "same", "collection", "to", "in", "fact", "be", "distribute", "across", "a", "network", ",", "make", "the", "task", "of", "content", "management", "all", "but", "impossible", "to", "deal", "with", "without", "a", "content", "management", "system", "." ], [ "in", "this", "paper", "we", "present", "the", "design", "and", "implementation", "of", "the", "spectrum", "content", "management", "system", ",", "which", "deal", "with", "rich", "media", "content", "effectively", "in", "this", "environment", "." ], [ "spectrum", "have", "a", "modular", "architecture", "that", "allow", "its", "application", "to", "both", "stand-alone", "and", "various", "networked", "scenario", "." ], [ "a", "unique", "aspect", "of", "spectrum", "be", "that", "it", "require", "one", "-lrb-", "or", "more", "-rrb-", "retention", "policy", "to", "apply", "to", "every", "piece", "of", "content", "that", "be", "store", "in", "the", "system", "." ], [ "this", "mean", "that", "there", "be", "no", "eviction", "policy", "." ], [ "content", "that", "no", "longer", "have", "a", "retention", "policy", "apply", "to", "it", "be", "simply", "remove", "from", "the", "system", "." ], [ "different", "retention", "policy", "can", "easily", "be", "apply", "to", "the", "same", "content", "thus", "naturally", "facilitate", "share", "without", "duplication", "." ], [ "this", "approach", "also", "allow", "spectrum", "to", "easily", "apply", "time", "base", "policy", "which", "be", "basic", "building", "block", "require", "to", "deal", "with", "the", "storage", "of", "live", "continuous", "media", ",", "to", "content", "." ], [ "we", "not", "only", "describe", "the", "detail", "of", "the", "spectrum", "architecture", "but", "also", "give", "typical", "use", "case", "." ], [ "1", "." ], [ "introduction" ], [ "manipulate", "and", "manage", "content", "be", "and", "have", "always", "be", "one", "of", "the", "primary", "function", "of", "a", "computer", "." ], [ "initial", "computing", "application", "include", "text", "formatter", "and", "program", "compiler", "." ], [ "content", "be", "initially", "manage", "by", "explicit", "user", "interaction", "through", "the", "use", "of", "file", "and", "filesystem", "." ], [ "as", "technology", "have", "advance", ",", "both", "the", "type", "of", "content", "and", "the", "way", "people", "wish", "to", "use", "it", "have", "greatly", "change", "." ], [ "New", "content", "type", "such", "as", "continuous", "multimedia", "stream", "have", "become", "commonplace", "due", "to", "the", "convergence", "of", "advance", "in", "storage", ",", "encode", ",", "and", "network", "technology", "." ], [ "another", "example", "be", "the", "combination", "of", "encode", "and", "broadband", "networking", "technology", "." ], [ "this", "combination", "have", "allow", "user", "to", "access", "and", "share", "multimedia", "content", "in", "both", "local", "and", "remote", "area", "network", "with", "the", "network", "itself", "act", "as", "a", "huge", "datum", "repository", "." ], [ "the", "proliferation", "of", "high", "quality", "content", "enable", "by", "these", "advance", "in", "storage", ",", "encode", ",", "and", "network", "technology", "create", "the", "need", "for", "new", "way", "to", "manipulate", "and", "manage", "the", "datum", "." ], [ "the", "focus", "of", "we", "work", "be", "on", "the", "storage", "of", "media", "rich", "content", "and", "in", "particular", "the", "storage", "of", "continuous", "media", "content", "in", "either", "pre-packaged", "or", "``", "live", "''", "form", "." ], [ "•", "while", "true", "for", "all", "type", "of", "content", "the", "storage", "of", "continuous", "media", "content", "be", "especially", "problematic", "." ], [ "First", "continuous", "media", "content", "be", "still", "very", "demand", "in", "term", "of", "storage", "resource", "which", "mean", "that", "a", "policy-less", "approach", "to", "store", "it", "will", "not", "work", "for", "all", "but", "the", "smallest", "system", "." ], [ "second", ",", "the", "store", "of", "``", "live", "''", "content", "such", "as", "tv", "or", "radio", "be", "inherently", "problematic", "as", "these", "signal", "be", "continuous", "stream", "with", "no", "endpoint", "." ], [ "this", "mean", "that", "before", "one", "can", "even", "think", "about", "manage", "such", "content", "there", "be", "a", "need", "to", "abstract", "it", "into", "something", "that", "could", "be", "manipulate", "and", "manage", "." ], [ "." ], [ "when", "deal", "with", "store", "continuous", "media", "there", "be", "a", "need", "to", "manage", "such", "content", "at", "both", "a", "fine-grained", "as", "well", "as", "a", "aggregate", "level", "." ], [ "for", "example", ",", "a", "individual", "PVR", "user", "want", "to", "keep", "only", "the", "highlight", "of", "a", "particular", "sport", "event", "should", "not", "be", "require", "to", "have", "to", "store", "the", "content", "pertain", "to", "the", "complete", "event", "." ], [ "." ], [ "as", "indicate", "above", ",", "try", "to", "keep", "track", "of", "content", "on", "a", "standalone", "system", "without", "a", "content", "management", "system", "be", "very", "difficult", "." ], [ "however", ",", "when", "the", "actual", "storage", "device", "be", "distribute", "across", "a", "network", "the", "task", "of", "keep", "track", "of", "content", "be", "almost", "impossible", "." ], [ "this", "scenario", "be", "increasingly", "common", "in", "network", "base", "content", "distribution", "system", "and", "be", "likely", "to", "also", "become", "important", "in", "home-networking", "scenario", "." ], [ "it", "would", "seem", "clear", "then", "that", "a", "content", "management", "system", "that", "can", "efficiently", "handle", "media", "rich", "content", "while", "also", "exploit", "the", "networked", "capability", "of", "storage", "device", "be", "need", "." ], [ "this", "system", "should", "allow", "efficient", "storage", "of", "and", "access", "to", "content", "across", "heterogeneous", "network", "storage", "device", "accord", "to", "user", "preference", "." ], [ "the", "content", "management", "system", "should", "translate", "user", "preference", "into", "appropriate", "low-level", "storage", "policy", "and", "should", "allow", "those", "preference", "to", "be", "express", "at", "a", "fine", "level", "of", "granularity", "-lrb-", "while", "not", "require", "it", "in", "general", "-rrb-", "." ], [ "the", "content", "management", "system", "should", "allow", "the", "user", "to", "manipulate", "and", "reason", "about", "-lrb-", "i.e.", "change", "the", "storage", "policy", "associate", "with", "-rrb-", "the", "storage", "of", "-lrb-", "part", "of", "-rrb-", "continuous", "media", "content", "." ], [ "address", "this", "distribute", "content", "management", "problem", "be", "difficult", "due", "to", "the", "number", "of", "requirement", "place", "on", "the", "system", "." ], [ "for", "example", ":", "." ], [ "the", "content", "management", "system", "must", "operate", "on", "a", "large", "number", "of", "heterogeneous", "system", "." ], [ "in", "some", "case", "the", "system", "may", "be", "manage", "content", "store", "on", "a", "local", "filesystem", ",", "while", "in", "other", "the", "content", "may", "be", "store", "on", "a", "separate", "network", "storage", "appliance", "." ], [ "the", "content", "manager", "may", "be", "responsible", "for", "implement", "the", "policy", "it", "use", "to", "reference", "content", "or", "that", "role", "may", "be", "delegate", "to", "a", "separate", "computer", "." ], [ "a", "application", "program", "interface", "-lrb-", "api", "-rrb-", "and", "associate", "network", "protocol", "be", "need", "in", "order", "for", "the", "content", "management", "system", "to", "provide", "a", "uniform", "interface", "." ], [ "." ], [ "the", "content", "management", "system", "should", "be", "flexible", "and", "be", "able", "to", "handle", "differ", "requirement", "for", "content", "management", "policy", "." ], [ "these", "policy", "reflect", "what", "content", "should", "be", "obtain", ",", "when", "it", "should", "be", "fetch", ",", "how", "long", "it", "should", "be", "retain", ",", "and", "under", "what", "circumstance", "it", "should", "be", "discard", "." ], [ "this", "mean", "that", "the", "content", "management", "system", "should", "allow", "multiple", "application", "to", "reference", "content", "with", "a", "rich", "set", "of", "policy", "and", "that", "it", "should", "all", "work", "together", "seamlessly", "." ], [ "." ], [ "the", "content", "management", "system", "need", "to", "be", "able", "to", "monitor", "reference", "for", "content", "and", "use", "that", "information", "to", "place", "content", "in", "the", "right", "location", "in", "the", "network", "for", "efficient", "application", "access", "." ], [ "." ], [ "the", "content", "management", "system", "must", "handle", "the", "interaction", "between", "implicit", "and", "explicit", "population", "of", "content", "at", "the", "network", "edge", "." ], [ "." ], [ "the", "content", "system", "must", "be", "able", "to", "efficiently", "manage", "large", "set", "of", "content", ",", "include", "continuous", "stream", "." ], [ "it", "need", "to", "be", "able", "to", "package", "this", "content", "in", "such", "a", "way", "that", "it", "be", "convenient", "for", "user", "to", "access", "." ], [ "to", "address", "these", "issue", "we", "have", "design", "and", "implement", "the", "spectrum", "content", "management", "system", "architecture", "." ], [ "it", "allow", "multiple", "application", "to", "reference", "content", "use", "differ", "policy", "." ], [ "note", "that", "the", "spectrum", "architecture", "assume", "the", "existence", "of", "a", "content", "distribution", "network", "-lrb-", "cdn", "-rrb-", "that", "can", "facilitate", "the", "efficient", "distribution", "of", "content", "-lrb-", "for", "example", ",", "the", "PRISM", "cdn", "architecture", "-lsb-", "2", "-rsb-", "-rrb-", "." ], [ "section", "2", "describe", "the", "architecture", "of", "we", "content", "management", "system", "." ], [ "in", "section", "3", "we", "describe", "both", "we", "implementation", "of", "the", "spectrum", "architecture", "and", "example", "of", "its", "use", "." ], [ "4", "." ], [ "related", "work" ], [ "several", "author", "have", "address", "the", "problem", "of", "the", "management", "of", "content", "in", "distribute", "network", "." ], [ "much", "of", "the", "work", "focus", "on", "the", "policy", "management", "aspect", "." ], [ "for", "example", "in", "-lsb-", "5", "-rsb-", ",", "the", "problem", "of", "serve", "multimedia", "content", "via", "distribute", "server", "be", "consider", "." ], [ "content", "be", "distribute", "among", "server", "resource", "in", "proportion", "to", "user", "demand", "use", "a", "demand", "dissemination", "Protocol", "." ], [ "the", "performance", "of", "the", "scheme", "be", "benchmark", "via", "simulation", "." ], [ "in", "-lsb-", "1", "-rsb-", "content", "be", "distribute", "among", "sub-cache", "." ], [ "the", "Cache", "knowledge", "base", "allow", "sophisticated", "policy", "to", "be", "employ", "." ], [ "simulation", "be", "use", "to", "compare", "the", "propose", "scheme", "with", "well-known", "replacement", "algorithm", "." ], [ "we", "work", "differ", "in", "that", "we", "be", "consider", "more", "than", "the", "policy", "management", "aspect", "of", "the", "problem", "." ], [ "after", "carefully", "consider", "the", "require", "functionality", "to", "implement", "content", "management", "in", "the", "networked", "environment", ",", "we", "have", "partition", "the", "system", "into", "three", "simple", "function", ",", "namely", "content", "manager", ",", "policy", "manager", "and", "storage", "manager", "." ], [ "this", "have", "allow", "we", "to", "easily", "implement", "and", "experiment", "with", "a", "prototype", "system", "." ], [ "other", "related", "work", "involve", "so", "call", "tv", "recommendation", "system", "which", "be", "use", "in", "pvr", "to", "automatically", "select", "content", "for", "user", ",", "e.g.", "-lsb-", "6", "-rsb-", "." ], [ "finally", ",", "in", "the", "commercial", "cdn", "environment", "vendor", "-lrb-", "e.g.", "Cisco", "and", "Netapp", "-rrb-", "have", "develop", "and", "implement", "content", "management", "product", "and", "tool", "." ], [ "5", "." ], [ "conclusion", "and", "future", "work" ], [ "in", "this", "paper", "we", "present", "the", "design", "and", "implementation", "of", "the", "spectrum", "content", "management", "architecture", "." ], [ "spectrum", "allow", "storage", "policy", "to", "be", "apply", "to", "large", "volume", "of", "content", "to", "facilitate", "efficient", "storage", "." ], [ "specifically", ",", "the", "system", "allow", "different", "policy", "to", "be", "apply", "to", "the", "same", "content", "without", "replication", "." ], [ "spectrum", "can", "also", "apply", "policy", "that", "be", "``", "time-aware", "''", "which", "effectively", "deal", "with", "the", "storage", "of", "continuous", "media", "content", "." ], [ "finally", ",", "the", "modular", "design", "of", "the", "spectrum", "architecture", "allow", "both", "stand-alone", "and", "distribute", "realization", "so", "that", "the", "system", "can", "be", "deploy", "in", "a", "variety", "of", "application", "." ], [ "there", "be", "a", "number", "of", "open", "issue", "that", "will", "require", "future", "work", "." ], [ "some", "of", "these", "issue", "include", ":" ], [ "•", "we", "envision", "spectrum", "be", "able", "to", "manage", "content", "on", "system", "range", "from", "large", "cdn", "down", "to", "smaller", "appliance", "such", "as", "tivo", "-lsb-", "8", "-rsb-", "." ], [ "in", "order", "for", "these", "smaller", "system", "to", "support", "spectrum", "they", "will", "require", "networking", "and", "a", "external", "API", "." ], [ "when", "that", "api", "become", "available", ",", "we", "will", "have", "to", "work", "out", "how", "it", "can", "be", "fit", "into", "the", "spectrum", "architecture", "." ], [ "•", "spectrum", "name", "content", "by", "url", ",", "but", "we", "have", "intentionally" ], [ "not", "define", "the", "format", "of", "Spectrum", "URLs", ",", "how", "they", "map", "back", "to", "the", "content", "'s", "actual", "name", ",", "or", "how", "the", "name", "and", "url", "should", "be", "present", "to", "the", "user", "." ], [ "•", "in", "this", "paper", "we", "have", "focus", "on", "content", "management", "for", "continuous", "media", "object", "." ], [ "•", "any", "project", "that", "help", "allow", "multimedia", "content", "to", "be", "easily", "share", "over", "the", "internet", "will", "have", "legal", "hurdle", "to", "overcome", "before", "it", "can", "achieve", "widespread", "acceptance", "." ], [ "adapt", "spectrum", "to", "meet", "legal", "requirement", "will", "likely", "require", "more", "technical", "work", "." ] ]	[ "spectrum content manag system", "continu media storag", "home-network scenario", "applic program interfac", "content distribut network", "uniform resourc locat", "polici manag", "network enabl dvr", "high-perform databas system", "carrier-grade spectrum manag" ]
H-10	[ [ "Regularized", "Clustering", "for", "Documents", "*" ], [ "ABSTRACT" ], [ "In", "recent", "years", ",", "document", "clustering", "has", "been", "receiving", "more", "and", "more", "attentions", "as", "an", "important", "and", "fundamental", "technique", "for", "unsupervised", "document", "organization", ",", "automatic", "topic", "extraction", ",", "and", "fast", "information", "retrieval", "or", "filtering", "." ], [ "In", "this", "paper", ",", "we", "propose", "a", "novel", "method", "for", "clustering", "documents", "using", "regularization", "." ], [ "Unlike", "traditional", "globally", "regularized", "clustering", "methods", ",", "our", "method", "first", "construct", "a", "local", "regularized", "linear", "label", "predictor", "for", "each", "document", "vector", ",", "and", "then", "combine", "all", "those", "local", "regularizers", "with", "a", "global", "smoothness", "regularizer", "." ], [ "So", "we", "call", "our", "algorithm", "Clustering", "with", "Local", "and", "Global", "Regularization", "-LRB-", "CLGR", "-RRB-", "." ], [ "We", "will", "show", "that", "the", "cluster", "memberships", "of", "the", "documents", "can", "be", "achieved", "by", "eigenvalue", "decomposition", "of", "a", "sparse", "symmetric", "matrix", ",", "which", "can", "be", "efficiently", "solved", "by", "iterative", "methods", "." ], [ "Finally", "our", "experimental", "evaluations", "on", "several", "datasets", "are", "presented", "to", "show", "the", "superiorities", "of", "CLGR", "over", "traditional", "document", "clustering", "methods", "." ], [ "1", "." ], [ "INTRODUCTION" ], [ "Document", "clustering", "has", "been", "receiving", "more", "and", "more", "attentions", "as", "an", "important", "and", "fundamental", "technique", "for", "unsupervised", "document", "organization", ",", "automatic", "topic", "extraction", ",", "and", "fast", "information", "retrieval", "or", "filtering", "." ], [ "A", "good", "document", "clustering", "approach", "can", "assist", "the", "computers", "to", "automatically", "organize", "the", "document", "corpus", "into", "a", "meaningful", "cluster", "hierarchy", "for", "efficient", "browsing", "and", "navigation", ",", "which", "is", "very", "valuable", "for", "complementing", "the", "deficiencies", "of", "traditional", "information", "retrieval", "technologies", "." ], [ "In", "such", "cases", ",", "efficient", "browsing", "through", "a", "good", "cluster", "hierarchy", "will", "be", "definitely", "helpful", "." ], [ "Generally", ",", "document", "clustering", "methods", "can", "be", "mainly", "categorized", "into", "two", "classes", ":", "hierarchical", "methods", "and", "partitioning", "methods", "." ], [ "The", "hierarchical", "methods", "group", "the", "data", "points", "into", "a", "hierarchical", "tree", "structure", "using", "bottom-up", "or", "top-down", "approaches", "." ], [ "For", "example", ",", "hierarchical", "agglomerative", "clustering", "-LRB-", "HAC", "-RRB-", "-LSB-", "13", "-RSB-", "is", "a", "typical", "bottom-up", "hierarchical", "clustering", "method", "." ], [ "It", "takes", "each", "data", "point", "as", "a", "single", "cluster", "to", "start", "off", "with", "and", "then", "builds", "bigger", "and", "bigger", "clusters", "by", "grouping", "similar", "data", "points", "together", "until", "the", "entire", "dataset", "is", "encapsulated", "into", "one", "final", "cluster", "." ], [ "On", "the", "other", "hand", ",", "partitioning", "methods", "decompose", "the", "dataset", "into", "a", "number", "of", "disjoint", "clusters", "which", "are", "usually", "optimal", "in", "terms", "of", "some", "predefined", "criterion", "functions", "." ], [ "For", "instance", ",", "K-means", "-LSB-", "13", "-RSB-", "is", "a", "typical", "partitioning", "method", "which", "aims", "to", "minimize", "the", "sum", "of", "the", "squared", "distance", "between", "the", "data", "points", "and", "their", "corresponding", "cluster", "centers", "." ], [ "In", "this", "paper", ",", "we", "will", "focus", "on", "the", "partitioning", "methods", "." ], [ "In", "the", "last", "decades", ",", "many", "methods", "have", "been", "proposed", "to", "overcome", "the", "above", "problems", "of", "the", "partitioning", "methods", "-LSB-", "19", "-RSB-", "-LSB-", "28", "-RSB-", "." ], [ "Recently", ",", "another", "type", "of", "partitioning", "methods", "based", "on", "clustering", "on", "data", "graphs", "have", "aroused", "considerable", "interests", "in", "the", "machine", "learning", "and", "data", "mining", "community", "." ], [ "The", "basic", "idea", "behind", "these", "methods", "is", "to", "first", "model", "the", "whole", "dataset", "as", "a", "weighted", "graph", ",", "in", "which", "the", "graph", "nodes", "represent", "the", "data", "points", ",", "and", "the", "weights", "on", "the", "edges", "correspond", "to", "the", "similarities", "between", "pairwise", "points", "." ], [ "Then", "the", "cluster", "assignments", "of", "the", "dataset", "can", "be", "achieved", "by", "optimizing", "some", "criterions", "defined", "on", "the", "graph", "." ], [ "After", "some", "relaxations", ",", "these", "criterions", "can", "usually", "be", "optimized", "via", "eigen-decompositions", ",", "which", "is", "guaranteed", "to", "be", "global", "optimal", "." ], [ "In", "this", "way", ",", "spectral", "clustering", "efficiently", "avoids", "the", "problems", "of", "the", "traditional", "partitioning", "methods", "as", "we", "introduced", "in", "last", "paragraph", "." ], [ "In", "this", "paper", ",", "we", "propose", "a", "novel", "document", "clustering", "algorithm", "that", "inherits", "the", "superiority", "of", "spectral", "clustering", ",", "i.e.", "the", "final", "cluster", "results", "can", "also", "be", "obtained", "by", "exploit", "the", "eigen-structure", "of", "a", "symmetric", "matrix", "." ], [ "So", "we", "call", "our", "method", "Clustering", "with", "Local", "and", "Global", "Regularization", "-LRB-", "CLGR", "-RRB-", "." ], [ "The", "idea", "of", "incorporating", "both", "local", "and", "global", "information", "into", "label", "prediction", "is", "inspired", "by", "the", "recent", "works", "on", "semi-supervised", "learning", "-LSB-", "31", "-RSB-", ",", "and", "our", "experimental", "evaluations", "on", "several", "real", "document", "datasets", "show", "that", "CLGR", "performs", "better", "than", "many", "state-of-the-art", "clustering", "methods", "." ], [ "The", "rest", "of", "this", "paper", "is", "organized", "as", "follows", ":", "in", "section", "2", "we", "will", "introduce", "our", "CLGR", "algorithm", "in", "detail", "." ], [ "The", "experimental", "results", "on", "several", "datasets", "are", "presented", "in", "section", "3", ",", "followed", "by", "the", "conclusions", "and", "discussions", "in", "section", "4", "." ], [ "4", "." ], [ "CONCLUSIONS", "AND", "FUTURE", "WORKS" ], [ "In", "this", "paper", ",", "we", "derived", "a", "new", "clustering", "algorithm", "called", "clustering", "with", "local", "and", "global", "regularization", "." ], [ "Our", "method", "preserves", "the", "merit", "of", "local", "learning", "algorithms", "and", "spectral", "clustering", "." ], [ "Our", "experiments", "show", "that", "the", "proposed", "algorithm", "outperforms", "most", "of", "the", "state", "of", "the", "art", "algorithms", "on", "many", "benchmark", "datasets", "." ], [ "In", "the", "future", ",", "we", "will", "focus", "on", "the", "parameter", "selection", "and", "acceleration", "issues", "of", "the", "CLGR", "algorithm", "." ] ]	[ [ "VBN", "NN", "IN", "NNS", "SYM" ], [ "NN" ], [ "IN", "JJ", "NNS", ",", "NN", "NN", "VBZ", "VBN", "VBG", "RBR", "CC", "RBR", "NNS", "IN", "DT", "JJ", "CC", "JJ", "NN", "IN", "JJ", "NN", "NN", ",", "JJ", "NN", "NN", ",", "CC", "JJ", "NN", "NN", "CC", "VBG", "." ], [ "IN", "DT", "NN", ",", "PRP", "VBP", "DT", "JJ", "NN", "IN", "NN", "NNS", "VBG", "NN", "." ], [ "IN", "JJ", "RB", "VBN", "NN", "NNS", ",", "PRP$", "NN", "RB", "VB", "DT", "JJ", "JJ", "JJ", "NN", "NN", "IN", "DT", "NN", "NN", ",", "CC", "RB", "VBP", "PDT", "DT", "JJ", "NNS", "IN", "DT", "JJ", "NN", "NN", "." ], [ "IN", "PRP", "VBP", "PRP$", "NN", "VBG", "IN", "JJ", "CC", "JJ", "NN", "-LRB-", "NN", "-RRB-", "." ], [ "PRP", "MD", "VB", "IN", "DT", "NN", "NNS", "IN", "DT", "NNS", "MD", "VB", "VBN", "IN", "NN", "NN", "IN", "DT", "JJ", "JJ", "NN", ",", "WDT", "MD", "VB", "RB", "VBN", "IN", "JJ", "NNS", "." ], [ "RB", "PRP$", "JJ", "NNS", "IN", "JJ", "NNS", "VBP", "VBN", "TO", "VB", "DT", "NNS", "IN", "NN", "IN", "JJ", "NN", "NN", "NNS", "." ], [ "LS", "." ], [ "NN" ], [ "NNP", "NN", "VBZ", "VBN", "VBG", "RBR", "CC", "RBR", "NNS", "IN", "DT", "JJ", "CC", "JJ", "NN", "IN", "JJ", "NN", "NN", ",", "JJ", "NN", "NN", ",", "CC", "JJ", "NN", "NN", "CC", "VBG", "." ], [ "DT", "JJ", "NN", "NN", "NN", "MD", "VB", "DT", "NNS", "TO", "RB", "VB", "DT", "NN", "NN", "IN", "DT", "JJ", "NN", "NN", "IN", "JJ", "VBG", "CC", "NN", ",", "WDT", "VBZ", "RB", "JJ", "IN", "VBG", "DT", "NNS", "IN", "JJ", "NN", "NN", "NNS", "." ], [ "IN", "JJ", "NNS", ",", "JJ", "VBG", "IN", "DT", "JJ", "NN", "NN", "MD", "VB", "RB", "JJ", "." ], [ "RB", ",", "NN", "NN", "NNS", "MD", "VB", "RB", "VBN", "IN", "CD", "NNS", ":", "JJ", "NNS", "CC", "VBG", "NNS", "." ], [ "DT", "JJ", "NNS", "NN", "DT", "NNS", "NNS", "IN", "DT", "JJ", "NN", "NN", "VBG", "JJ", "CC", "JJ", "NNS", "." ], [ "IN", "NN", ",", "JJ", "JJ", "NN", "-LRB-", "NN", "-RRB-", "-LRB-", "CD", "-RRB-", "VBZ", "DT", "JJ", "JJ", "JJ", "NN", "NN", "." ], [ "PRP", "VBZ", "DT", "NNS", "NN", "IN", "DT", "JJ", "NN", "TO", "VB", "RP", "IN", "CC", "RB", "VBZ", "JJR", "CC", "JJR", "NNS", "IN", "VBG", "JJ", "NNS", "NNS", "RB", "IN", "DT", "JJ", "NN", "VBZ", "VBN", "IN", "CD", "JJ", "NN", "." ], [ "IN", "DT", "JJ", "NN", ",", "VBG", "NNS", "VBP", "DT", "NN", "IN", "DT", "NN", "IN", "NN", "NNS", "WDT", "VBP", "RB", "JJ", "IN", "NNS", "IN", "DT", "VBN", "NN", "NNS", "." ], [ "IN", "NN", ",", "JJ", "-LRB-", "CD", "-RRB-", "VBZ", "DT", "JJ", "NN", "NN", "WDT", "VBZ", "TO", "VB", "DT", "NN", "IN", "DT", "VBN", "NN", "IN", "DT", "NNS", "NNS", "CC", "PRP$", "JJ", "NN", "NNS", "." ], [ "IN", "DT", "NN", ",", "PRP", "MD", "VB", "IN", "DT", "NN", "NNS", "." ], [ "IN", "DT", "JJ", "NNS", ",", "JJ", "NNS", "VBP", "VBN", "VBN", "TO", "VB", "DT", "JJ", "NNS", "IN", "DT", "NN", "NNS", "-LRB-", "CD", "-RRB-", "-LRB-", "CD", "-RRB-", "." ], [ "RB", ",", "DT", "NN", "IN", "VBG", "NNS", "VBN", "IN", "NN", "IN", "NNS", "NNS", "VBP", "VBN", "JJ", "NNS", "IN", "DT", "NN", "NN", "CC", "NNS", "NN", "NN", "." ], [ "DT", "JJ", "NN", "IN", "DT", "NNS", "VBZ", "TO", "JJ", "NN", "DT", "JJ", "NN", "IN", "DT", "JJ", "NN", ",", "IN", "WDT", "DT", "NN", "NNS", "VBP", "DT", "NNS", "NNS", ",", "CC", "DT", "NNS", "IN", "DT", "NNS", "VBP", "TO", "DT", "NNS", "IN", "JJ", "NNS", "." ], [ "RB", "DT", "NN", "NNS", "IN", "DT", "NN", "MD", "VB", "VBN", "IN", "VBG", "DT", "NNS", "VBN", "IN", "DT", "NN", "." ], [ "IN", "DT", "NNS", ",", "DT", "NNS", "MD", "RB", "VB", "VBN", "IN", "NNS", ",", "WDT", "VBZ", "VBN", "TO", "VB", "JJ", "JJ", "." ], [ "IN", "DT", "NN", ",", "JJ", "NN", "RB", "VBZ", "DT", "NNS", "IN", "DT", "JJ", "NN", "NNS", "IN", "PRP", "VBD", "IN", "JJ", "NN", "." ], [ "IN", "DT", "NN", ",", "PRP", "VBP", "DT", "JJ", "NN", "NN", "NN", "WDT", "VBZ", "DT", "NN", "IN", "JJ", "NN", ",", "FW", "DT", "JJ", "NN", "NNS", "MD", "RB", "VB", "VBN", "IN", "VB", "DT", "NN", "IN", "DT", "JJ", "NN", "." ], [ "IN", "PRP", "VBP", "PRP$", "NN", "NN", "IN", "JJ", "CC", "JJ", "NN", "-LRB-", "NN", "-RRB-", "." ], [ "DT", "NN", "IN", "VBG", "CC", "JJ", "CC", "JJ", "NN", "IN", "NN", "NN", "VBZ", "VBN", "IN", "DT", "JJ", "NNS", "IN", "JJ", "NN", "-LRB-", "CD", "-RRB-", ",", "CC", "PRP$", "JJ", "NNS", "IN", "JJ", "JJ", "NN", "NNS", "VBP", "IN", "NN", "VBZ", "JJR", "IN", "JJ", "JJ", "NN", "NNS", "." ], [ "DT", "NN", "IN", "DT", "NN", "VBZ", "VBN", "IN", "VBZ", ":", "IN", "NN", "CD", "PRP", "MD", "VB", "PRP$", "NN", "NN", "IN", "NN", "." ], [ "DT", "JJ", "NNS", "IN", "JJ", "NNS", "VBP", "VBN", "IN", "NN", "CD", ",", "VBN", "IN", "DT", "NNS", "CC", "NNS", "IN", "NN", "CD", "." ], [ "LS", "." ], [ "NNS", "CC", "NN", "VBZ" ], [ "IN", "DT", "NN", ",", "PRP", "VBD", "DT", "JJ", "NN", "NN", "VBN", "NN", "IN", "JJ", "CC", "JJ", "NN", "." ], [ "PRP$", "NN", "VBZ", "DT", "NN", "IN", "JJ", "NN", "NNS", "CC", "JJ", "NN", "." ], [ "PRP$", "NNS", "VBP", "IN", "DT", "VBN", "NN", "VBZ", "JJS", "IN", "DT", "NN", "IN", "DT", "NN", "NNS", "IN", "JJ", "JJ", "NNS", "." ], [ "IN", "DT", "NN", ",", "PRP", "MD", "VB", "IN", "DT", "NN", "NN", "CC", "NN", "NNS", "IN", "DT", "NN", "NN", "." ] ]	[ [ "regularize", "clustering", "for", "document", "*" ], [ "abstract" ], [ "in", "recent", "year", ",", "document", "clustering", "have", "be", "receive", "more", "and", "more", "attention", "as", "a", "important", "and", "fundamental", "technique", "for", "unsupervised", "document", "organization", ",", "automatic", "topic", "extraction", ",", "and", "fast", "information", "retrieval", "or", "filter", "." ], [ "in", "this", "paper", ",", "we", "propose", "a", "novel", "method", "for", "clustering", "document", "use", "regularization", "." ], [ "unlike", "traditional", "globally", "regularize", "clustering", "method", ",", "we", "method", "first", "construct", "a", "local", "regularized", "linear", "label", "predictor", "for", "each", "document", "vector", ",", "and", "then", "combine", "all", "those", "local", "regularizer", "with", "a", "global", "smoothness", "regularizer", "." ], [ "so", "we", "call", "we", "algorithm", "cluster", "with", "local", "and", "global", "regularization", "-lrb-", "clgr", "-rrb-", "." ], [ "we", "will", "show", "that", "the", "cluster", "membership", "of", "the", "document", "can", "be", "achieve", "by", "eigenvalue", "decomposition", "of", "a", "sparse", "symmetric", "matrix", ",", "which", "can", "be", "efficiently", "solve", "by", "iterative", "method", "." ], [ "finally", "we", "experimental", "evaluation", "on", "several", "dataset", "be", "present", "to", "show", "the", "superiority", "of", "clgr", "over", "traditional", "document", "clustering", "method", "." ], [ "1", "." ], [ "introduction" ], [ "Document", "clustering", "have", "be", "receive", "more", "and", "more", "attention", "as", "a", "important", "and", "fundamental", "technique", "for", "unsupervised", "document", "organization", ",", "automatic", "topic", "extraction", ",", "and", "fast", "information", "retrieval", "or", "filter", "." ], [ "a", "good", "document", "clustering", "approach", "can", "assist", "the", "computer", "to", "automatically", "organize", "the", "document", "corpus", "into", "a", "meaningful", "cluster", "hierarchy", "for", "efficient", "browse", "and", "navigation", ",", "which", "be", "very", "valuable", "for", "complement", "the", "deficiency", "of", "traditional", "information", "retrieval", "technology", "." ], [ "in", "such", "case", ",", "efficient", "browse", "through", "a", "good", "cluster", "hierarchy", "will", "be", "definitely", "helpful", "." ], [ "generally", ",", "document", "clustering", "method", "can", "be", "mainly", "categorize", "into", "two", "class", ":", "hierarchical", "method", "and", "partition", "method", "." ], [ "the", "hierarchical", "method", "group", "the", "datum", "point", "into", "a", "hierarchical", "tree", "structure", "use", "bottom-up", "or", "top-down", "approach", "." ], [ "for", "example", ",", "hierarchical", "agglomerative", "clustering", "-lrb-", "hac", "-rrb-", "-lsb-", "13", "-rsb-", "be", "a", "typical", "bottom-up", "hierarchical", "clustering", "method", "." ], [ "it", "take", "each", "datum", "point", "as", "a", "single", "cluster", "to", "start", "off", "with", "and", "then", "build", "bigger", "and", "bigger", "cluster", "by", "group", "similar", "datum", "point", "together", "until", "the", "entire", "dataset", "be", "encapsulate", "into", "one", "final", "cluster", "." ], [ "on", "the", "other", "hand", ",", "partition", "method", "decompose", "the", "dataset", "into", "a", "number", "of", "disjoint", "cluster", "which", "be", "usually", "optimal", "in", "term", "of", "some", "predefine", "criterion", "function", "." ], [ "for", "instance", ",", "k-means", "-lsb-", "13", "-rsb-", "be", "a", "typical", "partitioning", "method", "which", "aim", "to", "minimize", "the", "sum", "of", "the", "square", "distance", "between", "the", "datum", "point", "and", "they", "corresponding", "cluster", "center", "." ], [ "in", "this", "paper", ",", "we", "will", "focus", "on", "the", "partitioning", "method", "." ], [ "in", "the", "last", "decade", ",", "many", "method", "have", "be", "propose", "to", "overcome", "the", "above", "problem", "of", "the", "partitioning", "method", "-lsb-", "19", "-rsb-", "-lsb-", "28", "-rsb-", "." ], [ "recently", ",", "another", "type", "of", "partition", "method", "base", "on", "clustering", "on", "datum", "graph", "have", "arouse", "considerable", "interest", "in", "the", "machine", "learning", "and", "datum", "mining", "community", "." ], [ "the", "basic", "idea", "behind", "these", "method", "be", "to", "first", "model", "the", "whole", "dataset", "as", "a", "weighted", "graph", ",", "in", "which", "the", "graph", "node", "represent", "the", "datum", "point", ",", "and", "the", "weight", "on", "the", "edge", "correspond", "to", "the", "similarity", "between", "pairwise", "point", "." ], [ "then", "the", "cluster", "assignment", "of", "the", "dataset", "can", "be", "achieve", "by", "optimize", "some", "criterion", "define", "on", "the", "graph", "." ], [ "after", "some", "relaxation", ",", "these", "criterion", "can", "usually", "be", "optimize", "via", "eigen-decomposition", ",", "which", "be", "guarantee", "to", "be", "global", "optimal", "." ], [ "in", "this", "way", ",", "spectral", "clustering", "efficiently", "avoid", "the", "problem", "of", "the", "traditional", "partitioning", "method", "as", "we", "introduce", "in", "last", "paragraph", "." ], [ "in", "this", "paper", ",", "we", "propose", "a", "novel", "document", "clustering", "algorithm", "that", "inherit", "the", "superiority", "of", "spectral", "clustering", ",", "i.e.", "the", "final", "cluster", "result", "can", "also", "be", "obtain", "by", "exploit", "the", "eigen-structure", "of", "a", "symmetric", "matrix", "." ], [ "so", "we", "call", "we", "method", "clustering", "with", "local", "and", "global", "regularization", "-lrb-", "clgr", "-rrb-", "." ], [ "the", "idea", "of", "incorporate", "both", "local", "and", "global", "information", "into", "label", "prediction", "be", "inspire", "by", "the", "recent", "work", "on", "semi-supervised", "learning", "-lsb-", "31", "-rsb-", ",", "and", "we", "experimental", "evaluation", "on", "several", "real", "document", "dataset", "show", "that", "clgr", "perform", "better", "than", "many", "state-of-the-art", "clustering", "method", "." ], [ "the", "rest", "of", "this", "paper", "be", "organize", "as", "follow", ":", "in", "section", "2", "we", "will", "introduce", "we", "clgr", "algorithm", "in", "detail", "." ], [ "the", "experimental", "result", "on", "several", "dataset", "be", "present", "in", "section", "3", ",", "follow", "by", "the", "conclusion", "and", "discussion", "in", "section", "4", "." ], [ "4", "." ], [ "conclusion", "and", "future", "work" ], [ "in", "this", "paper", ",", "we", "derive", "a", "new", "clustering", "algorithm", "call", "clustering", "with", "local", "and", "global", "regularization", "." ], [ "we", "method", "preserve", "the", "merit", "of", "local", "learning", "algorithm", "and", "spectral", "clustering", "." ], [ "we", "experiment", "show", "that", "the", "propose", "algorithm", "outperform", "most", "of", "the", "state", "of", "the", "art", "algorithm", "on", "many", "benchmark", "dataset", "." ], [ "in", "the", "future", ",", "we", "will", "focus", "on", "the", "parameter", "selection", "and", "acceleration", "issue", "of", "the", "clgr", "algorithm", "." ] ]	[ "document cluster", "regular", "global regular", "cluster hierarchi", "spectrum", "specifi search", "hierarch method", "partit method", "label predict", "function estim", "manifold" ]
H-11	[ [ "Laplacian", "Optimal", "Design", "for", "Imag", "e", "Retrieval" ], [ "ABSTRACT" ], [ "Relevance", "feedback", "is", "a", "powerful", "technique", "to", "enhance", "ContentBased", "Image", "Retrieval", "-LRB-", "CBIR", "-RRB-", "performance", "." ], [ "It", "solicits", "the", "user", "'s", "relevance", "judgments", "on", "the", "retrieved", "images", "returned", "by", "the", "CBIR", "systems", "." ], [ "The", "user", "'s", "labeling", "is", "then", "used", "to", "learn", "a", "classifier", "to", "distinguish", "between", "relevant", "and", "irrelevant", "images", "." ], [ "However", ",", "the", "top", "returned", "images", "may", "not", "be", "the", "most", "informative", "ones", "." ], [ "The", "challenge", "is", "thus", "to", "determine", "which", "unlabeled", "images", "would", "be", "the", "most", "informative", "-LRB-", "i.e.", ",", "improve", "the", "classifier", "the", "most", "-RRB-", "if", "they", "were", "labeled", "and", "used", "as", "training", "samples", "." ], [ "In", "this", "paper", ",", "we", "propose", "a", "novel", "active", "learning", "algorithm", ",", "called", "Laplacian", "Optimal", "Design", "-LRB-", "LOD", "-RRB-", ",", "for", "relevance", "feedback", "image", "retrieval", "." ], [ "Our", "algorithm", "is", "based", "on", "a", "regression", "model", "which", "minimizes", "the", "least", "square", "error", "on", "the", "measured", "-LRB-", "or", ",", "labeled", "-RRB-", "images", "and", "simultaneously", "preserves", "the", "local", "geometrical", "structure", "of", "the", "image", "space", "." ], [ "Specifically", ",", "we", "assume", "that", "if", "two", "images", "are", "sufficiently", "close", "to", "each", "other", ",", "then", "their", "measurements", "-LRB-", "or", ",", "labels", "-RRB-", "are", "close", "as", "well", "." ], [ "By", "constructing", "a", "nearest", "neighbor", "graph", ",", "the", "geometrical", "structure", "of", "the", "image", "space", "can", "be", "described", "by", "the", "graph", "Laplacian", "." ], [ "We", "discuss", "how", "results", "from", "the", "field", "of", "optimal", "experimental", "design", "may", "be", "used", "to", "guide", "our", "selection", "of", "a", "subset", "of", "images", ",", "which", "gives", "us", "the", "most", "amount", "of", "information", "." ], [ "Experimental", "results", "on", "Corel", "database", "suggest", "that", "the", "proposed", "approach", "achieves", "higher", "precision", "in", "relevance", "feedback", "image", "retrieval", "." ], [ "1", "." ], [ "INTRODUCTION" ], [ "In", "many", "machine", "learning", "and", "information", "retrieval", "tasks", ",", "there", "is", "no", "shortage", "of", "unlabeled", "data", "but", "labels", "are", "expensive", "." ], [ "The", "challenge", "is", "thus", "to", "determine", "which", "unlabeled", "samples", "would", "be", "the", "most", "informative", "-LRB-", "i.e.", ",", "improve", "the", "classifier", "the", "most", "-RRB-", "if", "they", "were", "labeled", "and", "used", "as", "training", "samples", "." ], [ "This", "problem", "is", "typically", "called", "active", "learning", "-LSB-", "4", "-RSB-", "." ], [ "Many", "real", "world", "applications", "can", "be", "casted", "into", "active", "learning", "framework", "." ], [ "Particularly", ",", "we", "consider", "the", "problem", "of", "relevance", "feedback", "driven", "Content-Based", "Image", "Retrieval", "-LRB-", "CBIR", "-RRB-", "-LSB-", "13", "-RSB-", "." ], [ "Content-Based", "Image", "Retrieval", "has", "attracted", "substantial", "interests", "in", "the", "last", "decade", "-LSB-", "13", "-RSB-", "." ], [ "It", "is", "motivated", "by", "the", "fast", "growth", "of", "digital", "image", "databases", "which", ",", "in", "turn", ",", "require", "efficient", "search", "schemes", "." ], [ "Rather", "than", "describe", "an", "image", "using", "text", ",", "in", "these", "systems", "an", "image", "query", "is", "described", "using", "one", "or", "more", "example", "images", "." ], [ "The", "low", "level", "visual", "features", "-LRB-", "color", ",", "texture", ",", "shape", ",", "etc.", "-RRB-", "are", "automatically", "extracted", "to", "represent", "the", "images", "." ], [ "To", "narrow", "down", "the", "semantic", "gap", ",", "relevance", "feedback", "is", "introduced", "into", "CBIR", "-LSB-", "12", "-RSB-", "." ], [ "In", "many", "of", "the", "current", "relevance", "feedback", "driven", "CBIR", "systems", ",", "the", "user", "is", "required", "to", "provide", "his/her", "relevance", "judgments", "on", "the", "top", "images", "returned", "by", "the", "system", "." ], [ "The", "labeled", "images", "are", "then", "used", "to", "train", "a", "classifier", "to", "separate", "images", "that", "match", "the", "query", "concept", "from", "those", "that", "do", "not", "." ], [ "However", ",", "in", "general", "the", "top", "returned", "images", "may", "not", "be", "the", "most", "informative", "ones", "." ], [ "In", "the", "worst", "case", ",", "all", "the", "top", "images", "labeled", "by", "the", "user", "may", "be", "positive", "and", "thus", "the", "standard", "classification", "techniques", "can", "not", "be", "applied", "due", "to", "the", "lack", "of", "negative", "examples", "." ], [ "Unlike", "the", "standard", "classification", "problems", "where", "the", "labeled", "samples", "are", "pregiven", ",", "in", "relevance", "feedback", "image", "retrieval", "the", "system", "can", "actively", "select", "the", "images", "to", "label", "." ], [ "Thus", "active", "learning", "can", "be", "naturally", "introduced", "into", "image", "retrieval", "." ], [ "Despite", "many", "existing", "active", "learning", "techniques", ",", "Support", "Vector", "Machine", "-LRB-", "SVM", "-RRB-", "active", "learning", "-LSB-", "14", "-RSB-", "and", "regression", "based", "active", "learning", "-LSB-", "1", "-RSB-", "have", "received", "the", "most", "interests", "." ], [ "The", "major", "disadvantage", "of", "SVM", "active", "learning", "is", "that", "the", "estimated", "boundary", "may", "not", "be", "accurate", "enough", "." ], [ "Moreover", ",", "it", "may", "not", "be", "applied", "at", "the", "beginning", "of", "the", "retrieval", "when", "there", "is", "no", "labeled", "images", "." ], [ "Some", "other", "SVM", "based", "active", "learning", "algorithms", "can", "be", "found", "in", "-LSB-", "7", "-RSB-", ",", "-LSB-", "9", "-RSB-", "." ], [ "In", "statistics", ",", "the", "problem", "of", "selecting", "samples", "to", "label", "is", "typically", "referred", "to", "as", "experimental", "design", "." ], [ "The", "sample", "x", "is", "referred", "to", "as", "experiment", ",", "and", "its", "label", "y", "is", "referred", "to", "as", "measurement", "." ], [ "The", "study", "of", "optimal", "experimental", "design", "-LRB-", "OED", "-RRB-", "-LSB-", "1", "-RSB-", "is", "concerned", "with", "the", "design", "of", "experiments", "that", "are", "expected", "to", "minimize", "variances", "of", "a", "parameterized", "model", "." ], [ "The", "intent", "of", "optimal", "experimental", "design", "is", "usually", "to", "maximize", "confidence", "in", "a", "given", "model", ",", "minimize", "parameter", "variances", "for", "system", "identification", ",", "or", "minimize", "the", "model", "'s", "output", "variance", "." ], [ "Classical", "experimental", "design", "approaches", "include", "A-Optimal", "Design", ",", "D-Optimal", "Design", ",", "and", "E-Optimal", "Design", "." ], [ "All", "of", "these", "approaches", "are", "based", "on", "a", "least", "squares", "regression", "model", "." ], [ "Comparing", "to", "SVM", "based", "active", "learning", "algorithms", ",", "experimental", "design", "approaches", "are", "much", "more", "efficient", "in", "computation", "." ], [ "However", ",", "this", "kind", "of", "approaches", "takes", "only", "measured", "-LRB-", "or", ",", "labeled", "-RRB-", "data", "into", "account", "in", "their", "objective", "function", ",", "while", "the", "unmeasured", "-LRB-", "or", ",", "unlabeled", "-RRB-", "data", "is", "ignored", "." ], [ "Benefit", "from", "recent", "progresses", "on", "optimal", "experimental", "design", "and", "semi-supervised", "learning", ",", "in", "this", "paper", "we", "propose", "a", "novel", "active", "learning", "algorithm", "for", "image", "retrieval", ",", "called", "Laplacian", "Optimal", "Design", "-LRB-", "LOD", "-RRB-", "." ], [ "Unlike", "traditional", "experimental", "design", "methods", "whose", "loss", "functions", "are", "only", "defined", "on", "the", "measured", "points", ",", "the", "loss", "function", "of", "our", "proposed", "LOD", "algorithm", "is", "defined", "on", "both", "measured", "and", "unmeasured", "points", "." ], [ "Specifically", ",", "we", "introduce", "a", "locality", "preserving", "regularizer", "into", "the", "standard", "least-square-error", "based", "loss", "function", "." ], [ "The", "new", "loss", "function", "aims", "to", "find", "a", "classifier", "which", "is", "locally", "as", "smooth", "as", "possible", "." ], [ "In", "other", "words", ",", "if", "two", "points", "are", "sufficiently", "close", "to", "each", "other", "in", "the", "input", "space", ",", "then", "they", "are", "expected", "to", "share", "the", "same", "label", "." ], [ "Once", "the", "loss", "function", "is", "defined", ",", "we", "can", "select", "the", "most", "informative", "data", "points", "which", "are", "presented", "to", "the", "user", "for", "labeling", "." ], [ "It", "would", "be", "important", "to", "note", "that", "the", "most", "informative", "images", "may", "not", "be", "the", "top", "returned", "images", "." ], [ "The", "rest", "of", "the", "paper", "is", "organized", "as", "follows", "." ], [ "In", "Section", "2", ",", "we", "provide", "a", "brief", "description", "of", "the", "related", "work", "." ], [ "Our", "proposed", "Laplacian", "Optimal", "Design", "algorithm", "is", "introduced", "in", "Section", "3", "." ], [ "In", "Section", "4", ",", "we", "compare", "our", "algorithm", "with", "the", "state-or-the-art", "algorithms", "and", "present", "the", "experimental", "results", "on", "image", "retrieval", "." ], [ "Finally", ",", "we", "provide", "some", "concluding", "remarks", "and", "suggestions", "for", "future", "work", "in", "Section", "5", "." ], [ "2", "." ], [ "RELATED", "WORK" ], [ "Since", "our", "proposed", "algorithm", "is", "based", "on", "regression", "framework", "." ], [ "The", "most", "related", "work", "is", "optimal", "experimental", "design", "-LSB-", "1", "-RSB-", ",", "including", "A-Optimal", "Design", ",", "D-Optimal", "Design", ",", "and", "EOptimal", "Design", "." ], [ "In", "this", "Section", ",", "we", "give", "a", "brief", "description", "of", "these", "approaches", "." ], [ "2.1", "The", "Active", "Learning", "Problem" ], [ "The", "generic", "problem", "of", "active", "learning", "is", "the", "following", "." ], [ "In", "other", "words", ",", "the", "points", "zi", "-LRB-", "i", "=", "1", ",", "·", "·", "·", ",", "k", "-RRB-", "can", "improve", "the", "classifier", "the", "most", "if", "they", "are", "labeled", "and", "used", "as", "training", "points", "." ], [ "2.2", "Optimal", "Experimental", "Design" ], [ "We", "consider", "a", "linear", "regression", "model" ], [ "Different", "observations", "have", "errors", "that", "are", "independent", ",", "but", "with", "equal", "variances", "σ2", "." ], [ "Thus", ",", "the", "maximum", "likelihood", "estimate", "for", "the", "weight", "vector", ",", "ˆw", ",", "is", "that", "which", "minimizes", "the", "sum", "squared", "error" ], [ "The", "three", "most", "common", "scalar", "measures", "of", "the", "size", "of", "the", "parameter", "covariance", "matrix", "in", "optimal", "experimental", "design" ], [ "are", ":", "•", "D-optimal", "design", ":", "determinant", "of", "Hsse", "." ], [ "•", "A-optimal", "design", ":", "trace", "of", "Hsse", "." ], [ "•", "E-optimal", "design", ":", "maximum", "eigenvalue", "of", "Hsse", "." ], [ "Since", "the", "computation", "of", "the", "determinant", "and", "eigenvalues", "of", "a", "matrix", "is", "much", "more", "expensive", "than", "the", "computation", "of", "matrix", "trace", ",", "A-optimal", "design", "is", "more", "efficient", "than", "the", "other", "two", "." ], [ "Some", "recent", "work", "on", "experimental", "design", "can", "be", "found", "in", "-LSB-", "6", "-RSB-", ",", "-LSB-", "16", "-RSB-", "." ], [ "7", "." ], [ "CONCLUSIONS", "AND", "FUTURE", "WORK" ], [ "This", "paper", "describes", "a", "novel", "active", "learning", "algorithm", ",", "called", "Laplacian", "Optimal", "Design", ",", "to", "enable", "more", "effective", "relevance", "feedback", "image", "retrieval", "." ], [ "Our", "algorithm", "is", "based", "on", "an", "objective", "function", "which", "simultaneously", "minimizes", "the", "empirical", "error", "and", "preserves", "the", "local", "geometrical", "structure", "of", "the", "data", "space", "." ], [ "Using", "techniques", "from", "experimental", "design", ",", "our", "algorithm", "finds", "the", "most", "informative", "images", "to", "label", "." ], [ "These", "labeled", "images", "and", "the", "unlabeled", "images", "in", "the", "database", "are", "used", "to", "learn", "a", "classifier", "." ], [ "The", "experimental", "results", "on", "Corel", "database", "show", "that", "both", "active", "learning", "and", "semi-supervised", "learning", "can", "significantly", "improve", "the", "retrieval", "performance", "." ], [ "In", "this", "paper", ",", "we", "consider", "the", "image", "retrieval", "problem", "on", "a", "small", ",", "static", ",", "and", "closed-domain", "image", "data", "." ], [ "For", "Web", "image", "search", ",", "it", "is", "possible", "to", "collect", "a", "large", "amount", "of", "user", "click", "information", "." ], [ "This", "information", "can", "be", "naturally", "used", "to", "construct", "the", "affinity", "graph", "in", "our", "algorithm", "." ] ]	[ [ "NNP", "JJ", "NN", "IN", "NN", "SYM", "NNP" ], [ "NN" ], [ "NN", "NN", "VBZ", "DT", "JJ", "NN", "TO", "VB", "NNP", "NN", "NN", "-LRB-", "NN", "-RRB-", "NN", "." ], [ "PRP", "VBZ", "DT", "NN", "POS", "NN", "NNS", "IN", "DT", "VBN", "NNS", "VBN", "IN", "DT", "NN", "NNS", "." ], [ "DT", "NN", "POS", "NN", "VBZ", "RB", "VBN", "TO", "VB", "DT", "NN", "TO", "VB", "IN", "JJ", "CC", "JJ", "NNS", "." ], [ "RB", ",", "DT", "JJ", "VBD", "NNS", "MD", "RB", "VB", "DT", "RBS", "JJ", "NNS", "." ], [ "DT", "NN", "VBZ", "RB", "TO", "VB", "WDT", "JJ", "NNS", "MD", "VB", "DT", "RBS", "JJ", "-LRB-", "FW", ",", "VB", "DT", "NN", "DT", "RBS", "-RRB-", "IN", "PRP", "VBD", "VBN", "CC", "VBN", "IN", "NN", "NNS", "." ], [ "IN", "DT", "NN", ",", "PRP", "VBP", "DT", "JJ", "JJ", "NN", "NN", ",", "VBN", "NNP", "JJ", "NN", "-LRB-", "NN", "-RRB-", ",", "IN", "NN", "NN", "NN", "NN", "." ], [ "PRP$", "NN", "VBZ", "VBN", "IN", "DT", "NN", "NN", "WDT", "VBZ", "DT", "JJS", "JJ", "NN", "IN", "DT", "VBN", "-LRB-", "CC", ",", "VBN", "-RRB-", "NNS", "CC", "RB", "VBZ", "DT", "JJ", "JJ", "NN", "IN", "DT", "NN", "NN", "." ], [ "RB", ",", "PRP", "VBP", "IN", "IN", "CD", "NNS", "VBP", "RB", "JJ", "TO", "DT", "JJ", ",", "RB", "PRP$", "NNS", "-LRB-", "CC", ",", "NNS", "-RRB-", "VBP", "RB", "RB", "RB", "." ], [ "IN", "VBG", "DT", "JJS", "NN", "NN", ",", "DT", "JJ", "NN", "IN", "DT", "NN", "NN", "MD", "VB", "VBN", "IN", "DT", "NN", "NN", "." ], [ "PRP", "VBP", "WRB", "NNS", "IN", "DT", "NN", "IN", "JJ", "JJ", "NN", "MD", "VB", "VBN", "TO", "VB", "PRP$", "NN", "IN", "DT", "NN", "IN", "NNS", ",", "WDT", "VBZ", "PRP", "DT", "RBS", "VB", "IN", "NN", "." ], [ "JJ", "NNS", "IN", "NNP", "NN", "VBP", "IN", "DT", "VBN", "NN", "VBZ", "JJR", "NN", "IN", "NN", "NN", "NN", "NN", "." ], [ "LS", "." ], [ "NN" ], [ "IN", "JJ", "NN", "NN", "CC", "NN", "NN", "NNS", ",", "EX", "VBZ", "DT", "NN", "IN", "JJ", "NNS", "CC", "NNS", "VBP", "JJ", "." ], [ "DT", "NN", "VBZ", "RB", "TO", "VB", "WDT", "JJ", "NNS", "MD", "VB", "DT", "RBS", "JJ", "-LRB-", "FW", ",", "VB", "DT", "NN", "DT", "RBS", "-RRB-", "IN", "PRP", "VBD", "VBN", "CC", "VBN", "IN", "NN", "NNS", "." ], [ "DT", "NN", "VBZ", "RB", "VBN", "JJ", "NN", "-LRB-", "CD", "-RRB-", "." ], [ "JJ", "JJ", "NN", "NNS", "MD", "VB", "VBN", "IN", "JJ", "NN", "NN", "." ], [ "RB", ",", "PRP", "VBP", "DT", "NN", "IN", "NN", "NN", "VBN", "JJ", "NN", "NN", "-LRB-", "NN", "-RRB-", "-LRB-", "CD", "-RRB-", "." ], [ "JJ", "NN", "NN", "VBZ", "VBN", "JJ", "NNS", "IN", "DT", "JJ", "NN", "-LRB-", "CD", "-RRB-", "." ], [ "PRP", "VBZ", "VBN", "IN", "DT", "JJ", "NN", "IN", "JJ", "NN", "NNS", "WDT", ",", "IN", "NN", ",", "VBP", "JJ", "NN", "NNS", "." ], [ "RB", "IN", "VBP", "DT", "NN", "VBG", "NN", ",", "IN", "DT", "NNS", "DT", "NN", "NN", "VBZ", "VBN", "VBG", "CD", "CC", "JJR", "NN", "NNS", "." ], [ "DT", "JJ", "NN", "JJ", "NNS", "-LRB-", "NN", ",", "NN", ",", "NN", ",", "FW", "-RRB-", "VBP", "RB", "VBN", "TO", "VB", "DT", "NNS", "." ], [ "TO", "VB", "RP", "DT", "JJ", "NN", ",", "NN", "NN", "VBZ", "VBN", "IN", "NN", "-LRB-", "CD", "-RRB-", "." ], [ "IN", "JJ", "IN", "DT", "JJ", "NN", "NN", "VBN", "NN", "NNS", ",", "DT", "NN", "VBZ", "VBN", "TO", "VB", "NN", "NN", "NNS", "IN", "DT", "JJ", "NNS", "VBN", "IN", "DT", "NN", "." ], [ "DT", "VBN", "NNS", "VBP", "RB", "VBN", "TO", "VB", "DT", "NN", "TO", "JJ", "NNS", "WDT", "VBP", "DT", "NN", "NN", "IN", "DT", "WDT", "VBP", "RB", "." ], [ "RB", ",", "IN", "JJ", "DT", "JJ", "VBD", "NNS", "MD", "RB", "VB", "DT", "RBS", "JJ", "NNS", "." ], [ "IN", "DT", "JJS", "NN", ",", "PDT", "DT", "JJ", "NNS", "VBN", "IN", "DT", "NN", "MD", "VB", "JJ", "CC", "RB", "DT", "JJ", "NN", "NNS", "MD", "RB", "VB", "VBN", "JJ", "TO", "DT", "NN", "IN", "JJ", "NNS", "." ], [ "IN", "DT", "JJ", "NN", "NNS", "WRB", "DT", "VBN", "NNS", "VBP", "JJ", ",", "IN", "NN", "NN", "NN", "NN", "DT", "NN", "MD", "RB", "VB", "DT", "NNS", "TO", "NN", "." ], [ "RB", "JJ", "NN", "MD", "VB", "RB", "VBN", "IN", "NN", "NN", "." ], [ "IN", "JJ", "VBG", "JJ", "NN", "NNS", ",", "NN", "NNP", "NN", "-LRB-", "NN", "-RRB-", "JJ", "NN", "-LRB-", "CD", "-RRB-", "CC", "NN", "VBN", "JJ", "NN", "-LRB-", "CD", "-RRB-", "VBP", "VBN", "DT", "RBS", "NNS", "." ], [ "DT", "JJ", "NN", "IN", "NN", "JJ", "NN", "VBZ", "IN", "DT", "VBN", "NN", "MD", "RB", "VB", "JJ", "RB", "." ], [ "RB", ",", "PRP", "MD", "RB", "VB", "VBN", "IN", "DT", "NN", "IN", "DT", "NN", "WRB", "EX", "VBZ", "DT", "JJ", "NNS", "." ], [ "DT", "JJ", "NN", "VBN", "JJ", "NN", "NNS", "MD", "VB", "VBN", "IN", "-LRB-", "CD", "-RRB-", ",", "-LRB-", "CD", "-RRB-", "." ], [ "IN", "NNS", ",", "DT", "NN", "IN", "VBG", "NNS", "TO", "NN", "VBZ", "RB", "VBN", "TO", "IN", "JJ", "NN", "." ], [ "DT", "NN", "NN", "VBZ", "VBN", "TO", "IN", "NN", ",", "CC", "PRP$", "NN", "NN", "VBZ", "VBN", "TO", "IN", "NN", "." ], [ "DT", "NN", "IN", "JJ", "JJ", "NN", "-LRB-", "NN", "-RRB-", "-LRB-", "CD", "-RRB-", "VBZ", "VBN", "IN", "DT", "NN", "IN", "NNS", "WDT", "VBP", "VBN", "TO", "VB", "NNS", "IN", "DT", "JJ", "NN", "." ], [ "DT", "NN", "IN", "JJ", "JJ", "NN", "VBZ", "RB", "TO", "VB", "NN", "IN", "DT", "VBN", "NN", ",", "VBP", "NN", "NNS", "IN", "NN", "NN", ",", "CC", "VB", "DT", "NN", "POS", "NN", "NN", "." ], [ "JJ", "JJ", "NN", "NNS", "VBP", "NNP", "NNP", ",", "NNP", "NNP", ",", "CC", "NNP", "NNP", "." ], [ "DT", "IN", "DT", "NNS", "VBP", "VBN", "IN", "DT", "JJS", "NNS", "NN", "NN", "." ], [ "VBG", "TO", "NNP", "VBN", "JJ", "NN", "NNS", ",", "JJ", "NN", "NNS", "VBP", "RB", "RBR", "JJ", "IN", "NN", "." ], [ "RB", ",", "DT", "NN", "IN", "NNS", "VBZ", "RB", "VBN", "-LRB-", "CC", ",", "VBN", "-RRB-", "NNS", "IN", "NN", "IN", "PRP$", "JJ", "NN", ",", "IN", "DT", "JJ", "-LRB-", "CC", ",", "JJ", "-RRB-", "NNS", "VBZ", "VBN", "." ], [ "NNP", "IN", "JJ", "VBZ", "IN", "JJ", "JJ", "NN", "CC", "JJ", "NN", ",", "IN", "DT", "NN", "PRP", "VBP", "DT", "JJ", "JJ", "NN", "NN", "IN", "NN", "NN", ",", "VBN", "NNP", "JJ", "NN", "-LRB-", "NN", "-RRB-", "." ], [ "IN", "JJ", "JJ", "NN", "NNS", "WP$", "NN", "NNS", "VBP", "RB", "VBN", "IN", "DT", "VBN", "NNS", ",", "DT", "NN", "NN", "IN", "PRP$", "VBN", "NNP", "NN", "VBZ", "VBN", "IN", "DT", "VBN", "CC", "JJ", "NNS", "." ], [ "RB", ",", "PRP", "VBP", "DT", "NN", "VBG", "NN", "IN", "DT", "JJ", "NN", "VBN", "NN", "NN", "." ], [ "DT", "JJ", "NN", "NN", "VBZ", "TO", "VB", "DT", "NN", "WDT", "VBZ", "RB", "IN", "JJ", "IN", "JJ", "." ], [ "IN", "JJ", "NNS", ",", "IN", "CD", "NNS", "VBP", "RB", "JJ", "TO", "DT", "JJ", "IN", "DT", "NN", "NN", ",", "RB", "PRP", "VBP", "VBN", "TO", "VB", "DT", "JJ", "NN", "." ], [ "RB", "DT", "NN", "NN", "VBZ", "VBN", ",", "PRP", "MD", "VB", "DT", "RBS", "JJ", "NNS", "NNS", "WDT", "VBP", "VBN", "TO", "DT", "NN", "IN", "NN", "." ], [ "PRP", "MD", "VB", "JJ", "TO", "VB", "IN", "DT", "RBS", "JJ", "NNS", "MD", "RB", "VB", "DT", "JJ", "VBD", "NNS", "." ], [ "DT", "NN", "IN", "DT", "NN", "VBZ", "VBN", "IN", "VBZ", "." ], [ "IN", "NN", "CD", ",", "PRP", "VBP", "DT", "JJ", "NN", "IN", "DT", "JJ", "NN", "." ], [ "PRP$", "VBN", "NNP", "JJ", "NN", "NN", "VBZ", "VBN", "IN", "NN", "CD", "." ], [ "IN", "NN", "CD", ",", "PRP", "VBP", "PRP$", "NN", "IN", "DT", "JJ", "NNS", "CC", "VB", "DT", "JJ", "NNS", "IN", "NN", "NN", "." ], [ "RB", ",", "PRP", "VBP", "DT", "VBG", "NNS", "CC", "NNS", "IN", "JJ", "NN", "IN", "NN", "CD", "." ], [ "LS", "." ], [ "JJ", "VBP" ], [ "IN", "PRP$", "VBN", "NN", "VBZ", "VBN", "IN", "NN", "NN", "." ], [ "DT", "RBS", "JJ", "NN", "VBZ", "JJ", "JJ", "NN", "-LRB-", "CD", "-RRB-", ",", "VBG", "NNP", "NNP", ",", "NNP", "NNP", ",", "CC", "NNP", "NNP", "." ], [ "IN", "DT", "NN", ",", "PRP", "VBP", "DT", "JJ", "NN", "IN", "DT", "NNS", "." ], [ "CD", "DT", "JJ", "NNP", "NNP" ], [ "DT", "JJ", "NN", "IN", "JJ", "NN", "VBZ", "DT", "VBG", "." ], [ "IN", "JJ", "NNS", ",", "DT", "NNS", "NN", "-LRB-", "FW", "JJ", "CD", ",", "CD", "CD", "NN", ",", "NN", "-RRB-", "MD", "VB", "DT", "NN", "DT", "RBS", "IN", "PRP", "VBP", "VBN", "CC", "VBN", "IN", "NN", "NNS", "." ], [ "CD", "JJ", "JJ", "NN" ], [ "PRP", "VBP", "DT", "JJ", "NN", "NN" ], [ "JJ", "NNS", "VBP", "NNS", "WDT", "VBP", "JJ", ",", "CC", "IN", "JJ", "NNS", "NN", "." ], [ "RB", ",", "DT", "NN", "NN", "NN", "IN", "DT", "NN", "NN", ",", "NN", ",", "VBZ", "IN", "WDT", "VBZ", "DT", "NN", "VBD", "NN" ], [ "DT", "CD", "RBS", "JJ", "NN", "NNS", "IN", "DT", "NN", "IN", "DT", "NN", "NN", "NN", "IN", "JJ", "JJ", "NN" ], [ "VBP", ":", "CD", "JJ", "NN", ":", "NN", "IN", "NN", "." ], [ "NN", "JJ", "NN", ":", "NN", "IN", "NN", "." ], [ "NN", "JJ", "NN", ":", "NN", "NN", "IN", "NN", "." ], [ "IN", "DT", "NN", "IN", "DT", "NN", "CC", "NNS", "IN", "DT", "NN", "VBZ", "RB", "RBR", "JJ", "IN", "DT", "NN", "IN", "NN", "NN", ",", "JJ", "NN", "VBZ", "RBR", "JJ", "IN", "DT", "JJ", "CD", "." ], [ "DT", "JJ", "NN", "IN", "JJ", "NN", "MD", "VB", "VBN", "IN", "-LRB-", "CD", "-RRB-", ",", "-LRB-", "CD", "-RRB-", "." ], [ "CD", "." ], [ "NNS", "CC", "NNS", "VBP" ], [ "DT", "NN", "VBZ", "DT", "JJ", "JJ", "NN", "NN", ",", "VBN", "NNP", "JJ", "NN", ",", "TO", "VB", "RBR", "JJ", "NN", "NN", "NN", "NN", "." ], [ "PRP$", "NN", "VBZ", "VBN", "IN", "DT", "JJ", "NN", "WDT", "RB", "VBZ", "DT", "JJ", "NN", "CC", "VBZ", "DT", "JJ", "JJ", "NN", "IN", "DT", "NNS", "NN", "." ], [ "VBG", "NNS", "IN", "JJ", "NN", ",", "PRP$", "NN", "VBZ", "DT", "RBS", "JJ", "NNS", "TO", "NN", "." ], [ "DT", "VBN", "NNS", "CC", "DT", "JJ", "NNS", "IN", "DT", "NN", "VBP", "VBN", "TO", "VB", "DT", "NN", "." ], [ "DT", "JJ", "NNS", "IN", "NN", "NN", "VBP", "IN", "CC", "JJ", "NN", "CC", "JJ", "NN", "MD", "RB", "VB", "DT", "NN", "NN", "." ], [ "IN", "DT", "NN", ",", "PRP", "VBP", "DT", "NN", "NN", "NN", "IN", "DT", "JJ", ",", "JJ", ",", "CC", "JJ", "NN", "NNS", "." ], [ "IN", "NN", "NN", "NN", ",", "PRP", "VBZ", "JJ", "TO", "VB", "DT", "JJ", "NN", "IN", "NN", "VBP", "NN", "." ], [ "DT", "NN", "MD", "VB", "RB", "VBN", "TO", "VB", "DT", "NN", "NN", "IN", "PRP$", "NN", "." ] ]	[ [ "Laplacian", "optimal", "design", "for", "imag", "e", "Retrieval" ], [ "abstract" ], [ "relevance", "feedback", "be", "a", "powerful", "technique", "to", "enhance", "ContentBased", "image", "retrieval", "-lrb-", "cbir", "-rrb-", "performance", "." ], [ "it", "solicit", "the", "user", "'s", "relevance", "judgment", "on", "the", "retrieve", "image", "return", "by", "the", "cbir", "system", "." ], [ "the", "user", "'s", "labeling", "be", "then", "use", "to", "learn", "a", "classifier", "to", "distinguish", "between", "relevant", "and", "irrelevant", "image", "." ], [ "however", ",", "the", "top", "return", "image", "may", "not", "be", "the", "most", "informative", "one", "." ], [ "the", "challenge", "be", "thus", "to", "determine", "which", "unlabeled", "image", "would", "be", "the", "most", "informative", "-lrb-", "i.e.", ",", "improve", "the", "classifier", "the", "most", "-rrb-", "if", "they", "be", "label", "and", "use", "as", "training", "sample", "." ], [ "in", "this", "paper", ",", "we", "propose", "a", "novel", "active", "learning", "algorithm", ",", "call", "Laplacian", "optimal", "design", "-lrb-", "lod", "-rrb-", ",", "for", "relevance", "feedback", "image", "retrieval", "." ], [ "we", "algorithm", "be", "base", "on", "a", "regression", "model", "which", "minimize", "the", "least", "square", "error", "on", "the", "measure", "-lrb-", "or", ",", "label", "-rrb-", "image", "and", "simultaneously", "preserve", "the", "local", "geometrical", "structure", "of", "the", "image", "space", "." ], [ "specifically", ",", "we", "assume", "that", "if", "two", "image", "be", "sufficiently", "close", "to", "each", "other", ",", "then", "they", "measurement", "-lrb-", "or", ",", "label", "-rrb-", "be", "close", "as", "well", "." ], [ "by", "construct", "a", "nearest", "neighbor", "graph", ",", "the", "geometrical", "structure", "of", "the", "image", "space", "can", "be", "describe", "by", "the", "graph", "laplacian", "." ], [ "we", "discuss", "how", "result", "from", "the", "field", "of", "optimal", "experimental", "design", "may", "be", "use", "to", "guide", "we", "selection", "of", "a", "subset", "of", "image", ",", "which", "give", "we", "the", "most", "amount", "of", "information", "." ], [ "experimental", "result", "on", "Corel", "database", "suggest", "that", "the", "propose", "approach", "achieve", "higher", "precision", "in", "relevance", "feedback", "image", "retrieval", "." ], [ "1", "." ], [ "introduction" ], [ "in", "many", "machine", "learning", "and", "information", "retrieval", "task", ",", "there", "be", "no", "shortage", "of", "unlabeled", "datum", "but", "label", "be", "expensive", "." ], [ "the", "challenge", "be", "thus", "to", "determine", "which", "unlabeled", "sample", "would", "be", "the", "most", "informative", "-lrb-", "i.e.", ",", "improve", "the", "classifier", "the", "most", "-rrb-", "if", "they", "be", "label", "and", "use", "as", "training", "sample", "." ], [ "this", "problem", "be", "typically", "call", "active", "learning", "-lsb-", "4", "-rsb-", "." ], [ "many", "real", "world", "application", "can", "be", "cast", "into", "active", "learning", "framework", "." ], [ "particularly", ",", "we", "consider", "the", "problem", "of", "relevance", "feedback", "drive", "content-based", "image", "retrieval", "-lrb-", "cbir", "-rrb-", "-lsb-", "13", "-rsb-", "." ], [ "content-based", "image", "retrieval", "have", "attract", "substantial", "interest", "in", "the", "last", "decade", "-lsb-", "13", "-rsb-", "." ], [ "it", "be", "motivate", "by", "the", "fast", "growth", "of", "digital", "image", "database", "which", ",", "in", "turn", ",", "require", "efficient", "search", "scheme", "." ], [ "rather", "than", "describe", "a", "image", "use", "text", ",", "in", "these", "system", "a", "image", "query", "be", "describe", "use", "one", "or", "more", "example", "image", "." ], [ "the", "low", "level", "visual", "feature", "-lrb-", "color", ",", "texture", ",", "shape", ",", "etc.", "-rrb-", "be", "automatically", "extract", "to", "represent", "the", "image", "." ], [ "to", "narrow", "down", "the", "semantic", "gap", ",", "relevance", "feedback", "be", "introduce", "into", "cbir", "-lsb-", "12", "-rsb-", "." ], [ "in", "many", "of", "the", "current", "relevance", "feedback", "drive", "cbir", "system", ",", "the", "user", "be", "require", "to", "provide", "his/her", "relevance", "judgment", "on", "the", "top", "image", "return", "by", "the", "system", "." ], [ "the", "label", "image", "be", "then", "use", "to", "train", "a", "classifier", "to", "separate", "image", "that", "match", "the", "query", "concept", "from", "those", "that", "do", "not", "." ], [ "however", ",", "in", "general", "the", "top", "return", "image", "may", "not", "be", "the", "most", "informative", "one", "." ], [ "in", "the", "worst", "case", ",", "all", "the", "top", "image", "label", "by", "the", "user", "may", "be", "positive", "and", "thus", "the", "standard", "classification", "technique", "can", "not", "be", "apply", "due", "to", "the", "lack", "of", "negative", "example", "." ], [ "unlike", "the", "standard", "classification", "problem", "where", "the", "label", "sample", "be", "pregiven", ",", "in", "relevance", "feedback", "image", "retrieval", "the", "system", "can", "actively", "select", "the", "image", "to", "label", "." ], [ "thus", "active", "learning", "can", "be", "naturally", "introduce", "into", "image", "retrieval", "." ], [ "despite", "many", "exist", "active", "learning", "technique", ",", "support", "Vector", "machine", "-lrb-", "svm", "-rrb-", "active", "learning", "-lsb-", "14", "-rsb-", "and", "regression", "base", "active", "learning", "-lsb-", "1", "-rsb-", "have", "receive", "the", "most", "interest", "." ], [ "the", "major", "disadvantage", "of", "svm", "active", "learning", "be", "that", "the", "estimate", "boundary", "may", "not", "be", "accurate", "enough", "." ], [ "moreover", ",", "it", "may", "not", "be", "apply", "at", "the", "beginning", "of", "the", "retrieval", "when", "there", "be", "no", "labeled", "image", "." ], [ "some", "other", "svm", "base", "active", "learning", "algorithm", "can", "be", "find", "in", "-lsb-", "7", "-rsb-", ",", "-lsb-", "9", "-rsb-", "." ], [ "in", "statistics", ",", "the", "problem", "of", "select", "sample", "to", "label", "be", "typically", "refer", "to", "as", "experimental", "design", "." ], [ "the", "sample", "x", "be", "refer", "to", "as", "experiment", ",", "and", "its", "label", "y", "be", "refer", "to", "as", "measurement", "." ], [ "the", "study", "of", "optimal", "experimental", "design", "-lrb-", "oed", "-rrb-", "-lsb-", "1", "-rsb-", "be", "concern", "with", "the", "design", "of", "experiment", "that", "be", "expect", "to", "minimize", "variance", "of", "a", "parameterized", "model", "." ], [ "the", "intent", "of", "optimal", "experimental", "design", "be", "usually", "to", "maximize", "confidence", "in", "a", "give", "model", ",", "minimize", "parameter", "variance", "for", "system", "identification", ",", "or", "minimize", "the", "model", "'s", "output", "variance", "." ], [ "classical", "experimental", "design", "approach", "include", "A-Optimal", "Design", ",", "D-Optimal", "Design", ",", "and", "E-Optimal", "Design", "." ], [ "all", "of", "these", "approach", "be", "base", "on", "a", "least", "square", "regression", "model", "." ], [ "compare", "to", "SVM", "base", "active", "learning", "algorithm", ",", "experimental", "design", "approach", "be", "much", "more", "efficient", "in", "computation", "." ], [ "however", ",", "this", "kind", "of", "approach", "take", "only", "measure", "-lrb-", "or", ",", "label", "-rrb-", "datum", "into", "account", "in", "they", "objective", "function", ",", "while", "the", "unmeasured", "-lrb-", "or", ",", "unlabeled", "-rrb-", "datum", "be", "ignore", "." ], [ "Benefit", "from", "recent", "progress", "on", "optimal", "experimental", "design", "and", "semi-supervised", "learning", ",", "in", "this", "paper", "we", "propose", "a", "novel", "active", "learning", "algorithm", "for", "image", "retrieval", ",", "call", "Laplacian", "optimal", "design", "-lrb-", "lod", "-rrb-", "." ], [ "unlike", "traditional", "experimental", "design", "method", "whose", "loss", "function", "be", "only", "define", "on", "the", "measure", "point", ",", "the", "loss", "function", "of", "we", "propose", "LOD", "algorithm", "be", "define", "on", "both", "measure", "and", "unmeasured", "point", "." ], [ "specifically", ",", "we", "introduce", "a", "locality", "preserve", "regularizer", "into", "the", "standard", "least-square-error", "base", "loss", "function", "." ], [ "the", "new", "loss", "function", "aim", "to", "find", "a", "classifier", "which", "be", "locally", "as", "smooth", "as", "possible", "." ], [ "in", "other", "word", ",", "if", "two", "point", "be", "sufficiently", "close", "to", "each", "other", "in", "the", "input", "space", ",", "then", "they", "be", "expect", "to", "share", "the", "same", "label", "." ], [ "once", "the", "loss", "function", "be", "define", ",", "we", "can", "select", "the", "most", "informative", "datum", "point", "which", "be", "present", "to", "the", "user", "for", "labeling", "." ], [ "it", "would", "be", "important", "to", "note", "that", "the", "most", "informative", "image", "may", "not", "be", "the", "top", "return", "image", "." ], [ "the", "rest", "of", "the", "paper", "be", "organize", "as", "follow", "." ], [ "in", "section", "2", ",", "we", "provide", "a", "brief", "description", "of", "the", "related", "work", "." ], [ "we", "propose", "Laplacian", "optimal", "design", "algorithm", "be", "introduce", "in", "section", "3", "." ], [ "in", "section", "4", ",", "we", "compare", "we", "algorithm", "with", "the", "state-or-the-art", "algorithm", "and", "present", "the", "experimental", "result", "on", "image", "retrieval", "." ], [ "finally", ",", "we", "provide", "some", "conclude", "remark", "and", "suggestion", "for", "future", "work", "in", "section", "5", "." ], [ "2", "." ], [ "related", "work" ], [ "since", "we", "propose", "algorithm", "be", "base", "on", "regression", "framework", "." ], [ "the", "most", "related", "work", "be", "optimal", "experimental", "design", "-lsb-", "1", "-rsb-", ",", "include", "A-Optimal", "Design", ",", "D-Optimal", "Design", ",", "and", "EOptimal", "Design", "." ], [ "in", "this", "section", ",", "we", "give", "a", "brief", "description", "of", "these", "approach", "." ], [ "2.1", "the", "active", "Learning", "Problem" ], [ "the", "generic", "problem", "of", "active", "learning", "be", "the", "follow", "." ], [ "in", "other", "word", ",", "the", "point", "zi", "-lrb-", "i", "=", "1", ",", "·", "·", "·", ",", "k", "-rrb-", "can", "improve", "the", "classifier", "the", "most", "if", "they", "be", "label", "and", "use", "as", "training", "point", "." ], [ "2.2", "optimal", "experimental", "design" ], [ "we", "consider", "a", "linear", "regression", "model" ], [ "different", "observation", "have", "error", "that", "be", "independent", ",", "but", "with", "equal", "variance", "σ2", "." ], [ "thus", ",", "the", "maximum", "likelihood", "estimate", "for", "the", "weight", "vector", ",", "ˆw", ",", "be", "that", "which", "minimize", "the", "sum", "square", "error" ], [ "the", "three", "most", "common", "scalar", "measure", "of", "the", "size", "of", "the", "parameter", "covariance", "matrix", "in", "optimal", "experimental", "design" ], [ "be", ":", "•", "d-optimal", "design", ":", "determinant", "of", "hsse", "." ], [ "•", "a-optimal", "design", ":", "trace", "of", "hsse", "." ], [ "•", "e-optimal", "design", ":", "maximum", "eigenvalue", "of", "hsse", "." ], [ "since", "the", "computation", "of", "the", "determinant", "and", "eigenvalue", "of", "a", "matrix", "be", "much", "more", "expensive", "than", "the", "computation", "of", "matrix", "trace", ",", "a-optimal", "design", "be", "more", "efficient", "than", "the", "other", "two", "." ], [ "some", "recent", "work", "on", "experimental", "design", "can", "be", "find", "in", "-lsb-", "6", "-rsb-", ",", "-lsb-", "16", "-rsb-", "." ], [ "7", "." ], [ "conclusion", "and", "future", "work" ], [ "this", "paper", "describe", "a", "novel", "active", "learning", "algorithm", ",", "call", "Laplacian", "optimal", "design", ",", "to", "enable", "more", "effective", "relevance", "feedback", "image", "retrieval", "." ], [ "we", "algorithm", "be", "base", "on", "a", "objective", "function", "which", "simultaneously", "minimize", "the", "empirical", "error", "and", "preserve", "the", "local", "geometrical", "structure", "of", "the", "datum", "space", "." ], [ "use", "technique", "from", "experimental", "design", ",", "we", "algorithm", "find", "the", "most", "informative", "image", "to", "label", "." ], [ "these", "label", "image", "and", "the", "unlabeled", "image", "in", "the", "database", "be", "use", "to", "learn", "a", "classifier", "." ], [ "the", "experimental", "result", "on", "corel", "database", "show", "that", "both", "active", "learning", "and", "semi-supervised", "learning", "can", "significantly", "improve", "the", "retrieval", "performance", "." ], [ "in", "this", "paper", ",", "we", "consider", "the", "image", "retrieval", "problem", "on", "a", "small", ",", "static", ",", "and", "closed-domain", "image", "datum", "." ], [ "for", "web", "image", "search", ",", "it", "be", "possible", "to", "collect", "a", "large", "amount", "of", "user", "click", "information", "." ], [ "this", "information", "can", "be", "naturally", "use", "to", "construct", "the", "affinity", "graph", "in", "we", "algorithm", "." ] ]	[ "relev feedback", "imag represent", "contentbas imag retriev", "activ learn", "least squar regress model", "optim experiment design", "top return imag", "precis rate", "intrins geometr structur", "patten recognit", "label" ]
J-9	[ [ "Computation", "in", "a", "Distributed", "Information", "Market", "∗" ], [ "ABSTRACT" ], [ "According", "to", "economic", "theory", "--", "supported", "by", "empirical", "and", "laboratory", "evidence", "--", "the", "equilibrium", "price", "of", "a", "financial", "security", "reflects", "all", "of", "the", "information", "regarding", "the", "security", "'s", "value", "." ], [ "We", "investigate", "the", "computational", "process", "on", "the", "path", "toward", "equilibrium", ",", "where", "information", "distributed", "among", "traders", "is", "revealed", "step-by-step", "over", "time", "and", "incorporated", "into", "the", "market", "price", "." ], [ "We", "develop", "a", "simplified", "model", "of", "an", "information", "market", ",", "along", "with", "trading", "strategies", ",", "in", "order", "to", "formalize", "the", "computational", "properties", "of", "the", "process", "." ], [ "We", "show", "that", "securities", "whose", "payoffs", "can", "not", "be", "expressed", "as", "weighted", "threshold", "functions", "of", "distributed", "input", "bits", "are", "not", "guaranteed", "to", "converge", "to", "the", "proper", "equilibrium", "predicted", "by", "economic", "theory", "." ], [ "On", "the", "other", "hand", ",", "securities", "whose", "payoffs", "are", "threshold", "functions", "are", "guaranteed", "to", "converge", ",", "for", "all", "prior", "probability", "distributions", "." ], [ "Moreover", ",", "these", "threshold", "securities", "converge", "in", "at", "most", "n", "rounds", ",", "where", "n", "is", "the", "number", "of", "bits", "of", "distributed", "information", "." ], [ "We", "also", "prove", "a", "lower", "bound", ",", "showing", "a", "type", "of", "threshold", "security", "that", "requires", "at", "least", "n/2", "rounds", "to", "converge", "in", "the", "worst", "case", "." ], [ "∗", "This", "work", "was", "supported", "by", "the", "DoD", "University", "Research", "Initiative", "-LRB-", "URI", "-RRB-", "administered", "by", "the", "Office", "of", "Naval", "Research", "under", "Grant", "N00014-01-1-0795", "." ], [ "†", "Supported", "in", "part", "by", "ONR", "grant", "N00014-01-0795", "and", "NSF", "grants", "CCR-0105337", ",", "CCR-TC-0208972", ",", "ANI-0207399", ",", "and", "ITR-0219018", "." ], [ "‡", "This", "work", "conducted", "while", "at", "NEC", "Laboratories", "America", ",", "Princeton", ",", "NJ", "." ], [ "1", "." ], [ "INTRODUCTION" ], [ "The", "strong", "form", "of", "the", "efficient", "markets", "hypothesis", "states", "that", "market", "prices", "nearly", "instantly", "incorporate", "all", "information", "available", "to", "all", "traders", "." ], [ "As", "a", "result", ",", "market", "prices", "encode", "the", "best", "forecasts", "of", "future", "outcomes", "given", "all", "information", ",", "even", "if", "that", "information", "is", "distributed", "across", "many", "sources", "." ], [ "The", "process", "of", "information", "incorporation", "is", ",", "at", "its", "essence", ",", "a", "distributed", "computation", "." ], [ "Each", "trader", "begins", "with", "his", "or", "her", "own", "information", "." ], [ "As", "trades", "are", "made", ",", "summary", "information", "is", "revealed", "through", "market", "prices", "." ], [ "Traders", "learn", "or", "infer", "what", "information", "others", "are", "likely", "to", "have", "by", "observing", "prices", ",", "then", "update", "their", "own", "beliefs", "based", "on", "their", "observations", "." ], [ "Over", "time", ",", "if", "the", "process", "works", "as", "advertised", ",", "all", "information", "is", "revealed", ",", "and", "all", "traders", "converge", "to", "the", "same", "information", "state", "." ], [ "At", "this", "point", ",", "the", "market", "is", "in", "what", "is", "called", "a", "rational", "expectations", "equilibrium", "-LSB-", "11", ",", "16", ",", "19", "-RSB-", "." ], [ "All", "information", "available", "to", "all", "traders", "is", "now", "reflected", "in", "the", "going", "prices", ",", "and", "no", "further", "trades", "are", "desirable", "until", "some", "new", "information", "becomes", "available", "." ], [ "While", "most", "markets", "are", "not", "designed", "with", "information", "aggregation", "as", "a", "primary", "motivation", "--", "for", "example", ",", "derivatives" ], [ "In", "this", "paper", ",", "we", "investigate", "the", "nature", "of", "the", "computational", "process", "whereby", "distributed", "information", "is", "revealed", "and", "combined", "over", "time", "into", "the", "prices", "in", "information", "markets", "." ], [ "To", "do", "so", ",", "in", "Section", "3", ",", "we", "propose", "a", "model", "of", "an", "information", "market", "that", "is", "tractable", "for", "theoretical", "analysis", "and", ",", "we", "believe", ",", "captures", "much", "of", "the", "important", "essence", "of", "real", "information", "markets", "." ], [ "We", "prove", "that", "only", "Boolean", "securities", "whose", "payoffs", "can", "be", "expressed", "as", "threshold", "functions", "of", "the", "distributed", "input", "bits", "of", "information", "are", "guaranteed", "to", "converge", "as", "predicted", "by", "rational", "expectations", "theory", "." ], [ "Boolean", "securities", "with", "more", "complex", "payoffs", "may", "not", "converge", "under", "some", "prior", "distributions", "." ], [ "We", "also", "provide", "upper", "and", "lower", "bounds", "on", "the", "convergence", "time", "for", "these", "threshold", "securities", "." ], [ "We", "show", "that", ",", "for", "all", "prior", "distributions", ",", "the", "price", "of", "a", "threshold", "security", "converges", "to", "its", "rational", "expectations", "equilibrium", "price", "in", "at", "most", "n", "rounds", ",", "where", "n", "is", "the", "number", "of", "bits", "of", "distributed", "information", "." ], [ "We", "show", "that", "this", "worst-case", "bound", "is", "tight", "within", "a", "factor", "of", "two", "by", "illustrating", "a", "situation", "in", "which", "a", "threshold", "security", "requires", "n/2", "rounds", "to", "converge", "." ] ]	[ [ "NNP", "IN", "DT", "VBN", "NN", "NN", "NN" ], [ "NN" ], [ "VBG", "TO", "JJ", "NN", ":", "VBN", "IN", "JJ", "CC", "JJ", "NN", ":", "DT", "NN", "NN", "IN", "DT", "JJ", "NN", "VBZ", "DT", "IN", "DT", "NN", "VBG", "DT", "NN", "POS", "NN", "." ], [ "PRP", "VBP", "DT", "JJ", "NN", "IN", "DT", "NN", "IN", "NN", ",", "WRB", "NN", "VBN", "IN", "NNS", "VBZ", "VBN", "NN", "IN", "NN", "CC", "VBN", "IN", "DT", "NN", "NN", "." ], [ "PRP", "VBP", "DT", "VBN", "NN", "IN", "DT", "NN", "NN", ",", "IN", "IN", "NN", "NNS", ",", "IN", "NN", "TO", "VB", "DT", "JJ", "NNS", "IN", "DT", "NN", "." ], [ "PRP", "VBP", "IN", "NNS", "WP$", "NNS", "MD", "RB", "VB", "VBN", "IN", "JJ", "NN", "NNS", "IN", "VBN", "NN", "NNS", "VBP", "RB", "VBN", "TO", "VB", "TO", "DT", "JJ", "NN", "VBN", "IN", "JJ", "NN", "." ], [ "IN", "DT", "JJ", "NN", ",", "NNS", "WP$", "NNS", "VBP", "JJ", "NNS", "VBP", "VBN", "TO", "VB", ",", "IN", "DT", "JJ", "NN", "NNS", "." ], [ "RB", ",", "DT", "JJ", "NNS", "VBP", "IN", "IN", "JJS", "NN", "NNS", ",", "WRB", "NN", "VBZ", "DT", "NN", "IN", "NNS", "IN", "VBN", "NN", "." ], [ "PRP", "RB", "VBP", "DT", "JJR", "VBN", ",", "VBG", "DT", "NN", "IN", "NN", "NN", "WDT", "VBZ", "IN", "JJS", "NN", "NNS", "TO", "VB", "IN", "DT", "JJS", "NN", "." ], [ "NN", "DT", "NN", "VBD", "VBN", "IN", "DT", "NNP", "NNP", "NNP", "NNP", "-LRB-", "NNP", "-RRB-", "VBN", "IN", "DT", "NNP", "IN", "NNP", "NNP", "IN", "NNP", "NNP", "." ], [ "NN", "VBN", "IN", "NN", "IN", "NN", "NN", "NN", "CC", "NN", "NNS", "NN", ",", "NN", ",", "NN", ",", "CC", "NN", "." ], [ "NN", "DT", "NN", "VBN", "IN", "IN", "NNP", "NNP", "NNP", ",", "NNP", ",", "NNP", "." ], [ "LS", "." ], [ "NN" ], [ "DT", "JJ", "NN", "IN", "DT", "JJ", "NNS", "NN", "VBZ", "IN", "NN", "NNS", "RB", "RB", "VB", "DT", "NN", "JJ", "TO", "DT", "NNS", "." ], [ "IN", "DT", "NN", ",", "NN", "NNS", "VBP", "DT", "JJS", "NNS", "IN", "JJ", "NNS", "VBN", "DT", "NN", ",", "RB", "IN", "DT", "NN", "VBZ", "VBN", "IN", "JJ", "NNS", "." ], [ "DT", "NN", "IN", "NN", "NN", "VBZ", ",", "IN", "PRP$", "NN", ",", "DT", "VBN", "NN", "." ], [ "DT", "NN", "VBZ", "IN", "PRP$", "CC", "PRP$", "JJ", "NN", "." ], [ "IN", "NNS", "VBP", "VBN", ",", "NN", "NN", "VBZ", "VBN", "IN", "NN", "NNS", "." ], [ "NNS", "VBP", "CC", "VBP", "WP", "NN", "NNS", "VBP", "JJ", "TO", "VB", "IN", "VBG", "NNS", ",", "RB", "VBP", "PRP$", "JJ", "NNS", "VBN", "IN", "PRP$", "NNS", "." ], [ "IN", "NN", ",", "IN", "DT", "NN", "VBZ", "IN", "VBN", ",", "DT", "NN", "VBZ", "VBN", ",", "CC", "DT", "NNS", "VBP", "TO", "DT", "JJ", "NN", "NN", "." ], [ "IN", "DT", "NN", ",", "DT", "NN", "VBZ", "IN", "WP", "VBZ", "VBN", "DT", "JJ", "NNS", "NN", "-LRB-", "CD", ",", "CD", ",", "CD", "-RRB-", "." ], [ "DT", "NN", "JJ", "TO", "DT", "NNS", "VBZ", "RB", "VBN", "IN", "DT", "VBG", "NNS", ",", "CC", "DT", "JJ", "NNS", "VBP", "JJ", "IN", "DT", "JJ", "NN", "VBZ", "JJ", "." ], [ "IN", "JJS", "NNS", "VBP", "RB", "VBN", "IN", "NN", "NN", "IN", "DT", "JJ", "NN", ":", "IN", "NN", ",", "NNS" ], [ "IN", "DT", "NN", ",", "PRP", "VBP", "DT", "NN", "IN", "DT", "JJ", "NN", "WRB", "VBN", "NN", "VBZ", "VBN", "CC", "VBN", "IN", "NN", "IN", "DT", "NNS", "IN", "NN", "NNS", "." ], [ "TO", "VB", "RB", ",", "IN", "NN", "CD", ",", "PRP", "VBP", "DT", "NN", "IN", "DT", "NN", "NN", "WDT", "VBZ", "JJ", "IN", "JJ", "NN", "CC", ",", "PRP", "VBP", ",", "VBZ", "RB", "IN", "DT", "JJ", "NN", "IN", "JJ", "NN", "NNS", "." ], [ "PRP", "VBP", "IN", "RB", "JJ", "NNS", "WP$", "NNS", "MD", "VB", "VBN", "IN", "JJ", "NNS", "IN", "DT", "VBN", "NN", "NNS", "IN", "NN", "VBP", "VBN", "TO", "VB", "IN", "VBN", "IN", "JJ", "NNS", "NN", "." ], [ "JJ", "NNS", "IN", "JJR", "NN", "NNS", "MD", "RB", "VB", "IN", "DT", "JJ", "NNS", "." ], [ "PRP", "RB", "VBP", "JJ", "CC", "JJR", "NNS", "IN", "DT", "NN", "NN", "IN", "DT", "JJ", "NNS", "." ], [ "PRP", "VBP", "IN", ",", "IN", "DT", "JJ", "NNS", ",", "DT", "NN", "IN", "DT", "NN", "NN", "VBZ", "TO", "PRP$", "JJ", "NNS", "NN", "NN", "IN", "IN", "JJS", "NN", "NNS", ",", "WRB", "NN", "VBZ", "DT", "NN", "IN", "NNS", "IN", "VBN", "NN", "." ], [ "PRP", "VBP", "IN", "DT", "JJ", "VBN", "VBZ", "JJ", "IN", "DT", "NN", "IN", "CD", "IN", "VBG", "DT", "NN", "IN", "WDT", "DT", "NN", "NN", "VBZ", "NN", "NNS", "TO", "VB", "." ] ]	[ [ "Computation", "in", "a", "distribute", "information", "market", "∗" ], [ "abstract" ], [ "accord", "to", "economic", "theory", "--", "support", "by", "empirical", "and", "laboratory", "evidence", "--", "the", "equilibrium", "price", "of", "a", "financial", "security", "reflect", "all", "of", "the", "information", "regard", "the", "security", "'s", "value", "." ], [ "we", "investigate", "the", "computational", "process", "on", "the", "path", "toward", "equilibrium", ",", "where", "information", "distribute", "among", "trader", "be", "reveal", "step-by-step", "over", "time", "and", "incorporate", "into", "the", "market", "price", "." ], [ "we", "develop", "a", "simplify", "model", "of", "a", "information", "market", ",", "along", "with", "trading", "strategy", ",", "in", "order", "to", "formalize", "the", "computational", "property", "of", "the", "process", "." ], [ "we", "show", "that", "security", "whose", "payoff", "can", "not", "be", "express", "as", "weighted", "threshold", "function", "of", "distribute", "input", "bit", "be", "not", "guarantee", "to", "converge", "to", "the", "proper", "equilibrium", "predict", "by", "economic", "theory", "." ], [ "on", "the", "other", "hand", ",", "security", "whose", "payoff", "be", "threshold", "function", "be", "guarantee", "to", "converge", ",", "for", "all", "prior", "probability", "distribution", "." ], [ "moreover", ",", "these", "threshold", "security", "converge", "in", "at", "most", "n", "round", ",", "where", "n", "be", "the", "number", "of", "bit", "of", "distribute", "information", "." ], [ "we", "also", "prove", "a", "lower", "bind", ",", "show", "a", "type", "of", "threshold", "security", "that", "require", "at", "least", "n/2", "round", "to", "converge", "in", "the", "worst", "case", "." ], [ "∗", "this", "work", "be", "support", "by", "the", "DoD", "University", "Research", "Initiative", "-lrb-", "URI", "-rrb-", "administer", "by", "the", "Office", "of", "Naval", "Research", "under", "Grant", "N00014-01-1-0795", "." ], [ "†", "support", "in", "part", "by", "onr", "grant", "n00014-01-0795", "and", "nsf", "grant", "ccr-0105337", ",", "ccr-tc-0208972", ",", "ani-0207399", ",", "and", "itr-0219018", "." ], [ "‡", "this", "work", "conduct", "while", "at", "NEC", "Laboratories", "America", ",", "Princeton", ",", "NJ", "." ], [ "1", "." ], [ "introduction" ], [ "the", "strong", "form", "of", "the", "efficient", "market", "hypothesis", "state", "that", "market", "price", "nearly", "instantly", "incorporate", "all", "information", "available", "to", "all", "trader", "." ], [ "as", "a", "result", ",", "market", "price", "encode", "the", "best", "forecast", "of", "future", "outcome", "give", "all", "information", ",", "even", "if", "that", "information", "be", "distribute", "across", "many", "source", "." ], [ "the", "process", "of", "information", "incorporation", "be", ",", "at", "its", "essence", ",", "a", "distribute", "computation", "." ], [ "each", "trader", "begin", "with", "he", "or", "she", "own", "information", "." ], [ "as", "trade", "be", "make", ",", "summary", "information", "be", "reveal", "through", "market", "price", "." ], [ "trader", "learn", "or", "infer", "what", "information", "other", "be", "likely", "to", "have", "by", "observe", "price", ",", "then", "update", "they", "own", "belief", "base", "on", "they", "observation", "." ], [ "over", "time", ",", "if", "the", "process", "work", "as", "advertise", ",", "all", "information", "be", "reveal", ",", "and", "all", "trader", "converge", "to", "the", "same", "information", "state", "." ], [ "at", "this", "point", ",", "the", "market", "be", "in", "what", "be", "call", "a", "rational", "expectation", "equilibrium", "-lsb-", "11", ",", "16", ",", "19", "-rsb-", "." ], [ "all", "information", "available", "to", "all", "trader", "be", "now", "reflect", "in", "the", "go", "price", ",", "and", "no", "further", "trade", "be", "desirable", "until", "some", "new", "information", "become", "available", "." ], [ "while", "most", "market", "be", "not", "design", "with", "information", "aggregation", "as", "a", "primary", "motivation", "--", "for", "example", ",", "derivative" ], [ "in", "this", "paper", ",", "we", "investigate", "the", "nature", "of", "the", "computational", "process", "whereby", "distribute", "information", "be", "reveal", "and", "combine", "over", "time", "into", "the", "price", "in", "information", "market", "." ], [ "to", "do", "so", ",", "in", "section", "3", ",", "we", "propose", "a", "model", "of", "a", "information", "market", "that", "be", "tractable", "for", "theoretical", "analysis", "and", ",", "we", "believe", ",", "capture", "much", "of", "the", "important", "essence", "of", "real", "information", "market", "." ], [ "we", "prove", "that", "only", "boolean", "security", "whose", "payoff", "can", "be", "express", "as", "threshold", "function", "of", "the", "distribute", "input", "bit", "of", "information", "be", "guarantee", "to", "converge", "as", "predict", "by", "rational", "expectation", "theory", "." ], [ "boolean", "security", "with", "more", "complex", "payoff", "may", "not", "converge", "under", "some", "prior", "distribution", "." ], [ "we", "also", "provide", "upper", "and", "lower", "bound", "on", "the", "convergence", "time", "for", "these", "threshold", "security", "." ], [ "we", "show", "that", ",", "for", "all", "prior", "distribution", ",", "the", "price", "of", "a", "threshold", "security", "converge", "to", "its", "rational", "expectation", "equilibrium", "price", "in", "at", "most", "n", "round", ",", "where", "n", "be", "the", "number", "of", "bit", "of", "distribute", "information", "." ], [ "we", "show", "that", "this", "worst-case", "bind", "be", "tight", "within", "a", "factor", "of", "two", "by", "illustrate", "a", "situation", "in", "which", "a", "threshold", "security", "require", "n/2", "round", "to", "converge", "." ] ]	[ "econom theori", "empir and laboratori evid", "equilibrium price", "financi secur", "secur's valu", "comput process", "path toward equilibrium", "trader", "market price", "simplifi model", "trade strategi", "comput properti of the process", "secur", "payoff", "threshold function", "probabl distribut", "round", "number of bit", "distribut inform", "lower bound", "worst case", "inform market" ]
I-7	[ [ "Commitment", "and", "Extortion", "*" ], [ "ABSTRACT" ], [ "Making", "commitments", ",", "e.g.", ",", "through", "promises", "and", "threats", ",", "enables", "a", "player", "to", "exploit", "the", "strengths", "of", "his", "own", "strategic", "position", "as", "well", "as", "the", "weaknesses", "of", "that", "of", "his", "opponents", "." ], [ "Which", "commitments", "a", "player", "can", "make", "with", "credibility", "depends", "on", "the", "circumstances", "." ], [ "In", "some", ",", "a", "player", "can", "only", "commit", "to", "the", "performance", "of", "an", "action", ",", "in", "others", ",", "he", "can", "commit", "himself", "conditionally", "on", "the", "actions", "of", "the", "other", "players", "." ], [ "Some", "situations", "even", "allow", "for", "commitments", "on", "commitments", "or", "for", "commitments", "to", "randomized", "actions", "." ], [ "We", "explore", "the", "formal", "properties", "of", "these", "types", "of", "-LRB-", "conditional", "-RRB-", "commitment", "and", "their", "interrelationships", "." ], [ "So", "as", "to", "preclude", "inconsistencies", "among", "conditional", "commitments", ",", "we", "assume", "an", "order", "in", "which", "the", "players", "make", "their", "commitments", "." ], [ "Central", "to", "our", "analyses", "is", "the", "notion", "of", "an", "extortion", ",", "which", "we", "define", ",", "for", "a", "given", "order", "of", "the", "players", ",", "as", "a", "profile", "that", "contains", ",", "for", "each", "player", ",", "an", "optimal", "commitment", "given", "the", "commitments", "of", "the", "players", "that", "committed", "earlier", "." ], [ "On", "this", "basis", ",", "we", "investigate", "for", "different", "commitment", "types", "whether", "it", "is", "advantageous", "to", "commit", "earlier", "rather", "than", "later", ",", "and", "how", "the", "outcomes", "obtained", "through", "extortions", "relate", "to", "backward", "induction", "and", "Pareto", "efficiency", "." ], [ "1", "." ], [ "INTRODUCTION" ], [ "On", "one", "view", ",", "the", "least", "one", "may", "expect", "of", "game", "theory", "is", "that", "it", "provides", "an", "answer", "to", "the", "question", "which", "actions", "maximize", "an", "agent", "'s", "expected", "utility", "in", "situations", "of", "interactive", "decision", "making", "." ], [ "From", "this", "perspective", ",", "the", "formal", "model", "of", "a", "game", "in", "strategic", "form", "only", "outlines", "the", "strategic", "features", "of", "an", "interactive", "situation", "." ], [ "Apart", "from", "merely", "choosing", "and", "performing", "an", "action", "from", "a", "set", "of", "actions", ",", "there", "may", "also", "be", "other", "courses", "open", "to", "an", "agent", "." ], [ "E.g.", ",", "the", "strategic", "lie", "of", "the", "land", "may", "be", "such", "that", "a", "promise", ",", "a", "threat", ",", "or", "a", "combination", "of", "both", "would", "be", "more", "conductive", "to", "his", "ends", "." ], [ "Likewise", ",", "a", "threat", "only", "succeeds", "in", "deterring", "an", "agent", "if", "the", "latter", "can", "be", "made", "to", "believe", "that", "the", "threatener", "is", "bound", "to", "execute", "the", "threat", ",", "should", "it", "be", "ignored", "." ], [ "In", "this", "sense", ",", "promises", "and", "threats", "essentially", "involve", "a", "commitment", "on", "the", "part", "of", "the", "one", "who", "makes", "them", ",", "thus", "purposely", "restricting", "his", "freedom", "of", "choice", "." ], [ "Promises", "and", "threats", "epitomize", "one", "of", "the", "fundamental", "and", "at", "first", "sight", "perhaps", "most", "surprising", "phenomena", "in", "game", "theory", ":", "it", "may", "occur", "that", "a", "player", "can", "improve", "his", "strategic", "position", "by", "limiting", "his", "own", "freedom", "of", "action", "." ], [ "By", "commitments", "we", "will", "understand", "such", "limitations", "of", "one", "'s", "action", "space", "." ], [ "Action", "itself", "could", "be", "seen", "as", "the", "ultimate", "commitment", "." ], [ "Performing", "a", "particular", "action", "means", "doing", "so", "to", "the", "exclusion", "of", "all", "other", "actions", "." ], [ "Commitments", "come", "in", "different", "forms", "and", "it", "may", "depend", "on", "the", "circumstances", "which", "ones", "can", "and", "which", "ones", "can", "not", "credibly", "be", "made", "." ], [ "Besides", "simply", "committing", "to", "the", "performance", "of", "an", "action", ",", "an", "agent", "might", "make", "his", "commitment", "conditional", "on", "the", "actions", "of", "other", "agents", ",", "as", ",", "e.g.", ",", "the", "kidnapper", "does", ",", "when", "he", "promises", "to", "set", "free", "a", "hostage", "on", "receiving", "a", "ransom", ",", "while", "threatening", "to", "cut", "off", "another", "toe", ",", "otherwise", "." ], [ "Some", "situations", "even", "allow", "for", "commitments", "on", "commitments", "or", "for", "commitments", "to", "randomized", "actions", "." ], [ "By", "focusing", "on", "the", "selection", "of", "actions", "rather", "than", "on", "commitments", ",", "it", "might", "seem", "that", "the", "conception", "of", "game", "theory", "as", "mere", "interactive", "decision", "theory", "is", "too", "narrow", "." ], [ "In", "this", "respect", ",", "Schelling", "'s", "view", "might", "seem", "to", "evince", "a", "more", "comprehensive", "understanding", "of", "what", "game", "theory", "tries", "to", "accomplish", "." ], [ "One", "might", "object", ",", "that", "commitments", "could", "be", "seen", "as", "the", "actions", "of", "a", "larger", "game", "." ], [ "-LSB-", "...", "-RSB-", "What", "we", "want", "is", "a", "theory", "that", "systematizes", "the", "study", "of", "the", "various", "universal", "ingredients", "that", "make", "up", "the", "move-structure", "of", "games", ";", "too", "abstract", "a", "model", "will", "miss", "them", "." ], [ "-LSB-", "9", ",", "pp.", "156-7", "-RSB-" ], [ "Our", "concern", "is", "with", "these", "commitment", "tactics", ",", "be", "it", "that", "our", "analysis", "is", "confined", "to", "situations", "in", "which", "the", "players", "can", "commit", "in", "a", "given", "order", "and", "where", "we", "assume", "the", "commitments", "the", "players", "can", "make", "are", "given", "." ], [ "Despite", "Schelling", "'s", "warning", "for", "too", "abstract", "a", "framework", ",", "our", "approach", "will", "be", "based", "on", "the", "formal", "notion", "of", "an", "extortion", ",", "which", "we", "will", "propose", "in", "Section", "4", "as", "a", "uniform", "tactic", "for", "a", "comprehensive", "class", "of", "situations", "in", "which", "commitments", "can", "be", "made", "sequentially", "." ], [ "On", "this", "basis", "we", "tackle", "such", "issues", "as", "the", "usefulness", "of", "certain", "types", "of", "commitment", "in", "different", "situations", "-LRB-", "strategic", "games", "-RRB-", "or", "whether", "it", "is", "better", "to", "commit", "early", "rather", "than", "late", "." ], [ "We", "also", "provide", "a", "framework", "for", "the", "assessment", "of", "more", "general", "game", "theoretic", "matters", "like", "the", "relationship", "of", "extortions", "to", "backward", "induction", "or", "Pareto", "efficiency", "." ], [ "For", "example", ",", "commitments", "have", "been", "argued", "to", "be", "of", "importance", "for", "interacting", "software", "agents", "as", "well", "as", "for", "mechanism", "design", "." ], [ "In", "the", "former", "setting", ",", "the", "inability", "to", "re-program", "a", "software", "agent", "on", "the", "fly", "can", "be", "seen", "as", "a", "commitment", "to", "its", "specification", "and", "thus", "exploited", "to", "strengthen", "its", "strategic", "position", "in", "a", "multiagent", "setting", "." ], [ "A", "mechanism", ",", "on", "the", "other", "hand", ",", "could", "be", "seen", "as", "a", "set", "of", "commitments", "that", "steers", "the", "players", "'", "behavior", "in", "a", "certain", "desired", "way", "-LRB-", "see", ",", "e.g.", ",", "-LSB-", "2", "-RSB-", "-RRB-", "." ], [ "These", "games", "analyze", "situations", "in", "which", "a", "leader", "commits", "to", "a", "pure", "or", "mixed", "strategy", ",", "and", "a", "number", "of", "followers", ",", "who", "then", "act", "simultaneously", "." ], [ "After", "briefly", "discussing", "related", "work", "in", "Section", "2", ",", "we", "present", "the", "formal", "game", "theoretic", "framework", ",", "in", "which", "we", "define", "the", "notions", "of", "a", "commitment", "type", "as", "well", "as", "conditional", "and", "unconditional", "commitments", "-LRB-", "Section", "3", "-RRB-", "." ], [ "In", "Section", "4", "we", "propose", "the", "generic", "concept", "of", "an", "extortion", ",", "which", "for", "each", "commitment", "type", "captures", "the", "idea", "of", "an", "optimal", "commitment", "profile", "." ], [ "Section", "5", "briefly", "reviews", "some", "other", "commitment", "types", ",", "such", "as", "inductive", ",", "mixed", "and", "mixed", "conditional", "commitments", "." ], [ "2", "." ], [ "RELATED", "WORK" ], [ "Commitment", "is", "a", "central", "concept", "in", "game", "theory", "." ], [ "The", "possibility", "to", "make", "commitments", "distinguishes", "cooperative", "from", "noncooperative", "game", "theory", "-LSB-", "4", ",", "6", "-RSB-", "." ], [ "Leadership", "games", ",", "as", "mentioned", "in", "the", "introduction", ",", "analyze", "commitments", "to", "pure", "or", "mixed", "strategies", "in", "what", "is", "essentially", "a", "two-player", "setting", "-LSB-", "15", ",", "16", "-RSB-", "." ], [ "Informally", ",", "Schelling", "-LSB-", "9", "-RSB-", "has", "emphasized", "the", "importance", "of", "promises", ",", "threats", "and", "the", "like", "for", "a", "proper", "understanding", "of", "social", "interaction", "." ], [ "On", "a", "more", "formal", "level", ",", "threats", "have", "also", "figured", "in", "bargaining", "theory", "." ], [ "Nash", "'s", "threat", "game", "-LSB-", "5", "-RSB-", "and", "Harsanyi", "'s", "rational", "threats", "-LSB-", "3", "-RSB-", "are", "two", "important", "early", "examples", "." ], [ "Also", ",", "commitments", "have", "played", "a", "significant", "role", "in", "the", "theory", "of", "equilibrium", "selection", "-LRB-", "see", ",", "e.g.", ",", "-LSB-", "13", "-RSB-", "." ], [ "Over", "the", "last", "few", "years", ",", "game", "theory", "has", "become", "almost", "indispensable", "as", "a", "research", "tool", "for", "computer", "science", "and", "-LRB-", "multi", "-RRB-", "agent", "research", "." ], [ "Commitments", "have", "by", "no", "means", "gone", "unnoticed", "-LRB-", "see", "," ], [ "Figure", "1", ":", "Committing", "to", "a", "dominated", "strategy", "can", "be", "advantageous", "." ], [ "e.g.", ",", "-LSB-", "1", ",", "11", "-RSB-", "-RRB-", "." ], [ "Recently", ",", "also", "the", "strategic", "aspects", "of", "commitments", "have", "attracted", "the", "attention", "of", "computer", "scientists", "." ], [ "Thus", ",", "Conitzer", "and", "Sandholm", "-LSB-", "2", "-RSB-", "have", "studied", "the", "computational", "complexity", "of", "computing", "the", "optimal", "strategy", "to", "commit", "to", "in", "normal", "form", "and", "Bayesian", "games", "." ], [ "Sandholm", "and", "Lesser", "-LSB-", "8", "-RSB-", "employ", "levelled", "commitments", "for", "the", "design", "of", "multiagent", "systems", "in", "which", "contractual", "agreements", "are", "not", "fully", "binding", "." ], [ "Another", "connection", "between", "commitments", "and", "computer", "science", "has", "been", "pointed", "out", "by", "Samet", "-LSB-", "7", "-RSB-", "and", "Tennenholtz", "-LSB-", "12", "-RSB-", "." ], [ "Their", "point", "of", "departure", "is", "the", "observation", "that", "programs", "can", "be", "used", "to", "formulate", "commitments", "that", "are", "conditional", "on", "the", "programs", "of", "other", "systems", "." ], [ "Our", "approach", "is", "similar", "to", "the", "Stackleberg", "setting", "in", "that", "we", "assume", "an", "order", "in", "which", "the", "players", "commit", "." ], [ "We", ",", "however", ",", "consider", "a", "number", "of", "different", "commitment", "types", ",", "among", "which", "conditional", "commitments", ",", "and", "propose", "a", "generic", "solution", "concept", "." ], [ "6", "." ], [ "SUMMARY", "AND", "CONCLUSION" ], [ "In", "some", "situations", "agents", "can", "strengthen", "their", "strategic", "position", "by", "committing", "themselves", "to", "a", "particular", "course", "of", "action", "." ], [ "There", "are", "various", "types", "of", "commitment", ",", "e.g.", ",", "pure", ",", "mixed", "and", "conditional", "." ], [ "Which", "type", "of", "commitment", "an", "agent", "is", "in", "a", "position", "in", "to", "make", "essentially", "depends", "on", "the", "situation", "under", "consideration", "." ], [ "If", "the", "agents", "commit", "in", "a", "particular", "order", ",", "there", "is", "a", "tactic", "common", "to", "making", "commitments", "of", "any", "type", ",", "which", "we", "have", "formalized", "by", "means", "the", "concept", "of", "an", "extortion", "." ], [ "This", "generic", "concept", "of", "extortion", "can", "be", "analyzed", "in", "abstracto", "." ], [ "Moreover", ",", "on", "its", "basis", "the", "various", "commitment", "types", "can", "be", "compared", "formally", "and", "systematically", "." ], [ "We", "have", "seen", "that", "the", "type", "of", "commitment", "an", "agent", "can", "make", "has", "a", "profound", "impact", "on", "what", "an", "agent", "can", "achieve", "in", "a", "gamelike", "situation", "." ], [ "In", "some", "situations", "a", "player", "is", "much", "helped", "if", "he", "is", "in", "a", "position", "to", "commit", "conditionally", ",", "whereas", "in", "others", "mixed", "commitments", "would", "be", "more", "profitable", "." ], [ "This", "raises", "the", "question", "as", "to", "the", "characteristic", "formal", "features", "of", "the", "situations", "in", "which", "it", "is", "advantageous", "for", "a", "player", "to", "be", "able", "to", "make", "commitments", "of", "a", "particular", "type", "." ], [ "Another", "issue", "which", "we", "leave", "for", "future", "research", "is", "the", "computational", "complexity", "of", "finding", "an", "extortion", "for", "the", "different", "commitment", "types", "." ] ]	[ [ "NN", "CC", "NN", "SYM" ], [ "NN" ], [ "VBG", "NNS", ",", "FW", ",", "IN", "NNS", "CC", "NNS", ",", "VBZ", "DT", "NN", "TO", "VB", "DT", "NNS", "IN", "PRP$", "JJ", "JJ", "NN", "RB", "RB", "IN", "DT", "NNS", "IN", "DT", "IN", "PRP$", "NNS", "." ], [ "WDT", "NNS", "DT", "NN", "MD", "VB", "IN", "NN", "VBZ", "IN", "DT", "NNS", "." ], [ "IN", "DT", ",", "DT", "NN", "MD", "RB", "VB", "TO", "DT", "NN", "IN", "DT", "NN", ",", "IN", "NNS", ",", "PRP", "MD", "VB", "PRP", "RB", "IN", "DT", "NNS", "IN", "DT", "JJ", "NNS", "." ], [ "DT", "NNS", "RB", "VBP", "IN", "NNS", "IN", "NNS", "CC", "IN", "NNS", "TO", "VBN", "NNS", "." ], [ "PRP", "VBP", "DT", "JJ", "NNS", "IN", "DT", "NNS", "IN", "-LRB-", "JJ", "-RRB-", "NN", "CC", "PRP$", "NNS", "." ], [ "RB", "IN", "TO", "VB", "NNS", "IN", "JJ", "NNS", ",", "PRP", "VBP", "DT", "NN", "IN", "WDT", "DT", "NNS", "VBP", "PRP$", "NNS", "." ], [ "NNP", "TO", "PRP$", "NNS", "VBZ", "DT", "NN", "IN", "DT", "NN", ",", "WDT", "PRP", "VBP", ",", "IN", "DT", "VBN", "NN", "IN", "DT", "NNS", ",", "IN", "DT", "NN", "WDT", "VBZ", ",", "IN", "DT", "NN", ",", "DT", "JJ", "NN", "VBN", "DT", "NNS", "IN", "DT", "NNS", "WDT", "VBD", "JJR", "." ], [ "IN", "DT", "NN", ",", "PRP", "VBP", "IN", "JJ", "NN", "NNS", "IN", "PRP", "VBZ", "JJ", "TO", "VB", "JJR", "RB", "IN", "RB", ",", "CC", "WRB", "DT", "NNS", "VBN", "IN", "NNS", "VBP", "TO", "RB", "NN", "CC", "NNP", "NN", "." ], [ "LS", "." ], [ "NN" ], [ "IN", "CD", "NN", ",", "DT", "JJS", "CD", "MD", "VB", "IN", "NN", "NN", "VBZ", "IN", "PRP", "VBZ", "DT", "NN", "TO", "DT", "NN", "WDT", "NNS", "VBP", "DT", "NN", "POS", "VBN", "NN", "IN", "NNS", "IN", "JJ", "NN", "NN", "." ], [ "IN", "DT", "NN", ",", "DT", "JJ", "NN", "IN", "DT", "NN", "IN", "JJ", "NN", "RB", "VBZ", "DT", "JJ", "NNS", "IN", "DT", "JJ", "NN", "." ], [ "RB", "IN", "RB", "VBG", "CC", "VBG", "DT", "NN", "IN", "DT", "NN", "IN", "NNS", ",", "EX", "MD", "RB", "VB", "JJ", "NNS", "JJ", "TO", "DT", "NN", "." ], [ "NNP", ",", "DT", "JJ", "NN", "IN", "DT", "NN", "MD", "VB", "JJ", "IN", "DT", "NN", ",", "DT", "NN", ",", "CC", "DT", "NN", "IN", "CC", "MD", "VB", "RBR", "JJ", "TO", "PRP$", "NNS", "." ], [ "RB", ",", "DT", "NN", "RB", "VBZ", "IN", "VBG", "DT", "NN", "IN", "DT", "NN", "MD", "VB", "VBN", "TO", "VB", "IN", "DT", "NN", "VBZ", "VBN", "TO", "VB", "DT", "NN", ",", "MD", "PRP", "VB", "VBN", "." ], [ "IN", "DT", "NN", ",", "VBZ", "CC", "NNS", "RB", "VBP", "DT", "NN", "IN", "DT", "NN", "IN", "DT", "CD", "WP", "VBZ", "PRP", ",", "RB", "RB", "VBG", "PRP$", "NN", "IN", "NN", "." ], [ "VBZ", "CC", "NNS", "VBP", "CD", "IN", "DT", "JJ", "CC", "IN", "JJ", "NN", "RB", "RBS", "JJ", "NNS", "IN", "NN", "NN", ":", "PRP", "MD", "VB", "IN", "DT", "NN", "MD", "VB", "PRP$", "JJ", "NN", "IN", "VBG", "PRP$", "JJ", "NN", "IN", "NN", "." ], [ "IN", "NNS", "PRP", "MD", "VB", "JJ", "NNS", "IN", "CD", "POS", "NN", "NN", "." ], [ "NNP", "PRP", "MD", "VB", "VBN", "IN", "DT", "JJ", "NN", "." ], [ "VBG", "DT", "JJ", "NN", "VBZ", "VBG", "RB", "TO", "DT", "NN", "IN", "DT", "JJ", "NNS", "." ], [ "NNS", "VBP", "IN", "JJ", "NNS", "CC", "PRP", "MD", "VB", "IN", "DT", "NNS", "WDT", "NNS", "MD", "CC", "WDT", "NNS", "MD", "RB", "RB", "VB", "VBN", "." ], [ "IN", "RB", "VBG", "TO", "DT", "NN", "IN", "DT", "NN", ",", "DT", "NN", "MD", "VB", "PRP$", "NN", "JJ", "IN", "DT", "NNS", "IN", "JJ", "NNS", ",", "RB", ",", "FW", ",", "DT", "NN", "VBZ", ",", "WRB", "PRP", "VBZ", "TO", "VB", "JJ", "DT", "NN", "IN", "VBG", "DT", "NN", ",", "IN", "VBG", "TO", "VB", "RP", "DT", "NN", ",", "RB", "." ], [ "DT", "NNS", "RB", "VBP", "IN", "NNS", "IN", "NNS", "CC", "IN", "NNS", "TO", "VBN", "NNS", "." ], [ "IN", "VBG", "IN", "DT", "NN", "IN", "NNS", "RB", "IN", "IN", "NNS", ",", "PRP", "MD", "VB", "IN", "DT", "NN", "IN", "NN", "NN", "IN", "JJ", "JJ", "NN", "NN", "VBZ", "RB", "JJ", "." ], [ "IN", "DT", "NN", ",", "NNP", "POS", "NN", "MD", "VB", "TO", "VB", "DT", "RBR", "JJ", "NN", "IN", "WP", "NN", "NN", "VBZ", "TO", "VB", "." ], [ "NN", "MD", "VB", ",", "IN", "NNS", "MD", "VB", "VBN", "IN", "DT", "NNS", "IN", "DT", "JJR", "NN", "." ], [ "-LRB-", ":", "-RRB-", "WP", "PRP", "VBP", "VBZ", "DT", "NN", "WDT", "VBZ", "DT", "NN", "IN", "DT", "JJ", "JJ", "NNS", "WDT", "VBP", "RP", "DT", "NN", "IN", "NNS", ":", "RB", "JJ", "DT", "NN", "MD", "VB", "PRP", "." ], [ "-LRB-", "CD", ",", "VBP", "CD", "-RRB-" ], [ "PRP$", "NN", "VBZ", "IN", "DT", "NN", "NNS", ",", "VB", "PRP", "IN", "PRP$", "NN", "VBZ", "VBN", "TO", "NNS", "IN", "WDT", "DT", "NNS", "MD", "VB", "IN", "DT", "VBN", "NN", "CC", "WRB", "PRP", "VBP", "DT", "NNS", "DT", "NNS", "MD", "VB", "VBP", "VBN", "." ], [ "IN", "NN", "POS", "NN", "IN", "RB", "JJ", "DT", "NN", ",", "PRP$", "NN", "MD", "VB", "VBN", "IN", "DT", "JJ", "NN", "IN", "DT", "NN", ",", "WDT", "PRP", "MD", "VB", "IN", "NN", "CD", "IN", "DT", "JJ", "NN", "IN", "DT", "JJ", "NN", "IN", "NNS", "IN", "WDT", "NNS", "MD", "VB", "VBN", "RB", "." ], [ "IN", "DT", "NN", "PRP", "VBP", "JJ", "NNS", "IN", "DT", "NN", "IN", "JJ", "NNS", "IN", "NN", "IN", "JJ", "NNS", "-LRB-", "JJ", "NNS", "-RRB-", "CC", "IN", "PRP", "VBZ", "JJR", "TO", "VB", "JJ", "RB", "IN", "JJ", "." ], [ "PRP", "RB", "VBP", "DT", "NN", "IN", "DT", "NN", "IN", "JJR", "JJ", "NN", "JJ", "NNS", "IN", "DT", "NN", "IN", "NNS", "TO", "RB", "NN", "CC", "NNP", "NN", "." ], [ "IN", "NN", ",", "NNS", "VBP", "VBN", "VBN", "TO", "VB", "IN", "NN", "IN", "VBG", "NN", "NNS", "RB", "RB", "IN", "IN", "NN", "NN", "." ], [ "IN", "DT", "JJ", "NN", ",", "DT", "NN", "TO", "VB", "DT", "NN", "NN", "IN", "DT", "NN", "MD", "VB", "VBN", "IN", "DT", "NN", "TO", "PRP$", "NN", "CC", "RB", "VBN", "TO", "VB", "PRP$", "JJ", "NN", "IN", "DT", "JJ", "NN", "." ], [ "DT", "NN", ",", "IN", "DT", "JJ", "NN", ",", "MD", "VB", "VBN", "IN", "DT", "NN", "IN", "NNS", "WDT", "VBZ", "DT", "NNS", "POS", "NN", "IN", "DT", "JJ", "VBN", "NN", "-LRB-", "VB", ",", "FW", ",", "-LRB-", "CD", "-RRB-", "-RRB-", "." ], [ "DT", "NNS", "VBP", "NNS", "IN", "WDT", "DT", "NN", "VBZ", "TO", "DT", "JJ", "CC", "JJ", "NN", ",", "CC", "DT", "NN", "IN", "NNS", ",", "WP", "RB", "VBP", "RB", "." ], [ "IN", "NN", "VBG", "JJ", "NN", "IN", "NN", "CD", ",", "PRP", "VBP", "DT", "JJ", "NN", "JJ", "NN", ",", "IN", "WDT", "PRP", "VBP", "DT", "NNS", "IN", "DT", "NN", "NN", "RB", "RB", "IN", "JJ", "CC", "JJ", "NNS", "-LRB-", "NN", "CD", "-RRB-", "." ], [ "IN", "NN", "CD", "PRP", "VBP", "DT", "JJ", "NN", "IN", "DT", "NN", ",", "WDT", "IN", "DT", "NN", "NN", "VBZ", "DT", "NN", "IN", "DT", "JJ", "NN", "NN", "." ], [ "NN", "CD", "NN", "VBZ", "DT", "JJ", "NN", "NNS", ",", "JJ", "IN", "JJ", ",", "JJ", "CC", "JJ", "JJ", "NNS", "." ], [ "LS", "." ], [ "JJ", "VBP" ], [ "NN", "VBZ", "DT", "JJ", "NN", "IN", "NN", "NN", "." ], [ "DT", "NN", "TO", "VB", "NNS", "VBZ", "JJ", "IN", "JJ", "NN", "NN", "-LRB-", "CD", ",", "CD", "-RRB-", "." ], [ "NN", "NNS", ",", "IN", "VBN", "IN", "DT", "NN", ",", "VBP", "NNS", "TO", "JJ", "CC", "JJ", "NNS", "IN", "WP", "VBZ", "RB", "DT", "JJ", "NN", "-LRB-", "CD", ",", "CD", "-RRB-", "." ], [ "RB", ",", "NN", "-LRB-", "CD", "-RRB-", "VBZ", "VBN", "DT", "NN", "IN", "NNS", ",", "NNS", "CC", "DT", "JJ", "IN", "DT", "JJ", "NN", "IN", "JJ", "NN", "." ], [ "IN", "DT", "RBR", "JJ", "NN", ",", "NNS", "VBP", "RB", "VBN", "IN", "NN", "NN", "." ], [ "NNP", "POS", "NN", "NN", "-LRB-", "CD", "-RRB-", "CC", "NNP", "POS", "JJ", "NNS", "-LRB-", "CD", "-RRB-", "VBP", "CD", "JJ", "JJ", "NNS", "." ], [ "RB", ",", "NNS", "VBP", "VBN", "DT", "JJ", "NN", "IN", "DT", "NN", "IN", "NN", "NN", "-LRB-", "VB", ",", "FW", ",", "-LRB-", "CD", "-RRB-", "." ], [ "IN", "DT", "JJ", "JJ", "NNS", ",", "NN", "NN", "VBZ", "VBN", "RB", "JJ", "IN", "DT", "NN", "NN", "IN", "NN", "NN", "CC", "-LRB-", "NNS", "-RRB-", "NN", "NN", "." ], [ "NNS", "VBP", "IN", "DT", "NNS", "VBN", "JJ", "-LRB-", "VB", "," ], [ "NNP", "CD", ":", "VBG", "TO", "DT", "VBN", "NN", "MD", "VB", "JJ", "." ], [ "FW", ",", "-LRB-", "CD", ",", "CD", "-RRB-", "-RRB-", "." ], [ "RB", ",", "RB", "DT", "JJ", "NNS", "IN", "NNS", "VBP", "VBN", "DT", "NN", "IN", "NN", "NNS", "." ], [ "RB", ",", "NN", "CC", "NN", "-LRB-", "CD", "-RRB-", "VBP", "VBN", "DT", "JJ", "NN", "IN", "VBG", "DT", "JJ", "NN", "TO", "VB", "TO", "IN", "JJ", "NN", "CC", "JJ", "NNS", "." ], [ "NNP", "CC", "NNP", "-LRB-", "CD", "-RRB-", "VBP", "JJ", "NNS", "IN", "DT", "NN", "IN", "JJ", "NNS", "IN", "WDT", "JJ", "NNS", "VBP", "RB", "RB", "NN", "." ], [ "DT", "NN", "IN", "NNS", "CC", "NN", "NN", "VBZ", "VBN", "VBN", "RP", "IN", "NNP", "-LRB-", "CD", "-RRB-", "CC", "NN", "-LRB-", "CD", "-RRB-", "." ], [ "PRP$", "NN", "IN", "NN", "VBZ", "DT", "NN", "IN", "NNS", "MD", "VB", "VBN", "TO", "VB", "NNS", "WDT", "VBP", "JJ", "IN", "DT", "NNS", "IN", "JJ", "NNS", "." ], [ "PRP$", "NN", "VBZ", "JJ", "TO", "DT", "NNP", "NN", "IN", "IN", "PRP", "VBP", "DT", "NN", "IN", "WDT", "DT", "NNS", "VB", "." ], [ "PRP", ",", "RB", ",", "VB", "DT", "NN", "IN", "JJ", "NN", "NNS", ",", "IN", "WDT", "JJ", "NNS", ",", "CC", "VBP", "DT", "JJ", "NN", "NN", "." ], [ "CD", "." ], [ "NN", "CC", "NN" ], [ "IN", "DT", "NNS", "NNS", "MD", "VB", "PRP$", "JJ", "NN", "IN", "VBG", "PRP", "TO", "DT", "JJ", "NN", "IN", "NN", "." ], [ "EX", "VBP", "JJ", "NNS", "IN", "NN", ",", "FW", ",", "JJ", ",", "JJ", "CC", "JJ", "." ], [ "WDT", "NN", "IN", "NN", "DT", "NN", "VBZ", "IN", "DT", "NN", "IN", "TO", "VB", "RB", "VBZ", "IN", "DT", "NN", "IN", "NN", "." ], [ "IN", "DT", "NNS", "VB", "IN", "DT", "JJ", "NN", ",", "EX", "VBZ", "DT", "NN", "JJ", "TO", "VBG", "NNS", "IN", "DT", "NN", ",", "WDT", "PRP", "VBP", "VBN", "IN", "VBZ", "DT", "NN", "IN", "DT", "NN", "." ], [ "DT", "JJ", "NN", "IN", "NN", "MD", "VB", "VBN", "IN", "NN", "." ], [ "RB", ",", "IN", "PRP$", "NN", "DT", "JJ", "NN", "NNS", "MD", "VB", "VBN", "RB", "CC", "RB", "." ], [ "PRP", "VBP", "VBN", "IN", "DT", "NN", "IN", "NN", "DT", "NN", "MD", "VB", "VBZ", "DT", "JJ", "NN", "IN", "WP", "DT", "NN", "MD", "VB", "IN", "DT", "JJ", "NN", "." ], [ "IN", "DT", "NNS", "DT", "NN", "VBZ", "JJ", "VBN", "IN", "PRP", "VBZ", "IN", "DT", "NN", "TO", "VB", "RB", ",", "IN", "IN", "NNS", "JJ", "NNS", "MD", "VB", "RBR", "JJ", "." ], [ "DT", "VBZ", "DT", "NN", "IN", "TO", "DT", "JJ", "JJ", "NNS", "IN", "DT", "NNS", "IN", "WDT", "PRP", "VBZ", "JJ", "IN", "DT", "NN", "TO", "VB", "JJ", "TO", "VB", "NNS", "IN", "DT", "JJ", "NN", "." ], [ "DT", "NN", "WDT", "PRP", "VBP", "IN", "JJ", "NN", "VBZ", "DT", "JJ", "NN", "IN", "VBG", "DT", "NN", "IN", "DT", "JJ", "NN", "NNS", "." ] ]	[ [ "commitment", "and", "extortion", "*" ], [ "abstract" ], [ "make", "commitment", ",", "e.g.", ",", "through", "promise", "and", "threat", ",", "enable", "a", "player", "to", "exploit", "the", "strength", "of", "he", "own", "strategic", "position", "as", "well", "as", "the", "weakness", "of", "that", "of", "he", "opponent", "." ], [ "which", "commitment", "a", "player", "can", "make", "with", "credibility", "depend", "on", "the", "circumstance", "." ], [ "in", "some", ",", "a", "player", "can", "only", "commit", "to", "the", "performance", "of", "a", "action", ",", "in", "other", ",", "he", "can", "commit", "himself", "conditionally", "on", "the", "action", "of", "the", "other", "player", "." ], [ "some", "situation", "even", "allow", "for", "commitment", "on", "commitment", "or", "for", "commitment", "to", "randomize", "action", "." ], [ "we", "explore", "the", "formal", "property", "of", "these", "type", "of", "-lrb-", "conditional", "-rrb-", "commitment", "and", "they", "interrelationship", "." ], [ "so", "as", "to", "preclude", "inconsistency", "among", "conditional", "commitment", ",", "we", "assume", "a", "order", "in", "which", "the", "player", "make", "they", "commitment", "." ], [ "Central", "to", "we", "analysis", "be", "the", "notion", "of", "a", "extortion", ",", "which", "we", "define", ",", "for", "a", "give", "order", "of", "the", "player", ",", "as", "a", "profile", "that", "contain", ",", "for", "each", "player", ",", "a", "optimal", "commitment", "give", "the", "commitment", "of", "the", "player", "that", "commit", "earlier", "." ], [ "on", "this", "basis", ",", "we", "investigate", "for", "different", "commitment", "type", "whether", "it", "be", "advantageous", "to", "commit", "earlier", "rather", "than", "later", ",", "and", "how", "the", "outcome", "obtain", "through", "extortion", "relate", "to", "backward", "induction", "and", "Pareto", "efficiency", "." ], [ "1", "." ], [ "introduction" ], [ "on", "one", "view", ",", "the", "least", "one", "may", "expect", "of", "game", "theory", "be", "that", "it", "provide", "a", "answer", "to", "the", "question", "which", "action", "maximize", "a", "agent", "'s", "expect", "utility", "in", "situation", "of", "interactive", "decision", "making", "." ], [ "from", "this", "perspective", ",", "the", "formal", "model", "of", "a", "game", "in", "strategic", "form", "only", "outline", "the", "strategic", "feature", "of", "a", "interactive", "situation", "." ], [ "apart", "from", "merely", "choose", "and", "perform", "a", "action", "from", "a", "set", "of", "action", ",", "there", "may", "also", "be", "other", "course", "open", "to", "a", "agent", "." ], [ "E.g.", ",", "the", "strategic", "lie", "of", "the", "land", "may", "be", "such", "that", "a", "promise", ",", "a", "threat", ",", "or", "a", "combination", "of", "both", "would", "be", "more", "conductive", "to", "he", "end", "." ], [ "likewise", ",", "a", "threat", "only", "succeed", "in", "deter", "a", "agent", "if", "the", "latter", "can", "be", "make", "to", "believe", "that", "the", "threatener", "be", "bind", "to", "execute", "the", "threat", ",", "should", "it", "be", "ignore", "." ], [ "in", "this", "sense", ",", "promise", "and", "threat", "essentially", "involve", "a", "commitment", "on", "the", "part", "of", "the", "one", "who", "make", "they", ",", "thus", "purposely", "restrict", "he", "freedom", "of", "choice", "." ], [ "promise", "and", "threat", "epitomize", "one", "of", "the", "fundamental", "and", "at", "first", "sight", "perhaps", "most", "surprising", "phenomenon", "in", "game", "theory", ":", "it", "may", "occur", "that", "a", "player", "can", "improve", "he", "strategic", "position", "by", "limit", "he", "own", "freedom", "of", "action", "." ], [ "by", "commitment", "we", "will", "understand", "such", "limitation", "of", "one", "'s", "action", "space", "." ], [ "Action", "itself", "could", "be", "see", "as", "the", "ultimate", "commitment", "." ], [ "perform", "a", "particular", "action", "mean", "do", "so", "to", "the", "exclusion", "of", "all", "other", "action", "." ], [ "commitment", "come", "in", "different", "form", "and", "it", "may", "depend", "on", "the", "circumstance", "which", "one", "can", "and", "which", "one", "can", "not", "credibly", "be", "make", "." ], [ "besides", "simply", "commit", "to", "the", "performance", "of", "a", "action", ",", "a", "agent", "might", "make", "he", "commitment", "conditional", "on", "the", "action", "of", "other", "agent", ",", "as", ",", "e.g.", ",", "the", "kidnapper", "do", ",", "when", "he", "promise", "to", "set", "free", "a", "hostage", "on", "receive", "a", "ransom", ",", "while", "threaten", "to", "cut", "off", "another", "toe", ",", "otherwise", "." ], [ "some", "situation", "even", "allow", "for", "commitment", "on", "commitment", "or", "for", "commitment", "to", "randomize", "action", "." ], [ "by", "focus", "on", "the", "selection", "of", "action", "rather", "than", "on", "commitment", ",", "it", "might", "seem", "that", "the", "conception", "of", "game", "theory", "as", "mere", "interactive", "decision", "theory", "be", "too", "narrow", "." ], [ "in", "this", "respect", ",", "Schelling", "'s", "view", "might", "seem", "to", "evince", "a", "more", "comprehensive", "understanding", "of", "what", "game", "theory", "try", "to", "accomplish", "." ], [ "one", "might", "object", ",", "that", "commitment", "could", "be", "see", "as", "the", "action", "of", "a", "larger", "game", "." ], [ "-lsb-", "...", "-rsb-", "what", "we", "want", "be", "a", "theory", "that", "systematize", "the", "study", "of", "the", "various", "universal", "ingredient", "that", "make", "up", "the", "move-structure", "of", "game", ";", "too", "abstract", "a", "model", "will", "miss", "they", "." ], [ "-lsb-", "9", ",", "pp.", "156-7", "-rsb-" ], [ "we", "concern", "be", "with", "these", "commitment", "tactic", ",", "be", "it", "that", "we", "analysis", "be", "confine", "to", "situation", "in", "which", "the", "player", "can", "commit", "in", "a", "give", "order", "and", "where", "we", "assume", "the", "commitment", "the", "player", "can", "make", "be", "give", "." ], [ "despite", "schelling", "'s", "warning", "for", "too", "abstract", "a", "framework", ",", "we", "approach", "will", "be", "base", "on", "the", "formal", "notion", "of", "a", "extortion", ",", "which", "we", "will", "propose", "in", "section", "4", "as", "a", "uniform", "tactic", "for", "a", "comprehensive", "class", "of", "situation", "in", "which", "commitment", "can", "be", "make", "sequentially", "." ], [ "on", "this", "basis", "we", "tackle", "such", "issue", "as", "the", "usefulness", "of", "certain", "type", "of", "commitment", "in", "different", "situation", "-lrb-", "strategic", "game", "-rrb-", "or", "whether", "it", "be", "better", "to", "commit", "early", "rather", "than", "late", "." ], [ "we", "also", "provide", "a", "framework", "for", "the", "assessment", "of", "more", "general", "game", "theoretic", "matter", "like", "the", "relationship", "of", "extortion", "to", "backward", "induction", "or", "Pareto", "efficiency", "." ], [ "for", "example", ",", "commitment", "have", "be", "argue", "to", "be", "of", "importance", "for", "interact", "software", "agent", "as", "well", "as", "for", "mechanism", "design", "." ], [ "in", "the", "former", "setting", ",", "the", "inability", "to", "re-program", "a", "software", "agent", "on", "the", "fly", "can", "be", "see", "as", "a", "commitment", "to", "its", "specification", "and", "thus", "exploit", "to", "strengthen", "its", "strategic", "position", "in", "a", "multiagent", "setting", "." ], [ "a", "mechanism", ",", "on", "the", "other", "hand", ",", "could", "be", "see", "as", "a", "set", "of", "commitment", "that", "steer", "the", "player", "'", "behavior", "in", "a", "certain", "desire", "way", "-lrb-", "see", ",", "e.g.", ",", "-lsb-", "2", "-rsb-", "-rrb-", "." ], [ "these", "game", "analyze", "situation", "in", "which", "a", "leader", "commit", "to", "a", "pure", "or", "mixed", "strategy", ",", "and", "a", "number", "of", "follower", ",", "who", "then", "act", "simultaneously", "." ], [ "after", "briefly", "discuss", "related", "work", "in", "section", "2", ",", "we", "present", "the", "formal", "game", "theoretic", "framework", ",", "in", "which", "we", "define", "the", "notion", "of", "a", "commitment", "type", "as", "well", "as", "conditional", "and", "unconditional", "commitment", "-lrb-", "section", "3", "-rrb-", "." ], [ "in", "section", "4", "we", "propose", "the", "generic", "concept", "of", "a", "extortion", ",", "which", "for", "each", "commitment", "type", "capture", "the", "idea", "of", "a", "optimal", "commitment", "profile", "." ], [ "section", "5", "briefly", "review", "some", "other", "commitment", "type", ",", "such", "as", "inductive", ",", "mixed", "and", "mixed", "conditional", "commitment", "." ], [ "2", "." ], [ "related", "work" ], [ "commitment", "be", "a", "central", "concept", "in", "game", "theory", "." ], [ "the", "possibility", "to", "make", "commitment", "distinguish", "cooperative", "from", "noncooperative", "game", "theory", "-lsb-", "4", ",", "6", "-rsb-", "." ], [ "leadership", "game", ",", "as", "mention", "in", "the", "introduction", ",", "analyze", "commitment", "to", "pure", "or", "mixed", "strategy", "in", "what", "be", "essentially", "a", "two-player", "setting", "-lsb-", "15", ",", "16", "-rsb-", "." ], [ "informally", ",", "schelling", "-lsb-", "9", "-rsb-", "have", "emphasize", "the", "importance", "of", "promise", ",", "threat", "and", "the", "like", "for", "a", "proper", "understanding", "of", "social", "interaction", "." ], [ "on", "a", "more", "formal", "level", ",", "threat", "have", "also", "figure", "in", "bargaining", "theory", "." ], [ "Nash", "'s", "threat", "game", "-lsb-", "5", "-rsb-", "and", "Harsanyi", "'s", "rational", "threat", "-lsb-", "3", "-rsb-", "be", "two", "important", "early", "example", "." ], [ "also", ",", "commitment", "have", "play", "a", "significant", "role", "in", "the", "theory", "of", "equilibrium", "selection", "-lrb-", "see", ",", "e.g.", ",", "-lsb-", "13", "-rsb-", "." ], [ "over", "the", "last", "few", "year", ",", "game", "theory", "have", "become", "almost", "indispensable", "as", "a", "research", "tool", "for", "computer", "science", "and", "-lrb-", "multus", "-rrb-", "agent", "research", "." ], [ "commitment", "have", "by", "no", "means", "go", "unnoticed", "-lrb-", "see", "," ], [ "Figure", "1", ":", "commit", "to", "a", "dominate", "strategy", "can", "be", "advantageous", "." ], [ "e.g.", ",", "-lsb-", "1", ",", "11", "-rsb-", "-rrb-", "." ], [ "recently", ",", "also", "the", "strategic", "aspect", "of", "commitment", "have", "attract", "the", "attention", "of", "computer", "scientist", "." ], [ "thus", ",", "conitzer", "and", "sandholm", "-lsb-", "2", "-rsb-", "have", "study", "the", "computational", "complexity", "of", "compute", "the", "optimal", "strategy", "to", "commit", "to", "in", "normal", "form", "and", "bayesian", "game", "." ], [ "Sandholm", "and", "Lesser", "-lsb-", "8", "-rsb-", "employ", "levelled", "commitment", "for", "the", "design", "of", "multiagent", "system", "in", "which", "contractual", "agreement", "be", "not", "fully", "binding", "." ], [ "another", "connection", "between", "commitment", "and", "computer", "science", "have", "be", "point", "out", "by", "Samet", "-lsb-", "7", "-rsb-", "and", "tennenholtz", "-lsb-", "12", "-rsb-", "." ], [ "they", "point", "of", "departure", "be", "the", "observation", "that", "program", "can", "be", "use", "to", "formulate", "commitment", "that", "be", "conditional", "on", "the", "program", "of", "other", "system", "." ], [ "we", "approach", "be", "similar", "to", "the", "Stackleberg", "setting", "in", "that", "we", "assume", "a", "order", "in", "which", "the", "player", "commit", "." ], [ "we", ",", "however", ",", "consider", "a", "number", "of", "different", "commitment", "type", ",", "among", "which", "conditional", "commitment", ",", "and", "propose", "a", "generic", "solution", "concept", "." ], [ "6", "." ], [ "summary", "and", "conclusion" ], [ "in", "some", "situation", "agent", "can", "strengthen", "they", "strategic", "position", "by", "commit", "themselves", "to", "a", "particular", "course", "of", "action", "." ], [ "there", "be", "various", "type", "of", "commitment", ",", "e.g.", ",", "pure", ",", "mixed", "and", "conditional", "." ], [ "which", "type", "of", "commitment", "a", "agent", "be", "in", "a", "position", "in", "to", "make", "essentially", "depend", "on", "the", "situation", "under", "consideration", "." ], [ "if", "the", "agent", "commit", "in", "a", "particular", "order", ",", "there", "be", "a", "tactic", "common", "to", "make", "commitment", "of", "any", "type", ",", "which", "we", "have", "formalize", "by", "mean", "the", "concept", "of", "a", "extortion", "." ], [ "this", "generic", "concept", "of", "extortion", "can", "be", "analyze", "in", "abstracto", "." ], [ "moreover", ",", "on", "its", "basis", "the", "various", "commitment", "type", "can", "be", "compare", "formally", "and", "systematically", "." ], [ "we", "have", "see", "that", "the", "type", "of", "commitment", "a", "agent", "can", "make", "have", "a", "profound", "impact", "on", "what", "a", "agent", "can", "achieve", "in", "a", "gamelike", "situation", "." ], [ "in", "some", "situation", "a", "player", "be", "much", "help", "if", "he", "be", "in", "a", "position", "to", "commit", "conditionally", ",", "whereas", "in", "other", "mixed", "commitment", "would", "be", "more", "profitable", "." ], [ "this", "raise", "the", "question", "as", "to", "the", "characteristic", "formal", "feature", "of", "the", "situation", "in", "which", "it", "be", "advantageous", "for", "a", "player", "to", "be", "able", "to", "make", "commitment", "of", "a", "particular", "type", "." ], [ "another", "issue", "which", "we", "leave", "for", "future", "research", "be", "the", "computational", "complexity", "of", "find", "a", "extortion", "for", "the", "different", "commitment", "type", "." ] ]	[ "commit", "credibl", "game theori", "decis make", "strateg posit", "freedom of action", "multiag system", "distribut comput", "electron market", "extort", "stackleberg set", "optim condit commit", "sequenti commit type", "induct hypothesi", "pareto effici", "pareto effici condit extort" ]
H-9	[ [ "Learn", "from", "Web", "Search", "Logs", "to", "Organize", "Search", "Results" ], [ "ABSTRACT" ], [ "Effective", "organization", "of", "search", "results", "is", "critical", "for", "improving", "the", "utility", "of", "any", "search", "engine", "." ], [ "Clustering", "search", "results", "is", "an", "effective", "way", "to", "organize", "search", "results", ",", "which", "allows", "a", "user", "to", "navigate", "into", "relevant", "documents", "quickly", "." ], [ "However", ",", "two", "deficiencies", "of", "this", "approach", "make", "it", "not", "always", "work", "well", ":", "-LRB-", "1", "-RRB-", "the", "clusters", "discovered", "do", "not", "necessarily", "correspond", "to", "the", "interesting", "aspects", "of", "a", "topic", "from", "the", "user", "'s", "perspective", ";", "and", "-LRB-", "2", "-RRB-", "the", "cluster", "labels", "generated", "are", "not", "informative", "enough", "to", "allow", "a", "user", "to", "identify", "the", "right", "cluster", "." ], [ "In", "this", "paper", ",", "we", "propose", "to", "address", "these", "two", "deficiencies", "by", "-LRB-", "1", "-RRB-", "learning", "``", "interesting", "aspects", "''", "of", "a", "topic", "from", "Web", "search", "logs", "and", "organizing", "search", "results", "accordingly", ";", "and", "-LRB-", "2", "-RRB-", "generating", "more", "meaningful", "cluster", "labels", "using", "past", "query", "words", "entered", "by", "users", "." ], [ "We", "evaluate", "our", "proposed", "method", "on", "a", "commercial", "search", "engine", "log", "data", "." ], [ "Compared", "with", "the", "traditional", "methods", "of", "clustering", "search", "results", ",", "our", "method", "can", "give", "better", "result", "organization", "and", "more", "meaningful", "labels", "." ], [ "1", "." ], [ "INTRODUCTION" ], [ "The", "utility", "of", "a", "search", "engine", "is", "affected", "by", "multiple", "factors", "." ], [ "While", "the", "primary", "factor", "is", "the", "soundness", "of", "the", "underlying", "retrieval", "model", "and", "ranking", "function", ",", "how", "to", "organize", "and", "present", "search", "results", "is", "also", "a", "very", "important", "factor", "that", "can", "affect", "the", "utility", "of", "a", "search", "engine", "significantly", "." ], [ "Compared", "with", "the", "vast", "amount", "of", "literature", "on", "retrieval", "models", ",", "however", ",", "there", "is", "relatively", "little", "research", "on", "how", "to", "improve", "the", "effectiveness", "of", "search", "result", "organization", "." ], [ "The", "most", "common", "strategy", "of", "presenting", "search", "results", "is", "a", "simple", "ranked", "list", "." ], [ "Intuitively", ",", "such", "a", "presentation", "strategy", "is", "reasonable", "for", "non-ambiguous", ",", "homogeneous", "search" ], [ "results", ";", "in", "general", ",", "it", "would", "work", "well", "when", "the", "search", "results", "are", "good", "and", "a", "user", "can", "easily", "find", "many", "relevant", "documents", "in", "the", "top", "ranked", "results", "." ], [ "In", "these", "examples", ",", "a", "clustering", "view", "of", "the", "search", "results", "would", "be", "much", "more", "useful", "to", "a", "user", "than", "a", "simple", "ranked", "list", "." ], [ "Clustering", "is", "also", "useful", "when", "the", "search", "results", "are", "poor", ",", "in", "which", "case", ",", "a", "user", "would", "otherwise", "have", "to", "go", "through", "a", "long", "list", "sequentially", "to", "reach", "the", "very", "first", "relevant", "document", "." ], [ "As", "a", "primary", "alternative", "strategy", "for", "presenting", "search", "results", ",", "clustering", "search", "results", "has", "been", "studied", "relatively", "extensively", "-LSB-", "9", ",", "15", ",", "26", ",", "27", ",", "28", "-RSB-", "." ], [ "The", "general", "idea", "in", "virtually", "all", "the", "existing", "work", "is", "to", "perform", "clustering", "on", "a", "set", "of", "topranked", "search", "results", "to", "partition", "the", "results", "into", "natural", "clusters", ",", "which", "often", "correspond", "to", "different", "subtopics", "of", "the", "general", "query", "topic", "." ], [ "A", "label", "will", "be", "generated", "to", "indicate", "what", "each", "cluster", "is", "about", "." ], [ "A", "user", "can", "then", "view", "the", "labels", "to", "decide", "which", "cluster", "to", "look", "into", "." ], [ "However", ",", "this", "clustering", "strategy", "has", "two", "deficiencies", "which", "make", "it", "not", "always", "work", "well", ":", "First", ",", "the", "clusters", "discovered", "in", "this", "way", "do", "not", "necessarily", "correspond", "to", "the", "interesting", "aspects", "of", "a", "topic", "from", "the", "user", "'s", "perspective", "." ], [ "But", "the", "clusters", "discovered", "by", "the", "current", "methods", "may", "partition", "the", "results", "into", "``", "local", "codes", "''", "and", "``", "international", "codes", ".", "''" ], [ "Such", "clusters", "would", "not", "be", "very", "useful", "for", "users", ";", "even", "the", "best", "cluster", "would", "still", "have", "a", "low", "precision", "." ], [ "Second", ",", "the", "cluster", "labels", "generated", "are", "not", "informative", "enough", "to", "allow", "a", "user", "to", "identify", "the", "right", "cluster", "." ], [ "There", "are", "two", "reasons", "for", "this", "problem", ":", "-LRB-", "1", "-RRB-", "The", "clusters", "are", "not", "corresponding", "to", "a", "user", "'s", "interests", ",", "so", "their", "labels", "would", "not", "be", "very", "meaningful", "or", "useful", "." ], [ "For", "example", ",", "the", "ambiguous", "query", "``", "jaguar", "''", "may", "mean", "an", "animal", "or", "a", "car", "." ], [ "A", "cluster", "may", "be", "labeled", "as", "``", "panthera", "onca", ".", "''" ], [ "In", "this", "paper", ",", "we", "propose", "a", "different", "strategy", "for", "partitioning", "search", "results", ",", "which", "addresses", "these", "two", "deficiencies", "through", "imposing", "a", "user-oriented", "partitioning", "of", "the", "search", "results", "." ], [ "That", "is", ",", "we", "try", "to", "figure", "out", "what", "aspects", "of", "a", "search", "topic", "are", "likely", "interesting", "to", "a", "user", "and", "organize", "the", "results", "accordingly", "." ], [ "Specifically", ",", "we", "propose", "to", "do", "the", "following", ":", "First", ",", "we", "will", "learn", "``", "interesting", "aspects", "''", "of", "similar", "topics", "from", "search", "logs", "and", "organize", "search", "results", "based", "on", "these", "``", "interesting", "aspects", "''", "." ], [ "For", "example", ",", "if", "the", "current", "query", "has", "occurred", "many", "times", "in", "the", "search", "logs", ",", "we", "can", "look", "at", "what", "kinds", "of", "pages", "viewed", "by", "the", "users", "in", "the", "results", "and", "what", "kind", "of", "words", "are", "used", "together", "with", "such", "a", "query", "." ], [ "In", "case", "when", "the", "query", "is", "ambiguous", "such", "as", "``", "jaguar", "''", "we", "can", "expect", "to", "see", "some", "clear", "clusters", "corresponding", "different", "senses", "of", "``", "jaguar", "''", "." ], [ "Such", "aspects", "can", "be", "very", "useful", "for", "organizing", "future", "search", "results", "about", "``", "car", "''", "." ], [ "Second", ",", "we", "will", "generate", "more", "meaningful", "cluster", "labels", "using", "past", "query", "words", "entered", "by", "users", "." ], [ "Thus", "they", "can", "be", "better", "labels", "than", "those", "extracted", "from", "the", "ordinary", "contents", "of", "search", "results", "." ], [ "To", "implement", "the", "ideas", "presented", "above", ",", "we", "rely", "on", "search", "engine", "logs", "and", "build", "a", "history", "collection", "containing", "the", "past", "queries", "and", "the", "associated", "clickthroughs", "." ], [ "Given", "a", "new", "query", ",", "we", "find", "its", "related", "past", "queries", "from", "the", "history", "collection", "and", "learn", "aspects", "through", "applying", "the", "star", "clustering", "algorithm", "-LSB-", "2", "-RSB-", "to", "these", "past", "queries", "and", "clickthroughs", "." ], [ "We", "can", "then", "organize", "the", "search", "results", "into", "these", "aspects", "using", "categorization", "techniques", "and", "label", "each", "aspect", "by", "the", "most", "representative", "past", "query", "in", "the", "query", "cluster", "." ], [ "We", "evaluate", "our", "method", "for", "result", "organization", "using", "logs", "of", "a", "commercial", "search", "engine", "." ], [ "We", "compare", "our", "method", "with", "the", "default", "search", "engine", "ranking", "and", "the", "traditional", "clustering", "of", "search", "results", "." ], [ "The", "results", "show", "that", "our", "method", "is", "effective", "for", "improving", "search", "utility", "and", "the", "labels", "generated", "using", "past", "query", "words", "are", "more", "readable", "than", "those", "generated", "using", "traditional", "clustering", "approaches", "." ], [ "The", "rest", "of", "the", "paper", "is", "organized", "as", "follows", "." ], [ "We", "first", "review", "the", "related", "work", "in", "Section", "2", "." ], [ "In", "Section", "3", ",", "we", "describe", "search", "engine", "log", "data", "and", "our", "procedure", "of", "building", "a", "history", "collection", "." ], [ "In", "Section", "4", ",", "we", "present", "our", "approach", "in", "details", "." ], [ "We", "describe", "the", "data", "set", "in", "Section", "5", "and", "the", "experimental", "results", "are", "discussed", "in", "Section", "6", "." ], [ "Finally", ",", "we", "conclude", "our", "paper", "and", "discuss", "future", "work", "in", "Section", "7", "." ], [ "2", "." ], [ "RELATED", "WORK" ], [ "Our", "work", "is", "closely", "related", "to", "the", "study", "of", "clustering", "search", "results", "." ], [ "In", "-LSB-", "9", ",", "15", "-RSB-", ",", "the", "authors", "used", "Scatter/Gather", "algorithm", "to", "cluster", "the", "top", "documents", "returned", "from", "a", "traditional", "information", "retrieval", "system", "." ], [ "Their", "results", "validate", "the", "cluster", "hypothesis", "-LSB-", "20", "-RSB-", "that", "relevant", "documents", "tend", "to", "form", "clusters", "." ], [ "In", "these", "papers", ",", "the", "authors", "proposed", "to", "cluster", "the", "results", "of", "a", "real", "search", "engine", "based", "on", "the", "snippets", "or", "the", "contents", "of", "returned", "documents", "." ], [ "Several", "clustering", "algorithms", "are", "compared", "and", "the", "Suffix", "Tree", "Clustering", "algorithm", "-LRB-", "STC", "-RRB-", "was", "shown", "to", "be", "the", "most", "effective", "one", "." ], [ "They", "also", "showed", "that", "using", "snippets", "is", "as", "effective", "as", "using", "whole", "documents", "." ], [ "However", ",", "an", "important", "challenge", "of", "document", "clustering", "is", "to", "generate", "meaningful", "labels", "for", "clusters", "." ], [ "To", "overcome", "this", "difficulty", ",", "in", "-LSB-", "28", "-RSB-", ",", "supervised", "learning", "algorithms", "were", "studied", "to", "extract", "meaningful", "phrases", "from", "the", "search", "result", "snippets", "and", "these", "phrases", "were", "then", "used", "to", "group", "search", "results", "." ], [ "In", "-LSB-", "13", "-RSB-", ",", "the", "authors", "proposed", "to", "use", "a", "monothetic", "clustering", "algorithm", ",", "in", "which", "a", "document", "is", "assigned", "to", "a", "cluster", "based", "on", "a", "single", "feature", ",", "to", "organize", "search", "results", ",", "and", "the", "single", "feature", "is", "used", "to", "label", "the", "corresponding", "cluster", "." ], [ "Clustering", "search", "results", "has", "also", "attracted", "a", "lot", "of", "attention", "in", "industry", "and", "commercial", "Web", "services", "such", "as", "Vivisimo", "-LSB-", "22", "-RSB-", "." ], [ "However", ",", "in", "all", "these", "works", ",", "the", "clusters", "are", "generated", "solely", "based", "on", "the", "search", "results", "." ], [ "Thus", "the", "obtained", "clusters", "do", "not", "necessarily", "reflect", "users", "'", "preferences", "and", "the", "generated", "labels", "may", "not", "be", "informative", "from", "a", "user", "'s", "viewpoint", "." ], [ "Methods", "of", "organizing", "search", "results", "based", "on", "text", "categorization", "are", "studied", "in", "-LSB-", "6", ",", "8", "-RSB-", "." ], [ "In", "this", "work", ",", "a", "text", "classifier", "is", "trained", "using", "a", "Web", "directory", "and", "search", "results", "are", "then", "classified", "into", "the", "predefined", "categories", "." ], [ "The", "authors", "designed", "and", "studied", "different", "category", "interfaces", "and", "they", "found", "that", "category", "interfaces", "are", "more", "effective", "than", "list", "interfaces", "." ], [ "However", "predefined", "categories", "are", "often", "too", "general", "to", "reflect", "the", "finer", "granularity", "aspects", "of", "a", "query", "." ], [ "Search", "logs", "have", "been", "exploited", "for", "several", "different", "purposes", "in", "the", "past", "." ], [ "For", "example", ",", "clustering", "search", "queries", "to", "find", "those", "Frequent", "Asked", "Questions", "-LRB-", "FAQ", "-RRB-", "is", "studied", "in", "-LSB-", "24", ",", "4", "-RSB-", "." ], [ "In", "our", "work", ",", "we", "explore", "past", "query", "history", "in", "order", "to", "better", "organize", "the", "search", "results", "for", "future", "queries", "." ], [ "We", "use", "the", "star", "clustering", "algorithm", "-LSB-", "2", "-RSB-", ",", "which", "is", "a", "graph", "partition", "based", "approach", ",", "to", "learn", "interesting", "aspects", "from", "search", "logs", "given", "a", "new", "query", "." ], [ "7", "." ], [ "CONCLUSIONS", "AND", "FUTURE", "WORK" ], [ "In", "this", "paper", ",", "we", "studied", "the", "problem", "of", "organizing", "search", "results", "in", "a", "user-oriented", "manner", "." ], [ "To", "attain", "this", "goal", ",", "we", "rely", "on", "search", "engine", "logs", "to", "learn", "interesting", "aspects", "from", "users", "'", "perspective", "." ], [ "Given", "a", "query", ",", "we", "retrieve", "its", "related" ], [ "queries", "from", "past", "query", "history", ",", "learn", "the", "aspects", "by", "clustering", "the", "past", "queries", "and", "the", "associated", "clickthrough", "information", ",", "and", "categorize", "the", "search", "results", "into", "the", "aspects", "learned", "." ], [ "We", "compared", "our", "log-based", "method", "with", "the", "traditional", "cluster-based", "method", "and", "the", "baseline", "of", "search", "engine", "ranking", "." ], [ "The", "experiments", "show", "that", "our", "log-based", "method", "can", "consistently", "outperform", "cluster-based", "method", "and", "improve", "over", "the", "ranking", "baseline", ",", "especially", "when", "the", "queries", "are", "difficult", "or", "the", "search", "results", "are", "diverse", "." ], [ "Furthermore", ",", "our", "log-based", "method", "can", "generate", "more", "meaningful", "aspect", "labels", "than", "the", "cluster", "labels", "generated", "based", "on", "search", "results", "when", "we", "cluster", "search", "results", "." ], [ "There", "are", "several", "interesting", "directions", "for", "further", "extending", "our", "work", ":", "First", ",", "although", "our", "experiment", "results", "have", "clearly", "shown", "promise", "of", "the", "idea", "of", "learning", "from", "search", "logs", "to", "organize", "search", "results", ",", "the", "methods", "we", "have", "experimented", "with", "are", "relatively", "simple", "." ], [ "It", "would", "be", "interesting", "to", "explore", "other", "potentially", "more", "effective", "methods", "." ], [ "In", "particular", ",", "we", "hope", "to", "develop", "probabilistic", "models", "for", "learning", "aspects", "and", "organizing", "results", "simultaneously", "." ], [ "Second", ",", "with", "the", "proposed", "way", "of", "organizing", "search", "results", ",", "we", "can", "expect", "to", "obtain", "informative", "feedback", "information", "from", "a", "user", "-LRB-", "e.g.", ",", "the", "aspect", "chosen", "by", "a", "user", "to", "view", "-RRB-", "." ], [ "It", "would", "thus", "be", "interesting", "to", "study", "how", "to", "further", "improve", "the", "organization", "of", "the", "results", "based", "on", "such", "feedback", "information", "." ], [ "Finally", ",", "we", "can", "combine", "a", "general", "search", "log", "with", "any", "personal", "search", "log", "to", "customize", "and", "optimize", "the", "organization", "of", "search", "results", "for", "each", "individual", "user", "." ] ]	[ [ "VB", "IN", "NN", "VB", "NNS", "TO", "VB", "VB", "NNS" ], [ "NN" ], [ "JJ", "NN", "IN", "NN", "NNS", "VBZ", "JJ", "IN", "VBG", "DT", "NN", "IN", "DT", "NN", "NN", "." ], [ "NN", "NN", "VBZ", "VBZ", "DT", "JJ", "NN", "TO", "VB", "NN", "NNS", ",", "WDT", "VBZ", "DT", "NN", "TO", "VB", "IN", "JJ", "NNS", "RB", "." ], [ "RB", ",", "CD", "NNS", "IN", "DT", "NN", "VB", "PRP", "RB", "RB", "VB", "RB", ":", "-LRB-", "LS", "-RRB-", "DT", "NNS", "VBN", "VBP", "RB", "RB", "VBP", "TO", "DT", "JJ", "NNS", "IN", "DT", "NN", "IN", "DT", "NN", "POS", "NN", ":", "CC", "-LRB-", "LS", "-RRB-", "DT", "NN", "VBZ", "VBN", "VBP", "RB", "JJ", "JJ", "TO", "VB", "DT", "NN", "TO", "VB", "DT", "JJ", "NN", "." ], [ "IN", "DT", "NN", ",", "PRP", "VBP", "TO", "VB", "DT", "CD", "NNS", "IN", "-LRB-", "LS", "-RRB-", "VBG", "``", "JJ", "NNS", "''", "IN", "DT", "NN", "IN", "NN", "NN", "NNS", "CC", "VBG", "NN", "VBZ", "RB", ":", "CC", "-LRB-", "LS", "-RRB-", "VBG", "RBR", "JJ", "NN", "NNS", "VBG", "JJ", "JJ", "NNS", "VBN", "IN", "NNS", "." ], [ "PRP", "VBP", "PRP$", "VBN", "NN", "IN", "DT", "JJ", "NN", "NN", "NN", "NNS", "." ], [ "VBN", "IN", "DT", "JJ", "NNS", "IN", "NN", "NN", "VBZ", ",", "PRP$", "NN", "MD", "VB", "JJR", "NN", "NN", "CC", "JJR", "JJ", "NNS", "." ], [ "LS", "." ], [ "NN" ], [ "DT", "NN", "IN", "DT", "NN", "NN", "VBZ", "VBN", "IN", "JJ", "NNS", "." ], [ "IN", "DT", "JJ", "NN", "VBZ", "DT", "NN", "IN", "DT", "VBG", "NN", "NN", "CC", "JJ", "NN", ",", "WRB", "TO", "VB", "CC", "JJ", "NN", "NNS", "VBZ", "RB", "DT", "RB", "JJ", "NN", "WDT", "MD", "VB", "DT", "NN", "IN", "DT", "NN", "NN", "RB", "." ], [ "VBN", "IN", "DT", "JJ", "NN", "IN", "NN", "IN", "NN", "NNS", ",", "RB", ",", "EX", "VBZ", "RB", "JJ", "NN", "IN", "WRB", "TO", "VB", "DT", "NN", "IN", "NN", "VBP", "NN", "." ], [ "DT", "RBS", "JJ", "NN", "IN", "VBG", "NN", "NNS", "VBZ", "DT", "JJ", "VBD", "NN", "." ], [ "RB", ",", "PDT", "DT", "NN", "NN", "VBZ", "JJ", "IN", "JJ", ",", "JJ", "NN" ], [ "NNS", ":", "IN", "JJ", ",", "PRP", "MD", "VB", "RB", "WRB", "DT", "NN", "NNS", "VBP", "JJ", "CC", "DT", "NN", "MD", "RB", "VB", "JJ", "JJ", "NNS", "IN", "DT", "JJ", "VBD", "NNS", "." ], [ "IN", "DT", "NNS", ",", "DT", "NN", "NN", "IN", "DT", "NN", "VBZ", "MD", "VB", "RB", "RBR", "JJ", "TO", "DT", "NN", "IN", "DT", "JJ", "VBD", "NN", "." ], [ "NN", "VBZ", "RB", "JJ", "WRB", "DT", "NN", "NNS", "VBP", "JJ", ",", "IN", "WDT", "NN", ",", "DT", "NN", "MD", "RB", "VB", "TO", "VB", "IN", "DT", "JJ", "NN", "RB", "TO", "VB", "DT", "RB", "JJ", "JJ", "NN", "." ], [ "IN", "DT", "JJ", "JJ", "NN", "IN", "VBG", "NN", "NNS", ",", "NN", "NN", "VBZ", "VBZ", "VBN", "VBN", "RB", "RB", "-LRB-", "CD", ",", "CD", ",", "CD", ",", "CD", ",", "CD", "-RRB-", "." ], [ "DT", "JJ", "NN", "IN", "RB", "PDT", "DT", "VBG", "NN", "VBZ", "TO", "VB", "NN", "IN", "DT", "NN", "IN", "JJ", "NN", "VBZ", "TO", "NN", "DT", "NNS", "IN", "JJ", "NNS", ",", "WDT", "RB", "VBP", "TO", "JJ", "NNS", "IN", "DT", "JJ", "NN", "NN", "." ], [ "DT", "NN", "MD", "VB", "VBN", "TO", "VB", "WP", "DT", "NN", "VBZ", "RB", "." ], [ "DT", "NN", "MD", "RB", "VB", "DT", "NNS", "TO", "VB", "WDT", "NN", "TO", "VB", "IN", "." ], [ "RB", ",", "DT", "NN", "NN", "VBZ", "CD", "NNS", "WDT", "VBP", "PRP", "RB", "RB", "VB", "RB", ":", "NNP", ",", "DT", "NNS", "VBN", "IN", "DT", "NN", "VBP", "RB", "RB", "VBP", "TO", "DT", "JJ", "NNS", "IN", "DT", "NN", "IN", "DT", "NN", "POS", "NN", "." ], [ "CC", "DT", "NNS", "VBN", "IN", "DT", "JJ", "NNS", "MD", "NN", "DT", "NNS", "IN", "``", "JJ", "NNS", "''", "CC", "``", "JJ", "NNS", ".", "''" ], [ "JJ", "NNS", "MD", "RB", "VB", "RB", "JJ", "IN", "NNS", ":", "RB", "DT", "JJS", "NN", "MD", "RB", "VB", "DT", "JJ", "NN", "." ], [ "RB", ",", "DT", "NN", "VBZ", "VBN", "VBP", "RB", "JJ", "JJ", "TO", "VB", "DT", "NN", "TO", "VB", "DT", "JJ", "NN", "." ], [ "EX", "VBP", "CD", "NNS", "IN", "DT", "NN", ":", "-LRB-", "LS", "-RRB-", "DT", "NNS", "VBP", "RB", "VBG", "TO", "DT", "NN", "POS", "NNS", ",", "IN", "PRP$", "NNS", "MD", "RB", "VB", "RB", "JJ", "CC", "JJ", "." ], [ "IN", "NN", ",", "DT", "JJ", "NN", "``", "NN", "''", "MD", "VB", "DT", "NN", "CC", "DT", "NN", "." ], [ "DT", "NN", "MD", "VB", "VBN", "IN", "``", "NN", "JJ", ".", "''" ], [ "IN", "DT", "NN", ",", "PRP", "VBP", "DT", "JJ", "NN", "IN", "VBG", "NN", "NNS", ",", "WDT", "VBZ", "DT", "CD", "NNS", "IN", "VBG", "DT", "JJ", "NN", "IN", "DT", "NN", "VBZ", "." ], [ "DT", "VBZ", ",", "PRP", "VBP", "TO", "VB", "RP", "WP", "NNS", "IN", "DT", "NN", "NN", "VBP", "JJ", "JJ", "TO", "DT", "NN", "CC", "VB", "DT", "NNS", "RB", "." ], [ "RB", ",", "PRP", "VBP", "TO", "VB", "DT", "NN", ":", "NNP", ",", "PRP", "MD", "VB", "``", "JJ", "NNS", "''", "IN", "JJ", "NNS", "IN", "NN", "NNS", "CC", "VB", "NN", "NNS", "VBN", "IN", "DT", "``", "JJ", "NNS", "''", "." ], [ "IN", "NN", ",", "IN", "DT", "JJ", "NN", "VBZ", "VBN", "JJ", "NNS", "IN", "DT", "NN", "NNS", ",", "PRP", "MD", "VB", "IN", "WDT", "NNS", "IN", "NNS", "VBN", "IN", "DT", "NNS", "IN", "DT", "NNS", "CC", "WP", "NN", "IN", "NNS", "VBP", "VBN", "RP", "IN", "PDT", "DT", "NN", "." ], [ "IN", "NN", "WRB", "DT", "NN", "VBZ", "JJ", "JJ", "IN", "``", "NN", "''", "PRP", "MD", "VB", "TO", "VB", "DT", "JJ", "NNS", "VBG", "JJ", "NNS", "IN", "``", "NN", "''", "." ], [ "JJ", "NNS", "MD", "VB", "RB", "JJ", "IN", "VBG", "JJ", "NN", "VBZ", "IN", "``", "NN", "''", "." ], [ "RB", ",", "PRP", "MD", "VB", "JJR", "JJ", "NN", "NNS", "VBG", "JJ", "JJ", "NNS", "VBN", "IN", "NNS", "." ], [ "RB", "PRP", "MD", "VB", "JJR", "NNS", "IN", "DT", "VBN", "IN", "DT", "JJ", "NNS", "IN", "NN", "NNS", "." ], [ "TO", "VB", "DT", "NNS", "VBN", "IN", ",", "PRP", "VBP", "IN", "NN", "NN", "NNS", "CC", "VB", "DT", "NN", "NN", "VBG", "DT", "JJ", "NNS", "CC", "DT", "VBN", "NNS", "." ], [ "VBN", "DT", "JJ", "NN", ",", "PRP", "VBP", "PRP$", "JJ", "JJ", "NNS", "IN", "DT", "NN", "NN", "CC", "VB", "NNS", "IN", "VBG", "DT", "NN", "NN", "NN", "-LRB-", "CD", "-RRB-", "TO", "DT", "JJ", "NNS", "CC", "NNS", "." ], [ "PRP", "MD", "RB", "VB", "DT", "NN", "VBZ", "IN", "DT", "NNS", "VBG", "NN", "NNS", "CC", "NN", "DT", "NN", "IN", "DT", "RBS", "JJ", "JJ", "NN", "IN", "DT", "NN", "NN", "." ], [ "PRP", "VBP", "PRP$", "NN", "IN", "NN", "NN", "VBG", "NNS", "IN", "DT", "JJ", "NN", "NN", "." ], [ "PRP", "VBP", "PRP$", "NN", "IN", "DT", "NN", "NN", "NN", "NN", "CC", "DT", "JJ", "NN", "IN", "NN", "NNS", "." ], [ "DT", "NNS", "VBP", "IN", "PRP$", "NN", "VBZ", "JJ", "IN", "VBG", "NN", "NN", "CC", "DT", "NNS", "VBN", "VBG", "JJ", "JJ", "NNS", "VBP", "RBR", "JJ", "IN", "DT", "VBN", "VBG", "JJ", "NN", "NNS", "." ], [ "DT", "NN", "IN", "DT", "NN", "VBZ", "VBN", "IN", "VBZ", "." ], [ "PRP", "RB", "VB", "DT", "JJ", "NN", "IN", "NN", "CD", "." ], [ "IN", "NN", "CD", ",", "PRP", "VBP", "NN", "NN", "NN", "NNS", "CC", "PRP$", "NN", "IN", "VBG", "DT", "NN", "NN", "." ], [ "IN", "NN", "CD", ",", "PRP", "VBP", "PRP$", "NN", "IN", "NNS", "." ], [ "PRP", "VBP", "DT", "NNS", "VBN", "IN", "NN", "CD", "CC", "DT", "JJ", "NNS", "VBP", "VBN", "IN", "NN", "CD", "." ], [ "RB", ",", "PRP", "VBP", "PRP$", "NN", "CC", "VB", "JJ", "NN", "IN", "NN", "CD", "." ], [ "LS", "." ], [ "JJ", "VBP" ], [ "PRP$", "NN", "VBZ", "RB", "JJ", "TO", "DT", "NN", "IN", "NN", "NN", "NNS", "." ], [ "IN", "-LRB-", "CD", ",", "CD", "-RRB-", ",", "DT", "NNS", "VBN", "NNP", "NN", "TO", "VB", "DT", "JJ", "NNS", "VBN", "IN", "DT", "JJ", "NN", "NN", "NN", "." ], [ "PRP$", "NNS", "VBP", "DT", "NN", "NN", "-LRB-", "CD", "-RRB-", "WDT", "JJ", "NNS", "VBP", "TO", "VB", "NNS", "." ], [ "IN", "DT", "NNS", ",", "DT", "NNS", "VBN", "TO", "VB", "DT", "NNS", "IN", "DT", "JJ", "NN", "NN", "VBN", "IN", "DT", "NNS", "CC", "DT", "NNS", "IN", "VBN", "NNS", "." ], [ "JJ", "NN", "NNS", "VBP", "VBN", "CC", "DT", "NNP", "NNP", "NNP", "NN", "-LRB-", "NN", "-RRB-", "VBD", "VBN", "TO", "VB", "DT", "RBS", "JJ", "CD", "." ], [ "PRP", "RB", "VBD", "IN", "VBG", "NNS", "VBZ", "IN", "JJ", "IN", "VBG", "JJ", "NNS", "." ], [ "RB", ",", "DT", "JJ", "NN", "IN", "NN", "NN", "VBZ", "TO", "VB", "JJ", "NNS", "IN", "NNS", "." ], [ "TO", "VB", "DT", "NN", ",", "IN", "-LRB-", "CD", "-RRB-", ",", "JJ", "NN", "NNS", "VBD", "VBN", "TO", "VB", "JJ", "NNS", "IN", "DT", "NN", "VBP", "NNS", "CC", "DT", "NNS", "VBD", "RB", "VBN", "TO", "NN", "NN", "NNS", "." ], [ "IN", "-LRB-", "CD", "-RRB-", ",", "DT", "NNS", "VBN", "TO", "VB", "DT", "JJ", "NN", "NN", ",", "IN", "WDT", "DT", "NN", "VBZ", "VBN", "TO", "DT", "NN", "VBN", "IN", "DT", "JJ", "NN", ",", "TO", "VB", "NN", "NNS", ",", "CC", "DT", "JJ", "NN", "VBZ", "VBN", "TO", "VB", "DT", "JJ", "NN", "." ], [ "NN", "NN", "VBZ", "VBZ", "RB", "VBN", "DT", "NN", "IN", "NN", "IN", "NN", "CC", "JJ", "NN", "NNS", "JJ", "IN", "NNP", "-LRB-", "CD", "-RRB-", "." ], [ "RB", ",", "IN", "DT", "DT", "NNS", ",", "DT", "NNS", "VBP", "VBN", "RB", "VBN", "IN", "DT", "NN", "VBZ", "." ], [ "RB", "DT", "VBN", "NNS", "VBP", "RB", "RB", "VB", "NNS", "POS", "NNS", "CC", "DT", "VBN", "NNS", "MD", "RB", "VB", "JJ", "IN", "DT", "NN", "POS", "NN", "." ], [ "NNS", "IN", "VBG", "NN", "VBZ", "VBN", "IN", "NN", "NN", "VBP", "VBN", "IN", "-LRB-", "CD", ",", "CD", "-RRB-", "." ], [ "IN", "DT", "NN", ",", "DT", "NN", "NN", "VBZ", "VBN", "VBG", "DT", "NN", "NN", "CC", "NN", "NNS", "VBP", "RB", "VBN", "IN", "DT", "JJ", "NNS", "." ], [ "DT", "NNS", "VBN", "CC", "VBN", "JJ", "NN", "NNS", "CC", "PRP", "VBD", "IN", "NN", "NNS", "VBP", "RBR", "JJ", "IN", "NN", "NNS", "." ], [ "RB", "JJ", "NNS", "VBP", "RB", "RB", "JJ", "TO", "VB", "DT", "NN", "NN", "NNS", "IN", "DT", "NN", "." ], [ "VB", "NNS", "VBP", "VBN", "VBN", "IN", "JJ", "JJ", "NNS", "IN", "DT", "NN", "." ], [ "IN", "NN", ",", "NN", "NN", "NNS", "TO", "VB", "DT", "JJ", "VBN", "NNS", "-LRB-", "NN", "-RRB-", "VBZ", "VBN", "IN", "-LRB-", "CD", ",", "CD", "-RRB-", "." ], [ "IN", "PRP$", "NN", ",", "PRP", "VBP", "JJ", "JJ", "NN", "IN", "NN", "TO", "JJR", "VB", "DT", "NN", "VBZ", "IN", "JJ", "NNS", "." ], [ "PRP", "VBP", "DT", "NN", "NN", "NN", "-LRB-", "CD", "-RRB-", ",", "WDT", "VBZ", "DT", "NN", "NN", "VBN", "NN", ",", "TO", "VB", "JJ", "NNS", "IN", "NN", "NNS", "VBN", "DT", "JJ", "NN", "." ], [ "CD", "." ], [ "NNS", "CC", "NNS", "VBP" ], [ "IN", "DT", "NN", ",", "PRP", "VBD", "DT", "NN", "IN", "VBG", "NN", "NNS", "IN", "DT", "JJ", "NN", "." ], [ "TO", "VB", "DT", "NN", ",", "PRP", "VBP", "IN", "NN", "NN", "NNS", "TO", "VB", "JJ", "NNS", "IN", "NNS", "POS", "NN", "." ], [ "VBN", "DT", "NN", ",", "PRP", "VBP", "PRP$", "JJ" ], [ "NNS", "IN", "JJ", "JJ", "NN", ",", "VBP", "DT", "NNS", "IN", "VBG", "DT", "JJ", "NNS", "CC", "DT", "VBN", "JJ", "NN", ",", "CC", "VBP", "DT", "NN", "VBZ", "IN", "DT", "NNS", "VBD", "." ], [ "PRP", "VBD", "PRP$", "JJ", "NN", "IN", "DT", "JJ", "JJ", "NN", "CC", "DT", "NN", "IN", "NN", "NN", "NN", "." ], [ "DT", "NNS", "VBP", "IN", "PRP$", "JJ", "NN", "MD", "RB", "VB", "JJ", "NN", "CC", "VB", "IN", "DT", "JJ", "NN", ",", "RB", "WRB", "DT", "NNS", "VBP", "JJ", "CC", "DT", "NN", "NNS", "VBP", "JJ", "." ], [ "RB", ",", "PRP$", "JJ", "NN", "MD", "VB", "JJR", "JJ", "NN", "NNS", "IN", "DT", "NN", "VBZ", "VBN", "VBN", "IN", "NN", "VBZ", "WRB", "PRP", "VBP", "NN", "NNS", "." ], [ "EX", "VBP", "JJ", "JJ", "NNS", "IN", "JJ", "VBG", "PRP$", "NN", ":", "NNP", ",", "IN", "PRP$", "NN", "NNS", "VBP", "RB", "VBN", "NN", "IN", "DT", "NN", "IN", "VBG", "IN", "NN", "NNS", "TO", "VB", "NN", "NNS", ",", "DT", "NNS", "PRP", "VBP", "VBN", "IN", "VBP", "RB", "JJ", "." ], [ "PRP", "MD", "VB", "JJ", "TO", "VB", "JJ", "RB", "RBR", "JJ", "NNS", "." ], [ "IN", "JJ", ",", "PRP", "VBP", "TO", "VB", "JJ", "NNS", "IN", "VBG", "NNS", "CC", "VBG", "NNS", "RB", "." ], [ "RB", ",", "IN", "DT", "JJ", "NN", "IN", "VBG", "NN", "NNS", ",", "PRP", "MD", "VB", "TO", "VB", "JJ", "NN", "NN", "IN", "DT", "NN", "-LRB-", "FW", ",", "DT", "NN", "VBN", "IN", "DT", "NN", "TO", "NN", "-RRB-", "." ], [ "PRP", "MD", "RB", "VB", "JJ", "TO", "VB", "WRB", "TO", "JJ", "VB", "DT", "NN", "IN", "DT", "NNS", "VBN", "IN", "JJ", "NN", "NN", "." ], [ "RB", ",", "PRP", "MD", "VB", "DT", "JJ", "NN", "NN", "IN", "DT", "JJ", "NN", "NN", "TO", "VB", "CC", "VB", "DT", "NN", "IN", "NN", "NNS", "IN", "DT", "JJ", "NN", "." ] ]	[ [ "learn", "from", "web", "search", "log", "to", "organize", "search", "result" ], [ "abstract" ], [ "effective", "organization", "of", "search", "result", "be", "critical", "for", "improve", "the", "utility", "of", "any", "search", "engine", "." ], [ "clustering", "search", "result", "be", "a", "effective", "way", "to", "organize", "search", "result", ",", "which", "allow", "a", "user", "to", "navigate", "into", "relevant", "document", "quickly", "." ], [ "however", ",", "two", "deficiency", "of", "this", "approach", "make", "it", "not", "always", "work", "well", ":", "-lrb-", "1", "-rrb-", "the", "cluster", "discover", "do", "not", "necessarily", "correspond", "to", "the", "interesting", "aspect", "of", "a", "topic", "from", "the", "user", "'s", "perspective", ";", "and", "-lrb-", "2", "-rrb-", "the", "cluster", "label", "generate", "be", "not", "informative", "enough", "to", "allow", "a", "user", "to", "identify", "the", "right", "cluster", "." ], [ "in", "this", "paper", ",", "we", "propose", "to", "address", "these", "two", "deficiency", "by", "-lrb-", "1", "-rrb-", "learn", "``", "interesting", "aspect", "''", "of", "a", "topic", "from", "web", "search", "log", "and", "organize", "search", "result", "accordingly", ";", "and", "-lrb-", "2", "-rrb-", "generate", "more", "meaningful", "cluster", "label", "use", "past", "query", "word", "enter", "by", "user", "." ], [ "we", "evaluate", "we", "propose", "method", "on", "a", "commercial", "search", "engine", "log", "datum", "." ], [ "compare", "with", "the", "traditional", "method", "of", "clustering", "search", "result", ",", "we", "method", "can", "give", "better", "result", "organization", "and", "more", "meaningful", "label", "." ], [ "1", "." ], [ "introduction" ], [ "the", "utility", "of", "a", "search", "engine", "be", "affect", "by", "multiple", "factor", "." ], [ "while", "the", "primary", "factor", "be", "the", "soundness", "of", "the", "underlie", "retrieval", "model", "and", "ranking", "function", ",", "how", "to", "organize", "and", "present", "search", "result", "be", "also", "a", "very", "important", "factor", "that", "can", "affect", "the", "utility", "of", "a", "search", "engine", "significantly", "." ], [ "compare", "with", "the", "vast", "amount", "of", "literature", "on", "retrieval", "model", ",", "however", ",", "there", "be", "relatively", "little", "research", "on", "how", "to", "improve", "the", "effectiveness", "of", "search", "result", "organization", "." ], [ "the", "most", "common", "strategy", "of", "present", "search", "result", "be", "a", "simple", "rank", "list", "." ], [ "intuitively", ",", "such", "a", "presentation", "strategy", "be", "reasonable", "for", "non-ambiguous", ",", "homogeneous", "search" ], [ "result", ";", "in", "general", ",", "it", "would", "work", "well", "when", "the", "search", "result", "be", "good", "and", "a", "user", "can", "easily", "find", "many", "relevant", "document", "in", "the", "top", "rank", "result", "." ], [ "in", "these", "example", ",", "a", "clustering", "view", "of", "the", "search", "result", "would", "be", "much", "more", "useful", "to", "a", "user", "than", "a", "simple", "rank", "list", "." ], [ "clustering", "be", "also", "useful", "when", "the", "search", "result", "be", "poor", ",", "in", "which", "case", ",", "a", "user", "would", "otherwise", "have", "to", "go", "through", "a", "long", "list", "sequentially", "to", "reach", "the", "very", "first", "relevant", "document", "." ], [ "as", "a", "primary", "alternative", "strategy", "for", "present", "search", "result", ",", "clustering", "search", "result", "have", "be", "study", "relatively", "extensively", "-lsb-", "9", ",", "15", ",", "26", ",", "27", ",", "28", "-rsb-", "." ], [ "the", "general", "idea", "in", "virtually", "all", "the", "exist", "work", "be", "to", "perform", "clustering", "on", "a", "set", "of", "topranked", "search", "result", "to", "partition", "the", "result", "into", "natural", "cluster", ",", "which", "often", "correspond", "to", "different", "subtopic", "of", "the", "general", "query", "topic", "." ], [ "a", "label", "will", "be", "generate", "to", "indicate", "what", "each", "cluster", "be", "about", "." ], [ "a", "user", "can", "then", "view", "the", "label", "to", "decide", "which", "cluster", "to", "look", "into", "." ], [ "however", ",", "this", "clustering", "strategy", "have", "two", "deficiency", "which", "make", "it", "not", "always", "work", "well", ":", "First", ",", "the", "cluster", "discover", "in", "this", "way", "do", "not", "necessarily", "correspond", "to", "the", "interesting", "aspect", "of", "a", "topic", "from", "the", "user", "'s", "perspective", "." ], [ "but", "the", "cluster", "discover", "by", "the", "current", "method", "may", "partition", "the", "result", "into", "``", "local", "code", "''", "and", "``", "international", "code", ".", "''" ], [ "such", "cluster", "would", "not", "be", "very", "useful", "for", "user", ";", "even", "the", "best", "cluster", "would", "still", "have", "a", "low", "precision", "." ], [ "second", ",", "the", "cluster", "label", "generate", "be", "not", "informative", "enough", "to", "allow", "a", "user", "to", "identify", "the", "right", "cluster", "." ], [ "there", "be", "two", "reason", "for", "this", "problem", ":", "-lrb-", "1", "-rrb-", "the", "cluster", "be", "not", "correspond", "to", "a", "user", "'s", "interest", ",", "so", "they", "label", "would", "not", "be", "very", "meaningful", "or", "useful", "." ], [ "for", "example", ",", "the", "ambiguous", "query", "``", "jaguar", "''", "may", "mean", "a", "animal", "or", "a", "car", "." ], [ "a", "cluster", "may", "be", "label", "as", "``", "panthera", "onca", ".", "''" ], [ "in", "this", "paper", ",", "we", "propose", "a", "different", "strategy", "for", "partition", "search", "result", ",", "which", "address", "these", "two", "deficiency", "through", "impose", "a", "user-oriented", "partitioning", "of", "the", "search", "result", "." ], [ "that", "be", ",", "we", "try", "to", "figure", "out", "what", "aspect", "of", "a", "search", "topic", "be", "likely", "interesting", "to", "a", "user", "and", "organize", "the", "result", "accordingly", "." ], [ "specifically", ",", "we", "propose", "to", "do", "the", "following", ":", "First", ",", "we", "will", "learn", "``", "interesting", "aspect", "''", "of", "similar", "topic", "from", "search", "log", "and", "organize", "search", "result", "base", "on", "these", "``", "interesting", "aspect", "''", "." ], [ "for", "example", ",", "if", "the", "current", "query", "have", "occur", "many", "time", "in", "the", "search", "log", ",", "we", "can", "look", "at", "what", "kind", "of", "page", "view", "by", "the", "user", "in", "the", "result", "and", "what", "kind", "of", "word", "be", "use", "together", "with", "such", "a", "query", "." ], [ "in", "case", "when", "the", "query", "be", "ambiguous", "such", "as", "``", "jaguar", "''", "we", "can", "expect", "to", "see", "some", "clear", "cluster", "correspond", "different", "sens", "of", "``", "jaguar", "''", "." ], [ "such", "aspect", "can", "be", "very", "useful", "for", "organize", "future", "search", "result", "about", "``", "car", "''", "." ], [ "second", ",", "we", "will", "generate", "more", "meaningful", "cluster", "label", "use", "past", "query", "word", "enter", "by", "user", "." ], [ "thus", "they", "can", "be", "better", "label", "than", "those", "extract", "from", "the", "ordinary", "contents", "of", "search", "result", "." ], [ "to", "implement", "the", "idea", "present", "above", ",", "we", "rely", "on", "search", "engine", "log", "and", "build", "a", "history", "collection", "contain", "the", "past", "query", "and", "the", "associate", "clickthrough", "." ], [ "give", "a", "new", "query", ",", "we", "find", "its", "related", "past", "query", "from", "the", "history", "collection", "and", "learn", "aspect", "through", "apply", "the", "star", "clustering", "algorithm", "-lsb-", "2", "-rsb-", "to", "these", "past", "query", "and", "clickthrough", "." ], [ "we", "can", "then", "organize", "the", "search", "result", "into", "these", "aspect", "use", "categorization", "technique", "and", "label", "each", "aspect", "by", "the", "most", "representative", "past", "query", "in", "the", "query", "cluster", "." ], [ "we", "evaluate", "we", "method", "for", "result", "organization", "use", "log", "of", "a", "commercial", "search", "engine", "." ], [ "we", "compare", "we", "method", "with", "the", "default", "search", "engine", "ranking", "and", "the", "traditional", "clustering", "of", "search", "result", "." ], [ "the", "result", "show", "that", "we", "method", "be", "effective", "for", "improve", "search", "utility", "and", "the", "label", "generate", "use", "past", "query", "word", "be", "more", "readable", "than", "those", "generate", "use", "traditional", "clustering", "approach", "." ], [ "the", "rest", "of", "the", "paper", "be", "organize", "as", "follow", "." ], [ "we", "first", "review", "the", "related", "work", "in", "section", "2", "." ], [ "in", "section", "3", ",", "we", "describe", "search", "engine", "log", "datum", "and", "we", "procedure", "of", "build", "a", "history", "collection", "." ], [ "in", "section", "4", ",", "we", "present", "we", "approach", "in", "detail", "." ], [ "we", "describe", "the", "datum", "set", "in", "section", "5", "and", "the", "experimental", "result", "be", "discuss", "in", "section", "6", "." ], [ "finally", ",", "we", "conclude", "we", "paper", "and", "discuss", "future", "work", "in", "section", "7", "." ], [ "2", "." ], [ "related", "work" ], [ "we", "work", "be", "closely", "related", "to", "the", "study", "of", "clustering", "search", "result", "." ], [ "in", "-lsb-", "9", ",", "15", "-rsb-", ",", "the", "author", "use", "Scatter/Gather", "algorithm", "to", "cluster", "the", "top", "document", "return", "from", "a", "traditional", "information", "retrieval", "system", "." ], [ "they", "result", "validate", "the", "cluster", "hypothesis", "-lsb-", "20", "-rsb-", "that", "relevant", "document", "tend", "to", "form", "cluster", "." ], [ "in", "these", "papers", ",", "the", "author", "propose", "to", "cluster", "the", "result", "of", "a", "real", "search", "engine", "base", "on", "the", "snippet", "or", "the", "contents", "of", "return", "document", "." ], [ "several", "clustering", "algorithm", "be", "compare", "and", "the", "Suffix", "Tree", "Clustering", "algorithm", "-lrb-", "stc", "-rrb-", "be", "show", "to", "be", "the", "most", "effective", "one", "." ], [ "they", "also", "show", "that", "use", "snippet", "be", "as", "effective", "as", "use", "whole", "document", "." ], [ "however", ",", "a", "important", "challenge", "of", "document", "clustering", "be", "to", "generate", "meaningful", "label", "for", "cluster", "." ], [ "to", "overcome", "this", "difficulty", ",", "in", "-lsb-", "28", "-rsb-", ",", "supervised", "learning", "algorithm", "be", "study", "to", "extract", "meaningful", "phrase", "from", "the", "search", "result", "snippet", "and", "these", "phrase", "be", "then", "use", "to", "group", "search", "result", "." ], [ "in", "-lsb-", "13", "-rsb-", ",", "the", "author", "propose", "to", "use", "a", "monothetic", "clustering", "algorithm", ",", "in", "which", "a", "document", "be", "assign", "to", "a", "cluster", "base", "on", "a", "single", "feature", ",", "to", "organize", "search", "result", ",", "and", "the", "single", "feature", "be", "use", "to", "label", "the", "corresponding", "cluster", "." ], [ "clustering", "search", "result", "have", "also", "attract", "a", "lot", "of", "attention", "in", "industry", "and", "commercial", "web", "service", "such", "as", "Vivisimo", "-lsb-", "22", "-rsb-", "." ], [ "however", ",", "in", "all", "these", "work", ",", "the", "cluster", "be", "generate", "solely", "base", "on", "the", "search", "result", "." ], [ "thus", "the", "obtain", "cluster", "do", "not", "necessarily", "reflect", "user", "'", "preference", "and", "the", "generate", "label", "may", "not", "be", "informative", "from", "a", "user", "'s", "viewpoint", "." ], [ "method", "of", "organize", "search", "result", "base", "on", "text", "categorization", "be", "study", "in", "-lsb-", "6", ",", "8", "-rsb-", "." ], [ "in", "this", "work", ",", "a", "text", "classifier", "be", "train", "use", "a", "web", "directory", "and", "search", "result", "be", "then", "classify", "into", "the", "predefined", "category", "." ], [ "the", "author", "design", "and", "study", "different", "category", "interface", "and", "they", "find", "that", "category", "interface", "be", "more", "effective", "than", "list", "interface", "." ], [ "however", "predefined", "category", "be", "often", "too", "general", "to", "reflect", "the", "finer", "granularity", "aspect", "of", "a", "query", "." ], [ "search", "log", "have", "be", "exploit", "for", "several", "different", "purpose", "in", "the", "past", "." ], [ "for", "example", ",", "clustering", "search", "query", "to", "find", "those", "frequent", "ask", "question", "-lrb-", "faq", "-rrb-", "be", "study", "in", "-lsb-", "24", ",", "4", "-rsb-", "." ], [ "in", "we", "work", ",", "we", "explore", "past", "query", "history", "in", "order", "to", "better", "organize", "the", "search", "result", "for", "future", "query", "." ], [ "we", "use", "the", "star", "clustering", "algorithm", "-lsb-", "2", "-rsb-", ",", "which", "be", "a", "graph", "partition", "base", "approach", ",", "to", "learn", "interesting", "aspect", "from", "search", "log", "give", "a", "new", "query", "." ], [ "7", "." ], [ "conclusion", "and", "future", "work" ], [ "in", "this", "paper", ",", "we", "study", "the", "problem", "of", "organize", "search", "result", "in", "a", "user-oriented", "manner", "." ], [ "to", "attain", "this", "goal", ",", "we", "rely", "on", "search", "engine", "log", "to", "learn", "interesting", "aspect", "from", "user", "'", "perspective", "." ], [ "give", "a", "query", ",", "we", "retrieve", "its", "related" ], [ "query", "from", "past", "query", "history", ",", "learn", "the", "aspect", "by", "cluster", "the", "past", "query", "and", "the", "associate", "clickthrough", "information", ",", "and", "categorize", "the", "search", "result", "into", "the", "aspect", "learn", "." ], [ "we", "compare", "we", "log-based", "method", "with", "the", "traditional", "cluster-based", "method", "and", "the", "baseline", "of", "search", "engine", "ranking", "." ], [ "the", "experiment", "show", "that", "we", "log-based", "method", "can", "consistently", "outperform", "cluster-based", "method", "and", "improve", "over", "the", "ranking", "baseline", ",", "especially", "when", "the", "query", "be", "difficult", "or", "the", "search", "result", "be", "diverse", "." ], [ "furthermore", ",", "we", "log-based", "method", "can", "generate", "more", "meaningful", "aspect", "label", "than", "the", "cluster", "label", "generate", "base", "on", "search", "result", "when", "we", "cluster", "search", "result", "." ], [ "there", "be", "several", "interesting", "direction", "for", "further", "extend", "we", "work", ":", "First", ",", "although", "we", "experiment", "result", "have", "clearly", "show", "promise", "of", "the", "idea", "of", "learn", "from", "search", "log", "to", "organize", "search", "result", ",", "the", "method", "we", "have", "experiment", "with", "be", "relatively", "simple", "." ], [ "it", "would", "be", "interesting", "to", "explore", "other", "potentially", "more", "effective", "method", "." ], [ "in", "particular", ",", "we", "hope", "to", "develop", "probabilistic", "model", "for", "learn", "aspect", "and", "organize", "result", "simultaneously", "." ], [ "second", ",", "with", "the", "proposed", "way", "of", "organize", "search", "result", ",", "we", "can", "expect", "to", "obtain", "informative", "feedback", "information", "from", "a", "user", "-lrb-", "e.g.", ",", "the", "aspect", "choose", "by", "a", "user", "to", "view", "-rrb-", "." ], [ "it", "would", "thus", "be", "interesting", "to", "study", "how", "to", "further", "improve", "the", "organization", "of", "the", "result", "base", "on", "such", "feedback", "information", "." ], [ "finally", ",", "we", "can", "combine", "a", "general", "search", "log", "with", "any", "personal", "search", "log", "to", "customize", "and", "optimize", "the", "organization", "of", "search", "result", "for", "each", "individual", "user", "." ] ]	[ "retriev model", "rank function", "ambigu", "cluster view", "meaning cluster label", "histori collect", "past queri", "clickthrough", "star cluster algorithm", "suffix tree cluster algorithm", "search result snippet", "monothet cluster algorithm", "pseudo-document", "pairwis similar graph", "similar threshold paramet", "centroid-base method", "cosin similar", "centroid prototyp", "reciproc rank", "log-base method", "mean averag precis" ]
J-25	[ [ "Betting", "Boolean-Style", ":", "A", "Framework", "for", "Trading", "in", "Securities", "Based", "on", "Logical", "Formulas" ], [ "ABSTRACT" ], [ "We", "develop", "a", "framework", "for", "trading", "in", "compound", "securities", ":", "financial", "instruments", "that", "pay", "off", "contingent", "on", "the", "outcomes", "of", "arbitrary", "statements", "in", "propositional", "logic", "." ], [ "Buying", "or", "selling", "securities", "--", "which", "can", "be", "thought", "of", "as", "betting", "on", "or", "against", "a", "particular", "future", "outcome", "--", "allows", "agents", "both", "to", "hedge", "risk", "and", "to", "profit", "-LRB-", "in", "expectation", "-RRB-", "on", "subjective", "predictions", "." ], [ "A", "compound", "securities", "market", "allows", "agents", "to", "place", "bets", "on", "arbitrary", "boolean", "combinations", "of", "events", ",", "enabling", "them", "to", "more", "closely", "achieve", "their", "optimal", "risk", "exposure", ",", "and", "enabling", "the", "market", "as", "a", "whole", "to", "more", "closely", "achieve", "the", "social", "optimum", "." ], [ "The", "tradeoff", "for", "allowing", "such", "expressivity", "is", "in", "the", "complexity", "of", "the", "agents", "'", "and", "auctioneer", "'s", "optimization", "problems", "." ], [ "We", "develop", "and", "motivate", "the", "concept", "of", "a", "compound", "securities", "market", ",", "presenting", "the", "framework", "through", "a", "series", "of", "formal", "definitions", "and", "examples", "." ], [ "We", "then", "analyze", "in", "detail", "the", "auctioneer", "'s", "matching", "problem", "." ], [ "We", "show", "that", ",", "with", "n", "events", ",", "the", "matching", "problem", "is", "co-NP-complete", "in", "the", "divisible", "case", "and", "Σp2-complete", "in", "the", "indivisible", "case", "." ], [ "We", "show", "that", "the", "latter", "hardness", "result", "holds", "even", "under", "severe", "language", "restrictions", "on", "bids", "." ], [ "With", "log", "n", "events", ",", "the", "problem", "is", "polynomial", "in", "the", "divisible", "case", "and", "NP-complete", "in", "the", "indivisible", "case", "." ], [ "We", "briefly", "discuss", "matching", "algorithms", "and", "tractable", "special", "cases", "." ], [ "1", "." ], [ "INTRODUCTION" ], [ "Securities", "markets", "effectively", "allow", "traders", "to", "place", "bets", "on", "the", "outcomes", "of", "uncertain", "future", "propositions", "." ], [ "The", "economic", "value", "of", "securities", "markets", "is", "two-fold", "." ], [ "First", ",", "they", "allow", "traders", "to", "hedge", "risk", ",", "or", "to", "insure", "against", "undesirable", "outcomes", "." ], [ "For", "example", ",", "the", "owner", "of", "a", "stock", "might", "buy", "a", "put", "option", "-LRB-", "the", "right", "to", "sell", "the", "stock", "at", "a", "particular", "price", "-RRB-", "in", "order", "to", "insure", "against", "a", "stock", "downturn", "." ], [ "Second", ",", "securities", "markets", "allow", "traders", "to", "speculate", ",", "or", "to", "obtain", "a", "subjective", "expected", "profit", "when", "market", "prices", "do", "not", "reflect", "their", "assessment", "of", "the", "likelihood", "of", "future", "outcomes", "." ], [ "For", "example", ",", "a", "trader", "might", "buy", "a", "call", "option", "if", "he", "believes", "that", "the", "likelihood", "is", "high", "that", "the", "price", "of", "the", "underlying", "stock", "will", "go", "up", ",", "regardless", "of", "risk", "exposure", "to", "changes", "in", "the", "stock", "price", "." ], [ "Because", "traders", "stand", "to", "earn", "a", "profit", "if", "they", "can", "make", "effective", "probability", "assessments", ",", "often", "prices", "in", "financial", "markets", "yield", "very", "accurate", "aggregate", "forecasts", "of", "future", "events", "-LSB-", "10", ",", "29", ",", "27", ",", "28", "-RSB-", "." ], [ "Real", "securities", "markets", "have", "complex", "payoff", "structures", "with", "various", "triggers", "." ], [ "However", ",", "these", "can", "all", "be", "modeled", "as", "collections", "of", "more", "basic", "or", "atomic", "Arrow-Debreu", "securities", "-LSB-", "1", ",", "8", ",", "20", "-RSB-", "." ], [ "One", "unit", "of", "one", "Arrow-Debreu", "security", "pays", "off", "one", "dollar", "if", "and", "only", "if", "-LRB-", "iff", "-RRB-", "a", "corresponding", "binary", "event", "occurs", ";", "it", "pays", "nothing", "if", "the", "event", "does", "not", "occur", "." ], [ "So", ",", "for", "example", ",", "one", "unit", "of", "a", "security", "denoted", "-LRB-", "Acme100", "-RRB-", "might", "pay", "$", "1", "iff", "Acme", "'s", "stock", "is", "above", "$", "100", "on", "January", "4", ",", "2004", "." ], [ "An", "Acme", "stock", "option", "as", "it", "would", "be", "defined", "on", "a", "finan" ], [ "cial", "exchange", "can", "be", "though", "of", "as", "a", "portfolio", "of", "such", "atomic", "securities", ".1", "In", "this", "paper", ",", "we", "develop", "and", "analyze", "a", "framework", "for", "trading", "in", "compound", "securities", "markets", "with", "payoffs", "contingent", "on", "arbitrary", "logical", "combinations", "of", "events", ",", "including", "conditionals", "." ], [ "For", "example", ",", "given", "binary", "events", "A", ",", "B", ",", "and", "C", ",", "one", "trader", "might", "bid", "to", "buy", "three", "units", "of", "a", "security", "denoted", "-LRB-", "A", "n", "B", "¯", "V", "C", "-RRB-", "that", "pays", "off", "$", "1", "iff", "the", "compound", "event", "A", "n", "B", "¯", "V", "C", "occurs", "for", "thirty", "cents", "each", "." ], [ "Given", "a", "set", "of", "such", "bids", ",", "the", "auctioneer", "faces", "a", "complex", "matching", "problem", "to", "decide", "which", "bids", "are", "accepted", "for", "how", "many", "units", "at", "what", "price", "." ], [ "Typically", ",", "the", "auctioneer", "seeks", "to", "take", "on", "no", "risk", "of", "its", "own", ",", "only", "matching", "up", "agreeable", "trades", "among", "the", "bidders", ",", "but", "we", "also", "consider", "alternative", "formulations", "where", "the", "auctioneer", "acts", "as", "a", "market", "maker", "willing", "to", "accept", "some", "risk", "." ], [ "We", "examine", "the", "computational", "complexity", "of", "the", "auctioneer", "'s", "matching", "problem", "." ], [ "Let", "the", "length", "of", "the", "description", "of", "all", "the", "available", "securities", "be", "O", "-LRB-", "n", "-RRB-", "." ], [ "With", "n", "events", ",", "the", "matching", "problem", "is", "co-NP-complete", "in", "the", "divisible", "case", "and", "Ep2-complete", "in", "the", "indivisible", "case", "." ], [ "This", "Ep2-complete", "hardness", "holds", "even", "when", "the", "bidding", "language", "is", "significantly", "restricted", "." ], [ "With", "log", "n", "events", ",", "the", "problem", "is", "polynomial", "in", "the", "divisible", "case", "and", "NP-complete", "in", "the", "indivisible", "case", "." ], [ "Section", "2", "presents", "some", "necessary", "background", "information", ",", "motivation", ",", "and", "related", "work", "." ], [ "Section", "3", "formally", "describes", "our", "framework", "for", "compound", "securities", ",", "and", "defines", "the", "auctioneer", "'s", "matching", "problem", "." ], [ "Section", "4", "briefly", "discusses", "natural", "algorithms", "for", "solving", "the", "matching", "problem", "." ], [ "Section", "5", "proves", "our", "central", "computational", "complexity", "results", "." ], [ "Section", "6", "discusses", "the", "possibility", "of", "tractable", "special", "cases", "." ], [ "Section", "7", "concludes", "with", "a", "summary", "and", "some", "ideas", "of", "future", "directions", "." ], [ "2", "." ], [ "PRELIMINARIES" ], [ "2.1", "Background", "and", "notation" ], [ "In", "this", "simple", "world", "there", "are", "four", "possible", "future", "states", "--", "all", "possible", "combinations", "of", "the", "binary", "events", "'", "outcomes", ":", "struck", "n", "acme100", ",", "struck", "n", "acme100", ",", "struck", "n", "acme100", ",", "struck", "n", "acme100", "." ], [ "Hedging", "risk", "can", "be", "thought", "of", "as", "an", "action", "of", "moving", "money", "between", "various", "possible", "future", "states", "." ], [ "For", "example", ",", "insur1Technically", ",", "an", "option", "is", "a", "portfolio", "of", "infinitely", "many", "atomic", "securities", ",", "though", "it", "can", "be", "approximately", "modeled", "with", "a", "finite", "number", "." ], [ "ing", "one", "'s", "house", "transfers", "money", "from", "future", "states", "where", "struck", "is", "not", "true", "to", "states", "where", "it", "is", "." ], [ "Selling", "a", "security", "denoted", "-LRB-", "acme100", "-RRB-", "--", "that", "pays", "off", "$", "1", "iff", "the", "event", "acme100", "occurs", "--", "transfers", "money", "from", "future", "states", "where", "Acme", "'s", "price", "is", "above", "$", "100", "on", "January", "4", "to", "states", "where", "it", "'s", "not", "." ], [ "Speculating", "is", "also", "an", "act", "of", "transferring", "money", "between", "future", "states", ",", "though", "usually", "associated", "with", "maximizing", "expected", "return", "rather", "than", "reducing", "risk", "." ], [ "For", "example", ",", "betting", "on", "a", "football", "team", "moves", "money", "from", "the", "``", "team", "loses", "''", "state", "to", "the", "``", "team", "wins", "''", "state", "." ], [ "All", "possible", "future", "outcomes", "form", "a", "state", "space", "Ω", ",", "consisting", "of", "mutually", "exclusive", "and", "exhaustive", "states", "ω", "E", "Ω", "." ], [ "Often", "a", "more", "natural", "way", "to", "think", "of", "possible", "future", "outcomes", "is", "as", "an", "event", "space", "A", "of", "linearly", "independent", "events", "A", "E", "A", "that", "may", "overlap", "arbitrarily", "." ], [ "So", "in", "our", "toy", "example", "struck", "n", "acme100", "is", "one", "of", "the", "four", "disjoint", "states", ",", "while", "struck", "is", "one", "of", "the", "two", "events", "." ], [ "Note", "that", "a", "set", "of", "n", "linearly", "independent", "events", "defines", "a", "state", "space", "Ω", "of", "size", "2", "''", "consisting", "of", "all", "possible", "combinations", "of", "event", "outcomes", "." ], [ "Conversely", ",", "any", "state", "space", "Ω", "can", "be", "factored", "into", "-LSB-", "log", "lΩll", "events", "." ], [ "Suppose", "that", "A", "exhaustively", "covers", "all", "meaningful", "future", "outcomes", "-LRB-", "i.e.", ",", "covers", "all", "eventualities", "that", "agents", "may", "wish", "to", "hedge", "against", "and/or", "speculate", "upon", "-RRB-", "." ], [ "Then", "the", "existence", "of", "2", "''", "linearly", "independent", "securities", "--", "called", "a", "complete", "market", "--", "allows", "agents", "to", "distribute", "their", "wealth", "arbitrarily", "across", "future", "states", ".2", "An", "agent", "may", "create", "any", "hedge", "or", "speculation", "it", "desires", "." ], [ "Under", "classical", "conditions", ",", "agents", "trading", "in", "a", "complete", "market", "form", "an", "equilibrium", "where", "risk", "is", "allocated", "Pareto", "optimally", "." ], [ "If", "the", "market", "is", "incomplete", ",", "meaning", "it", "consists", "of", "fewer", "than", "2", "''", "linearly", "independent", "securities", ",", "then", "in", "general", "agents", "can", "not", "construct", "arbitrary", "hedges", "and", "equilibrium", "allocations", "may", "be", "nonoptimal", "-LSB-", "1", ",", "8", ",", "19", ",", "20", "-RSB-", "." ], [ "In", "real-world", "settings", ",", "the", "number", "of", "meaningful", "events", "n", "is", "large", "and", "thus", "the", "number", "of", "securities", "required", "for", "completeness", "is", "intractable", "." ], [ "No", "truly", "complete", "market", "exists", "or", "will", "ever", "exist", "." ], [ "One", "motivation", "behind", "compound", "securities", "markets", "is", "to", "provide", "a", "mechanism", "that", "supports", "the", "most", "transfer", "of", "risk", "using", "the", "least", "number", "of", "transactions", "possible", "." ], [ "Compound", "securities", "allow", "a", "high", "degree", "of", "expressivity", "in", "constructing", "bids", "." ], [ "The", "tradeoff", "for", "increased", "expressivity", "is", "increased", "computational", "complexity", ",", "from", "both", "the", "bidder", "'s", "and", "auctioneer", "'s", "point", "of", "view", "." ], [ "2.2", "Related", "work" ], [ "The", "quest", "to", "reduce", "the", "number", "of", "financial", "instruments", "required", "to", "support", "an", "optimal", "allocation", "of", "risk", "dates", "to", "Arrow", "'s", "original", "work", "-LSB-", "1", "-RSB-", "." ], [ "The", "requirement", "stated", "above", "of", "``", "only", "''", "2", "''", "linearly-independent", "securities", "is", "itself", "a", "reduction", "from", "the", "most", "straightforward", "formulation", "." ], [ "In", "an", "economy", "with", "k", "standard", "goods", ",", "the", "most", "straightforward", "complete", "market", "contains", "k", "•", "2", "''", "securities", ",", "each", "paying", "off", "in", "one", "good", "under", "one", "state", "realization", "." ], [ "Arrow", "-LSB-", "1", "-RSB-", "showed", "that", "a", "market", "where", "securities", "and", "goods", "are", "essentially", "separated", ",", "with", "2", "''", "securities", "paying", "off", "in", "a", "single", "numeraire", "good", "plus", "k", "spot", "markets", "in", "the", "standard", "goods", ",", "is", "also", "complete", "." ], [ "For", "our", "purposes", ",", "we", "need", "consider", "only", "the", "securities", "market", "." ], [ "2By", "linearly", "independent", "securities", ",", "we", "mean", "that", "the", "vectors", "of", "payoffs", "in", "all", "future", "states", "of", "these", "securities", "are", "linearly", "independent", "." ], [ "Varian", "-LSB-", "34", "-RSB-", "shows", "that", "a", "complete", "market", "can", "be", "constructed", "using", "fewer", "than", "2n", "securities", ",", "replacing", "the", "missing", "securities", "with", "options", "." ], [ "Still", ",", "the", "number", "of", "linearly", "independent", "financial", "instruments", "--", "securities", "plus", "options", "--", "must", "be", "2n", "to", "guarantee", "completeness", "." ], [ "The", "authors", "show", "that", "in", "some", "cases", "the", "market", "can", "be", "structured", "and", "``", "compacted", "''", "in", "analogy", "to", "Bayesian", "network", "representations", "of", "joint", "probability", "distributions", "-LSB-", "23", "-RSB-", "." ], [ "They", "show", "that", ",", "if", "all", "agents", "'", "risk-neutral", "independencies", "agree", "with", "the", "independencies", "encoded", "in", "the", "market", "structure", ",", "then", "the", "market", "is", "operationally", "complete", "." ], [ "For", "collections", "of", "agents", "all", "with", "constant", "absolute", "risk", "aversion", ",", "agreement", "on", "Markov", "independencies", "is", "sufficient", "." ], [ "Bossaerts", ",", "Fine", ",", "and", "Ledyard", "-LSB-", "2", "-RSB-", "develop", "a", "mechanism", "they", "call", "combined-value", "trading", "-LRB-", "CVT", "-RRB-", "that", "allows", "traders", "to", "order", "an", "arbitrary", "portfolio", "of", "securities", "in", "one", "bid", ",", "rather", "than", "breaking", "up", "the", "order", "into", "a", "sequence", "of", "bids", "on", "individual", "securities", "." ], [ "If", "the", "portfolio", "order", "is", "accepted", ",", "all", "of", "the", "implied", "trades", "on", "individual", "securities", "are", "executed", "simultaneously", ",", "thus", "eliminating", "so-called", "execution", "risk", "that", "prices", "will", "change", "in", "the", "middle", "of", "a", "planned", "sequence", "of", "orders", "." ], [ "The", "authors", "conduct", "laboratory", "experiments", "showing", "that", ",", "even", "in", "thin", "markets", "where", "ordinary", "sequential", "trading", "breaks", "down", ",", "CVT", "supports", "efficient", "pricing", "and", "allocation", "." ], [ "Note", "that", "CVT", "differs", "significantly", "from", "compound", "securities", "trading", "." ], [ "CVT", "allows", "instantaneous", "trading", "of", "any", "linear", "combination", "of", "securities", ",", "while", "compound", "securities", "allow", "more", "expressive", "securities", "that", "can", "encode", "nonlinear", "boolean", "combinations", "of", "events", "." ], [ "For", "example", ",", "CVT", "may", "allow", "an", "agent", "to", "order", "securities", "-LRB-", "A", "-RRB-", "and", "-LRB-", "B", "-RRB-", "in", "a", "bundle", "that", "pays", "off", "as", "a", "linear", "combination", "of", "A", "and", "B", ",3", "but", "CVT", "wo", "n't", "allow", "the", "construction", "of", "a", "compound", "security", "-LRB-", "A", "n", "B", "-RRB-", "that", "pays", "off", "$", "1", "iff", "both", "A", "and", "B", "occur", ",", "or", "a", "compound", "security", "-LRB-", "AIB", "-RRB-", "." ], [ "Combinatorial", "auctions", "allow", "bidders", "to", "place", "distinct", "values", "on", "all", "possible", "bundles", "of", "goods", "rather", "than", "just", "on", "individual", "goods", "." ], [ "Compound", "securities", "differ", "from", "combinatorial", "auctions", "in", "concept", "and", "complexity", "." ], [ "Compound", "securities", "allow", "bidders", "to", "construct", "an", "arbitrary", "bet", "on", "any", "of", "the", "22n", "possible", "compound", "events", "expressible", "as", "logical", "functions", "of", "the", "n", "base", "events", ",", "conditional", "on", "any", "other", "of", "the", "22n", "compound", "events", "." ], [ "Agents", "optimize", "based", "on", "their", "own", "subjective", "probabilities", "and", "risk", "attitude", "-LRB-", "and", "in", "general", ",", "their", "beliefs", "about", "other", "agents", "'", "beliefs", "and", "utilities", ",", "ad", "infinitum", "-RRB-", "." ], [ "The", "central", "auctioneer", "problem", "is", "identifying", "arbitrage", "opportunities", ":", "that", "is", ",", "to", "match", "bets", "together", "without", "taking", "on", "any", "risk", "." ], [ "Combinatorial", "auctions", ",", "on", "the", "other", "hand", ",", "allow", "bids", "on", "any", "of", "the", "2n", "bundles", "of", "n", "goods", "." ], [ "uncertainty", "--", "and", "thus", "risk", "--", "is", "not", "considered", "." ], [ "The", "central", "auctioneer", "problem", "is", "to", "maximize", "social", "welfare", "." ], [ "Also", "note", "that", "the", "problems", "lie", "in", "different", "complexity", "classes", "." ], [ "While", "clearing", "a", "combinatorial", "auction", "is", "polynomial", "in", "the", "divisible", "case", "and", "NP-complete", "in", "the", "indivisible", "case", ",", "matching", "in", "a", "compound", "securities", "market", "is", "NP-complete", "in", "the", "divisible", "case", "and", "Ep2-complete", "in", "the", "indivisible", "case", "." ], [ "In", "fact", ",", "even", "the", "problem", "of", "deciding", "whether", "two", "bids", "on", "compound", "securities", "match", ",", "even", "in", "the", "divisible", "case", ",", "is", "NP-complete", "-LRB-", "see", "Section", "5.2", "-RRB-", "." ], [ "There", "is", "a", "sense", "in", "which", "it", "is", "possible", "to", "translate", "our", "matching", "problem", "for", "compound", "securities", "into", "an", "analogous", "problem", "for", "clearing", "two-sided", "combinatorial", "exchanges", "-LSB-", "31", "-RSB-", "of", "exponential", "size", "." ], [ "Specifically", ",", "if", "we", "regard", "payoff", "in", "a", "particular", "state", "as", "a", "good", ",", "then", "compound", "securities", "can", "be", "viewed", "as", "bundles", "of", "-LRB-", "fractional", "quantities", "of", "-RRB-", "such", "goods", "." ], [ "The", "material", "balance", "constraint", "facing", "the", "combinatorial", "auctioneer", "corresponds", "to", "a", "restriction", "that", "the", "compoundsecurity", "auctioneer", "be", "disallowed", "from", "assuming", "any", "risk", "." ], [ "Note", "that", "this", "translation", "is", "not", "at", "all", "useful", "for", "addressing", "the", "compound-security", "matching", "problem", ",", "as", "the", "resulting", "combinatorial", "exchange", "has", "an", "exponential", "number", "of", "goods", "." ], [ "Hanson", "-LSB-", "15", "-RSB-", "develops", "a", "market", "mechanism", "called", "a", "market", "scoring", "rule", "that", "is", "especially", "well", "suited", "for", "allowing", "bets", "on", "a", "combinatorial", "number", "of", "outcomes", "." ], [ "The", "mechanism", "maintains", "a", "joint", "probability", "distribution", "over", "all", "2n", "states", ",", "either", "explicitly", "or", "implicitly", "using", "a", "Bayesian", "network", "or", "other", "compact", "representation", "." ], [ "In", "the", "limit", "of", "a", "single", "trader", ",", "the", "mechanism", "behaves", "like", "a", "scoring", "rule", ",", "suitable", "for", "polling", "a", "single", "agent", "for", "its", "probability", "distribution", "." ], [ "In", "the", "limit", "of", "many", "traders", ",", "it", "produces", "a", "combined", "estimate", "." ], [ "Since", "the", "market", "essentially", "always", "has", "a", "complete", "set", "of", "posted", "prices", "for", "all", "possible", "outcomes", ",", "the", "mechanism", "avoids", "the", "problem", "of", "thin", "markets", ",", "or", "illiquidity", ",", "that", "necessarily", "plagues", "any", "market", "containing", "an", "exponential", "number", "of", "alternative", "investments", "." ], [ "Bids", "for", "compound", "securities", "can", "be", "thought", "of", "as", "expressions", "of", "probabilistic", "inequalities", ":", "for", "example", ",", "a", "bid", "to", "buy", "-LRB-", "A", "n", "B", "-RRB-", "at", "price", "0.3", "is", "a", "statement", "that", "the", "probability", "of", "A", "n", "B", "is", "greater", "than", "0.3", "." ], [ "If", "a", "set", "of", "single-unit", "bids", "correspond", "to", "a", "set", "of", "inconsistent", "probabilistic", "inequalities", ",", "then", "there", "is", "a", "match", "." ], [ "We", "address", "these", "issues", "below", "." ] ]	[ [ "NNP", "NNP", ":", "DT", "NN", "IN", "NN", "IN", "NNP", "VBD", "IN", "JJ", "NNS" ], [ "NN" ], [ "PRP", "VBP", "DT", "NN", "IN", "NN", "IN", "NN", "NNS", ":", "JJ", "NNS", "WDT", "VBP", "RP", "NN", "IN", "DT", "NNS", "IN", "JJ", "NNS", "IN", "JJ", "NN", "." ], [ "VBG", "CC", "VBG", "NNS", ":", "WDT", "MD", "VB", "VBN", "IN", "IN", "VBG", "IN", "CC", "IN", "DT", "JJ", "JJ", "NN", ":", "VBZ", "NNS", "CC", "TO", "VB", "NN", "CC", "TO", "NN", "-LRB-", "IN", "NN", "-RRB-", "IN", "JJ", "NNS", "." ], [ "DT", "NN", "NNS", "NN", "VBZ", "NNS", "TO", "VB", "NNS", "IN", "JJ", "JJ", "NNS", "IN", "NNS", ",", "VBG", "PRP", "TO", "RBR", "RB", "VB", "PRP$", "JJ", "NN", "NN", ",", "CC", "VBG", "DT", "NN", "IN", "DT", "JJ", "TO", "RBR", "RB", "VB", "DT", "JJ", "NN", "." ], [ "DT", "NN", "IN", "VBG", "JJ", "NN", "VBZ", "IN", "DT", "NN", "IN", "DT", "NNS", "POS", "CC", "NN", "POS", "NN", "NNS", "." ], [ "PRP", "VBP", "CC", "VBP", "DT", "NN", "IN", "DT", "NN", "NNS", "NN", ",", "VBG", "DT", "NN", "IN", "DT", "NN", "IN", "JJ", "NNS", "CC", "NNS", "." ], [ "PRP", "RB", "VBP", "IN", "NN", "DT", "NN", "POS", "NN", "NN", "." ], [ "PRP", "VBP", "IN", ",", "IN", "NN", "NNS", ",", "DT", "NN", "NN", "VBZ", "JJ", "IN", "DT", "JJ", "NN", "CC", "JJ", "IN", "DT", "JJ", "NN", "." ], [ "PRP", "VBP", "IN", "DT", "JJ", "NN", "VBP", "VBZ", "RB", "IN", "JJ", "NN", "NNS", "IN", "NNS", "." ], [ "IN", "NN", "NN", "NNS", ",", "DT", "NN", "VBZ", "JJ", "IN", "DT", "JJ", "NN", "CC", "JJ", "IN", "DT", "JJ", "NN", "." ], [ "PRP", "RB", "VBP", "VBG", "NNS", "CC", "JJ", "JJ", "NNS", "." ], [ "LS", "." ], [ "NN" ], [ "NNPS", "NNS", "RB", "VBP", "NNS", "TO", "VB", "NNS", "IN", "DT", "NNS", "IN", "JJ", "JJ", "NNS", "." ], [ "DT", "JJ", "NN", "IN", "NNS", "NNS", "VBZ", "RB", "." ], [ "RB", ",", "PRP", "VBP", "NNS", "TO", "VB", "NN", ",", "CC", "TO", "VB", "IN", "JJ", "NNS", "." ], [ "IN", "NN", ",", "DT", "NN", "IN", "DT", "NN", "MD", "VB", "DT", "NN", "NN", "-LRB-", "DT", "NN", "TO", "VB", "DT", "NN", "IN", "DT", "JJ", "NN", "-RRB-", "IN", "NN", "TO", "VB", "IN", "DT", "NN", "NN", "." ], [ "RB", ",", "NNS", "NNS", "VBP", "NNS", "TO", "VB", ",", "CC", "TO", "VB", "DT", "JJ", "JJ", "NN", "WRB", "NN", "NNS", "VBP", "RB", "VB", "PRP$", "NN", "IN", "DT", "NN", "IN", "JJ", "NNS", "." ], [ "IN", "NN", ",", "DT", "NN", "MD", "VB", "DT", "NN", "NN", "IN", "PRP", "VBZ", "IN", "DT", "NN", "VBZ", "JJ", "IN", "DT", "NN", "IN", "DT", "VBG", "NN", "MD", "VB", "RB", ",", "RB", "IN", "NN", "NN", "TO", "NNS", "IN", "DT", "NN", "NN", "." ], [ "IN", "NNS", "VBP", "TO", "VB", "DT", "NN", "IN", "PRP", "MD", "VB", "JJ", "NN", "NNS", ",", "RB", "NNS", "IN", "JJ", "NNS", "VBP", "RB", "JJ", "NN", "NNS", "IN", "JJ", "NNS", "-LRB-", "CD", ",", "CD", ",", "CD", ",", "CD", "-RRB-", "." ], [ "JJ", "NNS", "NNS", "VBP", "JJ", "NN", "NNS", "IN", "JJ", "NNS", "." ], [ "RB", ",", "DT", "MD", "DT", "VB", "VBN", "IN", "NNS", "IN", "JJR", "JJ", "CC", "JJ", "NNP", "NNS", "-LRB-", "CD", ",", "CD", ",", "CD", "-RRB-", "." ], [ "CD", "NN", "IN", "CD", "NN", "NN", "VBZ", "RP", "CD", "NN", "IN", "CC", "RB", "IN", "-LRB-", "NN", "-RRB-", "DT", "JJ", "JJ", "NN", "VBZ", ":", "PRP", "VBZ", "NN", "IN", "DT", "NN", "VBZ", "RB", "VB", "." ], [ "RB", ",", "IN", "NN", ",", "CD", "NN", "IN", "DT", "NN", "VBN", "-LRB-", "NN", "-RRB-", "MD", "VB", "$", "CD", "NN", "NNP", "POS", "NN", "VBZ", "IN", "$", "CD", "IN", "NNP", "CD", ",", "CD", "." ], [ "DT", "NNP", "NN", "NN", "IN", "PRP", "MD", "VB", "VBN", "IN", "DT", "NN" ], [ "JJ", "NN", "MD", "VB", "IN", "IN", "IN", "DT", "NN", "IN", "JJ", "JJ", "NNS", "NN", "IN", "DT", "NN", ",", "PRP", "VBP", "CC", "VBP", "DT", "NN", "IN", "NN", "IN", "NN", "NNS", "NNS", "IN", "NNS", "JJ", "IN", "JJ", "JJ", "NNS", "IN", "NNS", ",", "VBG", "NNS", "." ], [ "IN", "NN", ",", "VBN", "JJ", "NNS", "DT", ",", "NN", ",", "CC", "NN", ",", "CD", "NN", "MD", "VB", "TO", "VB", "CD", "NNS", "IN", "DT", "NN", "VBN", "-LRB-", "DT", "NN", "NN", "CD", "NN", "NN", "-RRB-", "WDT", "VBZ", "RP", "$", "CD", "NN", "DT", "NN", "NN", "NN", "NN", "NN", "CD", "NN", "NN", "VBZ", "IN", "CD", "NNS", "DT", "." ], [ "VBN", "DT", "NN", "IN", "JJ", "NNS", ",", "DT", "NN", "VBZ", "DT", "JJ", "NN", "NN", "TO", "VB", "WDT", "NNS", "VBP", "VBN", "IN", "WRB", "JJ", "NNS", "IN", "WP", "NN", "." ], [ "RB", ",", "DT", "NN", "VBZ", "TO", "VB", "IN", "DT", "NN", "IN", "PRP$", "JJ", ",", "RB", "VBG", "RP", "JJ", "NNS", "IN", "DT", "NNS", ",", "CC", "PRP", "RB", "VBP", "JJ", "NNS", "WRB", "DT", "NN", "VBZ", "IN", "DT", "NN", "NN", "JJ", "TO", "VB", "DT", "NN", "." ], [ "PRP", "VBP", "DT", "JJ", "NN", "IN", "DT", "NN", "POS", "NN", "NN", "." ], [ "VB", "DT", "NN", "IN", "DT", "NN", "IN", "PDT", "DT", "JJ", "NNS", "VB", "NN", "-LRB-", "NN", "-RRB-", "." ], [ "IN", "NN", "NNS", ",", "DT", "NN", "NN", "VBZ", "JJ", "IN", "DT", "JJ", "NN", "CC", "JJ", "IN", "DT", "JJ", "NN", "." ], [ "DT", "JJ", "NN", "VBZ", "RB", "WRB", "DT", "NN", "NN", "VBZ", "RB", "JJ", "." ], [ "IN", "NN", "NN", "NNS", ",", "DT", "NN", "VBZ", "JJ", "IN", "DT", "JJ", "NN", "CC", "JJ", "IN", "DT", "JJ", "NN", "." ], [ "NN", "CD", "VBZ", "DT", "JJ", "NN", "NN", ",", "NN", ",", "CC", "JJ", "NN", "." ], [ "NN", "CD", "RB", "VBZ", "PRP$", "NN", "IN", "NN", "NNS", ",", "CC", "VBZ", "DT", "NN", "POS", "NN", "NN", "." ], [ "NN", "CD", "NN", "VBZ", "JJ", "NNS", "IN", "VBG", "DT", "NN", "NN", "." ], [ "NN", "CD", "VBZ", "PRP$", "JJ", "JJ", "NN", "NNS", "." ], [ "NN", "CD", "VBZ", "DT", "NN", "IN", "JJ", "JJ", "NNS", "." ], [ "NN", "CD", "VBZ", "IN", "DT", "NN", "CC", "DT", "NNS", "IN", "JJ", "NNS", "." ], [ "LS", "." ], [ "NNS" ], [ "CD", "NN", "CC", "NN" ], [ "IN", "DT", "JJ", "NN", "EX", "VBP", "CD", "JJ", "JJ", "NNS", ":", "DT", "JJ", "NNS", "IN", "DT", "JJ", "NNS", "POS", "NNS", ":", "VBD", "NN", "NN", ",", "VBD", "NN", "NN", ",", "VBD", "NN", "NN", ",", "VBD", "NN", "NN", "." ], [ "NN", "NN", "MD", "VB", "VBN", "IN", "IN", "DT", "NN", "IN", "VBG", "NN", "IN", "JJ", "JJ", "JJ", "NNS", "." ], [ "IN", "NN", ",", "NNP", ",", "DT", "NN", "VBZ", "DT", "NN", "IN", "RB", "JJ", "JJ", "NNS", ",", "IN", "PRP", "MD", "VB", "RB", "VBN", "IN", "DT", "JJ", "NN", "." ], [ "VBG", "CD", "POS", "NN", "NNS", "NN", "IN", "JJ", "NNS", "WRB", "VBN", "VBZ", "RB", "JJ", "TO", "NNS", "WRB", "PRP", "VBZ", "." ], [ "VBG", "DT", "NN", "VBN", "-LRB-", "NN", "-RRB-", ":", "IN", "VBZ", "RP", "$", "CD", "NN", "DT", "NN", "NN", "VBZ", ":", "NNS", "NN", "IN", "JJ", "NNS", "WRB", "NNP", "POS", "NN", "VBZ", "IN", "$", "CD", "IN", "NNP", "CD", "TO", "NNS", "WRB", "PRP", "VBZ", "RB", "." ], [ "VBG", "VBZ", "RB", "DT", "NN", "IN", "VBG", "NN", "IN", "JJ", "NNS", ",", "IN", "RB", "VBN", "IN", "VBG", "VBN", "NN", "RB", "IN", "VBG", "NN", "." ], [ "IN", "NN", ",", "VBG", "IN", "DT", "NN", "NN", "VBZ", "NN", "IN", "DT", "``", "NN", "VBZ", "''", "NN", "TO", "DT", "``", "NN", "VBZ", "''", "NN", "." ], [ "DT", "JJ", "JJ", "NNS", "VBP", "DT", "NN", "NN", "NN", ",", "VBG", "IN", "RB", "JJ", "CC", "JJ", "NNS", "VBP", "NN", "NN", "." ], [ "RB", "DT", "RBR", "JJ", "NN", "TO", "VB", "IN", "JJ", "JJ", "NNS", "VBZ", "IN", "DT", "NN", "NN", "NN", "IN", "RB", "JJ", "NNS", "DT", "NN", "NN", "WDT", "MD", "VB", "RB", "." ], [ "RB", "IN", "PRP$", "NN", "NN", "VBD", "NN", "NN", "VBZ", "CD", "IN", "DT", "CD", "NN", "NNS", ",", "IN", "VBN", "VBZ", "CD", "IN", "DT", "CD", "NNS", "." ], [ "VB", "IN", "DT", "NN", "IN", "NN", "RB", "JJ", "NNS", "VBZ", "DT", "NN", "NN", "NN", "IN", "NN", "CD", "''", "VBG", "IN", "DT", "JJ", "NNS", "IN", "NN", "NNS", "." ], [ "RB", ",", "DT", "NN", "NN", "NN", "MD", "VB", "JJ", "IN", "-LRB-", "NN", "NN", "NNS", "." ], [ "VB", "IN", "DT", "RB", "VBZ", "RB", "JJ", "JJ", "NNS", "-LRB-", "FW", ",", "VBZ", "DT", "NNS", "WDT", "NNS", "MD", "VB", "TO", "VB", "IN", "CC", "VBP", "IN", "-RRB-", "." ], [ "RB", "DT", "NN", "IN", "CD", "''", "RB", "JJ", "NNS", ":", "VBD", "DT", "JJ", "NN", ":", "VBZ", "NNS", "TO", "VB", "PRP$", "NN", "RB", "IN", "JJ", "NNS", "NN", "DT", "NN", "MD", "VB", "DT", "NN", "CC", "NN", "PRP", "NNS", "." ], [ "IN", "JJ", "NNS", ",", "NNS", "VBG", "IN", "DT", "JJ", "NN", "VBP", "DT", "NN", "WRB", "NN", "VBZ", "VBN", "NNP", "RB", "." ], [ "IN", "DT", "NN", "VBZ", "JJ", ",", "VBG", "PRP", "VBZ", "IN", "JJR", "IN", "CD", "''", "RB", "JJ", "NNS", ",", "RB", "IN", "JJ", "NNS", "MD", "RB", "VB", "JJ", "NNS", "CC", "NN", "NNS", "MD", "VB", "JJ", "-LRB-", "CD", ",", "CD", ",", "CD", ",", "CD", "-RRB-", "." ], [ "IN", "JJ", "NNS", ",", "DT", "NN", "IN", "JJ", "NNS", "NN", "VBZ", "JJ", "CC", "RB", "DT", "NN", "IN", "NNS", "VBN", "IN", "NN", "VBZ", "JJ", "." ], [ "DT", "RB", "JJ", "NN", "VBZ", "CC", "MD", "RB", "VB", "." ], [ "CD", "NN", "IN", "JJ", "NNS", "NNS", "VBZ", "TO", "VB", "DT", "NN", "WDT", "VBZ", "DT", "JJS", "NN", "IN", "NN", "VBG", "DT", "JJS", "NN", "IN", "NNS", "JJ", "." ], [ "NN", "NNS", "VBP", "DT", "JJ", "NN", "IN", "NN", "IN", "VBG", "NNS", "." ], [ "DT", "NN", "IN", "VBN", "NN", "VBZ", "VBN", "JJ", "NN", ",", "IN", "CC", "DT", "NN", "POS", "CC", "NN", "POS", "NN", "IN", "NN", "." ], [ "CD", "JJ", "NN" ], [ "DT", "NN", "TO", "VB", "DT", "NN", "IN", "JJ", "NNS", "VBN", "TO", "VB", "DT", "JJ", "NN", "IN", "NN", "NNS", "TO", "NNP", "POS", "JJ", "NN", "-LRB-", "CD", "-RRB-", "." ], [ "DT", "NN", "VBN", "IN", "IN", "``", "RB", "''", "CD", "''", "JJ", "NNS", "VBZ", "PRP", "DT", "NN", "IN", "DT", "RBS", "JJ", "NN", "." ], [ "IN", "DT", "NN", "IN", "NN", "JJ", "NNS", ",", "DT", "RBS", "JJ", "JJ", "NN", "VBZ", "NN", "NN", "CD", "''", "NNS", ",", "DT", "VBG", "RP", "IN", "CD", "JJ", "IN", "CD", "NN", "NN", "." ], [ "NNP", "-LRB-", "CD", "-RRB-", "VBD", "IN", "DT", "NN", "WRB", "NNS", "CC", "NNS", "VBP", "RB", "VBN", ",", "IN", "CD", "''", "NNS", "VBG", "RP", "IN", "DT", "JJ", "NN", "JJ", "CC", "NN", "NN", "NNS", "IN", "DT", "JJ", "NNS", ",", "VBZ", "RB", "JJ", "." ], [ "IN", "PRP$", "NNS", ",", "PRP", "VBP", "VB", "RB", "DT", "NNS", "NN", "." ], [ "NN", "RB", "JJ", "NNS", ",", "PRP", "VBP", "IN", "DT", "NNS", "IN", "NNS", "IN", "DT", "JJ", "NNS", "IN", "DT", "NNS", "VBP", "RB", "JJ", "." ], [ "NNP", "-LRB-", "CD", "-RRB-", "VBZ", "IN", "DT", "JJ", "NN", "MD", "VB", "VBN", "VBG", "JJR", "IN", "JJ", "NNS", ",", "VBG", "DT", "VBG", "NNS", "IN", "NNS", "." ], [ "RB", ",", "DT", "NN", "IN", "RB", "JJ", "JJ", "NNS", ":", "NNS", "CC", "NNS", ":", "MD", "VB", "JJ", "TO", "VB", "NN", "." ], [ "DT", "NNS", "VBP", "IN", "IN", "DT", "NNS", "DT", "NN", "MD", "VB", "VBN", "CC", "``", "JJ", "''", "IN", "NN", "TO", "JJ", "NN", "NNS", "IN", "JJ", "NN", "NNS", "-LRB-", "CD", "-RRB-", "." ], [ "PRP", "VBP", "IN", ",", "IN", "DT", "NNS", "POS", "JJ", "NNS", "VBP", "IN", "DT", "NNS", "VBN", "IN", "DT", "NN", "NN", ",", "RB", "DT", "NN", "VBZ", "RB", "JJ", "." ], [ "IN", "NNS", "IN", "NNS", "DT", "IN", "JJ", "JJ", "NN", "NN", ",", "NN", "IN", "NNP", "NNS", "VBZ", "JJ", "." ], [ "NNP", ",", "NNP", ",", "CC", "NNP", "-LRB-", "CD", "-RRB-", "VB", "DT", "NN", "PRP", "VBP", "JJ", "NN", "-LRB-", "NN", "-RRB-", "WDT", "VBZ", "NNS", "TO", "VB", "DT", "JJ", "NN", "IN", "NNS", "IN", "CD", "NN", ",", "RB", "IN", "VBG", "RP", "DT", "NN", "IN", "DT", "NN", "IN", "NNS", "IN", "JJ", "NNS", "." ], [ "IN", "DT", "NN", "NN", "VBZ", "VBN", ",", "DT", "IN", "DT", "VBN", "NNS", "IN", "JJ", "NNS", "VBP", "VBN", "RB", ",", "RB", "VBG", "JJ", "NN", "NN", "WDT", "NNS", "MD", "VB", "IN", "DT", "NN", "IN", "DT", "VBN", "NN", "IN", "NNS", "." ], [ "DT", "NNS", "VBP", "NN", "NNS", "VBG", "IN", ",", "RB", "IN", "JJ", "NNS", "WRB", "JJ", "JJ", "NN", "NNS", "RB", ",", "NN", "VBZ", "JJ", "NN", "CC", "NN", "." ], [ "VB", "IN", "NNP", "VBZ", "RB", "IN", "NN", "NNS", "NN", "." ], [ "NNP", "VBZ", "JJ", "NN", "IN", "DT", "JJ", "NN", "IN", "NNS", ",", "IN", "NN", "NNS", "VBP", "JJR", "JJ", "NNS", "WDT", "MD", "VB", "JJ", "JJ", "NNS", "IN", "NNS", "." ], [ "IN", "NN", ",", "NNP", "MD", "VB", "DT", "NN", "TO", "VB", "NNS", "-LRB-", "NN", "-RRB-", "CC", "-LRB-", "NN", "-RRB-", "IN", "DT", "NN", "WDT", "VBZ", "RP", "IN", "DT", "JJ", "NN", "IN", "NN", "CC", "NN", "CD", "CC", "NNP", "MD", "RB", "VB", "DT", "NN", "IN", "DT", "NN", "NN", "-LRB-", "NN", "NN", "NN", "-RRB-", "WDT", "VBZ", "RP", "$", "CD", "NN", "CC", "NN", "CC", "NN", "VBP", ",", "CC", "DT", "NN", "NN", "-LRB-", "NN", "-RRB-", "." ], [ "JJ", "NNS", "VBP", "NNS", "TO", "VB", "JJ", "NNS", "IN", "DT", "JJ", "NNS", "IN", "NNS", "RB", "IN", "RB", "IN", "JJ", "NNS", "." ], [ "NN", "NNS", "VBP", "IN", "JJ", "NNS", "IN", "NN", "CC", "NN", "." ], [ "NN", "NNS", "VBP", "NNS", "TO", "VB", "DT", "JJ", "NN", "IN", "DT", "IN", "DT", "JJ", "JJ", "NN", "NNS", "JJ", "IN", "JJ", "NNS", "IN", "DT", "NN", "NN", "NNS", ",", "JJ", "IN", "DT", "JJ", "IN", "DT", "JJ", "NN", "NNS", "." ], [ "NNS", "VBP", "VBN", "IN", "PRP$", "JJ", "JJ", "NNS", "CC", "VB", "NN", "-LRB-", "CC", "IN", "JJ", ",", "PRP$", "NNS", "IN", "JJ", "NNS", "POS", "NNS", "CC", "NNS", ",", "NN", "NN", "-RRB-", "." ], [ "DT", "JJ", "NN", "NN", "VBZ", "VBG", "NN", "NNS", ":", "DT", "VBZ", ",", "TO", "VB", "NNS", "RB", "IN", "VBG", "RP", "DT", "NN", "." ], [ "JJ", "NNS", ",", "IN", "DT", "JJ", "NN", ",", "VBP", "NNS", "IN", "DT", "IN", "DT", "JJ", "NNS", "IN", "NN", "NNS", "." ], [ "NN", ":", "CC", "RB", "VB", ":", "VBZ", "RB", "VBN", "." ], [ "DT", "JJ", "NN", "NN", "VBZ", "TO", "VB", "JJ", "NN", "." ], [ "RB", "NN", "IN", "DT", "NNS", "VBP", "IN", "JJ", "NN", "NNS", "." ], [ "IN", "VBG", "DT", "JJ", "NN", "VBZ", "JJ", "IN", "DT", "JJ", "NN", "CC", "JJ", "IN", "DT", "JJ", "NN", ",", "VBG", "IN", "DT", "NN", "NNS", "NN", "VBZ", "JJ", "IN", "DT", "JJ", "NN", "CC", "JJ", "IN", "DT", "JJ", "NN", "." ], [ "IN", "NN", ",", "RB", "DT", "NN", "IN", "VBG", "IN", "CD", "NNS", "IN", "NN", "NNS", "NN", ",", "RB", "IN", "DT", "JJ", "NN", ",", "VBZ", "JJ", "-LRB-", "VB", "NNP", "CD", "-RRB-", "." ], [ "EX", "VBZ", "DT", "NN", "IN", "WDT", "PRP", "VBZ", "JJ", "TO", "VB", "PRP$", "NN", "NN", "IN", "NN", "NNS", "IN", "DT", "JJ", "NN", "IN", "VBG", "JJ", "JJ", "NNS", "-LRB-", "CD", "-RRB-", "IN", "JJ", "NN", "." ], [ "RB", ",", "IN", "PRP", "VBP", "NN", "IN", "DT", "JJ", "NN", "IN", "DT", "JJ", ",", "RB", "JJ", "NNS", "MD", "VB", "VBN", "IN", "NNS", "IN", "-LRB-", "JJ", "NNS", "IN", "-RRB-", "JJ", "NNS", "." ], [ "DT", "NN", "NN", "NN", "VBG", "DT", "JJ", "NN", "VBZ", "TO", "DT", "NN", "IN", "DT", "NN", "NN", "VB", "VBN", "IN", "VBG", "DT", "NN", "." ], [ "VB", "IN", "DT", "NN", "VBZ", "RB", "IN", "DT", "JJ", "IN", "VBG", "DT", "JJ", "NN", "NN", ",", "IN", "DT", "VBG", "JJ", "NN", "VBZ", "DT", "JJ", "NN", "IN", "NNS", "." ], [ "NNP", "-LRB-", "CD", "-RRB-", "VBZ", "DT", "NN", "NN", "VBD", "DT", "NN", "VBG", "NN", "WDT", "VBZ", "RB", "RB", "VBN", "IN", "VBG", "NNS", "IN", "DT", "JJ", "NN", "IN", "NNS", "." ], [ "DT", "NN", "VBZ", "DT", "JJ", "NN", "NN", "IN", "DT", "JJ", "NNS", ",", "CC", "RB", "CC", "RB", "VBG", "DT", "JJ", "NN", "CC", "JJ", "JJ", "NN", "." ], [ "IN", "DT", "NN", "IN", "DT", "JJ", "NN", ",", "DT", "NN", "VBZ", "IN", "DT", "VBG", "NN", ",", "JJ", "IN", "NN", "DT", "JJ", "NN", "IN", "PRP$", "NN", "NN", "." ], [ "IN", "DT", "NN", "IN", "JJ", "NNS", ",", "PRP", "VBZ", "DT", "JJ", "NN", "." ], [ "IN", "DT", "NN", "RB", "RB", "VBZ", "DT", "JJ", "NN", "IN", "VBN", "NNS", "IN", "DT", "JJ", "NNS", ",", "DT", "NN", "VBZ", "DT", "NN", "IN", "JJ", "NNS", ",", "CC", "NN", ",", "WDT", "RB", "VBZ", "DT", "NN", "VBG", "DT", "JJ", "NN", "IN", "JJ", "NNS", "." ], [ "NNS", "IN", "NN", "NNS", "MD", "VB", "VBN", "IN", "IN", "NNS", "IN", "JJ", "NNS", ":", "IN", "NN", ",", "DT", "NN", "TO", "VB", "-LRB-", "DT", "NN", "NN", "-RRB-", "IN", "NN", "CD", "VBZ", "DT", "NN", "IN", "DT", "NN", "IN", "DT", "NN", "NN", "VBZ", "JJR", "IN", "CD", "." ], [ "IN", "DT", "NN", "IN", "JJ", "NNS", "VBP", "TO", "DT", "NN", "IN", "JJ", "JJ", "NNS", ",", "RB", "EX", "VBZ", "DT", "NN", "." ], [ "PRP", "VBP", "DT", "NNS", "IN", "." ] ]	[ [ "Betting", "Boolean-Style", ":", "a", "framework", "for", "trading", "in", "Securities", "base", "on", "logical", "formula" ], [ "abstract" ], [ "we", "develop", "a", "framework", "for", "trading", "in", "compound", "security", ":", "financial", "instrument", "that", "pay", "off", "contingent", "on", "the", "outcome", "of", "arbitrary", "statement", "in", "propositional", "logic", "." ], [ "buy", "or", "sell", "security", "--", "which", "can", "be", "think", "of", "as", "bet", "on", "or", "against", "a", "particular", "future", "outcome", "--", "allow", "agent", "both", "to", "hedge", "risk", "and", "to", "profit", "-lrb-", "in", "expectation", "-rrb-", "on", "subjective", "prediction", "." ], [ "a", "compound", "security", "market", "allow", "agent", "to", "place", "bet", "on", "arbitrary", "boolean", "combination", "of", "event", ",", "enable", "they", "to", "more", "closely", "achieve", "they", "optimal", "risk", "exposure", ",", "and", "enable", "the", "market", "as", "a", "whole", "to", "more", "closely", "achieve", "the", "social", "optimum", "." ], [ "the", "tradeoff", "for", "allow", "such", "expressivity", "be", "in", "the", "complexity", "of", "the", "agent", "'", "and", "auctioneer", "'s", "optimization", "problem", "." ], [ "we", "develop", "and", "motivate", "the", "concept", "of", "a", "compound", "security", "market", ",", "present", "the", "framework", "through", "a", "series", "of", "formal", "definition", "and", "example", "." ], [ "we", "then", "analyze", "in", "detail", "the", "auctioneer", "'s", "matching", "problem", "." ], [ "we", "show", "that", ",", "with", "n", "event", ",", "the", "matching", "problem", "be", "co-np-complete", "in", "the", "divisible", "case", "and", "σp2-complete", "in", "the", "indivisible", "case", "." ], [ "we", "show", "that", "the", "latter", "hardness", "result", "hold", "even", "under", "severe", "language", "restriction", "on", "bid", "." ], [ "with", "log", "n", "event", ",", "the", "problem", "be", "polynomial", "in", "the", "divisible", "case", "and", "np-complete", "in", "the", "indivisible", "case", "." ], [ "we", "briefly", "discuss", "match", "algorithm", "and", "tractable", "special", "case", "." ], [ "1", "." ], [ "introduction" ], [ "Securities", "market", "effectively", "allow", "trader", "to", "place", "bet", "on", "the", "outcome", "of", "uncertain", "future", "proposition", "." ], [ "the", "economic", "value", "of", "security", "market", "be", "two-fold", "." ], [ "first", ",", "they", "allow", "trader", "to", "hedge", "risk", ",", "or", "to", "insure", "against", "undesirable", "outcome", "." ], [ "for", "example", ",", "the", "owner", "of", "a", "stock", "might", "buy", "a", "put", "option", "-lrb-", "the", "right", "to", "sell", "the", "stock", "at", "a", "particular", "price", "-rrb-", "in", "order", "to", "insure", "against", "a", "stock", "downturn", "." ], [ "second", ",", "security", "market", "allow", "trader", "to", "speculate", ",", "or", "to", "obtain", "a", "subjective", "expected", "profit", "when", "market", "price", "do", "not", "reflect", "they", "assessment", "of", "the", "likelihood", "of", "future", "outcome", "." ], [ "for", "example", ",", "a", "trader", "might", "buy", "a", "call", "option", "if", "he", "believe", "that", "the", "likelihood", "be", "high", "that", "the", "price", "of", "the", "underlie", "stock", "will", "go", "up", ",", "regardless", "of", "risk", "exposure", "to", "change", "in", "the", "stock", "price", "." ], [ "because", "trader", "stand", "to", "earn", "a", "profit", "if", "they", "can", "make", "effective", "probability", "assessment", ",", "often", "price", "in", "financial", "market", "yield", "very", "accurate", "aggregate", "forecast", "of", "future", "event", "-lsb-", "10", ",", "29", ",", "27", ",", "28", "-rsb-", "." ], [ "real", "security", "market", "have", "complex", "payoff", "structure", "with", "various", "trigger", "." ], [ "however", ",", "these", "can", "all", "be", "model", "as", "collection", "of", "more", "basic", "or", "atomic", "Arrow-Debreu", "security", "-lsb-", "1", ",", "8", ",", "20", "-rsb-", "." ], [ "one", "unit", "of", "one", "arrow-debreu", "security", "pay", "off", "one", "dollar", "if", "and", "only", "if", "-lrb-", "iff", "-rrb-", "a", "corresponding", "binary", "event", "occur", ";", "it", "pay", "nothing", "if", "the", "event", "do", "not", "occur", "." ], [ "so", ",", "for", "example", ",", "one", "unit", "of", "a", "security", "denote", "-lrb-", "acme100", "-rrb-", "might", "pay", "$", "1", "iff", "Acme", "'s", "stock", "be", "above", "$", "100", "on", "January", "4", ",", "2004", "." ], [ "a", "Acme", "stock", "option", "as", "it", "would", "be", "define", "on", "a", "finan" ], [ "cial", "exchange", "can", "be", "though", "of", "as", "a", "portfolio", "of", "such", "atomic", "security", ".1", "in", "this", "paper", ",", "we", "develop", "and", "analyze", "a", "framework", "for", "trading", "in", "compound", "security", "market", "with", "payoff", "contingent", "on", "arbitrary", "logical", "combination", "of", "event", ",", "include", "conditional", "." ], [ "for", "example", ",", "give", "binary", "event", "a", ",", "b", ",", "and", "c", ",", "one", "trader", "might", "bid", "to", "buy", "three", "unit", "of", "a", "security", "denote", "-lrb-", "a", "n", "b", "¯", "v", "c", "-rrb-", "that", "pay", "off", "$", "1", "iff", "the", "compound", "event", "a", "n", "b", "¯", "v", "c", "occur", "for", "thirty", "cent", "each", "." ], [ "give", "a", "set", "of", "such", "bid", ",", "the", "auctioneer", "face", "a", "complex", "matching", "problem", "to", "decide", "which", "bid", "be", "accept", "for", "how", "many", "unit", "at", "what", "price", "." ], [ "typically", ",", "the", "auctioneer", "seek", "to", "take", "on", "no", "risk", "of", "its", "own", ",", "only", "match", "up", "agreeable", "trade", "among", "the", "bidder", ",", "but", "we", "also", "consider", "alternative", "formulation", "where", "the", "auctioneer", "act", "as", "a", "market", "maker", "willing", "to", "accept", "some", "risk", "." ], [ "we", "examine", "the", "computational", "complexity", "of", "the", "auctioneer", "'s", "matching", "problem", "." ], [ "let", "the", "length", "of", "the", "description", "of", "all", "the", "available", "security", "be", "o", "-lrb-", "n", "-rrb-", "." ], [ "with", "n", "event", ",", "the", "matching", "problem", "be", "co-np-complete", "in", "the", "divisible", "case", "and", "ep2-complete", "in", "the", "indivisible", "case", "." ], [ "this", "ep2-complete", "hardness", "hold", "even", "when", "the", "bidding", "language", "be", "significantly", "restricted", "." ], [ "with", "log", "n", "event", ",", "the", "problem", "be", "polynomial", "in", "the", "divisible", "case", "and", "np-complete", "in", "the", "indivisible", "case", "." ], [ "section", "2", "present", "some", "necessary", "background", "information", ",", "motivation", ",", "and", "related", "work", "." ], [ "section", "3", "formally", "describe", "we", "framework", "for", "compound", "security", ",", "and", "define", "the", "auctioneer", "'s", "matching", "problem", "." ], [ "section", "4", "briefly", "discuss", "natural", "algorithm", "for", "solve", "the", "matching", "problem", "." ], [ "section", "5", "prove", "we", "central", "computational", "complexity", "result", "." ], [ "section", "6", "discuss", "the", "possibility", "of", "tractable", "special", "case", "." ], [ "section", "7", "conclude", "with", "a", "summary", "and", "some", "idea", "of", "future", "direction", "." ], [ "2", "." ], [ "preliminary" ], [ "2.1", "background", "and", "notation" ], [ "in", "this", "simple", "world", "there", "be", "four", "possible", "future", "state", "--", "all", "possible", "combination", "of", "the", "binary", "event", "'", "outcome", ":", "strike", "n", "acme100", ",", "strike", "n", "acme100", ",", "strike", "n", "acme100", ",", "strike", "n", "acme100", "." ], [ "hedging", "risk", "can", "be", "think", "of", "as", "a", "action", "of", "move", "money", "between", "various", "possible", "future", "state", "." ], [ "for", "example", ",", "insur1Technically", ",", "a", "option", "be", "a", "portfolio", "of", "infinitely", "many", "atomic", "security", ",", "though", "it", "can", "be", "approximately", "model", "with", "a", "finite", "number", "." ], [ "ing", "one", "'s", "house", "transfer", "money", "from", "future", "state", "where", "strike", "be", "not", "true", "to", "state", "where", "it", "be", "." ], [ "sell", "a", "security", "denote", "-lrb-", "acme100", "-rrb-", "--", "that", "pay", "off", "$", "1", "iff", "the", "event", "acme100", "occur", "--", "transfer", "money", "from", "future", "state", "where", "Acme", "'s", "price", "be", "above", "$", "100", "on", "January", "4", "to", "state", "where", "it", "be", "not", "." ], [ "speculate", "be", "also", "a", "act", "of", "transfer", "money", "between", "future", "state", ",", "though", "usually", "associate", "with", "maximize", "expect", "return", "rather", "than", "reduce", "risk", "." ], [ "for", "example", ",", "bet", "on", "a", "football", "team", "move", "money", "from", "the", "``", "team", "lose", "''", "state", "to", "the", "``", "team", "win", "''", "state", "." ], [ "all", "possible", "future", "outcome", "form", "a", "state", "space", "ω", ",", "consist", "of", "mutually", "exclusive", "and", "exhaustive", "state", "ω", "e", "ω", "." ], [ "often", "a", "more", "natural", "way", "to", "think", "of", "possible", "future", "outcome", "be", "as", "a", "event", "space", "a", "of", "linearly", "independent", "event", "a", "e", "a", "that", "may", "overlap", "arbitrarily", "." ], [ "so", "in", "we", "toy", "example", "strike", "n", "acme100", "be", "one", "of", "the", "four", "disjoint", "state", ",", "while", "strike", "be", "one", "of", "the", "two", "event", "." ], [ "note", "that", "a", "set", "of", "n", "linearly", "independent", "event", "define", "a", "state", "space", "ω", "of", "size", "2", "''", "consist", "of", "all", "possible", "combination", "of", "event", "outcome", "." ], [ "conversely", ",", "any", "state", "space", "ω", "can", "be", "factored", "into", "-lsb-", "log", "lωll", "event", "." ], [ "suppose", "that", "a", "exhaustively", "cover", "all", "meaningful", "future", "outcome", "-lrb-", "i.e.", ",", "cover", "all", "eventuality", "that", "agent", "may", "wish", "to", "hedge", "against", "and/or", "speculate", "upon", "-rrb-", "." ], [ "then", "the", "existence", "of", "2", "''", "linearly", "independent", "security", "--", "call", "a", "complete", "market", "--", "allow", "agent", "to", "distribute", "they", "wealth", "arbitrarily", "across", "future", "state", ".2", "a", "agent", "may", "create", "any", "hedge", "or", "speculation", "it", "desire", "." ], [ "under", "classical", "condition", ",", "agent", "trade", "in", "a", "complete", "market", "form", "a", "equilibrium", "where", "risk", "be", "allocate", "Pareto", "optimally", "." ], [ "if", "the", "market", "be", "incomplete", ",", "mean", "it", "consist", "of", "fewer", "than", "2", "''", "linearly", "independent", "security", ",", "then", "in", "general", "agent", "can", "not", "construct", "arbitrary", "hedge", "and", "equilibrium", "allocation", "may", "be", "nonoptimal", "-lsb-", "1", ",", "8", ",", "19", ",", "20", "-rsb-", "." ], [ "in", "real-world", "setting", ",", "the", "number", "of", "meaningful", "event", "n", "be", "large", "and", "thus", "the", "number", "of", "security", "require", "for", "completeness", "be", "intractable", "." ], [ "no", "truly", "complete", "market", "exist", "or", "will", "ever", "exist", "." ], [ "one", "motivation", "behind", "compound", "security", "market", "be", "to", "provide", "a", "mechanism", "that", "support", "the", "most", "transfer", "of", "risk", "use", "the", "least", "number", "of", "transaction", "possible", "." ], [ "compound", "security", "allow", "a", "high", "degree", "of", "expressivity", "in", "construct", "bid", "." ], [ "the", "tradeoff", "for", "increase", "expressivity", "be", "increase", "computational", "complexity", ",", "from", "both", "the", "bidder", "'s", "and", "auctioneer", "'s", "point", "of", "view", "." ], [ "2.2", "related", "work" ], [ "the", "quest", "to", "reduce", "the", "number", "of", "financial", "instrument", "require", "to", "support", "a", "optimal", "allocation", "of", "risk", "date", "to", "Arrow", "'s", "original", "work", "-lsb-", "1", "-rsb-", "." ], [ "the", "requirement", "state", "above", "of", "``", "only", "''", "2", "''", "linearly-independent", "security", "be", "itself", "a", "reduction", "from", "the", "most", "straightforward", "formulation", "." ], [ "in", "a", "economy", "with", "k", "standard", "goods", ",", "the", "most", "straightforward", "complete", "market", "contain", "k", "•", "2", "''", "security", ",", "each", "pay", "off", "in", "one", "good", "under", "one", "state", "realization", "." ], [ "Arrow", "-lsb-", "1", "-rsb-", "show", "that", "a", "market", "where", "security", "and", "goods", "be", "essentially", "separate", ",", "with", "2", "''", "security", "pay", "off", "in", "a", "single", "numeraire", "good", "plus", "k", "spot", "market", "in", "the", "standard", "goods", ",", "be", "also", "complete", "." ], [ "for", "we", "purpose", ",", "we", "need", "consider", "only", "the", "security", "market", "." ], [ "2by", "linearly", "independent", "security", ",", "we", "mean", "that", "the", "vector", "of", "payoff", "in", "all", "future", "state", "of", "these", "security", "be", "linearly", "independent", "." ], [ "Varian", "-lsb-", "34", "-rsb-", "show", "that", "a", "complete", "market", "can", "be", "construct", "use", "fewer", "than", "2n", "security", ",", "replace", "the", "miss", "security", "with", "option", "." ], [ "still", ",", "the", "number", "of", "linearly", "independent", "financial", "instrument", "--", "security", "plus", "option", "--", "must", "be", "2n", "to", "guarantee", "completeness", "." ], [ "the", "author", "show", "that", "in", "some", "case", "the", "market", "can", "be", "structure", "and", "``", "compacted", "''", "in", "analogy", "to", "bayesian", "network", "representation", "of", "joint", "probability", "distribution", "-lsb-", "23", "-rsb-", "." ], [ "they", "show", "that", ",", "if", "all", "agent", "'", "risk-neutral", "independency", "agree", "with", "the", "independency", "encode", "in", "the", "market", "structure", ",", "then", "the", "market", "be", "operationally", "complete", "." ], [ "for", "collection", "of", "agent", "all", "with", "constant", "absolute", "risk", "aversion", ",", "agreement", "on", "Markov", "independency", "be", "sufficient", "." ], [ "Bossaerts", ",", "Fine", ",", "and", "Ledyard", "-lsb-", "2", "-rsb-", "develop", "a", "mechanism", "they", "call", "combined-value", "trading", "-lrb-", "cvt", "-rrb-", "that", "allow", "trader", "to", "order", "a", "arbitrary", "portfolio", "of", "security", "in", "one", "bid", ",", "rather", "than", "break", "up", "the", "order", "into", "a", "sequence", "of", "bid", "on", "individual", "security", "." ], [ "if", "the", "portfolio", "order", "be", "accept", ",", "all", "of", "the", "imply", "trade", "on", "individual", "security", "be", "execute", "simultaneously", ",", "thus", "eliminate", "so-called", "execution", "risk", "that", "price", "will", "change", "in", "the", "middle", "of", "a", "plan", "sequence", "of", "order", "." ], [ "the", "author", "conduct", "laboratory", "experiment", "show", "that", ",", "even", "in", "thin", "market", "where", "ordinary", "sequential", "trading", "break", "down", ",", "cvt", "support", "efficient", "pricing", "and", "allocation", "." ], [ "note", "that", "CVT", "differ", "significantly", "from", "compound", "security", "trading", "." ], [ "CVT", "allow", "instantaneous", "trading", "of", "any", "linear", "combination", "of", "security", ",", "while", "compound", "security", "allow", "more", "expressive", "security", "that", "can", "encode", "nonlinear", "boolean", "combination", "of", "event", "." ], [ "for", "example", ",", "CVT", "may", "allow", "a", "agent", "to", "order", "security", "-lrb-", "a", "-rrb-", "and", "-lrb-", "b", "-rrb-", "in", "a", "bundle", "that", "pay", "off", "as", "a", "linear", "combination", "of", "a", "and", "b", ",3", "but", "CVT", "will", "not", "allow", "the", "construction", "of", "a", "compound", "security", "-lrb-", "a", "n", "b", "-rrb-", "that", "pay", "off", "$", "1", "iff", "both", "a", "and", "b", "occur", ",", "or", "a", "compound", "security", "-lrb-", "aib", "-rrb-", "." ], [ "combinatorial", "auction", "allow", "bidder", "to", "place", "distinct", "value", "on", "all", "possible", "bundle", "of", "goods", "rather", "than", "just", "on", "individual", "goods", "." ], [ "compound", "security", "differ", "from", "combinatorial", "auction", "in", "concept", "and", "complexity", "." ], [ "compound", "security", "allow", "bidder", "to", "construct", "a", "arbitrary", "bet", "on", "any", "of", "the", "22n", "possible", "compound", "event", "expressible", "as", "logical", "function", "of", "the", "n", "base", "event", ",", "conditional", "on", "any", "other", "of", "the", "22n", "compound", "event", "." ], [ "agent", "optimize", "base", "on", "they", "own", "subjective", "probability", "and", "risk", "attitude", "-lrb-", "and", "in", "general", ",", "they", "belief", "about", "other", "agent", "'", "belief", "and", "utility", ",", "ad", "infinitum", "-rrb-", "." ], [ "the", "central", "auctioneer", "problem", "be", "identify", "arbitrage", "opportunity", ":", "that", "be", ",", "to", "match", "bet", "together", "without", "take", "on", "any", "risk", "." ], [ "combinatorial", "auction", ",", "on", "the", "other", "hand", ",", "allow", "bid", "on", "any", "of", "the", "2n", "bundle", "of", "n", "goods", "." ], [ "uncertainty", "--", "and", "thus", "risk", "--", "be", "not", "consider", "." ], [ "the", "central", "auctioneer", "problem", "be", "to", "maximize", "social", "welfare", "." ], [ "also", "note", "that", "the", "problem", "lie", "in", "different", "complexity", "class", "." ], [ "while", "clear", "a", "combinatorial", "auction", "be", "polynomial", "in", "the", "divisible", "case", "and", "np-complete", "in", "the", "indivisible", "case", ",", "match", "in", "a", "compound", "security", "market", "be", "np-complete", "in", "the", "divisible", "case", "and", "ep2-complete", "in", "the", "indivisible", "case", "." ], [ "in", "fact", ",", "even", "the", "problem", "of", "decide", "whether", "two", "bid", "on", "compound", "security", "match", ",", "even", "in", "the", "divisible", "case", ",", "be", "np-complete", "-lrb-", "see", "Section", "5.2", "-rrb-", "." ], [ "there", "be", "a", "sense", "in", "which", "it", "be", "possible", "to", "translate", "we", "matching", "problem", "for", "compound", "security", "into", "a", "analogous", "problem", "for", "clear", "two-sided", "combinatorial", "exchange", "-lsb-", "31", "-rsb-", "of", "exponential", "size", "." ], [ "specifically", ",", "if", "we", "regard", "payoff", "in", "a", "particular", "state", "as", "a", "good", ",", "then", "compound", "security", "can", "be", "view", "as", "bundle", "of", "-lrb-", "fractional", "quantity", "of", "-rrb-", "such", "goods", "." ], [ "the", "material", "balance", "constraint", "face", "the", "combinatorial", "auctioneer", "correspond", "to", "a", "restriction", "that", "the", "compoundsecurity", "auctioneer", "be", "disallow", "from", "assume", "any", "risk", "." ], [ "note", "that", "this", "translation", "be", "not", "at", "all", "useful", "for", "address", "the", "compound-security", "matching", "problem", ",", "as", "the", "result", "combinatorial", "exchange", "have", "a", "exponential", "number", "of", "goods", "." ], [ "Hanson", "-lsb-", "15", "-rsb-", "develop", "a", "market", "mechanism", "call", "a", "market", "score", "rule", "that", "be", "especially", "well", "suit", "for", "allow", "bet", "on", "a", "combinatorial", "number", "of", "outcome", "." ], [ "the", "mechanism", "maintain", "a", "joint", "probability", "distribution", "over", "all", "2n", "state", ",", "either", "explicitly", "or", "implicitly", "use", "a", "bayesian", "network", "or", "other", "compact", "representation", "." ], [ "in", "the", "limit", "of", "a", "single", "trader", ",", "the", "mechanism", "behave", "like", "a", "score", "rule", ",", "suitable", "for", "polling", "a", "single", "agent", "for", "its", "probability", "distribution", "." ], [ "in", "the", "limit", "of", "many", "trader", ",", "it", "produce", "a", "combined", "estimate", "." ], [ "since", "the", "market", "essentially", "always", "have", "a", "complete", "set", "of", "post", "price", "for", "all", "possible", "outcome", ",", "the", "mechanism", "avoid", "the", "problem", "of", "thin", "market", ",", "or", "illiquidity", ",", "that", "necessarily", "plague", "any", "market", "contain", "a", "exponential", "number", "of", "alternative", "investment", "." ], [ "bid", "for", "compound", "security", "can", "be", "think", "of", "as", "expression", "of", "probabilistic", "inequality", ":", "for", "example", ",", "a", "bid", "to", "buy", "-lrb-", "a", "n", "b", "-rrb-", "at", "price", "0.3", "be", "a", "statement", "that", "the", "probability", "of", "a", "n", "b", "be", "greater", "than", "0.3", "." ], [ "if", "a", "set", "of", "single-unit", "bid", "correspond", "to", "a", "set", "of", "inconsistent", "probabilistic", "inequality", ",", "then", "there", "be", "a", "match", "." ], [ "we", "address", "these", "issue", "below", "." ] ]	[ "combinatori bet", "effect probabl assess", "arbitrari logic combin", "compound secur", "bayesian network", "combin-valu trade", "approxim algorithm", "payoff vector", "tractabl case", "base secur" ]
I-29	[ [ "Distributed", "Management", "of", "Flexible", "Times", "Schedules" ], [ "ABSTRACT" ], [ "We", "consider", "the", "problem", "of", "managing", "schedules", "in", "an", "uncertain", ",", "distributed", "environment", "." ], [ "We", "assume", "a", "team", "of", "collaborative", "agents", ",", "each", "responsible", "for", "executing", "a", "portion", "of", "a", "globally", "pre-established", "schedule", ",", "but", "none", "possessing", "a", "global", "view", "of", "either", "the", "problem", "or", "solution", "." ], [ "The", "goal", "is", "to", "maximize", "the", "joint", "quality", "obtained", "from", "the", "activities", "executed", "by", "all", "agents", ",", "given", "that", ",", "during", "execution", ",", "unexpected", "events", "will", "force", "changes", "to", "some", "prescribed", "activities", "and", "reduce", "the", "utility", "of", "executing", "others", "." ], [ "We", "describe", "an", "agent", "architecture", "for", "solving", "this", "problem", "that", "couples", "two", "basic", "mechanisms", ":", "-LRB-", "1", "-RRB-", "a", "``", "flexible", "times", "''", "representation", "of", "the", "agent", "'s", "schedule", "-LRB-", "using", "a", "Simple", "Temporal", "Network", "-RRB-", "and", "-LRB-", "2", "-RRB-", "an", "incremental", "rescheduling", "procedure", "." ], [ "The", "former", "hedges", "against", "temporal", "uncertainty", "by", "allowing", "execution", "to", "proceed", "from", "a", "set", "of", "feasible", "solutions", ",", "and", "the", "latter", "acts", "to", "revise", "the", "agent", "'s", "schedule", "when", "execution", "is", "forced", "outside", "of", "this", "set", "of", "solutions", "or", "when", "execution", "events", "reduce", "the", "expected", "value", "of", "this", "feasible", "solution", "set", "." ], [ "Basic", "coordination", "with", "other", "agents", "is", "achieved", "simply", "by", "communicating", "schedule", "changes", "to", "those", "agents", "with", "inter-dependent", "activities", "." ], [ "Then", ",", "as", "time", "permits", ",", "the", "core", "local", "problem", "solving", "infra-structure", "is", "used", "to", "drive", "an", "inter-agent", "option", "generation", "and", "query", "process", ",", "aimed", "at", "identifying", "opportunities", "for", "solution", "improvement", "through", "joint", "change", "." ], [ "Using", "a", "simulator", "to", "model", "the", "environment", ",", "we", "compare", "the", "performance", "of", "our", "multi-agent", "system", "with", "that", "of", "an", "expected", "optimal", "-LRB-", "but", "non-scalable", "-RRB-", "centralized", "MDP", "solver", "." ], [ "1", "." ], [ "INTRODUCTION" ], [ "The", "practical", "constraints", "of", "many", "application", "environments", "require", "distributed", "management", "of", "executing", "plans", "and", "schedules", "." ], [ "In", "this", "paper", ",", "we", "consider", "the", "problem", "of", "managing", "and", "executing", "schedules", "in", "an", "uncertain", "and", "distributed", "environment", "as", "defined", "by", "the", "DARPA", "Coordinators", "program", "." ], [ "We", "assume", "a", "team", "of", "collaborative", "agents", ",", "each", "responsible", "for", "executing", "a", "portion", "of", "a", "globally", "preestablished", "schedule", ",", "but", "none", "possessing", "a", "global", "view", "of", "either", "the", "problem", "or", "solution", "." ], [ "The", "team", "goal", "is", "to", "maximize", "the", "total", "quality", "of", "all", "activities", "executed", "by", "all", "agents", ",", "given", "that", "unexpected", "events", "will", "force", "changes", "to", "pre-scheduled", "activities", "and", "alter", "the", "utility", "of", "executing", "others", "as", "execution", "unfolds", "." ], [ "To", "provide", "a", "basis", "for", "distributed", "coordination", ",", "each", "agent", "is", "aware", "of", "dependencies", "between", "its", "scheduled", "activities", "and", "those", "of", "other", "agents", "." ], [ "Each", "agent", "is", "also", "given", "a", "pre-computed", "set", "of", "local", "contingency", "-LRB-", "fall-back", "-RRB-", "options", "." ], [ "Central", "to", "our", "approach", "to", "solving", "this", "multi-agent", "problem", "is", "an", "incremental", "flexible-times", "scheduling", "framework", "." ], [ "In", "a", "flexible-times", "representation", "of", "an", "agent", "'s", "schedule", ",", "the", "execution", "intervals", "associated", "with", "scheduled", "activities", "are", "not", "fixed", ",", "but", "instead", "are", "allowed", "to", "float", "within", "imposed", "time", "and", "activity", "sequencing", "constraints", "." ], [ "However", "their", "use", "in", "distributed", "problem", "solving", "settings", "has", "been", "quite", "sparse", "-LRB-", "-LSB-", "7", "-RSB-", "is", "one", "exception", "-RRB-", ",", "and", "prior", "approaches", "to", "multi-agent", "scheduling", "-LRB-", "e.g.", ",", "-LSB-", "6", ",", "13", ",", "5", "-RSB-", "-RRB-", "have", "generally", "operated", "with", "fixed-times", "representations", "of", "agent", "schedules", "." ], [ "We", "define", "an", "agent", "architecture", "centered", "around", "incremental", "management", "of", "a", "flexible", "times", "schedule", "." ], [ "Local", "change", "is", "ac" ], [ "Figure", "1", ":", "A", "two", "agent", "C", "TAEMS", "problem", "." ], [ "complished", "by", "an", "incremental", "scheduler", ",", "designed", "to", "maximize", "quality", "while", "attempting", "to", "minimize", "schedule", "change", "." ], [ "To", "this", "schedule", "management", "infra-structure", ",", "we", "add", "two", "mechanisms", "for", "multi-agent", "coordination", "." ], [ "Basic", "coordination", "with", "other", "agents", "is", "achieved", "by", "simple", "communication", "of", "local", "schedule", "changes", "to", "other", "agents", "with", "interdependent", "activities", "." ], [ "Layered", "over", "this", "is", "a", "non-local", "option", "generation", "and", "evaluation", "process", "-LRB-", "similar", "in", "some", "respects", "to", "-LSB-", "5", "-RSB-", "-RRB-", ",", "aimed", "at", "identification", "of", "opportunities", "for", "global", "improvement", "through", "joint", "changes", "to", "the", "schedules", "of", "multiple", "agents", "." ], [ "We", "begin", "by", "briefly", "summarizing", "the", "general", "distributed", "scheduling", "problem", "of", "interest", "in", "our", "work", "." ], [ "Next", ",", "we", "introduce", "the", "agent", "architecture", "we", "have", "developed", "to", "solve", "this", "problem", "and", "sketch", "its", "operation", "." ], [ "In", "the", "following", "sections", ",", "we", "describe", "the", "components", "of", "the", "architecture", "in", "more", "detail", ",", "considering", "in", "turn", "issues", "relating", "to", "executing", "agent", "schedules", ",", "incrementally", "revising", "agent", "schedules", "and", "coordinating", "schedule", "changes", "among", "multiple", "agents", "." ], [ "We", "then", "give", "some", "experimental", "results", "to", "indicate", "current", "system", "performance", "." ], [ "Finally", "we", "conclude", "with", "a", "brief", "discussion", "of", "current", "research", "plans", "." ], [ "8", "." ], [ "STATUS", "AND", "DIRECTIONS" ], [ "Our", "current", "research", "efforts", "are", "aimed", "at", "extending", "the", "capabilities", "of", "the", "Year", "1", "agent", "and", "scaling", "up", "to", "significantly", "larger", "problems", "." ], [ "Year", "2", "programmatic", "evaluation", "goals", "call", "for", "solving", "problems", "on", "the", "order", "of", "100", "agents", "and", "10,000", "methods", "." ], [ "This", "scale", "places", "much", "higher", "computational", "demands", "on", "all", "of", "the", "agent", "'s", "components", "." ], [ "We", "have", "recently", "completed", "a", "re-implementation", "of", "the", "prototype", "agent", "designed", "to", "address", "some", "recognized", "performance", "issues", "." ], [ "In", "addition", "to", "verifying", "that", "the", "performance", "on", "Year", "1", "problems", "is", "matched", "or", "exceeded", ",", "we", "have", "recently", "run", "some", "successful", "tests", "with", "the", "agent", "on", "a", "few", "100", "agent", "problems", "." ], [ "To", "fully", "address", "various", "scale", "up", "issues", ",", "we", "are", "investigating", "a", "number", "of", "more", "advanced", "coordination", "mechanisms", "." ], [ "To", "provide", "more", "global", "perspective", "to", "local", "scheduling", "decisions", ",", "we", "are", "introducing", "mechanisms", "for", "computing", ",", "communicating", "and", "using", "estimates", "of", "the", "non-local", "impact", "of", "remote", "nodes", "." ], [ "To", "better", "address", "the", "problem", "of", "establishing", "inter-agent", "synchronization", "points", ",", "we", "expanding", "the", "use", "of", "task", "owners", "and", "qaf-specifc", "protocols", "as", "a", "means", "for", "directing", "coordination", "activity", "." ], [ "Finally", ",", "we", "plan", "to", "explore", "the", "use", "of", "more", "advanced", "STN-driven", "coordination", "mechanisms", ",", "including", "the", "use", "of", "temporal", "decoupling", "-LSB-", "7", "-RSB-", "to", "insulate", "the", "actions", "of", "inter-dependent", "agents", "and", "the", "introduction", "of", "probability", "sensitive", "contingency", "schedules", "." ] ]	[ [ "VBN", "NN", "IN", "NNP", "NNP", "NNPS" ], [ "NN" ], [ "PRP", "VBP", "DT", "NN", "IN", "VBG", "NNS", "IN", "DT", "JJ", ",", "VBN", "NN", "." ], [ "PRP", "VBP", "DT", "NN", "IN", "JJ", "NNS", ",", "DT", "JJ", "IN", "VBG", "DT", "NN", "IN", "DT", "RB", "JJ", "NN", ",", "CC", "NN", "VBG", "DT", "JJ", "NN", "IN", "CC", "DT", "NN", "CC", "NN", "." ], [ "DT", "NN", "VBZ", "TO", "VB", "DT", "JJ", "NN", "VBN", "IN", "DT", "NNS", "VBN", "IN", "DT", "NNS", ",", "VBN", "IN", ",", "IN", "NN", ",", "JJ", "NNS", "MD", "VB", "NNS", "TO", "DT", "VBN", "NNS", "CC", "VB", "DT", "NN", "IN", "VBG", "NNS", "." ], [ "PRP", "VBP", "DT", "NN", "NN", "IN", "VBG", "DT", "NN", "WDT", "VBZ", "CD", "JJ", "NNS", ":", "-LRB-", "LS", "-RRB-", "DT", "``", "JJ", "NNS", "''", "NN", "IN", "DT", "NN", "POS", "NN", "-LRB-", "VBG", "DT", "JJ", "JJ", "NNP", "-RRB-", "CC", "-LRB-", "LS", "-RRB-", "DT", "JJ", "NN", "NN", "." ], [ "DT", "JJ", "NNS", "IN", "JJ", "NN", "IN", "VBG", "NN", "TO", "VB", "IN", "DT", "NN", "IN", "JJ", "NNS", ",", "CC", "DT", "JJ", "NNS", "TO", "VB", "DT", "NN", "POS", "NN", "WRB", "NN", "VBZ", "VBN", "IN", "IN", "DT", "NN", "IN", "NNS", "CC", "WRB", "NN", "NNS", "VB", "DT", "VBN", "NN", "IN", "DT", "JJ", "NN", "NN", "." ], [ "JJ", "NN", "IN", "JJ", "NNS", "VBZ", "VBN", "RB", "IN", "VBG", "NN", "NNS", "TO", "DT", "NNS", "IN", "JJ", "NNS", "." ], [ "RB", ",", "IN", "NN", "NNS", ",", "DT", "NN", "JJ", "NN", "VBG", "NN", "VBZ", "VBN", "TO", "VB", "DT", "JJ", "NN", "NN", "CC", "NN", "NN", ",", "VBN", "IN", "VBG", "NNS", "IN", "NN", "NN", "IN", "JJ", "NN", "." ], [ "VBG", "DT", "NN", "TO", "VB", "DT", "NN", ",", "PRP", "VBP", "DT", "NN", "IN", "PRP$", "JJ", "NN", "IN", "DT", "IN", "DT", "VBN", "JJ", "-LRB-", "CC", "JJ", "-RRB-", "VBD", "NN", "NN", "." ], [ "LS", "." ], [ "NN" ], [ "DT", "JJ", "NNS", "IN", "JJ", "NN", "NNS", "VBP", "VBN", "NN", "IN", "VBG", "NNS", "CC", "NNS", "." ], [ "IN", "DT", "NN", ",", "PRP", "VBP", "DT", "NN", "IN", "NN", "CC", "VBG", "NNS", "IN", "DT", "JJ", "CC", "VBN", "NN", "IN", "VBN", "IN", "DT", "NNP", "NNPS", "NN", "." ], [ "PRP", "VBP", "DT", "NN", "IN", "JJ", "NNS", ",", "DT", "JJ", "IN", "VBG", "DT", "NN", "IN", "DT", "RB", "VBN", "NN", ",", "CC", "NN", "VBG", "DT", "JJ", "NN", "IN", "CC", "DT", "NN", "CC", "NN", "." ], [ "DT", "NN", "NN", "VBZ", "TO", "VB", "DT", "JJ", "NN", "IN", "DT", "NNS", "VBN", "IN", "DT", "NNS", ",", "VBN", "IN", "JJ", "NNS", "MD", "VB", "NNS", "TO", "JJ", "NNS", "CC", "VB", "DT", "NN", "IN", "VBG", "NNS", "IN", "NN", "VBZ", "." ], [ "TO", "VB", "DT", "NN", "IN", "VBN", "NN", ",", "DT", "NN", "VBZ", "JJ", "IN", "NNS", "IN", "PRP$", "JJ", "NNS", "CC", "DT", "IN", "JJ", "NNS", "." ], [ "DT", "NN", "VBZ", "RB", "VBN", "DT", "JJ", "NN", "IN", "JJ", "NN", "-LRB-", "JJ", "-RRB-", "NNS", "." ], [ "NNP", "TO", "PRP$", "NN", "TO", "VBG", "DT", "JJ", "NN", "VBZ", "DT", "JJ", "NNS", "NN", "NN", "." ], [ "IN", "DT", "JJ", "NN", "IN", "DT", "NN", "POS", "NN", ",", "DT", "NN", "NNS", "VBN", "IN", "VBN", "NNS", "VBP", "RB", "VBN", ",", "CC", "RB", "VBP", "VBN", "TO", "VB", "IN", "VBN", "NN", "CC", "NN", "NN", "NNS", "." ], [ "RB", "PRP$", "NN", "IN", "VBN", "NN", "VBG", "NNS", "VBZ", "VBN", "RB", "JJ", "-LRB-", "-LRB-", "CD", "-RRB-", "VBZ", "CD", "NN", "-RRB-", ",", "CC", "RB", "VBZ", "TO", "JJ", "NN", "-LRB-", "FW", ",", "-LRB-", "CD", ",", "CD", ",", "CD", "-RRB-", "-RRB-", "VBP", "RB", "VBN", "IN", "JJ", "NNS", "IN", "NN", "NNS", "." ], [ "PRP", "VBP", "DT", "NN", "NN", "VBN", "IN", "JJ", "NN", "IN", "DT", "JJ", "NNS", "NN", "." ], [ "JJ", "NN", "VBZ", "IN" ], [ "NNP", "CD", ":", "DT", "CD", "NN", "NN", "NN", "NN", "." ], [ "VBN", "IN", "DT", "JJ", "NN", ",", "VBN", "TO", "VB", "NN", "IN", "VBG", "TO", "VB", "NN", "NN", "." ], [ "TO", "DT", "NN", "NN", "NN", ",", "PRP", "VBP", "CD", "NNS", "IN", "JJ", "NN", "." ], [ "JJ", "NN", "IN", "JJ", "NNS", "VBZ", "VBN", "IN", "JJ", "NN", "IN", "JJ", "NN", "NNS", "TO", "JJ", "NNS", "IN", "JJ", "NNS", "." ], [ "VBN", "IN", "DT", "VBZ", "DT", "JJ", "NN", "NN", "CC", "NN", "NN", "-LRB-", "JJ", "IN", "DT", "NNS", "TO", "-LRB-", "CD", "-RRB-", "-RRB-", ",", "VBN", "IN", "NN", "IN", "NNS", "IN", "JJ", "NN", "IN", "JJ", "NNS", "TO", "DT", "NNS", "IN", "JJ", "NNS", "." ], [ "PRP", "VBP", "IN", "NN", "VBG", "DT", "JJ", "VBN", "NN", "NN", "IN", "NN", "IN", "PRP$", "NN", "." ], [ "RB", ",", "PRP", "VBP", "DT", "NN", "NN", "PRP", "VBP", "VBN", "TO", "VB", "DT", "NN", "CC", "NN", "PRP$", "NN", "." ], [ "IN", "DT", "VBG", "NNS", ",", "PRP", "VBP", "DT", "NNS", "IN", "DT", "NN", "IN", "RBR", "NN", ",", "VBG", "IN", "NN", "NNS", "VBG", "TO", "VBG", "NN", "NNS", ",", "RB", "VBG", "NN", "NNS", "CC", "VBG", "NN", "NNS", "IN", "JJ", "NNS", "." ], [ "PRP", "RB", "VBP", "DT", "JJ", "NNS", "TO", "VB", "JJ", "NN", "NN", "." ], [ "RB", "PRP", "VBP", "IN", "DT", "JJ", "NN", "IN", "JJ", "NN", "NNS", "." ], [ "CD", "." ], [ "NN", "CC", "NNS" ], [ "PRP$", "JJ", "NN", "NNS", "VBP", "VBN", "IN", "VBG", "DT", "NNS", "IN", "DT", "NN", "CD", "NN", "CC", "VBG", "RP", "TO", "RB", "JJR", "NNS", "." ], [ "NN", "CD", "JJ", "NN", "NNS", "VBP", "IN", "VBG", "NNS", "IN", "DT", "NN", "IN", "CD", "NNS", "CC", "CD", "NNS", "." ], [ "DT", "NN", "VBZ", "RB", "JJR", "JJ", "NNS", "IN", "DT", "IN", "DT", "NN", "POS", "NNS", "." ], [ "PRP", "VBP", "RB", "VBN", "DT", "NN", "IN", "DT", "NN", "NN", "VBN", "TO", "VB", "DT", "VBN", "NN", "NNS", "." ], [ "IN", "NN", "TO", "VBG", "IN", "DT", "NN", "IN", "NN", "CD", "NNS", "VBZ", "VBN", "CC", "VBN", ",", "PRP", "VBP", "RB", "VBN", "DT", "JJ", "NNS", "IN", "DT", "NN", "IN", "DT", "JJ", "CD", "NN", "NNS", "." ], [ "TO", "RB", "VB", "JJ", "NN", "IN", "NNS", ",", "PRP", "VBP", "VBG", "DT", "NN", "IN", "JJR", "JJ", "NN", "NNS", "." ], [ "TO", "VB", "JJR", "JJ", "NN", "TO", "JJ", "NN", "NNS", ",", "PRP", "VBP", "VBG", "NNS", "IN", "NN", ",", "VBG", "CC", "VBG", "NNS", "IN", "DT", "JJ", "NN", "IN", "JJ", "NNS", "." ], [ "TO", "RBR", "VB", "DT", "NN", "IN", "VBG", "JJ", "NN", "NNS", ",", "PRP", "VBG", "DT", "NN", "IN", "NN", "NNS", "CC", "JJ", "NNS", "IN", "DT", "NN", "IN", "VBG", "NN", "NN", "." ], [ "RB", ",", "PRP", "VBP", "TO", "VB", "DT", "NN", "IN", "JJR", "JJ", "JJ", "NN", "NNS", ",", "VBG", "DT", "NN", "IN", "JJ", "NN", "-LRB-", "CD", "-RRB-", "TO", "VB", "DT", "NNS", "IN", "JJ", "NNS", "CC", "DT", "NN", "IN", "NN", "JJ", "NN", "NNS", "." ] ]	[ [ "distribute", "management", "of", "Flexible", "Times", "Schedules" ], [ "abstract" ], [ "we", "consider", "the", "problem", "of", "manage", "schedule", "in", "a", "uncertain", ",", "distribute", "environment", "." ], [ "we", "assume", "a", "team", "of", "collaborative", "agent", ",", "each", "responsible", "for", "execute", "a", "portion", "of", "a", "globally", "pre-established", "schedule", ",", "but", "none", "possess", "a", "global", "view", "of", "either", "the", "problem", "or", "solution", "." ], [ "the", "goal", "be", "to", "maximize", "the", "joint", "quality", "obtain", "from", "the", "activity", "execute", "by", "all", "agent", ",", "give", "that", ",", "during", "execution", ",", "unexpected", "event", "will", "force", "change", "to", "some", "prescribe", "activity", "and", "reduce", "the", "utility", "of", "execute", "other", "." ], [ "we", "describe", "a", "agent", "architecture", "for", "solve", "this", "problem", "that", "couple", "two", "basic", "mechanism", ":", "-lrb-", "1", "-rrb-", "a", "``", "flexible", "time", "''", "representation", "of", "the", "agent", "'s", "schedule", "-lrb-", "use", "a", "simple", "temporal", "Network", "-rrb-", "and", "-lrb-", "2", "-rrb-", "a", "incremental", "rescheduling", "procedure", "." ], [ "the", "former", "hedge", "against", "temporal", "uncertainty", "by", "allow", "execution", "to", "proceed", "from", "a", "set", "of", "feasible", "solution", ",", "and", "the", "latter", "act", "to", "revise", "the", "agent", "'s", "schedule", "when", "execution", "be", "force", "outside", "of", "this", "set", "of", "solution", "or", "when", "execution", "event", "reduce", "the", "expect", "value", "of", "this", "feasible", "solution", "set", "." ], [ "basic", "coordination", "with", "other", "agent", "be", "achieve", "simply", "by", "communicate", "schedule", "change", "to", "those", "agent", "with", "inter-dependent", "activity", "." ], [ "then", ",", "as", "time", "permit", ",", "the", "core", "local", "problem", "solve", "infra-structure", "be", "use", "to", "drive", "a", "inter-agent", "option", "generation", "and", "query", "process", ",", "aim", "at", "identify", "opportunity", "for", "solution", "improvement", "through", "joint", "change", "." ], [ "use", "a", "simulator", "to", "model", "the", "environment", ",", "we", "compare", "the", "performance", "of", "we", "multi-agent", "system", "with", "that", "of", "a", "expect", "optimal", "-lrb-", "but", "non-scalable", "-rrb-", "centralize", "mdp", "solver", "." ], [ "1", "." ], [ "introduction" ], [ "the", "practical", "constraint", "of", "many", "application", "environment", "require", "distribute", "management", "of", "execute", "plan", "and", "schedule", "." ], [ "in", "this", "paper", ",", "we", "consider", "the", "problem", "of", "managing", "and", "execute", "schedule", "in", "a", "uncertain", "and", "distribute", "environment", "as", "define", "by", "the", "DARPA", "Coordinators", "program", "." ], [ "we", "assume", "a", "team", "of", "collaborative", "agent", ",", "each", "responsible", "for", "execute", "a", "portion", "of", "a", "globally", "preestablish", "schedule", ",", "but", "none", "possess", "a", "global", "view", "of", "either", "the", "problem", "or", "solution", "." ], [ "the", "team", "goal", "be", "to", "maximize", "the", "total", "quality", "of", "all", "activity", "execute", "by", "all", "agent", ",", "give", "that", "unexpected", "event", "will", "force", "change", "to", "pre-scheduled", "activity", "and", "alter", "the", "utility", "of", "execute", "other", "as", "execution", "unfold", "." ], [ "to", "provide", "a", "basis", "for", "distribute", "coordination", ",", "each", "agent", "be", "aware", "of", "dependency", "between", "its", "scheduled", "activity", "and", "those", "of", "other", "agent", "." ], [ "each", "agent", "be", "also", "give", "a", "pre-computed", "set", "of", "local", "contingency", "-lrb-", "fall-back", "-rrb-", "option", "." ], [ "Central", "to", "we", "approach", "to", "solve", "this", "multi-agent", "problem", "be", "a", "incremental", "flexible-time", "scheduling", "framework", "." ], [ "in", "a", "flexible-times", "representation", "of", "a", "agent", "'s", "schedule", ",", "the", "execution", "interval", "associate", "with", "schedule", "activity", "be", "not", "fix", ",", "but", "instead", "be", "allow", "to", "float", "within", "impose", "time", "and", "activity", "sequencing", "constraint", "." ], [ "however", "they", "use", "in", "distribute", "problem", "solve", "setting", "have", "be", "quite", "sparse", "-lrb-", "-lsb-", "7", "-rsb-", "be", "one", "exception", "-rrb-", ",", "and", "prior", "approach", "to", "multi-agent", "scheduling", "-lrb-", "e.g.", ",", "-lsb-", "6", ",", "13", ",", "5", "-rsb-", "-rrb-", "have", "generally", "operate", "with", "fixed-times", "representation", "of", "agent", "schedule", "." ], [ "we", "define", "a", "agent", "architecture", "center", "around", "incremental", "management", "of", "a", "flexible", "time", "schedule", "." ], [ "local", "change", "be", "ac" ], [ "Figure", "1", ":", "a", "two", "agent", "c", "taems", "problem", "." ], [ "complish", "by", "a", "incremental", "scheduler", ",", "design", "to", "maximize", "quality", "while", "attempt", "to", "minimize", "schedule", "change", "." ], [ "to", "this", "schedule", "management", "infra-structure", ",", "we", "add", "two", "mechanism", "for", "multi-agent", "coordination", "." ], [ "basic", "coordination", "with", "other", "agent", "be", "achieve", "by", "simple", "communication", "of", "local", "schedule", "change", "to", "other", "agent", "with", "interdependent", "activity", "." ], [ "layer", "over", "this", "be", "a", "non-local", "option", "generation", "and", "evaluation", "process", "-lrb-", "similar", "in", "some", "respects", "to", "-lsb-", "5", "-rsb-", "-rrb-", ",", "aim", "at", "identification", "of", "opportunity", "for", "global", "improvement", "through", "joint", "change", "to", "the", "schedule", "of", "multiple", "agent", "." ], [ "we", "begin", "by", "briefly", "summarize", "the", "general", "distribute", "scheduling", "problem", "of", "interest", "in", "we", "work", "." ], [ "next", ",", "we", "introduce", "the", "agent", "architecture", "we", "have", "develop", "to", "solve", "this", "problem", "and", "sketch", "its", "operation", "." ], [ "in", "the", "follow", "section", ",", "we", "describe", "the", "component", "of", "the", "architecture", "in", "more", "detail", ",", "consider", "in", "turn", "issue", "relate", "to", "execute", "agent", "schedule", ",", "incrementally", "revise", "agent", "schedule", "and", "coordinate", "schedule", "change", "among", "multiple", "agent", "." ], [ "we", "then", "give", "some", "experimental", "result", "to", "indicate", "current", "system", "performance", "." ], [ "finally", "we", "conclude", "with", "a", "brief", "discussion", "of", "current", "research", "plan", "." ], [ "8", "." ], [ "status", "and", "direction" ], [ "we", "current", "research", "effort", "be", "aim", "at", "extend", "the", "capability", "of", "the", "year", "1", "agent", "and", "scale", "up", "to", "significantly", "larger", "problem", "." ], [ "year", "2", "programmatic", "evaluation", "goal", "call", "for", "solve", "problem", "on", "the", "order", "of", "100", "agent", "and", "10,000", "method", "." ], [ "this", "scale", "place", "much", "higher", "computational", "demand", "on", "all", "of", "the", "agent", "'s", "component", "." ], [ "we", "have", "recently", "complete", "a", "re-implementation", "of", "the", "prototype", "agent", "design", "to", "address", "some", "recognize", "performance", "issue", "." ], [ "in", "addition", "to", "verify", "that", "the", "performance", "on", "year", "1", "problem", "be", "match", "or", "exceed", ",", "we", "have", "recently", "run", "some", "successful", "test", "with", "the", "agent", "on", "a", "few", "100", "agent", "problem", "." ], [ "to", "fully", "address", "various", "scale", "up", "issue", ",", "we", "be", "investigate", "a", "number", "of", "more", "advanced", "coordination", "mechanism", "." ], [ "to", "provide", "more", "global", "perspective", "to", "local", "scheduling", "decision", ",", "we", "be", "introduce", "mechanism", "for", "computing", ",", "communicate", "and", "use", "estimate", "of", "the", "non-local", "impact", "of", "remote", "node", "." ], [ "to", "better", "address", "the", "problem", "of", "establish", "inter-agent", "synchronization", "point", ",", "we", "expand", "the", "use", "of", "task", "owner", "and", "qaf-specifc", "protocol", "as", "a", "means", "for", "direct", "coordination", "activity", "." ], [ "finally", ",", "we", "plan", "to", "explore", "the", "use", "of", "more", "advanced", "stn-driven", "coordination", "mechanism", ",", "include", "the", "use", "of", "temporal", "decoupling", "-lsb-", "7", "-rsb-", "to", "insulate", "the", "action", "of", "inter-dependent", "agent", "and", "the", "introduction", "of", "probability", "sensitive", "contingency", "schedule", "." ] ]	[ "manag schedul", "distribut environ", "agent architectur", "schedul", "inter-depend activ", "geograph separ", "flexibl time", "central plan", "manag", "schedul-execut", "slack", "shortest path algorithm", "activ alloc", "conflict-driven approach", "optimist synchron", "inter-agent coordin", "perform" ]

C-6

[ [ "Design", "and", "Implementation", "of", "a", "Distributed", "Content", "Management", "System" ], [ "ABSTRACT" ], [ "The", "convergence", "of", "advances", "in", "storage", ",", "encoding", ",", "and", "networking", "technologies", "has", "brought", "us", "to", "an", "environment", "where", "huge", "amounts", "of", "continuous", "media", "content", "is", "routinely", "stored", "and", "exchanged", "between", "network", "enabled", "devices", "." ], [ "Keeping", "track", "of", "-LRB-", "or", "managing", "-RRB-", "such", "content", "remains", "challenging", "due", "to", "the", "sheer", "volume", "of", "data", "." ], [ "Storing", "``", "live", "''", "continuous", "media", "-LRB-", "such", "as", "TV", "or", "radio", "content", "-RRB-", "adds", "to", "the", "complexity", "in", "that", "this", "content", "has", "no", "well", "defined", "start", "or", "end", "and", "is", "therefore", "cumbersome", "to", "deal", "with", "." ], [ "Networked", "storage", "allows", "content", "that", "is", "logically", "viewed", "as", "part", "of", "the", "same", "collection", "to", "in", "fact", "be", "distributed", "across", "a", "network", ",", "making", "the", "task", "of", "content", "management", "all", "but", "impossible", "to", "deal", "with", "without", "a", "content", "management", "system", "." ], [ "In", "this", "paper", "we", "present", "the", "design", "and", "implementation", "of", "the", "Spectrum", "content", "management", "system", ",", "which", "deals", "with", "rich", "media", "content", "effectively", "in", "this", "environment", "." ], [ "Spectrum", "has", "a", "modular", "architecture", "that", "allows", "its", "application", "to", "both", "stand-alone", "and", "various", "networked", "scenarios", "." ], [ "A", "unique", "aspect", "of", "Spectrum", "is", "that", "it", "requires", "one", "-LRB-", "or", "more", "-RRB-", "retention", "policies", "to", "apply", "to", "every", "piece", "of", "content", "that", "is", "stored", "in", "the", "system", "." ], [ "This", "means", "that", "there", "are", "no", "eviction", "policies", "." ], [ "Content", "that", "no", "longer", "has", "a", "retention", "policy", "applied", "to", "it", "is", "simply", "removed", "from", "the", "system", "." ], [ "Different", "retention", "policies", "can", "easily", "be", "applied", "to", "the", "same", "content", "thus", "naturally", "facilitating", "sharing", "without", "duplication", "." ], [ "This", "approach", "also", "allows", "Spectrum", "to", "easily", "apply", "time", "based", "policies", "which", "are", "basic", "building", "blocks", "required", "to", "deal", "with", "the", "storage", "of", "live", "continuous", "media", ",", "to", "content", "." ], [ "We", "not", "only", "describe", "the", "details", "of", "the", "Spectrum", "architecture", "but", "also", "give", "typical", "use", "cases", "." ], [ "1", "." ], [ "INTRODUCTION" ], [ "Manipulating", "and", "managing", "content", "is", "and", "has", "always", "been", "one", "of", "the", "primary", "functions", "of", "a", "computer", "." ], [ "Initial", "computing", "applications", "include", "text", "formatters", "and", "program", "compilers", "." ], [ "Content", "was", "initially", "managed", "by", "explicit", "user", "interaction", "through", "the", "use", "of", "files", "and", "filesystems", "." ], [ "As", "technology", "has", "advanced", ",", "both", "the", "types", "of", "content", "and", "the", "way", "people", "wish", "to", "use", "it", "have", "greatly", "changed", "." ], [ "New", "content", "types", "such", "as", "continuous", "multimedia", "streams", "have", "become", "commonplace", "due", "to", "the", "convergence", "of", "advances", "in", "storage", ",", "encoding", ",", "and", "networking", "technologies", "." ], [ "Another", "example", "is", "the", "combination", "of", "encoding", "and", "broadband", "networking", "technology", "." ], [ "This", "combination", "has", "allowed", "users", "to", "access", "and", "share", "multimedia", "content", "in", "both", "local", "and", "remote", "area", "networks", "with", "the", "network", "itself", "acting", "as", "a", "huge", "data", "repository", "." ], [ "The", "proliferation", "of", "high", "quality", "content", "enabled", "by", "these", "advances", "in", "storage", ",", "encoding", ",", "and", "networking", "technology", "creates", "the", "need", "for", "new", "ways", "to", "manipulate", "and", "manage", "the", "data", "." ], [ "The", "focus", "of", "our", "work", "is", "on", "the", "storage", "of", "media", "rich", "content", "and", "in", "particular", "the", "storage", "of", "continuous", "media", "content", "in", "either", "pre-packaged", "or", "``", "live", "''", "forms", "." ], [ "•", "While", "true", "for", "all", "types", "of", "content", "the", "storage", "of", "continuous", "media", "content", "is", "especially", "problematic", "." ], [ "First", "continuous", "media", "content", "is", "still", "very", "demanding", "in", "terms", "of", "storage", "resources", "which", "means", "that", "a", "policy-less", "approach", "to", "storing", "it", "will", "not", "work", "for", "all", "but", "the", "smallest", "systems", "." ], [ "Second", ",", "the", "storing", "of", "``", "live", "''", "content", "such", "as", "TV", "or", "radio", "is", "inherently", "problematic", "as", "these", "signals", "are", "continuous", "streams", "with", "no", "endpoints", "." ], [ "This", "means", "that", "before", "one", "can", "even", "think", "about", "managing", "such", "content", "there", "is", "a", "need", "to", "abstract", "it", "into", "something", "that", "could", "be", "manipulated", "and", "managed", "." ], [ "." ], [ "When", "dealing", "with", "stored", "continuous", "media", "there", "is", "a", "need", "to", "manage", "such", "content", "at", "both", "a", "fine-grained", "as", "well", "as", "an", "aggregate", "level", "." ], [ "For", "example", ",", "an", "individual", "PVR", "user", "wanting", "to", "keep", "only", "the", "highlights", "of", "a", "particular", "sporting", "event", "should", "not", "be", "required", "to", "have", "to", "store", "the", "content", "pertaining", "to", "the", "complete", "event", "." ], [ "." ], [ "As", "indicated", "above", ",", "trying", "to", "keep", "track", "of", "content", "on", "a", "standalone", "system", "without", "a", "content", "management", "system", "is", "very", "difficult", "." ], [ "However", ",", "when", "the", "actual", "storage", "devices", "are", "distributed", "across", "a", "network", "the", "task", "of", "keeping", "track", "of", "content", "is", "almost", "impossible", "." ], [ "This", "scenario", "is", "increasingly", "common", "in", "network", "based", "content", "distribution", "systems", "and", "is", "likely", "to", "also", "become", "important", "in", "home-networking", "scenarios", "." ], [ "It", "would", "seem", "clear", "then", "that", "a", "content", "management", "system", "that", "can", "efficiently", "handle", "media", "rich", "content", "while", "also", "exploiting", "the", "networked", "capability", "of", "storage", "devices", "is", "needed", "." ], [ "This", "system", "should", "allow", "efficient", "storage", "of", "and", "access", "to", "content", "across", "heterogeneous", "network", "storage", "devices", "according", "to", "user", "preferences", "." ], [ "The", "content", "management", "system", "should", "translate", "user", "preferences", "into", "appropriate", "low-level", "storage", "policies", "and", "should", "allow", "those", "preferences", "to", "be", "expressed", "at", "a", "fine", "level", "of", "granularity", "-LRB-", "while", "not", "requiring", "it", "in", "general", "-RRB-", "." ], [ "The", "content", "management", "system", "should", "allow", "the", "user", "to", "manipulate", "and", "reason", "about", "-LRB-", "i.e.", "change", "the", "storage", "policy", "associated", "with", "-RRB-", "the", "storage", "of", "-LRB-", "parts", "of", "-RRB-", "continuous", "media", "content", "." ], [ "Addressing", "this", "distributed", "content", "management", "problem", "is", "difficult", "due", "to", "the", "number", "of", "requirements", "placed", "on", "the", "system", "." ], [ "For", "example", ":", "." ], [ "The", "content", "management", "system", "must", "operate", "on", "a", "large", "number", "of", "heterogeneous", "systems", "." ], [ "In", "some", "cases", "the", "system", "may", "be", "managing", "content", "stored", "on", "a", "local", "filesystem", ",", "while", "in", "others", "the", "content", "may", "be", "stored", "on", "a", "separate", "network", "storage", "appliance", "." ], [ "The", "content", "manager", "may", "be", "responsible", "for", "implementing", "the", "policies", "it", "uses", "to", "reference", "content", "or", "that", "role", "may", "be", "delegated", "to", "a", "separate", "computer", "." ], [ "A", "application", "program", "interface", "-LRB-", "API", "-RRB-", "and", "associated", "network", "protocols", "are", "needed", "in", "order", "for", "the", "content", "management", "system", "to", "provide", "a", "uniform", "interface", "." ], [ "." ], [ "The", "content", "management", "system", "should", "be", "flexible", "and", "be", "able", "to", "handle", "differing", "requirements", "for", "content", "management", "policies", "." ], [ "These", "policies", "reflect", "what", "content", "should", "be", "obtained", ",", "when", "it", "should", "be", "fetched", ",", "how", "long", "it", "should", "be", "retained", ",", "and", "under", "what", "circumstances", "it", "should", "be", "discarded", "." ], [ "This", "means", "that", "the", "content", "management", "system", "should", "allow", "multiple", "applications", "to", "reference", "content", "with", "a", "rich", "set", "of", "policies", "and", "that", "it", "should", "all", "work", "together", "seamlessly", "." ], [ "." ], [ "The", "content", "management", "system", "needs", "to", "be", "able", "to", "monitor", "references", "for", "content", "and", "use", "that", "information", "to", "place", "content", "in", "the", "right", "location", "in", "the", "network", "for", "efficient", "application", "access", "." ], [ "." ], [ "The", "content", "management", "system", "must", "handle", "the", "interaction", "between", "implicit", "and", "explicit", "population", "of", "content", "at", "the", "network", "edge", "." ], [ "." ], [ "The", "content", "system", "must", "be", "able", "to", "efficiently", "manage", "large", "sets", "of", "content", ",", "including", "continuous", "streams", "." ], [ "It", "needs", "to", "be", "able", "to", "package", "this", "content", "in", "such", "a", "way", "that", "it", "is", "convenient", "for", "users", "to", "access", "." ], [ "To", "address", "these", "issues", "we", "have", "designed", "and", "implemented", "the", "Spectrum", "content", "management", "system", "architecture", "." ], [ "It", "allows", "multiple", "applications", "to", "reference", "content", "using", "differing", "policies", "." ], [ "Note", "that", "the", "Spectrum", "architecture", "assumes", "the", "existence", "of", "a", "content", "distribution", "network", "-LRB-", "CDN", "-RRB-", "that", "can", "facilitate", "the", "efficient", "distribution", "of", "content", "-LRB-", "for", "example", ",", "the", "PRISM", "CDN", "architecture", "-LSB-", "2", "-RSB-", "-RRB-", "." ], [ "Section", "2", "describes", "the", "architecture", "of", "our", "content", "management", "system", "." ], [ "In", "Section", "3", "we", "describe", "both", "our", "implementation", "of", "the", "Spectrum", "architecture", "and", "examples", "of", "its", "use", "." ], [ "4", "." ], [ "RELATED", "WORK" ], [ "Several", "authors", "have", "addressed", "the", "problem", "of", "the", "management", "of", "content", "in", "distributed", "networks", "." ], [ "Much", "of", "the", "work", "focuses", "on", "the", "policy", "management", "aspect", "." ], [ "For", "example", "in", "-LSB-", "5", "-RSB-", ",", "the", "problem", "of", "serving", "multimedia", "content", "via", "distributed", "servers", "is", "considered", "." ], [ "Content", "is", "distributed", "among", "server", "resources", "in", "proportion", "to", "user", "demand", "using", "a", "Demand", "Dissemination", "Protocol", "." ], [ "The", "performance", "of", "the", "scheme", "is", "benchmarked", "via", "simulation", "." ], [ "In", "-LSB-", "1", "-RSB-", "content", "is", "distributed", "among", "sub-caches", "." ], [ "The", "Cache", "Knowledge", "base", "allows", "sophisticated", "policies", "to", "be", "employed", "." ], [ "Simulation", "is", "used", "to", "compare", "the", "proposed", "scheme", "with", "well-known", "replacement", "algorithms", "." ], [ "Our", "work", "differs", "in", "that", "we", "are", "considering", "more", "than", "the", "policy", "management", "aspects", "of", "the", "problem", "." ], [ "After", "carefully", "considering", "the", "required", "functionality", "to", "implement", "content", "management", "in", "the", "networked", "environment", ",", "we", "have", "partitioned", "the", "system", "into", "three", "simple", "functions", ",", "namely", "Content", "manager", ",", "Policy", "manager", "and", "Storage", "manager", "." ], [ "This", "has", "allowed", "us", "to", "easily", "implement", "and", "experiment", "with", "a", "prototype", "system", "." ], [ "Other", "related", "work", "involves", "so", "called", "TV", "recommendation", "systems", "which", "are", "used", "in", "PVRs", "to", "automatically", "select", "content", "for", "users", ",", "e.g.", "-LSB-", "6", "-RSB-", "." ], [ "Finally", ",", "in", "the", "commercial", "CDN", "environment", "vendors", "-LRB-", "e.g.", "Cisco", "and", "Netapp", "-RRB-", "have", "developed", "and", "implemented", "content", "management", "products", "and", "tools", "." ], [ "5", "." ], [ "CONCLUSION", "AND", "FUTURE", "WORK" ], [ "In", "this", "paper", "we", "presented", "the", "design", "and", "implementation", "of", "the", "Spectrum", "content", "management", "architecture", "." ], [ "Spectrum", "allows", "storage", "policies", "to", "be", "applied", "to", "large", "volumes", "of", "content", "to", "facilitate", "efficient", "storage", "." ], [ "Specifically", ",", "the", "system", "allows", "different", "policies", "to", "be", "applied", "to", "the", "same", "content", "without", "replication", "." ], [ "Spectrum", "can", "also", "apply", "policies", "that", "are", "``", "time-aware", "''", "which", "effectively", "deals", "with", "the", "storage", "of", "continuous", "media", "content", "." ], [ "Finally", ",", "the", "modular", "design", "of", "the", "Spectrum", "architecture", "allows", "both", "stand-alone", "and", "distributed", "realizations", "so", "that", "the", "system", "can", "be", "deployed", "in", "a", "variety", "of", "applications", "." ], [ "There", "are", "a", "number", "of", "open", "issues", "that", "will", "require", "future", "work", "." ], [ "Some", "of", "these", "issues", "include", ":" ], [ "•", "We", "envision", "Spectrum", "being", "able", "to", "manage", "content", "on", "systems", "ranging", "from", "large", "CDNs", "down", "to", "smaller", "appliances", "such", "as", "TiVO", "-LSB-", "8", "-RSB-", "." ], [ "In", "order", "for", "these", "smaller", "systems", "to", "support", "Spectrum", "they", "will", "require", "networking", "and", "an", "external", "API", "." ], [ "When", "that", "API", "becomes", "available", ",", "we", "will", "have", "to", "work", "out", "how", "it", "can", "be", "fit", "into", "the", "Spectrum", "architecture", "." ], [ "•", "Spectrum", "names", "content", "by", "URL", ",", "but", "we", "have", "intentionally" ], [ "not", "defined", "the", "format", "of", "Spectrum", "URLs", ",", "how", "they", "map", "back", "to", "the", "content", "'s", "actual", "name", ",", "or", "how", "the", "names", "and", "URLs", "should", "be", "presented", "to", "the", "user", "." ], [ "•", "In", "this", "paper", "we", "'ve", "focused", "on", "content", "management", "for", "continuous", "media", "objects", "." ], [ "•", "Any", "project", "that", "helps", "allow", "multimedia", "content", "to", "be", "easily", "shared", "over", "the", "Internet", "will", "have", "legal", "hurdles", "to", "overcome", "before", "it", "can", "achieve", "widespread", "acceptance", "." ], [ "Adapting", "Spectrum", "to", "meet", "legal", "requirements", "will", "likely", "require", "more", "technical", "work", "." ] ]

[ [ "NN", "CC", "NN", "IN", "DT", "VBN", "NNP", "NNP", "NNP" ], [ "NN" ], [ "DT", "NN", "IN", "NNS", "IN", "NN", ",", "VBG", ",", "CC", "VBG", "NNS", "VBZ", "VBN", "PRP", "TO", "DT", "NN", "WRB", "JJ", "NNS", "IN", "JJ", "NNS", "NN", "VBZ", "RB", "VBN", "CC", "VBN", "IN", "NN", "VBD", "NNS", "." ], [ "VBG", "NN", "IN", "-LRB-", "CC", "NN", "-RRB-", "JJ", "NN", "VBZ", "JJ", "JJ", "TO", "DT", "JJ", "NN", "IN", "NNS", "." ], [ "VBG", "``", "VB", "''", "JJ", "NNS", "-LRB-", "JJ", "IN", "NN", "CC", "NN", "NN", "-RRB-", "VBZ", "TO", "DT", "NN", "IN", "IN", "DT", "NN", "VBZ", "RB", "RB", "VBN", "NN", "CC", "NN", "CC", "VBZ", "RB", "JJ", "TO", "VB", "IN", "." ], [ "JJ", "NN", "VBZ", "NN", "WDT", "VBZ", "RB", "VBN", "IN", "NN", "IN", "DT", "JJ", "NN", "TO", "IN", "NN", "VB", "VBN", "IN", "DT", "NN", ",", "VBG", "DT", "NN", "IN", "JJ", "NN", "DT", "CC", "JJ", "TO", "VB", "IN", "IN", "DT", "JJ", "NN", "NN", "." ], [ "IN", "DT", "NN", "PRP", "VBP", "DT", "NN", "CC", "NN", "IN", "DT", "NN", "NN", "NN", "NN", ",", "WDT", "VBZ", "IN", "JJ", "NNS", "NN", "RB", "IN", "DT", "NN", "." ], [ "NN", "VBZ", "DT", "JJ", "NN", "WDT", "VBZ", "PRP$", "NN", "TO", "DT", "JJ", "CC", "JJ", "JJ", "NNS", "." ], [ "DT", "JJ", "NN", "IN", "NN", "VBZ", "IN", "PRP", "VBZ", "CD", "-LRB-", "CC", "JJR", "-RRB-", "NN", "NNS", "TO", "VB", "TO", "DT", "NN", "IN", "NN", "WDT", "VBZ", "VBN", "IN", "DT", "NN", "." ], [ "DT", "VBZ", "IN", "EX", "VBP", "DT", "NN", "NNS", "." ], [ "NN", "IN", "DT", "JJR", "VBZ", "DT", "NN", "NN", "VBD", "TO", "PRP", "VBZ", "RB", "VBN", "IN", "DT", "NN", "." ], [ "JJ", "NN", "NNS", "MD", "RB", "VB", "VBN", "TO", "DT", "JJ", "NN", "RB", "RB", "VBG", "VBG", "IN", "NN", "." ], [ "DT", "NN", "RB", "VBZ", "NN", "TO", "RB", "VB", "NN", "VBN", "NNS", "WDT", "VBP", "JJ", "NN", "NNS", "VBN", "TO", "VB", "IN", "DT", "NN", "IN", "JJ", "JJ", "NNS", ",", "TO", "NN", "." ], [ "PRP", "RB", "RB", "VBP", "DT", "NNS", "IN", "DT", "NN", "NN", "CC", "RB", "VBP", "JJ", "NN", "NNS", "." ], [ "LS", "." ], [ "NN" ], [ "VBG", "CC", "VBG", "NN", "VBZ", "CC", "VBZ", "RB", "VBN", "CD", "IN", "DT", "JJ", "NNS", "IN", "DT", "NN", "." ], [ "JJ", "NN", "NNS", "VBP", "NN", "NNS", "CC", "NN", "NNS", "." ], [ "NN", "VBD", "RB", "VBN", "IN", "JJ", "NN", "NN", "IN", "DT", "NN", "IN", "NNS", "CC", "NNS", "." ], [ "IN", "NN", "VBZ", "VBN", ",", "CC", "DT", "NNS", "IN", "NN", "CC", "DT", "NN", "NNS", "VBP", "TO", "VB", "PRP", "VB", "RB", "VBN", "." ], [ "NNP", "JJ", "NNS", "JJ", "IN", "JJ", "NNS", "NNS", "VBP", "VBN", "NN", "JJ", "TO", "DT", "NN", "IN", "NNS", "IN", "NN", ",", "VBG", ",", "CC", "VBG", "NNS", "." ], [ "DT", "NN", "VBZ", "DT", "NN", "IN", "VBG", "CC", "NN", "NN", "NN", "." ], [ "DT", "NN", "VBZ", "VBN", "NNS", "TO", "NN", "CC", "NN", "NNS", "NN", "IN", "CC", "JJ", "CC", "JJ", "NN", "NNS", "IN", "DT", "NN", "PRP", "VBG", "IN", "DT", "JJ", "NNS", "NN", "." ], [ "DT", "NN", "IN", "JJ", "NN", "NN", "VBD", "IN", "DT", "NNS", "IN", "NN", ",", "VBG", ",", "CC", "VBG", "NN", "VBZ", "DT", "NN", "IN", "JJ", "NNS", "TO", "VB", "CC", "VB", "DT", "NNS", "." ], [ "DT", "NN", "IN", "PRP$", "NN", "VBZ", "IN", "DT", "NN", "IN", "NNS", "JJ", "NN", "CC", "IN", "JJ", "DT", "NN", "IN", "JJ", "NNS", "NN", "IN", "CC", "JJ", "CC", "``", "VB", "''", "NNS", "." ], [ "NN", "IN", "JJ", "IN", "DT", "NNS", "IN", "NN", "DT", "NN", "IN", "JJ", "NNS", "NN", "VBZ", "RB", "JJ", "." ], [ "NNP", "JJ", "NNS", "NN", "VBZ", "RB", "RB", "VBG", "IN", "NNS", "IN", "NN", "NNS", "WDT", "VBZ", "IN", "DT", "JJ", "NN", "TO", "VBG", "PRP", "MD", "RB", "VB", "IN", "DT", "CC", "DT", "JJS", "NNS", "." ], [ "RB", ",", "DT", "VBG", "IN", "``", "JJ", "''", "NN", "JJ", "IN", "NN", "CC", "NN", "VBZ", "RB", "JJ", "IN", "DT", "NNS", "VBP", "JJ", "NNS", "IN", "DT", "NNS", "." ], [ "DT", "VBZ", "IN", "IN", "PRP", "MD", "RB", "VB", "IN", "VBG", "JJ", "NN", "EX", "VBZ", "DT", "NN", "TO", "JJ", "PRP", "IN", "NN", "WDT", "MD", "VB", "VBN", "CC", "VBN", "." ], [ "." ], [ "WRB", "VBG", "IN", "VBN", "JJ", "NNS", "EX", "VBZ", "DT", "NN", "TO", "VB", "JJ", "NN", "IN", "CC", "DT", "JJ", "RB", "RB", "IN", "DT", "JJ", "NN", "." ], [ "IN", "NN", ",", "DT", "JJ", "NNP", "NN", "VBG", "TO", "VB", "RB", "DT", "VBZ", "IN", "DT", "JJ", "VBG", "NN", "MD", "RB", "VB", "VBN", "TO", "VB", "TO", "VB", "DT", "NN", "VBG", "TO", "DT", "JJ", "NN", "." ], [ "." ], [ "IN", "VBN", "IN", ",", "VBG", "TO", "VB", "NN", "IN", "NN", "IN", "DT", "JJ", "NN", "IN", "DT", "JJ", "NN", "NN", "VBZ", "RB", "JJ", "." ], [ "RB", ",", "WRB", "DT", "JJ", "NN", "NNS", "VBP", "VBN", "IN", "DT", "NN", "DT", "NN", "IN", "VBG", "NN", "IN", "NN", "VBZ", "RB", "JJ", "." ], [ "DT", "NN", "VBZ", "RB", "JJ", "IN", "NN", "VBN", "JJ", "NN", "NNS", "CC", "VBZ", "JJ", "TO", "RB", "VB", "JJ", "IN", "JJ", "NNS", "." ], [ "PRP", "MD", "VB", "JJ", "RB", "IN", "DT", "JJ", "NN", "NN", "WDT", "MD", "RB", "VB", "NNS", "JJ", "NN", "IN", "RB", "VBG", "DT", "JJ", "NN", "IN", "NN", "NNS", "VBZ", "VBN", "." ], [ "DT", "NN", "MD", "VB", "JJ", "NN", "IN", "CC", "NN", "TO", "NN", "IN", "JJ", "NN", "NN", "NNS", "VBG", "TO", "NN", "NNS", "." ], [ "DT", "JJ", "NN", "NN", "MD", "VB", "NN", "NNS", "IN", "JJ", "JJ", "NN", "NNS", "CC", "MD", "VB", "DT", "NNS", "TO", "VB", "VBN", "IN", "DT", "JJ", "NN", "IN", "NN", "-LRB-", "IN", "RB", "VBG", "PRP", "IN", "JJ", "-RRB-", "." ], [ "DT", "JJ", "NN", "NN", "MD", "VB", "DT", "NN", "TO", "VB", "CC", "NN", "IN", "-LRB-", "FW", "VB", "DT", "NN", "NN", "VBN", "IN", "-RRB-", "DT", "NN", "IN", "-LRB-", "NNS", "IN", "-RRB-", "JJ", "NNS", "NN", "." ], [ "VBG", "DT", "VBN", "NN", "NN", "NN", "VBZ", "JJ", "JJ", "TO", "DT", "NN", "IN", "NNS", "VBN", "IN", "DT", "NN", "." ], [ "IN", "NN", ":", "." ], [ "DT", "JJ", "NN", "NN", "MD", "VB", "IN", "DT", "JJ", "NN", "IN", "JJ", "NNS", "." ], [ "IN", "DT", "NNS", "DT", "NN", "MD", "VB", "VBG", "JJ", "VBN", "IN", "DT", "JJ", "NN", ",", "IN", "IN", "NNS", "DT", "NN", "MD", "VB", "VBN", "IN", "DT", "JJ", "NN", "NN", "NN", "." ], [ "DT", "JJ", "NN", "MD", "VB", "JJ", "IN", "VBG", "DT", "NNS", "PRP", "VBZ", "TO", "VB", "NN", "CC", "IN", "NN", "MD", "VB", "VBN", "TO", "DT", "JJ", "NN", "." ], [ "DT", "NN", "NN", "NN", "-LRB-", "NN", "-RRB-", "CC", "VBN", "NN", "NNS", "VBP", "VBN", "IN", "NN", "IN", "DT", "NN", "NN", "NN", "TO", "VB", "DT", "JJ", "NN", "." ], [ "." ], [ "DT", "JJ", "NN", "NN", "MD", "VB", "JJ", "CC", "VB", "JJ", "TO", "VB", "VBG", "NNS", "IN", "JJ", "NN", "NNS", "." ], [ "DT", "NNS", "VBP", "WP", "NN", "MD", "VB", "VBN", ",", "WRB", "PRP", "MD", "VB", "VBN", ",", "WRB", "RB", "PRP", "MD", "VB", "VBN", ",", "CC", "IN", "WP", "NNS", "PRP", "MD", "VB", "VBN", "." ], [ "DT", "VBZ", "IN", "DT", "NN", "NN", "NN", "MD", "VB", "JJ", "NNS", "TO", "VB", "NN", "IN", "DT", "JJ", "NN", "IN", "NNS", "CC", "IN", "PRP", "MD", "DT", "VB", "RB", "RB", "." ], [ "." ], [ "DT", "JJ", "NN", "NN", "VBZ", "TO", "VB", "JJ", "TO", "VB", "NNS", "IN", "NN", "CC", "VB", "DT", "NN", "TO", "VB", "NN", "IN", "DT", "NN", "NN", "IN", "DT", "NN", "IN", "JJ", "NN", "NN", "." ], [ "." ], [ "DT", "JJ", "NN", "NN", "MD", "VB", "DT", "NN", "IN", "JJ", "CC", "JJ", "NN", "IN", "NN", "IN", "DT", "NN", "NN", "." ], [ "." ], [ "DT", "NN", "NN", "MD", "VB", "JJ", "TO", "RB", "VB", "JJ", "NNS", "IN", "NN", ",", "VBG", "JJ", "NNS", "." ], [ "PRP", "VBZ", "TO", "VB", "JJ", "TO", "VB", "DT", "NN", "IN", "JJ", "DT", "NN", "IN", "PRP", "VBZ", "JJ", "IN", "NNS", "TO", "NN", "." ], [ "TO", "VB", "DT", "NNS", "PRP", "VBP", "VBN", "CC", "VBN", "DT", "NN", "NN", "NN", "NN", "NN", "." ], [ "PRP", "VBZ", "JJ", "NNS", "TO", "VB", "NN", "VBG", "VBG", "NNS", "." ], [ "VB", "IN", "DT", "NN", "NN", "VBZ", "DT", "NN", "IN", "DT", "JJ", "NN", "NN", "-LRB-", "NN", "-RRB-", "WDT", "MD", "VB", "DT", "JJ", "NN", "IN", "NN", "-LRB-", "IN", "NN", ",", "DT", "NNP", "NN", "NN", "-LRB-", "CD", "-RRB-", "-RRB-", "." ], [ "NN", "CD", "VBZ", "DT", "NN", "IN", "PRP$", "NN", "NN", "NN", "." ], [ "IN", "NN", "CD", "PRP", "VBP", "CC", "PRP$", "NN", "IN", "DT", "NN", "NN", "CC", "NNS", "IN", "PRP$", "NN", "." ], [ "LS", "." ], [ "JJ", "VBP" ], [ "JJ", "NNS", "VBP", "VBN", "DT", "NN", "IN", "DT", "NN", "IN", "NN", "IN", "VBN", "NNS", "." ], [ "JJ", "IN", "DT", "NN", "VBZ", "IN", "DT", "NN", "NN", "NN", "." ], [ "IN", "NN", "IN", "-LRB-", "CD", "-RRB-", ",", "DT", "NN", "IN", "VBG", "NNS", "JJ", "IN", "VBN", "NNS", "VBZ", "VBN", "." ], [ "NN", "VBZ", "VBN", "IN", "NN", "NNS", "IN", "NN", "TO", "NN", "NN", "VBG", "DT", "NN", "NN", "NNP", "." ], [ "DT", "NN", "IN", "DT", "NN", "VBZ", "VBN", "IN", "NN", "." ], [ "IN", "-LRB-", "CD", "-RRB-", "NN", "VBZ", "VBN", "IN", "NNS", "." ], [ "DT", "NNP", "NN", "NN", "VBZ", "JJ", "NNS", "TO", "VB", "VBN", "." ], [ "NN", "VBZ", "VBN", "TO", "VB", "DT", "VBN", "NN", "IN", "JJ", "NN", "NNS", "." ], [ "PRP$", "NN", "VBZ", "IN", "DT", "PRP", "VBP", "VBG", "JJR", "IN", "DT", "NN", "NN", "NNS", "IN", "DT", "NN", "." ], [ "IN", "RB", "VBG", "DT", "VBN", "NN", "TO", "VB", "JJ", "NN", "IN", "DT", "JJ", "NN", ",", "PRP", "VBP", "VBN", "DT", "NN", "IN", "CD", "JJ", "NNS", ",", "RB", "NN", "NN", ",", "NN", "NN", "CC", "NN", "NN", "." ], [ "DT", "VBZ", "VBN", "PRP", "TO", "RB", "VB", "CC", "NN", "IN", "DT", "NN", "NN", "." ], [ "JJ", "JJ", "NN", "VBZ", "RB", "VBN", "NN", "NN", "NNS", "WDT", "VBP", "VBN", "IN", "NNS", "TO", "RB", "JJ", "NN", "IN", "NNS", ",", "FW", "-LRB-", "CD", "-RRB-", "." ], [ "RB", ",", "IN", "DT", "JJ", "JJ", "NN", "NNS", "-LRB-", "FW", "NNP", "CC", "NNP", "-RRB-", "VBP", "VBN", "CC", "VBN", "JJ", "NN", "NNS", "CC", "NNS", "." ], [ "CD", "." ], [ "NN", "CC", "NN", "VBP" ], [ "IN", "DT", "NN", "PRP", "VBD", "DT", "NN", "CC", "NN", "IN", "DT", "NN", "NN", "NN", "NN", "." ], [ "NN", "VBZ", "NN", "NNS", "TO", "VB", "VBN", "TO", "JJ", "NNS", "IN", "NN", "TO", "VB", "JJ", "NN", "." ], [ "RB", ",", "DT", "NN", "VBZ", "JJ", "NNS", "TO", "VB", "VBN", "TO", "DT", "JJ", "NN", "IN", "NN", "." ], [ "NN", "MD", "RB", "VB", "NNS", "WDT", "VBP", "``", "JJ", "''", "WDT", "RB", "VBZ", "IN", "DT", "NN", "IN", "JJ", "NNS", "NN", "." ], [ "RB", ",", "DT", "JJ", "NN", "IN", "DT", "NN", "NN", "VBZ", "CC", "JJ", "CC", "VBN", "NNS", "IN", "IN", "DT", "NN", "MD", "VB", "VBN", "IN", "DT", "NN", "IN", "NNS", "." ], [ "EX", "VBP", "DT", "NN", "IN", "JJ", "NNS", "WDT", "MD", "VB", "JJ", "NN", "." ], [ "DT", "IN", "DT", "NNS", "VBP", ":" ], [ "NN", "PRP", "VBP", "NN", "VBG", "JJ", "TO", "VB", "NN", "IN", "NNS", "VBG", "IN", "JJ", "NNS", "IN", "TO", "JJR", "NNS", "JJ", "IN", "NN", "-LRB-", "CD", "-RRB-", "." ], [ "IN", "NN", "IN", "DT", "JJR", "NNS", "TO", "VB", "NN", "PRP", "MD", "VB", "NN", "CC", "DT", "JJ", "NNP", "." ], [ "WRB", "DT", "NN", "VBZ", "JJ", ",", "PRP", "MD", "VB", "TO", "VB", "RP", "WRB", "PRP", "MD", "VB", "VBN", "IN", "DT", "NN", "NN", "." ], [ "NN", "NN", "NNS", "NN", "IN", "NN", ",", "CC", "PRP", "VBP", "RB" ], [ "RB", "VBN", "DT", "NN", "IN", "NNP", "NNP", ",", "WRB", "PRP", "VBP", "RB", "TO", "DT", "NN", "POS", "JJ", "NN", ",", "CC", "WRB", "DT", "NNS", "CC", "NNS", "MD", "VB", "VBN", "TO", "DT", "NN", "." ], [ "NN", "IN", "DT", "NN", "PRP", "VBP", "VBN", "IN", "JJ", "NN", "IN", "JJ", "NNS", "NNS", "." ], [ "NN", "DT", "NN", "WDT", "VBZ", "VB", "NNS", "NN", "TO", "VB", "RB", "VBN", "IN", "DT", "NN", "MD", "VB", "JJ", "NNS", "TO", "VB", "IN", "PRP", "MD", "VB", "JJ", "NN", "." ], [ "VBG", "NN", "TO", "VB", "JJ", "NNS", "MD", "RB", "VB", "JJR", "JJ", "NN", "." ] ]

[ [ "design", "and", "implementation", "of", "a", "distribute", "Content", "Management", "System" ], [ "abstract" ], [ "the", "convergence", "of", "advance", "in", "storage", ",", "encode", ",", "and", "network", "technology", "have", "bring", "we", "to", "a", "environment", "where", "huge", "amount", "of", "continuous", "media", "content", "be", "routinely", "store", "and", "exchange", "between", "network", "enable", "device", "." ], [ "keep", "track", "of", "-lrb-", "or", "managing", "-rrb-", "such", "content", "remain", "challenging", "due", "to", "the", "sheer", "volume", "of", "datum", "." ], [ "store", "``", "live", "''", "continuous", "media", "-lrb-", "such", "as", "tv", "or", "radio", "content", "-rrb-", "add", "to", "the", "complexity", "in", "that", "this", "content", "have", "no", "well", "define", "start", "or", "end", "and", "be", "therefore", "cumbersome", "to", "deal", "with", "." ], [ "networked", "storage", "allow", "content", "that", "be", "logically", "view", "as", "part", "of", "the", "same", "collection", "to", "in", "fact", "be", "distribute", "across", "a", "network", ",", "make", "the", "task", "of", "content", "management", "all", "but", "impossible", "to", "deal", "with", "without", "a", "content", "management", "system", "." ], [ "in", "this", "paper", "we", "present", "the", "design", "and", "implementation", "of", "the", "spectrum", "content", "management", "system", ",", "which", "deal", "with", "rich", "media", "content", "effectively", "in", "this", "environment", "." ], [ "spectrum", "have", "a", "modular", "architecture", "that", "allow", "its", "application", "to", "both", "stand-alone", "and", "various", "networked", "scenario", "." ], [ "a", "unique", "aspect", "of", "spectrum", "be", "that", "it", "require", "one", "-lrb-", "or", "more", "-rrb-", "retention", "policy", "to", "apply", "to", "every", "piece", "of", "content", "that", "be", "store", "in", "the", "system", "." ], [ "this", "mean", "that", "there", "be", "no", "eviction", "policy", "." ], [ "content", "that", "no", "longer", "have", "a", "retention", "policy", "apply", "to", "it", "be", "simply", "remove", "from", "the", "system", "." ], [ "different", "retention", "policy", "can", "easily", "be", "apply", "to", "the", "same", "content", "thus", "naturally", "facilitate", "share", "without", "duplication", "." ], [ "this", "approach", "also", "allow", "spectrum", "to", "easily", "apply", "time", "base", "policy", "which", "be", "basic", "building", "block", "require", "to", "deal", "with", "the", "storage", "of", "live", "continuous", "media", ",", "to", "content", "." ], [ "we", "not", "only", "describe", "the", "detail", "of", "the", "spectrum", "architecture", "but", "also", "give", "typical", "use", "case", "." ], [ "1", "." ], [ "introduction" ], [ "manipulate", "and", "manage", "content", "be", "and", "have", "always", "be", "one", "of", "the", "primary", "function", "of", "a", "computer", "." ], [ "initial", "computing", "application", "include", "text", "formatter", "and", "program", "compiler", "." ], [ "content", "be", "initially", "manage", "by", "explicit", "user", "interaction", "through", "the", "use", "of", "file", "and", "filesystem", "." ], [ "as", "technology", "have", "advance", ",", "both", "the", "type", "of", "content", "and", "the", "way", "people", "wish", "to", "use", "it", "have", "greatly", "change", "." ], [ "New", "content", "type", "such", "as", "continuous", "multimedia", "stream", "have", "become", "commonplace", "due", "to", "the", "convergence", "of", "advance", "in", "storage", ",", "encode", ",", "and", "network", "technology", "." ], [ "another", "example", "be", "the", "combination", "of", "encode", "and", "broadband", "networking", "technology", "." ], [ "this", "combination", "have", "allow", "user", "to", "access", "and", "share", "multimedia", "content", "in", "both", "local", "and", "remote", "area", "network", "with", "the", "network", "itself", "act", "as", "a", "huge", "datum", "repository", "." ], [ "the", "proliferation", "of", "high", "quality", "content", "enable", "by", "these", "advance", "in", "storage", ",", "encode", ",", "and", "network", "technology", "create", "the", "need", "for", "new", "way", "to", "manipulate", "and", "manage", "the", "datum", "." ], [ "the", "focus", "of", "we", "work", "be", "on", "the", "storage", "of", "media", "rich", "content", "and", "in", "particular", "the", "storage", "of", "continuous", "media", "content", "in", "either", "pre-packaged", "or", "``", "live", "''", "form", "." ], [ "•", "while", "true", "for", "all", "type", "of", "content", "the", "storage", "of", "continuous", "media", "content", "be", "especially", "problematic", "." ], [ "First", "continuous", "media", "content", "be", "still", "very", "demand", "in", "term", "of", "storage", "resource", "which", "mean", "that", "a", "policy-less", "approach", "to", "store", "it", "will", "not", "work", "for", "all", "but", "the", "smallest", "system", "." ], [ "second", ",", "the", "store", "of", "``", "live", "''", "content", "such", "as", "tv", "or", "radio", "be", "inherently", "problematic", "as", "these", "signal", "be", "continuous", "stream", "with", "no", "endpoint", "." ], [ "this", "mean", "that", "before", "one", "can", "even", "think", "about", "manage", "such", "content", "there", "be", "a", "need", "to", "abstract", "it", "into", "something", "that", "could", "be", "manipulate", "and", "manage", "." ], [ "." ], [ "when", "deal", "with", "store", "continuous", "media", "there", "be", "a", "need", "to", "manage", "such", "content", "at", "both", "a", "fine-grained", "as", "well", "as", "a", "aggregate", "level", "." ], [ "for", "example", ",", "a", "individual", "PVR", "user", "want", "to", "keep", "only", "the", "highlight", "of", "a", "particular", "sport", "event", "should", "not", "be", "require", "to", "have", "to", "store", "the", "content", "pertain", "to", "the", "complete", "event", "." ], [ "." ], [ "as", "indicate", "above", ",", "try", "to", "keep", "track", "of", "content", "on", "a", "standalone", "system", "without", "a", "content", "management", "system", "be", "very", "difficult", "." ], [ "however", ",", "when", "the", "actual", "storage", "device", "be", "distribute", "across", "a", "network", "the", "task", "of", "keep", "track", "of", "content", "be", "almost", "impossible", "." ], [ "this", "scenario", "be", "increasingly", "common", "in", "network", "base", "content", "distribution", "system", "and", "be", "likely", "to", "also", "become", "important", "in", "home-networking", "scenario", "." ], [ "it", "would", "seem", "clear", "then", "that", "a", "content", "management", "system", "that", "can", "efficiently", "handle", "media", "rich", "content", "while", "also", "exploit", "the", "networked", "capability", "of", "storage", "device", "be", "need", "." ], [ "this", "system", "should", "allow", "efficient", "storage", "of", "and", "access", "to", "content", "across", "heterogeneous", "network", "storage", "device", "accord", "to", "user", "preference", "." ], [ "the", "content", "management", "system", "should", "translate", "user", "preference", "into", "appropriate", "low-level", "storage", "policy", "and", "should", "allow", "those", "preference", "to", "be", "express", "at", "a", "fine", "level", "of", "granularity", "-lrb-", "while", "not", "require", "it", "in", "general", "-rrb-", "." ], [ "the", "content", "management", "system", "should", "allow", "the", "user", "to", "manipulate", "and", "reason", "about", "-lrb-", "i.e.", "change", "the", "storage", "policy", "associate", "with", "-rrb-", "the", "storage", "of", "-lrb-", "part", "of", "-rrb-", "continuous", "media", "content", "." ], [ "address", "this", "distribute", "content", "management", "problem", "be", "difficult", "due", "to", "the", "number", "of", "requirement", "place", "on", "the", "system", "." ], [ "for", "example", ":", "." ], [ "the", "content", "management", "system", "must", "operate", "on", "a", "large", "number", "of", "heterogeneous", "system", "." ], [ "in", "some", "case", "the", "system", "may", "be", "manage", "content", "store", "on", "a", "local", "filesystem", ",", "while", "in", "other", "the", "content", "may", "be", "store", "on", "a", "separate", "network", "storage", "appliance", "." ], [ "the", "content", "manager", "may", "be", "responsible", "for", "implement", "the", "policy", "it", "use", "to", "reference", "content", "or", "that", "role", "may", "be", "delegate", "to", "a", "separate", "computer", "." ], [ "a", "application", "program", "interface", "-lrb-", "api", "-rrb-", "and", "associate", "network", "protocol", "be", "need", "in", "order", "for", "the", "content", "management", "system", "to", "provide", "a", "uniform", "interface", "." ], [ "." ], [ "the", "content", "management", "system", "should", "be", "flexible", "and", "be", "able", "to", "handle", "differ", "requirement", "for", "content", "management", "policy", "." ], [ "these", "policy", "reflect", "what", "content", "should", "be", "obtain", ",", "when", "it", "should", "be", "fetch", ",", "how", "long", "it", "should", "be", "retain", ",", "and", "under", "what", "circumstance", "it", "should", "be", "discard", "." ], [ "this", "mean", "that", "the", "content", "management", "system", "should", "allow", "multiple", "application", "to", "reference", "content", "with", "a", "rich", "set", "of", "policy", "and", "that", "it", "should", "all", "work", "together", "seamlessly", "." ], [ "." ], [ "the", "content", "management", "system", "need", "to", "be", "able", "to", "monitor", "reference", "for", "content", "and", "use", "that", "information", "to", "place", "content", "in", "the", "right", "location", "in", "the", "network", "for", "efficient", "application", "access", "." ], [ "." ], [ "the", "content", "management", "system", "must", "handle", "the", "interaction", "between", "implicit", "and", "explicit", "population", "of", "content", "at", "the", "network", "edge", "." ], [ "." ], [ "the", "content", "system", "must", "be", "able", "to", "efficiently", "manage", "large", "set", "of", "content", ",", "include", "continuous", "stream", "." ], [ "it", "need", "to", "be", "able", "to", "package", "this", "content", "in", "such", "a", "way", "that", "it", "be", "convenient", "for", "user", "to", "access", "." ], [ "to", "address", "these", "issue", "we", "have", "design", "and", "implement", "the", "spectrum", "content", "management", "system", "architecture", "." ], [ "it", "allow", "multiple", "application", "to", "reference", "content", "use", "differ", "policy", "." ], [ "note", "that", "the", "spectrum", "architecture", "assume", "the", "existence", "of", "a", "content", "distribution", "network", "-lrb-", "cdn", "-rrb-", "that", "can", "facilitate", "the", "efficient", "distribution", "of", "content", "-lrb-", "for", "example", ",", "the", "PRISM", "cdn", "architecture", "-lsb-", "2", "-rsb-", "-rrb-", "." ], [ "section", "2", "describe", "the", "architecture", "of", "we", "content", "management", "system", "." ], [ "in", "section", "3", "we", "describe", "both", "we", "implementation", "of", "the", "spectrum", "architecture", "and", "example", "of", "its", "use", "." ], [ "4", "." ], [ "related", "work" ], [ "several", "author", "have", "address", "the", "problem", "of", "the", "management", "of", "content", "in", "distribute", "network", "." ], [ "much", "of", "the", "work", "focus", "on", "the", "policy", "management", "aspect", "." ], [ "for", "example", "in", "-lsb-", "5", "-rsb-", ",", "the", "problem", "of", "serve", "multimedia", "content", "via", "distribute", "server", "be", "consider", "." ], [ "content", "be", "distribute", "among", "server", "resource", "in", "proportion", "to", "user", "demand", "use", "a", "demand", "dissemination", "Protocol", "." ], [ "the", "performance", "of", "the", "scheme", "be", "benchmark", "via", "simulation", "." ], [ "in", "-lsb-", "1", "-rsb-", "content", "be", "distribute", "among", "sub-cache", "." ], [ "the", "Cache", "knowledge", "base", "allow", "sophisticated", "policy", "to", "be", "employ", "." ], [ "simulation", "be", "use", "to", "compare", "the", "propose", "scheme", "with", "well-known", "replacement", "algorithm", "." ], [ "we", "work", "differ", "in", "that", "we", "be", "consider", "more", "than", "the", "policy", "management", "aspect", "of", "the", "problem", "." ], [ "after", "carefully", "consider", "the", "require", "functionality", "to", "implement", "content", "management", "in", "the", "networked", "environment", ",", "we", "have", "partition", "the", "system", "into", "three", "simple", "function", ",", "namely", "content", "manager", ",", "policy", "manager", "and", "storage", "manager", "." ], [ "this", "have", "allow", "we", "to", "easily", "implement", "and", "experiment", "with", "a", "prototype", "system", "." ], [ "other", "related", "work", "involve", "so", "call", "tv", "recommendation", "system", "which", "be", "use", "in", "pvr", "to", "automatically", "select", "content", "for", "user", ",", "e.g.", "-lsb-", "6", "-rsb-", "." ], [ "finally", ",", "in", "the", "commercial", "cdn", "environment", "vendor", "-lrb-", "e.g.", "Cisco", "and", "Netapp", "-rrb-", "have", "develop", "and", "implement", "content", "management", "product", "and", "tool", "." ], [ "5", "." ], [ "conclusion", "and", "future", "work" ], [ "in", "this", "paper", "we", "present", "the", "design", "and", "implementation", "of", "the", "spectrum", "content", "management", "architecture", "." ], [ "spectrum", "allow", "storage", "policy", "to", "be", "apply", "to", "large", "volume", "of", "content", "to", "facilitate", "efficient", "storage", "." ], [ "specifically", ",", "the", "system", "allow", "different", "policy", "to", "be", "apply", "to", "the", "same", "content", "without", "replication", "." ], [ "spectrum", "can", "also", "apply", "policy", "that", "be", "``", "time-aware", "''", "which", "effectively", "deal", "with", "the", "storage", "of", "continuous", "media", "content", "." ], [ "finally", ",", "the", "modular", "design", "of", "the", "spectrum", "architecture", "allow", "both", "stand-alone", "and", "distribute", "realization", "so", "that", "the", "system", "can", "be", "deploy", "in", "a", "variety", "of", "application", "." ], [ "there", "be", "a", "number", "of", "open", "issue", "that", "will", "require", "future", "work", "." ], [ "some", "of", "these", "issue", "include", ":" ], [ "•", "we", "envision", "spectrum", "be", "able", "to", "manage", "content", "on", "system", "range", "from", "large", "cdn", "down", "to", "smaller", "appliance", "such", "as", "tivo", "-lsb-", "8", "-rsb-", "." ], [ "in", "order", "for", "these", "smaller", "system", "to", "support", "spectrum", "they", "will", "require", "networking", "and", "a", "external", "API", "." ], [ "when", "that", "api", "become", "available", ",", "we", "will", "have", "to", "work", "out", "how", "it", "can", "be", "fit", "into", "the", "spectrum", "architecture", "." ], [ "•", "spectrum", "name", "content", "by", "url", ",", "but", "we", "have", "intentionally" ], [ "not", "define", "the", "format", "of", "Spectrum", "URLs", ",", "how", "they", "map", "back", "to", "the", "content", "'s", "actual", "name", ",", "or", "how", "the", "name", "and", "url", "should", "be", "present", "to", "the", "user", "." ], [ "•", "in", "this", "paper", "we", "have", "focus", "on", "content", "management", "for", "continuous", "media", "object", "." ], [ "•", "any", "project", "that", "help", "allow", "multimedia", "content", "to", "be", "easily", "share", "over", "the", "internet", "will", "have", "legal", "hurdle", "to", "overcome", "before", "it", "can", "achieve", "widespread", "acceptance", "." ], [ "adapt", "spectrum", "to", "meet", "legal", "requirement", "will", "likely", "require", "more", "technical", "work", "." ] ]

[ "spectrum content manag system", "continu media storag", "home-network scenario", "applic program interfac", "content distribut network", "uniform resourc locat", "polici manag", "network enabl dvr", "high-perform databas system", "carrier-grade spectrum manag" ]

H-10

[ [ "Regularized", "Clustering", "for", "Documents", "*" ], [ "ABSTRACT" ], [ "In", "recent", "years", ",", "document", "clustering", "has", "been", "receiving", "more", "and", "more", "attentions", "as", "an", "important", "and", "fundamental", "technique", "for", "unsupervised", "document", "organization", ",", "automatic", "topic", "extraction", ",", "and", "fast", "information", "retrieval", "or", "filtering", "." ], [ "In", "this", "paper", ",", "we", "propose", "a", "novel", "method", "for", "clustering", "documents", "using", "regularization", "." ], [ "Unlike", "traditional", "globally", "regularized", "clustering", "methods", ",", "our", "method", "first", "construct", "a", "local", "regularized", "linear", "label", "predictor", "for", "each", "document", "vector", ",", "and", "then", "combine", "all", "those", "local", "regularizers", "with", "a", "global", "smoothness", "regularizer", "." ], [ "So", "we", "call", "our", "algorithm", "Clustering", "with", "Local", "and", "Global", "Regularization", "-LRB-", "CLGR", "-RRB-", "." ], [ "We", "will", "show", "that", "the", "cluster", "memberships", "of", "the", "documents", "can", "be", "achieved", "by", "eigenvalue", "decomposition", "of", "a", "sparse", "symmetric", "matrix", ",", "which", "can", "be", "efficiently", "solved", "by", "iterative", "methods", "." ], [ "Finally", "our", "experimental", "evaluations", "on", "several", "datasets", "are", "presented", "to", "show", "the", "superiorities", "of", "CLGR", "over", "traditional", "document", "clustering", "methods", "." ], [ "1", "." ], [ "INTRODUCTION" ], [ "Document", "clustering", "has", "been", "receiving", "more", "and", "more", "attentions", "as", "an", "important", "and", "fundamental", "technique", "for", "unsupervised", "document", "organization", ",", "automatic", "topic", "extraction", ",", "and", "fast", "information", "retrieval", "or", "filtering", "." ], [ "A", "good", "document", "clustering", "approach", "can", "assist", "the", "computers", "to", "automatically", "organize", "the", "document", "corpus", "into", "a", "meaningful", "cluster", "hierarchy", "for", "efficient", "browsing", "and", "navigation", ",", "which", "is", "very", "valuable", "for", "complementing", "the", "deficiencies", "of", "traditional", "information", "retrieval", "technologies", "." ], [ "In", "such", "cases", ",", "efficient", "browsing", "through", "a", "good", "cluster", "hierarchy", "will", "be", "definitely", "helpful", "." ], [ "Generally", ",", "document", "clustering", "methods", "can", "be", "mainly", "categorized", "into", "two", "classes", ":", "hierarchical", "methods", "and", "partitioning", "methods", "." ], [ "The", "hierarchical", "methods", "group", "the", "data", "points", "into", "a", "hierarchical", "tree", "structure", "using", "bottom-up", "or", "top-down", "approaches", "." ], [ "For", "example", ",", "hierarchical", "agglomerative", "clustering", "-LRB-", "HAC", "-RRB-", "-LSB-", "13", "-RSB-", "is", "a", "typical", "bottom-up", "hierarchical", "clustering", "method", "." ], [ "It", "takes", "each", "data", "point", "as", "a", "single", "cluster", "to", "start", "off", "with", "and", "then", "builds", "bigger", "and", "bigger", "clusters", "by", "grouping", "similar", "data", "points", "together", "until", "the", "entire", "dataset", "is", "encapsulated", "into", "one", "final", "cluster", "." ], [ "On", "the", "other", "hand", ",", "partitioning", "methods", "decompose", "the", "dataset", "into", "a", "number", "of", "disjoint", "clusters", "which", "are", "usually", "optimal", "in", "terms", "of", "some", "predefined", "criterion", "functions", "." ], [ "For", "instance", ",", "K-means", "-LSB-", "13", "-RSB-", "is", "a", "typical", "partitioning", "method", "which", "aims", "to", "minimize", "the", "sum", "of", "the", "squared", "distance", "between", "the", "data", "points", "and", "their", "corresponding", "cluster", "centers", "." ], [ "In", "this", "paper", ",", "we", "will", "focus", "on", "the", "partitioning", "methods", "." ], [ "In", "the", "last", "decades", ",", "many", "methods", "have", "been", "proposed", "to", "overcome", "the", "above", "problems", "of", "the", "partitioning", "methods", "-LSB-", "19", "-RSB-", "-LSB-", "28", "-RSB-", "." ], [ "Recently", ",", "another", "type", "of", "partitioning", "methods", "based", "on", "clustering", "on", "data", "graphs", "have", "aroused", "considerable", "interests", "in", "the", "machine", "learning", "and", "data", "mining", "community", "." ], [ "The", "basic", "idea", "behind", "these", "methods", "is", "to", "first", "model", "the", "whole", "dataset", "as", "a", "weighted", "graph", ",", "in", "which", "the", "graph", "nodes", "represent", "the", "data", "points", ",", "and", "the", "weights", "on", "the", "edges", "correspond", "to", "the", "similarities", "between", "pairwise", "points", "." ], [ "Then", "the", "cluster", "assignments", "of", "the", "dataset", "can", "be", "achieved", "by", "optimizing", "some", "criterions", "defined", "on", "the", "graph", "." ], [ "After", "some", "relaxations", ",", "these", "criterions", "can", "usually", "be", "optimized", "via", "eigen-decompositions", ",", "which", "is", "guaranteed", "to", "be", "global", "optimal", "." ], [ "In", "this", "way", ",", "spectral", "clustering", "efficiently", "avoids", "the", "problems", "of", "the", "traditional", "partitioning", "methods", "as", "we", "introduced", "in", "last", "paragraph", "." ], [ "In", "this", "paper", ",", "we", "propose", "a", "novel", "document", "clustering", "algorithm", "that", "inherits", "the", "superiority", "of", "spectral", "clustering", ",", "i.e.", "the", "final", "cluster", "results", "can", "also", "be", "obtained", "by", "exploit", "the", "eigen-structure", "of", "a", "symmetric", "matrix", "." ], [ "So", "we", "call", "our", "method", "Clustering", "with", "Local", "and", "Global", "Regularization", "-LRB-", "CLGR", "-RRB-", "." ], [ "The", "idea", "of", "incorporating", "both", "local", "and", "global", "information", "into", "label", "prediction", "is", "inspired", "by", "the", "recent", "works", "on", "semi-supervised", "learning", "-LSB-", "31", "-RSB-", ",", "and", "our", "experimental", "evaluations", "on", "several", "real", "document", "datasets", "show", "that", "CLGR", "performs", "better", "than", "many", "state-of-the-art", "clustering", "methods", "." ], [ "The", "rest", "of", "this", "paper", "is", "organized", "as", "follows", ":", "in", "section", "2", "we", "will", "introduce", "our", "CLGR", "algorithm", "in", "detail", "." ], [ "The", "experimental", "results", "on", "several", "datasets", "are", "presented", "in", "section", "3", ",", "followed", "by", "the", "conclusions", "and", "discussions", "in", "section", "4", "." ], [ "4", "." ], [ "CONCLUSIONS", "AND", "FUTURE", "WORKS" ], [ "In", "this", "paper", ",", "we", "derived", "a", "new", "clustering", "algorithm", "called", "clustering", "with", "local", "and", "global", "regularization", "." ], [ "Our", "method", "preserves", "the", "merit", "of", "local", "learning", "algorithms", "and", "spectral", "clustering", "." ], [ "Our", "experiments", "show", "that", "the", "proposed", "algorithm", "outperforms", "most", "of", "the", "state", "of", "the", "art", "algorithms", "on", "many", "benchmark", "datasets", "." ], [ "In", "the", "future", ",", "we", "will", "focus", "on", "the", "parameter", "selection", "and", "acceleration", "issues", "of", "the", "CLGR", "algorithm", "." ] ]

[ [ "VBN", "NN", "IN", "NNS", "SYM" ], [ "NN" ], [ "IN", "JJ", "NNS", ",", "NN", "NN", "VBZ", "VBN", "VBG", "RBR", "CC", "RBR", "NNS", "IN", "DT", "JJ", "CC", "JJ", "NN", "IN", "JJ", "NN", "NN", ",", "JJ", "NN", "NN", ",", "CC", "JJ", "NN", "NN", "CC", "VBG", "." ], [ "IN", "DT", "NN", ",", "PRP", "VBP", "DT", "JJ", "NN", "IN", "NN", "NNS", "VBG", "NN", "." ], [ "IN", "JJ", "RB", "VBN", "NN", "NNS", ",", "PRP$", "NN", "RB", "VB", "DT", "JJ", "JJ", "JJ", "NN", "NN", "IN", "DT", "NN", "NN", ",", "CC", "RB", "VBP", "PDT", "DT", "JJ", "NNS", "IN", "DT", "JJ", "NN", "NN", "." ], [ "IN", "PRP", "VBP", "PRP$", "NN", "VBG", "IN", "JJ", "CC", "JJ", "NN", "-LRB-", "NN", "-RRB-", "." ], [ "PRP", "MD", "VB", "IN", "DT", "NN", "NNS", "IN", "DT", "NNS", "MD", "VB", "VBN", "IN", "NN", "NN", "IN", "DT", "JJ", "JJ", "NN", ",", "WDT", "MD", "VB", "RB", "VBN", "IN", "JJ", "NNS", "." ], [ "RB", "PRP$", "JJ", "NNS", "IN", "JJ", "NNS", "VBP", "VBN", "TO", "VB", "DT", "NNS", "IN", "NN", "IN", "JJ", "NN", "NN", "NNS", "." ], [ "LS", "." ], [ "NN" ], [ "NNP", "NN", "VBZ", "VBN", "VBG", "RBR", "CC", "RBR", "NNS", "IN", "DT", "JJ", "CC", "JJ", "NN", "IN", "JJ", "NN", "NN", ",", "JJ", "NN", "NN", ",", "CC", "JJ", "NN", "NN", "CC", "VBG", "." ], [ "DT", "JJ", "NN", "NN", "NN", "MD", "VB", "DT", "NNS", "TO", "RB", "VB", "DT", "NN", "NN", "IN", "DT", "JJ", "NN", "NN", "IN", "JJ", "VBG", "CC", "NN", ",", "WDT", "VBZ", "RB", "JJ", "IN", "VBG", "DT", "NNS", "IN", "JJ", "NN", "NN", "NNS", "." ], [ "IN", "JJ", "NNS", ",", "JJ", "VBG", "IN", "DT", "JJ", "NN", "NN", "MD", "VB", "RB", "JJ", "." ], [ "RB", ",", "NN", "NN", "NNS", "MD", "VB", "RB", "VBN", "IN", "CD", "NNS", ":", "JJ", "NNS", "CC", "VBG", "NNS", "." ], [ "DT", "JJ", "NNS", "NN", "DT", "NNS", "NNS", "IN", "DT", "JJ", "NN", "NN", "VBG", "JJ", "CC", "JJ", "NNS", "." ], [ "IN", "NN", ",", "JJ", "JJ", "NN", "-LRB-", "NN", "-RRB-", "-LRB-", "CD", "-RRB-", "VBZ", "DT", "JJ", "JJ", "JJ", "NN", "NN", "." ], [ "PRP", "VBZ", "DT", "NNS", "NN", "IN", "DT", "JJ", "NN", "TO", "VB", "RP", "IN", "CC", "RB", "VBZ", "JJR", "CC", "JJR", "NNS", "IN", "VBG", "JJ", "NNS", "NNS", "RB", "IN", "DT", "JJ", "NN", "VBZ", "VBN", "IN", "CD", "JJ", "NN", "." ], [ "IN", "DT", "JJ", "NN", ",", "VBG", "NNS", "VBP", "DT", "NN", "IN", "DT", "NN", "IN", "NN", "NNS", "WDT", "VBP", "RB", "JJ", "IN", "NNS", "IN", "DT", "VBN", "NN", "NNS", "." ], [ "IN", "NN", ",", "JJ", "-LRB-", "CD", "-RRB-", "VBZ", "DT", "JJ", "NN", "NN", "WDT", "VBZ", "TO", "VB", "DT", "NN", "IN", "DT", "VBN", "NN", "IN", "DT", "NNS", "NNS", "CC", "PRP$", "JJ", "NN", "NNS", "." ], [ "IN", "DT", "NN", ",", "PRP", "MD", "VB", "IN", "DT", "NN", "NNS", "." ], [ "IN", "DT", "JJ", "NNS", ",", "JJ", "NNS", "VBP", "VBN", "VBN", "TO", "VB", "DT", "JJ", "NNS", "IN", "DT", "NN", "NNS", "-LRB-", "CD", "-RRB-", "-LRB-", "CD", "-RRB-", "." ], [ "RB", ",", "DT", "NN", "IN", "VBG", "NNS", "VBN", "IN", "NN", "IN", "NNS", "NNS", "VBP", "VBN", "JJ", "NNS", "IN", "DT", "NN", "NN", "CC", "NNS", "NN", "NN", "." ], [ "DT", "JJ", "NN", "IN", "DT", "NNS", "VBZ", "TO", "JJ", "NN", "DT", "JJ", "NN", "IN", "DT", "JJ", "NN", ",", "IN", "WDT", "DT", "NN", "NNS", "VBP", "DT", "NNS", "NNS", ",", "CC", "DT", "NNS", "IN", "DT", "NNS", "VBP", "TO", "DT", "NNS", "IN", "JJ", "NNS", "." ], [ "RB", "DT", "NN", "NNS", "IN", "DT", "NN", "MD", "VB", "VBN", "IN", "VBG", "DT", "NNS", "VBN", "IN", "DT", "NN", "." ], [ "IN", "DT", "NNS", ",", "DT", "NNS", "MD", "RB", "VB", "VBN", "IN", "NNS", ",", "WDT", "VBZ", "VBN", "TO", "VB", "JJ", "JJ", "." ], [ "IN", "DT", "NN", ",", "JJ", "NN", "RB", "VBZ", "DT", "NNS", "IN", "DT", "JJ", "NN", "NNS", "IN", "PRP", "VBD", "IN", "JJ", "NN", "." ], [ "IN", "DT", "NN", ",", "PRP", "VBP", "DT", "JJ", "NN", "NN", "NN", "WDT", "VBZ", "DT", "NN", "IN", "JJ", "NN", ",", "FW", "DT", "JJ", "NN", "NNS", "MD", "RB", "VB", "VBN", "IN", "VB", "DT", "NN", "IN", "DT", "JJ", "NN", "." ], [ "IN", "PRP", "VBP", "PRP$", "NN", "NN", "IN", "JJ", "CC", "JJ", "NN", "-LRB-", "NN", "-RRB-", "." ], [ "DT", "NN", "IN", "VBG", "CC", "JJ", "CC", "JJ", "NN", "IN", "NN", "NN", "VBZ", "VBN", "IN", "DT", "JJ", "NNS", "IN", "JJ", "NN", "-LRB-", "CD", "-RRB-", ",", "CC", "PRP$", "JJ", "NNS", "IN", "JJ", "JJ", "NN", "NNS", "VBP", "IN", "NN", "VBZ", "JJR", "IN", "JJ", "JJ", "NN", "NNS", "." ], [ "DT", "NN", "IN", "DT", "NN", "VBZ", "VBN", "IN", "VBZ", ":", "IN", "NN", "CD", "PRP", "MD", "VB", "PRP$", "NN", "NN", "IN", "NN", "." ], [ "DT", "JJ", "NNS", "IN", "JJ", "NNS", "VBP", "VBN", "IN", "NN", "CD", ",", "VBN", "IN", "DT", "NNS", "CC", "NNS", "IN", "NN", "CD", "." ], [ "LS", "." ], [ "NNS", "CC", "NN", "VBZ" ], [ "IN", "DT", "NN", ",", "PRP", "VBD", "DT", "JJ", "NN", "NN", "VBN", "NN", "IN", "JJ", "CC", "JJ", "NN", "." ], [ "PRP$", "NN", "VBZ", "DT", "NN", "IN", "JJ", "NN", "NNS", "CC", "JJ", "NN", "." ], [ "PRP$", "NNS", "VBP", "IN", "DT", "VBN", "NN", "VBZ", "JJS", "IN", "DT", "NN", "IN", "DT", "NN", "NNS", "IN", "JJ", "JJ", "NNS", "." ], [ "IN", "DT", "NN", ",", "PRP", "MD", "VB", "IN", "DT", "NN", "NN", "CC", "NN", "NNS", "IN", "DT", "NN", "NN", "." ] ]

[ [ "regularize", "clustering", "for", "document", "*" ], [ "abstract" ], [ "in", "recent", "year", ",", "document", "clustering", "have", "be", "receive", "more", "and", "more", "attention", "as", "a", "important", "and", "fundamental", "technique", "for", "unsupervised", "document", "organization", ",", "automatic", "topic", "extraction", ",", "and", "fast", "information", "retrieval", "or", "filter", "." ], [ "in", "this", "paper", ",", "we", "propose", "a", "novel", "method", "for", "clustering", "document", "use", "regularization", "." ], [ "unlike", "traditional", "globally", "regularize", "clustering", "method", ",", "we", "method", "first", "construct", "a", "local", "regularized", "linear", "label", "predictor", "for", "each", "document", "vector", ",", "and", "then", "combine", "all", "those", "local", "regularizer", "with", "a", "global", "smoothness", "regularizer", "." ], [ "so", "we", "call", "we", "algorithm", "cluster", "with", "local", "and", "global", "regularization", "-lrb-", "clgr", "-rrb-", "." ], [ "we", "will", "show", "that", "the", "cluster", "membership", "of", "the", "document", "can", "be", "achieve", "by", "eigenvalue", "decomposition", "of", "a", "sparse", "symmetric", "matrix", ",", "which", "can", "be", "efficiently", "solve", "by", "iterative", "method", "." ], [ "finally", "we", "experimental", "evaluation", "on", "several", "dataset", "be", "present", "to", "show", "the", "superiority", "of", "clgr", "over", "traditional", "document", "clustering", "method", "." ], [ "1", "." ], [ "introduction" ], [ "Document", "clustering", "have", "be", "receive", "more", "and", "more", "attention", "as", "a", "important", "and", "fundamental", "technique", "for", "unsupervised", "document", "organization", ",", "automatic", "topic", "extraction", ",", "and", "fast", "information", "retrieval", "or", "filter", "." ], [ "a", "good", "document", "clustering", "approach", "can", "assist", "the", "computer", "to", "automatically", "organize", "the", "document", "corpus", "into", "a", "meaningful", "cluster", "hierarchy", "for", "efficient", "browse", "and", "navigation", ",", "which", "be", "very", "valuable", "for", "complement", "the", "deficiency", "of", "traditional", "information", "retrieval", "technology", "." ], [ "in", "such", "case", ",", "efficient", "browse", "through", "a", "good", "cluster", "hierarchy", "will", "be", "definitely", "helpful", "." ], [ "generally", ",", "document", "clustering", "method", "can", "be", "mainly", "categorize", "into", "two", "class", ":", "hierarchical", "method", "and", "partition", "method", "." ], [ "the", "hierarchical", "method", "group", "the", "datum", "point", "into", "a", "hierarchical", "tree", "structure", "use", "bottom-up", "or", "top-down", "approach", "." ], [ "for", "example", ",", "hierarchical", "agglomerative", "clustering", "-lrb-", "hac", "-rrb-", "-lsb-", "13", "-rsb-", "be", "a", "typical", "bottom-up", "hierarchical", "clustering", "method", "." ], [ "it", "take", "each", "datum", "point", "as", "a", "single", "cluster", "to", "start", "off", "with", "and", "then", "build", "bigger", "and", "bigger", "cluster", "by", "group", "similar", "datum", "point", "together", "until", "the", "entire", "dataset", "be", "encapsulate", "into", "one", "final", "cluster", "." ], [ "on", "the", "other", "hand", ",", "partition", "method", "decompose", "the", "dataset", "into", "a", "number", "of", "disjoint", "cluster", "which", "be", "usually", "optimal", "in", "term", "of", "some", "predefine", "criterion", "function", "." ], [ "for", "instance", ",", "k-means", "-lsb-", "13", "-rsb-", "be", "a", "typical", "partitioning", "method", "which", "aim", "to", "minimize", "the", "sum", "of", "the", "square", "distance", "between", "the", "datum", "point", "and", "they", "corresponding", "cluster", "center", "." ], [ "in", "this", "paper", ",", "we", "will", "focus", "on", "the", "partitioning", "method", "." ], [ "in", "the", "last", "decade", ",", "many", "method", "have", "be", "propose", "to", "overcome", "the", "above", "problem", "of", "the", "partitioning", "method", "-lsb-", "19", "-rsb-", "-lsb-", "28", "-rsb-", "." ], [ "recently", ",", "another", "type", "of", "partition", "method", "base", "on", "clustering", "on", "datum", "graph", "have", "arouse", "considerable", "interest", "in", "the", "machine", "learning", "and", "datum", "mining", "community", "." ], [ "the", "basic", "idea", "behind", "these", "method", "be", "to", "first", "model", "the", "whole", "dataset", "as", "a", "weighted", "graph", ",", "in", "which", "the", "graph", "node", "represent", "the", "datum", "point", ",", "and", "the", "weight", "on", "the", "edge", "correspond", "to", "the", "similarity", "between", "pairwise", "point", "." ], [ "then", "the", "cluster", "assignment", "of", "the", "dataset", "can", "be", "achieve", "by", "optimize", "some", "criterion", "define", "on", "the", "graph", "." ], [ "after", "some", "relaxation", ",", "these", "criterion", "can", "usually", "be", "optimize", "via", "eigen-decomposition", ",", "which", "be", "guarantee", "to", "be", "global", "optimal", "." ], [ "in", "this", "way", ",", "spectral", "clustering", "efficiently", "avoid", "the", "problem", "of", "the", "traditional", "partitioning", "method", "as", "we", "introduce", "in", "last", "paragraph", "." ], [ "in", "this", "paper", ",", "we", "propose", "a", "novel", "document", "clustering", "algorithm", "that", "inherit", "the", "superiority", "of", "spectral", "clustering", ",", "i.e.", "the", "final", "cluster", "result", "can", "also", "be", "obtain", "by", "exploit", "the", "eigen-structure", "of", "a", "symmetric", "matrix", "." ], [ "so", "we", "call", "we", "method", "clustering", "with", "local", "and", "global", "regularization", "-lrb-", "clgr", "-rrb-", "." ], [ "the", "idea", "of", "incorporate", "both", "local", "and", "global", "information", "into", "label", "prediction", "be", "inspire", "by", "the", "recent", "work", "on", "semi-supervised", "learning", "-lsb-", "31", "-rsb-", ",", "and", "we", "experimental", "evaluation", "on", "several", "real", "document", "dataset", "show", "that", "clgr", "perform", "better", "than", "many", "state-of-the-art", "clustering", "method", "." ], [ "the", "rest", "of", "this", "paper", "be", "organize", "as", "follow", ":", "in", "section", "2", "we", "will", "introduce", "we", "clgr", "algorithm", "in", "detail", "." ], [ "the", "experimental", "result", "on", "several", "dataset", "be", "present", "in", "section", "3", ",", "follow", "by", "the", "conclusion", "and", "discussion", "in", "section", "4", "." ], [ "4", "." ], [ "conclusion", "and", "future", "work" ], [ "in", "this", "paper", ",", "we", "derive", "a", "new", "clustering", "algorithm", "call", "clustering", "with", "local", "and", "global", "regularization", "." ], [ "we", "method", "preserve", "the", "merit", "of", "local", "learning", "algorithm", "and", "spectral", "clustering", "." ], [ "we", "experiment", "show", "that", "the", "propose", "algorithm", "outperform", "most", "of", "the", "state", "of", "the", "art", "algorithm", "on", "many", "benchmark", "dataset", "." ], [ "in", "the", "future", ",", "we", "will", "focus", "on", "the", "parameter", "selection", "and", "acceleration", "issue", "of", "the", "clgr", "algorithm", "." ] ]

[ "document cluster", "regular", "global regular", "cluster hierarchi", "spectrum", "specifi search", "hierarch method", "partit method", "label predict", "function estim", "manifold" ]

H-11

[ [ "Laplacian", "Optimal", "Design", "for", "Imag", "e", "Retrieval" ], [ "ABSTRACT" ], [ "Relevance", "feedback", "is", "a", "powerful", "technique", "to", "enhance", "ContentBased", "Image", "Retrieval", "-LRB-", "CBIR", "-RRB-", "performance", "." ], [ "It", "solicits", "the", "user", "'s", "relevance", "judgments", "on", "the", "retrieved", "images", "returned", "by", "the", "CBIR", "systems", "." ], [ "The", "user", "'s", "labeling", "is", "then", "used", "to", "learn", "a", "classifier", "to", "distinguish", "between", "relevant", "and", "irrelevant", "images", "." ], [ "However", ",", "the", "top", "returned", "images", "may", "not", "be", "the", "most", "informative", "ones", "." ], [ "The", "challenge", "is", "thus", "to", "determine", "which", "unlabeled", "images", "would", "be", "the", "most", "informative", "-LRB-", "i.e.", ",", "improve", "the", "classifier", "the", "most", "-RRB-", "if", "they", "were", "labeled", "and", "used", "as", "training", "samples", "." ], [ "In", "this", "paper", ",", "we", "propose", "a", "novel", "active", "learning", "algorithm", ",", "called", "Laplacian", "Optimal", "Design", "-LRB-", "LOD", "-RRB-", ",", "for", "relevance", "feedback", "image", "retrieval", "." ], [ "Our", "algorithm", "is", "based", "on", "a", "regression", "model", "which", "minimizes", "the", "least", "square", "error", "on", "the", "measured", "-LRB-", "or", ",", "labeled", "-RRB-", "images", "and", "simultaneously", "preserves", "the", "local", "geometrical", "structure", "of", "the", "image", "space", "." ], [ "Specifically", ",", "we", "assume", "that", "if", "two", "images", "are", "sufficiently", "close", "to", "each", "other", ",", "then", "their", "measurements", "-LRB-", "or", ",", "labels", "-RRB-", "are", "close", "as", "well", "." ], [ "By", "constructing", "a", "nearest", "neighbor", "graph", ",", "the", "geometrical", "structure", "of", "the", "image", "space", "can", "be", "described", "by", "the", "graph", "Laplacian", "." ], [ "We", "discuss", "how", "results", "from", "the", "field", "of", "optimal", "experimental", "design", "may", "be", "used", "to", "guide", "our", "selection", "of", "a", "subset", "of", "images", ",", "which", "gives", "us", "the", "most", "amount", "of", "information", "." ], [ "Experimental", "results", "on", "Corel", "database", "suggest", "that", "the", "proposed", "approach", "achieves", "higher", "precision", "in", "relevance", "feedback", "image", "retrieval", "." ], [ "1", "." ], [ "INTRODUCTION" ], [ "In", "many", "machine", "learning", "and", "information", "retrieval", "tasks", ",", "there", "is", "no", "shortage", "of", "unlabeled", "data", "but", "labels", "are", "expensive", "." ], [ "The", "challenge", "is", "thus", "to", "determine", "which", "unlabeled", "samples", "would", "be", "the", "most", "informative", "-LRB-", "i.e.", ",", "improve", "the", "classifier", "the", "most", "-RRB-", "if", "they", "were", "labeled", "and", "used", "as", "training", "samples", "." ], [ "This", "problem", "is", "typically", "called", "active", "learning", "-LSB-", "4", "-RSB-", "." ], [ "Many", "real", "world", "applications", "can", "be", "casted", "into", "active", "learning", "framework", "." ], [ "Particularly", ",", "we", "consider", "the", "problem", "of", "relevance", "feedback", "driven", "Content-Based", "Image", "Retrieval", "-LRB-", "CBIR", "-RRB-", "-LSB-", "13", "-RSB-", "." ], [ "Content-Based", "Image", "Retrieval", "has", "attracted", "substantial", "interests", "in", "the", "last", "decade", "-LSB-", "13", "-RSB-", "." ], [ "It", "is", "motivated", "by", "the", "fast", "growth", "of", "digital", "image", "databases", "which", ",", "in", "turn", ",", "require", "efficient", "search", "schemes", "." ], [ "Rather", "than", "describe", "an", "image", "using", "text", ",", "in", "these", "systems", "an", "image", "query", "is", "described", "using", "one", "or", "more", "example", "images", "." ], [ "The", "low", "level", "visual", "features", "-LRB-", "color", ",", "texture", ",", "shape", ",", "etc.", "-RRB-", "are", "automatically", "extracted", "to", "represent", "the", "images", "." ], [ "To", "narrow", "down", "the", "semantic", "gap", ",", "relevance", "feedback", "is", "introduced", "into", "CBIR", "-LSB-", "12", "-RSB-", "." ], [ "In", "many", "of", "the", "current", "relevance", "feedback", "driven", "CBIR", "systems", ",", "the", "user", "is", "required", "to", "provide", "his/her", "relevance", "judgments", "on", "the", "top", "images", "returned", "by", "the", "system", "." ], [ "The", "labeled", "images", "are", "then", "used", "to", "train", "a", "classifier", "to", "separate", "images", "that", "match", "the", "query", "concept", "from", "those", "that", "do", "not", "." ], [ "However", ",", "in", "general", "the", "top", "returned", "images", "may", "not", "be", "the", "most", "informative", "ones", "." ], [ "In", "the", "worst", "case", ",", "all", "the", "top", "images", "labeled", "by", "the", "user", "may", "be", "positive", "and", "thus", "the", "standard", "classification", "techniques", "can", "not", "be", "applied", "due", "to", "the", "lack", "of", "negative", "examples", "." ], [ "Unlike", "the", "standard", "classification", "problems", "where", "the", "labeled", "samples", "are", "pregiven", ",", "in", "relevance", "feedback", "image", "retrieval", "the", "system", "can", "actively", "select", "the", "images", "to", "label", "." ], [ "Thus", "active", "learning", "can", "be", "naturally", "introduced", "into", "image", "retrieval", "." ], [ "Despite", "many", "existing", "active", "learning", "techniques", ",", "Support", "Vector", "Machine", "-LRB-", "SVM", "-RRB-", "active", "learning", "-LSB-", "14", "-RSB-", "and", "regression", "based", "active", "learning", "-LSB-", "1", "-RSB-", "have", "received", "the", "most", "interests", "." ], [ "The", "major", "disadvantage", "of", "SVM", "active", "learning", "is", "that", "the", "estimated", "boundary", "may", "not", "be", "accurate", "enough", "." ], [ "Moreover", ",", "it", "may", "not", "be", "applied", "at", "the", "beginning", "of", "the", "retrieval", "when", "there", "is", "no", "labeled", "images", "." ], [ "Some", "other", "SVM", "based", "active", "learning", "algorithms", "can", "be", "found", "in", "-LSB-", "7", "-RSB-", ",", "-LSB-", "9", "-RSB-", "." ], [ "In", "statistics", ",", "the", "problem", "of", "selecting", "samples", "to", "label", "is", "typically", "referred", "to", "as", "experimental", "design", "." ], [ "The", "sample", "x", "is", "referred", "to", "as", "experiment", ",", "and", "its", "label", "y", "is", "referred", "to", "as", "measurement", "." ], [ "The", "study", "of", "optimal", "experimental", "design", "-LRB-", "OED", "-RRB-", "-LSB-", "1", "-RSB-", "is", "concerned", "with", "the", "design", "of", "experiments", "that", "are", "expected", "to", "minimize", "variances", "of", "a", "parameterized", "model", "." ], [ "The", "intent", "of", "optimal", "experimental", "design", "is", "usually", "to", "maximize", "confidence", "in", "a", "given", "model", ",", "minimize", "parameter", "variances", "for", "system", "identification", ",", "or", "minimize", "the", "model", "'s", "output", "variance", "." ], [ "Classical", "experimental", "design", "approaches", "include", "A-Optimal", "Design", ",", "D-Optimal", "Design", ",", "and", "E-Optimal", "Design", "." ], [ "All", "of", "these", "approaches", "are", "based", "on", "a", "least", "squares", "regression", "model", "." ], [ "Comparing", "to", "SVM", "based", "active", "learning", "algorithms", ",", "experimental", "design", "approaches", "are", "much", "more", "efficient", "in", "computation", "." ], [ "However", ",", "this", "kind", "of", "approaches", "takes", "only", "measured", "-LRB-", "or", ",", "labeled", "-RRB-", "data", "into", "account", "in", "their", "objective", "function", ",", "while", "the", "unmeasured", "-LRB-", "or", ",", "unlabeled", "-RRB-", "data", "is", "ignored", "." ], [ "Benefit", "from", "recent", "progresses", "on", "optimal", "experimental", "design", "and", "semi-supervised", "learning", ",", "in", "this", "paper", "we", "propose", "a", "novel", "active", "learning", "algorithm", "for", "image", "retrieval", ",", "called", "Laplacian", "Optimal", "Design", "-LRB-", "LOD", "-RRB-", "." ], [ "Unlike", "traditional", "experimental", "design", "methods", "whose", "loss", "functions", "are", "only", "defined", "on", "the", "measured", "points", ",", "the", "loss", "function", "of", "our", "proposed", "LOD", "algorithm", "is", "defined", "on", "both", "measured", "and", "unmeasured", "points", "." ], [ "Specifically", ",", "we", "introduce", "a", "locality", "preserving", "regularizer", "into", "the", "standard", "least-square-error", "based", "loss", "function", "." ], [ "The", "new", "loss", "function", "aims", "to", "find", "a", "classifier", "which", "is", "locally", "as", "smooth", "as", "possible", "." ], [ "In", "other", "words", ",", "if", "two", "points", "are", "sufficiently", "close", "to", "each", "other", "in", "the", "input", "space", ",", "then", "they", "are", "expected", "to", "share", "the", "same", "label", "." ], [ "Once", "the", "loss", "function", "is", "defined", ",", "we", "can", "select", "the", "most", "informative", "data", "points", "which", "are", "presented", "to", "the", "user", "for", "labeling", "." ], [ "It", "would", "be", "important", "to", "note", "that", "the", "most", "informative", "images", "may", "not", "be", "the", "top", "returned", "images", "." ], [ "The", "rest", "of", "the", "paper", "is", "organized", "as", "follows", "." ], [ "In", "Section", "2", ",", "we", "provide", "a", "brief", "description", "of", "the", "related", "work", "." ], [ "Our", "proposed", "Laplacian", "Optimal", "Design", "algorithm", "is", "introduced", "in", "Section", "3", "." ], [ "In", "Section", "4", ",", "we", "compare", "our", "algorithm", "with", "the", "state-or-the-art", "algorithms", "and", "present", "the", "experimental", "results", "on", "image", "retrieval", "." ], [ "Finally", ",", "we", "provide", "some", "concluding", "remarks", "and", "suggestions", "for", "future", "work", "in", "Section", "5", "." ], [ "2", "." ], [ "RELATED", "WORK" ], [ "Since", "our", "proposed", "algorithm", "is", "based", "on", "regression", "framework", "." ], [ "The", "most", "related", "work", "is", "optimal", "experimental", "design", "-LSB-", "1", "-RSB-", ",", "including", "A-Optimal", "Design", ",", "D-Optimal", "Design", ",", "and", "EOptimal", "Design", "." ], [ "In", "this", "Section", ",", "we", "give", "a", "brief", "description", "of", "these", "approaches", "." ], [ "2.1", "The", "Active", "Learning", "Problem" ], [ "The", "generic", "problem", "of", "active", "learning", "is", "the", "following", "." ], [ "In", "other", "words", ",", "the", "points", "zi", "-LRB-", "i", "=", "1", ",", "·", "·", "·", ",", "k", "-RRB-", "can", "improve", "the", "classifier", "the", "most", "if", "they", "are", "labeled", "and", "used", "as", "training", "points", "." ], [ "2.2", "Optimal", "Experimental", "Design" ], [ "We", "consider", "a", "linear", "regression", "model" ], [ "Different", "observations", "have", "errors", "that", "are", "independent", ",", "but", "with", "equal", "variances", "σ2", "." ], [ "Thus", ",", "the", "maximum", "likelihood", "estimate", "for", "the", "weight", "vector", ",", "ˆw", ",", "is", "that", "which", "minimizes", "the", "sum", "squared", "error" ], [ "The", "three", "most", "common", "scalar", "measures", "of", "the", "size", "of", "the", "parameter", "covariance", "matrix", "in", "optimal", "experimental", "design" ], [ "are", ":", "•", "D-optimal", "design", ":", "determinant", "of", "Hsse", "." ], [ "•", "A-optimal", "design", ":", "trace", "of", "Hsse", "." ], [ "•", "E-optimal", "design", ":", "maximum", "eigenvalue", "of", "Hsse", "." ], [ "Since", "the", "computation", "of", "the", "determinant", "and", "eigenvalues", "of", "a", "matrix", "is", "much", "more", "expensive", "than", "the", "computation", "of", "matrix", "trace", ",", "A-optimal", "design", "is", "more", "efficient", "than", "the", "other", "two", "." ], [ "Some", "recent", "work", "on", "experimental", "design", "can", "be", "found", "in", "-LSB-", "6", "-RSB-", ",", "-LSB-", "16", "-RSB-", "." ], [ "7", "." ], [ "CONCLUSIONS", "AND", "FUTURE", "WORK" ], [ "This", "paper", "describes", "a", "novel", "active", "learning", "algorithm", ",", "called", "Laplacian", "Optimal", "Design", ",", "to", "enable", "more", "effective", "relevance", "feedback", "image", "retrieval", "." ], [ "Our", "algorithm", "is", "based", "on", "an", "objective", "function", "which", "simultaneously", "minimizes", "the", "empirical", "error", "and", "preserves", "the", "local", "geometrical", "structure", "of", "the", "data", "space", "." ], [ "Using", "techniques", "from", "experimental", "design", ",", "our", "algorithm", "finds", "the", "most", "informative", "images", "to", "label", "." ], [ "These", "labeled", "images", "and", "the", "unlabeled", "images", "in", "the", "database", "are", "used", "to", "learn", "a", "classifier", "." ], [ "The", "experimental", "results", "on", "Corel", "database", "show", "that", "both", "active", "learning", "and", "semi-supervised", "learning", "can", "significantly", "improve", "the", "retrieval", "performance", "." ], [ "In", "this", "paper", ",", "we", "consider", "the", "image", "retrieval", "problem", "on", "a", "small", ",", "static", ",", "and", "closed-domain", "image", "data", "." ], [ "For", "Web", "image", "search", ",", "it", "is", "possible", "to", "collect", "a", "large", "amount", "of", "user", "click", "information", "." ], [ "This", "information", "can", "be", "naturally", "used", "to", "construct", "the", "affinity", "graph", "in", "our", "algorithm", "." ] ]

[ [ "NNP", "JJ", "NN", "IN", "NN", "SYM", "NNP" ], [ "NN" ], [ "NN", "NN", "VBZ", "DT", "JJ", "NN", "TO", "VB", "NNP", "NN", "NN", "-LRB-", "NN", "-RRB-", "NN", "." ], [ "PRP", "VBZ", "DT", "NN", "POS", "NN", "NNS", "IN", "DT", "VBN", "NNS", "VBN", "IN", "DT", "NN", "NNS", "." ], [ "DT", "NN", "POS", "NN", "VBZ", "RB", "VBN", "TO", "VB", "DT", "NN", "TO", "VB", "IN", "JJ", "CC", "JJ", "NNS", "." ], [ "RB", ",", "DT", "JJ", "VBD", "NNS", "MD", "RB", "VB", "DT", "RBS", "JJ", "NNS", "." ], [ "DT", "NN", "VBZ", "RB", "TO", "VB", "WDT", "JJ", "NNS", "MD", "VB", "DT", "RBS", "JJ", "-LRB-", "FW", ",", "VB", "DT", "NN", "DT", "RBS", "-RRB-", "IN", "PRP", "VBD", "VBN", "CC", "VBN", "IN", "NN", "NNS", "." ], [ "IN", "DT", "NN", ",", "PRP", "VBP", "DT", "JJ", "JJ", "NN", "NN", ",", "VBN", "NNP", "JJ", "NN", "-LRB-", "NN", "-RRB-", ",", "IN", "NN", "NN", "NN", "NN", "." ], [ "PRP$", "NN", "VBZ", "VBN", "IN", "DT", "NN", "NN", "WDT", "VBZ", "DT", "JJS", "JJ", "NN", "IN", "DT", "VBN", "-LRB-", "CC", ",", "VBN", "-RRB-", "NNS", "CC", "RB", "VBZ", "DT", "JJ", "JJ", "NN", "IN", "DT", "NN", "NN", "." ], [ "RB", ",", "PRP", "VBP", "IN", "IN", "CD", "NNS", "VBP", "RB", "JJ", "TO", "DT", "JJ", ",", "RB", "PRP$", "NNS", "-LRB-", "CC", ",", "NNS", "-RRB-", "VBP", "RB", "RB", "RB", "." ], [ "IN", "VBG", "DT", "JJS", "NN", "NN", ",", "DT", "JJ", "NN", "IN", "DT", "NN", "NN", "MD", "VB", "VBN", "IN", "DT", "NN", "NN", "." ], [ "PRP", "VBP", "WRB", "NNS", "IN", "DT", "NN", "IN", "JJ", "JJ", "NN", "MD", "VB", "VBN", "TO", "VB", "PRP$", "NN", "IN", "DT", "NN", "IN", "NNS", ",", "WDT", "VBZ", "PRP", "DT", "RBS", "VB", "IN", "NN", "." ], [ "JJ", "NNS", "IN", "NNP", "NN", "VBP", "IN", "DT", "VBN", "NN", "VBZ", "JJR", "NN", "IN", "NN", "NN", "NN", "NN", "." ], [ "LS", "." ], [ "NN" ], [ "IN", "JJ", "NN", "NN", "CC", "NN", "NN", "NNS", ",", "EX", "VBZ", "DT", "NN", "IN", "JJ", "NNS", "CC", "NNS", "VBP", "JJ", "." ], [ "DT", "NN", "VBZ", "RB", "TO", "VB", "WDT", "JJ", "NNS", "MD", "VB", "DT", "RBS", "JJ", "-LRB-", "FW", ",", "VB", "DT", "NN", "DT", "RBS", "-RRB-", "IN", "PRP", "VBD", "VBN", "CC", "VBN", "IN", "NN", "NNS", "." ], [ "DT", "NN", "VBZ", "RB", "VBN", "JJ", "NN", "-LRB-", "CD", "-RRB-", "." ], [ "JJ", "JJ", "NN", "NNS", "MD", "VB", "VBN", "IN", "JJ", "NN", "NN", "." ], [ "RB", ",", "PRP", "VBP", "DT", "NN", "IN", "NN", "NN", "VBN", "JJ", "NN", "NN", "-LRB-", "NN", "-RRB-", "-LRB-", "CD", "-RRB-", "." ], [ "JJ", "NN", "NN", "VBZ", "VBN", "JJ", "NNS", "IN", "DT", "JJ", "NN", "-LRB-", "CD", "-RRB-", "." ], [ "PRP", "VBZ", "VBN", "IN", "DT", "JJ", "NN", "IN", "JJ", "NN", "NNS", "WDT", ",", "IN", "NN", ",", "VBP", "JJ", "NN", "NNS", "." ], [ "RB", "IN", "VBP", "DT", "NN", "VBG", "NN", ",", "IN", "DT", "NNS", "DT", "NN", "NN", "VBZ", "VBN", "VBG", "CD", "CC", "JJR", "NN", "NNS", "." ], [ "DT", "JJ", "NN", "JJ", "NNS", "-LRB-", "NN", ",", "NN", ",", "NN", ",", "FW", "-RRB-", "VBP", "RB", "VBN", "TO", "VB", "DT", "NNS", "." ], [ "TO", "VB", "RP", "DT", "JJ", "NN", ",", "NN", "NN", "VBZ", "VBN", "IN", "NN", "-LRB-", "CD", "-RRB-", "." ], [ "IN", "JJ", "IN", "DT", "JJ", "NN", "NN", "VBN", "NN", "NNS", ",", "DT", "NN", "VBZ", "VBN", "TO", "VB", "NN", "NN", "NNS", "IN", "DT", "JJ", "NNS", "VBN", "IN", "DT", "NN", "." ], [ "DT", "VBN", "NNS", "VBP", "RB", "VBN", "TO", "VB", "DT", "NN", "TO", "JJ", "NNS", "WDT", "VBP", "DT", "NN", "NN", "IN", "DT", "WDT", "VBP", "RB", "." ], [ "RB", ",", "IN", "JJ", "DT", "JJ", "VBD", "NNS", "MD", "RB", "VB", "DT", "RBS", "JJ", "NNS", "." ], [ "IN", "DT", "JJS", "NN", ",", "PDT", "DT", "JJ", "NNS", "VBN", "IN", "DT", "NN", "MD", "VB", "JJ", "CC", "RB", "DT", "JJ", "NN", "NNS", "MD", "RB", "VB", "VBN", "JJ", "TO", "DT", "NN", "IN", "JJ", "NNS", "." ], [ "IN", "DT", "JJ", "NN", "NNS", "WRB", "DT", "VBN", "NNS", "VBP", "JJ", ",", "IN", "NN", "NN", "NN", "NN", "DT", "NN", "MD", "RB", "VB", "DT", "NNS", "TO", "NN", "." ], [ "RB", "JJ", "NN", "MD", "VB", "RB", "VBN", "IN", "NN", "NN", "." ], [ "IN", "JJ", "VBG", "JJ", "NN", "NNS", ",", "NN", "NNP", "NN", "-LRB-", "NN", "-RRB-", "JJ", "NN", "-LRB-", "CD", "-RRB-", "CC", "NN", "VBN", "JJ", "NN", "-LRB-", "CD", "-RRB-", "VBP", "VBN", "DT", "RBS", "NNS", "." ], [ "DT", "JJ", "NN", "IN", "NN", "JJ", "NN", "VBZ", "IN", "DT", "VBN", "NN", "MD", "RB", "VB", "JJ", "RB", "." ], [ "RB", ",", "PRP", "MD", "RB", "VB", "VBN", "IN", "DT", "NN", "IN", "DT", "NN", "WRB", "EX", "VBZ", "DT", "JJ", "NNS", "." ], [ "DT", "JJ", "NN", "VBN", "JJ", "NN", "NNS", "MD", "VB", "VBN", "IN", "-LRB-", "CD", "-RRB-", ",", "-LRB-", "CD", "-RRB-", "." ], [ "IN", "NNS", ",", "DT", "NN", "IN", "VBG", "NNS", "TO", "NN", "VBZ", "RB", "VBN", "TO", "IN", "JJ", "NN", "." ], [ "DT", "NN", "NN", "VBZ", "VBN", "TO", "IN", "NN", ",", "CC", "PRP$", "NN", "NN", "VBZ", "VBN", "TO", "IN", "NN", "." ], [ "DT", "NN", "IN", "JJ", "JJ", "NN", "-LRB-", "NN", "-RRB-", "-LRB-", "CD", "-RRB-", "VBZ", "VBN", "IN", "DT", "NN", "IN", "NNS", "WDT", "VBP", "VBN", "TO", "VB", "NNS", "IN", "DT", "JJ", "NN", "." ], [ "DT", "NN", "IN", "JJ", "JJ", "NN", "VBZ", "RB", "TO", "VB", "NN", "IN", "DT", "VBN", "NN", ",", "VBP", "NN", "NNS", "IN", "NN", "NN", ",", "CC", "VB", "DT", "NN", "POS", "NN", "NN", "." ], [ "JJ", "JJ", "NN", "NNS", "VBP", "NNP", "NNP", ",", "NNP", "NNP", ",", "CC", "NNP", "NNP", "." ], [ "DT", "IN", "DT", "NNS", "VBP", "VBN", "IN", "DT", "JJS", "NNS", "NN", "NN", "." ], [ "VBG", "TO", "NNP", "VBN", "JJ", "NN", "NNS", ",", "JJ", "NN", "NNS", "VBP", "RB", "RBR", "JJ", "IN", "NN", "." ], [ "RB", ",", "DT", "NN", "IN", "NNS", "VBZ", "RB", "VBN", "-LRB-", "CC", ",", "VBN", "-RRB-", "NNS", "IN", "NN", "IN", "PRP$", "JJ", "NN", ",", "IN", "DT", "JJ", "-LRB-", "CC", ",", "JJ", "-RRB-", "NNS", "VBZ", "VBN", "." ], [ "NNP", "IN", "JJ", "VBZ", "IN", "JJ", "JJ", "NN", "CC", "JJ", "NN", ",", "IN", "DT", "NN", "PRP", "VBP", "DT", "JJ", "JJ", "NN", "NN", "IN", "NN", "NN", ",", "VBN", "NNP", "JJ", "NN", "-LRB-", "NN", "-RRB-", "." ], [ "IN", "JJ", "JJ", "NN", "NNS", "WP$", "NN", "NNS", "VBP", "RB", "VBN", "IN", "DT", "VBN", "NNS", ",", "DT", "NN", "NN", "IN", "PRP$", "VBN", "NNP", "NN", "VBZ", "VBN", "IN", "DT", "VBN", "CC", "JJ", "NNS", "." ], [ "RB", ",", "PRP", "VBP", "DT", "NN", "VBG", "NN", "IN", "DT", "JJ", "NN", "VBN", "NN", "NN", "." ], [ "DT", "JJ", "NN", "NN", "VBZ", "TO", "VB", "DT", "NN", "WDT", "VBZ", "RB", "IN", "JJ", "IN", "JJ", "." ], [ "IN", "JJ", "NNS", ",", "IN", "CD", "NNS", "VBP", "RB", "JJ", "TO", "DT", "JJ", "IN", "DT", "NN", "NN", ",", "RB", "PRP", "VBP", "VBN", "TO", "VB", "DT", "JJ", "NN", "." ], [ "RB", "DT", "NN", "NN", "VBZ", "VBN", ",", "PRP", "MD", "VB", "DT", "RBS", "JJ", "NNS", "NNS", "WDT", "VBP", "VBN", "TO", "DT", "NN", "IN", "NN", "." ], [ "PRP", "MD", "VB", "JJ", "TO", "VB", "IN", "DT", "RBS", "JJ", "NNS", "MD", "RB", "VB", "DT", "JJ", "VBD", "NNS", "." ], [ "DT", "NN", "IN", "DT", "NN", "VBZ", "VBN", "IN", "VBZ", "." ], [ "IN", "NN", "CD", ",", "PRP", "VBP", "DT", "JJ", "NN", "IN", "DT", "JJ", "NN", "." ], [ "PRP$", "VBN", "NNP", "JJ", "NN", "NN", "VBZ", "VBN", "IN", "NN", "CD", "." ], [ "IN", "NN", "CD", ",", "PRP", "VBP", "PRP$", "NN", "IN", "DT", "JJ", "NNS", "CC", "VB", "DT", "JJ", "NNS", "IN", "NN", "NN", "." ], [ "RB", ",", "PRP", "VBP", "DT", "VBG", "NNS", "CC", "NNS", "IN", "JJ", "NN", "IN", "NN", "CD", "." ], [ "LS", "." ], [ "JJ", "VBP" ], [ "IN", "PRP$", "VBN", "NN", "VBZ", "VBN", "IN", "NN", "NN", "." ], [ "DT", "RBS", "JJ", "NN", "VBZ", "JJ", "JJ", "NN", "-LRB-", "CD", "-RRB-", ",", "VBG", "NNP", "NNP", ",", "NNP", "NNP", ",", "CC", "NNP", "NNP", "." ], [ "IN", "DT", "NN", ",", "PRP", "VBP", "DT", "JJ", "NN", "IN", "DT", "NNS", "." ], [ "CD", "DT", "JJ", "NNP", "NNP" ], [ "DT", "JJ", "NN", "IN", "JJ", "NN", "VBZ", "DT", "VBG", "." ], [ "IN", "JJ", "NNS", ",", "DT", "NNS", "NN", "-LRB-", "FW", "JJ", "CD", ",", "CD", "CD", "NN", ",", "NN", "-RRB-", "MD", "VB", "DT", "NN", "DT", "RBS", "IN", "PRP", "VBP", "VBN", "CC", "VBN", "IN", "NN", "NNS", "." ], [ "CD", "JJ", "JJ", "NN" ], [ "PRP", "VBP", "DT", "JJ", "NN", "NN" ], [ "JJ", "NNS", "VBP", "NNS", "WDT", "VBP", "JJ", ",", "CC", "IN", "JJ", "NNS", "NN", "." ], [ "RB", ",", "DT", "NN", "NN", "NN", "IN", "DT", "NN", "NN", ",", "NN", ",", "VBZ", "IN", "WDT", "VBZ", "DT", "NN", "VBD", "NN" ], [ "DT", "CD", "RBS", "JJ", "NN", "NNS", "IN", "DT", "NN", "IN", "DT", "NN", "NN", "NN", "IN", "JJ", "JJ", "NN" ], [ "VBP", ":", "CD", "JJ", "NN", ":", "NN", "IN", "NN", "." ], [ "NN", "JJ", "NN", ":", "NN", "IN", "NN", "." ], [ "NN", "JJ", "NN", ":", "NN", "NN", "IN", "NN", "." ], [ "IN", "DT", "NN", "IN", "DT", "NN", "CC", "NNS", "IN", "DT", "NN", "VBZ", "RB", "RBR", "JJ", "IN", "DT", "NN", "IN", "NN", "NN", ",", "JJ", "NN", "VBZ", "RBR", "JJ", "IN", "DT", "JJ", "CD", "." ], [ "DT", "JJ", "NN", "IN", "JJ", "NN", "MD", "VB", "VBN", "IN", "-LRB-", "CD", "-RRB-", ",", "-LRB-", "CD", "-RRB-", "." ], [ "CD", "." ], [ "NNS", "CC", "NNS", "VBP" ], [ "DT", "NN", "VBZ", "DT", "JJ", "JJ", "NN", "NN", ",", "VBN", "NNP", "JJ", "NN", ",", "TO", "VB", "RBR", "JJ", "NN", "NN", "NN", "NN", "." ], [ "PRP$", "NN", "VBZ", "VBN", "IN", "DT", "JJ", "NN", "WDT", "RB", "VBZ", "DT", "JJ", "NN", "CC", "VBZ", "DT", "JJ", "JJ", "NN", "IN", "DT", "NNS", "NN", "." ], [ "VBG", "NNS", "IN", "JJ", "NN", ",", "PRP$", "NN", "VBZ", "DT", "RBS", "JJ", "NNS", "TO", "NN", "." ], [ "DT", "VBN", "NNS", "CC", "DT", "JJ", "NNS", "IN", "DT", "NN", "VBP", "VBN", "TO", "VB", "DT", "NN", "." ], [ "DT", "JJ", "NNS", "IN", "NN", "NN", "VBP", "IN", "CC", "JJ", "NN", "CC", "JJ", "NN", "MD", "RB", "VB", "DT", "NN", "NN", "." ], [ "IN", "DT", "NN", ",", "PRP", "VBP", "DT", "NN", "NN", "NN", "IN", "DT", "JJ", ",", "JJ", ",", "CC", "JJ", "NN", "NNS", "." ], [ "IN", "NN", "NN", "NN", ",", "PRP", "VBZ", "JJ", "TO", "VB", "DT", "JJ", "NN", "IN", "NN", "VBP", "NN", "." ], [ "DT", "NN", "MD", "VB", "RB", "VBN", "TO", "VB", "DT", "NN", "NN", "IN", "PRP$", "NN", "." ] ]

[ [ "Laplacian", "optimal", "design", "for", "imag", "e", "Retrieval" ], [ "abstract" ], [ "relevance", "feedback", "be", "a", "powerful", "technique", "to", "enhance", "ContentBased", "image", "retrieval", "-lrb-", "cbir", "-rrb-", "performance", "." ], [ "it", "solicit", "the", "user", "'s", "relevance", "judgment", "on", "the", "retrieve", "image", "return", "by", "the", "cbir", "system", "." ], [ "the", "user", "'s", "labeling", "be", "then", "use", "to", "learn", "a", "classifier", "to", "distinguish", "between", "relevant", "and", "irrelevant", "image", "." ], [ "however", ",", "the", "top", "return", "image", "may", "not", "be", "the", "most", "informative", "one", "." ], [ "the", "challenge", "be", "thus", "to", "determine", "which", "unlabeled", "image", "would", "be", "the", "most", "informative", "-lrb-", "i.e.", ",", "improve", "the", "classifier", "the", "most", "-rrb-", "if", "they", "be", "label", "and", "use", "as", "training", "sample", "." ], [ "in", "this", "paper", ",", "we", "propose", "a", "novel", "active", "learning", "algorithm", ",", "call", "Laplacian", "optimal", "design", "-lrb-", "lod", "-rrb-", ",", "for", "relevance", "feedback", "image", "retrieval", "." ], [ "we", "algorithm", "be", "base", "on", "a", "regression", "model", "which", "minimize", "the", "least", "square", "error", "on", "the", "measure", "-lrb-", "or", ",", "label", "-rrb-", "image", "and", "simultaneously", "preserve", "the", "local", "geometrical", "structure", "of", "the", "image", "space", "." ], [ "specifically", ",", "we", "assume", "that", "if", "two", "image", "be", "sufficiently", "close", "to", "each", "other", ",", "then", "they", "measurement", "-lrb-", "or", ",", "label", "-rrb-", "be", "close", "as", "well", "." ], [ "by", "construct", "a", "nearest", "neighbor", "graph", ",", "the", "geometrical", "structure", "of", "the", "image", "space", "can", "be", "describe", "by", "the", "graph", "laplacian", "." ], [ "we", "discuss", "how", "result", "from", "the", "field", "of", "optimal", "experimental", "design", "may", "be", "use", "to", "guide", "we", "selection", "of", "a", "subset", "of", "image", ",", "which", "give", "we", "the", "most", "amount", "of", "information", "." ], [ "experimental", "result", "on", "Corel", "database", "suggest", "that", "the", "propose", "approach", "achieve", "higher", "precision", "in", "relevance", "feedback", "image", "retrieval", "." ], [ "1", "." ], [ "introduction" ], [ "in", "many", "machine", "learning", "and", "information", "retrieval", "task", ",", "there", "be", "no", "shortage", "of", "unlabeled", "datum", "but", "label", "be", "expensive", "." ], [ "the", "challenge", "be", "thus", "to", "determine", "which", "unlabeled", "sample", "would", "be", "the", "most", "informative", "-lrb-", "i.e.", ",", "improve", "the", "classifier", "the", "most", "-rrb-", "if", "they", "be", "label", "and", "use", "as", "training", "sample", "." ], [ "this", "problem", "be", "typically", "call", "active", "learning", "-lsb-", "4", "-rsb-", "." ], [ "many", "real", "world", "application", "can", "be", "cast", "into", "active", "learning", "framework", "." ], [ "particularly", ",", "we", "consider", "the", "problem", "of", "relevance", "feedback", "drive", "content-based", "image", "retrieval", "-lrb-", "cbir", "-rrb-", "-lsb-", "13", "-rsb-", "." ], [ "content-based", "image", "retrieval", "have", "attract", "substantial", "interest", "in", "the", "last", "decade", "-lsb-", "13", "-rsb-", "." ], [ "it", "be", "motivate", "by", "the", "fast", "growth", "of", "digital", "image", "database", "which", ",", "in", "turn", ",", "require", "efficient", "search", "scheme", "." ], [ "rather", "than", "describe", "a", "image", "use", "text", ",", "in", "these", "system", "a", "image", "query", "be", "describe", "use", "one", "or", "more", "example", "image", "." ], [ "the", "low", "level", "visual", "feature", "-lrb-", "color", ",", "texture", ",", "shape", ",", "etc.", "-rrb-", "be", "automatically", "extract", "to", "represent", "the", "image", "." ], [ "to", "narrow", "down", "the", "semantic", "gap", ",", "relevance", "feedback", "be", "introduce", "into", "cbir", "-lsb-", "12", "-rsb-", "." ], [ "in", "many", "of", "the", "current", "relevance", "feedback", "drive", "cbir", "system", ",", "the", "user", "be", "require", "to", "provide", "his/her", "relevance", "judgment", "on", "the", "top", "image", "return", "by", "the", "system", "." ], [ "the", "label", "image", "be", "then", "use", "to", "train", "a", "classifier", "to", "separate", "image", "that", "match", "the", "query", "concept", "from", "those", "that", "do", "not", "." ], [ "however", ",", "in", "general", "the", "top", "return", "image", "may", "not", "be", "the", "most", "informative", "one", "." ], [ "in", "the", "worst", "case", ",", "all", "the", "top", "image", "label", "by", "the", "user", "may", "be", "positive", "and", "thus", "the", "standard", "classification", "technique", "can", "not", "be", "apply", "due", "to", "the", "lack", "of", "negative", "example", "." ], [ "unlike", "the", "standard", "classification", "problem", "where", "the", "label", "sample", "be", "pregiven", ",", "in", "relevance", "feedback", "image", "retrieval", "the", "system", "can", "actively", "select", "the", "image", "to", "label", "." ], [ "thus", "active", "learning", "can", "be", "naturally", "introduce", "into", "image", "retrieval", "." ], [ "despite", "many", "exist", "active", "learning", "technique", ",", "support", "Vector", "machine", "-lrb-", "svm", "-rrb-", "active", "learning", "-lsb-", "14", "-rsb-", "and", "regression", "base", "active", "learning", "-lsb-", "1", "-rsb-", "have", "receive", "the", "most", "interest", "." ], [ "the", "major", "disadvantage", "of", "svm", "active", "learning", "be", "that", "the", "estimate", "boundary", "may", "not", "be", "accurate", "enough", "." ], [ "moreover", ",", "it", "may", "not", "be", "apply", "at", "the", "beginning", "of", "the", "retrieval", "when", "there", "be", "no", "labeled", "image", "." ], [ "some", "other", "svm", "base", "active", "learning", "algorithm", "can", "be", "find", "in", "-lsb-", "7", "-rsb-", ",", "-lsb-", "9", "-rsb-", "." ], [ "in", "statistics", ",", "the", "problem", "of", "select", "sample", "to", "label", "be", "typically", "refer", "to", "as", "experimental", "design", "." ], [ "the", "sample", "x", "be", "refer", "to", "as", "experiment", ",", "and", "its", "label", "y", "be", "refer", "to", "as", "measurement", "." ], [ "the", "study", "of", "optimal", "experimental", "design", "-lrb-", "oed", "-rrb-", "-lsb-", "1", "-rsb-", "be", "concern", "with", "the", "design", "of", "experiment", "that", "be", "expect", "to", "minimize", "variance", "of", "a", "parameterized", "model", "." ], [ "the", "intent", "of", "optimal", "experimental", "design", "be", "usually", "to", "maximize", "confidence", "in", "a", "give", "model", ",", "minimize", "parameter", "variance", "for", "system", "identification", ",", "or", "minimize", "the", "model", "'s", "output", "variance", "." ], [ "classical", "experimental", "design", "approach", "include", "A-Optimal", "Design", ",", "D-Optimal", "Design", ",", "and", "E-Optimal", "Design", "." ], [ "all", "of", "these", "approach", "be", "base", "on", "a", "least", "square", "regression", "model", "." ], [ "compare", "to", "SVM", "base", "active", "learning", "algorithm", ",", "experimental", "design", "approach", "be", "much", "more", "efficient", "in", "computation", "." ], [ "however", ",", "this", "kind", "of", "approach", "take", "only", "measure", "-lrb-", "or", ",", "label", "-rrb-", "datum", "into", "account", "in", "they", "objective", "function", ",", "while", "the", "unmeasured", "-lrb-", "or", ",", "unlabeled", "-rrb-", "datum", "be", "ignore", "." ], [ "Benefit", "from", "recent", "progress", "on", "optimal", "experimental", "design", "and", "semi-supervised", "learning", ",", "in", "this", "paper", "we", "propose", "a", "novel", "active", "learning", "algorithm", "for", "image", "retrieval", ",", "call", "Laplacian", "optimal", "design", "-lrb-", "lod", "-rrb-", "." ], [ "unlike", "traditional", "experimental", "design", "method", "whose", "loss", "function", "be", "only", "define", "on", "the", "measure", "point", ",", "the", "loss", "function", "of", "we", "propose", "LOD", "algorithm", "be", "define", "on", "both", "measure", "and", "unmeasured", "point", "." ], [ "specifically", ",", "we", "introduce", "a", "locality", "preserve", "regularizer", "into", "the", "standard", "least-square-error", "base", "loss", "function", "." ], [ "the", "new", "loss", "function", "aim", "to", "find", "a", "classifier", "which", "be", "locally", "as", "smooth", "as", "possible", "." ], [ "in", "other", "word", ",", "if", "two", "point", "be", "sufficiently", "close", "to", "each", "other", "in", "the", "input", "space", ",", "then", "they", "be", "expect", "to", "share", "the", "same", "label", "." ], [ "once", "the", "loss", "function", "be", "define", ",", "we", "can", "select", "the", "most", "informative", "datum", "point", "which", "be", "present", "to", "the", "user", "for", "labeling", "." ], [ "it", "would", "be", "important", "to", "note", "that", "the", "most", "informative", "image", "may", "not", "be", "the", "top", "return", "image", "." ], [ "the", "rest", "of", "the", "paper", "be", "organize", "as", "follow", "." ], [ "in", "section", "2", ",", "we", "provide", "a", "brief", "description", "of", "the", "related", "work", "." ], [ "we", "propose", "Laplacian", "optimal", "design", "algorithm", "be", "introduce", "in", "section", "3", "." ], [ "in", "section", "4", ",", "we", "compare", "we", "algorithm", "with", "the", "state-or-the-art", "algorithm", "and", "present", "the", "experimental", "result", "on", "image", "retrieval", "." ], [ "finally", ",", "we", "provide", "some", "conclude", "remark", "and", "suggestion", "for", "future", "work", "in", "section", "5", "." ], [ "2", "." ], [ "related", "work" ], [ "since", "we", "propose", "algorithm", "be", "base", "on", "regression", "framework", "." ], [ "the", "most", "related", "work", "be", "optimal", "experimental", "design", "-lsb-", "1", "-rsb-", ",", "include", "A-Optimal", "Design", ",", "D-Optimal", "Design", ",", "and", "EOptimal", "Design", "." ], [ "in", "this", "section", ",", "we", "give", "a", "brief", "description", "of", "these", "approach", "." ], [ "2.1", "the", "active", "Learning", "Problem" ], [ "the", "generic", "problem", "of", "active", "learning", "be", "the", "follow", "." ], [ "in", "other", "word", ",", "the", "point", "zi", "-lrb-", "i", "=", "1", ",", "·", "·", "·", ",", "k", "-rrb-", "can", "improve", "the", "classifier", "the", "most", "if", "they", "be", "label", "and", "use", "as", "training", "point", "." ], [ "2.2", "optimal", "experimental", "design" ], [ "we", "consider", "a", "linear", "regression", "model" ], [ "different", "observation", "have", "error", "that", "be", "independent", ",", "but", "with", "equal", "variance", "σ2", "." ], [ "thus", ",", "the", "maximum", "likelihood", "estimate", "for", "the", "weight", "vector", ",", "ˆw", ",", "be", "that", "which", "minimize", "the", "sum", "square", "error" ], [ "the", "three", "most", "common", "scalar", "measure", "of", "the", "size", "of", "the", "parameter", "covariance", "matrix", "in", "optimal", "experimental", "design" ], [ "be", ":", "•", "d-optimal", "design", ":", "determinant", "of", "hsse", "." ], [ "•", "a-optimal", "design", ":", "trace", "of", "hsse", "." ], [ "•", "e-optimal", "design", ":", "maximum", "eigenvalue", "of", "hsse", "." ], [ "since", "the", "computation", "of", "the", "determinant", "and", "eigenvalue", "of", "a", "matrix", "be", "much", "more", "expensive", "than", "the", "computation", "of", "matrix", "trace", ",", "a-optimal", "design", "be", "more", "efficient", "than", "the", "other", "two", "." ], [ "some", "recent", "work", "on", "experimental", "design", "can", "be", "find", "in", "-lsb-", "6", "-rsb-", ",", "-lsb-", "16", "-rsb-", "." ], [ "7", "." ], [ "conclusion", "and", "future", "work" ], [ "this", "paper", "describe", "a", "novel", "active", "learning", "algorithm", ",", "call", "Laplacian", "optimal", "design", ",", "to", "enable", "more", "effective", "relevance", "feedback", "image", "retrieval", "." ], [ "we", "algorithm", "be", "base", "on", "a", "objective", "function", "which", "simultaneously", "minimize", "the", "empirical", "error", "and", "preserve", "the", "local", "geometrical", "structure", "of", "the", "datum", "space", "." ], [ "use", "technique", "from", "experimental", "design", ",", "we", "algorithm", "find", "the", "most", "informative", "image", "to", "label", "." ], [ "these", "label", "image", "and", "the", "unlabeled", "image", "in", "the", "database", "be", "use", "to", "learn", "a", "classifier", "." ], [ "the", "experimental", "result", "on", "corel", "database", "show", "that", "both", "active", "learning", "and", "semi-supervised", "learning", "can", "significantly", "improve", "the", "retrieval", "performance", "." ], [ "in", "this", "paper", ",", "we", "consider", "the", "image", "retrieval", "problem", "on", "a", "small", ",", "static", ",", "and", "closed-domain", "image", "datum", "." ], [ "for", "web", "image", "search", ",", "it", "be", "possible", "to", "collect", "a", "large", "amount", "of", "user", "click", "information", "." ], [ "this", "information", "can", "be", "naturally", "use", "to", "construct", "the", "affinity", "graph", "in", "we", "algorithm", "." ] ]

[ "relev feedback", "imag represent", "contentbas imag retriev", "activ learn", "least squar regress model", "optim experiment design", "top return imag", "precis rate", "intrins geometr structur", "patten recognit", "label" ]

J-9

[ [ "Computation", "in", "a", "Distributed", "Information", "Market", "∗" ], [ "ABSTRACT" ], [ "According", "to", "economic", "theory", "--", "supported", "by", "empirical", "and", "laboratory", "evidence", "--", "the", "equilibrium", "price", "of", "a", "financial", "security", "reflects", "all", "of", "the", "information", "regarding", "the", "security", "'s", "value", "." ], [ "We", "investigate", "the", "computational", "process", "on", "the", "path", "toward", "equilibrium", ",", "where", "information", "distributed", "among", "traders", "is", "revealed", "step-by-step", "over", "time", "and", "incorporated", "into", "the", "market", "price", "." ], [ "We", "develop", "a", "simplified", "model", "of", "an", "information", "market", ",", "along", "with", "trading", "strategies", ",", "in", "order", "to", "formalize", "the", "computational", "properties", "of", "the", "process", "." ], [ "We", "show", "that", "securities", "whose", "payoffs", "can", "not", "be", "expressed", "as", "weighted", "threshold", "functions", "of", "distributed", "input", "bits", "are", "not", "guaranteed", "to", "converge", "to", "the", "proper", "equilibrium", "predicted", "by", "economic", "theory", "." ], [ "On", "the", "other", "hand", ",", "securities", "whose", "payoffs", "are", "threshold", "functions", "are", "guaranteed", "to", "converge", ",", "for", "all", "prior", "probability", "distributions", "." ], [ "Moreover", ",", "these", "threshold", "securities", "converge", "in", "at", "most", "n", "rounds", ",", "where", "n", "is", "the", "number", "of", "bits", "of", "distributed", "information", "." ], [ "We", "also", "prove", "a", "lower", "bound", ",", "showing", "a", "type", "of", "threshold", "security", "that", "requires", "at", "least", "n/2", "rounds", "to", "converge", "in", "the", "worst", "case", "." ], [ "∗", "This", "work", "was", "supported", "by", "the", "DoD", "University", "Research", "Initiative", "-LRB-", "URI", "-RRB-", "administered", "by", "the", "Office", "of", "Naval", "Research", "under", "Grant", "N00014-01-1-0795", "." ], [ "†", "Supported", "in", "part", "by", "ONR", "grant", "N00014-01-0795", "and", "NSF", "grants", "CCR-0105337", ",", "CCR-TC-0208972", ",", "ANI-0207399", ",", "and", "ITR-0219018", "." ], [ "‡", "This", "work", "conducted", "while", "at", "NEC", "Laboratories", "America", ",", "Princeton", ",", "NJ", "." ], [ "1", "." ], [ "INTRODUCTION" ], [ "The", "strong", "form", "of", "the", "efficient", "markets", "hypothesis", "states", "that", "market", "prices", "nearly", "instantly", "incorporate", "all", "information", "available", "to", "all", "traders", "." ], [ "As", "a", "result", ",", "market", "prices", "encode", "the", "best", "forecasts", "of", "future", "outcomes", "given", "all", "information", ",", "even", "if", "that", "information", "is", "distributed", "across", "many", "sources", "." ], [ "The", "process", "of", "information", "incorporation", "is", ",", "at", "its", "essence", ",", "a", "distributed", "computation", "." ], [ "Each", "trader", "begins", "with", "his", "or", "her", "own", "information", "." ], [ "As", "trades", "are", "made", ",", "summary", "information", "is", "revealed", "through", "market", "prices", "." ], [ "Traders", "learn", "or", "infer", "what", "information", "others", "are", "likely", "to", "have", "by", "observing", "prices", ",", "then", "update", "their", "own", "beliefs", "based", "on", "their", "observations", "." ], [ "Over", "time", ",", "if", "the", "process", "works", "as", "advertised", ",", "all", "information", "is", "revealed", ",", "and", "all", "traders", "converge", "to", "the", "same", "information", "state", "." ], [ "At", "this", "point", ",", "the", "market", "is", "in", "what", "is", "called", "a", "rational", "expectations", "equilibrium", "-LSB-", "11", ",", "16", ",", "19", "-RSB-", "." ], [ "All", "information", "available", "to", "all", "traders", "is", "now", "reflected", "in", "the", "going", "prices", ",", "and", "no", "further", "trades", "are", "desirable", "until", "some", "new", "information", "becomes", "available", "." ], [ "While", "most", "markets", "are", "not", "designed", "with", "information", "aggregation", "as", "a", "primary", "motivation", "--", "for", "example", ",", "derivatives" ], [ "In", "this", "paper", ",", "we", "investigate", "the", "nature", "of", "the", "computational", "process", "whereby", "distributed", "information", "is", "revealed", "and", "combined", "over", "time", "into", "the", "prices", "in", "information", "markets", "." ], [ "To", "do", "so", ",", "in", "Section", "3", ",", "we", "propose", "a", "model", "of", "an", "information", "market", "that", "is", "tractable", "for", "theoretical", "analysis", "and", ",", "we", "believe", ",", "captures", "much", "of", "the", "important", "essence", "of", "real", "information", "markets", "." ], [ "We", "prove", "that", "only", "Boolean", "securities", "whose", "payoffs", "can", "be", "expressed", "as", "threshold", "functions", "of", "the", "distributed", "input", "bits", "of", "information", "are", "guaranteed", "to", "converge", "as", "predicted", "by", "rational", "expectations", "theory", "." ], [ "Boolean", "securities", "with", "more", "complex", "payoffs", "may", "not", "converge", "under", "some", "prior", "distributions", "." ], [ "We", "also", "provide", "upper", "and", "lower", "bounds", "on", "the", "convergence", "time", "for", "these", "threshold", "securities", "." ], [ "We", "show", "that", ",", "for", "all", "prior", "distributions", ",", "the", "price", "of", "a", "threshold", "security", "converges", "to", "its", "rational", "expectations", "equilibrium", "price", "in", "at", "most", "n", "rounds", ",", "where", "n", "is", "the", "number", "of", "bits", "of", "distributed", "information", "." ], [ "We", "show", "that", "this", "worst-case", "bound", "is", "tight", "within", "a", "factor", "of", "two", "by", "illustrating", "a", "situation", "in", "which", "a", "threshold", "security", "requires", "n/2", "rounds", "to", "converge", "." ] ]

[ [ "NNP", "IN", "DT", "VBN", "NN", "NN", "NN" ], [ "NN" ], [ "VBG", "TO", "JJ", "NN", ":", "VBN", "IN", "JJ", "CC", "JJ", "NN", ":", "DT", "NN", "NN", "IN", "DT", "JJ", "NN", "VBZ", "DT", "IN", "DT", "NN", "VBG", "DT", "NN", "POS", "NN", "." ], [ "PRP", "VBP", "DT", "JJ", "NN", "IN", "DT", "NN", "IN", "NN", ",", "WRB", "NN", "VBN", "IN", "NNS", "VBZ", "VBN", "NN", "IN", "NN", "CC", "VBN", "IN", "DT", "NN", "NN", "." ], [ "PRP", "VBP", "DT", "VBN", "NN", "IN", "DT", "NN", "NN", ",", "IN", "IN", "NN", "NNS", ",", "IN", "NN", "TO", "VB", "DT", "JJ", "NNS", "IN", "DT", "NN", "." ], [ "PRP", "VBP", "IN", "NNS", "WP$", "NNS", "MD", "RB", "VB", "VBN", "IN", "JJ", "NN", "NNS", "IN", "VBN", "NN", "NNS", "VBP", "RB", "VBN", "TO", "VB", "TO", "DT", "JJ", "NN", "VBN", "IN", "JJ", "NN", "." ], [ "IN", "DT", "JJ", "NN", ",", "NNS", "WP$", "NNS", "VBP", "JJ", "NNS", "VBP", "VBN", "TO", "VB", ",", "IN", "DT", "JJ", "NN", "NNS", "." ], [ "RB", ",", "DT", "JJ", "NNS", "VBP", "IN", "IN", "JJS", "NN", "NNS", ",", "WRB", "NN", "VBZ", "DT", "NN", "IN", "NNS", "IN", "VBN", "NN", "." ], [ "PRP", "RB", "VBP", "DT", "JJR", "VBN", ",", "VBG", "DT", "NN", "IN", "NN", "NN", "WDT", "VBZ", "IN", "JJS", "NN", "NNS", "TO", "VB", "IN", "DT", "JJS", "NN", "." ], [ "NN", "DT", "NN", "VBD", "VBN", "IN", "DT", "NNP", "NNP", "NNP", "NNP", "-LRB-", "NNP", "-RRB-", "VBN", "IN", "DT", "NNP", "IN", "NNP", "NNP", "IN", "NNP", "NNP", "." ], [ "NN", "VBN", "IN", "NN", "IN", "NN", "NN", "NN", "CC", "NN", "NNS", "NN", ",", "NN", ",", "NN", ",", "CC", "NN", "." ], [ "NN", "DT", "NN", "VBN", "IN", "IN", "NNP", "NNP", "NNP", ",", "NNP", ",", "NNP", "." ], [ "LS", "." ], [ "NN" ], [ "DT", "JJ", "NN", "IN", "DT", "JJ", "NNS", "NN", "VBZ", "IN", "NN", "NNS", "RB", "RB", "VB", "DT", "NN", "JJ", "TO", "DT", "NNS", "." ], [ "IN", "DT", "NN", ",", "NN", "NNS", "VBP", "DT", "JJS", "NNS", "IN", "JJ", "NNS", "VBN", "DT", "NN", ",", "RB", "IN", "DT", "NN", "VBZ", "VBN", "IN", "JJ", "NNS", "." ], [ "DT", "NN", "IN", "NN", "NN", "VBZ", ",", "IN", "PRP$", "NN", ",", "DT", "VBN", "NN", "." ], [ "DT", "NN", "VBZ", "IN", "PRP$", "CC", "PRP$", "JJ", "NN", "." ], [ "IN", "NNS", "VBP", "VBN", ",", "NN", "NN", "VBZ", "VBN", "IN", "NN", "NNS", "." ], [ "NNS", "VBP", "CC", "VBP", "WP", "NN", "NNS", "VBP", "JJ", "TO", "VB", "IN", "VBG", "NNS", ",", "RB", "VBP", "PRP$", "JJ", "NNS", "VBN", "IN", "PRP$", "NNS", "." ], [ "IN", "NN", ",", "IN", "DT", "NN", "VBZ", "IN", "VBN", ",", "DT", "NN", "VBZ", "VBN", ",", "CC", "DT", "NNS", "VBP", "TO", "DT", "JJ", "NN", "NN", "." ], [ "IN", "DT", "NN", ",", "DT", "NN", "VBZ", "IN", "WP", "VBZ", "VBN", "DT", "JJ", "NNS", "NN", "-LRB-", "CD", ",", "CD", ",", "CD", "-RRB-", "." ], [ "DT", "NN", "JJ", "TO", "DT", "NNS", "VBZ", "RB", "VBN", "IN", "DT", "VBG", "NNS", ",", "CC", "DT", "JJ", "NNS", "VBP", "JJ", "IN", "DT", "JJ", "NN", "VBZ", "JJ", "." ], [ "IN", "JJS", "NNS", "VBP", "RB", "VBN", "IN", "NN", "NN", "IN", "DT", "JJ", "NN", ":", "IN", "NN", ",", "NNS" ], [ "IN", "DT", "NN", ",", "PRP", "VBP", "DT", "NN", "IN", "DT", "JJ", "NN", "WRB", "VBN", "NN", "VBZ", "VBN", "CC", "VBN", "IN", "NN", "IN", "DT", "NNS", "IN", "NN", "NNS", "." ], [ "TO", "VB", "RB", ",", "IN", "NN", "CD", ",", "PRP", "VBP", "DT", "NN", "IN", "DT", "NN", "NN", "WDT", "VBZ", "JJ", "IN", "JJ", "NN", "CC", ",", "PRP", "VBP", ",", "VBZ", "RB", "IN", "DT", "JJ", "NN", "IN", "JJ", "NN", "NNS", "." ], [ "PRP", "VBP", "IN", "RB", "JJ", "NNS", "WP$", "NNS", "MD", "VB", "VBN", "IN", "JJ", "NNS", "IN", "DT", "VBN", "NN", "NNS", "IN", "NN", "VBP", "VBN", "TO", "VB", "IN", "VBN", "IN", "JJ", "NNS", "NN", "." ], [ "JJ", "NNS", "IN", "JJR", "NN", "NNS", "MD", "RB", "VB", "IN", "DT", "JJ", "NNS", "." ], [ "PRP", "RB", "VBP", "JJ", "CC", "JJR", "NNS", "IN", "DT", "NN", "NN", "IN", "DT", "JJ", "NNS", "." ], [ "PRP", "VBP", "IN", ",", "IN", "DT", "JJ", "NNS", ",", "DT", "NN", "IN", "DT", "NN", "NN", "VBZ", "TO", "PRP$", "JJ", "NNS", "NN", "NN", "IN", "IN", "JJS", "NN", "NNS", ",", "WRB", "NN", "VBZ", "DT", "NN", "IN", "NNS", "IN", "VBN", "NN", "." ], [ "PRP", "VBP", "IN", "DT", "JJ", "VBN", "VBZ", "JJ", "IN", "DT", "NN", "IN", "CD", "IN", "VBG", "DT", "NN", "IN", "WDT", "DT", "NN", "NN", "VBZ", "NN", "NNS", "TO", "VB", "." ] ]

[ [ "Computation", "in", "a", "distribute", "information", "market", "∗" ], [ "abstract" ], [ "accord", "to", "economic", "theory", "--", "support", "by", "empirical", "and", "laboratory", "evidence", "--", "the", "equilibrium", "price", "of", "a", "financial", "security", "reflect", "all", "of", "the", "information", "regard", "the", "security", "'s", "value", "." ], [ "we", "investigate", "the", "computational", "process", "on", "the", "path", "toward", "equilibrium", ",", "where", "information", "distribute", "among", "trader", "be", "reveal", "step-by-step", "over", "time", "and", "incorporate", "into", "the", "market", "price", "." ], [ "we", "develop", "a", "simplify", "model", "of", "a", "information", "market", ",", "along", "with", "trading", "strategy", ",", "in", "order", "to", "formalize", "the", "computational", "property", "of", "the", "process", "." ], [ "we", "show", "that", "security", "whose", "payoff", "can", "not", "be", "express", "as", "weighted", "threshold", "function", "of", "distribute", "input", "bit", "be", "not", "guarantee", "to", "converge", "to", "the", "proper", "equilibrium", "predict", "by", "economic", "theory", "." ], [ "on", "the", "other", "hand", ",", "security", "whose", "payoff", "be", "threshold", "function", "be", "guarantee", "to", "converge", ",", "for", "all", "prior", "probability", "distribution", "." ], [ "moreover", ",", "these", "threshold", "security", "converge", "in", "at", "most", "n", "round", ",", "where", "n", "be", "the", "number", "of", "bit", "of", "distribute", "information", "." ], [ "we", "also", "prove", "a", "lower", "bind", ",", "show", "a", "type", "of", "threshold", "security", "that", "require", "at", "least", "n/2", "round", "to", "converge", "in", "the", "worst", "case", "." ], [ "∗", "this", "work", "be", "support", "by", "the", "DoD", "University", "Research", "Initiative", "-lrb-", "URI", "-rrb-", "administer", "by", "the", "Office", "of", "Naval", "Research", "under", "Grant", "N00014-01-1-0795", "." ], [ "†", "support", "in", "part", "by", "onr", "grant", "n00014-01-0795", "and", "nsf", "grant", "ccr-0105337", ",", "ccr-tc-0208972", ",", "ani-0207399", ",", "and", "itr-0219018", "." ], [ "‡", "this", "work", "conduct", "while", "at", "NEC", "Laboratories", "America", ",", "Princeton", ",", "NJ", "." ], [ "1", "." ], [ "introduction" ], [ "the", "strong", "form", "of", "the", "efficient", "market", "hypothesis", "state", "that", "market", "price", "nearly", "instantly", "incorporate", "all", "information", "available", "to", "all", "trader", "." ], [ "as", "a", "result", ",", "market", "price", "encode", "the", "best", "forecast", "of", "future", "outcome", "give", "all", "information", ",", "even", "if", "that", "information", "be", "distribute", "across", "many", "source", "." ], [ "the", "process", "of", "information", "incorporation", "be", ",", "at", "its", "essence", ",", "a", "distribute", "computation", "." ], [ "each", "trader", "begin", "with", "he", "or", "she", "own", "information", "." ], [ "as", "trade", "be", "make", ",", "summary", "information", "be", "reveal", "through", "market", "price", "." ], [ "trader", "learn", "or", "infer", "what", "information", "other", "be", "likely", "to", "have", "by", "observe", "price", ",", "then", "update", "they", "own", "belief", "base", "on", "they", "observation", "." ], [ "over", "time", ",", "if", "the", "process", "work", "as", "advertise", ",", "all", "information", "be", "reveal", ",", "and", "all", "trader", "converge", "to", "the", "same", "information", "state", "." ], [ "at", "this", "point", ",", "the", "market", "be", "in", "what", "be", "call", "a", "rational", "expectation", "equilibrium", "-lsb-", "11", ",", "16", ",", "19", "-rsb-", "." ], [ "all", "information", "available", "to", "all", "trader", "be", "now", "reflect", "in", "the", "go", "price", ",", "and", "no", "further", "trade", "be", "desirable", "until", "some", "new", "information", "become", "available", "." ], [ "while", "most", "market", "be", "not", "design", "with", "information", "aggregation", "as", "a", "primary", "motivation", "--", "for", "example", ",", "derivative" ], [ "in", "this", "paper", ",", "we", "investigate", "the", "nature", "of", "the", "computational", "process", "whereby", "distribute", "information", "be", "reveal", "and", "combine", "over", "time", "into", "the", "price", "in", "information", "market", "." ], [ "to", "do", "so", ",", "in", "section", "3", ",", "we", "propose", "a", "model", "of", "a", "information", "market", "that", "be", "tractable", "for", "theoretical", "analysis", "and", ",", "we", "believe", ",", "capture", "much", "of", "the", "important", "essence", "of", "real", "information", "market", "." ], [ "we", "prove", "that", "only", "boolean", "security", "whose", "payoff", "can", "be", "express", "as", "threshold", "function", "of", "the", "distribute", "input", "bit", "of", "information", "be", "guarantee", "to", "converge", "as", "predict", "by", "rational", "expectation", "theory", "." ], [ "boolean", "security", "with", "more", "complex", "payoff", "may", "not", "converge", "under", "some", "prior", "distribution", "." ], [ "we", "also", "provide", "upper", "and", "lower", "bound", "on", "the", "convergence", "time", "for", "these", "threshold", "security", "." ], [ "we", "show", "that", ",", "for", "all", "prior", "distribution", ",", "the", "price", "of", "a", "threshold", "security", "converge", "to", "its", "rational", "expectation", "equilibrium", "price", "in", "at", "most", "n", "round", ",", "where", "n", "be", "the", "number", "of", "bit", "of", "distribute", "information", "." ], [ "we", "show", "that", "this", "worst-case", "bind", "be", "tight", "within", "a", "factor", "of", "two", "by", "illustrate", "a", "situation", "in", "which", "a", "threshold", "security", "require", "n/2", "round", "to", "converge", "." ] ]

[ "econom theori", "empir and laboratori evid", "equilibrium price", "financi secur", "secur's valu", "comput process", "path toward equilibrium", "trader", "market price", "simplifi model", "trade strategi", "comput properti of the process", "secur", "payoff", "threshold function", "probabl distribut", "round", "number of bit", "distribut inform", "lower bound", "worst case", "inform market" ]

I-7

[ [ "Commitment", "and", "Extortion", "*" ], [ "ABSTRACT" ], [ "Making", "commitments", ",", "e.g.", ",", "through", "promises", "and", "threats", ",", "enables", "a", "player", "to", "exploit", "the", "strengths", "of", "his", "own", "strategic", "position", "as", "well", "as", "the", "weaknesses", "of", "that", "of", "his", "opponents", "." ], [ "Which", "commitments", "a", "player", "can", "make", "with", "credibility", "depends", "on", "the", "circumstances", "." ], [ "In", "some", ",", "a", "player", "can", "only", "commit", "to", "the", "performance", "of", "an", "action", ",", "in", "others", ",", "he", "can", "commit", "himself", "conditionally", "on", "the", "actions", "of", "the", "other", "players", "." ], [ "Some", "situations", "even", "allow", "for", "commitments", "on", "commitments", "or", "for", "commitments", "to", "randomized", "actions", "." ], [ "We", "explore", "the", "formal", "properties", "of", "these", "types", "of", "-LRB-", "conditional", "-RRB-", "commitment", "and", "their", "interrelationships", "." ], [ "So", "as", "to", "preclude", "inconsistencies", "among", "conditional", "commitments", ",", "we", "assume", "an", "order", "in", "which", "the", "players", "make", "their", "commitments", "." ], [ "Central", "to", "our", "analyses", "is", "the", "notion", "of", "an", "extortion", ",", "which", "we", "define", ",", "for", "a", "given", "order", "of", "the", "players", ",", "as", "a", "profile", "that", "contains", ",", "for", "each", "player", ",", "an", "optimal", "commitment", "given", "the", "commitments", "of", "the", "players", "that", "committed", "earlier", "." ], [ "On", "this", "basis", ",", "we", "investigate", "for", "different", "commitment", "types", "whether", "it", "is", "advantageous", "to", "commit", "earlier", "rather", "than", "later", ",", "and", "how", "the", "outcomes", "obtained", "through", "extortions", "relate", "to", "backward", "induction", "and", "Pareto", "efficiency", "." ], [ "1", "." ], [ "INTRODUCTION" ], [ "On", "one", "view", ",", "the", "least", "one", "may", "expect", "of", "game", "theory", "is", "that", "it", "provides", "an", "answer", "to", "the", "question", "which", "actions", "maximize", "an", "agent", "'s", "expected", "utility", "in", "situations", "of", "interactive", "decision", "making", "." ], [ "From", "this", "perspective", ",", "the", "formal", "model", "of", "a", "game", "in", "strategic", "form", "only", "outlines", "the", "strategic", "features", "of", "an", "interactive", "situation", "." ], [ "Apart", "from", "merely", "choosing", "and", "performing", "an", "action", "from", "a", "set", "of", "actions", ",", "there", "may", "also", "be", "other", "courses", "open", "to", "an", "agent", "." ], [ "E.g.", ",", "the", "strategic", "lie", "of", "the", "land", "may", "be", "such", "that", "a", "promise", ",", "a", "threat", ",", "or", "a", "combination", "of", "both", "would", "be", "more", "conductive", "to", "his", "ends", "." ], [ "Likewise", ",", "a", "threat", "only", "succeeds", "in", "deterring", "an", "agent", "if", "the", "latter", "can", "be", "made", "to", "believe", "that", "the", "threatener", "is", "bound", "to", "execute", "the", "threat", ",", "should", "it", "be", "ignored", "." ], [ "In", "this", "sense", ",", "promises", "and", "threats", "essentially", "involve", "a", "commitment", "on", "the", "part", "of", "the", "one", "who", "makes", "them", ",", "thus", "purposely", "restricting", "his", "freedom", "of", "choice", "." ], [ "Promises", "and", "threats", "epitomize", "one", "of", "the", "fundamental", "and", "at", "first", "sight", "perhaps", "most", "surprising", "phenomena", "in", "game", "theory", ":", "it", "may", "occur", "that", "a", "player", "can", "improve", "his", "strategic", "position", "by", "limiting", "his", "own", "freedom", "of", "action", "." ], [ "By", "commitments", "we", "will", "understand", "such", "limitations", "of", "one", "'s", "action", "space", "." ], [ "Action", "itself", "could", "be", "seen", "as", "the", "ultimate", "commitment", "." ], [ "Performing", "a", "particular", "action", "means", "doing", "so", "to", "the", "exclusion", "of", "all", "other", "actions", "." ], [ "Commitments", "come", "in", "different", "forms", "and", "it", "may", "depend", "on", "the", "circumstances", "which", "ones", "can", "and", "which", "ones", "can", "not", "credibly", "be", "made", "." ], [ "Besides", "simply", "committing", "to", "the", "performance", "of", "an", "action", ",", "an", "agent", "might", "make", "his", "commitment", "conditional", "on", "the", "actions", "of", "other", "agents", ",", "as", ",", "e.g.", ",", "the", "kidnapper", "does", ",", "when", "he", "promises", "to", "set", "free", "a", "hostage", "on", "receiving", "a", "ransom", ",", "while", "threatening", "to", "cut", "off", "another", "toe", ",", "otherwise", "." ], [ "Some", "situations", "even", "allow", "for", "commitments", "on", "commitments", "or", "for", "commitments", "to", "randomized", "actions", "." ], [ "By", "focusing", "on", "the", "selection", "of", "actions", "rather", "than", "on", "commitments", ",", "it", "might", "seem", "that", "the", "conception", "of", "game", "theory", "as", "mere", "interactive", "decision", "theory", "is", "too", "narrow", "." ], [ "In", "this", "respect", ",", "Schelling", "'s", "view", "might", "seem", "to", "evince", "a", "more", "comprehensive", "understanding", "of", "what", "game", "theory", "tries", "to", "accomplish", "." ], [ "One", "might", "object", ",", "that", "commitments", "could", "be", "seen", "as", "the", "actions", "of", "a", "larger", "game", "." ], [ "-LSB-", "...", "-RSB-", "What", "we", "want", "is", "a", "theory", "that", "systematizes", "the", "study", "of", "the", "various", "universal", "ingredients", "that", "make", "up", "the", "move-structure", "of", "games", ";", "too", "abstract", "a", "model", "will", "miss", "them", "." ], [ "-LSB-", "9", ",", "pp.", "156-7", "-RSB-" ], [ "Our", "concern", "is", "with", "these", "commitment", "tactics", ",", "be", "it", "that", "our", "analysis", "is", "confined", "to", "situations", "in", "which", "the", "players", "can", "commit", "in", "a", "given", "order", "and", "where", "we", "assume", "the", "commitments", "the", "players", "can", "make", "are", "given", "." ], [ "Despite", "Schelling", "'s", "warning", "for", "too", "abstract", "a", "framework", ",", "our", "approach", "will", "be", "based", "on", "the", "formal", "notion", "of", "an", "extortion", ",", "which", "we", "will", "propose", "in", "Section", "4", "as", "a", "uniform", "tactic", "for", "a", "comprehensive", "class", "of", "situations", "in", "which", "commitments", "can", "be", "made", "sequentially", "." ], [ "On", "this", "basis", "we", "tackle", "such", "issues", "as", "the", "usefulness", "of", "certain", "types", "of", "commitment", "in", "different", "situations", "-LRB-", "strategic", "games", "-RRB-", "or", "whether", "it", "is", "better", "to", "commit", "early", "rather", "than", "late", "." ], [ "We", "also", "provide", "a", "framework", "for", "the", "assessment", "of", "more", "general", "game", "theoretic", "matters", "like", "the", "relationship", "of", "extortions", "to", "backward", "induction", "or", "Pareto", "efficiency", "." ], [ "For", "example", ",", "commitments", "have", "been", "argued", "to", "be", "of", "importance", "for", "interacting", "software", "agents", "as", "well", "as", "for", "mechanism", "design", "." ], [ "In", "the", "former", "setting", ",", "the", "inability", "to", "re-program", "a", "software", "agent", "on", "the", "fly", "can", "be", "seen", "as", "a", "commitment", "to", "its", "specification", "and", "thus", "exploited", "to", "strengthen", "its", "strategic", "position", "in", "a", "multiagent", "setting", "." ], [ "A", "mechanism", ",", "on", "the", "other", "hand", ",", "could", "be", "seen", "as", "a", "set", "of", "commitments", "that", "steers", "the", "players", "'", "behavior", "in", "a", "certain", "desired", "way", "-LRB-", "see", ",", "e.g.", ",", "-LSB-", "2", "-RSB-", "-RRB-", "." ], [ "These", "games", "analyze", "situations", "in", "which", "a", "leader", "commits", "to", "a", "pure", "or", "mixed", "strategy", ",", "and", "a", "number", "of", "followers", ",", "who", "then", "act", "simultaneously", "." ], [ "After", "briefly", "discussing", "related", "work", "in", "Section", "2", ",", "we", "present", "the", "formal", "game", "theoretic", "framework", ",", "in", "which", "we", "define", "the", "notions", "of", "a", "commitment", "type", "as", "well", "as", "conditional", "and", "unconditional", "commitments", "-LRB-", "Section", "3", "-RRB-", "." ], [ "In", "Section", "4", "we", "propose", "the", "generic", "concept", "of", "an", "extortion", ",", "which", "for", "each", "commitment", "type", "captures", "the", "idea", "of", "an", "optimal", "commitment", "profile", "." ], [ "Section", "5", "briefly", "reviews", "some", "other", "commitment", "types", ",", "such", "as", "inductive", ",", "mixed", "and", "mixed", "conditional", "commitments", "." ], [ "2", "." ], [ "RELATED", "WORK" ], [ "Commitment", "is", "a", "central", "concept", "in", "game", "theory", "." ], [ "The", "possibility", "to", "make", "commitments", "distinguishes", "cooperative", "from", "noncooperative", "game", "theory", "-LSB-", "4", ",", "6", "-RSB-", "." ], [ "Leadership", "games", ",", "as", "mentioned", "in", "the", "introduction", ",", "analyze", "commitments", "to", "pure", "or", "mixed", "strategies", "in", "what", "is", "essentially", "a", "two-player", "setting", "-LSB-", "15", ",", "16", "-RSB-", "." ], [ "Informally", ",", "Schelling", "-LSB-", "9", "-RSB-", "has", "emphasized", "the", "importance", "of", "promises", ",", "threats", "and", "the", "like", "for", "a", "proper", "understanding", "of", "social", "interaction", "." ], [ "On", "a", "more", "formal", "level", ",", "threats", "have", "also", "figured", "in", "bargaining", "theory", "." ], [ "Nash", "'s", "threat", "game", "-LSB-", "5", "-RSB-", "and", "Harsanyi", "'s", "rational", "threats", "-LSB-", "3", "-RSB-", "are", "two", "important", "early", "examples", "." ], [ "Also", ",", "commitments", "have", "played", "a", "significant", "role", "in", "the", "theory", "of", "equilibrium", "selection", "-LRB-", "see", ",", "e.g.", ",", "-LSB-", "13", "-RSB-", "." ], [ "Over", "the", "last", "few", "years", ",", "game", "theory", "has", "become", "almost", "indispensable", "as", "a", "research", "tool", "for", "computer", "science", "and", "-LRB-", "multi", "-RRB-", "agent", "research", "." ], [ "Commitments", "have", "by", "no", "means", "gone", "unnoticed", "-LRB-", "see", "," ], [ "Figure", "1", ":", "Committing", "to", "a", "dominated", "strategy", "can", "be", "advantageous", "." ], [ "e.g.", ",", "-LSB-", "1", ",", "11", "-RSB-", "-RRB-", "." ], [ "Recently", ",", "also", "the", "strategic", "aspects", "of", "commitments", "have", "attracted", "the", "attention", "of", "computer", "scientists", "." ], [ "Thus", ",", "Conitzer", "and", "Sandholm", "-LSB-", "2", "-RSB-", "have", "studied", "the", "computational", "complexity", "of", "computing", "the", "optimal", "strategy", "to", "commit", "to", "in", "normal", "form", "and", "Bayesian", "games", "." ], [ "Sandholm", "and", "Lesser", "-LSB-", "8", "-RSB-", "employ", "levelled", "commitments", "for", "the", "design", "of", "multiagent", "systems", "in", "which", "contractual", "agreements", "are", "not", "fully", "binding", "." ], [ "Another", "connection", "between", "commitments", "and", "computer", "science", "has", "been", "pointed", "out", "by", "Samet", "-LSB-", "7", "-RSB-", "and", "Tennenholtz", "-LSB-", "12", "-RSB-", "." ], [ "Their", "point", "of", "departure", "is", "the", "observation", "that", "programs", "can", "be", "used", "to", "formulate", "commitments", "that", "are", "conditional", "on", "the", "programs", "of", "other", "systems", "." ], [ "Our", "approach", "is", "similar", "to", "the", "Stackleberg", "setting", "in", "that", "we", "assume", "an", "order", "in", "which", "the", "players", "commit", "." ], [ "We", ",", "however", ",", "consider", "a", "number", "of", "different", "commitment", "types", ",", "among", "which", "conditional", "commitments", ",", "and", "propose", "a", "generic", "solution", "concept", "." ], [ "6", "." ], [ "SUMMARY", "AND", "CONCLUSION" ], [ "In", "some", "situations", "agents", "can", "strengthen", "their", "strategic", "position", "by", "committing", "themselves", "to", "a", "particular", "course", "of", "action", "." ], [ "There", "are", "various", "types", "of", "commitment", ",", "e.g.", ",", "pure", ",", "mixed", "and", "conditional", "." ], [ "Which", "type", "of", "commitment", "an", "agent", "is", "in", "a", "position", "in", "to", "make", "essentially", "depends", "on", "the", "situation", "under", "consideration", "." ], [ "If", "the", "agents", "commit", "in", "a", "particular", "order", ",", "there", "is", "a", "tactic", "common", "to", "making", "commitments", "of", "any", "type", ",", "which", "we", "have", "formalized", "by", "means", "the", "concept", "of", "an", "extortion", "." ], [ "This", "generic", "concept", "of", "extortion", "can", "be", "analyzed", "in", "abstracto", "." ], [ "Moreover", ",", "on", "its", "basis", "the", "various", "commitment", "types", "can", "be", "compared", "formally", "and", "systematically", "." ], [ "We", "have", "seen", "that", "the", "type", "of", "commitment", "an", "agent", "can", "make", "has", "a", "profound", "impact", "on", "what", "an", "agent", "can", "achieve", "in", "a", "gamelike", "situation", "." ], [ "In", "some", "situations", "a", "player", "is", "much", "helped", "if", "he", "is", "in", "a", "position", "to", "commit", "conditionally", ",", "whereas", "in", "others", "mixed", "commitments", "would", "be", "more", "profitable", "." ], [ "This", "raises", "the", "question", "as", "to", "the", "characteristic", "formal", "features", "of", "the", "situations", "in", "which", "it", "is", "advantageous", "for", "a", "player", "to", "be", "able", "to", "make", "commitments", "of", "a", "particular", "type", "." ], [ "Another", "issue", "which", "we", "leave", "for", "future", "research", "is", "the", "computational", "complexity", "of", "finding", "an", "extortion", "for", "the", "different", "commitment", "types", "." ] ]

[ [ "NN", "CC", "NN", "SYM" ], [ "NN" ], [ "VBG", "NNS", ",", "FW", ",", "IN", "NNS", "CC", "NNS", ",", "VBZ", "DT", "NN", "TO", "VB", "DT", "NNS", "IN", "PRP$", "JJ", "JJ", "NN", "RB", "RB", "IN", "DT", "NNS", "IN", "DT", "IN", "PRP$", "NNS", "." ], [ "WDT", "NNS", "DT", "NN", "MD", "VB", "IN", "NN", "VBZ", "IN", "DT", "NNS", "." ], [ "IN", "DT", ",", "DT", "NN", "MD", "RB", "VB", "TO", "DT", "NN", "IN", "DT", "NN", ",", "IN", "NNS", ",", "PRP", "MD", "VB", "PRP", "RB", "IN", "DT", "NNS", "IN", "DT", "JJ", "NNS", "." ], [ "DT", "NNS", "RB", "VBP", "IN", "NNS", "IN", "NNS", "CC", "IN", "NNS", "TO", "VBN", "NNS", "." ], [ "PRP", "VBP", "DT", "JJ", "NNS", "IN", "DT", "NNS", "IN", "-LRB-", "JJ", "-RRB-", "NN", "CC", "PRP$", "NNS", "." ], [ "RB", "IN", "TO", "VB", "NNS", "IN", "JJ", "NNS", ",", "PRP", "VBP", "DT", "NN", "IN", "WDT", "DT", "NNS", "VBP", "PRP$", "NNS", "." ], [ "NNP", "TO", "PRP$", "NNS", "VBZ", "DT", "NN", "IN", "DT", "NN", ",", "WDT", "PRP", "VBP", ",", "IN", "DT", "VBN", "NN", "IN", "DT", "NNS", ",", "IN", "DT", "NN", "WDT", "VBZ", ",", "IN", "DT", "NN", ",", "DT", "JJ", "NN", "VBN", "DT", "NNS", "IN", "DT", "NNS", "WDT", "VBD", "JJR", "." ], [ "IN", "DT", "NN", ",", "PRP", "VBP", "IN", "JJ", "NN", "NNS", "IN", "PRP", "VBZ", "JJ", "TO", "VB", "JJR", "RB", "IN", "RB", ",", "CC", "WRB", "DT", "NNS", "VBN", "IN", "NNS", "VBP", "TO", "RB", "NN", "CC", "NNP", "NN", "." ], [ "LS", "." ], [ "NN" ], [ "IN", "CD", "NN", ",", "DT", "JJS", "CD", "MD", "VB", "IN", "NN", "NN", "VBZ", "IN", "PRP", "VBZ", "DT", "NN", "TO", "DT", "NN", "WDT", "NNS", "VBP", "DT", "NN", "POS", "VBN", "NN", "IN", "NNS", "IN", "JJ", "NN", "NN", "." ], [ "IN", "DT", "NN", ",", "DT", "JJ", "NN", "IN", "DT", "NN", "IN", "JJ", "NN", "RB", "VBZ", "DT", "JJ", "NNS", "IN", "DT", "JJ", "NN", "." ], [ "RB", "IN", "RB", "VBG", "CC", "VBG", "DT", "NN", "IN", "DT", "NN", "IN", "NNS", ",", "EX", "MD", "RB", "VB", "JJ", "NNS", "JJ", "TO", "DT", "NN", "." ], [ "NNP", ",", "DT", "JJ", "NN", "IN", "DT", "NN", "MD", "VB", "JJ", "IN", "DT", "NN", ",", "DT", "NN", ",", "CC", "DT", "NN", "IN", "CC", "MD", "VB", "RBR", "JJ", "TO", "PRP$", "NNS", "." ], [ "RB", ",", "DT", "NN", "RB", "VBZ", "IN", "VBG", "DT", "NN", "IN", "DT", "NN", "MD", "VB", "VBN", "TO", "VB", "IN", "DT", "NN", "VBZ", "VBN", "TO", "VB", "DT", "NN", ",", "MD", "PRP", "VB", "VBN", "." ], [ "IN", "DT", "NN", ",", "VBZ", "CC", "NNS", "RB", "VBP", "DT", "NN", "IN", "DT", "NN", "IN", "DT", "CD", "WP", "VBZ", "PRP", ",", "RB", "RB", "VBG", "PRP$", "NN", "IN", "NN", "." ], [ "VBZ", "CC", "NNS", "VBP", "CD", "IN", "DT", "JJ", "CC", "IN", "JJ", "NN", "RB", "RBS", "JJ", "NNS", "IN", "NN", "NN", ":", "PRP", "MD", "VB", "IN", "DT", "NN", "MD", "VB", "PRP$", "JJ", "NN", "IN", "VBG", "PRP$", "JJ", "NN", "IN", "NN", "." ], [ "IN", "NNS", "PRP", "MD", "VB", "JJ", "NNS", "IN", "CD", "POS", "NN", "NN", "." ], [ "NNP", "PRP", "MD", "VB", "VBN", "IN", "DT", "JJ", "NN", "." ], [ "VBG", "DT", "JJ", "NN", "VBZ", "VBG", "RB", "TO", "DT", "NN", "IN", "DT", "JJ", "NNS", "." ], [ "NNS", "VBP", "IN", "JJ", "NNS", "CC", "PRP", "MD", "VB", "IN", "DT", "NNS", "WDT", "NNS", "MD", "CC", "WDT", "NNS", "MD", "RB", "RB", "VB", "VBN", "." ], [ "IN", "RB", "VBG", "TO", "DT", "NN", "IN", "DT", "NN", ",", "DT", "NN", "MD", "VB", "PRP$", "NN", "JJ", "IN", "DT", "NNS", "IN", "JJ", "NNS", ",", "RB", ",", "FW", ",", "DT", "NN", "VBZ", ",", "WRB", "PRP", "VBZ", "TO", "VB", "JJ", "DT", "NN", "IN", "VBG", "DT", "NN", ",", "IN", "VBG", "TO", "VB", "RP", "DT", "NN", ",", "RB", "." ], [ "DT", "NNS", "RB", "VBP", "IN", "NNS", "IN", "NNS", "CC", "IN", "NNS", "TO", "VBN", "NNS", "." ], [ "IN", "VBG", "IN", "DT", "NN", "IN", "NNS", "RB", "IN", "IN", "NNS", ",", "PRP", "MD", "VB", "IN", "DT", "NN", "IN", "NN", "NN", "IN", "JJ", "JJ", "NN", "NN", "VBZ", "RB", "JJ", "." ], [ "IN", "DT", "NN", ",", "NNP", "POS", "NN", "MD", "VB", "TO", "VB", "DT", "RBR", "JJ", "NN", "IN", "WP", "NN", "NN", "VBZ", "TO", "VB", "." ], [ "NN", "MD", "VB", ",", "IN", "NNS", "MD", "VB", "VBN", "IN", "DT", "NNS", "IN", "DT", "JJR", "NN", "." ], [ "-LRB-", ":", "-RRB-", "WP", "PRP", "VBP", "VBZ", "DT", "NN", "WDT", "VBZ", "DT", "NN", "IN", "DT", "JJ", "JJ", "NNS", "WDT", "VBP", "RP", "DT", "NN", "IN", "NNS", ":", "RB", "JJ", "DT", "NN", "MD", "VB", "PRP", "." ], [ "-LRB-", "CD", ",", "VBP", "CD", "-RRB-" ], [ "PRP$", "NN", "VBZ", "IN", "DT", "NN", "NNS", ",", "VB", "PRP", "IN", "PRP$", "NN", "VBZ", "VBN", "TO", "NNS", "IN", "WDT", "DT", "NNS", "MD", "VB", "IN", "DT", "VBN", "NN", "CC", "WRB", "PRP", "VBP", "DT", "NNS", "DT", "NNS", "MD", "VB", "VBP", "VBN", "." ], [ "IN", "NN", "POS", "NN", "IN", "RB", "JJ", "DT", "NN", ",", "PRP$", "NN", "MD", "VB", "VBN", "IN", "DT", "JJ", "NN", "IN", "DT", "NN", ",", "WDT", "PRP", "MD", "VB", "IN", "NN", "CD", "IN", "DT", "JJ", "NN", "IN", "DT", "JJ", "NN", "IN", "NNS", "IN", "WDT", "NNS", "MD", "VB", "VBN", "RB", "." ], [ "IN", "DT", "NN", "PRP", "VBP", "JJ", "NNS", "IN", "DT", "NN", "IN", "JJ", "NNS", "IN", "NN", "IN", "JJ", "NNS", "-LRB-", "JJ", "NNS", "-RRB-", "CC", "IN", "PRP", "VBZ", "JJR", "TO", "VB", "JJ", "RB", "IN", "JJ", "." ], [ "PRP", "RB", "VBP", "DT", "NN", "IN", "DT", "NN", "IN", "JJR", "JJ", "NN", "JJ", "NNS", "IN", "DT", "NN", "IN", "NNS", "TO", "RB", "NN", "CC", "NNP", "NN", "." ], [ "IN", "NN", ",", "NNS", "VBP", "VBN", "VBN", "TO", "VB", "IN", "NN", "IN", "VBG", "NN", "NNS", "RB", "RB", "IN", "IN", "NN", "NN", "." ], [ "IN", "DT", "JJ", "NN", ",", "DT", "NN", "TO", "VB", "DT", "NN", "NN", "IN", "DT", "NN", "MD", "VB", "VBN", "IN", "DT", "NN", "TO", "PRP$", "NN", "CC", "RB", "VBN", "TO", "VB", "PRP$", "JJ", "NN", "IN", "DT", "JJ", "NN", "." ], [ "DT", "NN", ",", "IN", "DT", "JJ", "NN", ",", "MD", "VB", "VBN", "IN", "DT", "NN", "IN", "NNS", "WDT", "VBZ", "DT", "NNS", "POS", "NN", "IN", "DT", "JJ", "VBN", "NN", "-LRB-", "VB", ",", "FW", ",", "-LRB-", "CD", "-RRB-", "-RRB-", "." ], [ "DT", "NNS", "VBP", "NNS", "IN", "WDT", "DT", "NN", "VBZ", "TO", "DT", "JJ", "CC", "JJ", "NN", ",", "CC", "DT", "NN", "IN", "NNS", ",", "WP", "RB", "VBP", "RB", "." ], [ "IN", "NN", "VBG", "JJ", "NN", "IN", "NN", "CD", ",", "PRP", "VBP", "DT", "JJ", "NN", "JJ", "NN", ",", "IN", "WDT", "PRP", "VBP", "DT", "NNS", "IN", "DT", "NN", "NN", "RB", "RB", "IN", "JJ", "CC", "JJ", "NNS", "-LRB-", "NN", "CD", "-RRB-", "." ], [ "IN", "NN", "CD", "PRP", "VBP", "DT", "JJ", "NN", "IN", "DT", "NN", ",", "WDT", "IN", "DT", "NN", "NN", "VBZ", "DT", "NN", "IN", "DT", "JJ", "NN", "NN", "." ], [ "NN", "CD", "NN", "VBZ", "DT", "JJ", "NN", "NNS", ",", "JJ", "IN", "JJ", ",", "JJ", "CC", "JJ", "JJ", "NNS", "." ], [ "LS", "." ], [ "JJ", "VBP" ], [ "NN", "VBZ", "DT", "JJ", "NN", "IN", "NN", "NN", "." ], [ "DT", "NN", "TO", "VB", "NNS", "VBZ", "JJ", "IN", "JJ", "NN", "NN", "-LRB-", "CD", ",", "CD", "-RRB-", "." ], [ "NN", "NNS", ",", "IN", "VBN", "IN", "DT", "NN", ",", "VBP", "NNS", "TO", "JJ", "CC", "JJ", "NNS", "IN", "WP", "VBZ", "RB", "DT", "JJ", "NN", "-LRB-", "CD", ",", "CD", "-RRB-", "." ], [ "RB", ",", "NN", "-LRB-", "CD", "-RRB-", "VBZ", "VBN", "DT", "NN", "IN", "NNS", ",", "NNS", "CC", "DT", "JJ", "IN", "DT", "JJ", "NN", "IN", "JJ", "NN", "." ], [ "IN", "DT", "RBR", "JJ", "NN", ",", "NNS", "VBP", "RB", "VBN", "IN", "NN", "NN", "." ], [ "NNP", "POS", "NN", "NN", "-LRB-", "CD", "-RRB-", "CC", "NNP", "POS", "JJ", "NNS", "-LRB-", "CD", "-RRB-", "VBP", "CD", "JJ", "JJ", "NNS", "." ], [ "RB", ",", "NNS", "VBP", "VBN", "DT", "JJ", "NN", "IN", "DT", "NN", "IN", "NN", "NN", "-LRB-", "VB", ",", "FW", ",", "-LRB-", "CD", "-RRB-", "." ], [ "IN", "DT", "JJ", "JJ", "NNS", ",", "NN", "NN", "VBZ", "VBN", "RB", "JJ", "IN", "DT", "NN", "NN", "IN", "NN", "NN", "CC", "-LRB-", "NNS", "-RRB-", "NN", "NN", "." ], [ "NNS", "VBP", "IN", "DT", "NNS", "VBN", "JJ", "-LRB-", "VB", "," ], [ "NNP", "CD", ":", "VBG", "TO", "DT", "VBN", "NN", "MD", "VB", "JJ", "." ], [ "FW", ",", "-LRB-", "CD", ",", "CD", "-RRB-", "-RRB-", "." ], [ "RB", ",", "RB", "DT", "JJ", "NNS", "IN", "NNS", "VBP", "VBN", "DT", "NN", "IN", "NN", "NNS", "." ], [ "RB", ",", "NN", "CC", "NN", "-LRB-", "CD", "-RRB-", "VBP", "VBN", "DT", "JJ", "NN", "IN", "VBG", "DT", "JJ", "NN", "TO", "VB", "TO", "IN", "JJ", "NN", "CC", "JJ", "NNS", "." ], [ "NNP", "CC", "NNP", "-LRB-", "CD", "-RRB-", "VBP", "JJ", "NNS", "IN", "DT", "NN", "IN", "JJ", "NNS", "IN", "WDT", "JJ", "NNS", "VBP", "RB", "RB", "NN", "." ], [ "DT", "NN", "IN", "NNS", "CC", "NN", "NN", "VBZ", "VBN", "VBN", "RP", "IN", "NNP", "-LRB-", "CD", "-RRB-", "CC", "NN", "-LRB-", "CD", "-RRB-", "." ], [ "PRP$", "NN", "IN", "NN", "VBZ", "DT", "NN", "IN", "NNS", "MD", "VB", "VBN", "TO", "VB", "NNS", "WDT", "VBP", "JJ", "IN", "DT", "NNS", "IN", "JJ", "NNS", "." ], [ "PRP$", "NN", "VBZ", "JJ", "TO", "DT", "NNP", "NN", "IN", "IN", "PRP", "VBP", "DT", "NN", "IN", "WDT", "DT", "NNS", "VB", "." ], [ "PRP", ",", "RB", ",", "VB", "DT", "NN", "IN", "JJ", "NN", "NNS", ",", "IN", "WDT", "JJ", "NNS", ",", "CC", "VBP", "DT", "JJ", "NN", "NN", "." ], [ "CD", "." ], [ "NN", "CC", "NN" ], [ "IN", "DT", "NNS", "NNS", "MD", "VB", "PRP$", "JJ", "NN", "IN", "VBG", "PRP", "TO", "DT", "JJ", "NN", "IN", "NN", "." ], [ "EX", "VBP", "JJ", "NNS", "IN", "NN", ",", "FW", ",", "JJ", ",", "JJ", "CC", "JJ", "." ], [ "WDT", "NN", "IN", "NN", "DT", "NN", "VBZ", "IN", "DT", "NN", "IN", "TO", "VB", "RB", "VBZ", "IN", "DT", "NN", "IN", "NN", "." ], [ "IN", "DT", "NNS", "VB", "IN", "DT", "JJ", "NN", ",", "EX", "VBZ", "DT", "NN", "JJ", "TO", "VBG", "NNS", "IN", "DT", "NN", ",", "WDT", "PRP", "VBP", "VBN", "IN", "VBZ", "DT", "NN", "IN", "DT", "NN", "." ], [ "DT", "JJ", "NN", "IN", "NN", "MD", "VB", "VBN", "IN", "NN", "." ], [ "RB", ",", "IN", "PRP$", "NN", "DT", "JJ", "NN", "NNS", "MD", "VB", "VBN", "RB", "CC", "RB", "." ], [ "PRP", "VBP", "VBN", "IN", "DT", "NN", "IN", "NN", "DT", "NN", "MD", "VB", "VBZ", "DT", "JJ", "NN", "IN", "WP", "DT", "NN", "MD", "VB", "IN", "DT", "JJ", "NN", "." ], [ "IN", "DT", "NNS", "DT", "NN", "VBZ", "JJ", "VBN", "IN", "PRP", "VBZ", "IN", "DT", "NN", "TO", "VB", "RB", ",", "IN", "IN", "NNS", "JJ", "NNS", "MD", "VB", "RBR", "JJ", "." ], [ "DT", "VBZ", "DT", "NN", "IN", "TO", "DT", "JJ", "JJ", "NNS", "IN", "DT", "NNS", "IN", "WDT", "PRP", "VBZ", "JJ", "IN", "DT", "NN", "TO", "VB", "JJ", "TO", "VB", "NNS", "IN", "DT", "JJ", "NN", "." ], [ "DT", "NN", "WDT", "PRP", "VBP", "IN", "JJ", "NN", "VBZ", "DT", "JJ", "NN", "IN", "VBG", "DT", "NN", "IN", "DT", "JJ", "NN", "NNS", "." ] ]

[ [ "commitment", "and", "extortion", "*" ], [ "abstract" ], [ "make", "commitment", ",", "e.g.", ",", "through", "promise", "and", "threat", ",", "enable", "a", "player", "to", "exploit", "the", "strength", "of", "he", "own", "strategic", "position", "as", "well", "as", "the", "weakness", "of", "that", "of", "he", "opponent", "." ], [ "which", "commitment", "a", "player", "can", "make", "with", "credibility", "depend", "on", "the", "circumstance", "." ], [ "in", "some", ",", "a", "player", "can", "only", "commit", "to", "the", "performance", "of", "a", "action", ",", "in", "other", ",", "he", "can", "commit", "himself", "conditionally", "on", "the", "action", "of", "the", "other", "player", "." ], [ "some", "situation", "even", "allow", "for", "commitment", "on", "commitment", "or", "for", "commitment", "to", "randomize", "action", "." ], [ "we", "explore", "the", "formal", "property", "of", "these", "type", "of", "-lrb-", "conditional", "-rrb-", "commitment", "and", "they", "interrelationship", "." ], [ "so", "as", "to", "preclude", "inconsistency", "among", "conditional", "commitment", ",", "we", "assume", "a", "order", "in", "which", "the", "player", "make", "they", "commitment", "." ], [ "Central", "to", "we", "analysis", "be", "the", "notion", "of", "a", "extortion", ",", "which", "we", "define", ",", "for", "a", "give", "order", "of", "the", "player", ",", "as", "a", "profile", "that", "contain", ",", "for", "each", "player", ",", "a", "optimal", "commitment", "give", "the", "commitment", "of", "the", "player", "that", "commit", "earlier", "." ], [ "on", "this", "basis", ",", "we", "investigate", "for", "different", "commitment", "type", "whether", "it", "be", "advantageous", "to", "commit", "earlier", "rather", "than", "later", ",", "and", "how", "the", "outcome", "obtain", "through", "extortion", "relate", "to", "backward", "induction", "and", "Pareto", "efficiency", "." ], [ "1", "." ], [ "introduction" ], [ "on", "one", "view", ",", "the", "least", "one", "may", "expect", "of", "game", "theory", "be", "that", "it", "provide", "a", "answer", "to", "the", "question", "which", "action", "maximize", "a", "agent", "'s", "expect", "utility", "in", "situation", "of", "interactive", "decision", "making", "." ], [ "from", "this", "perspective", ",", "the", "formal", "model", "of", "a", "game", "in", "strategic", "form", "only", "outline", "the", "strategic", "feature", "of", "a", "interactive", "situation", "." ], [ "apart", "from", "merely", "choose", "and", "perform", "a", "action", "from", "a", "set", "of", "action", ",", "there", "may", "also", "be", "other", "course", "open", "to", "a", "agent", "." ], [ "E.g.", ",", "the", "strategic", "lie", "of", "the", "land", "may", "be", "such", "that", "a", "promise", ",", "a", "threat", ",", "or", "a", "combination", "of", "both", "would", "be", "more", "conductive", "to", "he", "end", "." ], [ "likewise", ",", "a", "threat", "only", "succeed", "in", "deter", "a", "agent", "if", "the", "latter", "can", "be", "make", "to", "believe", "that", "the", "threatener", "be", "bind", "to", "execute", "the", "threat", ",", "should", "it", "be", "ignore", "." ], [ "in", "this", "sense", ",", "promise", "and", "threat", "essentially", "involve", "a", "commitment", "on", "the", "part", "of", "the", "one", "who", "make", "they", ",", "thus", "purposely", "restrict", "he", "freedom", "of", "choice", "." ], [ "promise", "and", "threat", "epitomize", "one", "of", "the", "fundamental", "and", "at", "first", "sight", "perhaps", "most", "surprising", "phenomenon", "in", "game", "theory", ":", "it", "may", "occur", "that", "a", "player", "can", "improve", "he", "strategic", "position", "by", "limit", "he", "own", "freedom", "of", "action", "." ], [ "by", "commitment", "we", "will", "understand", "such", "limitation", "of", "one", "'s", "action", "space", "." ], [ "Action", "itself", "could", "be", "see", "as", "the", "ultimate", "commitment", "." ], [ "perform", "a", "particular", "action", "mean", "do", "so", "to", "the", "exclusion", "of", "all", "other", "action", "." ], [ "commitment", "come", "in", "different", "form", "and", "it", "may", "depend", "on", "the", "circumstance", "which", "one", "can", "and", "which", "one", "can", "not", "credibly", "be", "make", "." ], [ "besides", "simply", "commit", "to", "the", "performance", "of", "a", "action", ",", "a", "agent", "might", "make", "he", "commitment", "conditional", "on", "the", "action", "of", "other", "agent", ",", "as", ",", "e.g.", ",", "the", "kidnapper", "do", ",", "when", "he", "promise", "to", "set", "free", "a", "hostage", "on", "receive", "a", "ransom", ",", "while", "threaten", "to", "cut", "off", "another", "toe", ",", "otherwise", "." ], [ "some", "situation", "even", "allow", "for", "commitment", "on", "commitment", "or", "for", "commitment", "to", "randomize", "action", "." ], [ "by", "focus", "on", "the", "selection", "of", "action", "rather", "than", "on", "commitment", ",", "it", "might", "seem", "that", "the", "conception", "of", "game", "theory", "as", "mere", "interactive", "decision", "theory", "be", "too", "narrow", "." ], [ "in", "this", "respect", ",", "Schelling", "'s", "view", "might", "seem", "to", "evince", "a", "more", "comprehensive", "understanding", "of", "what", "game", "theory", "try", "to", "accomplish", "." ], [ "one", "might", "object", ",", "that", "commitment", "could", "be", "see", "as", "the", "action", "of", "a", "larger", "game", "." ], [ "-lsb-", "...", "-rsb-", "what", "we", "want", "be", "a", "theory", "that", "systematize", "the", "study", "of", "the", "various", "universal", "ingredient", "that", "make", "up", "the", "move-structure", "of", "game", ";", "too", "abstract", "a", "model", "will", "miss", "they", "." ], [ "-lsb-", "9", ",", "pp.", "156-7", "-rsb-" ], [ "we", "concern", "be", "with", "these", "commitment", "tactic", ",", "be", "it", "that", "we", "analysis", "be", "confine", "to", "situation", "in", "which", "the", "player", "can", "commit", "in", "a", "give", "order", "and", "where", "we", "assume", "the", "commitment", "the", "player", "can", "make", "be", "give", "." ], [ "despite", "schelling", "'s", "warning", "for", "too", "abstract", "a", "framework", ",", "we", "approach", "will", "be", "base", "on", "the", "formal", "notion", "of", "a", "extortion", ",", "which", "we", "will", "propose", "in", "section", "4", "as", "a", "uniform", "tactic", "for", "a", "comprehensive", "class", "of", "situation", "in", "which", "commitment", "can", "be", "make", "sequentially", "." ], [ "on", "this", "basis", "we", "tackle", "such", "issue", "as", "the", "usefulness", "of", "certain", "type", "of", "commitment", "in", "different", "situation", "-lrb-", "strategic", "game", "-rrb-", "or", "whether", "it", "be", "better", "to", "commit", "early", "rather", "than", "late", "." ], [ "we", "also", "provide", "a", "framework", "for", "the", "assessment", "of", "more", "general", "game", "theoretic", "matter", "like", "the", "relationship", "of", "extortion", "to", "backward", "induction", "or", "Pareto", "efficiency", "." ], [ "for", "example", ",", "commitment", "have", "be", "argue", "to", "be", "of", "importance", "for", "interact", "software", "agent", "as", "well", "as", "for", "mechanism", "design", "." ], [ "in", "the", "former", "setting", ",", "the", "inability", "to", "re-program", "a", "software", "agent", "on", "the", "fly", "can", "be", "see", "as", "a", "commitment", "to", "its", "specification", "and", "thus", "exploit", "to", "strengthen", "its", "strategic", "position", "in", "a", "multiagent", "setting", "." ], [ "a", "mechanism", ",", "on", "the", "other", "hand", ",", "could", "be", "see", "as", "a", "set", "of", "commitment", "that", "steer", "the", "player", "'", "behavior", "in", "a", "certain", "desire", "way", "-lrb-", "see", ",", "e.g.", ",", "-lsb-", "2", "-rsb-", "-rrb-", "." ], [ "these", "game", "analyze", "situation", "in", "which", "a", "leader", "commit", "to", "a", "pure", "or", "mixed", "strategy", ",", "and", "a", "number", "of", "follower", ",", "who", "then", "act", "simultaneously", "." ], [ "after", "briefly", "discuss", "related", "work", "in", "section", "2", ",", "we", "present", "the", "formal", "game", "theoretic", "framework", ",", "in", "which", "we", "define", "the", "notion", "of", "a", "commitment", "type", "as", "well", "as", "conditional", "and", "unconditional", "commitment", "-lrb-", "section", "3", "-rrb-", "." ], [ "in", "section", "4", "we", "propose", "the", "generic", "concept", "of", "a", "extortion", ",", "which", "for", "each", "commitment", "type", "capture", "the", "idea", "of", "a", "optimal", "commitment", "profile", "." ], [ "section", "5", "briefly", "review", "some", "other", "commitment", "type", ",", "such", "as", "inductive", ",", "mixed", "and", "mixed", "conditional", "commitment", "." ], [ "2", "." ], [ "related", "work" ], [ "commitment", "be", "a", "central", "concept", "in", "game", "theory", "." ], [ "the", "possibility", "to", "make", "commitment", "distinguish", "cooperative", "from", "noncooperative", "game", "theory", "-lsb-", "4", ",", "6", "-rsb-", "." ], [ "leadership", "game", ",", "as", "mention", "in", "the", "introduction", ",", "analyze", "commitment", "to", "pure", "or", "mixed", "strategy", "in", "what", "be", "essentially", "a", "two-player", "setting", "-lsb-", "15", ",", "16", "-rsb-", "." ], [ "informally", ",", "schelling", "-lsb-", "9", "-rsb-", "have", "emphasize", "the", "importance", "of", "promise", ",", "threat", "and", "the", "like", "for", "a", "proper", "understanding", "of", "social", "interaction", "." ], [ "on", "a", "more", "formal", "level", ",", "threat", "have", "also", "figure", "in", "bargaining", "theory", "." ], [ "Nash", "'s", "threat", "game", "-lsb-", "5", "-rsb-", "and", "Harsanyi", "'s", "rational", "threat", "-lsb-", "3", "-rsb-", "be", "two", "important", "early", "example", "." ], [ "also", ",", "commitment", "have", "play", "a", "significant", "role", "in", "the", "theory", "of", "equilibrium", "selection", "-lrb-", "see", ",", "e.g.", ",", "-lsb-", "13", "-rsb-", "." ], [ "over", "the", "last", "few", "year", ",", "game", "theory", "have", "become", "almost", "indispensable", "as", "a", "research", "tool", "for", "computer", "science", "and", "-lrb-", "multus", "-rrb-", "agent", "research", "." ], [ "commitment", "have", "by", "no", "means", "go", "unnoticed", "-lrb-", "see", "," ], [ "Figure", "1", ":", "commit", "to", "a", "dominate", "strategy", "can", "be", "advantageous", "." ], [ "e.g.", ",", "-lsb-", "1", ",", "11", "-rsb-", "-rrb-", "." ], [ "recently", ",", "also", "the", "strategic", "aspect", "of", "commitment", "have", "attract", "the", "attention", "of", "computer", "scientist", "." ], [ "thus", ",", "conitzer", "and", "sandholm", "-lsb-", "2", "-rsb-", "have", "study", "the", "computational", "complexity", "of", "compute", "the", "optimal", "strategy", "to", "commit", "to", "in", "normal", "form", "and", "bayesian", "game", "." ], [ "Sandholm", "and", "Lesser", "-lsb-", "8", "-rsb-", "employ", "levelled", "commitment", "for", "the", "design", "of", "multiagent", "system", "in", "which", "contractual", "agreement", "be", "not", "fully", "binding", "." ], [ "another", "connection", "between", "commitment", "and", "computer", "science", "have", "be", "point", "out", "by", "Samet", "-lsb-", "7", "-rsb-", "and", "tennenholtz", "-lsb-", "12", "-rsb-", "." ], [ "they", "point", "of", "departure", "be", "the", "observation", "that", "program", "can", "be", "use", "to", "formulate", "commitment", "that", "be", "conditional", "on", "the", "program", "of", "other", "system", "." ], [ "we", "approach", "be", "similar", "to", "the", "Stackleberg", "setting", "in", "that", "we", "assume", "a", "order", "in", "which", "the", "player", "commit", "." ], [ "we", ",", "however", ",", "consider", "a", "number", "of", "different", "commitment", "type", ",", "among", "which", "conditional", "commitment", ",", "and", "propose", "a", "generic", "solution", "concept", "." ], [ "6", "." ], [ "summary", "and", "conclusion" ], [ "in", "some", "situation", "agent", "can", "strengthen", "they", "strategic", "position", "by", "commit", "themselves", "to", "a", "particular", "course", "of", "action", "." ], [ "there", "be", "various", "type", "of", "commitment", ",", "e.g.", ",", "pure", ",", "mixed", "and", "conditional", "." ], [ "which", "type", "of", "commitment", "a", "agent", "be", "in", "a", "position", "in", "to", "make", "essentially", "depend", "on", "the", "situation", "under", "consideration", "." ], [ "if", "the", "agent", "commit", "in", "a", "particular", "order", ",", "there", "be", "a", "tactic", "common", "to", "make", "commitment", "of", "any", "type", ",", "which", "we", "have", "formalize", "by", "mean", "the", "concept", "of", "a", "extortion", "." ], [ "this", "generic", "concept", "of", "extortion", "can", "be", "analyze", "in", "abstracto", "." ], [ "moreover", ",", "on", "its", "basis", "the", "various", "commitment", "type", "can", "be", "compare", "formally", "and", "systematically", "." ], [ "we", "have", "see", "that", "the", "type", "of", "commitment", "a", "agent", "can", "make", "have", "a", "profound", "impact", "on", "what", "a", "agent", "can", "achieve", "in", "a", "gamelike", "situation", "." ], [ "in", "some", "situation", "a", "player", "be", "much", "help", "if", "he", "be", "in", "a", "position", "to", "commit", "conditionally", ",", "whereas", "in", "other", "mixed", "commitment", "would", "be", "more", "profitable", "." ], [ "this", "raise", "the", "question", "as", "to", "the", "characteristic", "formal", "feature", "of", "the", "situation", "in", "which", "it", "be", "advantageous", "for", "a", "player", "to", "be", "able", "to", "make", "commitment", "of", "a", "particular", "type", "." ], [ "another", "issue", "which", "we", "leave", "for", "future", "research", "be", "the", "computational", "complexity", "of", "find", "a", "extortion", "for", "the", "different", "commitment", "type", "." ] ]

[ "commit", "credibl", "game theori", "decis make", "strateg posit", "freedom of action", "multiag system", "distribut comput", "electron market", "extort", "stackleberg set", "optim condit commit", "sequenti commit type", "induct hypothesi", "pareto effici", "pareto effici condit extort" ]

H-9

[ [ "Learn", "from", "Web", "Search", "Logs", "to", "Organize", "Search", "Results" ], [ "ABSTRACT" ], [ "Effective", "organization", "of", "search", "results", "is", "critical", "for", "improving", "the", "utility", "of", "any", "search", "engine", "." ], [ "Clustering", "search", "results", "is", "an", "effective", "way", "to", "organize", "search", "results", ",", "which", "allows", "a", "user", "to", "navigate", "into", "relevant", "documents", "quickly", "." ], [ "However", ",", "two", "deficiencies", "of", "this", "approach", "make", "it", "not", "always", "work", "well", ":", "-LRB-", "1", "-RRB-", "the", "clusters", "discovered", "do", "not", "necessarily", "correspond", "to", "the", "interesting", "aspects", "of", "a", "topic", "from", "the", "user", "'s", "perspective", ";", "and", "-LRB-", "2", "-RRB-", "the", "cluster", "labels", "generated", "are", "not", "informative", "enough", "to", "allow", "a", "user", "to", "identify", "the", "right", "cluster", "." ], [ "In", "this", "paper", ",", "we", "propose", "to", "address", "these", "two", "deficiencies", "by", "-LRB-", "1", "-RRB-", "learning", "``", "interesting", "aspects", "''", "of", "a", "topic", "from", "Web", "search", "logs", "and", "organizing", "search", "results", "accordingly", ";", "and", "-LRB-", "2", "-RRB-", "generating", "more", "meaningful", "cluster", "labels", "using", "past", "query", "words", "entered", "by", "users", "." ], [ "We", "evaluate", "our", "proposed", "method", "on", "a", "commercial", "search", "engine", "log", "data", "." ], [ "Compared", "with", "the", "traditional", "methods", "of", "clustering", "search", "results", ",", "our", "method", "can", "give", "better", "result", "organization", "and", "more", "meaningful", "labels", "." ], [ "1", "." ], [ "INTRODUCTION" ], [ "The", "utility", "of", "a", "search", "engine", "is", "affected", "by", "multiple", "factors", "." ], [ "While", "the", "primary", "factor", "is", "the", "soundness", "of", "the", "underlying", "retrieval", "model", "and", "ranking", "function", ",", "how", "to", "organize", "and", "present", "search", "results", "is", "also", "a", "very", "important", "factor", "that", "can", "affect", "the", "utility", "of", "a", "search", "engine", "significantly", "." ], [ "Compared", "with", "the", "vast", "amount", "of", "literature", "on", "retrieval", "models", ",", "however", ",", "there", "is", "relatively", "little", "research", "on", "how", "to", "improve", "the", "effectiveness", "of", "search", "result", "organization", "." ], [ "The", "most", "common", "strategy", "of", "presenting", "search", "results", "is", "a", "simple", "ranked", "list", "." ], [ "Intuitively", ",", "such", "a", "presentation", "strategy", "is", "reasonable", "for", "non-ambiguous", ",", "homogeneous", "search" ], [ "results", ";", "in", "general", ",", "it", "would", "work", "well", "when", "the", "search", "results", "are", "good", "and", "a", "user", "can", "easily", "find", "many", "relevant", "documents", "in", "the", "top", "ranked", "results", "." ], [ "In", "these", "examples", ",", "a", "clustering", "view", "of", "the", "search", "results", "would", "be", "much", "more", "useful", "to", "a", "user", "than", "a", "simple", "ranked", "list", "." ], [ "Clustering", "is", "also", "useful", "when", "the", "search", "results", "are", "poor", ",", "in", "which", "case", ",", "a", "user", "would", "otherwise", "have", "to", "go", "through", "a", "long", "list", "sequentially", "to", "reach", "the", "very", "first", "relevant", "document", "." ], [ "As", "a", "primary", "alternative", "strategy", "for", "presenting", "search", "results", ",", "clustering", "search", "results", "has", "been", "studied", "relatively", "extensively", "-LSB-", "9", ",", "15", ",", "26", ",", "27", ",", "28", "-RSB-", "." ], [ "The", "general", "idea", "in", "virtually", "all", "the", "existing", "work", "is", "to", "perform", "clustering", "on", "a", "set", "of", "topranked", "search", "results", "to", "partition", "the", "results", "into", "natural", "clusters", ",", "which", "often", "correspond", "to", "different", "subtopics", "of", "the", "general", "query", "topic", "." ], [ "A", "label", "will", "be", "generated", "to", "indicate", "what", "each", "cluster", "is", "about", "." ], [ "A", "user", "can", "then", "view", "the", "labels", "to", "decide", "which", "cluster", "to", "look", "into", "." ], [ "However", ",", "this", "clustering", "strategy", "has", "two", "deficiencies", "which", "make", "it", "not", "always", "work", "well", ":", "First", ",", "the", "clusters", "discovered", "in", "this", "way", "do", "not", "necessarily", "correspond", "to", "the", "interesting", "aspects", "of", "a", "topic", "from", "the", "user", "'s", "perspective", "." ], [ "But", "the", "clusters", "discovered", "by", "the", "current", "methods", "may", "partition", "the", "results", "into", "``", "local", "codes", "''", "and", "``", "international", "codes", ".", "''" ], [ "Such", "clusters", "would", "not", "be", "very", "useful", "for", "users", ";", "even", "the", "best", "cluster", "would", "still", "have", "a", "low", "precision", "." ], [ "Second", ",", "the", "cluster", "labels", "generated", "are", "not", "informative", "enough", "to", "allow", "a", "user", "to", "identify", "the", "right", "cluster", "." ], [ "There", "are", "two", "reasons", "for", "this", "problem", ":", "-LRB-", "1", "-RRB-", "The", "clusters", "are", "not", "corresponding", "to", "a", "user", "'s", "interests", ",", "so", "their", "labels", "would", "not", "be", "very", "meaningful", "or", "useful", "." ], [ "For", "example", ",", "the", "ambiguous", "query", "``", "jaguar", "''", "may", "mean", "an", "animal", "or", "a", "car", "." ], [ "A", "cluster", "may", "be", "labeled", "as", "``", "panthera", "onca", ".", "''" ], [ "In", "this", "paper", ",", "we", "propose", "a", "different", "strategy", "for", "partitioning", "search", "results", ",", "which", "addresses", "these", "two", "deficiencies", "through", "imposing", "a", "user-oriented", "partitioning", "of", "the", "search", "results", "." ], [ "That", "is", ",", "we", "try", "to", "figure", "out", "what", "aspects", "of", "a", "search", "topic", "are", "likely", "interesting", "to", "a", "user", "and", "organize", "the", "results", "accordingly", "." ], [ "Specifically", ",", "we", "propose", "to", "do", "the", "following", ":", "First", ",", "we", "will", "learn", "``", "interesting", "aspects", "''", "of", "similar", "topics", "from", "search", "logs", "and", "organize", "search", "results", "based", "on", "these", "``", "interesting", "aspects", "''", "." ], [ "For", "example", ",", "if", "the", "current", "query", "has", "occurred", "many", "times", "in", "the", "search", "logs", ",", "we", "can", "look", "at", "what", "kinds", "of", "pages", "viewed", "by", "the", "users", "in", "the", "results", "and", "what", "kind", "of", "words", "are", "used", "together", "with", "such", "a", "query", "." ], [ "In", "case", "when", "the", "query", "is", "ambiguous", "such", "as", "``", "jaguar", "''", "we", "can", "expect", "to", "see", "some", "clear", "clusters", "corresponding", "different", "senses", "of", "``", "jaguar", "''", "." ], [ "Such", "aspects", "can", "be", "very", "useful", "for", "organizing", "future", "search", "results", "about", "``", "car", "''", "." ], [ "Second", ",", "we", "will", "generate", "more", "meaningful", "cluster", "labels", "using", "past", "query", "words", "entered", "by", "users", "." ], [ "Thus", "they", "can", "be", "better", "labels", "than", "those", "extracted", "from", "the", "ordinary", "contents", "of", "search", "results", "." ], [ "To", "implement", "the", "ideas", "presented", "above", ",", "we", "rely", "on", "search", "engine", "logs", "and", "build", "a", "history", "collection", "containing", "the", "past", "queries", "and", "the", "associated", "clickthroughs", "." ], [ "Given", "a", "new", "query", ",", "we", "find", "its", "related", "past", "queries", "from", "the", "history", "collection", "and", "learn", "aspects", "through", "applying", "the", "star", "clustering", "algorithm", "-LSB-", "2", "-RSB-", "to", "these", "past", "queries", "and", "clickthroughs", "." ], [ "We", "can", "then", "organize", "the", "search", "results", "into", "these", "aspects", "using", "categorization", "techniques", "and", "label", "each", "aspect", "by", "the", "most", "representative", "past", "query", "in", "the", "query", "cluster", "." ], [ "We", "evaluate", "our", "method", "for", "result", "organization", "using", "logs", "of", "a", "commercial", "search", "engine", "." ], [ "We", "compare", "our", "method", "with", "the", "default", "search", "engine", "ranking", "and", "the", "traditional", "clustering", "of", "search", "results", "." ], [ "The", "results", "show", "that", "our", "method", "is", "effective", "for", "improving", "search", "utility", "and", "the", "labels", "generated", "using", "past", "query", "words", "are", "more", "readable", "than", "those", "generated", "using", "traditional", "clustering", "approaches", "." ], [ "The", "rest", "of", "the", "paper", "is", "organized", "as", "follows", "." ], [ "We", "first", "review", "the", "related", "work", "in", "Section", "2", "." ], [ "In", "Section", "3", ",", "we", "describe", "search", "engine", "log", "data", "and", "our", "procedure", "of", "building", "a", "history", "collection", "." ], [ "In", "Section", "4", ",", "we", "present", "our", "approach", "in", "details", "." ], [ "We", "describe", "the", "data", "set", "in", "Section", "5", "and", "the", "experimental", "results", "are", "discussed", "in", "Section", "6", "." ], [ "Finally", ",", "we", "conclude", "our", "paper", "and", "discuss", "future", "work", "in", "Section", "7", "." ], [ "2", "." ], [ "RELATED", "WORK" ], [ "Our", "work", "is", "closely", "related", "to", "the", "study", "of", "clustering", "search", "results", "." ], [ "In", "-LSB-", "9", ",", "15", "-RSB-", ",", "the", "authors", "used", "Scatter/Gather", "algorithm", "to", "cluster", "the", "top", "documents", "returned", "from", "a", "traditional", "information", "retrieval", "system", "." ], [ "Their", "results", "validate", "the", "cluster", "hypothesis", "-LSB-", "20", "-RSB-", "that", "relevant", "documents", "tend", "to", "form", "clusters", "." ], [ "In", "these", "papers", ",", "the", "authors", "proposed", "to", "cluster", "the", "results", "of", "a", "real", "search", "engine", "based", "on", "the", "snippets", "or", "the", "contents", "of", "returned", "documents", "." ], [ "Several", "clustering", "algorithms", "are", "compared", "and", "the", "Suffix", "Tree", "Clustering", "algorithm", "-LRB-", "STC", "-RRB-", "was", "shown", "to", "be", "the", "most", "effective", "one", "." ], [ "They", "also", "showed", "that", "using", "snippets", "is", "as", "effective", "as", "using", "whole", "documents", "." ], [ "However", ",", "an", "important", "challenge", "of", "document", "clustering", "is", "to", "generate", "meaningful", "labels", "for", "clusters", "." ], [ "To", "overcome", "this", "difficulty", ",", "in", "-LSB-", "28", "-RSB-", ",", "supervised", "learning", "algorithms", "were", "studied", "to", "extract", "meaningful", "phrases", "from", "the", "search", "result", "snippets", "and", "these", "phrases", "were", "then", "used", "to", "group", "search", "results", "." ], [ "In", "-LSB-", "13", "-RSB-", ",", "the", "authors", "proposed", "to", "use", "a", "monothetic", "clustering", "algorithm", ",", "in", "which", "a", "document", "is", "assigned", "to", "a", "cluster", "based", "on", "a", "single", "feature", ",", "to", "organize", "search", "results", ",", "and", "the", "single", "feature", "is", "used", "to", "label", "the", "corresponding", "cluster", "." ], [ "Clustering", "search", "results", "has", "also", "attracted", "a", "lot", "of", "attention", "in", "industry", "and", "commercial", "Web", "services", "such", "as", "Vivisimo", "-LSB-", "22", "-RSB-", "." ], [ "However", ",", "in", "all", "these", "works", ",", "the", "clusters", "are", "generated", "solely", "based", "on", "the", "search", "results", "." ], [ "Thus", "the", "obtained", "clusters", "do", "not", "necessarily", "reflect", "users", "'", "preferences", "and", "the", "generated", "labels", "may", "not", "be", "informative", "from", "a", "user", "'s", "viewpoint", "." ], [ "Methods", "of", "organizing", "search", "results", "based", "on", "text", "categorization", "are", "studied", "in", "-LSB-", "6", ",", "8", "-RSB-", "." ], [ "In", "this", "work", ",", "a", "text", "classifier", "is", "trained", "using", "a", "Web", "directory", "and", "search", "results", "are", "then", "classified", "into", "the", "predefined", "categories", "." ], [ "The", "authors", "designed", "and", "studied", "different", "category", "interfaces", "and", "they", "found", "that", "category", "interfaces", "are", "more", "effective", "than", "list", "interfaces", "." ], [ "However", "predefined", "categories", "are", "often", "too", "general", "to", "reflect", "the", "finer", "granularity", "aspects", "of", "a", "query", "." ], [ "Search", "logs", "have", "been", "exploited", "for", "several", "different", "purposes", "in", "the", "past", "." ], [ "For", "example", ",", "clustering", "search", "queries", "to", "find", "those", "Frequent", "Asked", "Questions", "-LRB-", "FAQ", "-RRB-", "is", "studied", "in", "-LSB-", "24", ",", "4", "-RSB-", "." ], [ "In", "our", "work", ",", "we", "explore", "past", "query", "history", "in", "order", "to", "better", "organize", "the", "search", "results", "for", "future", "queries", "." ], [ "We", "use", "the", "star", "clustering", "algorithm", "-LSB-", "2", "-RSB-", ",", "which", "is", "a", "graph", "partition", "based", "approach", ",", "to", "learn", "interesting", "aspects", "from", "search", "logs", "given", "a", "new", "query", "." ], [ "7", "." ], [ "CONCLUSIONS", "AND", "FUTURE", "WORK" ], [ "In", "this", "paper", ",", "we", "studied", "the", "problem", "of", "organizing", "search", "results", "in", "a", "user-oriented", "manner", "." ], [ "To", "attain", "this", "goal", ",", "we", "rely", "on", "search", "engine", "logs", "to", "learn", "interesting", "aspects", "from", "users", "'", "perspective", "." ], [ "Given", "a", "query", ",", "we", "retrieve", "its", "related" ], [ "queries", "from", "past", "query", "history", ",", "learn", "the", "aspects", "by", "clustering", "the", "past", "queries", "and", "the", "associated", "clickthrough", "information", ",", "and", "categorize", "the", "search", "results", "into", "the", "aspects", "learned", "." ], [ "We", "compared", "our", "log-based", "method", "with", "the", "traditional", "cluster-based", "method", "and", "the", "baseline", "of", "search", "engine", "ranking", "." ], [ "The", "experiments", "show", "that", "our", "log-based", "method", "can", "consistently", "outperform", "cluster-based", "method", "and", "improve", "over", "the", "ranking", "baseline", ",", "especially", "when", "the", "queries", "are", "difficult", "or", "the", "search", "results", "are", "diverse", "." ], [ "Furthermore", ",", "our", "log-based", "method", "can", "generate", "more", "meaningful", "aspect", "labels", "than", "the", "cluster", "labels", "generated", "based", "on", "search", "results", "when", "we", "cluster", "search", "results", "." ], [ "There", "are", "several", "interesting", "directions", "for", "further", "extending", "our", "work", ":", "First", ",", "although", "our", "experiment", "results", "have", "clearly", "shown", "promise", "of", "the", "idea", "of", "learning", "from", "search", "logs", "to", "organize", "search", "results", ",", "the", "methods", "we", "have", "experimented", "with", "are", "relatively", "simple", "." ], [ "It", "would", "be", "interesting", "to", "explore", "other", "potentially", "more", "effective", "methods", "." ], [ "In", "particular", ",", "we", "hope", "to", "develop", "probabilistic", "models", "for", "learning", "aspects", "and", "organizing", "results", "simultaneously", "." ], [ "Second", ",", "with", "the", "proposed", "way", "of", "organizing", "search", "results", ",", "we", "can", "expect", "to", "obtain", "informative", "feedback", "information", "from", "a", "user", "-LRB-", "e.g.", ",", "the", "aspect", "chosen", "by", "a", "user", "to", "view", "-RRB-", "." ], [ "It", "would", "thus", "be", "interesting", "to", "study", "how", "to", "further", "improve", "the", "organization", "of", "the", "results", "based", "on", "such", "feedback", "information", "." ], [ "Finally", ",", "we", "can", "combine", "a", "general", "search", "log", "with", "any", "personal", "search", "log", "to", "customize", "and", "optimize", "the", "organization", "of", "search", "results", "for", "each", "individual", "user", "." ] ]

[ [ "VB", "IN", "NN", "VB", "NNS", "TO", "VB", "VB", "NNS" ], [ "NN" ], [ "JJ", "NN", "IN", "NN", "NNS", "VBZ", "JJ", "IN", "VBG", "DT", "NN", "IN", "DT", "NN", "NN", "." ], [ "NN", "NN", "VBZ", "VBZ", "DT", "JJ", "NN", "TO", "VB", "NN", "NNS", ",", "WDT", "VBZ", "DT", "NN", "TO", "VB", "IN", "JJ", "NNS", "RB", "." ], [ "RB", ",", "CD", "NNS", "IN", "DT", "NN", "VB", "PRP", "RB", "RB", "VB", "RB", ":", "-LRB-", "LS", "-RRB-", "DT", "NNS", "VBN", "VBP", "RB", "RB", "VBP", "TO", "DT", "JJ", "NNS", "IN", "DT", "NN", "IN", "DT", "NN", "POS", "NN", ":", "CC", "-LRB-", "LS", "-RRB-", "DT", "NN", "VBZ", "VBN", "VBP", "RB", "JJ", "JJ", "TO", "VB", "DT", "NN", "TO", "VB", "DT", "JJ", "NN", "." ], [ "IN", "DT", "NN", ",", "PRP", "VBP", "TO", "VB", "DT", "CD", "NNS", "IN", "-LRB-", "LS", "-RRB-", "VBG", "``", "JJ", "NNS", "''", "IN", "DT", "NN", "IN", "NN", "NN", "NNS", "CC", "VBG", "NN", "VBZ", "RB", ":", "CC", "-LRB-", "LS", "-RRB-", "VBG", "RBR", "JJ", "NN", "NNS", "VBG", "JJ", "JJ", "NNS", "VBN", "IN", "NNS", "." ], [ "PRP", "VBP", "PRP$", "VBN", "NN", "IN", "DT", "JJ", "NN", "NN", "NN", "NNS", "." ], [ "VBN", "IN", "DT", "JJ", "NNS", "IN", "NN", "NN", "VBZ", ",", "PRP$", "NN", "MD", "VB", "JJR", "NN", "NN", "CC", "JJR", "JJ", "NNS", "." ], [ "LS", "." ], [ "NN" ], [ "DT", "NN", "IN", "DT", "NN", "NN", "VBZ", "VBN", "IN", "JJ", "NNS", "." ], [ "IN", "DT", "JJ", "NN", "VBZ", "DT", "NN", "IN", "DT", "VBG", "NN", "NN", "CC", "JJ", "NN", ",", "WRB", "TO", "VB", "CC", "JJ", "NN", "NNS", "VBZ", "RB", "DT", "RB", "JJ", "NN", "WDT", "MD", "VB", "DT", "NN", "IN", "DT", "NN", "NN", "RB", "." ], [ "VBN", "IN", "DT", "JJ", "NN", "IN", "NN", "IN", "NN", "NNS", ",", "RB", ",", "EX", "VBZ", "RB", "JJ", "NN", "IN", "WRB", "TO", "VB", "DT", "NN", "IN", "NN", "VBP", "NN", "." ], [ "DT", "RBS", "JJ", "NN", "IN", "VBG", "NN", "NNS", "VBZ", "DT", "JJ", "VBD", "NN", "." ], [ "RB", ",", "PDT", "DT", "NN", "NN", "VBZ", "JJ", "IN", "JJ", ",", "JJ", "NN" ], [ "NNS", ":", "IN", "JJ", ",", "PRP", "MD", "VB", "RB", "WRB", "DT", "NN", "NNS", "VBP", "JJ", "CC", "DT", "NN", "MD", "RB", "VB", "JJ", "JJ", "NNS", "IN", "DT", "JJ", "VBD", "NNS", "." ], [ "IN", "DT", "NNS", ",", "DT", "NN", "NN", "IN", "DT", "NN", "VBZ", "MD", "VB", "RB", "RBR", "JJ", "TO", "DT", "NN", "IN", "DT", "JJ", "VBD", "NN", "." ], [ "NN", "VBZ", "RB", "JJ", "WRB", "DT", "NN", "NNS", "VBP", "JJ", ",", "IN", "WDT", "NN", ",", "DT", "NN", "MD", "RB", "VB", "TO", "VB", "IN", "DT", "JJ", "NN", "RB", "TO", "VB", "DT", "RB", "JJ", "JJ", "NN", "." ], [ "IN", "DT", "JJ", "JJ", "NN", "IN", "VBG", "NN", "NNS", ",", "NN", "NN", "VBZ", "VBZ", "VBN", "VBN", "RB", "RB", "-LRB-", "CD", ",", "CD", ",", "CD", ",", "CD", ",", "CD", "-RRB-", "." ], [ "DT", "JJ", "NN", "IN", "RB", "PDT", "DT", "VBG", "NN", "VBZ", "TO", "VB", "NN", "IN", "DT", "NN", "IN", "JJ", "NN", "VBZ", "TO", "NN", "DT", "NNS", "IN", "JJ", "NNS", ",", "WDT", "RB", "VBP", "TO", "JJ", "NNS", "IN", "DT", "JJ", "NN", "NN", "." ], [ "DT", "NN", "MD", "VB", "VBN", "TO", "VB", "WP", "DT", "NN", "VBZ", "RB", "." ], [ "DT", "NN", "MD", "RB", "VB", "DT", "NNS", "TO", "VB", "WDT", "NN", "TO", "VB", "IN", "." ], [ "RB", ",", "DT", "NN", "NN", "VBZ", "CD", "NNS", "WDT", "VBP", "PRP", "RB", "RB", "VB", "RB", ":", "NNP", ",", "DT", "NNS", "VBN", "IN", "DT", "NN", "VBP", "RB", "RB", "VBP", "TO", "DT", "JJ", "NNS", "IN", "DT", "NN", "IN", "DT", "NN", "POS", "NN", "." ], [ "CC", "DT", "NNS", "VBN", "IN", "DT", "JJ", "NNS", "MD", "NN", "DT", "NNS", "IN", "``", "JJ", "NNS", "''", "CC", "``", "JJ", "NNS", ".", "''" ], [ "JJ", "NNS", "MD", "RB", "VB", "RB", "JJ", "IN", "NNS", ":", "RB", "DT", "JJS", "NN", "MD", "RB", "VB", "DT", "JJ", "NN", "." ], [ "RB", ",", "DT", "NN", "VBZ", "VBN", "VBP", "RB", "JJ", "JJ", "TO", "VB", "DT", "NN", "TO", "VB", "DT", "JJ", "NN", "." ], [ "EX", "VBP", "CD", "NNS", "IN", "DT", "NN", ":", "-LRB-", "LS", "-RRB-", "DT", "NNS", "VBP", "RB", "VBG", "TO", "DT", "NN", "POS", "NNS", ",", "IN", "PRP$", "NNS", "MD", "RB", "VB", "RB", "JJ", "CC", "JJ", "." ], [ "IN", "NN", ",", "DT", "JJ", "NN", "``", "NN", "''", "MD", "VB", "DT", "NN", "CC", "DT", "NN", "." ], [ "DT", "NN", "MD", "VB", "VBN", "IN", "``", "NN", "JJ", ".", "''" ], [ "IN", "DT", "NN", ",", "PRP", "VBP", "DT", "JJ", "NN", "IN", "VBG", "NN", "NNS", ",", "WDT", "VBZ", "DT", "CD", "NNS", "IN", "VBG", "DT", "JJ", "NN", "IN", "DT", "NN", "VBZ", "." ], [ "DT", "VBZ", ",", "PRP", "VBP", "TO", "VB", "RP", "WP", "NNS", "IN", "DT", "NN", "NN", "VBP", "JJ", "JJ", "TO", "DT", "NN", "CC", "VB", "DT", "NNS", "RB", "." ], [ "RB", ",", "PRP", "VBP", "TO", "VB", "DT", "NN", ":", "NNP", ",", "PRP", "MD", "VB", "``", "JJ", "NNS", "''", "IN", "JJ", "NNS", "IN", "NN", "NNS", "CC", "VB", "NN", "NNS", "VBN", "IN", "DT", "``", "JJ", "NNS", "''", "." ], [ "IN", "NN", ",", "IN", "DT", "JJ", "NN", "VBZ", "VBN", "JJ", "NNS", "IN", "DT", "NN", "NNS", ",", "PRP", "MD", "VB", "IN", "WDT", "NNS", "IN", "NNS", "VBN", "IN", "DT", "NNS", "IN", "DT", "NNS", "CC", "WP", "NN", "IN", "NNS", "VBP", "VBN", "RP", "IN", "PDT", "DT", "NN", "." ], [ "IN", "NN", "WRB", "DT", "NN", "VBZ", "JJ", "JJ", "IN", "``", "NN", "''", "PRP", "MD", "VB", "TO", "VB", "DT", "JJ", "NNS", "VBG", "JJ", "NNS", "IN", "``", "NN", "''", "." ], [ "JJ", "NNS", "MD", "VB", "RB", "JJ", "IN", "VBG", "JJ", "NN", "VBZ", "IN", "``", "NN", "''", "." ], [ "RB", ",", "PRP", "MD", "VB", "JJR", "JJ", "NN", "NNS", "VBG", "JJ", "JJ", "NNS", "VBN", "IN", "NNS", "." ], [ "RB", "PRP", "MD", "VB", "JJR", "NNS", "IN", "DT", "VBN", "IN", "DT", "JJ", "NNS", "IN", "NN", "NNS", "." ], [ "TO", "VB", "DT", "NNS", "VBN", "IN", ",", "PRP", "VBP", "IN", "NN", "NN", "NNS", "CC", "VB", "DT", "NN", "NN", "VBG", "DT", "JJ", "NNS", "CC", "DT", "VBN", "NNS", "." ], [ "VBN", "DT", "JJ", "NN", ",", "PRP", "VBP", "PRP$", "JJ", "JJ", "NNS", "IN", "DT", "NN", "NN", "CC", "VB", "NNS", "IN", "VBG", "DT", "NN", "NN", "NN", "-LRB-", "CD", "-RRB-", "TO", "DT", "JJ", "NNS", "CC", "NNS", "." ], [ "PRP", "MD", "RB", "VB", "DT", "NN", "VBZ", "IN", "DT", "NNS", "VBG", "NN", "NNS", "CC", "NN", "DT", "NN", "IN", "DT", "RBS", "JJ", "JJ", "NN", "IN", "DT", "NN", "NN", "." ], [ "PRP", "VBP", "PRP$", "NN", "IN", "NN", "NN", "VBG", "NNS", "IN", "DT", "JJ", "NN", "NN", "." ], [ "PRP", "VBP", "PRP$", "NN", "IN", "DT", "NN", "NN", "NN", "NN", "CC", "DT", "JJ", "NN", "IN", "NN", "NNS", "." ], [ "DT", "NNS", "VBP", "IN", "PRP$", "NN", "VBZ", "JJ", "IN", "VBG", "NN", "NN", "CC", "DT", "NNS", "VBN", "VBG", "JJ", "JJ", "NNS", "VBP", "RBR", "JJ", "IN", "DT", "VBN", "VBG", "JJ", "NN", "NNS", "." ], [ "DT", "NN", "IN", "DT", "NN", "VBZ", "VBN", "IN", "VBZ", "." ], [ "PRP", "RB", "VB", "DT", "JJ", "NN", "IN", "NN", "CD", "." ], [ "IN", "NN", "CD", ",", "PRP", "VBP", "NN", "NN", "NN", "NNS", "CC", "PRP$", "NN", "IN", "VBG", "DT", "NN", "NN", "." ], [ "IN", "NN", "CD", ",", "PRP", "VBP", "PRP$", "NN", "IN", "NNS", "." ], [ "PRP", "VBP", "DT", "NNS", "VBN", "IN", "NN", "CD", "CC", "DT", "JJ", "NNS", "VBP", "VBN", "IN", "NN", "CD", "." ], [ "RB", ",", "PRP", "VBP", "PRP$", "NN", "CC", "VB", "JJ", "NN", "IN", "NN", "CD", "." ], [ "LS", "." ], [ "JJ", "VBP" ], [ "PRP$", "NN", "VBZ", "RB", "JJ", "TO", "DT", "NN", "IN", "NN", "NN", "NNS", "." ], [ "IN", "-LRB-", "CD", ",", "CD", "-RRB-", ",", "DT", "NNS", "VBN", "NNP", "NN", "TO", "VB", "DT", "JJ", "NNS", "VBN", "IN", "DT", "JJ", "NN", "NN", "NN", "." ], [ "PRP$", "NNS", "VBP", "DT", "NN", "NN", "-LRB-", "CD", "-RRB-", "WDT", "JJ", "NNS", "VBP", "TO", "VB", "NNS", "." ], [ "IN", "DT", "NNS", ",", "DT", "NNS", "VBN", "TO", "VB", "DT", "NNS", "IN", "DT", "JJ", "NN", "NN", "VBN", "IN", "DT", "NNS", "CC", "DT", "NNS", "IN", "VBN", "NNS", "." ], [ "JJ", "NN", "NNS", "VBP", "VBN", "CC", "DT", "NNP", "NNP", "NNP", "NN", "-LRB-", "NN", "-RRB-", "VBD", "VBN", "TO", "VB", "DT", "RBS", "JJ", "CD", "." ], [ "PRP", "RB", "VBD", "IN", "VBG", "NNS", "VBZ", "IN", "JJ", "IN", "VBG", "JJ", "NNS", "." ], [ "RB", ",", "DT", "JJ", "NN", "IN", "NN", "NN", "VBZ", "TO", "VB", "JJ", "NNS", "IN", "NNS", "." ], [ "TO", "VB", "DT", "NN", ",", "IN", "-LRB-", "CD", "-RRB-", ",", "JJ", "NN", "NNS", "VBD", "VBN", "TO", "VB", "JJ", "NNS", "IN", "DT", "NN", "VBP", "NNS", "CC", "DT", "NNS", "VBD", "RB", "VBN", "TO", "NN", "NN", "NNS", "." ], [ "IN", "-LRB-", "CD", "-RRB-", ",", "DT", "NNS", "VBN", "TO", "VB", "DT", "JJ", "NN", "NN", ",", "IN", "WDT", "DT", "NN", "VBZ", "VBN", "TO", "DT", "NN", "VBN", "IN", "DT", "JJ", "NN", ",", "TO", "VB", "NN", "NNS", ",", "CC", "DT", "JJ", "NN", "VBZ", "VBN", "TO", "VB", "DT", "JJ", "NN", "." ], [ "NN", "NN", "VBZ", "VBZ", "RB", "VBN", "DT", "NN", "IN", "NN", "IN", "NN", "CC", "JJ", "NN", "NNS", "JJ", "IN", "NNP", "-LRB-", "CD", "-RRB-", "." ], [ "RB", ",", "IN", "DT", "DT", "NNS", ",", "DT", "NNS", "VBP", "VBN", "RB", "VBN", "IN", "DT", "NN", "VBZ", "." ], [ "RB", "DT", "VBN", "NNS", "VBP", "RB", "RB", "VB", "NNS", "POS", "NNS", "CC", "DT", "VBN", "NNS", "MD", "RB", "VB", "JJ", "IN", "DT", "NN", "POS", "NN", "." ], [ "NNS", "IN", "VBG", "NN", "VBZ", "VBN", "IN", "NN", "NN", "VBP", "VBN", "IN", "-LRB-", "CD", ",", "CD", "-RRB-", "." ], [ "IN", "DT", "NN", ",", "DT", "NN", "NN", "VBZ", "VBN", "VBG", "DT", "NN", "NN", "CC", "NN", "NNS", "VBP", "RB", "VBN", "IN", "DT", "JJ", "NNS", "." ], [ "DT", "NNS", "VBN", "CC", "VBN", "JJ", "NN", "NNS", "CC", "PRP", "VBD", "IN", "NN", "NNS", "VBP", "RBR", "JJ", "IN", "NN", "NNS", "." ], [ "RB", "JJ", "NNS", "VBP", "RB", "RB", "JJ", "TO", "VB", "DT", "NN", "NN", "NNS", "IN", "DT", "NN", "." ], [ "VB", "NNS", "VBP", "VBN", "VBN", "IN", "JJ", "JJ", "NNS", "IN", "DT", "NN", "." ], [ "IN", "NN", ",", "NN", "NN", "NNS", "TO", "VB", "DT", "JJ", "VBN", "NNS", "-LRB-", "NN", "-RRB-", "VBZ", "VBN", "IN", "-LRB-", "CD", ",", "CD", "-RRB-", "." ], [ "IN", "PRP$", "NN", ",", "PRP", "VBP", "JJ", "JJ", "NN", "IN", "NN", "TO", "JJR", "VB", "DT", "NN", "VBZ", "IN", "JJ", "NNS", "." ], [ "PRP", "VBP", "DT", "NN", "NN", "NN", "-LRB-", "CD", "-RRB-", ",", "WDT", "VBZ", "DT", "NN", "NN", "VBN", "NN", ",", "TO", "VB", "JJ", "NNS", "IN", "NN", "NNS", "VBN", "DT", "JJ", "NN", "." ], [ "CD", "." ], [ "NNS", "CC", "NNS", "VBP" ], [ "IN", "DT", "NN", ",", "PRP", "VBD", "DT", "NN", "IN", "VBG", "NN", "NNS", "IN", "DT", "JJ", "NN", "." ], [ "TO", "VB", "DT", "NN", ",", "PRP", "VBP", "IN", "NN", "NN", "NNS", "TO", "VB", "JJ", "NNS", "IN", "NNS", "POS", "NN", "." ], [ "VBN", "DT", "NN", ",", "PRP", "VBP", "PRP$", "JJ" ], [ "NNS", "IN", "JJ", "JJ", "NN", ",", "VBP", "DT", "NNS", "IN", "VBG", "DT", "JJ", "NNS", "CC", "DT", "VBN", "JJ", "NN", ",", "CC", "VBP", "DT", "NN", "VBZ", "IN", "DT", "NNS", "VBD", "." ], [ "PRP", "VBD", "PRP$", "JJ", "NN", "IN", "DT", "JJ", "JJ", "NN", "CC", "DT", "NN", "IN", "NN", "NN", "NN", "." ], [ "DT", "NNS", "VBP", "IN", "PRP$", "JJ", "NN", "MD", "RB", "VB", "JJ", "NN", "CC", "VB", "IN", "DT", "JJ", "NN", ",", "RB", "WRB", "DT", "NNS", "VBP", "JJ", "CC", "DT", "NN", "NNS", "VBP", "JJ", "." ], [ "RB", ",", "PRP$", "JJ", "NN", "MD", "VB", "JJR", "JJ", "NN", "NNS", "IN", "DT", "NN", "VBZ", "VBN", "VBN", "IN", "NN", "VBZ", "WRB", "PRP", "VBP", "NN", "NNS", "." ], [ "EX", "VBP", "JJ", "JJ", "NNS", "IN", "JJ", "VBG", "PRP$", "NN", ":", "NNP", ",", "IN", "PRP$", "NN", "NNS", "VBP", "RB", "VBN", "NN", "IN", "DT", "NN", "IN", "VBG", "IN", "NN", "NNS", "TO", "VB", "NN", "NNS", ",", "DT", "NNS", "PRP", "VBP", "VBN", "IN", "VBP", "RB", "JJ", "." ], [ "PRP", "MD", "VB", "JJ", "TO", "VB", "JJ", "RB", "RBR", "JJ", "NNS", "." ], [ "IN", "JJ", ",", "PRP", "VBP", "TO", "VB", "JJ", "NNS", "IN", "VBG", "NNS", "CC", "VBG", "NNS", "RB", "." ], [ "RB", ",", "IN", "DT", "JJ", "NN", "IN", "VBG", "NN", "NNS", ",", "PRP", "MD", "VB", "TO", "VB", "JJ", "NN", "NN", "IN", "DT", "NN", "-LRB-", "FW", ",", "DT", "NN", "VBN", "IN", "DT", "NN", "TO", "NN", "-RRB-", "." ], [ "PRP", "MD", "RB", "VB", "JJ", "TO", "VB", "WRB", "TO", "JJ", "VB", "DT", "NN", "IN", "DT", "NNS", "VBN", "IN", "JJ", "NN", "NN", "." ], [ "RB", ",", "PRP", "MD", "VB", "DT", "JJ", "NN", "NN", "IN", "DT", "JJ", "NN", "NN", "TO", "VB", "CC", "VB", "DT", "NN", "IN", "NN", "NNS", "IN", "DT", "JJ", "NN", "." ] ]

[ [ "learn", "from", "web", "search", "log", "to", "organize", "search", "result" ], [ "abstract" ], [ "effective", "organization", "of", "search", "result", "be", "critical", "for", "improve", "the", "utility", "of", "any", "search", "engine", "." ], [ "clustering", "search", "result", "be", "a", "effective", "way", "to", "organize", "search", "result", ",", "which", "allow", "a", "user", "to", "navigate", "into", "relevant", "document", "quickly", "." ], [ "however", ",", "two", "deficiency", "of", "this", "approach", "make", "it", "not", "always", "work", "well", ":", "-lrb-", "1", "-rrb-", "the", "cluster", "discover", "do", "not", "necessarily", "correspond", "to", "the", "interesting", "aspect", "of", "a", "topic", "from", "the", "user", "'s", "perspective", ";", "and", "-lrb-", "2", "-rrb-", "the", "cluster", "label", "generate", "be", "not", "informative", "enough", "to", "allow", "a", "user", "to", "identify", "the", "right", "cluster", "." ], [ "in", "this", "paper", ",", "we", "propose", "to", "address", "these", "two", "deficiency", "by", "-lrb-", "1", "-rrb-", "learn", "``", "interesting", "aspect", "''", "of", "a", "topic", "from", "web", "search", "log", "and", "organize", "search", "result", "accordingly", ";", "and", "-lrb-", "2", "-rrb-", "generate", "more", "meaningful", "cluster", "label", "use", "past", "query", "word", "enter", "by", "user", "." ], [ "we", "evaluate", "we", "propose", "method", "on", "a", "commercial", "search", "engine", "log", "datum", "." ], [ "compare", "with", "the", "traditional", "method", "of", "clustering", "search", "result", ",", "we", "method", "can", "give", "better", "result", "organization", "and", "more", "meaningful", "label", "." ], [ "1", "." ], [ "introduction" ], [ "the", "utility", "of", "a", "search", "engine", "be", "affect", "by", "multiple", "factor", "." ], [ "while", "the", "primary", "factor", "be", "the", "soundness", "of", "the", "underlie", "retrieval", "model", "and", "ranking", "function", ",", "how", "to", "organize", "and", "present", "search", "result", "be", "also", "a", "very", "important", "factor", "that", "can", "affect", "the", "utility", "of", "a", "search", "engine", "significantly", "." ], [ "compare", "with", "the", "vast", "amount", "of", "literature", "on", "retrieval", "model", ",", "however", ",", "there", "be", "relatively", "little", "research", "on", "how", "to", "improve", "the", "effectiveness", "of", "search", "result", "organization", "." ], [ "the", "most", "common", "strategy", "of", "present", "search", "result", "be", "a", "simple", "rank", "list", "." ], [ "intuitively", ",", "such", "a", "presentation", "strategy", "be", "reasonable", "for", "non-ambiguous", ",", "homogeneous", "search" ], [ "result", ";", "in", "general", ",", "it", "would", "work", "well", "when", "the", "search", "result", "be", "good", "and", "a", "user", "can", "easily", "find", "many", "relevant", "document", "in", "the", "top", "rank", "result", "." ], [ "in", "these", "example", ",", "a", "clustering", "view", "of", "the", "search", "result", "would", "be", "much", "more", "useful", "to", "a", "user", "than", "a", "simple", "rank", "list", "." ], [ "clustering", "be", "also", "useful", "when", "the", "search", "result", "be", "poor", ",", "in", "which", "case", ",", "a", "user", "would", "otherwise", "have", "to", "go", "through", "a", "long", "list", "sequentially", "to", "reach", "the", "very", "first", "relevant", "document", "." ], [ "as", "a", "primary", "alternative", "strategy", "for", "present", "search", "result", ",", "clustering", "search", "result", "have", "be", "study", "relatively", "extensively", "-lsb-", "9", ",", "15", ",", "26", ",", "27", ",", "28", "-rsb-", "." ], [ "the", "general", "idea", "in", "virtually", "all", "the", "exist", "work", "be", "to", "perform", "clustering", "on", "a", "set", "of", "topranked", "search", "result", "to", "partition", "the", "result", "into", "natural", "cluster", ",", "which", "often", "correspond", "to", "different", "subtopic", "of", "the", "general", "query", "topic", "." ], [ "a", "label", "will", "be", "generate", "to", "indicate", "what", "each", "cluster", "be", "about", "." ], [ "a", "user", "can", "then", "view", "the", "label", "to", "decide", "which", "cluster", "to", "look", "into", "." ], [ "however", ",", "this", "clustering", "strategy", "have", "two", "deficiency", "which", "make", "it", "not", "always", "work", "well", ":", "First", ",", "the", "cluster", "discover", "in", "this", "way", "do", "not", "necessarily", "correspond", "to", "the", "interesting", "aspect", "of", "a", "topic", "from", "the", "user", "'s", "perspective", "." ], [ "but", "the", "cluster", "discover", "by", "the", "current", "method", "may", "partition", "the", "result", "into", "``", "local", "code", "''", "and", "``", "international", "code", ".", "''" ], [ "such", "cluster", "would", "not", "be", "very", "useful", "for", "user", ";", "even", "the", "best", "cluster", "would", "still", "have", "a", "low", "precision", "." ], [ "second", ",", "the", "cluster", "label", "generate", "be", "not", "informative", "enough", "to", "allow", "a", "user", "to", "identify", "the", "right", "cluster", "." ], [ "there", "be", "two", "reason", "for", "this", "problem", ":", "-lrb-", "1", "-rrb-", "the", "cluster", "be", "not", "correspond", "to", "a", "user", "'s", "interest", ",", "so", "they", "label", "would", "not", "be", "very", "meaningful", "or", "useful", "." ], [ "for", "example", ",", "the", "ambiguous", "query", "``", "jaguar", "''", "may", "mean", "a", "animal", "or", "a", "car", "." ], [ "a", "cluster", "may", "be", "label", "as", "``", "panthera", "onca", ".", "''" ], [ "in", "this", "paper", ",", "we", "propose", "a", "different", "strategy", "for", "partition", "search", "result", ",", "which", "address", "these", "two", "deficiency", "through", "impose", "a", "user-oriented", "partitioning", "of", "the", "search", "result", "." ], [ "that", "be", ",", "we", "try", "to", "figure", "out", "what", "aspect", "of", "a", "search", "topic", "be", "likely", "interesting", "to", "a", "user", "and", "organize", "the", "result", "accordingly", "." ], [ "specifically", ",", "we", "propose", "to", "do", "the", "following", ":", "First", ",", "we", "will", "learn", "``", "interesting", "aspect", "''", "of", "similar", "topic", "from", "search", "log", "and", "organize", "search", "result", "base", "on", "these", "``", "interesting", "aspect", "''", "." ], [ "for", "example", ",", "if", "the", "current", "query", "have", "occur", "many", "time", "in", "the", "search", "log", ",", "we", "can", "look", "at", "what", "kind", "of", "page", "view", "by", "the", "user", "in", "the", "result", "and", "what", "kind", "of", "word", "be", "use", "together", "with", "such", "a", "query", "." ], [ "in", "case", "when", "the", "query", "be", "ambiguous", "such", "as", "``", "jaguar", "''", "we", "can", "expect", "to", "see", "some", "clear", "cluster", "correspond", "different", "sens", "of", "``", "jaguar", "''", "." ], [ "such", "aspect", "can", "be", "very", "useful", "for", "organize", "future", "search", "result", "about", "``", "car", "''", "." ], [ "second", ",", "we", "will", "generate", "more", "meaningful", "cluster", "label", "use", "past", "query", "word", "enter", "by", "user", "." ], [ "thus", "they", "can", "be", "better", "label", "than", "those", "extract", "from", "the", "ordinary", "contents", "of", "search", "result", "." ], [ "to", "implement", "the", "idea", "present", "above", ",", "we", "rely", "on", "search", "engine", "log", "and", "build", "a", "history", "collection", "contain", "the", "past", "query", "and", "the", "associate", "clickthrough", "." ], [ "give", "a", "new", "query", ",", "we", "find", "its", "related", "past", "query", "from", "the", "history", "collection", "and", "learn", "aspect", "through", "apply", "the", "star", "clustering", "algorithm", "-lsb-", "2", "-rsb-", "to", "these", "past", "query", "and", "clickthrough", "." ], [ "we", "can", "then", "organize", "the", "search", "result", "into", "these", "aspect", "use", "categorization", "technique", "and", "label", "each", "aspect", "by", "the", "most", "representative", "past", "query", "in", "the", "query", "cluster", "." ], [ "we", "evaluate", "we", "method", "for", "result", "organization", "use", "log", "of", "a", "commercial", "search", "engine", "." ], [ "we", "compare", "we", "method", "with", "the", "default", "search", "engine", "ranking", "and", "the", "traditional", "clustering", "of", "search", "result", "." ], [ "the", "result", "show", "that", "we", "method", "be", "effective", "for", "improve", "search", "utility", "and", "the", "label", "generate", "use", "past", "query", "word", "be", "more", "readable", "than", "those", "generate", "use", "traditional", "clustering", "approach", "." ], [ "the", "rest", "of", "the", "paper", "be", "organize", "as", "follow", "." ], [ "we", "first", "review", "the", "related", "work", "in", "section", "2", "." ], [ "in", "section", "3", ",", "we", "describe", "search", "engine", "log", "datum", "and", "we", "procedure", "of", "build", "a", "history", "collection", "." ], [ "in", "section", "4", ",", "we", "present", "we", "approach", "in", "detail", "." ], [ "we", "describe", "the", "datum", "set", "in", "section", "5", "and", "the", "experimental", "result", "be", "discuss", "in", "section", "6", "." ], [ "finally", ",", "we", "conclude", "we", "paper", "and", "discuss", "future", "work", "in", "section", "7", "." ], [ "2", "." ], [ "related", "work" ], [ "we", "work", "be", "closely", "related", "to", "the", "study", "of", "clustering", "search", "result", "." ], [ "in", "-lsb-", "9", ",", "15", "-rsb-", ",", "the", "author", "use", "Scatter/Gather", "algorithm", "to", "cluster", "the", "top", "document", "return", "from", "a", "traditional", "information", "retrieval", "system", "." ], [ "they", "result", "validate", "the", "cluster", "hypothesis", "-lsb-", "20", "-rsb-", "that", "relevant", "document", "tend", "to", "form", "cluster", "." ], [ "in", "these", "papers", ",", "the", "author", "propose", "to", "cluster", "the", "result", "of", "a", "real", "search", "engine", "base", "on", "the", "snippet", "or", "the", "contents", "of", "return", "document", "." ], [ "several", "clustering", "algorithm", "be", "compare", "and", "the", "Suffix", "Tree", "Clustering", "algorithm", "-lrb-", "stc", "-rrb-", "be", "show", "to", "be", "the", "most", "effective", "one", "." ], [ "they", "also", "show", "that", "use", "snippet", "be", "as", "effective", "as", "use", "whole", "document", "." ], [ "however", ",", "a", "important", "challenge", "of", "document", "clustering", "be", "to", "generate", "meaningful", "label", "for", "cluster", "." ], [ "to", "overcome", "this", "difficulty", ",", "in", "-lsb-", "28", "-rsb-", ",", "supervised", "learning", "algorithm", "be", "study", "to", "extract", "meaningful", "phrase", "from", "the", "search", "result", "snippet", "and", "these", "phrase", "be", "then", "use", "to", "group", "search", "result", "." ], [ "in", "-lsb-", "13", "-rsb-", ",", "the", "author", "propose", "to", "use", "a", "monothetic", "clustering", "algorithm", ",", "in", "which", "a", "document", "be", "assign", "to", "a", "cluster", "base", "on", "a", "single", "feature", ",", "to", "organize", "search", "result", ",", "and", "the", "single", "feature", "be", "use", "to", "label", "the", "corresponding", "cluster", "." ], [ "clustering", "search", "result", "have", "also", "attract", "a", "lot", "of", "attention", "in", "industry", "and", "commercial", "web", "service", "such", "as", "Vivisimo", "-lsb-", "22", "-rsb-", "." ], [ "however", ",", "in", "all", "these", "work", ",", "the", "cluster", "be", "generate", "solely", "base", "on", "the", "search", "result", "." ], [ "thus", "the", "obtain", "cluster", "do", "not", "necessarily", "reflect", "user", "'", "preference", "and", "the", "generate", "label", "may", "not", "be", "informative", "from", "a", "user", "'s", "viewpoint", "." ], [ "method", "of", "organize", "search", "result", "base", "on", "text", "categorization", "be", "study", "in", "-lsb-", "6", ",", "8", "-rsb-", "." ], [ "in", "this", "work", ",", "a", "text", "classifier", "be", "train", "use", "a", "web", "directory", "and", "search", "result", "be", "then", "classify", "into", "the", "predefined", "category", "." ], [ "the", "author", "design", "and", "study", "different", "category", "interface", "and", "they", "find", "that", "category", "interface", "be", "more", "effective", "than", "list", "interface", "." ], [ "however", "predefined", "category", "be", "often", "too", "general", "to", "reflect", "the", "finer", "granularity", "aspect", "of", "a", "query", "." ], [ "search", "log", "have", "be", "exploit", "for", "several", "different", "purpose", "in", "the", "past", "." ], [ "for", "example", ",", "clustering", "search", "query", "to", "find", "those", "frequent", "ask", "question", "-lrb-", "faq", "-rrb-", "be", "study", "in", "-lsb-", "24", ",", "4", "-rsb-", "." ], [ "in", "we", "work", ",", "we", "explore", "past", "query", "history", "in", "order", "to", "better", "organize", "the", "search", "result", "for", "future", "query", "." ], [ "we", "use", "the", "star", "clustering", "algorithm", "-lsb-", "2", "-rsb-", ",", "which", "be", "a", "graph", "partition", "base", "approach", ",", "to", "learn", "interesting", "aspect", "from", "search", "log", "give", "a", "new", "query", "." ], [ "7", "." ], [ "conclusion", "and", "future", "work" ], [ "in", "this", "paper", ",", "we", "study", "the", "problem", "of", "organize", "search", "result", "in", "a", "user-oriented", "manner", "." ], [ "to", "attain", "this", "goal", ",", "we", "rely", "on", "search", "engine", "log", "to", "learn", "interesting", "aspect", "from", "user", "'", "perspective", "." ], [ "give", "a", "query", ",", "we", "retrieve", "its", "related" ], [ "query", "from", "past", "query", "history", ",", "learn", "the", "aspect", "by", "cluster", "the", "past", "query", "and", "the", "associate", "clickthrough", "information", ",", "and", "categorize", "the", "search", "result", "into", "the", "aspect", "learn", "." ], [ "we", "compare", "we", "log-based", "method", "with", "the", "traditional", "cluster-based", "method", "and", "the", "baseline", "of", "search", "engine", "ranking", "." ], [ "the", "experiment", "show", "that", "we", "log-based", "method", "can", "consistently", "outperform", "cluster-based", "method", "and", "improve", "over", "the", "ranking", "baseline", ",", "especially", "when", "the", "query", "be", "difficult", "or", "the", "search", "result", "be", "diverse", "." ], [ "furthermore", ",", "we", "log-based", "method", "can", "generate", "more", "meaningful", "aspect", "label", "than", "the", "cluster", "label", "generate", "base", "on", "search", "result", "when", "we", "cluster", "search", "result", "." ], [ "there", "be", "several", "interesting", "direction", "for", "further", "extend", "we", "work", ":", "First", ",", "although", "we", "experiment", "result", "have", "clearly", "show", "promise", "of", "the", "idea", "of", "learn", "from", "search", "log", "to", "organize", "search", "result", ",", "the", "method", "we", "have", "experiment", "with", "be", "relatively", "simple", "." ], [ "it", "would", "be", "interesting", "to", "explore", "other", "potentially", "more", "effective", "method", "." ], [ "in", "particular", ",", "we", "hope", "to", "develop", "probabilistic", "model", "for", "learn", "aspect", "and", "organize", "result", "simultaneously", "." ], [ "second", ",", "with", "the", "proposed", "way", "of", "organize", "search", "result", ",", "we", "can", "expect", "to", "obtain", "informative", "feedback", "information", "from", "a", "user", "-lrb-", "e.g.", ",", "the", "aspect", "choose", "by", "a", "user", "to", "view", "-rrb-", "." ], [ "it", "would", "thus", "be", "interesting", "to", "study", "how", "to", "further", "improve", "the", "organization", "of", "the", "result", "base", "on", "such", "feedback", "information", "." ], [ "finally", ",", "we", "can", "combine", "a", "general", "search", "log", "with", "any", "personal", "search", "log", "to", "customize", "and", "optimize", "the", "organization", "of", "search", "result", "for", "each", "individual", "user", "." ] ]

[ "retriev model", "rank function", "ambigu", "cluster view", "meaning cluster label", "histori collect", "past queri", "clickthrough", "star cluster algorithm", "suffix tree cluster algorithm", "search result snippet", "monothet cluster algorithm", "pseudo-document", "pairwis similar graph", "similar threshold paramet", "centroid-base method", "cosin similar", "centroid prototyp", "reciproc rank", "log-base method", "mean averag precis" ]

J-25

[ [ "Betting", "Boolean-Style", ":", "A", "Framework", "for", "Trading", "in", "Securities", "Based", "on", "Logical", "Formulas" ], [ "ABSTRACT" ], [ "We", "develop", "a", "framework", "for", "trading", "in", "compound", "securities", ":", "financial", "instruments", "that", "pay", "off", "contingent", "on", "the", "outcomes", "of", "arbitrary", "statements", "in", "propositional", "logic", "." ], [ "Buying", "or", "selling", "securities", "--", "which", "can", "be", "thought", "of", "as", "betting", "on", "or", "against", "a", "particular", "future", "outcome", "--", "allows", "agents", "both", "to", "hedge", "risk", "and", "to", "profit", "-LRB-", "in", "expectation", "-RRB-", "on", "subjective", "predictions", "." ], [ "A", "compound", "securities", "market", "allows", "agents", "to", "place", "bets", "on", "arbitrary", "boolean", "combinations", "of", "events", ",", "enabling", "them", "to", "more", "closely", "achieve", "their", "optimal", "risk", "exposure", ",", "and", "enabling", "the", "market", "as", "a", "whole", "to", "more", "closely", "achieve", "the", "social", "optimum", "." ], [ "The", "tradeoff", "for", "allowing", "such", "expressivity", "is", "in", "the", "complexity", "of", "the", "agents", "'", "and", "auctioneer", "'s", "optimization", "problems", "." ], [ "We", "develop", "and", "motivate", "the", "concept", "of", "a", "compound", "securities", "market", ",", "presenting", "the", "framework", "through", "a", "series", "of", "formal", "definitions", "and", "examples", "." ], [ "We", "then", "analyze", "in", "detail", "the", "auctioneer", "'s", "matching", "problem", "." ], [ "We", "show", "that", ",", "with", "n", "events", ",", "the", "matching", "problem", "is", "co-NP-complete", "in", "the", "divisible", "case", "and", "Σp2-complete", "in", "the", "indivisible", "case", "." ], [ "We", "show", "that", "the", "latter", "hardness", "result", "holds", "even", "under", "severe", "language", "restrictions", "on", "bids", "." ], [ "With", "log", "n", "events", ",", "the", "problem", "is", "polynomial", "in", "the", "divisible", "case", "and", "NP-complete", "in", "the", "indivisible", "case", "." ], [ "We", "briefly", "discuss", "matching", "algorithms", "and", "tractable", "special", "cases", "." ], [ "1", "." ], [ "INTRODUCTION" ], [ "Securities", "markets", "effectively", "allow", "traders", "to", "place", "bets", "on", "the", "outcomes", "of", "uncertain", "future", "propositions", "." ], [ "The", "economic", "value", "of", "securities", "markets", "is", "two-fold", "." ], [ "First", ",", "they", "allow", "traders", "to", "hedge", "risk", ",", "or", "to", "insure", "against", "undesirable", "outcomes", "." ], [ "For", "example", ",", "the", "owner", "of", "a", "stock", "might", "buy", "a", "put", "option", "-LRB-", "the", "right", "to", "sell", "the", "stock", "at", "a", "particular", "price", "-RRB-", "in", "order", "to", "insure", "against", "a", "stock", "downturn", "." ], [ "Second", ",", "securities", "markets", "allow", "traders", "to", "speculate", ",", "or", "to", "obtain", "a", "subjective", "expected", "profit", "when", "market", "prices", "do", "not", "reflect", "their", "assessment", "of", "the", "likelihood", "of", "future", "outcomes", "." ], [ "For", "example", ",", "a", "trader", "might", "buy", "a", "call", "option", "if", "he", "believes", "that", "the", "likelihood", "is", "high", "that", "the", "price", "of", "the", "underlying", "stock", "will", "go", "up", ",", "regardless", "of", "risk", "exposure", "to", "changes", "in", "the", "stock", "price", "." ], [ "Because", "traders", "stand", "to", "earn", "a", "profit", "if", "they", "can", "make", "effective", "probability", "assessments", ",", "often", "prices", "in", "financial", "markets", "yield", "very", "accurate", "aggregate", "forecasts", "of", "future", "events", "-LSB-", "10", ",", "29", ",", "27", ",", "28", "-RSB-", "." ], [ "Real", "securities", "markets", "have", "complex", "payoff", "structures", "with", "various", "triggers", "." ], [ "However", ",", "these", "can", "all", "be", "modeled", "as", "collections", "of", "more", "basic", "or", "atomic", "Arrow-Debreu", "securities", "-LSB-", "1", ",", "8", ",", "20", "-RSB-", "." ], [ "One", "unit", "of", "one", "Arrow-Debreu", "security", "pays", "off", "one", "dollar", "if", "and", "only", "if", "-LRB-", "iff", "-RRB-", "a", "corresponding", "binary", "event", "occurs", ";", "it", "pays", "nothing", "if", "the", "event", "does", "not", "occur", "." ], [ "So", ",", "for", "example", ",", "one", "unit", "of", "a", "security", "denoted", "-LRB-", "Acme100", "-RRB-", "might", "pay", "$", "1", "iff", "Acme", "'s", "stock", "is", "above", "$", "100", "on", "January", "4", ",", "2004", "." ], [ "An", "Acme", "stock", "option", "as", "it", "would", "be", "defined", "on", "a", "finan" ], [ "cial", "exchange", "can", "be", "though", "of", "as", "a", "portfolio", "of", "such", "atomic", "securities", ".1", "In", "this", "paper", ",", "we", "develop", "and", "analyze", "a", "framework", "for", "trading", "in", "compound", "securities", "markets", "with", "payoffs", "contingent", "on", "arbitrary", "logical", "combinations", "of", "events", ",", "including", "conditionals", "." ], [ "For", "example", ",", "given", "binary", "events", "A", ",", "B", ",", "and", "C", ",", "one", "trader", "might", "bid", "to", "buy", "three", "units", "of", "a", "security", "denoted", "-LRB-", "A", "n", "B", "¯", "V", "C", "-RRB-", "that", "pays", "off", "$", "1", "iff", "the", "compound", "event", "A", "n", "B", "¯", "V", "C", "occurs", "for", "thirty", "cents", "each", "." ], [ "Given", "a", "set", "of", "such", "bids", ",", "the", "auctioneer", "faces", "a", "complex", "matching", "problem", "to", "decide", "which", "bids", "are", "accepted", "for", "how", "many", "units", "at", "what", "price", "." ], [ "Typically", ",", "the", "auctioneer", "seeks", "to", "take", "on", "no", "risk", "of", "its", "own", ",", "only", "matching", "up", "agreeable", "trades", "among", "the", "bidders", ",", "but", "we", "also", "consider", "alternative", "formulations", "where", "the", "auctioneer", "acts", "as", "a", "market", "maker", "willing", "to", "accept", "some", "risk", "." ], [ "We", "examine", "the", "computational", "complexity", "of", "the", "auctioneer", "'s", "matching", "problem", "." ], [ "Let", "the", "length", "of", "the", "description", "of", "all", "the", "available", "securities", "be", "O", "-LRB-", "n", "-RRB-", "." ], [ "With", "n", "events", ",", "the", "matching", "problem", "is", "co-NP-complete", "in", "the", "divisible", "case", "and", "Ep2-complete", "in", "the", "indivisible", "case", "." ], [ "This", "Ep2-complete", "hardness", "holds", "even", "when", "the", "bidding", "language", "is", "significantly", "restricted", "." ], [ "With", "log", "n", "events", ",", "the", "problem", "is", "polynomial", "in", "the", "divisible", "case", "and", "NP-complete", "in", "the", "indivisible", "case", "." ], [ "Section", "2", "presents", "some", "necessary", "background", "information", ",", "motivation", ",", "and", "related", "work", "." ], [ "Section", "3", "formally", "describes", "our", "framework", "for", "compound", "securities", ",", "and", "defines", "the", "auctioneer", "'s", "matching", "problem", "." ], [ "Section", "4", "briefly", "discusses", "natural", "algorithms", "for", "solving", "the", "matching", "problem", "." ], [ "Section", "5", "proves", "our", "central", "computational", "complexity", "results", "." ], [ "Section", "6", "discusses", "the", "possibility", "of", "tractable", "special", "cases", "." ], [ "Section", "7", "concludes", "with", "a", "summary", "and", "some", "ideas", "of", "future", "directions", "." ], [ "2", "." ], [ "PRELIMINARIES" ], [ "2.1", "Background", "and", "notation" ], [ "In", "this", "simple", "world", "there", "are", "four", "possible", "future", "states", "--", "all", "possible", "combinations", "of", "the", "binary", "events", "'", "outcomes", ":", "struck", "n", "acme100", ",", "struck", "n", "acme100", ",", "struck", "n", "acme100", ",", "struck", "n", "acme100", "." ], [ "Hedging", "risk", "can", "be", "thought", "of", "as", "an", "action", "of", "moving", "money", "between", "various", "possible", "future", "states", "." ], [ "For", "example", ",", "insur1Technically", ",", "an", "option", "is", "a", "portfolio", "of", "infinitely", "many", "atomic", "securities", ",", "though", "it", "can", "be", "approximately", "modeled", "with", "a", "finite", "number", "." ], [ "ing", "one", "'s", "house", "transfers", "money", "from", "future", "states", "where", "struck", "is", "not", "true", "to", "states", "where", "it", "is", "." ], [ "Selling", "a", "security", "denoted", "-LRB-", "acme100", "-RRB-", "--", "that", "pays", "off", "$", "1", "iff", "the", "event", "acme100", "occurs", "--", "transfers", "money", "from", "future", "states", "where", "Acme", "'s", "price", "is", "above", "$", "100", "on", "January", "4", "to", "states", "where", "it", "'s", "not", "." ], [ "Speculating", "is", "also", "an", "act", "of", "transferring", "money", "between", "future", "states", ",", "though", "usually", "associated", "with", "maximizing", "expected", "return", "rather", "than", "reducing", "risk", "." ], [ "For", "example", ",", "betting", "on", "a", "football", "team", "moves", "money", "from", "the", "``", "team", "loses", "''", "state", "to", "the", "``", "team", "wins", "''", "state", "." ], [ "All", "possible", "future", "outcomes", "form", "a", "state", "space", "Ω", ",", "consisting", "of", "mutually", "exclusive", "and", "exhaustive", "states", "ω", "E", "Ω", "." ], [ "Often", "a", "more", "natural", "way", "to", "think", "of", "possible", "future", "outcomes", "is", "as", "an", "event", "space", "A", "of", "linearly", "independent", "events", "A", "E", "A", "that", "may", "overlap", "arbitrarily", "." ], [ "So", "in", "our", "toy", "example", "struck", "n", "acme100", "is", "one", "of", "the", "four", "disjoint", "states", ",", "while", "struck", "is", "one", "of", "the", "two", "events", "." ], [ "Note", "that", "a", "set", "of", "n", "linearly", "independent", "events", "defines", "a", "state", "space", "Ω", "of", "size", "2", "''", "consisting", "of", "all", "possible", "combinations", "of", "event", "outcomes", "." ], [ "Conversely", ",", "any", "state", "space", "Ω", "can", "be", "factored", "into", "-LSB-", "log", "lΩll", "events", "." ], [ "Suppose", "that", "A", "exhaustively", "covers", "all", "meaningful", "future", "outcomes", "-LRB-", "i.e.", ",", "covers", "all", "eventualities", "that", "agents", "may", "wish", "to", "hedge", "against", "and/or", "speculate", "upon", "-RRB-", "." ], [ "Then", "the", "existence", "of", "2", "''", "linearly", "independent", "securities", "--", "called", "a", "complete", "market", "--", "allows", "agents", "to", "distribute", "their", "wealth", "arbitrarily", "across", "future", "states", ".2", "An", "agent", "may", "create", "any", "hedge", "or", "speculation", "it", "desires", "." ], [ "Under", "classical", "conditions", ",", "agents", "trading", "in", "a", "complete", "market", "form", "an", "equilibrium", "where", "risk", "is", "allocated", "Pareto", "optimally", "." ], [ "If", "the", "market", "is", "incomplete", ",", "meaning", "it", "consists", "of", "fewer", "than", "2", "''", "linearly", "independent", "securities", ",", "then", "in", "general", "agents", "can", "not", "construct", "arbitrary", "hedges", "and", "equilibrium", "allocations", "may", "be", "nonoptimal", "-LSB-", "1", ",", "8", ",", "19", ",", "20", "-RSB-", "." ], [ "In", "real-world", "settings", ",", "the", "number", "of", "meaningful", "events", "n", "is", "large", "and", "thus", "the", "number", "of", "securities", "required", "for", "completeness", "is", "intractable", "." ], [ "No", "truly", "complete", "market", "exists", "or", "will", "ever", "exist", "." ], [ "One", "motivation", "behind", "compound", "securities", "markets", "is", "to", "provide", "a", "mechanism", "that", "supports", "the", "most", "transfer", "of", "risk", "using", "the", "least", "number", "of", "transactions", "possible", "." ], [ "Compound", "securities", "allow", "a", "high", "degree", "of", "expressivity", "in", "constructing", "bids", "." ], [ "The", "tradeoff", "for", "increased", "expressivity", "is", "increased", "computational", "complexity", ",", "from", "both", "the", "bidder", "'s", "and", "auctioneer", "'s", "point", "of", "view", "." ], [ "2.2", "Related", "work" ], [ "The", "quest", "to", "reduce", "the", "number", "of", "financial", "instruments", "required", "to", "support", "an", "optimal", "allocation", "of", "risk", "dates", "to", "Arrow", "'s", "original", "work", "-LSB-", "1", "-RSB-", "." ], [ "The", "requirement", "stated", "above", "of", "``", "only", "''", "2", "''", "linearly-independent", "securities", "is", "itself", "a", "reduction", "from", "the", "most", "straightforward", "formulation", "." ], [ "In", "an", "economy", "with", "k", "standard", "goods", ",", "the", "most", "straightforward", "complete", "market", "contains", "k", "•", "2", "''", "securities", ",", "each", "paying", "off", "in", "one", "good", "under", "one", "state", "realization", "." ], [ "Arrow", "-LSB-", "1", "-RSB-", "showed", "that", "a", "market", "where", "securities", "and", "goods", "are", "essentially", "separated", ",", "with", "2", "''", "securities", "paying", "off", "in", "a", "single", "numeraire", "good", "plus", "k", "spot", "markets", "in", "the", "standard", "goods", ",", "is", "also", "complete", "." ], [ "For", "our", "purposes", ",", "we", "need", "consider", "only", "the", "securities", "market", "." ], [ "2By", "linearly", "independent", "securities", ",", "we", "mean", "that", "the", "vectors", "of", "payoffs", "in", "all", "future", "states", "of", "these", "securities", "are", "linearly", "independent", "." ], [ "Varian", "-LSB-", "34", "-RSB-", "shows", "that", "a", "complete", "market", "can", "be", "constructed", "using", "fewer", "than", "2n", "securities", ",", "replacing", "the", "missing", "securities", "with", "options", "." ], [ "Still", ",", "the", "number", "of", "linearly", "independent", "financial", "instruments", "--", "securities", "plus", "options", "--", "must", "be", "2n", "to", "guarantee", "completeness", "." ], [ "The", "authors", "show", "that", "in", "some", "cases", "the", "market", "can", "be", "structured", "and", "``", "compacted", "''", "in", "analogy", "to", "Bayesian", "network", "representations", "of", "joint", "probability", "distributions", "-LSB-", "23", "-RSB-", "." ], [ "They", "show", "that", ",", "if", "all", "agents", "'", "risk-neutral", "independencies", "agree", "with", "the", "independencies", "encoded", "in", "the", "market", "structure", ",", "then", "the", "market", "is", "operationally", "complete", "." ], [ "For", "collections", "of", "agents", "all", "with", "constant", "absolute", "risk", "aversion", ",", "agreement", "on", "Markov", "independencies", "is", "sufficient", "." ], [ "Bossaerts", ",", "Fine", ",", "and", "Ledyard", "-LSB-", "2", "-RSB-", "develop", "a", "mechanism", "they", "call", "combined-value", "trading", "-LRB-", "CVT", "-RRB-", "that", "allows", "traders", "to", "order", "an", "arbitrary", "portfolio", "of", "securities", "in", "one", "bid", ",", "rather", "than", "breaking", "up", "the", "order", "into", "a", "sequence", "of", "bids", "on", "individual", "securities", "." ], [ "If", "the", "portfolio", "order", "is", "accepted", ",", "all", "of", "the", "implied", "trades", "on", "individual", "securities", "are", "executed", "simultaneously", ",", "thus", "eliminating", "so-called", "execution", "risk", "that", "prices", "will", "change", "in", "the", "middle", "of", "a", "planned", "sequence", "of", "orders", "." ], [ "The", "authors", "conduct", "laboratory", "experiments", "showing", "that", ",", "even", "in", "thin", "markets", "where", "ordinary", "sequential", "trading", "breaks", "down", ",", "CVT", "supports", "efficient", "pricing", "and", "allocation", "." ], [ "Note", "that", "CVT", "differs", "significantly", "from", "compound", "securities", "trading", "." ], [ "CVT", "allows", "instantaneous", "trading", "of", "any", "linear", "combination", "of", "securities", ",", "while", "compound", "securities", "allow", "more", "expressive", "securities", "that", "can", "encode", "nonlinear", "boolean", "combinations", "of", "events", "." ], [ "For", "example", ",", "CVT", "may", "allow", "an", "agent", "to", "order", "securities", "-LRB-", "A", "-RRB-", "and", "-LRB-", "B", "-RRB-", "in", "a", "bundle", "that", "pays", "off", "as", "a", "linear", "combination", "of", "A", "and", "B", ",3", "but", "CVT", "wo", "n't", "allow", "the", "construction", "of", "a", "compound", "security", "-LRB-", "A", "n", "B", "-RRB-", "that", "pays", "off", "$", "1", "iff", "both", "A", "and", "B", "occur", ",", "or", "a", "compound", "security", "-LRB-", "AIB", "-RRB-", "." ], [ "Combinatorial", "auctions", "allow", "bidders", "to", "place", "distinct", "values", "on", "all", "possible", "bundles", "of", "goods", "rather", "than", "just", "on", "individual", "goods", "." ], [ "Compound", "securities", "differ", "from", "combinatorial", "auctions", "in", "concept", "and", "complexity", "." ], [ "Compound", "securities", "allow", "bidders", "to", "construct", "an", "arbitrary", "bet", "on", "any", "of", "the", "22n", "possible", "compound", "events", "expressible", "as", "logical", "functions", "of", "the", "n", "base", "events", ",", "conditional", "on", "any", "other", "of", "the", "22n", "compound", "events", "." ], [ "Agents", "optimize", "based", "on", "their", "own", "subjective", "probabilities", "and", "risk", "attitude", "-LRB-", "and", "in", "general", ",", "their", "beliefs", "about", "other", "agents", "'", "beliefs", "and", "utilities", ",", "ad", "infinitum", "-RRB-", "." ], [ "The", "central", "auctioneer", "problem", "is", "identifying", "arbitrage", "opportunities", ":", "that", "is", ",", "to", "match", "bets", "together", "without", "taking", "on", "any", "risk", "." ], [ "Combinatorial", "auctions", ",", "on", "the", "other", "hand", ",", "allow", "bids", "on", "any", "of", "the", "2n", "bundles", "of", "n", "goods", "." ], [ "uncertainty", "--", "and", "thus", "risk", "--", "is", "not", "considered", "." ], [ "The", "central", "auctioneer", "problem", "is", "to", "maximize", "social", "welfare", "." ], [ "Also", "note", "that", "the", "problems", "lie", "in", "different", "complexity", "classes", "." ], [ "While", "clearing", "a", "combinatorial", "auction", "is", "polynomial", "in", "the", "divisible", "case", "and", "NP-complete", "in", "the", "indivisible", "case", ",", "matching", "in", "a", "compound", "securities", "market", "is", "NP-complete", "in", "the", "divisible", "case", "and", "Ep2-complete", "in", "the", "indivisible", "case", "." ], [ "In", "fact", ",", "even", "the", "problem", "of", "deciding", "whether", "two", "bids", "on", "compound", "securities", "match", ",", "even", "in", "the", "divisible", "case", ",", "is", "NP-complete", "-LRB-", "see", "Section", "5.2", "-RRB-", "." ], [ "There", "is", "a", "sense", "in", "which", "it", "is", "possible", "to", "translate", "our", "matching", "problem", "for", "compound", "securities", "into", "an", "analogous", "problem", "for", "clearing", "two-sided", "combinatorial", "exchanges", "-LSB-", "31", "-RSB-", "of", "exponential", "size", "." ], [ "Specifically", ",", "if", "we", "regard", "payoff", "in", "a", "particular", "state", "as", "a", "good", ",", "then", "compound", "securities", "can", "be", "viewed", "as", "bundles", "of", "-LRB-", "fractional", "quantities", "of", "-RRB-", "such", "goods", "." ], [ "The", "material", "balance", "constraint", "facing", "the", "combinatorial", "auctioneer", "corresponds", "to", "a", "restriction", "that", "the", "compoundsecurity", "auctioneer", "be", "disallowed", "from", "assuming", "any", "risk", "." ], [ "Note", "that", "this", "translation", "is", "not", "at", "all", "useful", "for", "addressing", "the", "compound-security", "matching", "problem", ",", "as", "the", "resulting", "combinatorial", "exchange", "has", "an", "exponential", "number", "of", "goods", "." ], [ "Hanson", "-LSB-", "15", "-RSB-", "develops", "a", "market", "mechanism", "called", "a", "market", "scoring", "rule", "that", "is", "especially", "well", "suited", "for", "allowing", "bets", "on", "a", "combinatorial", "number", "of", "outcomes", "." ], [ "The", "mechanism", "maintains", "a", "joint", "probability", "distribution", "over", "all", "2n", "states", ",", "either", "explicitly", "or", "implicitly", "using", "a", "Bayesian", "network", "or", "other", "compact", "representation", "." ], [ "In", "the", "limit", "of", "a", "single", "trader", ",", "the", "mechanism", "behaves", "like", "a", "scoring", "rule", ",", "suitable", "for", "polling", "a", "single", "agent", "for", "its", "probability", "distribution", "." ], [ "In", "the", "limit", "of", "many", "traders", ",", "it", "produces", "a", "combined", "estimate", "." ], [ "Since", "the", "market", "essentially", "always", "has", "a", "complete", "set", "of", "posted", "prices", "for", "all", "possible", "outcomes", ",", "the", "mechanism", "avoids", "the", "problem", "of", "thin", "markets", ",", "or", "illiquidity", ",", "that", "necessarily", "plagues", "any", "market", "containing", "an", "exponential", "number", "of", "alternative", "investments", "." ], [ "Bids", "for", "compound", "securities", "can", "be", "thought", "of", "as", "expressions", "of", "probabilistic", "inequalities", ":", "for", "example", ",", "a", "bid", "to", "buy", "-LRB-", "A", "n", "B", "-RRB-", "at", "price", "0.3", "is", "a", "statement", "that", "the", "probability", "of", "A", "n", "B", "is", "greater", "than", "0.3", "." ], [ "If", "a", "set", "of", "single-unit", "bids", "correspond", "to", "a", "set", "of", "inconsistent", "probabilistic", "inequalities", ",", "then", "there", "is", "a", "match", "." ], [ "We", "address", "these", "issues", "below", "." ] ]

[ [ "NNP", "NNP", ":", "DT", "NN", "IN", "NN", "IN", "NNP", "VBD", "IN", "JJ", "NNS" ], [ "NN" ], [ "PRP", "VBP", "DT", "NN", "IN", "NN", "IN", "NN", "NNS", ":", "JJ", "NNS", "WDT", "VBP", "RP", "NN", "IN", "DT", "NNS", "IN", "JJ", "NNS", "IN", "JJ", "NN", "." ], [ "VBG", "CC", "VBG", "NNS", ":", "WDT", "MD", "VB", "VBN", "IN", "IN", "VBG", "IN", "CC", "IN", "DT", "JJ", "JJ", "NN", ":", "VBZ", "NNS", "CC", "TO", "VB", "NN", "CC", "TO", "NN", "-LRB-", "IN", "NN", "-RRB-", "IN", "JJ", "NNS", "." ], [ "DT", "NN", "NNS", "NN", "VBZ", "NNS", "TO", "VB", "NNS", "IN", "JJ", "JJ", "NNS", "IN", "NNS", ",", "VBG", "PRP", "TO", "RBR", "RB", "VB", "PRP$", "JJ", "NN", "NN", ",", "CC", "VBG", "DT", "NN", "IN", "DT", "JJ", "TO", "RBR", "RB", "VB", "DT", "JJ", "NN", "." ], [ "DT", "NN", "IN", "VBG", "JJ", "NN", "VBZ", "IN", "DT", "NN", "IN", "DT", "NNS", "POS", "CC", "NN", "POS", "NN", "NNS", "." ], [ "PRP", "VBP", "CC", "VBP", "DT", "NN", "IN", "DT", "NN", "NNS", "NN", ",", "VBG", "DT", "NN", "IN", "DT", "NN", "IN", "JJ", "NNS", "CC", "NNS", "." ], [ "PRP", "RB", "VBP", "IN", "NN", "DT", "NN", "POS", "NN", "NN", "." ], [ "PRP", "VBP", "IN", ",", "IN", "NN", "NNS", ",", "DT", "NN", "NN", "VBZ", "JJ", "IN", "DT", "JJ", "NN", "CC", "JJ", "IN", "DT", "JJ", "NN", "." ], [ "PRP", "VBP", "IN", "DT", "JJ", "NN", "VBP", "VBZ", "RB", "IN", "JJ", "NN", "NNS", "IN", "NNS", "." ], [ "IN", "NN", "NN", "NNS", ",", "DT", "NN", "VBZ", "JJ", "IN", "DT", "JJ", "NN", "CC", "JJ", "IN", "DT", "JJ", "NN", "." ], [ "PRP", "RB", "VBP", "VBG", "NNS", "CC", "JJ", "JJ", "NNS", "." ], [ "LS", "." ], [ "NN" ], [ "NNPS", "NNS", "RB", "VBP", "NNS", "TO", "VB", "NNS", "IN", "DT", "NNS", "IN", "JJ", "JJ", "NNS", "." ], [ "DT", "JJ", "NN", "IN", "NNS", "NNS", "VBZ", "RB", "." ], [ "RB", ",", "PRP", "VBP", "NNS", "TO", "VB", "NN", ",", "CC", "TO", "VB", "IN", "JJ", "NNS", "." ], [ "IN", "NN", ",", "DT", "NN", "IN", "DT", "NN", "MD", "VB", "DT", "NN", "NN", "-LRB-", "DT", "NN", "TO", "VB", "DT", "NN", "IN", "DT", "JJ", "NN", "-RRB-", "IN", "NN", "TO", "VB", "IN", "DT", "NN", "NN", "." ], [ "RB", ",", "NNS", "NNS", "VBP", "NNS", "TO", "VB", ",", "CC", "TO", "VB", "DT", "JJ", "JJ", "NN", "WRB", "NN", "NNS", "VBP", "RB", "VB", "PRP$", "NN", "IN", "DT", "NN", "IN", "JJ", "NNS", "." ], [ "IN", "NN", ",", "DT", "NN", "MD", "VB", "DT", "NN", "NN", "IN", "PRP", "VBZ", "IN", "DT", "NN", "VBZ", "JJ", "IN", "DT", "NN", "IN", "DT", "VBG", "NN", "MD", "VB", "RB", ",", "RB", "IN", "NN", "NN", "TO", "NNS", "IN", "DT", "NN", "NN", "." ], [ "IN", "NNS", "VBP", "TO", "VB", "DT", "NN", "IN", "PRP", "MD", "VB", "JJ", "NN", "NNS", ",", "RB", "NNS", "IN", "JJ", "NNS", "VBP", "RB", "JJ", "NN", "NNS", "IN", "JJ", "NNS", "-LRB-", "CD", ",", "CD", ",", "CD", ",", "CD", "-RRB-", "." ], [ "JJ", "NNS", "NNS", "VBP", "JJ", "NN", "NNS", "IN", "JJ", "NNS", "." ], [ "RB", ",", "DT", "MD", "DT", "VB", "VBN", "IN", "NNS", "IN", "JJR", "JJ", "CC", "JJ", "NNP", "NNS", "-LRB-", "CD", ",", "CD", ",", "CD", "-RRB-", "." ], [ "CD", "NN", "IN", "CD", "NN", "NN", "VBZ", "RP", "CD", "NN", "IN", "CC", "RB", "IN", "-LRB-", "NN", "-RRB-", "DT", "JJ", "JJ", "NN", "VBZ", ":", "PRP", "VBZ", "NN", "IN", "DT", "NN", "VBZ", "RB", "VB", "." ], [ "RB", ",", "IN", "NN", ",", "CD", "NN", "IN", "DT", "NN", "VBN", "-LRB-", "NN", "-RRB-", "MD", "VB", "$", "CD", "NN", "NNP", "POS", "NN", "VBZ", "IN", "$", "CD", "IN", "NNP", "CD", ",", "CD", "." ], [ "DT", "NNP", "NN", "NN", "IN", "PRP", "MD", "VB", "VBN", "IN", "DT", "NN" ], [ "JJ", "NN", "MD", "VB", "IN", "IN", "IN", "DT", "NN", "IN", "JJ", "JJ", "NNS", "NN", "IN", "DT", "NN", ",", "PRP", "VBP", "CC", "VBP", "DT", "NN", "IN", "NN", "IN", "NN", "NNS", "NNS", "IN", "NNS", "JJ", "IN", "JJ", "JJ", "NNS", "IN", "NNS", ",", "VBG", "NNS", "." ], [ "IN", "NN", ",", "VBN", "JJ", "NNS", "DT", ",", "NN", ",", "CC", "NN", ",", "CD", "NN", "MD", "VB", "TO", "VB", "CD", "NNS", "IN", "DT", "NN", "VBN", "-LRB-", "DT", "NN", "NN", "CD", "NN", "NN", "-RRB-", "WDT", "VBZ", "RP", "$", "CD", "NN", "DT", "NN", "NN", "NN", "NN", "NN", "CD", "NN", "NN", "VBZ", "IN", "CD", "NNS", "DT", "." ], [ "VBN", "DT", "NN", "IN", "JJ", "NNS", ",", "DT", "NN", "VBZ", "DT", "JJ", "NN", "NN", "TO", "VB", "WDT", "NNS", "VBP", "VBN", "IN", "WRB", "JJ", "NNS", "IN", "WP", "NN", "." ], [ "RB", ",", "DT", "NN", "VBZ", "TO", "VB", "IN", "DT", "NN", "IN", "PRP$", "JJ", ",", "RB", "VBG", "RP", "JJ", "NNS", "IN", "DT", "NNS", ",", "CC", "PRP", "RB", "VBP", "JJ", "NNS", "WRB", "DT", "NN", "VBZ", "IN", "DT", "NN", "NN", "JJ", "TO", "VB", "DT", "NN", "." ], [ "PRP", "VBP", "DT", "JJ", "NN", "IN", "DT", "NN", "POS", "NN", "NN", "." ], [ "VB", "DT", "NN", "IN", "DT", "NN", "IN", "PDT", "DT", "JJ", "NNS", "VB", "NN", "-LRB-", "NN", "-RRB-", "." ], [ "IN", "NN", "NNS", ",", "DT", "NN", "NN", "VBZ", "JJ", "IN", "DT", "JJ", "NN", "CC", "JJ", "IN", "DT", "JJ", "NN", "." ], [ "DT", "JJ", "NN", "VBZ", "RB", "WRB", "DT", "NN", "NN", "VBZ", "RB", "JJ", "." ], [ "IN", "NN", "NN", "NNS", ",", "DT", "NN", "VBZ", "JJ", "IN", "DT", "JJ", "NN", "CC", "JJ", "IN", "DT", "JJ", "NN", "." ], [ "NN", "CD", "VBZ", "DT", "JJ", "NN", "NN", ",", "NN", ",", "CC", "JJ", "NN", "." ], [ "NN", "CD", "RB", "VBZ", "PRP$", "NN", "IN", "NN", "NNS", ",", "CC", "VBZ", "DT", "NN", "POS", "NN", "NN", "." ], [ "NN", "CD", "NN", "VBZ", "JJ", "NNS", "IN", "VBG", "DT", "NN", "NN", "." ], [ "NN", "CD", "VBZ", "PRP$", "JJ", "JJ", "NN", "NNS", "." ], [ "NN", "CD", "VBZ", "DT", "NN", "IN", "JJ", "JJ", "NNS", "." ], [ "NN", "CD", "VBZ", "IN", "DT", "NN", "CC", "DT", "NNS", "IN", "JJ", "NNS", "." ], [ "LS", "." ], [ "NNS" ], [ "CD", "NN", "CC", "NN" ], [ "IN", "DT", "JJ", "NN", "EX", "VBP", "CD", "JJ", "JJ", "NNS", ":", "DT", "JJ", "NNS", "IN", "DT", "JJ", "NNS", "POS", "NNS", ":", "VBD", "NN", "NN", ",", "VBD", "NN", "NN", ",", "VBD", "NN", "NN", ",", "VBD", "NN", "NN", "." ], [ "NN", "NN", "MD", "VB", "VBN", "IN", "IN", "DT", "NN", "IN", "VBG", "NN", "IN", "JJ", "JJ", "JJ", "NNS", "." ], [ "IN", "NN", ",", "NNP", ",", "DT", "NN", "VBZ", "DT", "NN", "IN", "RB", "JJ", "JJ", "NNS", ",", "IN", "PRP", "MD", "VB", "RB", "VBN", "IN", "DT", "JJ", "NN", "." ], [ "VBG", "CD", "POS", "NN", "NNS", "NN", "IN", "JJ", "NNS", "WRB", "VBN", "VBZ", "RB", "JJ", "TO", "NNS", "WRB", "PRP", "VBZ", "." ], [ "VBG", "DT", "NN", "VBN", "-LRB-", "NN", "-RRB-", ":", "IN", "VBZ", "RP", "$", "CD", "NN", "DT", "NN", "NN", "VBZ", ":", "NNS", "NN", "IN", "JJ", "NNS", "WRB", "NNP", "POS", "NN", "VBZ", "IN", "$", "CD", "IN", "NNP", "CD", "TO", "NNS", "WRB", "PRP", "VBZ", "RB", "." ], [ "VBG", "VBZ", "RB", "DT", "NN", "IN", "VBG", "NN", "IN", "JJ", "NNS", ",", "IN", "RB", "VBN", "IN", "VBG", "VBN", "NN", "RB", "IN", "VBG", "NN", "." ], [ "IN", "NN", ",", "VBG", "IN", "DT", "NN", "NN", "VBZ", "NN", "IN", "DT", "``", "NN", "VBZ", "''", "NN", "TO", "DT", "``", "NN", "VBZ", "''", "NN", "." ], [ "DT", "JJ", "JJ", "NNS", "VBP", "DT", "NN", "NN", "NN", ",", "VBG", "IN", "RB", "JJ", "CC", "JJ", "NNS", "VBP", "NN", "NN", "." ], [ "RB", "DT", "RBR", "JJ", "NN", "TO", "VB", "IN", "JJ", "JJ", "NNS", "VBZ", "IN", "DT", "NN", "NN", "NN", "IN", "RB", "JJ", "NNS", "DT", "NN", "NN", "WDT", "MD", "VB", "RB", "." ], [ "RB", "IN", "PRP$", "NN", "NN", "VBD", "NN", "NN", "VBZ", "CD", "IN", "DT", "CD", "NN", "NNS", ",", "IN", "VBN", "VBZ", "CD", "IN", "DT", "CD", "NNS", "." ], [ "VB", "IN", "DT", "NN", "IN", "NN", "RB", "JJ", "NNS", "VBZ", "DT", "NN", "NN", "NN", "IN", "NN", "CD", "''", "VBG", "IN", "DT", "JJ", "NNS", "IN", "NN", "NNS", "." ], [ "RB", ",", "DT", "NN", "NN", "NN", "MD", "VB", "JJ", "IN", "-LRB-", "NN", "NN", "NNS", "." ], [ "VB", "IN", "DT", "RB", "VBZ", "RB", "JJ", "JJ", "NNS", "-LRB-", "FW", ",", "VBZ", "DT", "NNS", "WDT", "NNS", "MD", "VB", "TO", "VB", "IN", "CC", "VBP", "IN", "-RRB-", "." ], [ "RB", "DT", "NN", "IN", "CD", "''", "RB", "JJ", "NNS", ":", "VBD", "DT", "JJ", "NN", ":", "VBZ", "NNS", "TO", "VB", "PRP$", "NN", "RB", "IN", "JJ", "NNS", "NN", "DT", "NN", "MD", "VB", "DT", "NN", "CC", "NN", "PRP", "NNS", "." ], [ "IN", "JJ", "NNS", ",", "NNS", "VBG", "IN", "DT", "JJ", "NN", "VBP", "DT", "NN", "WRB", "NN", "VBZ", "VBN", "NNP", "RB", "." ], [ "IN", "DT", "NN", "VBZ", "JJ", ",", "VBG", "PRP", "VBZ", "IN", "JJR", "IN", "CD", "''", "RB", "JJ", "NNS", ",", "RB", "IN", "JJ", "NNS", "MD", "RB", "VB", "JJ", "NNS", "CC", "NN", "NNS", "MD", "VB", "JJ", "-LRB-", "CD", ",", "CD", ",", "CD", ",", "CD", "-RRB-", "." ], [ "IN", "JJ", "NNS", ",", "DT", "NN", "IN", "JJ", "NNS", "NN", "VBZ", "JJ", "CC", "RB", "DT", "NN", "IN", "NNS", "VBN", "IN", "NN", "VBZ", "JJ", "." ], [ "DT", "RB", "JJ", "NN", "VBZ", "CC", "MD", "RB", "VB", "." ], [ "CD", "NN", "IN", "JJ", "NNS", "NNS", "VBZ", "TO", "VB", "DT", "NN", "WDT", "VBZ", "DT", "JJS", "NN", "IN", "NN", "VBG", "DT", "JJS", "NN", "IN", "NNS", "JJ", "." ], [ "NN", "NNS", "VBP", "DT", "JJ", "NN", "IN", "NN", "IN", "VBG", "NNS", "." ], [ "DT", "NN", "IN", "VBN", "NN", "VBZ", "VBN", "JJ", "NN", ",", "IN", "CC", "DT", "NN", "POS", "CC", "NN", "POS", "NN", "IN", "NN", "." ], [ "CD", "JJ", "NN" ], [ "DT", "NN", "TO", "VB", "DT", "NN", "IN", "JJ", "NNS", "VBN", "TO", "VB", "DT", "JJ", "NN", "IN", "NN", "NNS", "TO", "NNP", "POS", "JJ", "NN", "-LRB-", "CD", "-RRB-", "." ], [ "DT", "NN", "VBN", "IN", "IN", "``", "RB", "''", "CD", "''", "JJ", "NNS", "VBZ", "PRP", "DT", "NN", "IN", "DT", "RBS", "JJ", "NN", "." ], [ "IN", "DT", "NN", "IN", "NN", "JJ", "NNS", ",", "DT", "RBS", "JJ", "JJ", "NN", "VBZ", "NN", "NN", "CD", "''", "NNS", ",", "DT", "VBG", "RP", "IN", "CD", "JJ", "IN", "CD", "NN", "NN", "." ], [ "NNP", "-LRB-", "CD", "-RRB-", "VBD", "IN", "DT", "NN", "WRB", "NNS", "CC", "NNS", "VBP", "RB", "VBN", ",", "IN", "CD", "''", "NNS", "VBG", "RP", "IN", "DT", "JJ", "NN", "JJ", "CC", "NN", "NN", "NNS", "IN", "DT", "JJ", "NNS", ",", "VBZ", "RB", "JJ", "." ], [ "IN", "PRP$", "NNS", ",", "PRP", "VBP", "VB", "RB", "DT", "NNS", "NN", "." ], [ "NN", "RB", "JJ", "NNS", ",", "PRP", "VBP", "IN", "DT", "NNS", "IN", "NNS", "IN", "DT", "JJ", "NNS", "IN", "DT", "NNS", "VBP", "RB", "JJ", "." ], [ "NNP", "-LRB-", "CD", "-RRB-", "VBZ", "IN", "DT", "JJ", "NN", "MD", "VB", "VBN", "VBG", "JJR", "IN", "JJ", "NNS", ",", "VBG", "DT", "VBG", "NNS", "IN", "NNS", "." ], [ "RB", ",", "DT", "NN", "IN", "RB", "JJ", "JJ", "NNS", ":", "NNS", "CC", "NNS", ":", "MD", "VB", "JJ", "TO", "VB", "NN", "." ], [ "DT", "NNS", "VBP", "IN", "IN", "DT", "NNS", "DT", "NN", "MD", "VB", "VBN", "CC", "``", "JJ", "''", "IN", "NN", "TO", "JJ", "NN", "NNS", "IN", "JJ", "NN", "NNS", "-LRB-", "CD", "-RRB-", "." ], [ "PRP", "VBP", "IN", ",", "IN", "DT", "NNS", "POS", "JJ", "NNS", "VBP", "IN", "DT", "NNS", "VBN", "IN", "DT", "NN", "NN", ",", "RB", "DT", "NN", "VBZ", "RB", "JJ", "." ], [ "IN", "NNS", "IN", "NNS", "DT", "IN", "JJ", "JJ", "NN", "NN", ",", "NN", "IN", "NNP", "NNS", "VBZ", "JJ", "." ], [ "NNP", ",", "NNP", ",", "CC", "NNP", "-LRB-", "CD", "-RRB-", "VB", "DT", "NN", "PRP", "VBP", "JJ", "NN", "-LRB-", "NN", "-RRB-", "WDT", "VBZ", "NNS", "TO", "VB", "DT", "JJ", "NN", "IN", "NNS", "IN", "CD", "NN", ",", "RB", "IN", "VBG", "RP", "DT", "NN", "IN", "DT", "NN", "IN", "NNS", "IN", "JJ", "NNS", "." ], [ "IN", "DT", "NN", "NN", "VBZ", "VBN", ",", "DT", "IN", "DT", "VBN", "NNS", "IN", "JJ", "NNS", "VBP", "VBN", "RB", ",", "RB", "VBG", "JJ", "NN", "NN", "WDT", "NNS", "MD", "VB", "IN", "DT", "NN", "IN", "DT", "VBN", "NN", "IN", "NNS", "." ], [ "DT", "NNS", "VBP", "NN", "NNS", "VBG", "IN", ",", "RB", "IN", "JJ", "NNS", "WRB", "JJ", "JJ", "NN", "NNS", "RB", ",", "NN", "VBZ", "JJ", "NN", "CC", "NN", "." ], [ "VB", "IN", "NNP", "VBZ", "RB", "IN", "NN", "NNS", "NN", "." ], [ "NNP", "VBZ", "JJ", "NN", "IN", "DT", "JJ", "NN", "IN", "NNS", ",", "IN", "NN", "NNS", "VBP", "JJR", "JJ", "NNS", "WDT", "MD", "VB", "JJ", "JJ", "NNS", "IN", "NNS", "." ], [ "IN", "NN", ",", "NNP", "MD", "VB", "DT", "NN", "TO", "VB", "NNS", "-LRB-", "NN", "-RRB-", "CC", "-LRB-", "NN", "-RRB-", "IN", "DT", "NN", "WDT", "VBZ", "RP", "IN", "DT", "JJ", "NN", "IN", "NN", "CC", "NN", "CD", "CC", "NNP", "MD", "RB", "VB", "DT", "NN", "IN", "DT", "NN", "NN", "-LRB-", "NN", "NN", "NN", "-RRB-", "WDT", "VBZ", "RP", "$", "CD", "NN", "CC", "NN", "CC", "NN", "VBP", ",", "CC", "DT", "NN", "NN", "-LRB-", "NN", "-RRB-", "." ], [ "JJ", "NNS", "VBP", "NNS", "TO", "VB", "JJ", "NNS", "IN", "DT", "JJ", "NNS", "IN", "NNS", "RB", "IN", "RB", "IN", "JJ", "NNS", "." ], [ "NN", "NNS", "VBP", "IN", "JJ", "NNS", "IN", "NN", "CC", "NN", "." ], [ "NN", "NNS", "VBP", "NNS", "TO", "VB", "DT", "JJ", "NN", "IN", "DT", "IN", "DT", "JJ", "JJ", "NN", "NNS", "JJ", "IN", "JJ", "NNS", "IN", "DT", "NN", "NN", "NNS", ",", "JJ", "IN", "DT", "JJ", "IN", "DT", "JJ", "NN", "NNS", "." ], [ "NNS", "VBP", "VBN", "IN", "PRP$", "JJ", "JJ", "NNS", "CC", "VB", "NN", "-LRB-", "CC", "IN", "JJ", ",", "PRP$", "NNS", "IN", "JJ", "NNS", "POS", "NNS", "CC", "NNS", ",", "NN", "NN", "-RRB-", "." ], [ "DT", "JJ", "NN", "NN", "VBZ", "VBG", "NN", "NNS", ":", "DT", "VBZ", ",", "TO", "VB", "NNS", "RB", "IN", "VBG", "RP", "DT", "NN", "." ], [ "JJ", "NNS", ",", "IN", "DT", "JJ", "NN", ",", "VBP", "NNS", "IN", "DT", "IN", "DT", "JJ", "NNS", "IN", "NN", "NNS", "." ], [ "NN", ":", "CC", "RB", "VB", ":", "VBZ", "RB", "VBN", "." ], [ "DT", "JJ", "NN", "NN", "VBZ", "TO", "VB", "JJ", "NN", "." ], [ "RB", "NN", "IN", "DT", "NNS", "VBP", "IN", "JJ", "NN", "NNS", "." ], [ "IN", "VBG", "DT", "JJ", "NN", "VBZ", "JJ", "IN", "DT", "JJ", "NN", "CC", "JJ", "IN", "DT", "JJ", "NN", ",", "VBG", "IN", "DT", "NN", "NNS", "NN", "VBZ", "JJ", "IN", "DT", "JJ", "NN", "CC", "JJ", "IN", "DT", "JJ", "NN", "." ], [ "IN", "NN", ",", "RB", "DT", "NN", "IN", "VBG", "IN", "CD", "NNS", "IN", "NN", "NNS", "NN", ",", "RB", "IN", "DT", "JJ", "NN", ",", "VBZ", "JJ", "-LRB-", "VB", "NNP", "CD", "-RRB-", "." ], [ "EX", "VBZ", "DT", "NN", "IN", "WDT", "PRP", "VBZ", "JJ", "TO", "VB", "PRP$", "NN", "NN", "IN", "NN", "NNS", "IN", "DT", "JJ", "NN", "IN", "VBG", "JJ", "JJ", "NNS", "-LRB-", "CD", "-RRB-", "IN", "JJ", "NN", "." ], [ "RB", ",", "IN", "PRP", "VBP", "NN", "IN", "DT", "JJ", "NN", "IN", "DT", "JJ", ",", "RB", "JJ", "NNS", "MD", "VB", "VBN", "IN", "NNS", "IN", "-LRB-", "JJ", "NNS", "IN", "-RRB-", "JJ", "NNS", "." ], [ "DT", "NN", "NN", "NN", "VBG", "DT", "JJ", "NN", "VBZ", "TO", "DT", "NN", "IN", "DT", "NN", "NN", "VB", "VBN", "IN", "VBG", "DT", "NN", "." ], [ "VB", "IN", "DT", "NN", "VBZ", "RB", "IN", "DT", "JJ", "IN", "VBG", "DT", "JJ", "NN", "NN", ",", "IN", "DT", "VBG", "JJ", "NN", "VBZ", "DT", "JJ", "NN", "IN", "NNS", "." ], [ "NNP", "-LRB-", "CD", "-RRB-", "VBZ", "DT", "NN", "NN", "VBD", "DT", "NN", "VBG", "NN", "WDT", "VBZ", "RB", "RB", "VBN", "IN", "VBG", "NNS", "IN", "DT", "JJ", "NN", "IN", "NNS", "." ], [ "DT", "NN", "VBZ", "DT", "JJ", "NN", "NN", "IN", "DT", "JJ", "NNS", ",", "CC", "RB", "CC", "RB", "VBG", "DT", "JJ", "NN", "CC", "JJ", "JJ", "NN", "." ], [ "IN", "DT", "NN", "IN", "DT", "JJ", "NN", ",", "DT", "NN", "VBZ", "IN", "DT", "VBG", "NN", ",", "JJ", "IN", "NN", "DT", "JJ", "NN", "IN", "PRP$", "NN", "NN", "." ], [ "IN", "DT", "NN", "IN", "JJ", "NNS", ",", "PRP", "VBZ", "DT", "JJ", "NN", "." ], [ "IN", "DT", "NN", "RB", "RB", "VBZ", "DT", "JJ", "NN", "IN", "VBN", "NNS", "IN", "DT", "JJ", "NNS", ",", "DT", "NN", "VBZ", "DT", "NN", "IN", "JJ", "NNS", ",", "CC", "NN", ",", "WDT", "RB", "VBZ", "DT", "NN", "VBG", "DT", "JJ", "NN", "IN", "JJ", "NNS", "." ], [ "NNS", "IN", "NN", "NNS", "MD", "VB", "VBN", "IN", "IN", "NNS", "IN", "JJ", "NNS", ":", "IN", "NN", ",", "DT", "NN", "TO", "VB", "-LRB-", "DT", "NN", "NN", "-RRB-", "IN", "NN", "CD", "VBZ", "DT", "NN", "IN", "DT", "NN", "IN", "DT", "NN", "NN", "VBZ", "JJR", "IN", "CD", "." ], [ "IN", "DT", "NN", "IN", "JJ", "NNS", "VBP", "TO", "DT", "NN", "IN", "JJ", "JJ", "NNS", ",", "RB", "EX", "VBZ", "DT", "NN", "." ], [ "PRP", "VBP", "DT", "NNS", "IN", "." ] ]

[ [ "Betting", "Boolean-Style", ":", "a", "framework", "for", "trading", "in", "Securities", "base", "on", "logical", "formula" ], [ "abstract" ], [ "we", "develop", "a", "framework", "for", "trading", "in", "compound", "security", ":", "financial", "instrument", "that", "pay", "off", "contingent", "on", "the", "outcome", "of", "arbitrary", "statement", "in", "propositional", "logic", "." ], [ "buy", "or", "sell", "security", "--", "which", "can", "be", "think", "of", "as", "bet", "on", "or", "against", "a", "particular", "future", "outcome", "--", "allow", "agent", "both", "to", "hedge", "risk", "and", "to", "profit", "-lrb-", "in", "expectation", "-rrb-", "on", "subjective", "prediction", "." ], [ "a", "compound", "security", "market", "allow", "agent", "to", "place", "bet", "on", "arbitrary", "boolean", "combination", "of", "event", ",", "enable", "they", "to", "more", "closely", "achieve", "they", "optimal", "risk", "exposure", ",", "and", "enable", "the", "market", "as", "a", "whole", "to", "more", "closely", "achieve", "the", "social", "optimum", "." ], [ "the", "tradeoff", "for", "allow", "such", "expressivity", "be", "in", "the", "complexity", "of", "the", "agent", "'", "and", "auctioneer", "'s", "optimization", "problem", "." ], [ "we", "develop", "and", "motivate", "the", "concept", "of", "a", "compound", "security", "market", ",", "present", "the", "framework", "through", "a", "series", "of", "formal", "definition", "and", "example", "." ], [ "we", "then", "analyze", "in", "detail", "the", "auctioneer", "'s", "matching", "problem", "." ], [ "we", "show", "that", ",", "with", "n", "event", ",", "the", "matching", "problem", "be", "co-np-complete", "in", "the", "divisible", "case", "and", "σp2-complete", "in", "the", "indivisible", "case", "." ], [ "we", "show", "that", "the", "latter", "hardness", "result", "hold", "even", "under", "severe", "language", "restriction", "on", "bid", "." ], [ "with", "log", "n", "event", ",", "the", "problem", "be", "polynomial", "in", "the", "divisible", "case", "and", "np-complete", "in", "the", "indivisible", "case", "." ], [ "we", "briefly", "discuss", "match", "algorithm", "and", "tractable", "special", "case", "." ], [ "1", "." ], [ "introduction" ], [ "Securities", "market", "effectively", "allow", "trader", "to", "place", "bet", "on", "the", "outcome", "of", "uncertain", "future", "proposition", "." ], [ "the", "economic", "value", "of", "security", "market", "be", "two-fold", "." ], [ "first", ",", "they", "allow", "trader", "to", "hedge", "risk", ",", "or", "to", "insure", "against", "undesirable", "outcome", "." ], [ "for", "example", ",", "the", "owner", "of", "a", "stock", "might", "buy", "a", "put", "option", "-lrb-", "the", "right", "to", "sell", "the", "stock", "at", "a", "particular", "price", "-rrb-", "in", "order", "to", "insure", "against", "a", "stock", "downturn", "." ], [ "second", ",", "security", "market", "allow", "trader", "to", "speculate", ",", "or", "to", "obtain", "a", "subjective", "expected", "profit", "when", "market", "price", "do", "not", "reflect", "they", "assessment", "of", "the", "likelihood", "of", "future", "outcome", "." ], [ "for", "example", ",", "a", "trader", "might", "buy", "a", "call", "option", "if", "he", "believe", "that", "the", "likelihood", "be", "high", "that", "the", "price", "of", "the", "underlie", "stock", "will", "go", "up", ",", "regardless", "of", "risk", "exposure", "to", "change", "in", "the", "stock", "price", "." ], [ "because", "trader", "stand", "to", "earn", "a", "profit", "if", "they", "can", "make", "effective", "probability", "assessment", ",", "often", "price", "in", "financial", "market", "yield", "very", "accurate", "aggregate", "forecast", "of", "future", "event", "-lsb-", "10", ",", "29", ",", "27", ",", "28", "-rsb-", "." ], [ "real", "security", "market", "have", "complex", "payoff", "structure", "with", "various", "trigger", "." ], [ "however", ",", "these", "can", "all", "be", "model", "as", "collection", "of", "more", "basic", "or", "atomic", "Arrow-Debreu", "security", "-lsb-", "1", ",", "8", ",", "20", "-rsb-", "." ], [ "one", "unit", "of", "one", "arrow-debreu", "security", "pay", "off", "one", "dollar", "if", "and", "only", "if", "-lrb-", "iff", "-rrb-", "a", "corresponding", "binary", "event", "occur", ";", "it", "pay", "nothing", "if", "the", "event", "do", "not", "occur", "." ], [ "so", ",", "for", "example", ",", "one", "unit", "of", "a", "security", "denote", "-lrb-", "acme100", "-rrb-", "might", "pay", "$", "1", "iff", "Acme", "'s", "stock", "be", "above", "$", "100", "on", "January", "4", ",", "2004", "." ], [ "a", "Acme", "stock", "option", "as", "it", "would", "be", "define", "on", "a", "finan" ], [ "cial", "exchange", "can", "be", "though", "of", "as", "a", "portfolio", "of", "such", "atomic", "security", ".1", "in", "this", "paper", ",", "we", "develop", "and", "analyze", "a", "framework", "for", "trading", "in", "compound", "security", "market", "with", "payoff", "contingent", "on", "arbitrary", "logical", "combination", "of", "event", ",", "include", "conditional", "." ], [ "for", "example", ",", "give", "binary", "event", "a", ",", "b", ",", "and", "c", ",", "one", "trader", "might", "bid", "to", "buy", "three", "unit", "of", "a", "security", "denote", "-lrb-", "a", "n", "b", "¯", "v", "c", "-rrb-", "that", "pay", "off", "$", "1", "iff", "the", "compound", "event", "a", "n", "b", "¯", "v", "c", "occur", "for", "thirty", "cent", "each", "." ], [ "give", "a", "set", "of", "such", "bid", ",", "the", "auctioneer", "face", "a", "complex", "matching", "problem", "to", "decide", "which", "bid", "be", "accept", "for", "how", "many", "unit", "at", "what", "price", "." ], [ "typically", ",", "the", "auctioneer", "seek", "to", "take", "on", "no", "risk", "of", "its", "own", ",", "only", "match", "up", "agreeable", "trade", "among", "the", "bidder", ",", "but", "we", "also", "consider", "alternative", "formulation", "where", "the", "auctioneer", "act", "as", "a", "market", "maker", "willing", "to", "accept", "some", "risk", "." ], [ "we", "examine", "the", "computational", "complexity", "of", "the", "auctioneer", "'s", "matching", "problem", "." ], [ "let", "the", "length", "of", "the", "description", "of", "all", "the", "available", "security", "be", "o", "-lrb-", "n", "-rrb-", "." ], [ "with", "n", "event", ",", "the", "matching", "problem", "be", "co-np-complete", "in", "the", "divisible", "case", "and", "ep2-complete", "in", "the", "indivisible", "case", "." ], [ "this", "ep2-complete", "hardness", "hold", "even", "when", "the", "bidding", "language", "be", "significantly", "restricted", "." ], [ "with", "log", "n", "event", ",", "the", "problem", "be", "polynomial", "in", "the", "divisible", "case", "and", "np-complete", "in", "the", "indivisible", "case", "." ], [ "section", "2", "present", "some", "necessary", "background", "information", ",", "motivation", ",", "and", "related", "work", "." ], [ "section", "3", "formally", "describe", "we", "framework", "for", "compound", "security", ",", "and", "define", "the", "auctioneer", "'s", "matching", "problem", "." ], [ "section", "4", "briefly", "discuss", "natural", "algorithm", "for", "solve", "the", "matching", "problem", "." ], [ "section", "5", "prove", "we", "central", "computational", "complexity", "result", "." ], [ "section", "6", "discuss", "the", "possibility", "of", "tractable", "special", "case", "." ], [ "section", "7", "conclude", "with", "a", "summary", "and", "some", "idea", "of", "future", "direction", "." ], [ "2", "." ], [ "preliminary" ], [ "2.1", "background", "and", "notation" ], [ "in", "this", "simple", "world", "there", "be", "four", "possible", "future", "state", "--", "all", "possible", "combination", "of", "the", "binary", "event", "'", "outcome", ":", "strike", "n", "acme100", ",", "strike", "n", "acme100", ",", "strike", "n", "acme100", ",", "strike", "n", "acme100", "." ], [ "hedging", "risk", "can", "be", "think", "of", "as", "a", "action", "of", "move", "money", "between", "various", "possible", "future", "state", "." ], [ "for", "example", ",", "insur1Technically", ",", "a", "option", "be", "a", "portfolio", "of", "infinitely", "many", "atomic", "security", ",", "though", "it", "can", "be", "approximately", "model", "with", "a", "finite", "number", "." ], [ "ing", "one", "'s", "house", "transfer", "money", "from", "future", "state", "where", "strike", "be", "not", "true", "to", "state", "where", "it", "be", "." ], [ "sell", "a", "security", "denote", "-lrb-", "acme100", "-rrb-", "--", "that", "pay", "off", "$", "1", "iff", "the", "event", "acme100", "occur", "--", "transfer", "money", "from", "future", "state", "where", "Acme", "'s", "price", "be", "above", "$", "100", "on", "January", "4", "to", "state", "where", "it", "be", "not", "." ], [ "speculate", "be", "also", "a", "act", "of", "transfer", "money", "between", "future", "state", ",", "though", "usually", "associate", "with", "maximize", "expect", "return", "rather", "than", "reduce", "risk", "." ], [ "for", "example", ",", "bet", "on", "a", "football", "team", "move", "money", "from", "the", "``", "team", "lose", "''", "state", "to", "the", "``", "team", "win", "''", "state", "." ], [ "all", "possible", "future", "outcome", "form", "a", "state", "space", "ω", ",", "consist", "of", "mutually", "exclusive", "and", "exhaustive", "state", "ω", "e", "ω", "." ], [ "often", "a", "more", "natural", "way", "to", "think", "of", "possible", "future", "outcome", "be", "as", "a", "event", "space", "a", "of", "linearly", "independent", "event", "a", "e", "a", "that", "may", "overlap", "arbitrarily", "." ], [ "so", "in", "we", "toy", "example", "strike", "n", "acme100", "be", "one", "of", "the", "four", "disjoint", "state", ",", "while", "strike", "be", "one", "of", "the", "two", "event", "." ], [ "note", "that", "a", "set", "of", "n", "linearly", "independent", "event", "define", "a", "state", "space", "ω", "of", "size", "2", "''", "consist", "of", "all", "possible", "combination", "of", "event", "outcome", "." ], [ "conversely", ",", "any", "state", "space", "ω", "can", "be", "factored", "into", "-lsb-", "log", "lωll", "event", "." ], [ "suppose", "that", "a", "exhaustively", "cover", "all", "meaningful", "future", "outcome", "-lrb-", "i.e.", ",", "cover", "all", "eventuality", "that", "agent", "may", "wish", "to", "hedge", "against", "and/or", "speculate", "upon", "-rrb-", "." ], [ "then", "the", "existence", "of", "2", "''", "linearly", "independent", "security", "--", "call", "a", "complete", "market", "--", "allow", "agent", "to", "distribute", "they", "wealth", "arbitrarily", "across", "future", "state", ".2", "a", "agent", "may", "create", "any", "hedge", "or", "speculation", "it", "desire", "." ], [ "under", "classical", "condition", ",", "agent", "trade", "in", "a", "complete", "market", "form", "a", "equilibrium", "where", "risk", "be", "allocate", "Pareto", "optimally", "." ], [ "if", "the", "market", "be", "incomplete", ",", "mean", "it", "consist", "of", "fewer", "than", "2", "''", "linearly", "independent", "security", ",", "then", "in", "general", "agent", "can", "not", "construct", "arbitrary", "hedge", "and", "equilibrium", "allocation", "may", "be", "nonoptimal", "-lsb-", "1", ",", "8", ",", "19", ",", "20", "-rsb-", "." ], [ "in", "real-world", "setting", ",", "the", "number", "of", "meaningful", "event", "n", "be", "large", "and", "thus", "the", "number", "of", "security", "require", "for", "completeness", "be", "intractable", "." ], [ "no", "truly", "complete", "market", "exist", "or", "will", "ever", "exist", "." ], [ "one", "motivation", "behind", "compound", "security", "market", "be", "to", "provide", "a", "mechanism", "that", "support", "the", "most", "transfer", "of", "risk", "use", "the", "least", "number", "of", "transaction", "possible", "." ], [ "compound", "security", "allow", "a", "high", "degree", "of", "expressivity", "in", "construct", "bid", "." ], [ "the", "tradeoff", "for", "increase", "expressivity", "be", "increase", "computational", "complexity", ",", "from", "both", "the", "bidder", "'s", "and", "auctioneer", "'s", "point", "of", "view", "." ], [ "2.2", "related", "work" ], [ "the", "quest", "to", "reduce", "the", "number", "of", "financial", "instrument", "require", "to", "support", "a", "optimal", "allocation", "of", "risk", "date", "to", "Arrow", "'s", "original", "work", "-lsb-", "1", "-rsb-", "." ], [ "the", "requirement", "state", "above", "of", "``", "only", "''", "2", "''", "linearly-independent", "security", "be", "itself", "a", "reduction", "from", "the", "most", "straightforward", "formulation", "." ], [ "in", "a", "economy", "with", "k", "standard", "goods", ",", "the", "most", "straightforward", "complete", "market", "contain", "k", "•", "2", "''", "security", ",", "each", "pay", "off", "in", "one", "good", "under", "one", "state", "realization", "." ], [ "Arrow", "-lsb-", "1", "-rsb-", "show", "that", "a", "market", "where", "security", "and", "goods", "be", "essentially", "separate", ",", "with", "2", "''", "security", "pay", "off", "in", "a", "single", "numeraire", "good", "plus", "k", "spot", "market", "in", "the", "standard", "goods", ",", "be", "also", "complete", "." ], [ "for", "we", "purpose", ",", "we", "need", "consider", "only", "the", "security", "market", "." ], [ "2by", "linearly", "independent", "security", ",", "we", "mean", "that", "the", "vector", "of", "payoff", "in", "all", "future", "state", "of", "these", "security", "be", "linearly", "independent", "." ], [ "Varian", "-lsb-", "34", "-rsb-", "show", "that", "a", "complete", "market", "can", "be", "construct", "use", "fewer", "than", "2n", "security", ",", "replace", "the", "miss", "security", "with", "option", "." ], [ "still", ",", "the", "number", "of", "linearly", "independent", "financial", "instrument", "--", "security", "plus", "option", "--", "must", "be", "2n", "to", "guarantee", "completeness", "." ], [ "the", "author", "show", "that", "in", "some", "case", "the", "market", "can", "be", "structure", "and", "``", "compacted", "''", "in", "analogy", "to", "bayesian", "network", "representation", "of", "joint", "probability", "distribution", "-lsb-", "23", "-rsb-", "." ], [ "they", "show", "that", ",", "if", "all", "agent", "'", "risk-neutral", "independency", "agree", "with", "the", "independency", "encode", "in", "the", "market", "structure", ",", "then", "the", "market", "be", "operationally", "complete", "." ], [ "for", "collection", "of", "agent", "all", "with", "constant", "absolute", "risk", "aversion", ",", "agreement", "on", "Markov", "independency", "be", "sufficient", "." ], [ "Bossaerts", ",", "Fine", ",", "and", "Ledyard", "-lsb-", "2", "-rsb-", "develop", "a", "mechanism", "they", "call", "combined-value", "trading", "-lrb-", "cvt", "-rrb-", "that", "allow", "trader", "to", "order", "a", "arbitrary", "portfolio", "of", "security", "in", "one", "bid", ",", "rather", "than", "break", "up", "the", "order", "into", "a", "sequence", "of", "bid", "on", "individual", "security", "." ], [ "if", "the", "portfolio", "order", "be", "accept", ",", "all", "of", "the", "imply", "trade", "on", "individual", "security", "be", "execute", "simultaneously", ",", "thus", "eliminate", "so-called", "execution", "risk", "that", "price", "will", "change", "in", "the", "middle", "of", "a", "plan", "sequence", "of", "order", "." ], [ "the", "author", "conduct", "laboratory", "experiment", "show", "that", ",", "even", "in", "thin", "market", "where", "ordinary", "sequential", "trading", "break", "down", ",", "cvt", "support", "efficient", "pricing", "and", "allocation", "." ], [ "note", "that", "CVT", "differ", "significantly", "from", "compound", "security", "trading", "." ], [ "CVT", "allow", "instantaneous", "trading", "of", "any", "linear", "combination", "of", "security", ",", "while", "compound", "security", "allow", "more", "expressive", "security", "that", "can", "encode", "nonlinear", "boolean", "combination", "of", "event", "." ], [ "for", "example", ",", "CVT", "may", "allow", "a", "agent", "to", "order", "security", "-lrb-", "a", "-rrb-", "and", "-lrb-", "b", "-rrb-", "in", "a", "bundle", "that", "pay", "off", "as", "a", "linear", "combination", "of", "a", "and", "b", ",3", "but", "CVT", "will", "not", "allow", "the", "construction", "of", "a", "compound", "security", "-lrb-", "a", "n", "b", "-rrb-", "that", "pay", "off", "$", "1", "iff", "both", "a", "and", "b", "occur", ",", "or", "a", "compound", "security", "-lrb-", "aib", "-rrb-", "." ], [ "combinatorial", "auction", "allow", "bidder", "to", "place", "distinct", "value", "on", "all", "possible", "bundle", "of", "goods", "rather", "than", "just", "on", "individual", "goods", "." ], [ "compound", "security", "differ", "from", "combinatorial", "auction", "in", "concept", "and", "complexity", "." ], [ "compound", "security", "allow", "bidder", "to", "construct", "a", "arbitrary", "bet", "on", "any", "of", "the", "22n", "possible", "compound", "event", "expressible", "as", "logical", "function", "of", "the", "n", "base", "event", ",", "conditional", "on", "any", "other", "of", "the", "22n", "compound", "event", "." ], [ "agent", "optimize", "base", "on", "they", "own", "subjective", "probability", "and", "risk", "attitude", "-lrb-", "and", "in", "general", ",", "they", "belief", "about", "other", "agent", "'", "belief", "and", "utility", ",", "ad", "infinitum", "-rrb-", "." ], [ "the", "central", "auctioneer", "problem", "be", "identify", "arbitrage", "opportunity", ":", "that", "be", ",", "to", "match", "bet", "together", "without", "take", "on", "any", "risk", "." ], [ "combinatorial", "auction", ",", "on", "the", "other", "hand", ",", "allow", "bid", "on", "any", "of", "the", "2n", "bundle", "of", "n", "goods", "." ], [ "uncertainty", "--", "and", "thus", "risk", "--", "be", "not", "consider", "." ], [ "the", "central", "auctioneer", "problem", "be", "to", "maximize", "social", "welfare", "." ], [ "also", "note", "that", "the", "problem", "lie", "in", "different", "complexity", "class", "." ], [ "while", "clear", "a", "combinatorial", "auction", "be", "polynomial", "in", "the", "divisible", "case", "and", "np-complete", "in", "the", "indivisible", "case", ",", "match", "in", "a", "compound", "security", "market", "be", "np-complete", "in", "the", "divisible", "case", "and", "ep2-complete", "in", "the", "indivisible", "case", "." ], [ "in", "fact", ",", "even", "the", "problem", "of", "decide", "whether", "two", "bid", "on", "compound", "security", "match", ",", "even", "in", "the", "divisible", "case", ",", "be", "np-complete", "-lrb-", "see", "Section", "5.2", "-rrb-", "." ], [ "there", "be", "a", "sense", "in", "which", "it", "be", "possible", "to", "translate", "we", "matching", "problem", "for", "compound", "security", "into", "a", "analogous", "problem", "for", "clear", "two-sided", "combinatorial", "exchange", "-lsb-", "31", "-rsb-", "of", "exponential", "size", "." ], [ "specifically", ",", "if", "we", "regard", "payoff", "in", "a", "particular", "state", "as", "a", "good", ",", "then", "compound", "security", "can", "be", "view", "as", "bundle", "of", "-lrb-", "fractional", "quantity", "of", "-rrb-", "such", "goods", "." ], [ "the", "material", "balance", "constraint", "face", "the", "combinatorial", "auctioneer", "correspond", "to", "a", "restriction", "that", "the", "compoundsecurity", "auctioneer", "be", "disallow", "from", "assume", "any", "risk", "." ], [ "note", "that", "this", "translation", "be", "not", "at", "all", "useful", "for", "address", "the", "compound-security", "matching", "problem", ",", "as", "the", "result", "combinatorial", "exchange", "have", "a", "exponential", "number", "of", "goods", "." ], [ "Hanson", "-lsb-", "15", "-rsb-", "develop", "a", "market", "mechanism", "call", "a", "market", "score", "rule", "that", "be", "especially", "well", "suit", "for", "allow", "bet", "on", "a", "combinatorial", "number", "of", "outcome", "." ], [ "the", "mechanism", "maintain", "a", "joint", "probability", "distribution", "over", "all", "2n", "state", ",", "either", "explicitly", "or", "implicitly", "use", "a", "bayesian", "network", "or", "other", "compact", "representation", "." ], [ "in", "the", "limit", "of", "a", "single", "trader", ",", "the", "mechanism", "behave", "like", "a", "score", "rule", ",", "suitable", "for", "polling", "a", "single", "agent", "for", "its", "probability", "distribution", "." ], [ "in", "the", "limit", "of", "many", "trader", ",", "it", "produce", "a", "combined", "estimate", "." ], [ "since", "the", "market", "essentially", "always", "have", "a", "complete", "set", "of", "post", "price", "for", "all", "possible", "outcome", ",", "the", "mechanism", "avoid", "the", "problem", "of", "thin", "market", ",", "or", "illiquidity", ",", "that", "necessarily", "plague", "any", "market", "contain", "a", "exponential", "number", "of", "alternative", "investment", "." ], [ "bid", "for", "compound", "security", "can", "be", "think", "of", "as", "expression", "of", "probabilistic", "inequality", ":", "for", "example", ",", "a", "bid", "to", "buy", "-lrb-", "a", "n", "b", "-rrb-", "at", "price", "0.3", "be", "a", "statement", "that", "the", "probability", "of", "a", "n", "b", "be", "greater", "than", "0.3", "." ], [ "if", "a", "set", "of", "single-unit", "bid", "correspond", "to", "a", "set", "of", "inconsistent", "probabilistic", "inequality", ",", "then", "there", "be", "a", "match", "." ], [ "we", "address", "these", "issue", "below", "." ] ]

[ "combinatori bet", "effect probabl assess", "arbitrari logic combin", "compound secur", "bayesian network", "combin-valu trade", "approxim algorithm", "payoff vector", "tractabl case", "base secur" ]

I-29

[ [ "Distributed", "Management", "of", "Flexible", "Times", "Schedules" ], [ "ABSTRACT" ], [ "We", "consider", "the", "problem", "of", "managing", "schedules", "in", "an", "uncertain", ",", "distributed", "environment", "." ], [ "We", "assume", "a", "team", "of", "collaborative", "agents", ",", "each", "responsible", "for", "executing", "a", "portion", "of", "a", "globally", "pre-established", "schedule", ",", "but", "none", "possessing", "a", "global", "view", "of", "either", "the", "problem", "or", "solution", "." ], [ "The", "goal", "is", "to", "maximize", "the", "joint", "quality", "obtained", "from", "the", "activities", "executed", "by", "all", "agents", ",", "given", "that", ",", "during", "execution", ",", "unexpected", "events", "will", "force", "changes", "to", "some", "prescribed", "activities", "and", "reduce", "the", "utility", "of", "executing", "others", "." ], [ "We", "describe", "an", "agent", "architecture", "for", "solving", "this", "problem", "that", "couples", "two", "basic", "mechanisms", ":", "-LRB-", "1", "-RRB-", "a", "``", "flexible", "times", "''", "representation", "of", "the", "agent", "'s", "schedule", "-LRB-", "using", "a", "Simple", "Temporal", "Network", "-RRB-", "and", "-LRB-", "2", "-RRB-", "an", "incremental", "rescheduling", "procedure", "." ], [ "The", "former", "hedges", "against", "temporal", "uncertainty", "by", "allowing", "execution", "to", "proceed", "from", "a", "set", "of", "feasible", "solutions", ",", "and", "the", "latter", "acts", "to", "revise", "the", "agent", "'s", "schedule", "when", "execution", "is", "forced", "outside", "of", "this", "set", "of", "solutions", "or", "when", "execution", "events", "reduce", "the", "expected", "value", "of", "this", "feasible", "solution", "set", "." ], [ "Basic", "coordination", "with", "other", "agents", "is", "achieved", "simply", "by", "communicating", "schedule", "changes", "to", "those", "agents", "with", "inter-dependent", "activities", "." ], [ "Then", ",", "as", "time", "permits", ",", "the", "core", "local", "problem", "solving", "infra-structure", "is", "used", "to", "drive", "an", "inter-agent", "option", "generation", "and", "query", "process", ",", "aimed", "at", "identifying", "opportunities", "for", "solution", "improvement", "through", "joint", "change", "." ], [ "Using", "a", "simulator", "to", "model", "the", "environment", ",", "we", "compare", "the", "performance", "of", "our", "multi-agent", "system", "with", "that", "of", "an", "expected", "optimal", "-LRB-", "but", "non-scalable", "-RRB-", "centralized", "MDP", "solver", "." ], [ "1", "." ], [ "INTRODUCTION" ], [ "The", "practical", "constraints", "of", "many", "application", "environments", "require", "distributed", "management", "of", "executing", "plans", "and", "schedules", "." ], [ "In", "this", "paper", ",", "we", "consider", "the", "problem", "of", "managing", "and", "executing", "schedules", "in", "an", "uncertain", "and", "distributed", "environment", "as", "defined", "by", "the", "DARPA", "Coordinators", "program", "." ], [ "We", "assume", "a", "team", "of", "collaborative", "agents", ",", "each", "responsible", "for", "executing", "a", "portion", "of", "a", "globally", "preestablished", "schedule", ",", "but", "none", "possessing", "a", "global", "view", "of", "either", "the", "problem", "or", "solution", "." ], [ "The", "team", "goal", "is", "to", "maximize", "the", "total", "quality", "of", "all", "activities", "executed", "by", "all", "agents", ",", "given", "that", "unexpected", "events", "will", "force", "changes", "to", "pre-scheduled", "activities", "and", "alter", "the", "utility", "of", "executing", "others", "as", "execution", "unfolds", "." ], [ "To", "provide", "a", "basis", "for", "distributed", "coordination", ",", "each", "agent", "is", "aware", "of", "dependencies", "between", "its", "scheduled", "activities", "and", "those", "of", "other", "agents", "." ], [ "Each", "agent", "is", "also", "given", "a", "pre-computed", "set", "of", "local", "contingency", "-LRB-", "fall-back", "-RRB-", "options", "." ], [ "Central", "to", "our", "approach", "to", "solving", "this", "multi-agent", "problem", "is", "an", "incremental", "flexible-times", "scheduling", "framework", "." ], [ "In", "a", "flexible-times", "representation", "of", "an", "agent", "'s", "schedule", ",", "the", "execution", "intervals", "associated", "with", "scheduled", "activities", "are", "not", "fixed", ",", "but", "instead", "are", "allowed", "to", "float", "within", "imposed", "time", "and", "activity", "sequencing", "constraints", "." ], [ "However", "their", "use", "in", "distributed", "problem", "solving", "settings", "has", "been", "quite", "sparse", "-LRB-", "-LSB-", "7", "-RSB-", "is", "one", "exception", "-RRB-", ",", "and", "prior", "approaches", "to", "multi-agent", "scheduling", "-LRB-", "e.g.", ",", "-LSB-", "6", ",", "13", ",", "5", "-RSB-", "-RRB-", "have", "generally", "operated", "with", "fixed-times", "representations", "of", "agent", "schedules", "." ], [ "We", "define", "an", "agent", "architecture", "centered", "around", "incremental", "management", "of", "a", "flexible", "times", "schedule", "." ], [ "Local", "change", "is", "ac" ], [ "Figure", "1", ":", "A", "two", "agent", "C", "TAEMS", "problem", "." ], [ "complished", "by", "an", "incremental", "scheduler", ",", "designed", "to", "maximize", "quality", "while", "attempting", "to", "minimize", "schedule", "change", "." ], [ "To", "this", "schedule", "management", "infra-structure", ",", "we", "add", "two", "mechanisms", "for", "multi-agent", "coordination", "." ], [ "Basic", "coordination", "with", "other", "agents", "is", "achieved", "by", "simple", "communication", "of", "local", "schedule", "changes", "to", "other", "agents", "with", "interdependent", "activities", "." ], [ "Layered", "over", "this", "is", "a", "non-local", "option", "generation", "and", "evaluation", "process", "-LRB-", "similar", "in", "some", "respects", "to", "-LSB-", "5", "-RSB-", "-RRB-", ",", "aimed", "at", "identification", "of", "opportunities", "for", "global", "improvement", "through", "joint", "changes", "to", "the", "schedules", "of", "multiple", "agents", "." ], [ "We", "begin", "by", "briefly", "summarizing", "the", "general", "distributed", "scheduling", "problem", "of", "interest", "in", "our", "work", "." ], [ "Next", ",", "we", "introduce", "the", "agent", "architecture", "we", "have", "developed", "to", "solve", "this", "problem", "and", "sketch", "its", "operation", "." ], [ "In", "the", "following", "sections", ",", "we", "describe", "the", "components", "of", "the", "architecture", "in", "more", "detail", ",", "considering", "in", "turn", "issues", "relating", "to", "executing", "agent", "schedules", ",", "incrementally", "revising", "agent", "schedules", "and", "coordinating", "schedule", "changes", "among", "multiple", "agents", "." ], [ "We", "then", "give", "some", "experimental", "results", "to", "indicate", "current", "system", "performance", "." ], [ "Finally", "we", "conclude", "with", "a", "brief", "discussion", "of", "current", "research", "plans", "." ], [ "8", "." ], [ "STATUS", "AND", "DIRECTIONS" ], [ "Our", "current", "research", "efforts", "are", "aimed", "at", "extending", "the", "capabilities", "of", "the", "Year", "1", "agent", "and", "scaling", "up", "to", "significantly", "larger", "problems", "." ], [ "Year", "2", "programmatic", "evaluation", "goals", "call", "for", "solving", "problems", "on", "the", "order", "of", "100", "agents", "and", "10,000", "methods", "." ], [ "This", "scale", "places", "much", "higher", "computational", "demands", "on", "all", "of", "the", "agent", "'s", "components", "." ], [ "We", "have", "recently", "completed", "a", "re-implementation", "of", "the", "prototype", "agent", "designed", "to", "address", "some", "recognized", "performance", "issues", "." ], [ "In", "addition", "to", "verifying", "that", "the", "performance", "on", "Year", "1", "problems", "is", "matched", "or", "exceeded", ",", "we", "have", "recently", "run", "some", "successful", "tests", "with", "the", "agent", "on", "a", "few", "100", "agent", "problems", "." ], [ "To", "fully", "address", "various", "scale", "up", "issues", ",", "we", "are", "investigating", "a", "number", "of", "more", "advanced", "coordination", "mechanisms", "." ], [ "To", "provide", "more", "global", "perspective", "to", "local", "scheduling", "decisions", ",", "we", "are", "introducing", "mechanisms", "for", "computing", ",", "communicating", "and", "using", "estimates", "of", "the", "non-local", "impact", "of", "remote", "nodes", "." ], [ "To", "better", "address", "the", "problem", "of", "establishing", "inter-agent", "synchronization", "points", ",", "we", "expanding", "the", "use", "of", "task", "owners", "and", "qaf-specifc", "protocols", "as", "a", "means", "for", "directing", "coordination", "activity", "." ], [ "Finally", ",", "we", "plan", "to", "explore", "the", "use", "of", "more", "advanced", "STN-driven", "coordination", "mechanisms", ",", "including", "the", "use", "of", "temporal", "decoupling", "-LSB-", "7", "-RSB-", "to", "insulate", "the", "actions", "of", "inter-dependent", "agents", "and", "the", "introduction", "of", "probability", "sensitive", "contingency", "schedules", "." ] ]

[ [ "VBN", "NN", "IN", "NNP", "NNP", "NNPS" ], [ "NN" ], [ "PRP", "VBP", "DT", "NN", "IN", "VBG", "NNS", "IN", "DT", "JJ", ",", "VBN", "NN", "." ], [ "PRP", "VBP", "DT", "NN", "IN", "JJ", "NNS", ",", "DT", "JJ", "IN", "VBG", "DT", "NN", "IN", "DT", "RB", "JJ", "NN", ",", "CC", "NN", "VBG", "DT", "JJ", "NN", "IN", "CC", "DT", "NN", "CC", "NN", "." ], [ "DT", "NN", "VBZ", "TO", "VB", "DT", "JJ", "NN", "VBN", "IN", "DT", "NNS", "VBN", "IN", "DT", "NNS", ",", "VBN", "IN", ",", "IN", "NN", ",", "JJ", "NNS", "MD", "VB", "NNS", "TO", "DT", "VBN", "NNS", "CC", "VB", "DT", "NN", "IN", "VBG", "NNS", "." ], [ "PRP", "VBP", "DT", "NN", "NN", "IN", "VBG", "DT", "NN", "WDT", "VBZ", "CD", "JJ", "NNS", ":", "-LRB-", "LS", "-RRB-", "DT", "``", "JJ", "NNS", "''", "NN", "IN", "DT", "NN", "POS", "NN", "-LRB-", "VBG", "DT", "JJ", "JJ", "NNP", "-RRB-", "CC", "-LRB-", "LS", "-RRB-", "DT", "JJ", "NN", "NN", "." ], [ "DT", "JJ", "NNS", "IN", "JJ", "NN", "IN", "VBG", "NN", "TO", "VB", "IN", "DT", "NN", "IN", "JJ", "NNS", ",", "CC", "DT", "JJ", "NNS", "TO", "VB", "DT", "NN", "POS", "NN", "WRB", "NN", "VBZ", "VBN", "IN", "IN", "DT", "NN", "IN", "NNS", "CC", "WRB", "NN", "NNS", "VB", "DT", "VBN", "NN", "IN", "DT", "JJ", "NN", "NN", "." ], [ "JJ", "NN", "IN", "JJ", "NNS", "VBZ", "VBN", "RB", "IN", "VBG", "NN", "NNS", "TO", "DT", "NNS", "IN", "JJ", "NNS", "." ], [ "RB", ",", "IN", "NN", "NNS", ",", "DT", "NN", "JJ", "NN", "VBG", "NN", "VBZ", "VBN", "TO", "VB", "DT", "JJ", "NN", "NN", "CC", "NN", "NN", ",", "VBN", "IN", "VBG", "NNS", "IN", "NN", "NN", "IN", "JJ", "NN", "." ], [ "VBG", "DT", "NN", "TO", "VB", "DT", "NN", ",", "PRP", "VBP", "DT", "NN", "IN", "PRP$", "JJ", "NN", "IN", "DT", "IN", "DT", "VBN", "JJ", "-LRB-", "CC", "JJ", "-RRB-", "VBD", "NN", "NN", "." ], [ "LS", "." ], [ "NN" ], [ "DT", "JJ", "NNS", "IN", "JJ", "NN", "NNS", "VBP", "VBN", "NN", "IN", "VBG", "NNS", "CC", "NNS", "." ], [ "IN", "DT", "NN", ",", "PRP", "VBP", "DT", "NN", "IN", "NN", "CC", "VBG", "NNS", "IN", "DT", "JJ", "CC", "VBN", "NN", "IN", "VBN", "IN", "DT", "NNP", "NNPS", "NN", "." ], [ "PRP", "VBP", "DT", "NN", "IN", "JJ", "NNS", ",", "DT", "JJ", "IN", "VBG", "DT", "NN", "IN", "DT", "RB", "VBN", "NN", ",", "CC", "NN", "VBG", "DT", "JJ", "NN", "IN", "CC", "DT", "NN", "CC", "NN", "." ], [ "DT", "NN", "NN", "VBZ", "TO", "VB", "DT", "JJ", "NN", "IN", "DT", "NNS", "VBN", "IN", "DT", "NNS", ",", "VBN", "IN", "JJ", "NNS", "MD", "VB", "NNS", "TO", "JJ", "NNS", "CC", "VB", "DT", "NN", "IN", "VBG", "NNS", "IN", "NN", "VBZ", "." ], [ "TO", "VB", "DT", "NN", "IN", "VBN", "NN", ",", "DT", "NN", "VBZ", "JJ", "IN", "NNS", "IN", "PRP$", "JJ", "NNS", "CC", "DT", "IN", "JJ", "NNS", "." ], [ "DT", "NN", "VBZ", "RB", "VBN", "DT", "JJ", "NN", "IN", "JJ", "NN", "-LRB-", "JJ", "-RRB-", "NNS", "." ], [ "NNP", "TO", "PRP$", "NN", "TO", "VBG", "DT", "JJ", "NN", "VBZ", "DT", "JJ", "NNS", "NN", "NN", "." ], [ "IN", "DT", "JJ", "NN", "IN", "DT", "NN", "POS", "NN", ",", "DT", "NN", "NNS", "VBN", "IN", "VBN", "NNS", "VBP", "RB", "VBN", ",", "CC", "RB", "VBP", "VBN", "TO", "VB", "IN", "VBN", "NN", "CC", "NN", "NN", "NNS", "." ], [ "RB", "PRP$", "NN", "IN", "VBN", "NN", "VBG", "NNS", "VBZ", "VBN", "RB", "JJ", "-LRB-", "-LRB-", "CD", "-RRB-", "VBZ", "CD", "NN", "-RRB-", ",", "CC", "RB", "VBZ", "TO", "JJ", "NN", "-LRB-", "FW", ",", "-LRB-", "CD", ",", "CD", ",", "CD", "-RRB-", "-RRB-", "VBP", "RB", "VBN", "IN", "JJ", "NNS", "IN", "NN", "NNS", "." ], [ "PRP", "VBP", "DT", "NN", "NN", "VBN", "IN", "JJ", "NN", "IN", "DT", "JJ", "NNS", "NN", "." ], [ "JJ", "NN", "VBZ", "IN" ], [ "NNP", "CD", ":", "DT", "CD", "NN", "NN", "NN", "NN", "." ], [ "VBN", "IN", "DT", "JJ", "NN", ",", "VBN", "TO", "VB", "NN", "IN", "VBG", "TO", "VB", "NN", "NN", "." ], [ "TO", "DT", "NN", "NN", "NN", ",", "PRP", "VBP", "CD", "NNS", "IN", "JJ", "NN", "." ], [ "JJ", "NN", "IN", "JJ", "NNS", "VBZ", "VBN", "IN", "JJ", "NN", "IN", "JJ", "NN", "NNS", "TO", "JJ", "NNS", "IN", "JJ", "NNS", "." ], [ "VBN", "IN", "DT", "VBZ", "DT", "JJ", "NN", "NN", "CC", "NN", "NN", "-LRB-", "JJ", "IN", "DT", "NNS", "TO", "-LRB-", "CD", "-RRB-", "-RRB-", ",", "VBN", "IN", "NN", "IN", "NNS", "IN", "JJ", "NN", "IN", "JJ", "NNS", "TO", "DT", "NNS", "IN", "JJ", "NNS", "." ], [ "PRP", "VBP", "IN", "NN", "VBG", "DT", "JJ", "VBN", "NN", "NN", "IN", "NN", "IN", "PRP$", "NN", "." ], [ "RB", ",", "PRP", "VBP", "DT", "NN", "NN", "PRP", "VBP", "VBN", "TO", "VB", "DT", "NN", "CC", "NN", "PRP$", "NN", "." ], [ "IN", "DT", "VBG", "NNS", ",", "PRP", "VBP", "DT", "NNS", "IN", "DT", "NN", "IN", "RBR", "NN", ",", "VBG", "IN", "NN", "NNS", "VBG", "TO", "VBG", "NN", "NNS", ",", "RB", "VBG", "NN", "NNS", "CC", "VBG", "NN", "NNS", "IN", "JJ", "NNS", "." ], [ "PRP", "RB", "VBP", "DT", "JJ", "NNS", "TO", "VB", "JJ", "NN", "NN", "." ], [ "RB", "PRP", "VBP", "IN", "DT", "JJ", "NN", "IN", "JJ", "NN", "NNS", "." ], [ "CD", "." ], [ "NN", "CC", "NNS" ], [ "PRP$", "JJ", "NN", "NNS", "VBP", "VBN", "IN", "VBG", "DT", "NNS", "IN", "DT", "NN", "CD", "NN", "CC", "VBG", "RP", "TO", "RB", "JJR", "NNS", "." ], [ "NN", "CD", "JJ", "NN", "NNS", "VBP", "IN", "VBG", "NNS", "IN", "DT", "NN", "IN", "CD", "NNS", "CC", "CD", "NNS", "." ], [ "DT", "NN", "VBZ", "RB", "JJR", "JJ", "NNS", "IN", "DT", "IN", "DT", "NN", "POS", "NNS", "." ], [ "PRP", "VBP", "RB", "VBN", "DT", "NN", "IN", "DT", "NN", "NN", "VBN", "TO", "VB", "DT", "VBN", "NN", "NNS", "." ], [ "IN", "NN", "TO", "VBG", "IN", "DT", "NN", "IN", "NN", "CD", "NNS", "VBZ", "VBN", "CC", "VBN", ",", "PRP", "VBP", "RB", "VBN", "DT", "JJ", "NNS", "IN", "DT", "NN", "IN", "DT", "JJ", "CD", "NN", "NNS", "." ], [ "TO", "RB", "VB", "JJ", "NN", "IN", "NNS", ",", "PRP", "VBP", "VBG", "DT", "NN", "IN", "JJR", "JJ", "NN", "NNS", "." ], [ "TO", "VB", "JJR", "JJ", "NN", "TO", "JJ", "NN", "NNS", ",", "PRP", "VBP", "VBG", "NNS", "IN", "NN", ",", "VBG", "CC", "VBG", "NNS", "IN", "DT", "JJ", "NN", "IN", "JJ", "NNS", "." ], [ "TO", "RBR", "VB", "DT", "NN", "IN", "VBG", "JJ", "NN", "NNS", ",", "PRP", "VBG", "DT", "NN", "IN", "NN", "NNS", "CC", "JJ", "NNS", "IN", "DT", "NN", "IN", "VBG", "NN", "NN", "." ], [ "RB", ",", "PRP", "VBP", "TO", "VB", "DT", "NN", "IN", "JJR", "JJ", "JJ", "NN", "NNS", ",", "VBG", "DT", "NN", "IN", "JJ", "NN", "-LRB-", "CD", "-RRB-", "TO", "VB", "DT", "NNS", "IN", "JJ", "NNS", "CC", "DT", "NN", "IN", "NN", "JJ", "NN", "NNS", "." ] ]

[ [ "distribute", "management", "of", "Flexible", "Times", "Schedules" ], [ "abstract" ], [ "we", "consider", "the", "problem", "of", "manage", "schedule", "in", "a", "uncertain", ",", "distribute", "environment", "." ], [ "we", "assume", "a", "team", "of", "collaborative", "agent", ",", "each", "responsible", "for", "execute", "a", "portion", "of", "a", "globally", "pre-established", "schedule", ",", "but", "none", "possess", "a", "global", "view", "of", "either", "the", "problem", "or", "solution", "." ], [ "the", "goal", "be", "to", "maximize", "the", "joint", "quality", "obtain", "from", "the", "activity", "execute", "by", "all", "agent", ",", "give", "that", ",", "during", "execution", ",", "unexpected", "event", "will", "force", "change", "to", "some", "prescribe", "activity", "and", "reduce", "the", "utility", "of", "execute", "other", "." ], [ "we", "describe", "a", "agent", "architecture", "for", "solve", "this", "problem", "that", "couple", "two", "basic", "mechanism", ":", "-lrb-", "1", "-rrb-", "a", "``", "flexible", "time", "''", "representation", "of", "the", "agent", "'s", "schedule", "-lrb-", "use", "a", "simple", "temporal", "Network", "-rrb-", "and", "-lrb-", "2", "-rrb-", "a", "incremental", "rescheduling", "procedure", "." ], [ "the", "former", "hedge", "against", "temporal", "uncertainty", "by", "allow", "execution", "to", "proceed", "from", "a", "set", "of", "feasible", "solution", ",", "and", "the", "latter", "act", "to", "revise", "the", "agent", "'s", "schedule", "when", "execution", "be", "force", "outside", "of", "this", "set", "of", "solution", "or", "when", "execution", "event", "reduce", "the", "expect", "value", "of", "this", "feasible", "solution", "set", "." ], [ "basic", "coordination", "with", "other", "agent", "be", "achieve", "simply", "by", "communicate", "schedule", "change", "to", "those", "agent", "with", "inter-dependent", "activity", "." ], [ "then", ",", "as", "time", "permit", ",", "the", "core", "local", "problem", "solve", "infra-structure", "be", "use", "to", "drive", "a", "inter-agent", "option", "generation", "and", "query", "process", ",", "aim", "at", "identify", "opportunity", "for", "solution", "improvement", "through", "joint", "change", "." ], [ "use", "a", "simulator", "to", "model", "the", "environment", ",", "we", "compare", "the", "performance", "of", "we", "multi-agent", "system", "with", "that", "of", "a", "expect", "optimal", "-lrb-", "but", "non-scalable", "-rrb-", "centralize", "mdp", "solver", "." ], [ "1", "." ], [ "introduction" ], [ "the", "practical", "constraint", "of", "many", "application", "environment", "require", "distribute", "management", "of", "execute", "plan", "and", "schedule", "." ], [ "in", "this", "paper", ",", "we", "consider", "the", "problem", "of", "managing", "and", "execute", "schedule", "in", "a", "uncertain", "and", "distribute", "environment", "as", "define", "by", "the", "DARPA", "Coordinators", "program", "." ], [ "we", "assume", "a", "team", "of", "collaborative", "agent", ",", "each", "responsible", "for", "execute", "a", "portion", "of", "a", "globally", "preestablish", "schedule", ",", "but", "none", "possess", "a", "global", "view", "of", "either", "the", "problem", "or", "solution", "." ], [ "the", "team", "goal", "be", "to", "maximize", "the", "total", "quality", "of", "all", "activity", "execute", "by", "all", "agent", ",", "give", "that", "unexpected", "event", "will", "force", "change", "to", "pre-scheduled", "activity", "and", "alter", "the", "utility", "of", "execute", "other", "as", "execution", "unfold", "." ], [ "to", "provide", "a", "basis", "for", "distribute", "coordination", ",", "each", "agent", "be", "aware", "of", "dependency", "between", "its", "scheduled", "activity", "and", "those", "of", "other", "agent", "." ], [ "each", "agent", "be", "also", "give", "a", "pre-computed", "set", "of", "local", "contingency", "-lrb-", "fall-back", "-rrb-", "option", "." ], [ "Central", "to", "we", "approach", "to", "solve", "this", "multi-agent", "problem", "be", "a", "incremental", "flexible-time", "scheduling", "framework", "." ], [ "in", "a", "flexible-times", "representation", "of", "a", "agent", "'s", "schedule", ",", "the", "execution", "interval", "associate", "with", "schedule", "activity", "be", "not", "fix", ",", "but", "instead", "be", "allow", "to", "float", "within", "impose", "time", "and", "activity", "sequencing", "constraint", "." ], [ "however", "they", "use", "in", "distribute", "problem", "solve", "setting", "have", "be", "quite", "sparse", "-lrb-", "-lsb-", "7", "-rsb-", "be", "one", "exception", "-rrb-", ",", "and", "prior", "approach", "to", "multi-agent", "scheduling", "-lrb-", "e.g.", ",", "-lsb-", "6", ",", "13", ",", "5", "-rsb-", "-rrb-", "have", "generally", "operate", "with", "fixed-times", "representation", "of", "agent", "schedule", "." ], [ "we", "define", "a", "agent", "architecture", "center", "around", "incremental", "management", "of", "a", "flexible", "time", "schedule", "." ], [ "local", "change", "be", "ac" ], [ "Figure", "1", ":", "a", "two", "agent", "c", "taems", "problem", "." ], [ "complish", "by", "a", "incremental", "scheduler", ",", "design", "to", "maximize", "quality", "while", "attempt", "to", "minimize", "schedule", "change", "." ], [ "to", "this", "schedule", "management", "infra-structure", ",", "we", "add", "two", "mechanism", "for", "multi-agent", "coordination", "." ], [ "basic", "coordination", "with", "other", "agent", "be", "achieve", "by", "simple", "communication", "of", "local", "schedule", "change", "to", "other", "agent", "with", "interdependent", "activity", "." ], [ "layer", "over", "this", "be", "a", "non-local", "option", "generation", "and", "evaluation", "process", "-lrb-", "similar", "in", "some", "respects", "to", "-lsb-", "5", "-rsb-", "-rrb-", ",", "aim", "at", "identification", "of", "opportunity", "for", "global", "improvement", "through", "joint", "change", "to", "the", "schedule", "of", "multiple", "agent", "." ], [ "we", "begin", "by", "briefly", "summarize", "the", "general", "distribute", "scheduling", "problem", "of", "interest", "in", "we", "work", "." ], [ "next", ",", "we", "introduce", "the", "agent", "architecture", "we", "have", "develop", "to", "solve", "this", "problem", "and", "sketch", "its", "operation", "." ], [ "in", "the", "follow", "section", ",", "we", "describe", "the", "component", "of", "the", "architecture", "in", "more", "detail", ",", "consider", "in", "turn", "issue", "relate", "to", "execute", "agent", "schedule", ",", "incrementally", "revise", "agent", "schedule", "and", "coordinate", "schedule", "change", "among", "multiple", "agent", "." ], [ "we", "then", "give", "some", "experimental", "result", "to", "indicate", "current", "system", "performance", "." ], [ "finally", "we", "conclude", "with", "a", "brief", "discussion", "of", "current", "research", "plan", "." ], [ "8", "." ], [ "status", "and", "direction" ], [ "we", "current", "research", "effort", "be", "aim", "at", "extend", "the", "capability", "of", "the", "year", "1", "agent", "and", "scale", "up", "to", "significantly", "larger", "problem", "." ], [ "year", "2", "programmatic", "evaluation", "goal", "call", "for", "solve", "problem", "on", "the", "order", "of", "100", "agent", "and", "10,000", "method", "." ], [ "this", "scale", "place", "much", "higher", "computational", "demand", "on", "all", "of", "the", "agent", "'s", "component", "." ], [ "we", "have", "recently", "complete", "a", "re-implementation", "of", "the", "prototype", "agent", "design", "to", "address", "some", "recognize", "performance", "issue", "." ], [ "in", "addition", "to", "verify", "that", "the", "performance", "on", "year", "1", "problem", "be", "match", "or", "exceed", ",", "we", "have", "recently", "run", "some", "successful", "test", "with", "the", "agent", "on", "a", "few", "100", "agent", "problem", "." ], [ "to", "fully", "address", "various", "scale", "up", "issue", ",", "we", "be", "investigate", "a", "number", "of", "more", "advanced", "coordination", "mechanism", "." ], [ "to", "provide", "more", "global", "perspective", "to", "local", "scheduling", "decision", ",", "we", "be", "introduce", "mechanism", "for", "computing", ",", "communicate", "and", "use", "estimate", "of", "the", "non-local", "impact", "of", "remote", "node", "." ], [ "to", "better", "address", "the", "problem", "of", "establish", "inter-agent", "synchronization", "point", ",", "we", "expand", "the", "use", "of", "task", "owner", "and", "qaf-specifc", "protocol", "as", "a", "means", "for", "direct", "coordination", "activity", "." ], [ "finally", ",", "we", "plan", "to", "explore", "the", "use", "of", "more", "advanced", "stn-driven", "coordination", "mechanism", ",", "include", "the", "use", "of", "temporal", "decoupling", "-lsb-", "7", "-rsb-", "to", "insulate", "the", "action", "of", "inter-dependent", "agent", "and", "the", "introduction", "of", "probability", "sensitive", "contingency", "schedule", "." ] ]

[ "manag schedul", "distribut environ", "agent architectur", "schedul", "inter-depend activ", "geograph separ", "flexibl time", "central plan", "manag", "schedul-execut", "slack", "shortest path algorithm", "activ alloc", "conflict-driven approach", "optimist synchron", "inter-agent coordin", "perform" ]