anlp/annotation2_wo_elimination · Datasets at Hugging Face

sentences sequence	ner_tags sequence
[ "We", "only", "keep", "the", "executable", "component", "pairs", "to", "guarantee", "the", "executability", "of", "final", "logical", "expression", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Coarse", "-", "grained", "Component", "Composition", "." ]	[ "O", "O", "O", "O", "O", "O" ]
[ "Fi-", "nally", ",", "a", "seq", "-", "to", "-", "seq", "model", "takes", "the", "concatenation", "of", "the", "question", "and", "the", "reformulated", "components", "as", "input", "to", "generate", "the", "logical", "expression", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "In", "par-", "ticular", ",", "the", "middel", "-", "grained", "components", "are", "injected", "into", "both", "the", "encoder", "and", "the", "decoder", "to", "ensure", "the", "executability", "of", "the", "final", "logical", "expressions", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "4.3", "Fine", "-", "grained", "Component", "Detection", "Relation", "and", "Class", "Extraction", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Taking", "the", "re-", "lation", "extractor", "as", "the", "example", ",", "given", "a", "question", "q", ",", "we", "aim", "to", "extract", "relations", "in", "q", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "First", ",", "we", "apply", "BM25", "(", "Robertson", "et", "al", ".", ",", "2009", ")", "to", "recall", "the", "relation", "candidates", "from", "the", "KB", "based", "on", "the", "surface", "over-", "laps", "between", "relations", "’", "names", "and", "q", "." ]	[ "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Then", "we", "ap-", "ply", "BERT", "(", "Devlin", "et", "al", ".", ",", "2019", ")", "as", "the", "cross", "-", "encoder", "to", "measure", "the", "semantic", "similarity", "between", "qand", "each", "relation", "candidate", "r", "." ]	[ "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "describe", "rusing", "the", "relation", "domain", ",", "the", "relation", "name", ",", "and", "the", "rela-", "tion", "range", "and", "let", "the", "BERT", "input", "be", "“", "[", "CLS", "]", "q", "[", "D", "]", "domain", "(", "r", ")", "[", "N", "]", "name", "(", "r", ")", "[", "R", "]", "range", "(", "r", ")", "[", "SEP", "]", "”", ",", "where", "[", "CLS", "]", ",", "[", "SEP", "]", ",", "[", "D", "]", ",", "[", "N", "]", ",", "and", "[", "R", "]", "are", "the", "special", "to-", "kens", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "To", "better", "distinguish", "the", "spurious", "relations,1005", "Figure", "4", ":", "Overview", "of", "FC", "-", "KBQA", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O" ]
[ "In", "the", "step", "of", "fine", "-", "grained", "component", "detection", ",", "we", "perform", "class", "extraction", ",", "relation", "extraction", ",", "entity", "linking", ",", "and", "logical", "skeleton", "parsing", "to", "obtain", "the", "most", "relevant", "components", "of", "the", "question", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Then", "we", "utilize", "the", "KB", "-", "based", "constraint", "to", "obtain", "middle", "-", "grained", "component", "pairs", "that", "are", "connected", "in", "the", "KB", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Finally", ",", "a", "T5", "-", "based", "seq", "-", "to", "-", "seq", "model", "encodes", "the", "reformulated", "fine", "-", "grained", "and", "middle", "-", "grained", "candidates", "(", "reformulation", "unit", ")", ",", "and", "employs", "a", "controllable", "decoder", "with", "dynamic", "vocabulary", "(", "control", "unit", ")", "to", "generate", "the", "executable", "target", "logical", "expression", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "we", "sample", "the", "relations", "that", "share", "the", "same", "domain", "as", "the", "ground", "-", "truth", "relation", "as", "the", "negatives", "for", "training", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "trained", "model", "is", "used", "to", "retrieve", "the", "set", "of", "top-", "krelations", ",", "denoted", "by", "Rq", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "class", "extractor", "works", "in", "the", "same", "way", "as", "the", "relation", "extractor", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "represent", "the", "class", "using", "its", "name", "and", "domain", ",", "and", "use", "other", "classes", "in", "the", "same", "domain", "as", "negatives", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Cqrepresents", "the", "set", "of", "the", "top-", "krelevant", "classes", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Entity", "Linking", "." ]	[ "O", "O", "O" ]
[ "A", "common", "paradigm", "of", "finding", "topic", "entities", "in", "KBQA", "methods", "is", "to", "first", "leverage", "a", "NER", "tool", "(", "Finkel", "et", "al", ".", ",", "2005", ")", "to", "detect", "mentions", "and", "then", "apply", "an", "entity", "disambiguation", "model", "to", "link", "them", "to", "entities", "in", "KB", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "However", ",", "some", "noun-", "phrase", "mentions", "such", "as", "“", "rich", "media", "”", "are", "hard", "to", "be", "detected", "by", "the", "NER", "tool", ",", "and", "some", "ambiguous", "entities", "could", "not", "be", "distinguished", "by", "the", "pure", "en-", "tity", "names", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "To", "address", "both", "issues", ",", "we", "equip", "the", "NER", "tool1with", "a", "trie", "tree", "-", "based", "mention", "detec-", "tion", "method", "and", "propose", "a", "relation", "-", "aware", "pruning", "method", "to", "filter", "the", "mentions", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Specifically", ",", "we", "build", "a", "trie", "tree", "(", "Fredkin", ",", "1960", ")", "with", "the", "surface", "names", "of", "all", "entities", "in", "the", "KB", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Then", "we", "can", "search", "noun", "phrase", "mentions", "in", "the", "question", "efficiently", "and", "link", "them", "to", "the", "KB", "by", "1We", "follow", "GrailQA", "which", "utilizes", "an", "open", "BERT", "-", "NER", "tool", "on", "GitHub", "(", "https", ":", "/", "/", "github.com", "/", "kamalkraj", "/", "BERT-NER", ")", ".BLINK", "(", "Wu", "et", "al", ".", ",", "2020", ")", "to", "obtain", "the", "correspond-", "ing", "entities", "Eq", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "After", "that", ",", "we", "propose", "a", "relation", "awared", "pruning", "strategy", "to", "prune", "Eqby", "removing", "the", "entities", "that", "could", "not", "link", "to", "any", "relations", "in", "Rq", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Finally", ",", "following", "GrailQA", "(", "Gu", "et", "al", ".", ",", "2021", ")", ",", "we", "choose", "the", "entity", "with", "the", "highest", "popularity", "." ]	[ "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "define", "regular", "expressions", "to", "extract", "literals", "such", "as", "digits", "and", "years", "appearing", "in", "q", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Logical", "Skeleton", "Parsing", "." ]	[ "O", "O", "O", "O" ]
[ "Logical", "skeleton", "pars-", "ing", "aims", "to", "transform", "a", "given", "question", "qinto", "a", "logical", "skeleton", "l", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Because", "the", "logical", "skeleton", "is", "domain", "-", "independent", ",", "the", "parsing", "process", "could", "be", "generalized", "across", "domains", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "adopt", "T5", "(", "Raffel", "et", "al", ".", ",", "2020", ")", ",", "a", "state", "-", "of", "-", "the", "-", "art", "generation", "model", "to", "parse", "logical", "skeletons", "." ]	[ "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Since", "many", "entity", "names", "contain", "tokens", "such", "as", "“", "and", "”", "and", "“", "of", "”", "that", "may", "cause", "the", "logical", "skeleton", "to", "be", "incorrectly", "deter-", "mined", ",", "we", "mask", "each", "mention", "m∈Mqwith", "the", "special", "token", "“", "<", "entity0", ">", "”", ",", "“", "<", "entity1", ">", "”", ",", "...", ",", "in", "order", "of", "appearance", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "For", "example", ",", "we", "change", "“", "Thomas", "was", "the", "designer", "of", "what", "ship", "?", "”", "to", "“", "<", "entity0", ">", "was", "the", "designer", "of", "what", "ship", "?", "”", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "notice", "that", "a", "common", "error", "is", "parsing", "out", "logical", "skeleton", "with", "wrong", "relation", "numbers", ",", "for", "example", "“", "<", "rel", ">", "”", "in-", "stead", "of", "“", "<", "rel", ">", "<", "rel", ">", "”", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Instead", "of", "increasing", "beam", "numbers", ",", "we", "manually", "add", "grammar", "rules", ",", "such", "as", "add", "“", "<", "rel", ">", "<", "rel", ">", "”", "as", "the", "second", "candidate", "when1006", "“", "<", "rel", ">", "”", "is", "T5", "’s", "top-1", "prediction", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]
[ "The", "set", "of", "the", "top-2", "logical", "skeleton", "candidates", "is", "denoted", "as", "Lq", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "4.4", "Middle", "-", "grained", "Component", "Constrain", "After", "deriving", "the", "candidate", "components", "according", "to", "Section", "4.3", ",", "the", "KB", "-", "based", "constraint", "is", "required", "to", "guarantee", "the", "composed", "logical", "expression", "is", "executable", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "A", "straightforward", "idea", "is", "to", "fill", "the", "logical", "skeleton", "with", "candidate", "relations", ",", "classes", ",", "and", "entities", ",", "and", "execute", "them", "one", "by", "one", "to", "check", "executability", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "However", ",", "such", "enumeration", "is", "ineffi-", "cient", ",", "since", "all", "combinations", "of", "candidate", "compo-", "nents", "should", "be", "considered", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Therefore", ",", "we", "incor-", "porate", "the", "middle", "-", "grained", "component", "pairs", "which", "are", "connected", "in", "KB", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Such", "pairs", "can", "be", "produced", "efficiently", "to", "keep", "the", "model", "’s", "efficiency", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "middle", "-", "grained", "component", "pairs", "include", "class", "-", "relation", "pairs", ",", "relation", "-", "relation", "pairs", ",", "and", "relation", "-", "entity", "pairs", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "For", "each", "class", "c∈Cqand", "each", "relation", "r∈Rq", ",", "ifris", "connected", "with", "the", "domain", "class", "c", ",", "we", "add", "(", "c", ",", "r", ")", "into", "the", "class-", "relation", "pair", "set", "Pc−r", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "For", "example", "in", "Figure", "3", ",", "the", "class", "“", "railway.railway", "”", "is", "linked", "with", "the", "re-", "lation", "“", "rail.railway.terminuses", "”", ",", "so", "the", "pair", "(", "rail-", "way.railway", ",", "rail.railway.terminuses", ")", "is", "executable", "and", "will", "be", "added", "into", "Pc−r", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "If", "the", "range", "class", "ofrisc", ",", "we", "add", "the", "pair", "of", "cand", "the", "reverse", "relation", "of", "r", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "construct", "executable", "relation-", "relation", "pair", "set", "Pr−rby", "checking", "each", "relation", "pair", "(", "r1∈Rq", ",", "r2∈Rq", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Ifr2", "’s", "domain", "class", "does", "not", "match", "r1", "’s", "range", "class", ",", "we", "directly", "re-", "move", "this", "pair", "to", "maintain", "efficiency", ",", "otherwise", ",", "we", "reformulate", "(", "r1", ",", "r2", ")", "to", "a", "logical", "expression", "and", "execute", "on", "KB", "to", "check", "its", "connectivity", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "For", "each", "relation", "-", "entity", "pair", "(", "r", ",", "e", ")", ",", "we", "first", "check", "whether", "the", "logical", "skeleton", "candidates", "contain", "the", "<", "entity", ">", "placeholder", "or", "not", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "If", "not", ",", "we", "leave", "Pr−eempty", ";", "otherwise", "we", "directly", "take", "the", "result", "of", "the", "relation-", "pruning", "strategy", "for", "entities", "in", "Section", "4.3", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "4.5", "Coarse", "-", "grained", "Component", "Composition", "We", "apply", "a", "generation", "model", "based", "on", "T5", "to", "com-", "pose", "all", "the", "above", "fine", "-", "grained", "and", "middle", "-", "grained", "component", "candidates", "and", "output", "an", "executable", "logical", "expression", "by", "a", "controlled", "decoder", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Encoding", "Process", "." ]	[ "O", "O", "O" ]
[ "Before", "feeding", "the", "fine-", "grained", "and", "middle", "-", "grained", "component", "candidates", "into", "the", "generator", ",", "we", "sort", "the", "middle", "-", "grained", "can-", "didates", "according", "to", "their", "similarity", "scores", "to", "the", "question", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "By", "doing", "this", ",", "the", "order", "can", "reveal", "the", "pattern", "of", "which", "pair", "is", "more", "likely", "to", "appear", "in", "theground", "-", "truth", "logical", "expression", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "In", "intuition", ",", "such", "a", "pattern", "will", "help", "to", "generate", "more", "accurate", "log-", "ical", "expressions", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "To", "accomplish", "this", ",", "we", "take", "the", "logits", "of", "the", "fine", "-", "grained", "component", "detection", "in", "section", "4.3", "as", "the", "similarity", "score", "between", "the", "ques-", "tion", "and", "each", "class", "/", "relation", "component", ",", "and", "then", "calculate", "the", "similarity", "score", "between", "the", "question", "and", "a", "middle", "-", "grained", "component", "pair", "by", "summing", "the", "scores", "of", "contained", "single", "components", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "encoding", "of", "such", "middle", "-", "grained", "component", "im-", "proves", "the", "generator", "’s", "reasoning", "capacity", "in", "terms", "of", "capturing", "the", "knowledge", "constraints", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "use", "“", ";", "”", "to", "separate", "each", "element", "(", "a", "compo-", "nent", "or", "a", "component", "pair", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "To", "explicitly", "inform", "the", "model", "the", "type", "of", "each", "component", ",", "we", "place", "“", "[", "REL", "]", "”", ",", "“", "[", "CL", "]", "”", ",", "“", "[", "ENT", "]", "”", ",", "and", "“", "[", "LF", "]", "”", "before", "each", "relation", ",", "class", ",", "entity", ",", "and", "logical", "skeleton", "respectively", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "For", "example", ",", "we", "organize", "the", "input", "of", "encoder", "as", "“", "query", ";", "[", "CL", "]", "c1", "[", "REL", "]", "r1", ";", "[", "REL", "]", "r1", "[", "REL", "]", "r2", ";", "[", "CL", "]", "c2", "[", "REL", "]", "r3", ";", "[", "ENT", "]", "e1", ";", "[", "LF", "]", "l1", ";", "[", "LF", "]", "l2", "”", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Decoding", "Process", "." ]	[ "O", "O", "O" ]
[ "The", "middle", "-", "grained", "compo-", "nents", "are", "also", "used", "to", "produce", "a", "dynamic", "vocab-", "ulary", "to", "constrain", "the", "decoding", "process", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "gen-", "erated", "token", "ytis", "confined", "to", "the", "tokens", "involved", "in", "the", "dynamic", "vocabulary", "at", "each", "step", "t", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "ini-", "tialize", "the", "dynamic", "vocabulary", "with", "the", "union", "of", "tokens", "from", "the", "detected", "entities", ",", "tokens", "from", "the", "detected", "classes", "in", "Pc−r", ",", "i.e.", ",", "usually", "the", "answer", "type", ",", "and", "the", "keywords", "such", "as", "“", "JOIN", "”", "in", "logical", "skeleton", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Then", "we", "update", "the", "dynamic", "vocabulary", "by", "the", "relations", "paired", "with", "rinPr−rif", "the", "last", "generated", "component", "is", "ror", "by", "the", "relations", "paired", "withcinPc−rif", "it", "is", "c", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "5", "Experiment", "5.1", "Experimental", "Settings", "Dataset", "." ]	[ "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "evaluate", "our", "method", "on", "GrailQA", "(", "Gu", "et", "al", ".", ",", "2021", ")", ",", "WebQSP", "(", "Yih", "et", "al", ".", ",", "2016", ")", ",", "and", "CWQ", "(", "Talmor", "and", "Berant", ",", "2018", ")", ",", "all", "of", "which", "are", "based", "on", "Freebase", "." ]	[ "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "GrailQA", "focuses", "on", "generaliza-", "tion", "problems", "which", "involved", "up", "to", "4", "-", "hop", "logical", "expressions", "and", "complex", "operations", "." ]	[ "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "WebQSP", "is", "an", "i.i.d", "." ]	[ "B-DatasetName", "O", "O", "O", "O" ]
[ "benchmark", "that", "required", "2", "-", "hop", "reasoning", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Although", "CWQ", "is", "not", "designed", "to", "solve", "generaliza-", "tion", "problem", ",", "we", "can", "still", "separate", "out", "the", "zero", "-", "shot", "test", "set", "with", "all", "the", "unseen", "relations", "and", "classes", ",", "yielding", "576", "/", "3519", "zero", "-", "shot", "/", "all", "test", "set", "." ]	[ "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Evaluation", "Metrics", "." ]	[ "O", "O", "O" ]
[ "To", "measure", "the", "accuracy", "of", "logical", "expression", ",", "we", "use", "the", "well", "-", "adopted", "exact", "match", "(", "EM", ")", "which", "measures", "the", "exact", "equivalence1007", "Table", "1", ":", "Results", "of", "overall", "evaluation", "on", "GrailQA", "-", "LeaderBoard", "(", "%", ")", "." ]	[ "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O" ]
[ "Overall", "I.I.D", "." ]	[ "O", "O", "O" ]
[ "We", "also", "calculate", "the", "F1", "score", "based", "on", "the", "predicted", "and", "gold", "answers", "." ]	[ "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Baselines", "." ]	[ "O", "O" ]
[ "On", "GrailQA", ",", "we", "mainly", "compare", "with", "the", "published", "works", "on", "the", "leaderboard", ",", "in-", "cluding", "GrailQA", "-", "Rank", "(", "Gu", "et", "al", ".", ",", "2021", ")", ",", "GrailQA-", "Trans", "(", "Gu", "et", "al", ".", ",", "2021", ")", ",", "Retrack", "(", "Chen", "et", "al", ".", ",", "2021", ")", ",", "RNG", "-", "KBQA", "(", "Ye", "et", "al", ".", ",", "2022", ")", "." ]	[ "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "They", "are", "all", "SP-", "based", "models", "that", "target", "generalization", "problems", "in", "KBQA", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O" ]
[ "On", "WebQSP", "and", "CWQ", ",", "we", "compare", "our", "method", "with", "the", "retrieval", "-", "based", "models", "in-", "cluding", "GraphNet", "(", "Pu", "et", "al", ".", ",", "2018", ")", ",", "PullNet", "(", "Sun", "et", "al", ".", ",", "2019", ")", "and", "NSM", "(", "He", "et", "al", ".", ",", "2021b", ")", ",", "and", "the", "SP", "-", "based", "models", "including", "QGG", "(", "Lan", "and", "Jiang", ",", "2020", ")", ",", "RNG", "-", "KBQA", "(", "Ye", "et", "al", ".", ",", "2022", ")", ",", "and", "PI", "Trans-", "fer", "(", "Cao", "et", "al", ".", ",", "2022b", ")", "." ]	[ "O", "B-DatasetName", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "evaluate", "F1", "for", "the", "retrieval", "-", "based", "models", ",", "while", "evaluate", "both", "F1", "and", "EM", "for", "the", "SP", "-", "based", "methods", "." ]	[ "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "compare", "all", "the", "baselines", "that", "have", "the", "results", "on", "the", "two", "datasets", "or", "publish", "the", "codes", "that", "can", "be", "executed", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "5.2", "Overall", "Evaluation", "Performance", "." ]	[ "O", "O", "O", "O", "O" ]
[ "In", "Table", "1", "and", "Table", "2", ",", "we", "eval-", "uate", "the", "performance", "of", "FC", "-", "KBQA", "on", "different", "datasets", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O" ]
[ "For", "the", "baselines", ",", "we", "directly", "take", "their", "results", "reported", "in", "the", "original", "papers", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "To", "be", "noted", ",", "on", "the", "extracted", "zero", "-", "shot", "test", "set", "of", "CWQ", ",", "the", "re-", "sults", "for", "some", "models", "remain", "empty", "because", "their", "full", "codes", "are", "not", "released", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "As", "shown", "in", "Table", "1", ",", "our", "model", "outperforms", "all", "the", "baselines", ",", "especially", "on", "the", "compositional", "and", "zero", "-", "shot", "test", "tasks", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Com-", "pared", "with", "RNG", "-", "KBQA", ",", "the", "state", "-", "of", "-", "the", "-", "art", "pub-", "lished", "model", ",", "we", "have", "an", "absolute", "gain", "of", "4.3", "%", "and", "4.4", "%", "in", "terms", "of", "F1", "score", "and", "EM", "respectively", "." ]	[ "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue", "O", "B-MetricValue", "I-MetricValue", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "B-MetricName", "O", "O" ]
[ "We", "also", "outperform", "on", "the", "extracted", "zero", "-", "shot", "CWQ", "test", "set", "by", "11.3", "%", "in", "terms", "of", "F1", ",", "as", "for", "an", "unseen", "complex", "question", ",", "parsing", "out", "correct", "knowledge", "components", "and", "logical", "skeletons", "is", "much", "easier", "than", "directly", "parsing", "the", "coarse", "-", "grained", "logical", "ex-", "pression", "correctly", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "B-MetricValue", "I-MetricValue", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Since", "the", "fine", "-", "grained", "module", "solely", "focuses", "on", "each", "component", "and", "thus", "leadsTable", "2", ":", "F1", "Evaluation", "on", "WebQSP", "and", "CWQ", "(", "%", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O", "O", "O" ]
[ "On", "the", "original", "test", "set", "of", "CWQ", ",", "we", "only", "under", "-", "perform", "PI", "Transfer", "which", "leverages", "a", "pre", "-", "train", "process", "on", "a", "large", "-", "scale", "wiki", "data", "that", "is", "out", "scope", "of", "CWQ", "." ]	[ "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O" ]
[ "Efficiency", "." ]	[ "O", "O" ]
[ "Both", "RNG", "-", "KBQA", "and", "GrailQA", "-", "Rank", "enumerate", "all", "the", "logical", "expressions", "in", "a", "2", "-", "hop", "KB", "subgraph", "(", "enumeration", ")", ",", "so", "it", "is", "time", "-", "consuming", "for", "the", "rank", "model", "to", "score", "thousands", "of", "logical", "expressions", "for", "each", "question", "(", "candidate", "selection", ")", "." ]	[ "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Conversely", ",", "our", "FC", "-", "KBQA", "just", "retrieves", "the", "most", "relevant", "components", "(", "candidate", "selection", ")", "and", "then", "enumerates", "the", "component", "pairs", "based", "on", "the", "fil-", "tered", "candidates", "(", "enumeration", ")", ",", "which", "greatly", "re-", "duces", "the", "inference", "time", "." ]	[ "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Besides", "enumeration", "and", "candidate", "selection", ",", "a", "seq", "-", "to", "-", "seq", "model", "is", "used", "to", "generate", "the", "final", "logical", "expression", "(", "final", "composi-", "tion", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "In", "the", "same", "24", "GB", "GPU", "and", "Intel", "Gold", "5218", "CPU", ",", "the", "experimental", "results", "in", "Figure", "5", "show", "that", "our", "model", "runs", "4", "times", "faster", "than", "baselines", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "5.3", "Ablation", "Studies", "GrailQA", "does", "not", "provide", "ground", "truth", "for", "the", "test", "set", ",", "so", "we", "conduct", "the", "ablation", "studies", "on", "the", "public", "Grail", "-", "Dev", "to", "investigate", "how", "the", "fine-", "and", "middle-", "grained", "components", "affect", "the", "performance", "." ]	[ "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "As", "shown", "in", "Table", "3", ",", "we", "develop", "four", "model", "variants", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "(", "1", ")", "-Knowledge", "removes", "all", "the", "fine-", "grained", "and", "middle", "-", "grained", "components", "except", "for", "the", "logical", "skeleton", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "(", "2", ")", "-Knowledge", "Pairs", "replaces", "the", "middle", "-", "grained", "components", ",", "such", "as1008", "Table", "3", ":", "Ablation", "studies", "on", "GrailQA", "-", "Dev", "(", "%", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O" ]
[ "Overall", "I.I.D", "." ]	[ "O", "O", "O" ]
[ "“", "Overall", "”", "de-", "notes", "the", "total", "inference", "time", "of", "each", "model", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "only", "keep", "the", "executable", "component", "pairs", "to", "guarantee", "the", "executability", "of", "final", "logical", "expression", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Coarse", "-", "grained", "Component", "Composition", "." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "Fi-", "nally", ",", "a", "seq", "-", "to", "-", "seq", "model", "takes", "the", "concatenation", "of", "the", "question", "and", "the", "reformulated", "components", "as", "input", "to", "generate", "the", "logical", "expression", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "par-", "ticular", ",", "the", "middel", "-", "grained", "components", "are", "injected", "into", "both", "the", "encoder", "and", "the", "decoder", "to", "ensure", "the", "executability", "of", "the", "final", "logical", "expressions", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "4.3", "Fine", "-", "grained", "Component", "Detection", "Relation", "and", "Class", "Extraction", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Taking", "the", "re-", "lation", "extractor", "as", "the", "example", ",", "given", "a", "question", "q", ",", "we", "aim", "to", "extract", "relations", "in", "q", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "First", ",", "we", "apply", "BM25", "(", "Robertson", "et", "al", ".", ",", "2009", ")", "to", "recall", "the", "relation", "candidates", "from", "the", "KB", "based", "on", "the", "surface", "over-", "laps", "between", "relations", "’", "names", "and", "q", "." ]

[ "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Then", "we", "ap-", "ply", "BERT", "(", "Devlin", "et", "al", ".", ",", "2019", ")", "as", "the", "cross", "-", "encoder", "to", "measure", "the", "semantic", "similarity", "between", "qand", "each", "relation", "candidate", "r", "." ]

[ "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "describe", "rusing", "the", "relation", "domain", ",", "the", "relation", "name", ",", "and", "the", "rela-", "tion", "range", "and", "let", "the", "BERT", "input", "be", "“", "[", "CLS", "]", "q", "[", "D", "]", "domain", "(", "r", ")", "[", "N", "]", "name", "(", "r", ")", "[", "R", "]", "range", "(", "r", ")", "[", "SEP", "]", "”", ",", "where", "[", "CLS", "]", ",", "[", "SEP", "]", ",", "[", "D", "]", ",", "[", "N", "]", ",", "and", "[", "R", "]", "are", "the", "special", "to-", "kens", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "better", "distinguish", "the", "spurious", "relations,1005", "Figure", "4", ":", "Overview", "of", "FC", "-", "KBQA", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O" ]

[ "In", "the", "step", "of", "fine", "-", "grained", "component", "detection", ",", "we", "perform", "class", "extraction", ",", "relation", "extraction", ",", "entity", "linking", ",", "and", "logical", "skeleton", "parsing", "to", "obtain", "the", "most", "relevant", "components", "of", "the", "question", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Then", "we", "utilize", "the", "KB", "-", "based", "constraint", "to", "obtain", "middle", "-", "grained", "component", "pairs", "that", "are", "connected", "in", "the", "KB", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Finally", ",", "a", "T5", "-", "based", "seq", "-", "to", "-", "seq", "model", "encodes", "the", "reformulated", "fine", "-", "grained", "and", "middle", "-", "grained", "candidates", "(", "reformulation", "unit", ")", ",", "and", "employs", "a", "controllable", "decoder", "with", "dynamic", "vocabulary", "(", "control", "unit", ")", "to", "generate", "the", "executable", "target", "logical", "expression", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "we", "sample", "the", "relations", "that", "share", "the", "same", "domain", "as", "the", "ground", "-", "truth", "relation", "as", "the", "negatives", "for", "training", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "trained", "model", "is", "used", "to", "retrieve", "the", "set", "of", "top-", "krelations", ",", "denoted", "by", "Rq", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "class", "extractor", "works", "in", "the", "same", "way", "as", "the", "relation", "extractor", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "represent", "the", "class", "using", "its", "name", "and", "domain", ",", "and", "use", "other", "classes", "in", "the", "same", "domain", "as", "negatives", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Cqrepresents", "the", "set", "of", "the", "top-", "krelevant", "classes", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Entity", "Linking", "." ]

[ "O", "O", "O" ]

[ "A", "common", "paradigm", "of", "finding", "topic", "entities", "in", "KBQA", "methods", "is", "to", "first", "leverage", "a", "NER", "tool", "(", "Finkel", "et", "al", ".", ",", "2005", ")", "to", "detect", "mentions", "and", "then", "apply", "an", "entity", "disambiguation", "model", "to", "link", "them", "to", "entities", "in", "KB", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "However", ",", "some", "noun-", "phrase", "mentions", "such", "as", "“", "rich", "media", "”", "are", "hard", "to", "be", "detected", "by", "the", "NER", "tool", ",", "and", "some", "ambiguous", "entities", "could", "not", "be", "distinguished", "by", "the", "pure", "en-", "tity", "names", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "address", "both", "issues", ",", "we", "equip", "the", "NER", "tool1with", "a", "trie", "tree", "-", "based", "mention", "detec-", "tion", "method", "and", "propose", "a", "relation", "-", "aware", "pruning", "method", "to", "filter", "the", "mentions", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Specifically", ",", "we", "build", "a", "trie", "tree", "(", "Fredkin", ",", "1960", ")", "with", "the", "surface", "names", "of", "all", "entities", "in", "the", "KB", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Then", "we", "can", "search", "noun", "phrase", "mentions", "in", "the", "question", "efficiently", "and", "link", "them", "to", "the", "KB", "by", "1We", "follow", "GrailQA", "which", "utilizes", "an", "open", "BERT", "-", "NER", "tool", "on", "GitHub", "(", "https", ":", "/", "/", "github.com", "/", "kamalkraj", "/", "BERT-NER", ")", ".BLINK", "(", "Wu", "et", "al", ".", ",", "2020", ")", "to", "obtain", "the", "correspond-", "ing", "entities", "Eq", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "After", "that", ",", "we", "propose", "a", "relation", "awared", "pruning", "strategy", "to", "prune", "Eqby", "removing", "the", "entities", "that", "could", "not", "link", "to", "any", "relations", "in", "Rq", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Finally", ",", "following", "GrailQA", "(", "Gu", "et", "al", ".", ",", "2021", ")", ",", "we", "choose", "the", "entity", "with", "the", "highest", "popularity", "." ]

[ "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "define", "regular", "expressions", "to", "extract", "literals", "such", "as", "digits", "and", "years", "appearing", "in", "q", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Logical", "Skeleton", "Parsing", "." ]

[ "O", "O", "O", "O" ]

[ "Logical", "skeleton", "pars-", "ing", "aims", "to", "transform", "a", "given", "question", "qinto", "a", "logical", "skeleton", "l", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Because", "the", "logical", "skeleton", "is", "domain", "-", "independent", ",", "the", "parsing", "process", "could", "be", "generalized", "across", "domains", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "adopt", "T5", "(", "Raffel", "et", "al", ".", ",", "2020", ")", ",", "a", "state", "-", "of", "-", "the", "-", "art", "generation", "model", "to", "parse", "logical", "skeletons", "." ]

[ "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Since", "many", "entity", "names", "contain", "tokens", "such", "as", "“", "and", "”", "and", "“", "of", "”", "that", "may", "cause", "the", "logical", "skeleton", "to", "be", "incorrectly", "deter-", "mined", ",", "we", "mask", "each", "mention", "m∈Mqwith", "the", "special", "token", "“", "<", "entity0", ">", "”", ",", "“", "<", "entity1", ">", "”", ",", "...", ",", "in", "order", "of", "appearance", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "example", ",", "we", "change", "“", "Thomas", "was", "the", "designer", "of", "what", "ship", "?", "”", "to", "“", "<", "entity0", ">", "was", "the", "designer", "of", "what", "ship", "?", "”", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "notice", "that", "a", "common", "error", "is", "parsing", "out", "logical", "skeleton", "with", "wrong", "relation", "numbers", ",", "for", "example", "“", "<", "rel", ">", "”", "in-", "stead", "of", "“", "<", "rel", ">", "<", "rel", ">", "”", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Instead", "of", "increasing", "beam", "numbers", ",", "we", "manually", "add", "grammar", "rules", ",", "such", "as", "add", "“", "<", "rel", ">", "<", "rel", ">", "”", "as", "the", "second", "candidate", "when1006", "“", "<", "rel", ">", "”", "is", "T5", "’s", "top-1", "prediction", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]

[ "The", "set", "of", "the", "top-2", "logical", "skeleton", "candidates", "is", "denoted", "as", "Lq", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "4.4", "Middle", "-", "grained", "Component", "Constrain", "After", "deriving", "the", "candidate", "components", "according", "to", "Section", "4.3", ",", "the", "KB", "-", "based", "constraint", "is", "required", "to", "guarantee", "the", "composed", "logical", "expression", "is", "executable", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "A", "straightforward", "idea", "is", "to", "fill", "the", "logical", "skeleton", "with", "candidate", "relations", ",", "classes", ",", "and", "entities", ",", "and", "execute", "them", "one", "by", "one", "to", "check", "executability", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "However", ",", "such", "enumeration", "is", "ineffi-", "cient", ",", "since", "all", "combinations", "of", "candidate", "compo-", "nents", "should", "be", "considered", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Therefore", ",", "we", "incor-", "porate", "the", "middle", "-", "grained", "component", "pairs", "which", "are", "connected", "in", "KB", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Such", "pairs", "can", "be", "produced", "efficiently", "to", "keep", "the", "model", "’s", "efficiency", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "middle", "-", "grained", "component", "pairs", "include", "class", "-", "relation", "pairs", ",", "relation", "-", "relation", "pairs", ",", "and", "relation", "-", "entity", "pairs", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "each", "class", "c∈Cqand", "each", "relation", "r∈Rq", ",", "ifris", "connected", "with", "the", "domain", "class", "c", ",", "we", "add", "(", "c", ",", "r", ")", "into", "the", "class-", "relation", "pair", "set", "Pc−r", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "example", "in", "Figure", "3", ",", "the", "class", "“", "railway.railway", "”", "is", "linked", "with", "the", "re-", "lation", "“", "rail.railway.terminuses", "”", ",", "so", "the", "pair", "(", "rail-", "way.railway", ",", "rail.railway.terminuses", ")", "is", "executable", "and", "will", "be", "added", "into", "Pc−r", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "If", "the", "range", "class", "ofrisc", ",", "we", "add", "the", "pair", "of", "cand", "the", "reverse", "relation", "of", "r", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "construct", "executable", "relation-", "relation", "pair", "set", "Pr−rby", "checking", "each", "relation", "pair", "(", "r1∈Rq", ",", "r2∈Rq", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Ifr2", "’s", "domain", "class", "does", "not", "match", "r1", "’s", "range", "class", ",", "we", "directly", "re-", "move", "this", "pair", "to", "maintain", "efficiency", ",", "otherwise", ",", "we", "reformulate", "(", "r1", ",", "r2", ")", "to", "a", "logical", "expression", "and", "execute", "on", "KB", "to", "check", "its", "connectivity", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "each", "relation", "-", "entity", "pair", "(", "r", ",", "e", ")", ",", "we", "first", "check", "whether", "the", "logical", "skeleton", "candidates", "contain", "the", "<", "entity", ">", "placeholder", "or", "not", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "If", "not", ",", "we", "leave", "Pr−eempty", ";", "otherwise", "we", "directly", "take", "the", "result", "of", "the", "relation-", "pruning", "strategy", "for", "entities", "in", "Section", "4.3", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "4.5", "Coarse", "-", "grained", "Component", "Composition", "We", "apply", "a", "generation", "model", "based", "on", "T5", "to", "com-", "pose", "all", "the", "above", "fine", "-", "grained", "and", "middle", "-", "grained", "component", "candidates", "and", "output", "an", "executable", "logical", "expression", "by", "a", "controlled", "decoder", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Encoding", "Process", "." ]

[ "O", "O", "O" ]

[ "Before", "feeding", "the", "fine-", "grained", "and", "middle", "-", "grained", "component", "candidates", "into", "the", "generator", ",", "we", "sort", "the", "middle", "-", "grained", "can-", "didates", "according", "to", "their", "similarity", "scores", "to", "the", "question", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "By", "doing", "this", ",", "the", "order", "can", "reveal", "the", "pattern", "of", "which", "pair", "is", "more", "likely", "to", "appear", "in", "theground", "-", "truth", "logical", "expression", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "intuition", ",", "such", "a", "pattern", "will", "help", "to", "generate", "more", "accurate", "log-", "ical", "expressions", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "accomplish", "this", ",", "we", "take", "the", "logits", "of", "the", "fine", "-", "grained", "component", "detection", "in", "section", "4.3", "as", "the", "similarity", "score", "between", "the", "ques-", "tion", "and", "each", "class", "/", "relation", "component", ",", "and", "then", "calculate", "the", "similarity", "score", "between", "the", "question", "and", "a", "middle", "-", "grained", "component", "pair", "by", "summing", "the", "scores", "of", "contained", "single", "components", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "encoding", "of", "such", "middle", "-", "grained", "component", "im-", "proves", "the", "generator", "’s", "reasoning", "capacity", "in", "terms", "of", "capturing", "the", "knowledge", "constraints", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "use", "“", ";", "”", "to", "separate", "each", "element", "(", "a", "compo-", "nent", "or", "a", "component", "pair", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "explicitly", "inform", "the", "model", "the", "type", "of", "each", "component", ",", "we", "place", "“", "[", "REL", "]", "”", ",", "“", "[", "CL", "]", "”", ",", "“", "[", "ENT", "]", "”", ",", "and", "“", "[", "LF", "]", "”", "before", "each", "relation", ",", "class", ",", "entity", ",", "and", "logical", "skeleton", "respectively", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "example", ",", "we", "organize", "the", "input", "of", "encoder", "as", "“", "query", ";", "[", "CL", "]", "c1", "[", "REL", "]", "r1", ";", "[", "REL", "]", "r1", "[", "REL", "]", "r2", ";", "[", "CL", "]", "c2", "[", "REL", "]", "r3", ";", "[", "ENT", "]", "e1", ";", "[", "LF", "]", "l1", ";", "[", "LF", "]", "l2", "”", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Decoding", "Process", "." ]

[ "O", "O", "O" ]

[ "The", "middle", "-", "grained", "compo-", "nents", "are", "also", "used", "to", "produce", "a", "dynamic", "vocab-", "ulary", "to", "constrain", "the", "decoding", "process", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "gen-", "erated", "token", "ytis", "confined", "to", "the", "tokens", "involved", "in", "the", "dynamic", "vocabulary", "at", "each", "step", "t", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "ini-", "tialize", "the", "dynamic", "vocabulary", "with", "the", "union", "of", "tokens", "from", "the", "detected", "entities", ",", "tokens", "from", "the", "detected", "classes", "in", "Pc−r", ",", "i.e.", ",", "usually", "the", "answer", "type", ",", "and", "the", "keywords", "such", "as", "“", "JOIN", "”", "in", "logical", "skeleton", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Then", "we", "update", "the", "dynamic", "vocabulary", "by", "the", "relations", "paired", "with", "rinPr−rif", "the", "last", "generated", "component", "is", "ror", "by", "the", "relations", "paired", "withcinPc−rif", "it", "is", "c", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "5", "Experiment", "5.1", "Experimental", "Settings", "Dataset", "." ]

[ "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "evaluate", "our", "method", "on", "GrailQA", "(", "Gu", "et", "al", ".", ",", "2021", ")", ",", "WebQSP", "(", "Yih", "et", "al", ".", ",", "2016", ")", ",", "and", "CWQ", "(", "Talmor", "and", "Berant", ",", "2018", ")", ",", "all", "of", "which", "are", "based", "on", "Freebase", "." ]

[ "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "GrailQA", "focuses", "on", "generaliza-", "tion", "problems", "which", "involved", "up", "to", "4", "-", "hop", "logical", "expressions", "and", "complex", "operations", "." ]

[ "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "WebQSP", "is", "an", "i.i.d", "." ]

[ "B-DatasetName", "O", "O", "O", "O" ]

[ "benchmark", "that", "required", "2", "-", "hop", "reasoning", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Although", "CWQ", "is", "not", "designed", "to", "solve", "generaliza-", "tion", "problem", ",", "we", "can", "still", "separate", "out", "the", "zero", "-", "shot", "test", "set", "with", "all", "the", "unseen", "relations", "and", "classes", ",", "yielding", "576", "/", "3519", "zero", "-", "shot", "/", "all", "test", "set", "." ]

[ "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Evaluation", "Metrics", "." ]

[ "O", "O", "O" ]

[ "To", "measure", "the", "accuracy", "of", "logical", "expression", ",", "we", "use", "the", "well", "-", "adopted", "exact", "match", "(", "EM", ")", "which", "measures", "the", "exact", "equivalence1007", "Table", "1", ":", "Results", "of", "overall", "evaluation", "on", "GrailQA", "-", "LeaderBoard", "(", "%", ")", "." ]

[ "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O" ]

[ "Overall", "I.I.D", "." ]

[ "O", "O", "O" ]

[ "We", "also", "calculate", "the", "F1", "score", "based", "on", "the", "predicted", "and", "gold", "answers", "." ]

[ "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Baselines", "." ]

[ "O", "O" ]

[ "On", "GrailQA", ",", "we", "mainly", "compare", "with", "the", "published", "works", "on", "the", "leaderboard", ",", "in-", "cluding", "GrailQA", "-", "Rank", "(", "Gu", "et", "al", ".", ",", "2021", ")", ",", "GrailQA-", "Trans", "(", "Gu", "et", "al", ".", ",", "2021", ")", ",", "Retrack", "(", "Chen", "et", "al", ".", ",", "2021", ")", ",", "RNG", "-", "KBQA", "(", "Ye", "et", "al", ".", ",", "2022", ")", "." ]

[ "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "They", "are", "all", "SP-", "based", "models", "that", "target", "generalization", "problems", "in", "KBQA", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O" ]

[ "On", "WebQSP", "and", "CWQ", ",", "we", "compare", "our", "method", "with", "the", "retrieval", "-", "based", "models", "in-", "cluding", "GraphNet", "(", "Pu", "et", "al", ".", ",", "2018", ")", ",", "PullNet", "(", "Sun", "et", "al", ".", ",", "2019", ")", "and", "NSM", "(", "He", "et", "al", ".", ",", "2021b", ")", ",", "and", "the", "SP", "-", "based", "models", "including", "QGG", "(", "Lan", "and", "Jiang", ",", "2020", ")", ",", "RNG", "-", "KBQA", "(", "Ye", "et", "al", ".", ",", "2022", ")", ",", "and", "PI", "Trans-", "fer", "(", "Cao", "et", "al", ".", ",", "2022b", ")", "." ]

[ "O", "B-DatasetName", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "evaluate", "F1", "for", "the", "retrieval", "-", "based", "models", ",", "while", "evaluate", "both", "F1", "and", "EM", "for", "the", "SP", "-", "based", "methods", "." ]

[ "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "compare", "all", "the", "baselines", "that", "have", "the", "results", "on", "the", "two", "datasets", "or", "publish", "the", "codes", "that", "can", "be", "executed", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "5.2", "Overall", "Evaluation", "Performance", "." ]

[ "O", "O", "O", "O", "O" ]

[ "In", "Table", "1", "and", "Table", "2", ",", "we", "eval-", "uate", "the", "performance", "of", "FC", "-", "KBQA", "on", "different", "datasets", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O" ]

[ "For", "the", "baselines", ",", "we", "directly", "take", "their", "results", "reported", "in", "the", "original", "papers", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "be", "noted", ",", "on", "the", "extracted", "zero", "-", "shot", "test", "set", "of", "CWQ", ",", "the", "re-", "sults", "for", "some", "models", "remain", "empty", "because", "their", "full", "codes", "are", "not", "released", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "shown", "in", "Table", "1", ",", "our", "model", "outperforms", "all", "the", "baselines", ",", "especially", "on", "the", "compositional", "and", "zero", "-", "shot", "test", "tasks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Com-", "pared", "with", "RNG", "-", "KBQA", ",", "the", "state", "-", "of", "-", "the", "-", "art", "pub-", "lished", "model", ",", "we", "have", "an", "absolute", "gain", "of", "4.3", "%", "and", "4.4", "%", "in", "terms", "of", "F1", "score", "and", "EM", "respectively", "." ]

[ "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue", "O", "B-MetricValue", "I-MetricValue", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "B-MetricName", "O", "O" ]

[ "We", "also", "outperform", "on", "the", "extracted", "zero", "-", "shot", "CWQ", "test", "set", "by", "11.3", "%", "in", "terms", "of", "F1", ",", "as", "for", "an", "unseen", "complex", "question", ",", "parsing", "out", "correct", "knowledge", "components", "and", "logical", "skeletons", "is", "much", "easier", "than", "directly", "parsing", "the", "coarse", "-", "grained", "logical", "ex-", "pression", "correctly", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "B-MetricValue", "I-MetricValue", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Since", "the", "fine", "-", "grained", "module", "solely", "focuses", "on", "each", "component", "and", "thus", "leadsTable", "2", ":", "F1", "Evaluation", "on", "WebQSP", "and", "CWQ", "(", "%", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O", "O", "O" ]

[ "On", "the", "original", "test", "set", "of", "CWQ", ",", "we", "only", "under", "-", "perform", "PI", "Transfer", "which", "leverages", "a", "pre", "-", "train", "process", "on", "a", "large", "-", "scale", "wiki", "data", "that", "is", "out", "scope", "of", "CWQ", "." ]

[ "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O" ]

[ "Efficiency", "." ]

[ "O", "O" ]

[ "Both", "RNG", "-", "KBQA", "and", "GrailQA", "-", "Rank", "enumerate", "all", "the", "logical", "expressions", "in", "a", "2", "-", "hop", "KB", "subgraph", "(", "enumeration", ")", ",", "so", "it", "is", "time", "-", "consuming", "for", "the", "rank", "model", "to", "score", "thousands", "of", "logical", "expressions", "for", "each", "question", "(", "candidate", "selection", ")", "." ]

[ "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Conversely", ",", "our", "FC", "-", "KBQA", "just", "retrieves", "the", "most", "relevant", "components", "(", "candidate", "selection", ")", "and", "then", "enumerates", "the", "component", "pairs", "based", "on", "the", "fil-", "tered", "candidates", "(", "enumeration", ")", ",", "which", "greatly", "re-", "duces", "the", "inference", "time", "." ]

[ "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Besides", "enumeration", "and", "candidate", "selection", ",", "a", "seq", "-", "to", "-", "seq", "model", "is", "used", "to", "generate", "the", "final", "logical", "expression", "(", "final", "composi-", "tion", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "the", "same", "24", "GB", "GPU", "and", "Intel", "Gold", "5218", "CPU", ",", "the", "experimental", "results", "in", "Figure", "5", "show", "that", "our", "model", "runs", "4", "times", "faster", "than", "baselines", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "5.3", "Ablation", "Studies", "GrailQA", "does", "not", "provide", "ground", "truth", "for", "the", "test", "set", ",", "so", "we", "conduct", "the", "ablation", "studies", "on", "the", "public", "Grail", "-", "Dev", "to", "investigate", "how", "the", "fine-", "and", "middle-", "grained", "components", "affect", "the", "performance", "." ]

[ "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "shown", "in", "Table", "3", ",", "we", "develop", "four", "model", "variants", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "1", ")", "-Knowledge", "removes", "all", "the", "fine-", "grained", "and", "middle", "-", "grained", "components", "except", "for", "the", "logical", "skeleton", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2", ")", "-Knowledge", "Pairs", "replaces", "the", "middle", "-", "grained", "components", ",", "such", "as1008", "Table", "3", ":", "Ablation", "studies", "on", "GrailQA", "-", "Dev", "(", "%", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O" ]

[ "Overall", "I.I.D", "." ]

[ "O", "O", "O" ]

[ "“", "Overall", "”", "de-", "notes", "the", "total", "inference", "time", "of", "each", "model", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]