Datasets:

---

anlp

/

anno1_w_elimination

like 0

Follow

anlp team project 4

[ "(", "2019", ")", "for", "our", "experiments", ".", "However", ",", "we", "note", "that", "our", "methods", "are", "general", "and", "applicable", "for", "all", "models", ".", "3.2", "Results", "3.2.1", "REToP", "Table", "1", "shows", "the", "post", "-", "abstention", "performance", "of", "REToP", "for", "selected", "abstention", "thresholds", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O" ]

[ "The", "last", "column", "(", "‘", "Total", "Risk", "Improvement", "’", ")", "in", "this", "ta-", "ble", "corresponds", "to", "the", "overall", "improvement", "aggre-", "gated", "over", "all", "confidence", "thresholds", "." ]

[ "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O" ]

[ "It", "can", "be", "observed", "that", "REToP", "achieves", "considerable", "risk", "improvements", "both", "in", "the", "in", "-", "domain", "setting", "(", "21.81", "on", "SQuAD", ")", "and", "the", "out", "-", "of", "-", "domain", "settings", "(", "24.23", "on", "TextbookQA", ",", "21.54on", "HotpotQA", ",", "20.42on", "RE", ",", "etc", ")", "." ]

[ "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "B-DatasetName", "O", "B-MetricValue", "B-DatasetName", "O", "B-MetricValue", "B-DatasetName", "O", "O", "O", "O" ]

[ "Next", ",", "we", "analyze", "these", "results", "in", "detail", ".", "Higher", "improvement", "on", "moderate", "confidences", ":", "In", "Figure", "4", ",", "we", "plot", "risk", "improvements", "achieved", "by", "REToP", "on", "SQuAD", "(", "in", "-", "domain", ")", "and", "HotpotQA", "(", "out", "-", "of", "-", "domain", ")", "datasets", "for", "all", "confidence", "thresh-", "olds", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "B-MethodName", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O" ]

[ "The", "QA", "model", "is", "trained", "using", "SQuAD", "training", "data", "and", "evaluated", "on", "SQuAD", "(", "in", "-", "domain", ")", "and", "10", "out", "-", "of", "-", "domain", "datasets", "." ]

[ "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "each", "dataset", ",", "we", "provide", "three", "rows", ":", "first", "row", "(", "‘", "Given", "’", ")", "shows", "the", "coverage", "and", "risk", "values", "of", "the", "given", "selective", "prediction", "system", "at", "different", "abstention", "thresholds", ",", "second", "row", "(", "‘", "REToP", "’", ")", "shows", "the", "coverage", "and", "risk", "after", "applying", "REToP", "on", "abstained", "instances", "of", "the", "given", "system", ",", "and", "third", "row", "(", "‘", "G", "@", "REToP", "cov", "’", ")", "shows", "risk", "of", "the", "given", "system", "at", "the", "coverage", "achieved", "by", "REToP", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O" ]

[ "For", "the", "post", "abstention", "method", "to", "be", "effective", ",", "risk", "in", "the", "second", "row", "should", "be", "less", "than", "that", "in", "the", "third", "row", "and", "the", "magnitude", "of", "difference", "corresponds", "to", "the", "improvement", "." ]

[ "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "last", "column", "corresponds", "to", "the", "overall", "improvement", "aggregated", "over", "all", "confidences", "ranging", "from", "0", "to", "1", "at", "an", "interval", "of", "0.02.↓and↑indicate", "that", "lower", "(", "risk", ")", "and", "higher", "(", "coverage", ",", "risk", "improvement", ")", "values", "are", "better", "respectively", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "B-HyperparameterValue", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "more", "on", "moderate", "thresholds", "as", "compared", "to", "low", "thresholds", ".", "We", "attribute", "this", "to", "the", "high", "difficulty", "of", "instances", "that", "remain", "to", "be", "re", "-", "attempted", "at", "low", "thresholds", "i.e", ".", "only", "the", "instances", "on", "which", "the", "given", "system", "was", "highly", "underconfident", "are", "left", "for", "the", "post", "-", "abstention", "method", ".", "It", "has", "been", "shown", "that", "model", "’s", "confidence", "is", "negatively", "correlated", "with", "difficulty", "(", "Swayamdipta", "et", "al", ".", ",", "2020", ";", "Rodriguez", "et", "al", ".", ",", "2021", ";", "Varshney", "et", "al", ".", ",", "2022b", ")", "implying", "that", "the", "remaining", "instances", "are", "tough", "to", "be", "answered", "correctly", ".", "This", "justifies", "the", "lesser", "improvement", "in", "performance", "observed", "at", "low", "thresholds", ".", "In", "-", "Domain", "vs", "Out", "-", "of", "-", "Domain", "Improvement", ":", "REToP", "achieves", "higher", "performance", "improvement", "on", "the", "in", "-", "domain", "dataset", "than", "the", "out", "-", "of", "-", "domain", "datasets", "(", "on", "average", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "is", "expected", "as", "the", "auxil-", "Figure", "4", ":", "Improvement", "in", "risk", "achieved", "by", "using", "RE-", "ToP", "in", "post", "-", "abstention", "on", "SQuAD", "(", "in", "-", "domain", ")", "and", "Hot-", "potQA", "(", "out", "-", "of", "-", "domain", ")", "datasets", "for", "all", "confidences", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "iary", "model", "in", "REToP", "is", "trained", "using", "the", "in", "-", "domain", "training", "data", "." ]

[ "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "However", ",", "it", "still", "has", "good", "perfor-", "mance", "on", "out", "-", "of", "-", "domain", "datasets", "as", "the", "auxiliary", "model", "learns", "fine", "-", "grained", "representations", "to", "dis-", "tinguish", "between", "correct", "and", "incorrect", "predictions", ".", "Furthermore", ",", "the", "improvement", "on", "out", "-", "of", "-", "domain972", "Dataset", "Ens", ".", "*", "for", "HI", "indicates", "that", "it", "’s", "results", "are", "not", "directly", "comparable", "as", "it", "outputs", "multiple", "predictions", "while", "others", "output", "only", "one", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "data", "varies", "greatly", "across", "datasets", "(", "from", "0.7", "on", "TriviaQA", "to", "24.23", "on", "TextbookQA", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "B-DatasetName", "O", "B-MetricValue", "O", "B-DatasetName", "O", "O" ]

[ "3.2.2", "Comparing", "Post", "-", "Abstention", "Approaches", "We", "provide", "the", "performance", "tables", "for", "other", "post-", "abstention", "approaches", "in", "Appendix", "." ]

[ "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "However", ",", "we", "compare", "their", "total", "risk", "improvement", "values", "in", "Table", "2", "." ]

[ "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O" ]

[ "In", "the", "in", "-", "domain", "setting", ",", "REToP", "achieves", "higher", "improvement", "than", "Ensembling", "method", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O" ]

[ "This", "is", "because", "the", "auxiliary", "model", "in", "RE-", "ToP", "has", "specifically", "learned", "to", "distinguish", "the", "cor-", "rect", "and", "incorrect", "predictions", "from", "the", "training", "data", "of", "this", "domain", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "However", ",", "in", "some", "out", "-", "of", "-", "domain", "cases", ",", "Ensembling", "outperforms", "REToP", "(", "SearchQA", ",", "TriviaQA", ",", "NewsQA", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-DatasetName", "O", "B-DatasetName", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O" ]

[ "Overall", ",", "REToP", "leads", "to", "a", "consistent", "and", "higher", "risk", "improvement", "on", "average", "." ]

[ "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O" ]

[ "Ensembling", "also", "leads", "to", "a", "minor", "degradation", "in", "a", "few", "out", "-", "of", "-", "domain", "datasets", "(", "DuoRC", "and", "Text-", "bookQA", ")", "." ]

[ "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "I-DatasetName", "O", "O" ]

[ "Next", ",", "we", "analyze", "the", "performance", "of", "human", "intervention", "(", "HI", ")", "methods", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O", "O" ]

[ "3.2.3", "Human", "Intervention", "(", "HI", ")", "We", "study", "two", "variants", "of", "HI", "method", ".", "In", "the", "first", "variant", ",", "multiple", "predictions", "(", "n=2", ")", "are", "returned", "for", "all", "the", "abstained", "instances", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "makes", "the", "cover-", "age", "to", "be", "100", "%", "for", "all", "the", "confidences", ";", "therefore", ",", "we", "present", "only", "the", "risk", "values", "in", "Table", "3", "." ]

[ "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "B-MetricValue", "I-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O" ]

[ "As", "ex-", "pected", ",", "with", "increase", "in", "abstention", "threshold", ",", "the", "risk", "decreases", "because", "multiple", "predictions", "get", "out-", "putted", "for", "a", "larger", "number", "of", "instances", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Selection", "of", "operating", "threshold", "for", "an", "application", "depends", "on", "the", "trade", "-", "off", "between", "risk", "that", "can", "be", "tolerated", "and", "human", "effort", "required", "to", "select", "the", "most", "suit-", "able", "prediction", "from", "a", "set", "of", "predictions", "returned", "by", "the", "system", ".", "be", "selected", "for", "tolerant", "applications", "like", "movie", "rec-", "ommendations", "and", "a", "high", "threshold", "for", "tolerant", "applications", "like", "house", "robots", ".", "In", "the", "second", "variant", "of", "HI", "method", ",", "we", "study", "aREToP", "-", "centric", "approach", "in", "which", "the", "system", "returns", "multiple", "predictions", "only", "when", "REToP", "surpasses", "the", "confidence", "threshold", "in", "the", "post-", "abstention", "stage", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O" ]

[ "The", "last", "column", "in", "Table", "2", "shows", "the", "risk", "improvements", "achieved", "by", "this", "approach", "(", "n=2", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O" ]

[ "Note", "that", "REToP", "re", "-", "examines", "the", "top", "N", "pre-", "dictions", "and", "selects", "one", "while", "this", "method", "outputs", "multiple", "predictions", "and", "requires", "a", "human", "to", "select", "the", "most", "suitable", "one", "." ]

[ "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "These", "results", "indicate", "that", "though", "REToP", "achieves", "good", "performance", ",", "there", "is", "still", "some", "room", "for", "improvement", "." ]

[ "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "3.2.4", "Ensembling", "Using", "Paraphrases", "Comparing", "the", "performance", "of", "Mean", "and", "Max", "En-", "sembling", "strategies", "reveals", "that", "Max", "increases", "the", "coverage", "more", "than", "the", "Mean", "strategy", "but", "it", "also", "in-", "creases", "the", "risk", "considerably", "." ]

[ "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O" ]

[ "Thus", ",", "pushing", "the", "in-", "stance", "’s", "confidence", "to", "surpass", "the", "abstention", "thresh-", "old", "fails", "to", "provide", "risk", "improvements", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "B-MetricName", "I-MetricName", "O" ]

[ "However", ",", "such", "a", "technique", "could", "be", "employed", "in", "scenarios", "where", "risk", "degradation", "can", "be", "tolerated", ".", "4", "Analysis", "What", "is", "the", "distribution", "of", "model", "’s", "original", "con-", "fidence", "on", "the", "instances", "that", "get", "answered", "after", "applying", "post", "-", "abstention", "method", "?", "In", "Figure", "5", ",", "we", "show", "the", "distribution", "of", "model", "’s", "original", "con-", "fidence", "on", "SQuAD", "instances", "that", "get", "answered", "by", "REToP", "at", "abstention", "threshold", "0.5", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue", "O" ]

[ "Green", "-", "colored", "bars", "represent", "the", "number", "of", "instances", "answered", "from", "each", "confidence", "bucket", ".", "We", "found", "that", "REToP", "answers", "a", "large", "number", "of", "instances", "from", "the", "high973", "Figure", "5", ":", "Distribution", "of", "QA", "model", "’s", "confidence", "on", "SQuAD", "instances", "that", "get", "answered", "after", "applying", "RE-", "ToP", "at", "abstention", "threshold", "0.5", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue", "O" ]

[ "confidence", "buckets", ";", "however", ",", "instances", "from", "even", "low", "confidence", "buckets", "get", "answered", ".", "This", "can", "fur-", "ther", "be", "controlled", "using", "the", "weight", "parameter", "(", "α", ")", "in", "the", "overall", "confidence", "computation", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O" ]

[ "How", "often", "do", "the", "system", "’s", "predictions", "change", "after", "applying", "REToP", "and", "what", "is", "its", "impact", "?" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O" ]

[ "REToP", "can", "either", "boost", "the", "confidence", "of", "the", "top", "most", "prediction", "of", "the", "given", "model", "or", "can", "select", "a", "different", "answer", "by", "re", "-", "examining", "its", "top", "N", "pre-", "dictions", "." ]

[ "B-MethodName", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "Figure", "6", ",", "we", "specifically", "analyze", "the", "latter", "scenario", "i.e", ".", "the", "instances", "on", "which", "REToP", "’s", "prediction", "differs", "from", "the", "original", "model", "’s", "pre-", "diction", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "At", "a", "threshold", "of", "0.5", ",", "the", "original", "system", "abstains", "on", "3411", "SQuAD", "instances", "and", "after", "ap-", "plying", "REToP", ",", "it", "answers", "1110", "of", "those", "instances", "." ]

[ "O", "O", "B-HyperparameterName", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Out", "of", "these", "1110", "instances", ",", "the", "REToP", "changes", "the", "prediction", "on", "186instances", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O" ]

[ "The", "original", "pre-", "diction", "is", "incorrect", "in", "more", "cases", "(", "99vs87", ")", "and", "after", "applying", "REToP", ",", "the", "system", "gives", "116correct", "predictions", "and", "only", "70incorrect", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "implies", "that", "by", "overriding", "the", "original", "system", "’s", "prediction", ",", "RE-", "ToP", "improves", "the", "system", "’s", "accuracy", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "B-MetricName", "O" ]

[ "To", "what", "extent", "do", "the", "instances", "answered", "by", "different", "post", "-", "abstention", "methods", "overlap", "?", "In", "Figure", "7", ",", "we", "demonstrate", "the", "Venn", "diagram", "of", "SQuAD", "instances", "answered", "by", "REToP", "and", "Ensem-", "bling", "(", "Mean", ")", "approaches", "at", "abstention", "threshold", "0.5", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue", "O" ]

[ "REToP", "answers", "1110", "instances", "while", "Ensem-", "bling", "answers", "277and", "there", "127common", "instances", "between", "the", "two", "approaches", "." ]

[ "B-MethodName", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "indicates", "that", "the", "two", "sets", "are", "not", "mutually", "exclusive", "i.e", ".", "there", "are", "some", "instances", "that", "get", "targeted", "by", "both", "the", "ap-", "Figure", "6", ":", "Number", "of", "correct", "(", "green", ")", "and", "incorrect", "(", "red", ")", "predictions", "on", "those", "abstained", "SQuAD", "instances", "where", "REToP", "surpasses", "the", "abstention", "threshold", "of", "0.5", "but", "its", "prediction", "differs", "from", "the", "original", "system", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "B-MethodName", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Figure", "7", ":", "Venn", "diagram", "of", "abstained", "SQuAD", "in-", "stances", "answered", "by", "REToP", "and", "Ensembling", "(", "Mean", ")", "approaches", "at", "abstention", "threshold", "0.5", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "B-HyperparameterName", "B-HyperparameterValue", "O" ]

[ "proaches", ";", "however", ",", "there", "are", "a", "significant", "number", "of", "instances", "that", "are", "not", "in", "the", "intersection", ".", "This", "result", "motivates", "studying", "composite", "or", "sequential", "application", "of", "different", "post", "-", "abstention", "methods", "to", "further", "improve", "the", "post", "-", "abstention", "performance", ".", "5", "Conclusion", "and", "Discussion", "In", "this", "work", ",", "we", "formulated", "‘", "Post", "-", "Abstention", "’", ",", "a", "task", "that", "allows", "re", "-", "attempting", "the", "abstained", "in-", "stances", "of", "the", "given", "selective", "prediction", "system", "with", "the", "aim", "of", "increasing", "its", "coverage", "without", "significantly", "sacrificing", "the", "accuracy", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "also", "explored", "several", "baseline", "methods", "for", "this", "task", ".", "Through", "comprehensive", "experiments", "on", "11QA", "datasets", ",", "we", "showed", "that", "these", "methods", "lead", "to", "considerable", "performance", "improvements", "in", "both", "in", "-", "domain", "and", "out", "-", "of", "-", "domain", "settings", ".", "We", "further", "performed", "a", "thorough", "analysis", "that", "resulted", "in", "sev-", "eral", "interesting", "findings", ".", "Looking", "forward", ",", "we", "believe", "that", "our", "work", "opens", "up", "several", "avenues", "for", "new", "research", ",", "such", "as", "explor-", "ingtest", "-", "time", "adaptation", ",", "knowledge", "hunting", ",", "and", "other", "human", "intervention", "techniques", "like", "asking", "clarification", "questions", "as", "post", "-", "abstention", "methods", "(", "discussed", "in", "Appendix", "D", ")", ".", "Studying", "the", "impact", "of", "composite", "or", "sequential", "application", "of", "multi-", "ple", "post", "-", "abstention", "methods", "in", "another", "promising", "direction", ".", "Furthermore", ",", "prior", "selective", "prediction974", "methods", "can", "also", "be", "repurposed", "and", "explored", "for", "this", "task", ".", "We", "plan", "to", "pursue", "these", "crucial", "research", "directions", "in", "our", "future", "work", ".", "Finally", ",", "we", "hope", "our", "work", "will", "encourage", "further", "research", "in", "this", "impor-", "tant", "area", "and", "facilitate", "the", "development", "of", "more", "reliable", "NLP", "systems", ".", "Limitations", "The", "proposed", "post", "-", "abstention", "methods", "require", "ad-", "ditional", "computation", "and", "storage", ".", "Despite", "this", "addi-", "tional", "requirement", ",", "we", "note", "that", "this", "is", "not", "a", "serious", "concern", "as", "current", "devices", "have", "high", "storage", "capac-", "ity", "and", "computation", "hardware", ".", "Furthermore", ",", "addi-", "tional", "computation", "for", "training", "auxiliary", "model", "in", "REToP", "is", "required", "only", "once", "and", "just", "an", "inference", "is", "required", "at", "evaluation", "time", "which", "has", "a", "much", "lower", "computation", "cost", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Moreover", ",", "the", "risk", "mitiga-", "tion", "that", "comes", "with", "the", "post", "-", "abstention", "methods", "weighs", "much", "more", "than", "the", "computational", "or", "stor-", "age", "overhead", "in", "terms", "of", "importance", ".", "Secondly", ",", "human", "-", "intervention", "techniques", "require", "a", "human", "to", "be", "a", "participant", "and", "contribute", "in", "the", "answering", "process", ".", "However", ",", "these", "approaches", "do", "not", "ex-", "pect", "the", "participating", "human", "to", "be", "an", "expert", "in", "the", "task", ".", "Like", "other", "empirical", "research", ",", "it", "is", "difficult", "to", "exactly", "predict", "the", "magnitude", "of", "improvement", "a", "post", "-", "abstention", "method", "can", "bring", ".", "Our", "idea", "of", "exploring", "sequential", "application", "of", "multiple", "post-", "abstention", "methods", "addresses", "this", "concern", "and", "can", "be", "used", "based", "on", "the", "application", "requirements", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "983–1001", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for", "Computational", "Linguistics", "UniLG", ":", "A", "Unified", "Structure", "-", "aware", "Framework", "for", "Lyrics", "Generation", "Tao", "Qian1,2", ",", "Fan", "Lou2", ",", "Jiatong", "Shi3", ",", "Yuning", "Wu1", ",", "Shuai", "Guo1", ",", "Xiang", "Yin2", ",", "Qin", "Jin1∗", "1Renmin", "University", "of", "China", ",", "P.R.China", "2ByteDance", "AI", "Lab", "3Carnegie", "Mellon", "University", ",", "U.S.A", "{", "qiantao", ",", "yuningwu", ",", "shuaiguo", ",", "qjin", "}", "@", "ruc.edu.cn", ",", "tianzhong.t", ",", "yinxiang.stephen", "}", "@", "bytedance.com", ",", "jiatongs", "@", "cs.cmu.edu", "Abstract", "As", "a", "special", "task", "of", "natural", "language", "gener-", "ation", ",", "conditional", "lyrics", "generation", "needs", "to", "consider", "the", "structure", "of", "generated", "lyrics1and", "the", "relationship", "between", "lyrics", "and", "music", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Due", "to", "various", "forms", "of", "conditions", ",", "a", "lyrics", "gen-", "eration", "system", "is", "expected", "to", "generate", "lyrics", "conditioned", "on", "different", "signals", ",", "such", "as", "music", "scores", ",", "music", "audio", ",", "or", "partially", "-", "finished", "lyrics", ",", "etc", ".", "However", ",", "most", "of", "the", "previous", "works", "have", "ignored", "the", "musical", "attributes", "hidden", "behind", "the", "lyrics", "and", "the", "structure", "of", "the", "lyrics", ".", "Addi-", "tionally", ",", "most", "works", "only", "handle", "limited", "lyrics", "generation", "conditions", ",", "such", "as", "lyrics", "genera-", "tion", "based", "on", "music", "score", "or", "partial", "lyrics", ",", "they", "can", "not", "be", "easily", "extended", "to", "other", "generation", "conditions", "with", "the", "same", "framework", ".", "In", "this", "pa-", "per", ",", "we", "propose", "a", "unified", "structure", "-", "aware", "lyrics", "generation", "framework", "named", "UniLG", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O" ]

[ "Specif-", "ically", ",", "we", "design", "compound", "templates", "that", "in-", "corporate", "textual", "and", "musical", "information", "to", "improve", "structure", "modeling", "and", "unify", "the", "dif-", "ferent", "lyrics", "generation", "conditions", ".", "Extensive", "experiments", "demonstrate", "the", "effectiveness", "of", "our", "framework", ".", "Both", "objective", "and", "subjective", "evaluations", "show", "significant", "improvements", "in", "generating", "structural", "lyrics", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O" ]

[ "1", "Introduction", "Great", "progress", "has", "been", "made", "in", "natural", "language", "generation", "(", "NLG", ")", "with", "pre", "-", "trained", "language", "mod-", "els", "in", "recent", "years", "(", "Lewis", "et", "al", ".", ",", "2020", ";", "Radford", "et", "al", ".", ",", "2019", ";", "Brown", "et", "al", ".", ",", "2020", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Lyrics", "gener-", "ation", "is", "also", "a", "special", "task", "of", "NLG", "(", "Chen", "and", "Lerch", ",", "2020", ";", "Gill", "et", "al", ".", ",", "2020", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Different", "from", "gen-", "eral", "natural", "language", ",", "lyrics", "eventually", "need", "to", "be", "presented", "with", "music", "after", "the", "composition", ".", "This", "requires", "the", "lyrics", "to", "follow", "song", "-", "writing", "rules", "(", "i.e.", ",", "the", "structure", "of", "lyrics", ")", ",", "such", "as", "clear", "paragraphs", "with", "chorus", "and", "verse", "concepts", ".", "However", ",", "most", "∗*Corresponding", "Author", ".", "1The", "structure", "of", "lyrics", "in", "our", "work", "means", "that", "lyrics", "have", "the", "chorus", "and", "verse", "parts", "among", "the", "sentences", ".", "Figure", "1", ":", "Example", "chorus", "parts", "of", "a", "song", ".", "We", "use", "different", "colors", "for", "different", "beats2within", "the", "bar3and", "rhythm", "patterns", "are", "shown", "in", "4", "/", "4", "time", "signatures4", ".", "The", "same", "melody", "and", "rhythm", "pattern", "may", "repeat", "several", "times", "when", "meeting", "the", "chorus", "parts", "of", "the", "song", ".", "The", "melody", "and", "rhythm", "patterns", "can", "hint", "the", "correspondences", "between", "lyric", "sentences", ",", "e.g", ".", "the", "same", "or", "similar", "sentences", ".", "previous", "works", "ignore", "the", "musical", "concepts", "be-", "hind", "the", "lyrics", "and", "do", "not", "consider", "the", "structure", "of", "lyrics", "(", "Sheng", "et", "al", ".", ",", "2021", ";", "Qian", "et", "al", ".", ",", "2022", ")", ".", "To", "explicitly", "model", "the", "structure", "of", "lyrics", ",", "some", "works", "introduce", "additional", "structural", "labels", "(", "e.g.", ",", "sentence", "-", "level", "chorus", "and", "verse", "label", ")", ",", "which", "in-", "evitably", "require", "much", "effort", "for", "additional", "human", "annotation", "(", "Potash", "et", "al", ".", ",", "2015", ";", "Lu", "et", "al", ".", ",", "2019", ")", ".", "To", "avoid", "the", "huge", "annotation", "cost", ",", "other", "works", "either", "adopt", "predefined", "formats", "(", "e.g.", ",", "the", "number", "of", "sylla-", "bles", "in", "each", "sentence", ")", "or", "linguistic", "tags", "(", "e.g.", ",", "PoS", ",", "Part", "-", "of", "-", "Speech", ")", "to", "inject", "structural", "information", "(", "Li", "et", "al", ".", ",", "2020", ";", "Castro", "and", "Attarian", ",", "2018", ")", ".", "Never-", "theless", ",", "given", "that", "those", "methods", "can", "not", "directly", "indicate", "the", "structure", "of", "lyrics", ",", "the", "generated", "lyrics", "are", "still", "difficult", "to", "realize", "the", "musical", "concepts", "(", "e.g.", ",", "chorus", "and", "verse", ")", ".", "Moreover", ",", "most", "works", "only", "focus", "on", "certain", "lyrics", "generation", "conditions", ",", "such", "as", "generating", "lyrics", "given", "music", "scores", "or", "partially", "-", "finished", "lyrics", "etc", ".", ",", "which", "hinders", "the", "ap-", "plication", "of", "a", "lyrics", "generation", "model", "in", "various", "scenarios", ".", "To", "mitigate", "the", "issues", "in", "previous", "works", ",", "we", "propose", "a", "unified", "structure", "-", "aware", "lyrics", "genera-", "2https", ":", "/", "/", "en.wikipedia.org", "/", "wiki", "/", "Beat_", "(", "music", ")", "3https", ":", "/", "/", "en.wikipedia.org", "/", "wiki", "/", "Bar_", "(", "music", ")", "44", "/", "4", "denotes", "that", "each", "beat", "is", "a", "1", "/", "4", "note", "and", "each", "bar", "has", "4", "beats", ".", "To", "simplify", "the", "description", ",", "we", "state", "our", "method", "with", "a", "4", "/", "4", "time", "signature", ",", "for", "it", "’s", "widely", "used", "in", "songwriting", ".", "The", "English", "version", "is", "provided", "in", "Appendix", "I", "due", "to", "space", "issues.983", "{", "𝑏", "!", ",", "𝑏", "\"", ",", "…", ",", "𝑏", "#", "}", "BeatMusic", "Score", "LyricPolished", "LyricMusic", "Score", "with", "Lyric", "Audio", "Audio", "with", "Lyric", "爱真的需要勇气来面对流言蜚语", "…", "…", "…", "…", "LyricUniLG", "(", "Masked", ")", "LyricBarBeatSegmentIntro", "-", "positionCompoundTemplateM", "/", "LA", "B", "S", "P", "=", "+", "+", "+", "+", "Figure", "2", ":", "A", "general", "overview", "of", "our", "proposed", "framework", ".", "UniLG", "establishes", "relationships", "between", "various", "inputs", "and", "lyrics", "with", "the", "compound", "template", ",", "which", "enable", "our", "frame-", "work", "to", "generate", "lyrics", "conditioned", "on", "different", "signals", "(", "e.g.", ",", "audio", ",", "music", "score", ",", "etc", ".", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "tion", "framework", "named", "UniLG", "." ]

[ "O", "O", "O", "B-MethodName", "O" ]

[ "As", "illustrated", "in", "Figure", "1", ",", "the", "chorus", "parts", "of", "the", "songs", "share", "the", "same", "melody", ",", "so", "that", "the", "corresponding", "lyrics", "fol-", "low", "a", "similar", "pattern", ".", "Such", "a", "phenomenon", "inspires", "us", "that", "shared", "musical", "signals", "indicate", "the", "struc-", "ture", "of", "lyrics", "and", "can", "be", "used", "to", "infer", "the", "relation", "across", "lyrics", ".", "Therefore", ",", "we", "design", "a", "compound", "template", "(", "i.e.", ",", "a", "sequence", "of", "tuples", ")", "that", "incorpo-", "rates", "both", "textual", "and", "musical", "information", "to", "model", "the", "structure", "of", "lyrics", ".", "The", "template", "is", "designed", "with", "rhythmic", "concepts", "in", "mind", ",", "and", "it", "can", "be", "ex-", "tracted", "from", "different", "sources", "(", "e.g.", ",", "audio", ",", "music", "score", ",", "etc", ".", ")", ".", "Additionally", ",", "we", "propose", "a", "cycle", "-", "consistency", "loss", "to", "enforce", "the", "reconstruc-", "tion", "of", "the", "musical", "information", "from", "the", "generated", "lyrics", "to", "further", "improves", "the", "performance", ".", "To", "verify", "our", "proposed", "framework", ",", "we", "collect", "a", "test", "dataset", "named", "Song8k", "with", "chorus", "and", "verse", "labels", "for", "each", "sentence", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Both", "objective", "and", "subjective", "evaluations", "on", "the", "test", "dataset", "demonstrate", "the", "ef-", "fectiveness", "of", "our", "framework", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "summary", ",", "the", "main", "contributions", "of", "this", "work", "are", "as", "follows", ":", "•we", "propose", "a", "unified", "structure", "-", "aware", "lyrics", "generation", "framework", "named", "UniLG", ";", "•we", "design", "a", "compound", "template", "that", "incor-", "porates", "textual", "and", "musical", "information", "to", "achieve", "structure", "modeling", "and", "enable", "lyrics", "generation", "in", "various", "conditions", ";", "•we", "introduce", "a", "cycle", "-", "consistency", "loss", "to", "val-", "idate", "the", "impact", "of", "musical", "information", "and", "further", "boost", "the", "performance", ";", "•extensive", "experiments", "demonstrate", "the", "effec-", "tiveness", "of", "our", "method", "that", "achieves", "better", "structural", "modeling", "in", "lyrics", "generation", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2", "Related", "Work", "The", "existing", "lyrics", "generation", "approaches", "can", "be", "categorized", "into", "two", "types", ":", "1", ")", "free", "lyrics", "genera-", "tion", ",", "which", "generates", "lyrics", "either", "from", "scratch", "or", "based", "on", "some", "prefix", "prompts", "(", "Radford", "et", "al", ".", ",", "2019", ";", "Brown", "et", "al", ".", ",", "2020", ")", ";", "and", "2", ")", "conditional", "lyrics", "gen-", "eration", ",", "which", "generates", "lyrics", "conditioned", "on", "con-", "trol", "signals", "(", "e.g.", ",", "music", "score", ",", "audio", ",", "etc", ".", ")", "(", "Saeed", "et", "al", ".", ",", "2019", ";", "Fan", "et", "al", ".", ",", "2019", ")", ".", "In", "this", "work", ",", "we", "focus", "on", "conditional", "lyrics", "generation", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O" ]

[ "Recent", "works", "have", "shown", "the", "effectiveness", "of", "pre", "-", "trained", "language", "models", "in", "NLG", "(", "Lewis", "et", "al", ".", ",", "2020", ";", "Brown", "et", "al", ".", ",", "2020", ";", "Radford", "et", "al", ".", ",", "2019", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "a", "special", "task", "of", "NLG", ",", "lyrics", "generation", "also", "fol-", "lows", "the", "trend", "of", "using", "pre", "-", "trained", "language", "mod-", "els", "." ]

[ "O", "O", "O", "O", "O", "B-TaskName", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "However", ",", "the", "pre", "-", "trained", "language", "models", "are", "trained", "with", "general", "text", "corpus", "and", "fail", "to", "consider", "the", "structure", "of", "lyrics", "(", "e.g.", ",", "chorus", "and", "verse", "parts", "of", "the", "song", ")", ",", "which", "is", "a", "salient", "feature", "for", "lyrics", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Several", "works", "adopt", "pre", "-", "trained", "Transformer", "vari-", "ants", ",", "such", "as", "GPT-2", ",", "as", "the", "backbone", "to", "improve", "the", "performance", "of", "lyrics", "generation", "but", "ignore", "the", "structure", "of", "lyrics", "as", "well", "(", "Zhang", "et", "al", ".", ",", "2020", ";", "Lee", "et", "al", ".", ",", "2019", ";", "Bao", "et", "al", ".", ",", "2019", ";", "Sheng", "et", "al", ".", ",", "2021", ";", "Qian", "et", "al", ".", ",", "2022", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "achieve", "structural", "model-", "ing", ",", "some", "works", "attempt", "to", "annotate", "the", "structural", "information", "of", "lyrics", ",", "however", ",", "this", "requires", "addi-", "tional", "expensive", "human", "annotation", "(", "Potash", "et", "al", ".", ",", "2015", ";", "Lu", "et", "al", ".", ",", "2019", ")", ".", "To", "avoid", "human", "labeling", ",", "SongNet", "chooses", "corpus", "with", "pre", "-", "defined", "formats", "(", "e.g.", ",", "Ci5and", "Sonnet", ")", ",", "while", "some", "works", "regard", "the", "linguistic", "tags", "of", "lyrics", "as", "the", "structure", "informa-", "tion", "of", "lyrics", "(", "Li", "et", "al", ".", ",", "2020", ";", "Castro", "and", "Attarian", ",", "2018", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "However", ",", "SongNet", "can", "not", "provide", "diverse", "representations", "for", "sentences", ",", "and", "the", "construction", "of", "linguistic", "tags", "is", "inconvenient", "and", "not", "human-", "friendly", "." ]

[ "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "addition", ",", "these", "methods", "can", "not", "repre-", "sent", "the", "structure", "of", "lyrics", "explicitly", ".", "Moreover", ",", "most", "previous", "lyrics", "generation", "works", "ignore", "the", "musical", "properties", "hidden", "behind", "the", "lyrics", ",", "that", "is", ",", "the", "lyrics", "will", "eventually", "be", "presented", "together", "with", "the", "music", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "overcome", "all", "the", "above", "limi-", "tations", ",", "we", "propose", "a", "compound", "template", "in", "our", "framework", "that", "can", "be", "conveniently", "constructed", ".", "It", "provides", "discriminative", "representations", "and", "in-", "corporates", "both", "textual", "and", "musical", "information", "to", "5https", ":", "/", "/", "en.wikipedia.org", "/", "wiki", "/", "CI984", "Decoder", "EmbeddingEncoderÐ", "Language", "ModelDecoderMask𝑚", "!", "…", "…", "𝑚", "\"", "𝑚", "#", "𝑏", "!", "…", "…", "𝑏", "\"", "𝑏", "#", "𝑎", "!", "…", "…", "𝑎", "\"", "𝑎", "#", "𝑠", "!", "…", "…", "𝑠", "\"", "𝑠", "#", "𝑝", "!", "…", "…", "𝑝", "\"", "𝑝", "#", "𝐴𝑆𝑀𝐵𝑃𝑙", "!", "…", "…", "𝑙", "\"", "𝑙", "#", "𝐿Masked", "Lyric有没有那么一种永远永远不改变", "…", "Input", "-", "to", "-", "Template", "ModuleTemplate", "-", "to", "-", "Lyric", "Module", "Lyric’Add", "&", "NormAdd", "&", "Norm𝑙", "!", "…", "…", "𝑙", "\"", "𝑙", "#", "𝑚", "!", "…", "…", "𝑚", "\"", "𝑚", "#", "𝐻", "!", "\"", "𝐻", "!", "#", "𝐻", "$", "\"", "BarSegmentIntro", "-", "Position2,3,3,0,0,1,1,2,2,2,0,1,1,2", ",", "……", "有没有那么一种永远永远不改变", "…", "…", "LyricBeatTokenizer", "Figure", "3", ":", "Illustration", "of", "the", "proposed", "two", "-", "stage", "pipeline", "of", "UniLG", ".", "In", "training", ",", "we", "construct", "a", "compound", "template", "with", "Masked", "Lyric", "(", "or", "Lyric", ")", "and", "Beat", "as", "the", "dotted", "blue", "(", "or", "green", ")", "box", "as", "described", "in", "Section", "3.1", "and", "3.2", ".", "The", "character", "tokenizer", "is", "used", "in", "UniLG", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O" ]

[ "achieve", "structural", "modeling", ".", "3", "Method", "Our", "proposed", "unified", "framework", "for", "lyrics", "gener-", "ation", "(", "UniLG", ")", "contains", "two", "highlights", ":", "1", ")", "it", "con-", "siders", "the", "structure", "of", "lyrics", "in", "the", "generation", ";", "2", ")", "it", "can", "handle", "different", "lyrics", "generation", "conditions", "with", "different", "control", "signals", ",", "such", "as", "the", "music", "score", ",", "or", "music", "audio", ",", "or", "partial", "lyrics", ",", "etc", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "the", "structure", "of", "lyrics", ",", "as", "illustrated", "in", "Fig-", "ure", "1", ",", "the", "melody", "implies", "the", "structure", "of", "lyrics", ",", "which", "can", "be", "leveraged", "for", "lyrics", "structure", "model-", "ing", ".", "However", ",", "large", "-", "scale", "(", "melody", ",", "lyrics", ")", "parallel", "data", "is", "generally", "difficult", "to", "obtain", ".", "We", ",", "therefore", ",", "propose", "using", "rhythm", "patterns6that", "preserves", "the", "inter", "-", "correlation", "of", "lyrics", "as", "musical", "information", "to", "explicitly", "represent", "the", "structure", "of", "lyrics", ".", "As", "ex-", "plored", "in", "previous", "works", "(", "Ju", "et", "al", ".", ",", "2021", ";", "McAuliffe", "et", "al", ".", ",", "2017", ")", ",", "the", "defined", "rhythm", "patterns", "can", "be", "efficiently", "extracted", "from", "lyrics", "and", "different", "rhyth-", "mic", "sources", "(", "e.g.", ",", "music", "score", ",", "music", "audio", ",", "etc", ".", ")", "without", "extra", "human", "annotation", ".", "For", "handling", "various", "control", "signals", "of", "different", "6The", "rhythm", "patterns", "usually", "indicate", "when", "a", "note", "happens", "and", "how", "long", "it", "lasts", ".", "In", "this", "paper", ",", "the", "rhythm", "patterns", "only", "indicate", "when", "a", "note", "happens.lyrics", "generation", "conditions", ",", "the", "model", "should", "have", "the", "capacity", "to", "process", "different", "types", "of", "inputs", ",", "such", "as", "music", "score", ",", "music", "audio", ",", "rhythm", "patterns", ",", "partially", "-", "finished", "lyrics", ",", "etc", ".", "Therefore", ",", "we", "design", "a", "compound", "template", "(", "i.e.", ",", "a", "sequence", "of", "tuples", ")", "that", "can", "incorporate", "both", "textual", "and", "musical", "in-", "formation", ".", "So", "any", "type", "of", "input", "can", "be", "converted", "into", "a", "compound", "template", ",", "and", "then", "lyrics", "can", "be", "generated", "based", "on", "the", "compound", "template", ".", "Figure", "2", "illustrates", "the", "overview", "of", "our", "proposed", "lyrics", "generation", "framework", "UniLG", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O" ]

[ "We", "propose", "an", "intermediate", "compound", "template", "as", "a", "bridge", "between", "the", "rhythmic", "sources", "(", "e.g.", ",", "audio", ",", "music", "score", ",", "etc", ".", ")", "and", "lyrics", "in", "UniLG", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O" ]

[ "Specifically", ",", "the", "lyrics", "generation", "is", "decomposed", "into", "a", "two", "-", "stage", "pipeline", "consisting", "of", "an", "Input", "-", "to", "-", "Template", "stage", "and", "a", "Template", "-", "to", "-", "Lyric", "stage", "." ]

[ "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "this", "section", ",", "we", "first", "describe", "the", "compound", "template", "in", "detail", ".", "We", "then", "present", "the", "two", "stages", "during", "training", "respec-", "tively", ".", "Finally", ",", "we", "discuss", "the", "inference", "procedure", "of", "UniLG", "to", "illustrate", "how", "to", "handle", "various", "con-", "trol", "signals", "in", "different", "lyrics", "generation", "conditions", "with", "our", "unified", "framework", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "3.1", "Compound", "Template", "To", "model", "the", "structure", "of", "the", "lyrics", ",", "the", "compound", "templates", "are", "designed", "to", "incorporate", "both", "musical985", "and", "textual", "information", ".", "As", "shown", "in", "Figure", "3", ",", "a", "compound", "template", "consists", "of", "five", "components", ",", "Masked", "Lyric", "M", "(", "or", "Lyric", "L", ")", ",", "Bar", "A", ",", "Beat", "B", ",", "Seg-", "ment", "S", ",", "and", "Intro", "-", "position", "P", ".", "These", "components", "can", "be", "categorized", "into", "three", "aspects", ":", "semantic", "information", ",", "musical", "information", ",", "and", "textual", "in-", "formation", ".", "The", "details", "of", "these", "aspects", "with", "corre-", "sponding", "components", "are", "as", "follows", ":", "Semantic", "Information", "Aspect", "We", "introduce", "Lyric", "Symbols", "andMasked", "Lyric", "Symbols", "to", "lever-", "age", "the", "pre", "-", "trained", "language", "model", "and", "achieve", "semantic", "control", ".", "Lyric", "Symbols", ":", "We", "denote", "the", "Lyric", ",", "a", "se-", "quence", "of", "Chinese", "character", "tokens", ",", "as", "L=", "(", "l1", ",", "l2", ",", "...", ",", "l", "n", ")", "=", "(", "li", ")", "n", "i=1", ",", "where", "listands", "for", "the", "ithelement", "of", "L", ",", "li∈", "C", "∪", "E", ",", "nis", "the", "length", "of", "L.C", "refers", "to", "the", "set", "of", "Chinese", "characters", "and", "E=", "{", "⟨", "/", "s⟩", ",", "⟨bos⟩", ",", "⟨eos⟩", "}", "is", "a", "set", "of", "special", "tokens", ",", "in-", "cluding", "the", "separation", "token", "between", "sentences", "⟨", "/", "s⟩", ",", "the", "start", "of", "sequence", "token", "⟨bos⟩", ",", "and", "end", "of", "sequence", "token", "⟨eos⟩", ".", "Masked", "Lyric", "Symbols", ":", "We", "denote", "the", "Masked", "Lyric", "as", "M=", "(", "mi", ")", "n", "i=1", ",", "where", "mistands", "for", "the", "ithelement", "of", "M", ",", "andmi∈", "C", "∪", "E", "∪", "{", "⟨", "m⟩", "}", ",", "where", "⟨m⟩stands", "for", "mask", "token", ",", "which", "is", "widely", "used", "in", "masked", "language", "modeling", "(", "MLM", ")", "(", "Kenton", "and", "Toutanova", ",", "2019", ";", "Lewis", "et", "al", ".", ",", "2020", ")", ".", "Musical", "Information", "Aspect", "As", "illustrated", "in", "Figure", "3", ",", "the", "inter", "-", "correlation", "of", "lyrics", "can", "be", "pre-", "served", "in", "the", "musical", "information", ",", "and", "two", "kinds", "of", "musical", "symbols", ",", "Beat", "Symbols", "andBar", "Symbols", ",", "are", "designed", "to", "represent", "the", "musical", "information", "at", "a", "different", "level", ".", "Beat", "Symbols", ":", "The", "Beat", "B=", "(", "bi", ")", "n", "i=1denotes", "the", "local", "musical", "information", ",", "where", "bi", "(", "theith", "element", "of", "B", ",", "bi∈", "B∪E", ")", ",", "denotes", "the", "local", "musical", "information", "of", "miandli", ".", "B=", "{", "Beat", "i", "}", "3", "i=0", ",", "and", "Beat", "0", ",", "Beat", "1", ",", "Beat", "2", ",", "and", "Beat", "3stand", "for", "1st,2nd", ",", "3rd", ",", "and", "4thbeat", "in", "a", "bar", ".", "Bar", "Symbols", ":", "The", "Bar", "A=", "(", "ai", ")", "n", "i=1denotes", "the", "global", "musical", "information", ",", "where", "ai", "(", "theithele-", "ment", "of", "A", ",", "ai∈", "A∪E", ")", "denotes", "the", "bar", "information", "of", "the", "bi", ".", "A=", "{", "Bari", "}", "511", "i=0", ",", "and", "token", "Barjstands", "for", "the", "jthbar7", ".", "And", "aialso", "indicates", "that", "the", "word", "miandliare", "supposed", "to", "be", "sung", "at", "bar", "ai", ".", "Textual", "Information", "Aspect", "Similar", "to", "SongNet", ",", "the", "Intro", "-", "position", "and", "segment", "symbols", "are", "adopted", "to", "model", "the", "textual", "information", "at", "word", "and", "sen-", "7the", "number", "of", "bars", "is", "no", "more", "than", "512", "from", "our", "data.tence", "level", "(", "Li", "et", "al", ".", ",", "2020", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "the", "following", "sec-", "tions", ",", "we", "name", "the", "sub", "-", "sequence", "of", "any", "component", "between", "special", "symbols", "in", "Eas", "a", "sentence", ".", "Segment", "Symbols", ":", "The", "segment", "symbols", "provide", "global", "textual", "information", "to", "the", "compound", "tem-", "plate", ".", "We", "denote", "Segment", "as", "S=", "(", "si", ")", "n", "i=1", ",", "where", "si", "(", "theithelement", "of", "S", ",", "si∈", "S", "∪", "E", ")", "denotes", "the", "sentence", "position", "of", "the", "miandli", ".", "S=", "{", "Segi", "}", "255", "i=0", "andSegjstands", "for", "the", "jthsentence", ".", "For", "example", ",", "the", "lyrics", "shown", "in", "Figure", "3", "is", "the", "10thand11th", "sentences", "(", "Seg10andSeg11", ")", ".", "Intro", "-", "Position", "Symbols", ":", "The", "Intro", "-", "Position", "P=", "(", "pi", ")", "n", "i=1denotes", "the", "local", "textual", "information", ",", "where", "pi", "(", "theithelement", "of", "P", ",", "pi∈", "P", "∪", "E", ")", "denotes", "the", "local", "position", "within", "the", "sentence", "of", "the", "miand", "li", ".", "P=", "{", "Posi", "}", "31", "i=0and", "the", "token", "Posistands", "for", "theithreversed", "local", "position", "within", "the", "sentence", "or", "the", "distance", "to", "the", "end", "of", "token", "of", "the", "sentence", ".", "For", "example", ",", "in", "Figure", "3", ",", "the", "Pos8means", "this", "po-", "sition", "is", "8", "tokens", "away", "from", "the", "last", "token", "of", "the", "corresponding", "segment", "(", "Pos0inSeg10", ")", ".", "The", "compound", "template", "is", "a", "tuple", "sequence", "con-", "sisting", "of", "five", "components", ",", "including", "Masked", "Lyric", "M", "(", "or", "Lyric", "L", ")", ",", "Beat", "B", ",", "Bar", "A", ",", "Segment", "S", ",", "and", "Intro", "-", "Position", "P", ".", "As", "shown", "in", "the", "blue", "and", "green", "dotted", "box", "in", "the", "bottom", "of", "Figure", "3", ",", "we", "can", "con-", "struct", "the", "template", "based", "on", "these", "components", ".", "3.2", "Input", "-", "to", "-", "Template", "Module", "In", "this", "subsection", ",", "we", "discuss", "the", "construction", "pro-", "cedure", "of", "the", "compound", "template", "given", "the", "lyrics", "L=", "(", "li", ")", "n", "i=1", "in", "length", "nduring", "training", ".", "To", "be", "specific", ",", "we", "first", "extract", "symbols", "(", "defined", "in", "Sec-", "tion", "3.1", ")", "from", "lyrics", "L", ".", "Then", ",", "we", "combine", "them", "to", "construct", "the", "compound", "template", ":", "(", "1", ")", "Masked", "Lyric", "M=", "(", "mi", ")", "n", "i=1", ".", "Similar", "to", "MLM", ",", "the", "Mis", "constructed", "by", "randomly", "masking", "85", "%", "of", "elements", "that", "are", "not", "in", "Eof", "lyrics", "L", ".", "(", "2", ")", "Bar", "A=", "(", "ai", ")", "n", "i=1and", "Beat", "B=", "(", "bi", ")", "n", "i=1", ".", "According", "to", "the", "time", "signatures", ",", "the", "bar", "infor-", "mation", "Acan", "be", "obtained", "given", "beat", "information", "B", ".", "And", "the", "Beat", "Bis", "extracted", "from", "lyrics", "L", "through", "a", "Lyric", "-", "to", "-", "Beat", "model", "(", "details", "in", "Appendix", "A", ")", ",", "which", "predicts", "rhythm", "patterns", "in", "Bfor", "given", "lyrics", "L", ".", "(", "3", ")", "Segment", "S=", "(", "si", ")", "n", "i=1", ",", "and", "Intro", "-", "poistion", "P=", "(", "pi", ")", "n", "i=1", ".", "As", "shown", "in", "Figure", "3", ",", "the", "special", "to-", "kens", "of", "Eappear", "in", "the", "position", "for", "all", "components", ",", "in", "other", "words", ",", "they", "have", "the", "same", "format", "informa-", "tion", ",", "and", "the", "SandPcan", "be", "extracted", "from", "either", "M", ",", "B", ",", "A", ",", "orL", ".", "For", "a", "sequence", "Q∈", "{", "M", ",", "B", ",", "A", ",", "L", "}", ",", "986", "Scan", "be", "construct", "by", "counting", "the", "number", "of", "⟨", "/", "s⟩", "(", "if", "the", "number", "is", "c", ")", "before", "each", "position", "iand", "re-", "place", "Segcwith", "the", "corresponding", "ithtoken", "not", "in", "E", ".", "Similarly", ",", "for", "a", "sequence", "Q∈", "{", "M", ",", "B", ",", "A", ",", "L", "}", ",", "P", "can", "be", "constructed", "by", "counting", "the", "distance", "away", "from", "the", "nearest", "⟨", "/", "s⟩in", "the", "right", "(", "if", "the", "distance", "isc", ")", "for", "each", "position", "iand", "replace", "Poscwith", "the", "corresponding", "ithtoken", "not", "in", "E", ".", "As", "shown", "in", "the", "blue", "dotted", "box", "in", "the", "bottom", "of", "Figure", "3", ",", "the", "compound", "template", "T", ",", "a", "tuple", "se-", "quence", "including", "Masked", "Lyric", "M", ",", "Beat", "B", ",", "Bar", "A", ",", "Segment", "S", ",", "and", "Intro", "-", "Position", "P", ",", "can", "be", "formu-", "lated", "as", "T=", "(", "ti", ")", "n", "i=1=", "(", "<", "mi", ",", "bi", ",", "ai", ",", "si", ",", "pi", ">", ")", "n", "i=1", ".", "3.3", "Template", "-", "to", "-", "Lyric", "Module", "Through", "the", "Input", "-", "to", "-", "Template", "module", ",", "we", "con-", "struct", "the", "template", "Tand", "obtain", "paired", "lyric-", "template", "data", ".", "With", "such", "data", ",", "we", "adopt", "a", "pre-", "trained", "encoder", "-", "decoder", "Transformer", "language", "model", "MT5", "as", "backbone", "(", "Xue", "et", "al", ".", ",", "2021b", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Fig-", "ure", "3", "illustrates", "the", "procedure", "of", "the", "Template", "-", "to-", "Lyric", "module", "and", "the", "details", "are", "as", "follows", ":", "Encoder", "Inputs", "and", "Decoder", "Inputs", "We", "define", "H0", "EandH0", "Das", "the", "inputs", "of", "the", "Encoder", "and", "the", "Decoder", "respectively", "and", "their", "formulations", "are", ":", "H0", "E", "=", "E", "T", "=", "LN", "(", "EM+EB+EA+ES+EP", ")", "H0", "D", "=", "E", "L", "=", "LN", "(", "EL+EB+EA+ES+EP", ")", ",", "(", "1", ")", "where", "LN", "(", "∗", ")", "denotes", "the", "layer", "normalization", "and", "E∗stands", "for", "token", "embedding", "sequences", "of", "∗", ".", "Similar", "to", "the", "definition", "of", "the", "Tin", "Section", "3.2", ",", "the", "Ldenote", "the", "compound", "template", "that", "is", "a", "sequence", "of", "tuples", ":", "L=", "(", "li", ")", "n", "i=1=", "(", "<", "li", ",", "bi", ",", "ai", ",", "si", ",", "pi", ">", ")", "n", "i=1", ",", "where", "the", "Mis", "replaced", "by", "Lin", "the", "Tto", "obtain", "the", "Las", "shown", "in", "Figure", "3", ".", "Encoder", "and", "Decoder", "The", "Encoder", "and", "De-", "coder", "each", "consist", "of", "NTransformer", "layers", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterValue", "O", "O" ]

[ "Ht", "E", "andHt", "Ddenote", "the", "output", "of", "the", "tthencoder", "layer", "and", "decoder", "layer", "respectively", ".", "As", "shown", "in", "Figure", "3", ",", "the", "output", "of", "Encoder", "and", "Decoder", "HN", "EandHN", "D", "are", ":", "HN", "E", "=", "Encoder", "(", "H0", "E", ")", "HN", "D", "=", "Decoder", "(", "HN", "E", ",", "H0", "D∗Mask", "D", ")", ",", "(", "2", ")", "where", "Mask", "Ddenotes", "a", "causal", "decoder", "mask", ".", "And", "there", "is", "a", "projection", "layer", "for", "HN", "Dto", "get", "the", "final", "distribution", "of", "the", "predicted", "lyrics", ".", "Training", "with", "Cycle", "-", "consistency", "Loss", "The", "main", "training", "loss", "is", "to", "minimize", "the", "negative", "log-", "likelihood", "over", "the", "lyrics", "L=", "(", "li", ")", "n", "i=1given", "the", "BeatMasked", "LyricLyricInput", "-", "to", "-", "Template", "ModuleDecoderEncoderLanguage", "ModelBeat’Lyric", "-", "to", "-", "Beat", "ModelLyric’Template", "-", "to", "-", "Lyric", "Module", "Figure", "4", ":", "Illustration", "of", "the", "training", "loss", "in", "the", "Template-", "to", "-", "Lyric", "module", ".", "As", "described", "in", "Section", "3.2", ",", "we", "simplify", "the", "inputs", "for", "Bar", "B", ".", "Segment", "Sand", "Intro", "-", "position", "Pcan", "be", "constructed", "with", "Masked", "Lyric", "M", ",", "Lyric", "L", ",", "and", "Beat", "B", ".", "The", "Lyric", "-", "to", "-", "Beat", "model", "is", "a", "pre", "-", "trained", "model", "and", "details", "can", "be", "found", "in", "Appendix", "A", ".", "template", "T=", "(", "ti", ")", "n", "i=1as", "shown", "in", "the", "gray", "dotted", "line", "in", "Figure", "4", ":", "LT2L=−logP", "(", "L|", "L", ",", "T", ")", "=", "−Σn", "i=1logP", "(", "li|", "l", "<", "i", ";", "t1", ",", "...", ",", "tn", ")", ",", "(", "3", ")", "where", "L=", "(", "li", ")", "n", "i=1denote", "the", "compound", "template", ".", "The", "l", "<", "istands", "for", "sequence", "(", "l1", ",", "l2", ",", "...", ",", "li−1", ")", ".", "As", "illustrated", "by", "the", "orange", "dotted", "line", "in", "Figure", "4", ",", "we", "introduce", "the", "cycle", "-", "consistency", "loss", "(", "CCL", ")", "to", "enhance", "the", "impact", "of", "musical", "information", ".", "The", "Lyric", "-", "to", "-", "Beat", "model", "reconstructs", "the", "beat", "sequence", "from", "the", "predicted", "lyrics", "of", "the", "language", "model", ".", "The", "formulation", "of", "CCL", "is", "as", "follows", ":", "L′", "L2B=−logP", "(", "B|L′", ")", "=", "−Σn", "i=1logP", "(", "bi|b", "<", "i", ";", "l′", "1", ",", "...", ",", "l′", "n", ")", ",", "(", "4", ")", "where", "L′=", "(", "l′", "i", ")", "n", "i=1denotes", "the", "predicted", "lyrics", "by", "the", "language", "model", ",", "and", "B=", "(", "bi", ")", "n", "i=1denotes", "the", "Beat", "of", "input", "template", "Tas", "in", "Figure", "4", ".", "Finally", ",", "the", "training", "objective", "of", "Template", "-", "to-", "Lyric", "model", "is", "to", "minimize", "the", "loss", "Ltot", ":", "Ltot", "=", "LT2L+α∗", "L′", "L2B", ",", "(", "5", ")", "where", "αis", "a", "hyper", "-", "parameter", "to", "weigh", "CCL", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "3.4", "Inference", "Procedure", "In", "this", "subsection", ",", "we", "describe", "the", "inference", "proce-", "dure", "of", "UniLG", "for", "various", "lyrics", "generation", "condi-", "tions", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "major", "steps", "are", "shown", "in", "Algorithm", "1,987", "including", "\"", "Beat", "Construction", "\"", ",", "\"", "Masked", "Lyric", "Con-", "struction", "\"", ",", "and", "\"", "Components", "Construction", "\"", ".", "Given", "the", "template", "Tby", "Algorithm", "1", ",", "the", "Template", "-", "to-", "Lyric", "module", "generates", "the", "Lyric", "Land", "the", "Lauto-", "regressively", ".", "\"", "Beat", "Construction", "\"", "is", "a", "method", "to", "construct", "the", "Beat", "Bfrom", "raw", "input", "X", "(", "e.g", ".", ",", "beat", ",", "lyric", ",", "mu-", "sic", "score", ",", "audio", ",", "etc.", ")", "8", ".", "\"", "Beat", "Construction", "\"", "con-", "sists", "of", "\"", "Sentence", "Length", "Generation", "\"", "and", "\"", "Beat", "Generation", "\"", ".", "\"", "Sentence", "Length", "Generation", "\"", "gen-", "erates", "a", "sequence", "of", "numbers", "with", "each", "number", "denoting", "the", "length", "of", "one", "sentence9", ".", "\"", "Beat", "Gen-", "eration", "\"", "generates", "the", "Beat", "based", "on", "the", "outputs", "from", "\"", "Sentence", "Length", "Generation", "\"", ".", "For", "exam-", "ple", ",", "if", "\"", "Sentence", "Length", "Generation", "\"", "generate", "a", "sequence", "S=", "[", "3,2", "]", ",", "\"", "Beat", "Generation", "\"", "may", "re-", "turnB=", "[", "⟨bos⟩", ",", "Beat", "1", ",", "Beat", "3", ",", "Beat", "0", ",", "⟨", "/", "s⟩", ",", "Beat", "0", ",", "Beat", "1", ",", "⟨", "/", "s⟩", ",", "⟨eos⟩", "]", ".", "To", "achieve", "content", "controllable", "generation", ",", "we", "use", "keywords", "Kto", "construct", "the", "Masked", "Lyrics", "M", ".", "Based", "on", "the", "keyword10", ",", "the", "model", "generates", "the", "lyrics", "in", "the", "MLM", "manner", ".", "The", "keywords", "can", "be", "either", "user", "-", "specified", "or", "sampled", "from", "the", "train-", "ing", "corpus", ",", "which", "should", "appear", "in", "the", "generated", "lyrics", ".", "\"", "Masked", "Lyric", "Construction", "\"", "is", "a", "method", "to", "construct", "the", "masked", "lyrics", "Mcondition", "on", "Beat", "Band", "keywords", "K", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Similar", "to", "the", "construction", "of", "PandSin", "Section", "3.2", ",", "given", "Beat", "B", ",", "Mcan", "be", "constructed", "by", "replacing", "the", "token", "that", "is", "not", "in", "E", "with", "the", "mask", "token", "or", "keywords", "in", "Krandomly", ".", "\"", "Components", "Construction", "\"", "is", "a", "method", "to", "ob-", "tain", "the", "other", "components", "given", "MandBas", "de-", "scribed", "in", "Section", "3.2", ",", "and", "organize", "all", "components", "for", "the", "template", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "4", "Experimental", "Settings", "4.1", "Dataset", "We", "collect", "lyrics", "of", "249,007", "Chinese", "pop", "songs", "from", "Internet", "as", "the", "base", "of", "our", "experiments", ".", "Lyric", "-", "Template", "Dataset", ".", "We", "use", "the", "pre", "-", "trained", "Lyric", "-", "to", "-", "Beat", "model", "to", "extract", "the", "lyric", "-", "template", "dataset", "from", "249,007", "lyrics", ".", "We", "randomly", "select", "8000", "songs", "for", "the", "validation", "and", "test", "set", "respec-", "tively", ",", "and", "the", "remaining", "songs", "are", "used", "for", "training", ".", "The", "data", "statistics", "are", "shown", "in", "Appendix", "B", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O" ]

[ "8The", "details", "of", "the", "Lyric", "-", "to", "-", "Beat", ",", "MIDI", "-", "to", "-", "Beat", ",", "and", "Audio", "-", "to", "-", "Beat", "modules", "are", "discussed", "in", "Appendix", "D", ".", "9The", "sentence", "means", "the", "sub", "-", "sequence", "between", "special", "symbols", ".", "10If", "keywords", "are", "empty", ",", "we", "will", "randomly", "select", "some", "popular", "words", "as", "keywords", ".", "Algorithm", "1", "Template", "Construction", "In", "Inference", "Input", ":", "X", ":", "the", "raw", "input", ";", "K", ":", "keywords", ".", "Output", ":", "T", ",", "generated", "compound", "template", ".", "DefBeat", "Construction", "(", "X", ")", ":", "Case", "of", "X", ":", "a", "beat", "sequence", ":", "B", "=", "X", "a", "lyric", "sequence", ":", "B", "=", "Lyric", "-", "to", "-", "Beat", "(", "X", ")", "a", "MIDI", "file", ":", "B", "=", "MIDI", "-", "to", "-", "Beat", "(", "X", ")", "a", "audio", "file", ":", "B", "=", "Audio", "-", "to", "-", "Beat", "(", "X", ")", "None", ":", "S", "=", "Sentence", "Length", "Generation", "(", ")", "B", "=", "Beat", "Generation", "(", "S", ")", "end", "Case", "return", "B", "B", "=", "Beat", "Construction", "(", "X", ")", "M", "=", "Masked", "Lyric", "Construction", "(", "B", ",", "K", ")", "return", "T", "=", "Components", "Construction", "(", "B", ",", "M", ")", "Additional", "Dataset", ":", "Song8k", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O" ]

[ "We", "also", "annotate", "8,000", "songs", "with", "structure", "labels", "(", "sentence", "-", "level", "chorus", "and", "verse", "label", ")", "for", "evaluation", "and", "we", "name", "this", "dataset", "Song8k", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O" ]

[ "For", "dataset", "settings", ",", "we", "use", "all", "8,000", "songs", "for", "further", "evaluation", "in", "the", "Template-", "to", "-", "Lyric", "module", ".", "4.2", "Baselines", "in", "Model", "Comparison", "We", "compare", "with", "two", "baselines", "in", "the", "experi-", "ments", ":", "1", ")", "MT5", ",", "a", "pre", "-", "trained", "Transformer", "lan-", "guage", "model", "(", "Xue", "et", "al", ".", ",", "2021b", ")", ";", "2", ")", "SongNet", ",", "a", "format", "-", "controlled", "text", "generation", "model", "(", "Li", "et", "al", ".", ",", "2020", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "MT5", "and", "SongNet", "construct", "their", "inputs", "with", "the", "same", "corpus", "as", "the", "lyric", "-", "template", "dataset", "." ]

[ "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "MT5", ",", "SongNet", ",", "and", "UniLG", "have", "similar", "parame-", "ters", "and", "all", "models", "use", "the", "same", "pre", "-", "trained", "model", "as", "initialization", "for", "a", "fair", "comparison", "." ]

[ "B-MethodName", "O", "B-MethodName", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "details", "of", "the", "model", "configuration", ",", "training", ",", "and", "decoding", "settings", "are", "reported", "in", "Appendix", "E", "and", "G", ".", "4.3", "Objective", "Evaluation", "Metrics", "We", "use", "three", "kinds", "of", "objective", "evaluation", "metrics", ":", "general", "level", ",", "low", "level", ",", "and", "high", "level", "(", "more", "de-", "tails", "can", "be", "found", "in", "Appendix", "F", ")", ".", "General", "Level", ":", "Besides", "perplexity", "(", "PPL", ")", ",", "we", "use", "Integrity", "metric", "to", "evaluate", "the", "sentence", "integrity", "(", "Li", "et", "al", ".", ",", "2020", ")", ",", "which", "calculates", "the", "average", "proba-", "bility", "of", "the", "separation", "token", "given", "previous", "tokens", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Low", "Level", ":", "We", "use", "Format", "F1", "and", "Beat", "F1", "to", "evaluate", "the", "degree", "of", "consistency", "between", "the", "gen-", "erated", "lyrics", "and", "the", "given", "textual", "format", "(", "Segment", "and", "Intro", "-", "Position", ")", "and", "rhythm", "patterns", "(", "Beat", ")", "in", "the", "template.988", "High", "Level", ":", "We", "use", "Song8k", "and", "a", "pre", "-", "trained", "model", "(", "details", "are", "in", "Appendix", "C", ")", "to", "evaluate", "the", "quality", "of", "the", "structure", "of", "generated", "lyrics", "." ]

[ "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Specifi-", "cally", ",", "the", "model", "predicts", "a", "chorus", "or", "verse", "label", "for", "each", "sentence", "in", "generated", "lyrics", "and", "compares", "it", "with", "the", "human", "annotations", "to", "obtain", "Structure", "F1", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O" ]

[ "4.4", "Subjective", "Evaluation", "Metrics", "As", "illustrated", "in", "Section", "?", "?", ",", "the", "Beat", "is", "important", "for", "the", "compound", "template", "and", "may", "have", "a", "big", "im-", "pact", "on", "our", "framework", ".", "We", "conduct", "subjective", "ex-", "periments", "for", "\"", "Beat", "Construction", "\"", ",", "including", "\"", "Sen-", "tence", "Length", "Generation", "\"", "and", "\"", "Beat", "Generation", "\"", ".", "Besides", ",", "we", "also", "conduct", "subjective", "experiments", "for", "model", "comparison", ".", "For", "each", "subjective", "experi-", "ment", ",", "we", "invite", "43", "annotators", "to", "evaluate", "the", "gen-", "erated", "lyrics", ".", "Each", "annotator", "is", "required", "to", "score", "lyrics", "concerning", "four", "aspects", ".", "Each", "aspect", "is", "rated", "with", "an", "opinion", "score", "from", "1", "to", "5", "(", "from", "bad", "to", "excellent", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "B-MetricValue", "O", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "four", "aspects", "are", "as", "follows", ":", "1", ")", "Co-", "herence", ":", "the", "overall", "consistency", "of", "the", "topic", "of", "the", "entire", "song", ";", "2", ")", "Fluency", ":", "the", "fluency", "of", "the", "semantic", "correlation", "within", "a", "sentence", "and", "between", "the", "sen-", "tence", ";", "3", ")", "Correlation", ":", "the", "structural", "or", "semantic", "similarity", "among", "sentences", ",", "such", "as", "the", "distribution", "of", "words", "and", "corresponding", "relationships", "of", "sen-", "tences", ";", "4", ")", "Fascination", ":", "the", "degree", "of", "fascinating", "sentences", "in", "annotators", "’", "opinion", ".", "5", "Experiments", "Results", "In", "this", "section", ",", "we", "report", "and", "analyze", "both", "objective", "and", "subjective", "experimental", "results", ".", "We", "also", "show", "some", "cases", "in", "Appendix", "H", "to", "verify", "the", "ability", "of", "UniLG", "to", "handle", "different", "generation", "conditions", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O" ]

[ "5.1", "Objective", "Results", "Model", "Comparison", "We", "compare", "MT5", ",", "SongNet", ",", "and", "UniLG", "on", "the", "Song8k", "and", "the", "test", "set", "of", "the", "lyric", "-", "template", "dataset", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "B-MethodName", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "results", "of", "the", "model", "comparison", "(", "in", "Table", "1", ")", "show", "that", "MT5", "achieves", "the", "best", "results", "in", "PPL", "and", "Integrity", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "O" ]

[ "Our", "UniLG", "outperforms", "baselines", "in", "Format", "F1", ",", "Beat", "F1", ",", "and", "Structure", "F1.The", "Structure", "F1", "shows", "that", "our", "framework", "does", "generate", "the", "lyrics", "with", "better", "structure", ",", "which", "indicates", "that", "the", "musical", "information", "improves", "the", "structural", "modeling", "." ]

[ "O", "B-MethodName", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "B-MetricName", "I-MetricName", "O", "O", "B-MetricName", "I-MetricName", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Ablation", "Study", "We", "further", "ablate", "our", "UniLG", "to", "verify", "the", "impact", "of", "musical", "and", "textual", "informa-", "tion", "as", "well", "as", "the", "CCL", "." ]

[ "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "From", "the", "results", "shown", "in", "Table", "2", ",", "we", "see", "that", "the", "textual", "information", "(", "Seg", "&", "Pos", ")", ",", "musical", "information", "(", "Bar", "&", "Beat", ")", ",", "andCCL", "play", "crucial", "roles", "in", "the", "overall", "performance", ".", "These", "modules", "of", "our", "framework", "show", "significant", "improvement", ",", "especially", "on", "the", "metrics", "of", "Beat", "F1", "and", "Structure", "F1", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "B-MetricName", "I-MetricName", "O" ]

[ "The", "CCL", "may", "enhance", "the", "musical", "information", "to", "boost", "performance", "in", "For-", "mat", "F1", ",", "Beat", "F1", ",", "and", "Structure", "F1", ",", "but", "at", "the", "same", "time", "may", "introduce", "noise", "and", "cause", "degradation", "in", "general", "metrics", "(", "PPL", "and", "Integrity", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "O", "B-MetricName", "I-MetricName", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "effec-", "tiveness", "of", "the", "CCL", "further", "proves", "that", "the", "musi-", "cal", "information", "behind", "the", "lyrics", "does", "benefit", "the", "structure", "-", "aware", "lyric", "generation", ".", "We", "notice", "that", "the", "musical", "information", "(", "Bar", "&", "Beat", ")", "degrades", "the", "per-", "formance", "of", "the", "framework", "more", "than", "the", "textual", "information", "and", "CCL", ".", "This", "may", "be", "due", "to", "there", "being", "extra", "position", "embeddings", "for", "input", "data", "in", "MT5", "model", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O" ]

[ "When", "it", "comes", "to", "music", "information", ",", "missing", "Bar", "&", "Beat", "leads", "to", "a", "complete", "loss", "of", "infor-", "mation", ",", "while", "missing", "the", "Seg", "&", "Pos", "only", "partially", "loses", "position", "information", ".", "5.2", "Subjective", "Results", "Template", "Construction", "As", "the", "template", "directly", "affects", "the", "Template", "-", "to", "-", "Lyric", "module", ",", "we", "perform", "the", "subjective", "evaluation", "on", "different", "settings", "of", "\"", "Sentence", "Length", "Generation", "\"", "and", "\"", "Beat", "Genera-", "tion", "\"", "in", "Algorithm", "1", "to", "investigate", "the", "impact", "of", "the", "compound", "template", ".", "For", "\"", "Sentence", "Length", "Generation", "\"", ",", "we", "have", "2", "candidate", "settings", ":", "1", ")", "Random", ",", "the", "length", "of", "the", "sentence", "is", "randomly", "chosen", "from", "6", "to", "12", ";", "2", ")", "2-", "gram", ",", "the", "next", "sentence", "length", "is", "generated", "condi-", "tioned", "on", "the", "length", "of", "the", "previous", "sentence", ".", "We", "generate", "40", "songs", "in", "6", "to", "16", "sentences", "for", "each", "setting", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterValue", "O", "B-HyperparameterValue", "B-HyperparameterName", "O", "O", "O", "O" ]

[ "Given", "two", "number", "sequences", "generated", "by", "\"", "Sentence", "Length", "Generation", "\"", "of", "two", "settings", ",", "the", "two", "Beat", "can", "be", "generated", "by", "the", "same", "method", "of", "\"", "Beat", "Generation", "\"", ",", "whose", "setting", "is", "chosen", "ran-", "domly", ".", "The", "results", "in", "Table", "3", "show", "that", "Random", "and", "2", "-", "gram", "strategies", "achieve", "comparable", "perfor-", "mance", "and", "different", "sentence", "length", "generation", "strategies", "have", "little", "influence", "on", "models", ".", "For", "\"", "Beat", "Generation", "\"", ",", "we", "have", "3", "candidate", "set-", "tings", ":", "1", ")", "Random", ",", "the", "beat", "information", "for", "each", "character", "is", "randomly", "chosen", "from", "B", ";", "2", ")", "Rule", ",", "the", "beat", "is", "non", "-", "decreasing", "than", "the", "previous", "one", ";", "3", ")", "Sample", ",", "we", "compute", "the", "statistics", "of", "the", "beat", "se-", "quence", "of", "each", "length", "in", "the", "lyric", "-", "template", "dataset", "and", "sample", "the", "beat", "sequence", "conditioned", "on", "the", "sequence", "length", ".", "We", "generate", "40", "songs", "in", "6", "to", "16", "sentences", "for", "each", "setting", "(", "\"", "Sentence", "Lengths", "Gen-", "eration", "\"", "uses", "2", "-", "gram", ")", ".", "The", "result", "in", "Table", "4", "shows989", "Table", "1", ":", "Model", "comparison", "with", "objective", "metrics", "on", "the", "test", "set", "of", "lyric", "-", "template", "dataset", "and", "Song8k", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "O", "B-DatasetName", "O" ]

[ "T", "-", "L", "and", "S8", "stand", "for", "lyric", "-", "template", "dataset", "and", "Song8k", "respectively", "." ]

[ "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "B-DatasetName", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "O", "B-DatasetName", "O", "O" ]

[ "CCL", "denotes", "the", "cycle", "-", "consistency", "loss", "in", "Section", "?", "?", ".", "Table", "3", ":", "The", "MOS", "score", "of", "different", "settings", "in", "\"", "Sen-", "tence", "Length", "Generation", "\"", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]