Datasets:

---

anlp

/

sentence_w_elimination

like 0

Follow

anlp team project 4

[ "Also", ",", "among", "the", "clustering", "meth-", "ods", "in", "both", "distributional", "and", "single", "-", "label", "learning", ",", "there", "was", "relatively", "little", "variance", "in", "performance", "aswvaries" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName" ]

[ "The", "latter", "is", "certainly", "a", "negative", "result", "with", "re-", "spect", "to", "the", "technical", "AI", "question", "of", "whether", "or", "not", "to", "use", "both", "data", "features", "and", "label", "distributions", "in", "cases", "when", "we", "docluster", "But", "it", "is", "positive", "in", "that", ",", "combined", "with", "the", "overall", "superior", "performance", "of", "clustering", "for", "population", "-", "level", "learning", ",", "it", "showsthateither", "label", "features", "or", "label", "distributions", "are", "adequate", "for", "realizing", "the", "benefits", "of", "clustering", "as", "a", "means", "of", "label", "distribution", "regularization", "It", "also", "suggests", "that", "annotator", "disagreements", "are", ",", "in", "fact", ",", "meaningful", "and", "essential", "To", "gain", "a", "better", "sense", "of", "how", "these", "methods", "can", "be", "used", "to", "address", "annotator", "inequality", ",", "we", "extract", "examples", "from", "DJQ3", "(", "Table", "5", ")", ",", "DFB", "(", "Fig-", "ure", "5", ")", ",", "and", "DSI", "(", "Figure", "4", ")" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O" ]

[ "We", "select", "examples", "from", "among", "the", "data", "items", "with", "the", "lowest", "KL-", "divergence", "scores", "between", "their", "empirical", "label", "distributions", "and", "their", "predictions", "according", "to", "the", "CO", "-", "FMM", "-", "CNN-", "0model" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName" ]

[ "We", "report", "their", "predicted", "distributions", "according", "to", "this", "model", "and", "two", "other", "models", "at", "a", "data", "item", "level", "Here", ",", "we", "see", "that", "the", "predicted", "distributions", "seem", "to", "differ", "from", "the", "empirical", "distributions", "and", "each", "other", "in", "meaningful", "ways", "This", "is", "because955", "Intended", "Not", "Intd" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "B-HyperparameterName", "B-HyperparameterValue", "O" ]

[ "Prob", "Here", "n", "denotes", "number", "of", "human", "annotators", "and", "KLis", "the", "KL-", "divergence", "when", "evaluated", "against", "the", "empirical", "ground", "truth" ]

[ "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "striped", "bar", "denotes", "the", "human", "annotations", "Reactions", "are", "love", ",", "wow", ",", "haha", ",", "sad", ",", "andangry", "our", "models", "rely", "on", "other", "items", "with", "similar", "label", "distributions", "or", "language", "to", "normalize", "reactions", "For", "instance", ",", "in", "example", "DFBE4", ",", "we", "see", "that", "the", "heavy", "annotator", "response", "to", "sad", "(", "795", "responses", ")", "is", "retained", "when", "w=", "0", "(", "0.910", ")", ",", "when", "only", "labels", "determine", "the", "clusters", ",", "but", "it", "decreases", "dramati-", "cally", "(", "to", "0.165and0.126", ")", "aswincreases" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName" ]

[ "Theseexamples", "show", "that", "when", "we", "introduce", "text", "into", "the", "clustering", "phase", ",", "the", "overall", "performance", "may", "not", "change", ",", "but", "qualitative", "differences", "may", "be", "quite", "significant", "at", "the", "item", "level", "The", "examples", "in", "Figure", "4", "were", "surfaced", "by", "ran-", "domly", "sampling", "Reddit", "DSIfor", "posts", "whose", "pre-", "dictions", ",", "using", "our", "models", ",", "differed", "from", "the", "hu-", "man", "annotation", "These", "examples", "all", "elicit", "ways", "of", "interpreting", "social", "media", "posts", "that", "contrast", "model", "predictions", ",", "human", "annotator", "choices", ",", "and", "our", "observations", "about", "offensiveness", "and", "toxic-", "ity", "Example", "DSIE4", ",", "(", "Figure", "4a", ")", "is", "an", "offensive", "joke", "that", "mocks", "women", "and", "people", "with", "a", "mental", "health", "disorder", "called", "borderline", "personality", "dis-", "order", "(", "“", "BPD", "”", ")", "In", "contrast", ",", "the", "human", "annotation", "was", "split", "between", "not", "intended", "to", "be", "offensive", "and", "probably", "intended", "to", "be", "offensive", "No", "human", "chose", "intended", "to", "be", "offensive", ",", "yet", "our", "algorithm", "pre-", "dicted", "it", "might", "be", ",", "reflecting", "the", "deniability", "that", "comes", "from", "phrasing", "offensive", "speech", "as", "a", "“", "joke", "”", "Example", "DSIE5", ",", "(", "Figure", "4c", ")", "is", "a", "joke", "about", "rape", "and", "older", "women", "It", "is", "offensive", "because", "it", "associates", "rape", "with", "sex", "as", "opposed", "to", "rape", "with956", "violence", "and", "sex", "with", "procreation", "This", "is", "a", "chal-", "lenging", "case", "for", "a", "typical", "ML", "classifier", "—", "there", "is", "no", "majority", ",", "and", "the", "label", "polarities", "are", "also", "oppo-", "site", "In", "this", "case", ",", "our", "prediction", "correctly", "identifies", "the", "majority", "label", "This", "may", "be", "due", "to", "our", "models", "grouping", "similar", "data", "items", "of", "similar", "content", ",", "sup-", "porting", "items", "such", "as", "this", "when", "there", "is", "contrasting", "confidence", "in", "human", "annotators", "Example", "DSIE6", "(", "Figure", "4b", ")", "is", "offensive", "be-", "cause", "it", "makes", "light", "of", "the", "hate", "group", "KKK", "wearing", "hoods", "by", "identifying", "them", "with", "an", "NWA", "song", "and", "film", "about", "African", "American", "teenagers", "(", "“", "boyz", "n", "the", "hood", "”", ")", "The", "PLL", "prediction", "also", "indicates", "that", "this", "post", "may", "have", "been", "intended", "to", "be", "offensive" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "But", "the", "human", "annotator", "thought", "it", "was", "probably", "not", "intended", "to", "be", "offensive", "This", "is", "another", "case", "where", "our", "prediction", "aligns", "with", "our", "judgment", "Example", "DSIE7", ",", "(", "Figure", "4d", ")", "is", "offensive", "be-", "cause", "it", "alludes", "to", "a", "woman", "being", "dead", "and", "thus", "not", "having", "agency", ";", "it", "seems", "threatening", "Two", "hu-", "man", "annotators", "chose", "this", "to", "be", "probably", "intended", "to", "be", "offensive", ",", "and", "one", "annotator", "considered", "it", "not", "intended", "to", "be", "offensive", "The", "prediction", "finds", "this", "intended", "to", "be", "offensive", "A", "commonality", "among", "these", "examples", "is", "that", "they", "all", "contain", "an", "element", "of", "deniability", "—", "the", "poster", "can", "always", "claim", "they", "were", "only", "joking", "One", "challenge", "with", "content", "moderation", "is", "where", "to", "draw", "the", "line", "When", "does", "the", "potential", "harm", "of", "letting", "an", "offensive", "post", "through", "outweigh", "the", "winnowing", "of", "free", "discourse", "?", "The", "answer", "often", "depends", "on", "context", "The", "population", "-", "level", "learning", "approach", "we", "advocate", "here", "can", "help", "provide", "a", "more", "nuanced", "view", "into", "annotator", "response", "It", "may", "also", "provide", "context", "on", "opinions", "to", "inform", "decisions", "about", "what", "should", "and", "should", "not", "be", "censored", "Our", "work", "also", "supports", "the", "findings", "from", "(", "Sap", "et", "al", ",", "2021", ")", ",", "where", "they", "studied", "the", "underlying", "rea-", "sons", "why", "annotators", "disagree", "on", "subjective", "content", ",", "such", "as", "offensive", "language", "annotation", "The", "exam-", "ples", "show", "how", "the", "proposed", "models", "can", "identify", "offensive", "content", "even", "with", "unreliable", "training", "data", "(", "human", "annotations", ")", "5", "Conclusion", "Human", "annotation", "is", "often", "an", "expensive", "-", "to", "-", "acquire", ",", "challenging", ",", "and", "subjective", "resource", "for", "supervised", "machine", "learning", "The", "obstacles", "to", "using", "human", "decisions", "in", "ML", "classification", "tasks", "are", "even", "more", "apparent", "when", "the", "problem", "domain", "is", "social", "me-", "dia", "content", "The", "nuance", ",", "disagreement", ",", "and", "diver", "-", "sity", "of", "opinions", "by", "humans", "augment", "and", "enrich", "the", "complex", "decisions", "machine", "learning", "attempts", "to", "surface", "To", "gain", "as", "much", "utility", "as", "possible", "from", "this", "valuable", "resource", ",", "we", "propose", "and", "subse-", "quently", "CrowdOpinion", "to", "retain", "these", "human", "judg-", "ments", "in", "the", "data", "prediction", "pipeline", "for", "as", "long", "as", "possible" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "First", ",", "this", "work", "introduces", "a", "novel", "method", "for", "mixing", "language", "features", "and", "label", "features", "into", "label", "distribution", "estimators", "to", "improve", "population-", "level", "learning", "Then", ",", "we", "evaluated", "our", "approach", "against", "different", "baselines", "and", "experimented", "with", "datasets", "containing", "varying", "amounts", "of", "annotator", "disagreements", "Our", "results", "suggest", "that", "(", "i", ")", "cluster-", "ing", "is", "an", "effective", "measure", "for", "countering", "the", "prob-", "lem", "of", "label", "sparseness", "when", "learning", "a", "population-", "level", "distribution", "of", "annotator", "responses", ",", "(", "ii", ")", "data", "features", "or", "label", "distributions", "are", "equally", "helpful", "as", "spaces", "in", "which", "to", "perform", "such", "clustering", ",", "and", "thus", "(", "iii", ")", "label", "distributions", "are", "meaningful", "signals", "that", "reflect", "the", "content", "of", "their", "associated", "items", "Limitations", "Evaluation", ":", "We", "evaluate", "work", "as", "a", "single", "-", "label", "learning", "problem", "(", "accuracy", ")", "and", "a", "probability", "dis-", "tribution", "(", "KL", ")" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O" ]

[ "These", "metrics", "do", "not", "fully", "capture", "the", "nuances", "of", "the", "crowd", "(", "Inel", "et", "al", ",", "2014", ")", "We", "hope", "to", "build", "on", "this", "work", "by", "moving", "beyond", "general", "population", "-", "level", "predictions", "to", "predictions", "on", "subpopulations", "of", "interest", ",", "such", "as", "vulnerable", "communities", "We", "hope", "to", "develop", "better", "methods", "for", "evaluating", "and", "assessing", "the", "performance", "of", "population", "-", "level", "learning", "The", "range", "of", "mixing", "(", "w=", ")", "of", "the", "language", "fea-", "tures", "and", "labels", "in", "our", "experiments", "could", "be", "further", "delved", "into" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Our", "experiments", "cover", "weights", "rang-", "ing", "from", "0", "to", "100", "in", "quartiles", ",", "but", "this", "parameter", ",", "as", "a", "hyperparameter", ",", "could", "benefit", "from", "additional", "experiments", "in", "finer", "ranges", "Datasets", ":", "Our", "experimental", "datasets", "have", "been", "primarily", "in", "English", "In", "addressing", "the", "ability", "to", "generalize", ",", "we", "hope", "to", "explore", "other", "offensive", "or", "hate", "speech", "-", "related", "datasets", "from", "other", "languages", "The", "challenge", "of", "evaluating", "our", "models", "with", "other", "languages", "is", "acquiring", "a", "dataset", "with", "annotator-", "level", "labels", ",", "a", "rare", "resource", "for", "English", "datasets", "and", "challenging", "for", "other", "languages", "Finally", ",", "we", "hope", "our", "methods", "open", "the", "discussion", "to", "building", "nuanced", "systems", "that", "capture", "human", "disagreement", "while", "studying", "subjective", "content", "on", "social", "media", "Computation", ":", "As", "our", "experiments", "follow", "a", "two-", "stage", "setup", ",", "the", "first", "phase", "(", "data", "mixing", ")", "of", "it", "can957", "be", "further", "optimized", "to", "run", "on", "GPUs", "similar", "to", "the", "second", "phase", "(", "classification", ")", ",", "which", "is", "running", "on", "GPU", "through", "the", "TensorFlow", "/", "Keras", "implementa-", "tion", "The", "first", "phase", "utilizes", "libraries", "through", "Sckit-", "learn", ",", "BNPY", ",", "and", "scripts", "through", "Python", "(", "NBP", ")", ",", "which", "can", "be", "a", "bottleneck", "for", "implementing", "the", "work", "and", "expanding", "Ethical", "Considerations", "Our", "analysis", "constitutes", "a", "secondary", "study", "of", "pub-", "licly", "available", "datasets", "and", "thus", "is", "considered", "ex-", "empt", "from", "a", "federal", "human", "subjects", "research", "per-", "spective", "However", ",", "as", "with", "any", "study", "that", "in-", "volves", "data", "collected", "from", "humans", ",", "there", "is", "a", "risk", "that", "it", "can", "be", "used", "to", "identify", "people", "(", "Hovy", "and", "Spruit", ",", "2016", ";", "Kralj", "Novak", "et", "al", ",", "2022", ")", "We", "under-", "stand", "these", "risks", "and", "train", "and", "test", "our", "models", "on", "anonymized", "data", "to", "minimize", "them", "In", "addition", ",", "it", "is", "essential", "to", "note", "that", "any", "methods", "identifying", "marginalized", "voices", "can", "also", "aid", "in", "selective", "censor-", "ship", "Our", "models", "in", "Stage", "1", "and", "Stage", "2", ",", "generate", "rich", "soft", "label", "distributions", ",", "this", "can", "be", "helpful", "for", "ML", "models", "to", "learn", "from", "a", "representative", "label", "The", "distributions", "can", "also", "help", "with", "making", "deci-", "sions", "taking", "into", "account", "the", "right", "to", "freedom", "of", "expression", "and", "right", "to", "safety", "for", "human", "content", "creators", ",", "consumers", ",", "and", "annotators", "Acknowledgments", "The", "funding", "for", "this", "research", "was", "provided", "by", "a", "Google", "Research", "Award", ",", "along", "with", "support", "from", "Google", "Cloud", "Research", "credits", "Additionally", ",", "re-", "sources", "from", "Research", "Computing", "at", "the", "Rochester", "Institute", "of", "Technology", "(", "2022", ")", "were", "utilized" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "967–982", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for", "Computational", "Linguistics", "Post", "-", "Abstention", ":", "Towards", "Reliably", "Re", "-", "Attempting", "the", "Abstained", "Instances", "in", "QA", "Neeraj", "Varshney", "and", "Chitta", "Baral", "Arizona", "State", "University", "Abstract", "Despite", "remarkable", "progress", "made", "in", "natural", "language", "processing", ",", "even", "the", "state", "-", "of", "-", "the", "-", "art", "models", "often", "make", "incorrect", "predictions" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Such", "predictions", "hamper", "the", "reliability", "of", "systems", "and", "limit", "their", "widespread", "adoption", "in", "real-", "world", "applications", "Selective", "prediction", "partly", "addresses", "the", "above", "concern", "by", "enabling", "mod-", "els", "to", "abstain", "from", "answering", "when", "their", "pre-", "dictions", "are", "likely", "to", "be", "incorrect", "While", "se-", "lective", "prediction", "is", "advantageous", ",", "it", "leaves", "us", "with", "a", "pertinent", "question", "‘", "what", "to", "do", "after", "ab-", "stention", "’", "To", "this", "end", ",", "we", "present", "an", "explo-", "rative", "study", "on", "‘", "Post", "-", "Abstention", "’", ",", "a", "task", "that", "al-", "lows", "re", "-", "attempting", "the", "abstained", "instances", "with", "the", "aim", "of", "increasing", "coverage", "of", "the", "system", "without", "significantly", "sacrificing", "its", "accuracy" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "first", "provide", "mathematical", "formulation", "of", "this", "task", "and", "then", "explore", "several", "methods", "to", "solve", "it", "Comprehensive", "experiments", "on", "11", "QA", "datasets", "show", "that", "these", "methods", "lead", "to", "considerable", "risk", "improvements", "–", "performance", "metric", "of", "the", "Post", "-", "Abstention", "task", "–", "both", "in", "the", "in", "-", "domain", "and", "the", "out", "-", "of", "-", "domain", "settings", "We", "also", "conduct", "a", "thorough", "analysis", "of", "these", "re-", "sults", "which", "further", "leads", "to", "several", "interesting", "findings", "Finally", ",", "we", "believe", "that", "our", "work", "will", "encourage", "and", "facilitate", "further", "research", "in", "this", "important", "area", "of", "addressing", "the", "reliability", "of", "NLP", "systems", "1", "Introduction", "Despite", "remarkable", "progress", "made", "in", "Natural", "Lan-", "guage", "Processing", "(", "NLP", ")", ",", "even", "the", "state", "-", "of", "-", "the", "-", "art", "systems", "often", "make", "incorrect", "predictions", "This", "problem", "becomes", "worse", "when", "the", "inputs", "tend", "to", "diverge", "from", "the", "training", "data", "distribution", "(", "Elsa-", "har", "and", "Gallé", ",", "2019", ";", "Miller", "et", "al", ",", "2020", ";", "Koh", "et", "al", ",", "2021", ")", "Incorrect", "predictions", "hamper", "the", "reliability", "of", "systems", "and", "limit", "their", "widespread", "adoption", "in", "real", "-", "world", "applications", "Selective", "prediction", "partly", "addresses", "the", "above", "concern", "by", "enabling", "models", "to", "abstain", "from", "answer-", "ing", "when", "their", "predictions", "are", "likely", "to", "be", "incorrect", "By", "avoiding", "potentially", "incorrect", "predictions", ",", "it", "allows", "maintaining", "high", "task", "accuracy", "and", "thus", "improves", "the", "system", "’s", "reliability" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O" ]

[ "Selective", "predic-", "tion", "has", "recently", "received", "considerable", "attention", "from", "the", "NLP", "community", "leading", "to", "development", "of", "several", "methods", "(", "Kamath", "et", "al" ]

[ "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ ",", "2020", ";", "Garg", "and", "Moschitti", ",", "2021", ";", "Xin", "et", "al", ",", "2021", ";", "Varshney", "et", "al", ",", "2022d", ")", "While", "these", "contributions", "are", "important", ",", "selective", "prediction", "leaves", "us", "with", "a", "pertinent", "ques-", "tion", ":", "what", "to", "do", "after", "abstention", "?" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "this", "work", ",", "we", "address", "the", "above", "question", "and", "present", "an", "explorative", "study", "on", "‘", "Post", "-", "Abstention", "’", ",", "a", "task", "that", "allows", "re", "-", "attempting", "the", "abstained", "in-", "stances", "with", "the", "aim", "of", "increasing", "coverage", "of", "the", "given", "selective", "prediction", "system", "without", "signifi-", "cantly", "sacrificing", "its", "accuracy" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Figure", "1", "illustrates", "the", "benefit", "of", "employing", "a", "post", "-", "abstention", "method", ";", "a", "model", "that", "achieves", "an", "accuracy", "of", "70", "%", "is", "first", "enabled", "with", "the", "selective", "prediction", "ability", "that", "increases", "the", "accuracy", "to", "85", "%", "but", "answers", "only", "71", "%", "instances" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricValue", "I-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricValue", "I-MetricValue", "O", "O", "O", "B-MetricValue", "I-MetricValue", "O" ]

[ "Then", ",", "a", "post", "-", "abstention", "method", "is", "employed", "(", "for", "the", "29", "%", "abstained", "instances", ")", "that", "assists", "the", "system", "in", "answering", "9", "%", "more", "instances", "raising", "the", "coverage", "to", "80", "%", "without", "considerably", "dropping", "the", "overall", "accuracy", "We", "note", "that", "this", "task", "allows", "re", "-", "attempting", "all", "the", "abstained", "instances", "but", "does", "not", "require", "the", "system", "to", "necessarily", "out-", "put", "predictions", "for", "all", "of", "them", "i.e", "the", "system", "can", "abstain", "even", "after", "utilizing", "a", "post", "-", "abstention", "method", "(", "when", "it", "is", "not", "sufficiently", "confident", "even", "in", "its", "new", "prediction", ")", "This", "facet", "not", "only", "allows", "the", "system", "to", "maintain", "its", "performance", "but", "also", "provides", "opportunities", "of", "sequentially", "applying", "stronger", "post", "-", "abstention", "methods", "to", "reliably", "and", "optimally", "increase", "the", "coverage", "in", "stages", "We", "provide", "mathematical", "formulation", "of", "the", "post", "-", "abstention", "task", "and", "explore", "several", "baseline", "methods", "to", "solve", "it", "(", "Section", "2", ")" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "evaluate", "the", "effi-", "cacy", "of", "these", "methods", ",", "we", "conduct", "comprehensive", "experiments", "with", "11Question", "-", "Answering", "datasets", "from", "MRQA", "shared", "task", "(", "Fisch", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O" ]

[ ",", "2019", ")", "in967", "Figure", "1", ":", "Illustrating", "the", "impact", "of", "employing", "a", "post", "-", "abstention", "method", "on", "top", "of", "selective", "prediction", "system", "A", "regular", "model", "that", "has", "an", "accuracy", "of", "70", "%", "(", "at", "coverage", "100", "%", ")", "is", "first", "enabled", "with", "selective", "prediction", "ability", "that", "increases", "the", "accuracy", "to", "85", "%", "but", "drops", "the", "coverage", "to", "71", "%" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricValue", "I-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricValue", "I-MetricValue", "O", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue" ]

[ "Then", ",", "on", "employing", "a", "post", "-", "abstention", "method", "to", "the", "abstained", "instances", "(", "remaining", "29", "%", ")", ",", "coverage", "increases", "to", "80", "%", "without", "a", "considerable", "drop", "in", "overall", "accuracy" ]

[ "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName" ]

[ "both", "in", "-", "domain", "and", "out", "-", "of", "-", "domain", "settings", "(", "Sec-", "tion", "3", ")", "Our", "post", "-", "abstention", "methods", "lead", "to", "overall", "risk", "improvements", "(", "performance", "metric", "of", "the", "pro-", "posed", "task", ")", "of", "up", "to", "21.81", "in", "the", "in", "-", "domain", "setting", "and24.23", "in", "the", "out", "-", "of", "-", "domain", "setting", "To", "further", "analyze", "these", "results", ",", "we", "study", "several", "research", "questions", ",", "such", "as", "‘", "what", "is", "the", "extent", "of", "overlap", "between", "the", "instances", "answered", "by", "different", "post-", "abstention", "methods", "’", ",", "‘", "what", "is", "the", "distribution", "of", "model", "’s", "original", "confidence", "on", "instances", "that", "get", "answered", "in", "the", "post", "-", "abstention", "stage", "’", ",", "and", "‘", "how", "often", "do", "the", "system", "’s", "predictions", "change", "after", "ap-", "plying", "post", "-", "abstention", "methods", "’", "In", "Section", "4", ",", "we", "show", "that", "these", "investigations", "lead", "to", "numerous", "important", "and", "interesting", "findings", "In", "summary", ",", "our", "contributions", "are", "as", "follows", ":", "1.We", "present", "an", "explorative", "study", "on", "‘", "Post-", "Abstention", "’", ",", "a", "task", "that", "aims", "at", "increasing", "the", "coverage", "of", "a", "given", "selective", "prediction", "system", "without", "significantly", "sacrificing", "its", "accuracy" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2.Weexplore", "several", "baseline", "post", "-", "abstention", "methods", "and", "evaluate", "them", "in", "an", "extensive", "ex-", "perimental", "setup", "spanning", "11QA", "datasets", "in", "both", "in", "-", "domain", "and", "out", "-", "of", "-", "domain", "settings" ]

[ "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "3.We", "show", "that", "the", "proposed", "post", "-", "abstention", "meth-", "odsresult", "in", "overall", "risk", "value", "improvements", "of", "up", "to", "21.81and24.23", "in", "the", "in", "-", "domain", "and", "out", "-", "of", "-", "domain", "settings", "respectively" ]

[ "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "4.Ourthorough", "analysis", "leads", "to", "several", "interest-", "ing", "findings", ",", "such", "as", "(", "a", ")", "instances", "answered", "by", "different", "post", "-", "abstention", "methods", "are", "not", "mu-", "tually", "exclusive", "i.e", "there", "exist", "some", "overlap-", "ping", "instances", ",", "(", "b", ")", "instances", "that", "get", "answered", "in", "the", "post", "-", "abstention", "stage", "are", "not", "necessarily", "the", "ones", "on", "which", "the", "given", "system", "was", "initiallymost", "confident", ",", "etc" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "believe", "our", "work", "will", "encourage", "further", "re-", "search", "in", "Post", "-", "Abstention", ",", "an", "important", "step", "to-", "wards", "improving", "the", "reliability", "of", "NLP", "systems" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2", "Post", "-", "Abstention", "In", "this", "section", ",", "we", "first", "provide", "background", "for", "post", "-", "abstention", "(", "2.1", ")", "and", "then", "describe", "the", "task", "(", "2.2", ")", "and", "its", "approaches", "(", "2.3", ")" ]

[ "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2.1", "Background", "Post", "-", "abstention", ",", "as", "the", "name", "suggests", ",", "is", "applicable", "for", "a", "system", "that", "abstains", "from", "answering", "i.e" ]

[ "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "a", "selective", "prediction", "system", "A", "system", "can", "typically", "abstain", "when", "its", "prediction", "is", "likely", "to", "be", "incorrect", "This", "improves", "the", "reliability", "of", "the", "system", "Such", "a", "system", "typically", "consists", "of", "two", "functions", ":", "a", "pre-", "dictor", "(", "f", ")", "that", "gives", "the", "model", "’s", "prediction", "on", "an", "input", "(", "x", ")", "and", "a", "selector", "(", "g", ")", "that", "determines", "if", "the", "system", "should", "output", "the", "prediction", "made", "by", "f", ":", "(", "f", ",", "g", ")", "(", "x", ")", "=", "/", "braceleftigg", "f", "(", "x", ")", ",", "if", "g", "(", "x", ")", "=", "1", "Abstain", ",", "if", "g", "(", "x", ")", "=", "0", "Typically", ",", "gcomprises", "of", "a", "prediction", "confidence", "estimator", "˜gand", "a", "threshold", "ththat", "controls", "the", "level", "of", "abstention", "for", "the", "system", ":", "g", "(", "x", ")", "=", "1", "[", "˜g", "(", "x", ")", ")", ">", "th", "]", "A", "selective", "prediction", "system", "makes", "trade", "-", "offs", "be-", "tween", "coverage", "andrisk", "Coverage", "at", "a", "threshold", "this", "defined", "as", "the", "fraction", "of", "total", "instances", "an-", "swered", "by", "the", "system", "(", "where", "˜g", ">", "th", ")", "and", "risk", "is", "the", "error", "on", "the", "answered", "instances" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "With", "decrease", "in", "threshold", ",", "coverage", "will", "in-", "crease", ",", "but", "the", "risk", "will", "usually", "also", "increase" ]

[ "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The968", "overall", "selective", "prediction", "performance", "is", "mea-", "sured", "by", "the", "area", "under", "Risk", "-", "Coverage", "curve", "(", "El-", "Yaniv", "et", "al", ",", "2010", ")", "which", "plots", "risk", "against", "cover-", "age", "for", "all", "confidence", "thresholds", "Lower", "AUC", "is", "better", "as", "it", "represents", "lower", "average", "risk", "across", "all", "confidence", "thresholds" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "NLP", ",", "approaches", "such", "as", "Monte", "-", "Carlo", "Dropout", "(", "Gal", "and", "Ghahramani", ",", "2016", ")", ",", "Calibra-", "tion", "(", "Kamath", "et", "al", ",", "2020", ";", "Varshney", "et", "al", ",", "2022c", ",", "d", ";", "Zhang", "et", "al", ",", "2021", ")", ",", "Error", "Regularization", "(", "Xin", "et", "al", ",", "2021", ")", "and", "Label", "Smoothing", "(", "Szegedy", "et", "al", ",", "2016", ")", "have", "been", "studied", "for", "selective", "prediction", "In", "this", "work", ",", "we", "consider", "MaxProb", "(", "Hendrycks", "and", "Gim-", "pel", ",", "2017", ")", ",", "a", "technique", "that", "uses", "the", "maximum", "softmax", "probability", "across", "all", "answer", "candidates", "as", "the", "confidence", "estimator" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "use", "this", "simple", "technique", "because", "the", "focus", "of", "this", "work", "is", "on", "post-", "abstention", "i.e" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O" ]

[ "the", "next", "step", "of", "selective", "prediction", "However", ",", "we", "note", "that", "the", "task", "formulation", "and", "the", "proposed", "methods", "are", "general", "and", "applicable", "to", "all", "selective", "prediction", "approaches", "2.2", "Task", "Formulation", "We", "define", "the", "post", "-", "abstention", "task", "as", "follows", ":", "Given", "a", "selective", "prediction", "system", "with", "an", "abstention", "threshold", ",", "the", "post", "-", "abstention", "task", "allows", "re", "-", "attempting", "the", "abstained", "instances", "with", "the", "aim", "of", "improving", "the", "coverage", "with-", "out", "considerably", "degrading", "the", "accuracy", "(", "or", "increasing", "the", "risk", ")", "of", "the", "given", "system" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Next", ",", "we", "mathematically", "describe", "the", "task", "and", "its", "performance", "evaluation", "methodology", "Let", "the", "coverage", "and", "risk", "of", "the", "given", "selective", "prediction", "system", "at", "abstention", "threshold", "thbe", "covthandrisk", "threspectively", "A", "post", "-", "abstention", "method", "re", "-", "attempts", "the", "originally", "abstained", "in-", "stances", "(", "where", "˜g", "<", "th", ")", "and", "outputs", "the", "new", "pre-", "diction", "for", "the", "ones", "where", "it", "is", "now", "sufficiently", "confident" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "typically", "leads", "to", "an", "increase", "in", "the", "coverage", "of", "the", "system", "with", "some", "change", "in", "the", "risk", "value", ";", "let", "the", "new", "coverage", "and", "risk", "be", "cov′", "th", "andrisk′", "threspectively", "From", "the", "risk", "-", "coverage", "curve", "of", "the", "given", "system", ",", "we", "calculate", "its", "risk", "at", "coverage", "cov′", "thand", "compare", "it", "with", "risk′", "thto", "measure", "the", "efficacy", "of", "the", "post", "-", "abstention", "method", "(", "refer", "to", "Figure", "2", ")", "For", "a", "method", "to", "have", "a", "positive", "impact", ",", "its", "risk", "(", "risk′", "th", ")", "should", "be", "lower", "than", "the", "risk", "of", "the", "given", "system", "at", "coverage", "cov′", "th", "We", "summarize", "this", "performance", "evaluation", "methodology", "in", "Figure", "2", "To", "get", "an", "overall", "performance", "estimate", "of", "a", "post-", "Figure", "2", ":", "Summarizing", "performance", "evaluation", "methodology", "of", "post", "-", "abstention", "Given", "a", "selective", "pre-", "diction", "system", "with", "coverage", "covthand", "risk", "risk", "that", "abstention", "threshold", "th", ",", "let", "the", "new", "coverage", "and", "risk", "after", "applying", "a", "post", "-", "abstention", "method", "be", "cov′", "thand", "risk′", "threspectively" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O" ]

[ "From", "the", "risk", "-", "coverage", "curve", "of", "the", "given", "system", ",", "we", "calculate", "its", "risk", "at", "coverage", "cov′", "th", "and", "compare", "it", "with", "risk′", "th", "(", "diff", ")" ]

[ "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "the", "method", "to", "have", "a", "positive", "impact", ",", "risk′", "thshould", "be", "lower", "than", "the", "risk", "of", "the", "given", "system", "at", "coverage", "cov′", "th", "abstention", "method", ",", "we", "compile", "these", "differences", "in", "risk", "values", "for", "all", "confidence", "thresholds", "and", "cal-", "culate", "an", "aggregated", "value" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O" ]

[ "The", "higher", "the", "overall", "improvement", "value", ",", "the", "more", "effective", "the", "method", "is", "We", "note", "that", "this", "evaluation", "methodology", "is", "fair", "and", "accurate", "as", "it", "conducts", "pair", "-", "wise", "comparisons", "atequal", "coverage", "points", "An", "alternative", "perfor-", "mance", "metric", "could", "be", "AUC", "but", "it", "computes", "the", "overall", "area", "ignoring", "the", "pair", "-", "wise", "comparisons", "which", "are", "crucial", "for", "our", "task", "because", "the", "cover-", "age", "points", "of", "the", "original", "system", "would", "be", "different", "from", "those", "achieved", "by", "the", "post", "-", "abstention", "method" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O" ]

[ "2.3", "Approaches", "2.3.1", "Ensembling", "using", "Question", "Paraphrases", "It", "is", "well", "known", "that", "even", "state", "-", "of", "-", "the", "-", "art", "NLP", "models", "are", "often", "brittle", "i.e", "when", "small", "semantic-", "preserving", "changes", "are", "made", "to", "the", "input", ",", "their", "predictions", "tend", "to", "fluctuate", "greatly", "(", "Jia", "and", "Liang", ",", "2017", ";", "Belinkov", "and", "Bisk", ",", "2018", ";", "Iyyer", "et", "al", ",", "2018", ";", "Ribeiro", "et", "al", ",", "2018", ";", "Wallace", "et", "al", ",", "2019", ")", "En-", "sembling", "the", "predictions", "of", "the", "model", "on", "multiple", "semantically", "equivalent", "variants", "of", "the", "input", "is", "a", "promising", "approach", "to", "address", "this", "issue", "(", "Anantha", "et", "al", ",", "2021", ";", "Vakulenko", "et", "al", ",", "2021", ")", "as", "it", "can", "reduce", "the", "spread", "or", "dispersion", "of", "the", "predictions.969", "Figure", "3", ":", "Illustrating", "annotation", "procedure", "of", "REToP", "For", "each", "training", "instance", ",", "top", "N", "predictions", "given", "by", "the", "QA", "model", "are", "annotated", "conditioned", "on", "their", "correctness", "i.e", "correct", "predictions", "are", "annotated", "as", "‘", "1", "’", "and", "incorrect", "predictions", "are", "annotated", "as", "‘", "0", "’", "This", "annotated", "binary", "classification", "dataset", "is", "used", "to", "train", "the", "auxiliary", "model", "We", "leverage", "the", "above", "technique", "in", "re-", "attempting", "the", "abstained", "questions", "i.e", "we", "first", "generate", "multiple", "paraphrases", "of", "the", "input", "instance", "and", "then", "aggregate", "the", "model", "’s", "predictions", "on", "them", "We", "use", "BART", "-", "large", "(", "Lewis", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O" ]

[ ",", "2019", ")", "model", "fine", "-", "tuned", "on", "Quora", "Question", "Corpus", "(", "Iyer", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O" ]

[ ",", "2017", ")", ",", "PAWS", "(", "Zhang", "et", "al" ]

[ "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O" ]

[ ",", "2019", ")", ",", "and", "Microsoft", "Research", "Paraphrase", "Corpus", "(", "Dolan", "and", "Brockett", ",", "2005", ")", "for", "paraphrasing", "and", "explore", "the", "following", "strategies", "for", "aggregating", "the", "model", "predictions", ":", "•Mean", ":", "In", "this", "strategy", ",", "we", "calculate", "the", "average", "confidence", "assigned", "to", "each", "answer", "candidate", "across", "all", "predictions" ]

[ "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Then", ",", "we", "select", "the", "candi-", "date", "with", "the", "highest", "average", "confidence", "as", "the", "system", "’s", "prediction", "Note", "that", "the", "system", "will", "output", "this", "prediction", "only", "if", "its", "confidence", "sur-", "passes", "the", "abstention", "threshold", "•Max", ":", "Here", ",", "like", "the", "mean", "strategy", ",", "we", "select", "the", "answer", "candidate", "with", "the", "highest", "average", "confidence", "but", "we", "use", "the", "maximum", "confidence", "assigned", "to", "that", "candidate", "as", "its", "prediction", "con-", "fidence", "This", "is", "done", "to", "push", "the", "most", "confident", "prediction", "above", "the", "abstention", "threshold", "2.3.2", "Re", "-", "Examining", "Top", "N", "Predictions", "(", "REToP", ")", "State", "-", "of", "-", "the", "-", "art", "models", "have", "achieved", "impressive", "performance", "on", "numerous", "NLP", "tasks", "Even", "in", "cases", "where", "they", "fail", "to", "make", "a", "correct", "prediction", ",", "they", "are", "often", "able", "to", "rank", "the", "correct", "answer", "as", "one", "of", "their", "top", "N", "predictions", "This", "provides", "op-", "portunities", "for", "re", "-", "examining", "the", "top", "N", "predictions", "to", "identify", "the", "correct", "answer", "in", "case", "of", "abstention", "To", "this", "end", ",", "a", "model", "that", "can", "estimate", "the", "correct-", "ness", "of", "a", "prediction", "can", "be", "leveraged", "Following", "this", "intuition", ",", "we", "develop", "an", "auxiliary", "model", "that", "takes", "the", "context", ",", "question", ",", "and", "a", "prediction", "as", "in-", "put", "and", "assigns", "a", "score", "indicating", "the", "likelihoodof", "that", "prediction", "to", "be", "correct", "This", "model", "can", "be", "used", "for", "each", "of", "the", "top", "N", "predictions", "given", "by", "the", "QA", "model", "to", "select", "the", "one", "that", "is", "most", "likely", "to", "be", "the", "correct", "answer", "Training", "Auxiliary", "Model", ":", "We", "first", "create", "data", "instances", "by", "annotating", "(", "context", ",", "question", ",", "predic-", "tion", ")", "triplets", "conditioned", "on", "the", "correctness", "of", "the", "QA", "system", "’s", "predictions", "and", "then", "train", "a", "classifica-", "tion", "model", "using", "this", "data", "This", "model", "is", "specific", "to", "the", "given", "QA", "system", "and", "essentially", "learns", "to", "distinguish", "its", "correct", "and", "incorrect", "predictions", "•Annotate", "(", "context", ",", "question", ",", "prediction", ")", "triplets", ":", "We", "utilize", "the", "trained", "QA", "model", "to", "get", "its", "top", "N", "predictions", "for", "each", "training", "instance", "Then", ",", "we", "annotate", "each", "(", "context", ",", "question", ",", "pre-", "diction", ")", "triplet", "based", "on", "the", "prediction", "’s", "correct-", "ness", "i.e", "a", "correct", "prediction", "is", "annotated", "as", "‘", "1", "’", "and", "an", "incorrect", "prediction", "is", "annotated", "as", "‘", "0", "’", "Figure", "3", "illustrates", "this", "annotation", "step", "•Train", "a", "classification", "model", ":", "Then", ",", "a", "binary", "classification", "model", "is", "trained", "using", "the", "anno-", "tated", "dataset", "collected", "in", "the", "previous", "step", "This", "model", "specifically", "learns", "to", "distinguish", "the", "cor-", "rect", "predictions", "of", "the", "QA", "model", "from", "the", "incor-", "rect", "ones", "Softmax", "probability", "assigned", "to", "the", "label", "‘", "1", "’", "corresponds", "to", "the", "likelihood", "of", "correct-", "ness", "for", "each", "prediction", "Note", "that", "we", "use", "the", "QA", "model", "’s", "top", "N", "predictions", "to", "collect", "the", "‘", "0", "’", "annotations", "instead", "of", "randomly", "selecting", "candidates", "because", "this", "procedure", "results", "in", "highly", "informative", "negative", "instances", "(", "that", "are", "probable", "predictions", "and", "yet", "incorrect", ")", "and", "not", "easy", "/", "obvious", "negatives", "This", "can", "help", "the", "auxil-", "iary", "model", "in", "learning", "fine", "-", "grained", "representations", "distinguishing", "correct", "and", "incorrect", "predictions", "Leveraging", "Auxiliary", "Model", ":", "For", "an", "abstained", "instance", ",", "we", "compute", "the", "likelihood", "value", "for", "each970", "of", "the", "top", "Npredictions", "given", "by", "the", "QA", "model", "us-", "ing", "our", "trained", "auxiliary", "model", "Then", ",", "we", "calculate", "the", "overall", "confidence", "(", "c", ")", "of", "each", "prediction", "(", "p", ")", "as", "a", "weighted", "average", "of", "the", "QA", "model", "’s", "probability", "(", "sq", ")", "and", "the", "auxiliary", "model", "’s", "likelihood", "score", "(", "sa", ")", "i.e.cpis", "calculated", "as", ":", "cp", "=", "α∗sp", "q+", "(", "1−α", ")", "∗sp", "a", "where", "αis", "a", "weight", "parameter" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O" ]

[ "We", "incorporate", "QA", "model", "’s", "probability", "as", "it", "pro-", "vides", "more", "flexibility", "to", "compute", "the", "overall", "confi-", "dence", "Finally", ",", "prediction", "with", "the", "highest", "overall", "confidence", "is", "selected", "as", "the", "new", "prediction", "We", "differentiate", "this", "method", "from", "existing", "methods", "such", "as", "calibration", "in", "Appendix", "C", "2.3.3", "Human", "Intervention", "(", "HI", ")", "In", "intolerant", "application", "domains", "such", "as", "biomedi-", "cals", "where", "incorrect", "predictions", "can", "have", "serious", "consequences", ",", "human", "intervention", "is", "the", "most", "re-", "liable", "technique", "to", "answer", "the", "abstained", "instances" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Human", "intervention", "can", "be", "in", "various", "forms", "such", "as", "providing", "relevant", "knowledge", "to", "the", "model", ",", "ask-", "ing", "clarifying", "questions", "(", "Rao", "and", "Daumé", "III", ",", "2018", ")", "or", "simplifying", "the", "input", "question" ]

[ "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "this", "work", ",", "we", "explore", "a", "simple", "human", "intervention", "approach", "in", "which", "the", "system", "provides", "multiple", "predictions", "instead", "of", "only", "one", "prediction", "for", "the", "abstained", "instances" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "human", "can", "then", "select", "the", "most", "suitable", "prediction", "from", "the", "provided", "predictions", "Performance", "of", "this", "method", "can", "be", "approximated", "based", "on", "the", "presence", "of", "the", "correct", "answer", "in", "the", "predictions", "provided", "to", "the", "human", "Note", "that", "the", "above", "approach", "would", "answer", "all", "the", "abstained", "in-", "stances", "and", "hence", "the", "coverage", "would", "always", "be", "100", "%" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "B-MetricValue", "I-MetricValue" ]

[ "This", "implies", "that", "with", "the", "increase", "in", "ab-", "stention", "threshold", ",", "the", "risk", "would", "monotonically", "decrease", "as", "multiple", "predictions", "would", "be", "returned", "for", "a", "larger", "number", "of", "instances" ]

[ "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "addition", "to", "the", "above", "approach", ",", "we", "also", "ex-", "plore", "a", "REToP", "-", "centric", "HI", "approach", "in", "which", "the", "system", "returns", "multiple", "predictions", "only", "when", "RE-", "ToP", "surpasses", "the", "confidence", "threshold", "in", "the", "post-", "abstention", "stage" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "B-TaskName", "I-TaskName", "O" ]

[ "Similar", "to", "REToP", ",", "it", "abstains", "on", "the", "remaining", "instances" ]

[ "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O" ]

[ "Finally", ",", "we", "note", "that", "comparing", "the", "performance", "of", "HI", "approaches", "with", "other", "post", "-", "abstention", "approaches", "would", "be", "unfair", "as", "other", "approaches", "return", "only", "a", "single", "prediction" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "use", "the", "pre-", "processed", "data", "from", "the", "MRQA", "shared", "task", "(", "Fisch", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O" ]

[ ",", "2019", ")", "for", "our", "experiments", "Implementation", "Details", ":", "We", "run", "all", "our", "exper-", "iments", "using", "the", "huggingface", "(", "Wolf", "et", "al", ",", "2020", ")", "implementation", "of", "transformers", "on", "Nvidia", "V100", "16", "GB", "GPUs", "with", "a", "batch", "size", "of", "32and", "learning", "rate", "ranging", "in", "{", "1−5", "}", "e−5", "We", "generate", "10para-", "phrases", "of", "the", "question", "in", "Ensembling", "method", ",", "re-", "examine", "top", "10predictions", ",", "vary", "αin", "the", "range", "0.3−0.7for", "REToP", "method", ",", "and", "vary", "the", "number", "of", "predictions", "in", "the", "range", "2to5for", "HI", "methods" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterValue", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "B-HyperparameterValue", "B-MethodName", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "B-HyperparameterValue", "B-MethodName", "O" ]

[ "Since", "the", "focus", "of", "this", "work", "is", "on", "post", "-", "abstention", ",", "it", "’s", "crucial", "to", "experiment", "with", "models", "that", "leave", "sufficient", "room", "for", "effectively", "evaluating", "the", "ability", "of", "post", "-", "abstention", "methods" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O" ]

[ "For", "that", "reason", ",", "we", "ex-", "periment", "with", "a", "small", "size", "model", "(", "BERT", "-", "mini", "hav-", "ing", "just", "11.3", "M", "parameters", ")", "from", "Turc", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2019", ")", "for", "our", "experiments", "However", ",", "we", "note", "that", "our", "methods", "are", "general", "and", "applicable", "for", "all", "models", "3.2", "Results", "3.2.1", "REToP", "Table", "1", "shows", "the", "post", "-", "abstention", "performance", "of", "REToP", "for", "selected", "abstention", "thresholds" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "B-HyperparameterName", "I-HyperparameterName" ]

[ "The", "last", "column", "(", "‘", "Total", "Risk", "Improvement", "’", ")", "in", "this", "ta-", "ble", "corresponds", "to", "the", "overall", "improvement", "aggre-", "gated", "over", "all", "confidence", "thresholds" ]

[ "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName" ]

[ "It", "can", "be", "observed", "that", "REToP", "achieves", "considerable", "risk", "improvements", "both", "in", "the", "in", "-", "domain", "setting", "(", "21.81", "on", "SQuAD", ")", "and", "the", "out", "-", "of", "-", "domain", "settings", "(", "24.23", "on", "TextbookQA", ",", "21.54on", "HotpotQA", ",", "20.42on", "RE", ",", "etc", ")" ]

[ "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "B-DatasetName", "O", "B-MetricValue", "B-DatasetName", "O", "B-MetricValue", "B-DatasetName", "O", "O", "O" ]

[ "Next", ",", "we", "analyze", "these", "results", "in", "detail", "Higher", "improvement", "on", "moderate", "confidences", ":", "In", "Figure", "4", ",", "we", "plot", "risk", "improvements", "achieved", "by", "REToP", "on", "SQuAD", "(", "in", "-", "domain", ")", "and", "HotpotQA", "(", "out", "-", "of", "-", "domain", ")", "datasets", "for", "all", "confidence", "thresh-", "olds" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "B-MethodName", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName" ]

[ "The", "QA", "model", "is", "trained", "using", "SQuAD", "training", "data", "and", "evaluated", "on", "SQuAD", "(", "in", "-", "domain", ")", "and", "10", "out", "-", "of", "-", "domain", "datasets" ]

[ "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "each", "dataset", ",", "we", "provide", "three", "rows", ":", "first", "row", "(", "‘", "Given", "’", ")", "shows", "the", "coverage", "and", "risk", "values", "of", "the", "given", "selective", "prediction", "system", "at", "different", "abstention", "thresholds", ",", "second", "row", "(", "‘", "REToP", "’", ")", "shows", "the", "coverage", "and", "risk", "after", "applying", "REToP", "on", "abstained", "instances", "of", "the", "given", "system", ",", "and", "third", "row", "(", "‘", "G", "@", "REToP", "cov", "’", ")", "shows", "risk", "of", "the", "given", "system", "at", "the", "coverage", "achieved", "by", "REToP" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName" ]

[ "For", "the", "post", "abstention", "method", "to", "be", "effective", ",", "risk", "in", "the", "second", "row", "should", "be", "less", "than", "that", "in", "the", "third", "row", "and", "the", "magnitude", "of", "difference", "corresponds", "to", "the", "improvement" ]

[ "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "last", "column", "corresponds", "to", "the", "overall", "improvement", "aggregated", "over", "all", "confidences", "ranging", "from", "0", "to", "1", "at", "an", "interval", "of", "0.02.↓and↑indicate", "that", "lower", "(", "risk", ")", "and", "higher", "(", "coverage", ",", "risk", "improvement", ")", "values", "are", "better", "respectively" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "B-HyperparameterValue", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "more", "on", "moderate", "thresholds", "as", "compared", "to", "low", "thresholds", "We", "attribute", "this", "to", "the", "high", "difficulty", "of", "instances", "that", "remain", "to", "be", "re", "-", "attempted", "at", "low", "thresholds", "i.e", "only", "the", "instances", "on", "which", "the", "given", "system", "was", "highly", "underconfident", "are", "left", "for", "the", "post", "-", "abstention", "method", "It", "has", "been", "shown", "that", "model", "’s", "confidence", "is", "negatively", "correlated", "with", "difficulty", "(", "Swayamdipta", "et", "al", ",", "2020", ";", "Rodriguez", "et", "al", ",", "2021", ";", "Varshney", "et", "al", ",", "2022b", ")", "implying", "that", "the", "remaining", "instances", "are", "tough", "to", "be", "answered", "correctly", "This", "justifies", "the", "lesser", "improvement", "in", "performance", "observed", "at", "low", "thresholds", "In", "-", "Domain", "vs", "Out", "-", "of", "-", "Domain", "Improvement", ":", "REToP", "achieves", "higher", "performance", "improvement", "on", "the", "in", "-", "domain", "dataset", "than", "the", "out", "-", "of", "-", "domain", "datasets", "(", "on", "average", ")" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "is", "expected", "as", "the", "auxil-", "Figure", "4", ":", "Improvement", "in", "risk", "achieved", "by", "using", "RE-", "ToP", "in", "post", "-", "abstention", "on", "SQuAD", "(", "in", "-", "domain", ")", "and", "Hot-", "potQA", "(", "out", "-", "of", "-", "domain", ")", "datasets", "for", "all", "confidences" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "iary", "model", "in", "REToP", "is", "trained", "using", "the", "in", "-", "domain", "training", "data" ]

[ "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "However", ",", "it", "still", "has", "good", "perfor-", "mance", "on", "out", "-", "of", "-", "domain", "datasets", "as", "the", "auxiliary", "model", "learns", "fine", "-", "grained", "representations", "to", "dis-", "tinguish", "between", "correct", "and", "incorrect", "predictions", "Furthermore", ",", "the", "improvement", "on", "out", "-", "of", "-", "domain972", "Dataset", "Ens", "*", "for", "HI", "indicates", "that", "it", "’s", "results", "are", "not", "directly", "comparable", "as", "it", "outputs", "multiple", "predictions", "while", "others", "output", "only", "one" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "data", "varies", "greatly", "across", "datasets", "(", "from", "0.7", "on", "TriviaQA", "to", "24.23", "on", "TextbookQA", ")" ]

[ "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "B-DatasetName", "O", "B-MetricValue", "O", "B-DatasetName", "O" ]

[ "3.2.2", "Comparing", "Post", "-", "Abstention", "Approaches", "We", "provide", "the", "performance", "tables", "for", "other", "post-", "abstention", "approaches", "in", "Appendix" ]

[ "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "However", ",", "we", "compare", "their", "total", "risk", "improvement", "values", "in", "Table", "2" ]

[ "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O" ]

[ "In", "the", "in", "-", "domain", "setting", ",", "REToP", "achieves", "higher", "improvement", "than", "Ensembling", "method" ]

[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "B-MethodName", "I-MethodName" ]

[ "This", "is", "because", "the", "auxiliary", "model", "in", "RE-", "ToP", "has", "specifically", "learned", "to", "distinguish", "the", "cor-", "rect", "and", "incorrect", "predictions", "from", "the", "training", "data", "of", "this", "domain" ]

[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "However", ",", "in", "some", "out", "-", "of", "-", "domain", "cases", ",", "Ensembling", "outperforms", "REToP", "(", "SearchQA", ",", "TriviaQA", ",", "NewsQA", ")" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-DatasetName", "O", "B-DatasetName", "O", "B-DatasetName", "O", "B-DatasetName", "O" ]

[ "Overall", ",", "REToP", "leads", "to", "a", "consistent", "and", "higher", "risk", "improvement", "on", "average" ]

[ "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O" ]

[ "Ensembling", "also", "leads", "to", "a", "minor", "degradation", "in", "a", "few", "out", "-", "of", "-", "domain", "datasets", "(", "DuoRC", "and", "Text-", "bookQA", ")" ]

[ "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "I-DatasetName", "O" ]

[ "Next", ",", "we", "analyze", "the", "performance", "of", "human", "intervention", "(", "HI", ")", "methods" ]

[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O" ]

[ "3.2.3", "Human", "Intervention", "(", "HI", ")", "We", "study", "two", "variants", "of", "HI", "method", "In", "the", "first", "variant", ",", "multiple", "predictions", "(", "n=2", ")", "are", "returned", "for", "all", "the", "abstained", "instances" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "makes", "the", "cover-", "age", "to", "be", "100", "%", "for", "all", "the", "confidences", ";", "therefore", ",", "we", "present", "only", "the", "risk", "values", "in", "Table", "3" ]

[ "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "B-MetricValue", "I-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O" ]

[ "As", "ex-", "pected", ",", "with", "increase", "in", "abstention", "threshold", ",", "the", "risk", "decreases", "because", "multiple", "predictions", "get", "out-", "putted", "for", "a", "larger", "number", "of", "instances" ]

[ "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Selection", "of", "operating", "threshold", "for", "an", "application", "depends", "on", "the", "trade", "-", "off", "between", "risk", "that", "can", "be", "tolerated", "and", "human", "effort", "required", "to", "select", "the", "most", "suit-", "able", "prediction", "from", "a", "set", "of", "predictions", "returned", "by", "the", "system", "be", "selected", "for", "tolerant", "applications", "like", "movie", "rec-", "ommendations", "and", "a", "high", "threshold", "for", "tolerant", "applications", "like", "house", "robots", "In", "the", "second", "variant", "of", "HI", "method", ",", "we", "study", "aREToP", "-", "centric", "approach", "in", "which", "the", "system", "returns", "multiple", "predictions", "only", "when", "REToP", "surpasses", "the", "confidence", "threshold", "in", "the", "post-", "abstention", "stage" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O" ]

[ "The", "last", "column", "in", "Table", "2", "shows", "the", "risk", "improvements", "achieved", "by", "this", "approach", "(", "n=2", ")" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "B-HyperparameterName", "O" ]

[ "Note", "that", "REToP", "re", "-", "examines", "the", "top", "N", "pre-", "dictions", "and", "selects", "one", "while", "this", "method", "outputs", "multiple", "predictions", "and", "requires", "a", "human", "to", "select", "the", "most", "suitable", "one" ]

[ "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "These", "results", "indicate", "that", "though", "REToP", "achieves", "good", "performance", ",", "there", "is", "still", "some", "room", "for", "improvement" ]

[ "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "3.2.4", "Ensembling", "Using", "Paraphrases", "Comparing", "the", "performance", "of", "Mean", "and", "Max", "En-", "sembling", "strategies", "reveals", "that", "Max", "increases", "the", "coverage", "more", "than", "the", "Mean", "strategy", "but", "it", "also", "in-", "creases", "the", "risk", "considerably" ]

[ "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O" ]

[ "Thus", ",", "pushing", "the", "in-", "stance", "’s", "confidence", "to", "surpass", "the", "abstention", "thresh-", "old", "fails", "to", "provide", "risk", "improvements" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "B-MetricName", "I-MetricName" ]

[ "However", ",", "such", "a", "technique", "could", "be", "employed", "in", "scenarios", "where", "risk", "degradation", "can", "be", "tolerated", "4", "Analysis", "What", "is", "the", "distribution", "of", "model", "’s", "original", "con-", "fidence", "on", "the", "instances", "that", "get", "answered", "after", "applying", "post", "-", "abstention", "method", "?", "In", "Figure", "5", ",", "we", "show", "the", "distribution", "of", "model", "’s", "original", "con-", "fidence", "on", "SQuAD", "instances", "that", "get", "answered", "by", "REToP", "at", "abstention", "threshold", "0.5" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue" ]

[ "Green", "-", "colored", "bars", "represent", "the", "number", "of", "instances", "answered", "from", "each", "confidence", "bucket", "We", "found", "that", "REToP", "answers", "a", "large", "number", "of", "instances", "from", "the", "high973", "Figure", "5", ":", "Distribution", "of", "QA", "model", "’s", "confidence", "on", "SQuAD", "instances", "that", "get", "answered", "after", "applying", "RE-", "ToP", "at", "abstention", "threshold", "0.5" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue" ]

[ "confidence", "buckets", ";", "however", ",", "instances", "from", "even", "low", "confidence", "buckets", "get", "answered", "This", "can", "fur-", "ther", "be", "controlled", "using", "the", "weight", "parameter", "(", "α", ")", "in", "the", "overall", "confidence", "computation" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O" ]

[ "How", "often", "do", "the", "system", "’s", "predictions", "change", "after", "applying", "REToP", "and", "what", "is", "its", "impact", "?" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O" ]

[ "REToP", "can", "either", "boost", "the", "confidence", "of", "the", "top", "most", "prediction", "of", "the", "given", "model", "or", "can", "select", "a", "different", "answer", "by", "re", "-", "examining", "its", "top", "N", "pre-", "dictions" ]

[ "B-MethodName", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "Figure", "6", ",", "we", "specifically", "analyze", "the", "latter", "scenario", "i.e", "the", "instances", "on", "which", "REToP", "’s", "prediction", "differs", "from", "the", "original", "model", "’s", "pre-", "diction" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "At", "a", "threshold", "of", "0.5", ",", "the", "original", "system", "abstains", "on", "3411", "SQuAD", "instances", "and", "after", "ap-", "plying", "REToP", ",", "it", "answers", "1110", "of", "those", "instances" ]

[ "O", "O", "B-HyperparameterName", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O" ]

[ "Out", "of", "these", "1110", "instances", ",", "the", "REToP", "changes", "the", "prediction", "on", "186instances" ]

[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O" ]

[ "The", "original", "pre-", "diction", "is", "incorrect", "in", "more", "cases", "(", "99vs87", ")", "and", "after", "applying", "REToP", ",", "the", "system", "gives", "116correct", "predictions", "and", "only", "70incorrect" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "implies", "that", "by", "overriding", "the", "original", "system", "’s", "prediction", ",", "RE-", "ToP", "improves", "the", "system", "’s", "accuracy" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "B-MetricName" ]

[ "To", "what", "extent", "do", "the", "instances", "answered", "by", "different", "post", "-", "abstention", "methods", "overlap", "?", "In", "Figure", "7", ",", "we", "demonstrate", "the", "Venn", "diagram", "of", "SQuAD", "instances", "answered", "by", "REToP", "and", "Ensem-", "bling", "(", "Mean", ")", "approaches", "at", "abstention", "threshold", "0.5" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue" ]

[ "REToP", "answers", "1110", "instances", "while", "Ensem-", "bling", "answers", "277and", "there", "127common", "instances", "between", "the", "two", "approaches" ]

[ "B-MethodName", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "indicates", "that", "the", "two", "sets", "are", "not", "mutually", "exclusive", "i.e", "there", "are", "some", "instances", "that", "get", "targeted", "by", "both", "the", "ap-", "Figure", "6", ":", "Number", "of", "correct", "(", "green", ")", "and", "incorrect", "(", "red", ")", "predictions", "on", "those", "abstained", "SQuAD", "instances", "where", "REToP", "surpasses", "the", "abstention", "threshold", "of", "0.5", "but", "its", "prediction", "differs", "from", "the", "original", "system" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "B-MethodName", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O" ]