Datasets:

midas
/

duc2001

Modalities:

Text

Size:

< 1K

Libraries:

Datasets

Dataset card Data Studio Files Files and versions

xet

Community

Dataset Viewer

Auto-converted to Parquet Duplicate

Subset (3)

extraction · 308 rows

Split (1)

test · 308 rows

id stringlengths 8 15	document sequence	doc_bio_tags sequence
AP881222-0089	[ "Here", ",", "at", "a", "glance", ",", "are", "developments", "today", "involving", "the", "crash", "of", "Pan", "American", "World", "Airways", "Flight", "103", "Wednesday", "night", "in", "Lockerbie", ",", "Scotland", ",", "that", "killed", "all", "259", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "I", "I", "I", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
AP880331-0140	[ "Rumbling", "spring", "thunderstorms", "have", "announced", "the", "beginning", "of", "the", "unofficial", "tornado", "season", "that", "runs", "from", "April", "through", "June", "across", "Texas", "and", "other", "Tornado", "Alley", "states", "in", "the", "nat...	[ "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "...
AP880629-0159	[ "Two", "U.S.", "Air", "Force", "F-16", "fighter", "jets", "crashed", "in", "the", "air", "today", "and", "exploded", ",", "an", "air", "force", "spokeswoman", "said", ".", "The", "accident", "occurred", "less", "than", "two", "hours", "after", "another", "...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
AP881216-0017	[ "A", "recommended", "halt", "to", "the", "government", "'s", "``", "let", "it", "burn", "''", "forest", "fire", "policy", "probably", "would", "be", "over", "by", "the", "start", "of", "the", "Western", "fire", "season", "next", "spring", ",", "according",...	[ "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "...
AP880801-0195	[ "A", "split", ",", "charred", "tree", "stump", "is", "a", "clue", "that", "lightning", "was", "to", "blame", "for", "a", "forest", "fire", ".", "Carbon", "particles", "indicate", "the", "exhaust", "of", "a", "passing", "truck", "was", "the", "culprit", "...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
AP880903-0092	[ "President", "Reagan", "warned", "Saturday", "that", "he", "will", "veto", "any", "welfare", "legislation", "Congress", "sends", "him", "that", "does", "not", "contain", "a", "work", "requirement", ".", "``", "The", "best", "way", "to", "learn", "to", "work"...	[ "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
AP881206-0114	[ "A", "B-52", "bomber", "crashed", "and", "burst", "into", "flames", "early", "today", "on", "a", "runway", "while", "practicing", "``", "touch-and-go", "''", "landings", "at", "K.I.", "Sawyer", "Air", "Force", "Base", ",", "officials", "said", ".", "All", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
AP890131-0280	[ "The", "Office", "of", "Fair", "Trading", "said", "Tuesday", "it", "was", "investigating", "a", "complaint", "alleging", "anti-competitive", "practices", "by", "a", "London-based", "diamond", "cartel", "controlled", "by", "South", "Africa", "'s", "giant", "De", ...	[ "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
AP880811-0299	[ "An", "annual", "Agriculture", "Department", "survey", "confirmed", "Thursday", "that", "a", "deadening", "drought", "will", "curtail", "the", "fall", "corn", "harvest", "by", "a", "third", "or", "more", ",", "resulting", "in", "higher", "retail", "food", "pri...	[ "O", "B", "I", "I", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
AP881009-0072	[ "Ben", "Johnson", "knowingly", "took", "steroids", "and", "those", "close", "close", "to", "the", "runner", "also", "were", "aware", "of", "it", ",", "fellow", "Canadian", "Olympic", "sprinter", "Angella", "Issajenko", "was", "quoted", "as", "saying", "in", ...	[ "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "...
AP890111-0217	[ "Authorities", "questioned", "the", "badly", "injured", "pilot", "of", "a", "crashed", "Boeing", "737", "Wednesday", ",", "but", "revealed", "no", "clues", "as", "to", "why", "the", "jet", "'s", "undamaged", "right", "engine", "was", "shut", "down", "well", ...	[ "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
AP880318-0051	[ "Thousands", "of", "peole", "prayed", ",", "cheered", ",", "danced", ",", "beat", "drums", "and", "observed", "other", "traditions", "today", "as", "a", "total", "eclipse", "of", "the", "sun", "darkened", "a", "wide", "area", "of", "Indonesia", "and", "the...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "...
AP830325-0143	[ "Millions", "of", "gallons", "of", "crude", "oil", "that", "spilled", "when", "a", "tanker", "ran", "aground", "spread", "across", "a", "wildlife-rich", "stretch", "of", "ocean", "Saturday", ",", "and", "Alaska", "'s", "chief", "environmental", "officer", "cri...	[ "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "...
AP880419-0131	[ "A", "tornado", "blasted", "through", "this", "North", "Florida", "town", "before", "dawn", "today", ",", "destroying", "several", "homes", "and", "a", "college", "library", ",", "blowing", "off", "rooftops", ",", "flipping", "cars", "and", "leaving", "four", ...	[ "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "...
AP890228-0019	[ "The", "earthquake", "that", "killed", "25,000", "people", "in", "Armenia", "pushed", "last", "year", "'s", "earthquake-related", "death", "toll", "worldwide", "to", "the", "highest", "level", "since", "1976", ",", "when", "a", "Chinese", "earthquake", "killed",...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "...
AP881126-0007	[ "Further", "study", "of", "a", "newly", "isolated", "hormone", "found", "in", "the", "pancreases", "of", "diabetics", "may", "lead", "to", "new", "treatments", "for", "the", "most", "common", "form", "of", "the", "disease", ",", "a", "scientist", "says", "...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
AP881211-0027	[ "The", "chairman", "of", "the", "House", "Agriculture", "Committee", "says", "hearings", "are", "planned", "next", "year", "into", "how", "the", "U.S.", "Forest", "Service", "handled", "last", "summer", "'s", "stubborn", "wildfires", "that", "scorched", "the", ...	[ "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
AP880705-0018	[ "Three", "hours", "of", "steady", "rain", "Monday", "afternoon", "provided", "a", "much-needed", "edge", "for", "crews", "working", "to", "douse", "a", "blaze", "that", "seared", "1,650", "acres", "in", "Shoshone", "National", "Forest", "in", "Wyoming", ",", ...	[ "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "...
AP880217-0175	[ "A", "coalition", "of", "members", "of", "Congress", "announced", "Wednesday", "that", "they", "plan", "to", "sue", "the", "Census", "Bureau", "in", "an", "effort", "to", "force", "the", "agency", "to", "delete", "illegal", "aliens", "from", "its", "count", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "...
AP881222-0126	[ "A", "U.S.", "Air", "Force", "A-10", "attack", "jet", "crashed", "and", "burned", "in", "Britain", "this", "morning", "while", "on", "a", "routine", "training", "flight", ".", "The", "Pentagon", "said", "the", "pilot", "might", "have", "ejected", "safely", ...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
AP880926-0203	[ "Third", "World", "countries", "led", "by", "Brazil", ",", "the", "world", "'s", "most", "indebted", "developing", "nation", ",", "blamed", "the", "industrialized", "nations", "in", "part", "Monday", "for", "perpetuating", "their", "poverty", ".", "Foreign", "...	[ "B", "I", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "...
AP881210-0115	[ "A", "top", "West", "German", "military", "official", "said", "Saturday", "that", "the", "fiery", "crash", "of", "a", "U.S.", "Air", "Force", "jet", "that", "killed", "six", "people", "will", "further", "erode", "popular", "support", "for", "national", "defe...	[ "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "...
AP880928-0054	[ "Ben", "Johnson", "spent", "his", "homecoming", "in", "seclusion", ",", "without", "the", "Olympic", "gold", "medal", "and", "the", "hero", "'s", "welcome", ",", "as", "Canadians", "bemoaned", "the", "fate", "of", "the", "sprinter", "who", "failed", "the", ...	[ "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
AP880913-0129	[ "Coast", "Guard", "and", "Navy", "aircraft", "and", "vessels", "today", "searched", "for", "a", "crewman", "missing", "from", "an", "F-14", "jet", "fighter", "that", "plunged", "into", "the", "Atlantic", "Ocean", "off", "North", "Carolina", "while", "practicin...	[ "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
AP880928-0146	[ "The", "stripping", "of", "Ben", "Johnson", "'s", "Olympic", "gold", "medal", "in", "a", "drug", "scandal", "has", "wounded", "Canadian", "pride", "and", "shamed", "a", "nation", "hungry", "for", "a", "hero", "to", "replace", "hockey", "superstar", "Wayne", ...	[ "O", "B", "O", "B", "I", "O", "B", "I", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
AP890117-0132	[ "The", "City", "Council", "today", "asked", "county", "prosecutors", "to", "investigate", "the", "conduct", "of", "a", "white", "policeman", "who", "was", "secretly", "filmed", "while", "he", "pushed", "an", "off-duty", "black", "policeman", "through", "a", "p...	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...

End of preview. Expand in Data Studio

YAML Metadata Warning: empty or missing yaml metadata in repo card

Check out the documentation for more information.

Dataset Summary

A dataset for benchmarking keyphrase extraction and generation techniques from english news articles. For more details about the dataset please refer the original paper - https://dl.acm.org/doi/10.5555/1620163.1620205

Original source of the data -

Dataset Structure

Data Fields

id: unique identifier of the document.
document: Whitespace separated list of words in the document.
doc_bio_tags: BIO tags for each word in the document. B stands for the beginning of a keyphrase and I stands for inside the keyphrase. O stands for outside the keyphrase and represents the word that isn't a part of the keyphrase at all.
extractive_keyphrases: List of all the present keyphrases.
abstractive_keyphrase: List of all the absent keyphrases.

Data Splits

Split	#datapoints
Test	308

Usage

Full Dataset

from datasets import load_dataset

# get entire dataset
dataset = load_dataset("midas/duc2001", "raw")

# sample from the test split
print("Sample from test dataset split")
test_sample = dataset["test"][0]
print("Fields in the sample: ", [key for key in test_sample.keys()])
print("Tokenized Document: ", test_sample["document"])
print("Document BIO Tags: ", test_sample["doc_bio_tags"])
print("Extractive/present Keyphrases: ", test_sample["extractive_keyphrases"])
print("Abstractive/absent Keyphrases: ", test_sample["abstractive_keyphrases"])
print("\n-----------\n")

Output

Sample from test data split
Fields in the sample:  ['id', 'document', 'doc_bio_tags', 'extractive_keyphrases', 'abstractive_keyphrases', 'other_metadata']
Tokenized Document:  ['Here', ',', 'at', 'a', 'glance', ',', 'are', 'developments', 'today', 'involving', 'the', 'crash', 'of', 'Pan', 'American', 'World', 'Airways', 'Flight', '103', 'Wednesday', 'night', 'in', 'Lockerbie', ',', 'Scotland', ',', 'that', 'killed', 'all', '259', 'people', 'aboard', 'and', 'more', 'than', '20', 'people', 'on', 'the', 'ground', ':']
Document BIO Tags:  ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'B', 'I', 'I', 'I', 'I', 'I', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O']
Extractive/present Keyphrases:  ['pan american world airways flight 103', 'crash', 'lockerbie']
Abstractive/absent Keyphrases:  ['terrorist threats', 'widespread wreckage', 'radical palestinian faction', 'terrorist bombing', 'bomb threat', 'sabotage']

-----------

Keyphrase Extraction

from datasets import load_dataset

# get the dataset only for keyphrase extraction
dataset = load_dataset("midas/duc2001", "extraction")

print("Samples for Keyphrase Extraction")

# sample from the test split
print("Sample from test data split")
test_sample = dataset["test"][0]
print("Fields in the sample: ", [key for key in test_sample.keys()])
print("Tokenized Document: ", test_sample["document"])
print("Document BIO Tags: ", test_sample["doc_bio_tags"])
print("\n-----------\n")

Keyphrase Generation

# get the dataset only for keyphrase generation
dataset = load_dataset("midas/duc2001", "generation")

print("Samples for Keyphrase Generation")

# sample from the test split
print("Sample from test data split")
test_sample = dataset["test"][0]
print("Fields in the sample: ", [key for key in test_sample.keys()])
print("Tokenized Document: ", test_sample["document"])
print("Extractive/present Keyphrases: ", test_sample["extractive_keyphrases"])
print("Abstractive/absent Keyphrases: ", test_sample["abstractive_keyphrases"])
print("\n-----------\n")

Citation Information

@inproceedings{10.5555/1620163.1620205,
author = {Wan, Xiaojun and Xiao, Jianguo},
title = {Single Document Keyphrase Extraction Using Neighborhood Knowledge},
year = {2008},
isbn = {9781577353683},
publisher = {AAAI Press},
booktitle = {Proceedings of the 23rd National Conference on Artificial Intelligence - Volume 2},
pages = {855–860},
numpages = {6},
location = {Chicago, Illinois},
series = {AAAI'08}
}

Contributions

Thanks to @debanjanbhucs, @dibyaaaaax and @ad6398 for adding this dataset

Downloads last month: 301

Size of downloaded dataset files:

10.8 MB

Size of the auto-converted Parquet files:

2.1 MB

Number of rows:

924

Models trained or fine-tuned on midas/duc2001

aglazkova/bart_finetuned_keyphrase_extraction

Updated Oct 24, 2024 • 3 • 14