Liebe Besucher:innen, die Website des Ideation & Prototyping Lab der Technologiestiftung wird nicht mehr aktualisiert, bleibt aber zu archivarischen Zwecken online. Unsere neueren Projekte findet ihr auf der Seite des CityLAB Berlin.

Zum CityLAB Berlin

OpenData und Metadaten

Einführung ins Thema Metadaten und deren Möglichkeiten

Projektart
Publikation
Datum
26.02.2018

Metadaten — Eine Einführung

Metadaten enthalten zusätzliche Informationen die andere Daten beschreiben. Metadaten sind in diesem Sinne nichts Neues. Bilder- und Musik-Dateien beispielsweise enthalten schon seit vielen Jahren Metadaten. Im Falle von Medien beschreiben Metadaten zum Beispiel den Interpreten, Veröffentlichungsjahr, Genre und im Falle von Musik, die Zugehörigkeit zu einem Album. Metadaten erlauben es einzelne Dateien in einen Kontext zu setzen, Dateien mit einander in Abhängigkeit zu bringen und diese zu sortieren und durchsuchbar zu machen. Ähnliche Ziele liegen den Bestrebungen von Metadaten für offene Daten (Open Data) zu Grunde. Einen Datensatz maschinenlesbar in ein OpenData-Portal zu stellen ist nur ein erster Schritt, diesen Datensatz standard-konform und detailliert zu beschreiben macht den Datensatz zu einem nachhaltigen Baustein einer transparenten und digitalen Infrastruktur. Im Folgenden wird der neue deutsche OpenData Standard DCAT-AP.de vorgestellt und anhand angewandter Beispiele der Mehrwert von Metadaten aufgezeigt.

Screenshot von <a href='http://www.govdata.de'>www.govdata.de</a>, die bereits DCAT-AP.de nutzen.
Screenshot von www.govdata.de, die bereits DCAT-AP.de nutzen.

DCAT-AP.de

DCAT steht für Data Catalog Vocabulary (Datenkatalogs Vokabular) und AP für Application Profile (Anwendungsprofil). Es handelt sich hierbei um einen europäischen Standard für das Beschreiben von Datensätzen. DCAT-AP.de ist die deutsche Version des europäischen Standards. Der nationale Datenkatalog GovData hat diesen Standard bereits übernommen und auch Städte wie Berlin arbeiten an der Umsetzung des neuen Standards. DCAT-AP.de lässt sich in zwei Komponenten herunterbrechen: 1. Eine Struktur um Metadaten-Dateien aufzubauen und bestimmte Inhalte darin abzulegen, z.B. die URL zum Datensatz oder die Lizenz unter welchem der Datensatz verfügbar ist. 2. Ein kontrolliertes Vokabular mit dem bestimmte Strukturen gefüllt werden können, z.B. Lizenzen, Art des Datenanbieters oder Räumliche Ebenen (z.B. National oder Kommune). Für den Einsatz von DCAT-AP.de wird ein Minimum an Beschreibung vorgeschlagen (Download von Beispielen). Dieses Minimum kann abhängig von Datensatz und verfügbaren Informationen sehr breit erweitert werden. Metadaten können in den maschinenlesbaren Dateiformaten XML, RDF und JSON bereitgestellt werden. Definitionen der einzelnen Begriffe und deren Vokabularien können auf www.DCAT-AP.de nachgeschlagen werden.

DCAT-AP Minimum Variante

{
  "dcat:Catalog": {
    "dct:title": ["Transparenzportal Hamburg"],
    "dct:description": ["Das Transparenzportal Hamburg ist das ..."],
    "dct:publisher": {"foaf:name": "Freie und Hansestadt Hamburg"},
    "dcat:dataset": ["https://www.govdata.de/web/guest/suchen/..."]
  },
  "dcat:Dataset": [{
    "dct:identifier": ["https://www.govdata.de/web/guest/suchen/..."],
    "dct:title": ["Naturräume Geest und Marsch"],
    "dct:description": ["Die Zuordnung des Hamburger Stadtgebietes..."],
    "dcatde:contributorID": ["http://dcat-ap.de/def/contributors/..."],
    "dcat:distribution": ["http://geodienste.hamburg.de/HH_WFS_..."],
    "dct:license": ["http://dcat-ap.de/def/licenses/dl-by-de/2.0/"]
  }]
}

Die Metadaten-Beschreibungen nach DCAT-AP bestehen immer aus mehreren Hauptelemente. In der Minimum Variante sind dies dcat:Catalog und dcat:Dataset. dcat:Catalog beschreibt den Katalog in welchem der eigentliche Datensatz veröffentlich wurde. Alle Informationen innerhalb dieses Objektes (außer dcat:dataset) beziehen sich auf den Katalog selber. dcat:Dataset beschreibt dann den spezifischen Datensatz zu dem die Metadaten veröffentlicht wurden. Darüber hinaus gibt es noch weitere Hauptelemente wie beispielsweise dcat:Distribution.

Anwendungsbeispiele

Während sich die Minimum-Variante auf eine essentielle Definition von Titel, Beschreibung, Lizenz, URLs und Informationen zum Urheber beschränkt, kommt die wahre Stärke des Metadaten Standards in den erweiterten Elementen zum Vorschein. Im Folgenden werden ein paar Anwendungsbeispiele für diese erweiterten Beschreibungen von Datensätzen vorgestellt.

Zeitliche Beschreibung

{
  "dcat:Catalog": {
    "dct:issued": "2017-03-10T10:00:00",
    "dct:modified": "2017-07-15T11:05:00"
  },
  "dcat:Dataset": [{
    "dct:issued": "2017-02-27",
    "dct:modified": "2017-07-15T11:05:00",
    "dct:accrualPeriodicity": "http://dcat-ap.de/def/changefrequency/yearly",
    "dct:temporal": [
      {
        "schema:startDate": "2016-01-01",
        "schema:endDate": "2016-12-31"
      }
    ]
  }]
}

dct:issued und dct:modified beschreiben wann ein Katalog oder Datensatz erstellt bzw. zum letzten Mal bearbeitet wurde. Hierüber können Nutzer*innen der Daten feststellen ob Sie selber die aktuellste Version des Datensatzes nutzen oder ob sie Ihre eigene Version aktualisieren müssen. dct:accrualPeriodicity informiert Anwender*innen darüber hinaus in welchem Rhythmus die Daten aktualisiert werden. Für nachhaltige Kooperationen zwischen Datenlieferant*innen und Nutzer*innen ist es wichtig eine Verlässlichkeit der Datenbereitstellung transparent zu dokumentieren. Über die Kennzeichnung der Rhythmen der Veröffentlichung können Datennutzer*innen Ihre Prozesse entsprechend anpassen.

dct:temporal bezieht sich im Gegensatz zu den vorherigen Informationen nicht auf den Katalog oder Datensatz als Objekt sondern auf die Eigenschaften der enthaltenen Daten. dct:temporal definiert über schema:startDate und schema:endDate welche Zeitspanne vom Datensatz abgedeckt werden. Über diese Information können Daten beispielsweise verglichen werden, ohne dass die Daten selber dafür analysiert werden müssen. Dies erlaubt es auch Suchmaschinen für offene Daten entsprechend zu optimieren und ermöglicht Nutzer*innen so schnell und einfach verschiedene Datensätze zum selben Zeitraum zu finden.

Um die Wichtigkeit der Angabe solcher Zeiträume zu unterstreichen, zeigt die folgende Abbildung zufällig ausgewählte Datensätze des Amts für Statistik Berlin Brandenburg (AfSBB) und die Zeiträume für welche die Daten verfügbar sind. In manchen Fällen wie beispielsweise den Wahldaten oder dem Zensus, sind die Daten nur für bestimmte Jahre verfügbar. In anderen Fällen wie zum Beispiel dem Berufsqualifikationsfeststellungsgesetz (BQFG) oder der Erfassung der Auszubildenden haben sich statistische Systematiken verändert und dem zufolge musste eine neue Zeitreihe angelegt werden. In anderen Fällen wurden die Daten nur bis zu einem bestimmten Datum erfasst oder werden erst zu einem späteren Zeitpunkt für das letzte Jahr online gestellt.

Räumliche Beschreibung

{
  "dcat:Catalog": {
    "dct:spatial": ["http://www.geonames.org/2911298/"]
  },
  "dcat:Dataset": [{
    "dcatde:politicalGeocodingLevelURI": [
      "http://dcat-ap.de/def/politicalGeocoding/Level/state"
    ],
    "dcatde:politicalGeocodingURI": [
      "http://dcat-ap.de/def/politicalGeocoding/stateKey/11"
    ],
    "dcatde:geocodingText": ["Freie und Hansestadt Hamburg"],
    "dct:spatial": [
      {
        "type": "Polygon",
        "crs": "urn:ogc:def:crs:OGC:1.3:CRS84",
        "coordinates": "[[[10.326304,53.394985], [10.326304,53.964153], [8.420551,53.964153], [8.420551,53.394985], [10.326304,53.394985]]]"
      }
    ]
  }]
}

Wie bei der zeitlichen Einordnung funktioniert die räumliche Beschreibung ebenfalls auf zwei Ebenen. In Bezug auf den Katalog verortet eine Geoname ID das grobe Einzugsgebiet des Katalogs über das Feld "dct:spatial". Geonames ist eine Datenbank mit Bezeichnungen und dazugehörigen räumlichen Koordinaten. Auf der zweiten Ebene werden die eigentlichen Daten und deren räumlicher Bezug genauer beschrieben. Die Auflösung der Daten wir über dcatde:politicalGeocodingLevelURI beschrieben. Bisher verfügbare Granularitäten sind international, EU-, Bundesebene, Bundesländer, Landkreise und Kommunen. Über dcatde:politicalGeocodingURI kann dann auch eine genaue ID für die entsprechende Referenz angegeben werden (für das Bundesland Berlin wäre dies exemplarisch die 11). Eine textuelle Beschreibung des Raumes kann zusätzlich über dcatde:geocodingText angegeben werden. Noch detailliertere Informationen werden über dct:spatial bereitgestellt. Über dieses Feld können räumliche Informationen z.B. in Form von Polygonen (Flächen) angegeben werden. Die einfachste Möglichkeit ist es eine sogenannte Bounding Box anzugeben, dies ist ein räumlicher Begrenzungsrahmen der um die räumlichen Daten gespannt wird (siehe Abbildung unten). Diese zusätzlichen räumlichen Beschreibungen der Daten erlauben es Nutzer*innen beispielsweise Daten zu finden, die gleiche Räume beschreiben und so mit einander verschnitten werden können.

Kontaktdaten

{
  "dcat:Dataset": [{
    "dcat:contactPoint": [{
      "vcard:fn": "Sebastian Meier",
      "vcard:hasEmail": "mailto:meier@technologiestiftung-berlin.de",
      "vcard:hasTelephone": "+49 30 209 69 99 42"
    }]
  }]
}

Um den Datennutzer*innen die Möglichkeit zu geben Fragen, beispielsweise zur Lizenz, direkt an den richtigen Ansprechpartner zu richten, erlaubt der Standard das integrieren von Kontaktinformation für jeden Datensatz.

Kontrollierte Vokabularien

{
  "dcat:Dataset": [{
    "dcatde:originator": [{
      "foaf:name": "Sebastian Meier",
      "dct:type": "http://inspire.ec.europa.eu/metadata-codelist/ResponsiblePartyRole/processor"
    }],
    "dct:license": [
      "http://dcat-ap.de/def/licenses/cc-by"
    ]
  }]
}

Ein Metadatenstandard der von diversen Datenlieferanten mit verschiedenen Hintergründen und institutionellen Anbindungen genutzt wird verlang nach kontrollierten Vokabularien um die Nachhaltigkeit des Standards zu sichern. Kontrollierte Vokabularien sind für viele Felder des Standards verfügbar. So gibt es beispielsweise eine Liste an Lizenzen. Die ID der Lizenz ist eine URL die entweder auf eine Definitionsseite verweist oder auf eine Übersicht der vorgegebenen IDs. Es ist sehr zu empfehlen, sich an die vorgegebenen Vokabularien zu halten und sollte ein Fall bisher nicht berücksichtigt worden sein, diesen an das zuständige Komitee zu melden um diesen eventuell dem Vokabular hinzuzufügen.

Weiterführende Informationen

{
  "dcat:Dataset": [{
    "dct:hasVersion": [
      "https://www.govdata.de/web/guest/suchen/-/details/naturraume-geest-und-marsch4"
    ],
    "dct:isVersionOf": [
      "https://www.govdata.de/web/guest/suchen/-/details/naturraume-geest-und-marsch2"
    ],
    "dct:language": [
      "http://publications.europa.eu/resource/authority/language/GER"
    ]
  }]
}

In dieser Einführung in den neuen Metadaten-Standard DCAT-AP.de wurde versucht den Mehrwert in Bezug auf Nachhaltigkeit, Benutzerfreundlichkeit und Maschinenlesbarkeit aufzuzeigen. Neben den oben aufgeführten Metadaten-Beschreibungen gibt es viele weitere Felder, wie z. B. die Möglichkeit aufzuzeigen, dass eine Datei eine neue Version einer bereits existierenden Version ist (dct:hasVersion bzw. dct:isVersionOf) oder die Sprache der Informationen im Datensatz (dct:language). In einigen Fällen wird es zu Redundanzen in den Metadaten kommen, wenn beispielsweise Ersteller und Kontaktperson dieselbe sind, oder der Katalog den selben Raum umfasst wie ein individueller Datensatz. Im Sinne der Vollständigkeit und um möglichst viele Fälle abdecken zu können, ist dies durchaus gewollt. Im Alltag wird das Erstellen solcher Metadaten-Dateien in vielen Fällen teil-automatisiert durchgeführt, so sind beispielsweise die Daten zum Datenkatalog immer fast deckungsgleich und können so automatisch generiert werden.

Weitere Informationen und eine vollständige Dokumentation aller verfügbaren Metadaten-Merkmale finden Sie in den folgenden Dokumenten.

Beispiele

Die Technologiestiftung Berlin ist kein primärer Datenbereitsteller in der Metropolregion Berlin. Nichtsdestotrotz generieren wir in unseren Projekten häufig neue Daten durch das Verschneiden oder Veredeln von existierenden Datensätzen. Um Nutzer*innen die Arbeit und Nutzung dieser Daten zu erleichtern, stellen wir diese wieder unter ihren originären Lizenzen online zur Verfügung. Zu diesem Zweck haben wir ein kleines Datenportal angelegt. Jeder dort zum Download bereitstehende Datensatz wurde nach dem neuen DCAT-AP.de Standard beschrieben. Für einige Beispiele des neuen DCAT-AP.de Standards, schauen Sie sich unser Datenportal an.

Screenshot der Open Data <a href='https://daten.odis-berlin.de'>Sammlung</a> der Technologiestiftung Berlin
Screenshot der Open Data Sammlung der Technologiestiftung Berlin