Vortrag: „More Than Words – Computergestützte Erschließungsstrategien und Analyseansätze für handschriftliche Liedblätter“

Manuel Burghardt

Vortrag im Rahmen des DH-Kolloquiums der Berlin-Brandenburgischen Akademie der Wissenschaften

Abstract

Unter dem Schlagwort Digital Humanities wird gemeinhin der Einsatz digitaler Ressourcen und computergestützter Methoden in den Geisteswissenschaften zusammengefasst. Vor dem Hintergrund bestehender Methoden im Bereich der Korpus- und Computerlinguistik liegt hier bislang ein starker Fokus auf textbasierten Wissenschaften (vgl. etwa das Konzept des Distant Reading). In zunehmendem Maße rücken in den Digital Humanities nun aber auch andere geisteswissenschaftliche Disziplinen in den Fokus computergestützter Modellierungs- und Analyseversuche, etwa im Bereich der Kunstgeschichte (Bild), der Filmwissenschaft (Film) und der Musikwissenschaft (Musik). Entsprechend ist der Vortrag im Schnittfeld von Digital Humanities und Musikwissenschaft zu verorten. Dabei sollen anhand eines konkreten Projekts zur Digitalisierung einer großen Sammlung handschriftlicher Liedblätter grundlegende Möglichkeiten und Methoden zu Erschließung, Repräsentation und Analyse von notierter Musik aufgezeigt werden. Wenngleich an vielen Stellen Parallelen zu Methoden und Verfahren aus den textbasierten Geisteswissenschaften offenkundig werden, so wird doch auch deutlich, dass es sich bei „Notentext“ um mehr als nur Wörter handelt und sich somit einige Besonderheiten und Herausforderungen bei der Digitalisierung ergeben.

Zum Thema Erschließung werden im Rahmen des Vortrags zunächst bestehende Tools aus dem Bereich der optical music recognition (OMR) vorgestellt, die allerdings für handschriftlich notierte Musik nur begrenzt einsetzbar ist (Burghardt et al., 2017). Als Alternative wird ein Crowdsourcing-Ansatz zur Transkription der Melodien vorgestellt (Meier et al., 2015; Burghardt & Spanner, 2017). Weiterhin zeigt der Vortrag unterschiedliche Ebenen der Repräsentation von Melodien auf, bspw. als exakt notierte Melodie, als Abfolge von Intervallen oder als abstrakte Melodiekontur (Parsons Code). Außerdem werden bestehende Speicherformate für die Repräsentation von Musikinformation (bspw. MusicXML und MEI) vorgestellt und diskutiert. Im letzten Teil des Vortrags werden schließlich grundlegende Möglichkeiten der computergestützten Analyse digitalisierter Musikdaten aufgezeigt und dabei grundlegende Konzepte des music information retrieval, insbesondere der melodic similarity, eingeführt (Burghardt et al., 2015; Burghardt et al., 2016; Burghardt & Lamm, 2017). Darüber hinaus soll aufgezeigt werden, welche neuartigen Fragestellungen durch computergestützte Ansätze in der Musikwissenschaft bearbeitet werden können.

Literatur

  • Burghardt, M., & Lamm, L. (2017). Entwicklung eines Music Information Retrieval-Tools zur Melodic Similarity-Analyse deutsch-sprachiger Volkslieder. In M. Eibl & M. Gaedke (Eds.), INFORMATIK 2017, Lecture Notes in Informatics (LNI), Gesellschaft für Informatik – Workshop „Musik trifft Informatik“ (pp. 15–27). Bonn: Springer.
  • Burghardt, M., & Spanner, S. (2017). Allegro: User-centered Design of a Tool for the Crowdsourced Transcription of Handwritten Music Scores. In Proceedings of the DATeCH (Digital Access to Textual Cultural Heritage) conference. ACM.
  • Burghardt, M., Spanner, S., Schmidt, T., Fuchs, F., Buchhop, K., Nickl, M., & Wolff, C. (2017). Digitale Erschließung einer Sammlung von Volksliedern aus dem deutschsprachigen Raum. In Book of Abstracts, DHd 2017.
  • Burghardt, M., Lamm, L., Lechler, D., Schneider, M., & Semmelmann, T. (2016). Tool‑based Identification of Melodic Patterns in MusicXML Documents. In Book of Abstracts of the International Digital Humanities Conference (DH).
  • Burghardt, M., Lamm, L., Lechler, D., Schneider, M., & Semmelman, T. (2015). MusicXML Analyzer – Ein Analysewerkzeug für die computergestützte Identifikation von Melodie-Patterns. In Proceedings des 9. Hildesheimer Evaluierungs- und Retrievalworkshop (HiER 2015) (pp. 29–42).
  • Meier, F., Bazo, A., Burghardt, M., & Wolff, C. (2015). A Crowdsourced Encoding Approach for Handwritten Sheet Music. In J. Roland, Perry; Kepper (Ed.), Music Encoding Conference Proceedings 2013 and 2014 (pp. 127–130).

Vortrag und Ressourcen

„More than Words“ – vom Text zur Musik

Franco Morettis Konzept des „Distant Reading“ ist eine zentrale Metapher in den Digital Humanities, die sich mittlerweile auf viele weitere Bereiche ausgedehnt hat, bspw.

Ansätze zu „Distant Hearing„, also computergestützter Analyse von Musikdaten, sind bislang in der Digital Humanities-Community noch relativ selten, dafür aber im Informatikbereich unter dem Schlagwort Music Information Retrieval (MIR) schon seit vielen Jahren etabliert. Eine zentrale Organisation und gleichlautende Konferenz ist dabei die ISMIR (International Society for Music Information Retrieval).

Grundsätzlich unterscheidet man im MIR zwischen Ansätzen im Bereich der Signalverarbeitung (Audio) und der Symbolverarbeitung (Noten).

Der Vortrag fokussiert auf symbolische Musik, also Notenblätter. Konkret werden Herausforderungen und Besonderheiten („notes are more than words“) bei der computergestützten Erschließung, Modellierung und Analyse anhand der Regensburger Liedblattsammlung aufgezeigt.

Fallstudie: Regensburger Liedblattsammlung

Es handelt sich bei diesem Projekt um eine Kooperation mit der Universitätsbibliothek Regensburg, die im Besitz einer – was Umfang und Abdeckung angeht – einzigartigen Liedblattsammlung deutschsprachiger Volkslieder ist.

Die ca. 140.000 Liedblätter enthalten handschriftliche, monophone Melodien, meist mit Schreibmaschine getippte Liedtexte sowie diverse Metadaten wie etwa Archivort, Jahr und Liedblattnummer.

Weiterführende Informationen zur Liedblattsammlung:

  • Krüger, G. (2013). Das „Regensburger Volksmusik-Portal“ der Universitätsbibliothek Regensburg. Bestände – Problematiken – Perspektiven. Zwischenbericht aus einem Erschließungsprojekt. In E. R. Mohrmann (Ed.), Audioarchive – Tondokumente digitalisieren, erschließen und auswerten (p. 119–131). Münster et al.: Waxmann Verlag.

(I) Maschinenlesbare Erschließung / Digitalisierung

Übersicht zu Optical Music Recognition (OMR) Tools: http://homes.soic.indiana.edu/donbyrd/OMRSystemsTable.html

Aktuelle OMR-Tools:

Bestehende Sammlung mit Scans:

Bestehende Sammlungen mit transkribierter Musik:

Leider funktioniert OMR bei handschriftlichen Notenblättern nur sehr schlecht:

OMR for handwritten scores as a major unresolved problem (Müller, 2007)

Diese Einschätzung bestätigte sich auch durch die Evaluation von drei bestehenden OMR-Tools für die Regensburger Liedblattsammlung. Evaluationsdesign angelehnt an Bellini, Bruno & Nesi (2007). Durchschnittliche Erkennungsraten: Photoscore (36%), CapellaScan (8%) und SharpEye (4%).

Nähere Informationen zur Evaluationsstudie:

  • Burghardt, M., Spanner, S., Schmidt, T., Fuchs, F., Buchhop, K., Nickl, M., and Wolff, C. (2017). Digitale Erschließung einer Sammlung von Volksliedern aus dem deutschsprachigen Raum. In Book of Abstracts, DHd 2017.

Da OMR wegen der schlechten Ergebnisse nicht in Frage kommt, wird Crowdsourcing als alternative Erschließungsstrategie gewählt, denn Transkription zählt nach Oomen & Aroyo (2011) zu den typischen Anwendungsgebieten von Crowdsourcing:

  • Contextualization
  • Complementing collections
  • Classification
  • Co-curation
  • Crowdfunding
  • Correction and transcription

Bestehende Tools zur Transkription, die aber allesamt nicht für einen Remote-Crowdsourcing-Ansatz geeignet sind.

Name Type Source
Flat.io Web https://flat.io/
Noteflight Web https://www.noteflight.com
Sibelius Desktop http://www.avid.com/en/sibelius
MuseScore Desktop https://musescore.org/

Allegro

Entwicklung eines eigenen Crowdsourcing-Tools namens Allegro, welches die folgenden Anforderungen erfüllt:

  • webbasiert (HTML / JavaScript) und parallel von mehreren Transkriptoren benutzbar
  • einfach zu bedienen (entwickelt mithilfe eines systematischen UCD-Ansatzes), so intuitiv, dass es auch für Musik-Laien möglich ist Teanskriptionen zu erstellen

Nähere Informationen zu Allegro in:

  • Burghardt, M., & Spanner, S. (2017). Allegro: User-centered Design of a Tool for the Crowdsourced Transcription of Handwritten Music Scores. In Proceedings of the DATeCH (Digital Access to Textual Cultural Heritage) conference. ACM.

OMR-Literatur

  • Bainbridge, D. and Bell, T. (2001). The challenge of optical music recognition. In Computers and the Humanities, 35, p. 95–121.
  • Bellini, P., Bruno, I., and Nesi, P. (2007). Assessing optical music recognition tools. In Computer Music Journal, 31(1), 68–93.
  • Grachten, M., Arcos, J. L., and de Mántaras, R. L. (2002). A comparison of different approaches to melodic similarity. In Proceedings of the 2nd International Conference in Music and Artificial Intelligence (ICMAI).
  • Homenda, W. and Luckner, M. (2006). Automatic Knowledge Acquisition: Recognizing Music Notation with Methods of Centroids and Classifications Trees. In Proceedings of the IEEE International Joint Conference on Neural Network, p. 6414–6420.
  • Raphael, C. and Wang, J. (2011). New Approaches to Optical Music Recognition. In Proceedings of the 12th International Society for Music Information Retrieval Conference (ISMIR), p. 305–310.
  • Rebelo, A., Capela, G., and Cardoso, J. S. (2010). Optical recognition of music symbols. In International Journal on Document Analysis and Recognition, 13, 19–31.
  • Müller, M. (2007). Information Retrieval for Music and Motion. Berlin: Springer.

Crowdsourcing-Literatur

  • Causer, T. and Wallace, V. (2012). Building A Volunteer Community: Results and Findings from Transcribe Bentham. In Digital Humanities Quarterly, 6(2).
  • Dunn, S. and Hedges, M. (2013). Crowd-sourcing as a Component of Humanities Research Infrastructures. In International Journal of Humanities and Arts Computing, 7(1-2), 147-169.
  • Fornés, A., Lladós, J., Mas, J., Pujades, J. M. and Cabré, A. (2014). A Bimodal Crowdsourcing Platform for Demographic Historical Manuscripts. In Proceedings of the First International Conference on Digital Access to Textual Cultural Heritage, p. 103–108.
  • Holley, R. (2010). Crowdsourcing: How and why should libraries do it? D-Lib Magazine, 16(3-4).
  • Howe, J. (2006). The Rise of Crowdsourcing. Wired 14(6). Retrieved from http://archive.wired.com/wired/archive/14.06/crowds.html
  • Ipeirotis, P. G. and Gabrilovich, E. (2014). Quizz: Targeted Crowdsourcing with a Billion (Potential) Users. In Proceedings of the 23rd International Conference on World Wide Web, p.143–154.
  • Lee, T. Y., Dugan, C., Geyer, W., Ratchford, T., Rasmussen, J., Shami, N. S. and Lupushor, S. (2013). Experiments on motivational feedback for crowdsourced workers. In Proceedings of the 7th International Conference on Weblogs and Social Media (ICWSM), p. 341–350.
  • Morschheuser, B., Hamari, J. and Koivisto, J. (2016). Gamification in crowdsourcing: A review. In Proceedings of the 49th Annual Hawaii International Conference on System Sciences, p. 4375–4384.
  • Mühlberger, G., Zelger, J. and Sagmeister, D. (2014). User-Driven Correction of OCR Errors: Combining Crowdsourcing and Information Retrieval Technology. In Proceedings of the First International Conference on
  • Oomen, J. and Aroyo, L. (2011). Crowdsourcing in the Cultural Heritage Domain: Opportunities and Challenges. In Proceedings of the 5th International Conference on Communities and Technologies, p. 138–149.

(II) Modellierung und formale Repräsentation

Encoding-Formate

(III) Computergestützte Analyse

Music Information Retrieval-Definition (Downie, 2004)

Music Information Retrieval (MIR) is a multidisciplinary research endeavor that strives to develop innovative content-based searching schemes, novel interfaces, and evolving networked delivery mechanisms in an effort to make the world’s vast store of music accessible to all.

Überblick zu bestehenden MIR-Systemen im Web:

Neben der Suche nach konkreten Melodien gibt es auch abstraktere Ebenen der Melodiesuche, bspw. die Suche nach Intervallfolgen oder nach Melodiekonturen im Parsons Code.

Für die Regensburger Liedblattsammlung wurde ein erster MIR-Prototyp implementiert, der als Melodic Similarity-Maß den Mongeau-Sankhoff-Algorithmus verwendet. Es handelt sich dabei um ein edit distance-basiertes Verfahren zur Bestimmung der Ähnlichkeit von zwei Melodiesequenzen. Um Verzerrungen bei der Editierdistanz zu vermeiden wird zudem ein Ngram-Ansatz umgesetzt, d.h. die Melodie-Query wird jeweils in bestimmten Teilsequenzen (ngrams) der Liedblätter gesucht (vgl. Burghardt & Lamm, 2017). Eine Demo zur Melodic Similarity-Suche in der Regensburger Liedblattsammlung ist verfügbar unter:

Weitere Informationen:

  • Burghardt, M., & Lamm, L. (2017). Entwicklung eines Music Information Retrieval-Tools zur Melodic Similarity-Analyse deutsch-sprachiger Volkslieder. In M. Eibl & M. Gaedke (Eds.), INFORMATIK 2017, Lecture Notes in Informatics (LNI), Gesellschaft für Informatik – Workshop „Musik trifft Informatik“ (pp. 15–27). Bonn: Springer.

Literatur MIR

  • Casey, M., Veltkamp, R., Goto, M., Leman, M., Rhodes, C., & Slaney, M. (2008). Content-based music information retrieval: Current directions and future challenges. Proceedings of the IEEE, 96(4), 668-696.
  • Downie, J. S. (2004). The Scientific Evaluation of Music Information Retrieval Systems: Foundations and Future. In Computer Music Journal 28(2), 12-23.
  • Selfridge-Field, E. (1998). Conceptual and representational issues in melodic comparison. Computing in Musicology, 11, 3-64.

Literatur Melodic Similarity

  • Berenzweig, A., Logan, B., Ellis, D. P. W., & Whitman, B. (2004). A Large-Scale Evaluation of Acoustic and Subjective Music-Similarity Measures. Computer Music Journal, 28, 63–76. http://doi.org/10.1162/014892604323112257
  • Cahill, M., Cahill, M., Music, C., & Music, C. (2005). Melodic similarity algorithms – using similarity ratings for development and early evaluation. Star, 450–453.
  • Hofmann-Engl, L. (2001). Towards a cognitive model of melodic similarity. Ismir, 44(0), 143–151.
  • Grachten, M., Arcos, J. L., & Mántaras, R. L. De. (2004). Melodic Similarity: Looking for a Good Abstraction Level. Proceedings of the 5th International Society for Music Information Retrieval.
  • Grachten, M., Arcos, J. L., and de Mántaras, R. L. (2002). A comparison of different approaches to melodic similarity. In Proceedings of the 2nd International Conference in Music and Artificial Intelligence (ICMAI).
  • Miura, T., & Shioya, I. (2003). Similarity among melodies for music information retrieval. In Proceedings of the twelfth international conference on Information and knowledge management – CIKM ’03 (p. 61).
  • Mongeau, M. and Sankoff, D. (1990). Comparison of Musical Sequences. In Computers and the Humanities, 24, 161–175.
  • Müllensiefen, D., & Frieler, K. (2004). Optimizing Measures Of Melodic Similarity For The Exploration Of A Large Folk Song Database. 5th International Conference on Music Information Retrieval ISMIR 2004, 274–280.
  • Müllensiefen, D., & Frieler, K. (2004). Melodic Similarity: Approaches and Applications. In Proceedings of the 8th International Conference on Music Perception & Cognition (pp. 283–289).
  • Orio, N., & Rodá, A. (2009). A Measure of Melodic Similarity Based on a Graph Representation of the Music Structure. In Proceedings of the 10th International Society for Music Information Retrieval Conference (ISMIR 2009) (pp. 543–548).
  • Typke, R., Wiering, F., & Veltkamp, R. C. (2005). A survey of music information retrieval systems. Transition, 153–160.
  • Typke, R. (2007). Music Retrieval based on Melodic Similarity. Ph.D Thesis, (april 1973).
Advertisements

Ringvorlesung Digital Humanities an der Universität Regensburg

Zum aktuellen Wintersemester 2017 / 2018 wird an der Universität Regensburg die Ringvorlesung „Digital Humanities“ angeboten – Ansprechpartner: Manuel Burghardt, vorname.nachname@ur.de

Digital Humanities: Chancen und Herausforderungen, Spannweiten und Interpretationen – Eine transdisziplinäre Perspektive

1959 konstatiert C. P. Snow in seinem Essay „The Two Cultures“ eine Kluft zwischen den Fachkulturen der Naturwissenschaften und der Geisteswissenschaften. Gleichzeitig bemerkt er, dass – wenn es gelänge, diese Kluft zu überwinden – sich ein enormes, kreatives Potenzial entfalten könnte[1]. Einen Wandel hin zu einer Annäherung der beiden Kulturen kann man aktuell mit der Konjunktur der Digital Humanities beobachten. Weiterhin belegen jüngere Aktivitäten der Forschungsförderung, wie etwa die VW-Ausschreibung zu „Mixed Methods in den Geisteswissenschaften“[2], eine zunehmende Interaktion zwischen quantitativen Verfahren und qualitativen Ansätzen. Mit den Chancen für wissenschaftliche Innovationen, die eine solche Kombination aus unterschiedlichen methodischen Ansätzen mit sich bringt, gehen jedoch auch Herausforderungen und Gefahren einher, die von den Geistes- und Kulturwissenschaften kritisch diskutiert werden. So wurde etwa auf der ersten Jahrestagung des Fachverbands Digital Humanities im deutschsprachigen Raum (DHd 2014, Passau) darüber debattiert, ob mit den Digital Humanities ein „methodischer Brückenschlag“ gelingen könne, oder ob doch eher eine „feindliche Übernahme“ durch die Informatik drohe[3].

In Anbetracht dieser schwierigen Gemengelage wird schnell klar, dass es keine einfache Lösung gibt: Eine strikte Ablehnung von computerbasierten Methoden in den Geistes- und Kulturwissenschaften ist ebenso wenig zielführend wie die naive Annahme, dass Algorithmen künftig selbständig die Analyse beliebiger kultureller Artefakte vornehmen können und damit die Interpretation durch Fachwissenschaftler obsolet machen. Weitere Herausforderungen ergeben sich durch kulturelle Artefakte, die schon digital geboren (born digital) sind und für deren Analyse traditionelle Methoden aus den jeweils zuständigen geistes- und kulturwissenschaftlichen Fachdisziplinen ggf. angepasst werden müssen. Eine kritische Reflexion über den sinnvollen Einsatz computerbasierter Methoden und das Aufzeigen der Grenzen und Gefahren solcher Verfahren sind wichtige Desiderate für eine zeitgemäße Verortung und Orientierung der Geistes- und Kulturwissenschaften.

Mit der Ringvorlesung Digital Humanities sollen einzelne Fachdisziplinen über Chancen und Herausforderungen des Einsatzes digitaler Medien und Methoden in den Geistes- und Kulturwissenschaften berichten. Darüber hinaus flankiert die Veranstaltung inhaltlich den im WS 2017/2018 neu startenden Masterstudiengang „Digital Humanities“ und bietet damit eine fachübergreifende Möglichkeit des Austauschs zwischen Studierenden und Forschenden, die sich an der Universität Regensburg mit dem Thema Digital Humanities beschäftigen.

[1] Vgl. Rehbein, M. (2016). Was sind Digital Humanities? Akademie Aktuell, 56(1), 12–17.

[2] Vgl. die Ausschreibung „Interaktion qualitativ-hermeneutischer Verfahren und Digital Humanities: ‚Mixed Methods‘ in den Geisteswissenschaften?“, https://www.volkswagenstiftung.de/foerderung/herausforderung/
ausschreibung-mixed-methods-in-den-geisteswissenschaften.html (letzter Zugriff am 16.5.2016)

[3] Vgl. Motto der ersten Jahrestagung „Digital Humanities im deutschsprachigen Raum“, http://www.dhd2014.uni-passau.de/ (letzter Zugriff am 16.5.2016)

Programm der Ringvorlesung

Ringvorlesung Digital Humanities, Ansprechpartner Manuel Burghardt

Download Plakat als (PDF)

18.10.17
Digitalisierung der Forschung – Forschung zur Digitalisierung: Herausforderungen für die Geistes- und Kulturwissenschaften
Prof. Dr. Christian Wolff
Medieninformatik, UR

25.10.17
Digital Humanities – „Das Ende der Theorie“ in den Geisteswissenschaften?
Dr. Manuel Burghardt
Medieninformatik, UR

8.11.17
Computational Social Science meets Information Behaviour – Der Wahlkampf zur Bundestagswahl 2017 auf Twitter
Florian Meier, M.A.
Informationswissenschaft, UR

15.11.17*
Textanalyse mit Topic Models – Wirtschaftsgeschichte 3.0?
Lino Wehrheim, M.Sc.
Wirtschafts- und Sozialgeschichte, UR

22.11.17
Digital Humanities in Regensburg: Geschichte – Projekte – Studiengang. Mit feierlicher Eröffnung des Masterstudiengangs Digital Humanities.
Dr. Manuel Burghardt, Prof. Dr. Daniel Isemann, Dr. Markus Kattenbeck, Prof. Dr. Bernd Ludwig, Prof. Dr. Christian Wolff
Arbeitsgruppe Digital Humanities, UR

29.11.17
Aus verschiedenen Richtungen betrachtet – aber es ist immer dieselbe Landmarke
Prof. Dr. Bernd Ludwig
Informationswissenschaft, UR

6.12.17
Digitale Traditionen, Herausforderungen und Chancen in der osteuropäischen Geschichte
Hans Bauer, M.A., Prof. Dr. Ulf Brunnbauer, Ingo Frank, M.A., Tillmann Tegeler, M.A.
Leibniz-Institut für Ost- und Südosteuropaforschung, Regensburg 

13.12.17
Gibt es „Digitale Geisteswissenschaften“? Überlegungen zur Digital Humanities-Diskussion aus medienwissenschaftlicher Sicht
Prof. Dr. Christiane Heibach
Medienästhetik, UR 

20.12.17*
Konvergenz, Divergenz? Rechnungsbücher seit dem Spätmittelalter und warum das auch für die Digital Humanities interessant ist
Kathrin Pindl, M.A., Sebastian Pößniker, B.A., Prof. Dr. Mark Spoerer
Wirtschafts- und Sozialgeschichte, UR

10.1.18
Das Allgemeine und das Individuelle: Distant Reading und literarische Stilanalyse
PD Dr. Heribert Tommek
Neuere deutsche Literaturwissenschaft, UR

17.1.18
Digital Turn – Zum Korpus-, Methoden- und Arbeitswandel in der deutschen Sprachwissenschaft
Prof. Dr. Paul Rössler
Deutsche Sprachwissenschaft, UR

24.1.18
Chancen und Risiken der Digital Humanities aus Perspektive der Bibliotheken
Dr. André Schüller-Zwierlein
Universitätsbibliothek Regensburg

31.1.18
State of the Art: Perspektiven und Aufgaben der Digitalen Kunstgeschichte
Gerald Dagit, M.A., Prof. Dr. Christoph Wagner
Kunstgeschichte, UR

7.2.18
Digitale Methoden in der Englischen Sprachwissenschaft: Einblicke in die Korpuslinguistik und die Dialektgeographie
Dr. Lucia Siebers
English Linguistics, UR

*Gemeinsam mit dem Forschungsseminar Wirtschafts- und Sozialgeschichte

 

INFORMATIK 2017: Music Information Retrieval für deutschsprachige Volkslieder

Die 47. Jahrestagung der Gesellschaft für Informatik (GI) in Chemnitz findet in diesem Jahr unter dem Motto „Digitale Kulturen“ statt. Auch das Thema Digital Humanities wird dabei aufgegriffen, bspw. in einem dedizierten Workshop zum Thema Modellierungsfragen in den Digitalen Geisteswissenschaften. Darüber hinaus wird in weiteren thematischen Workshops der Einsatz von informatischen Methoden in anderen Disziplinen thematisiert, etwa im Workshop Musik trifft Informatik. Im Rahmen der letztgenannten Veranstaltung wurde aus Regensburg ein Beitrag vorgestellt:

  • Lamm, L. & Burghardt, M. (2017). Entwicklung eines Music Information Retrieval-Tools zur Melodic Similarity-Analyse deutschsprachiger Volkslieder. In Eibl, M. & Gaedke, M. (Hrsg.): INFORMATIK 2017, Lecture Notes in Informatics (LNI), Gesellschaft für Informatik, Bonn 2017.

Abstract: Wir präsentieren einen Beitrag zum Einsatz computergestützter Methoden für die quantitative Untersuchung einer großen Sammlung symbolisch repräsentierter Melodien deutschsprachiger Volkslieder. Im Zuge dessen wurde ein Music Information Retrieval-Tool (MIR) konzipiert, mit dem gezielt nach Liedblättern anhand bestimmter Metainformationen (z.B. Jahr, Sangesort, etc.), bestimmter Wörter in den Liedtexten oder bestimmter Sequenzen innerhalb der monophonen Melodien gesucht werden kann. Darüber hinaus kann mit dem MIR-Tool untersucht werden, ob es bspw. wiederkehrende Muster oder melodische Universalien in deutschsprachigen Volksliedern gibt. Insgesamt stehen drei Repräsentationsebenen für Suchanfragen zur Verfügung: Die Suche nach konkreten Melodiefragmenten (Tonhöhe / Tondauer), die Suche nach Intervallfolgen und die Suche nach abstrakten Melodiekonturen im Parsons-Code. Eine zentrale Herausforderung für die Umsetzung eines solchen MIR-Tools mit mehreren Repräsentationsebenen ist die Wahl einer geeigneten melodic similarity-Komponente. Wir beschreiben die Implementierung verschiedener edit distance-basierter Ansätze und präsentieren die Ergebnisse einer Evaluationsstudie für die unterschiedlichen Implementierungen. Alle Algorithmen und Converter wurden als generische Toolbox umgesetzt und stehen unter der MIT open source-Lizenz für die Nachnutzung zur freien Verfügung.

Keywords: music information retrieval, melodic similarity, edit distance, ngrams

Live-Demo und Demovideo des Tools zur Regensburger Liedblattanalyse:


Weitere Ressourcen aus dem Projektkontext:

Poster:

Weitere MIR-Systeme:

MuC 2017: User Experience Mining auf Basis von Online-Produktbewertungen

Im September wurde vom Lehrstuhl für Medieninformatik in Regensburg erstmals die Mensch und Computer 2017 unter dem Motto „Spielend einfach interagieren“ mit ca. 700 Teilnehmern organisiert. Alle Einzelbeiträge finden sich in der Digital Library der GI.

Dabei wurde auch ein eigener Beitrag im Schnittfeld von User Experience-Evaluation und Text Mining bzw. Sentiment Analysis vorgestellt, der damit methodisch durchaus auch Anküpfungspunkte für die Digital Humanities bietet:

  • Lechler, D. & Burghardt, M., (2017). User Experience Mining auf Basis von Online-Produktbewertungen. In: Burghardt, M., Wimmer, R., Wolff, C. & Womser-Hacker, C. (Hrsg.), Mensch und Computer 2017 – Tagungsband. Regensburg: Gesellschaft für Informatik e.V.. (S. 49-60). (PDF)

Zusammenfassung

Der Beitrag untersucht die Grenzen und Möglichkeiten einer automatischen Erfassung der User Experience (UX) von Produkten durch die Analyse von Online-Reviews. Hierzu wurde ein Tool entwickelt, das online verfügbare Produktbewertungen sammelt und mittels Methoden des Natural Language Processing sowie der Sentiment-Analyse aufbereitet um die Ergebnisse auf die Werteskalen des User Experience Questionnaire (UEQ) abzubilden. Weiterhin präsentieren wir eine Evaluation des so erstellten Tools, indem wir die automatisch generierten Ergebnisse mit den Ergebnissen einer klassischen Benutzerstudie vergleichen. Es zeigt sich, dass automatisch erstellte UX-Analysen aus Online-Reviews zumindest eine grobe Annäherung zur UX eines Produkts zulassen – wenn auch nicht so differenziert wie ein von echten Anwendern, vollständig ausgefüllter UEQ.

Presentations at the DCH 2017

The Interdisciplinary Conference on Digital Cultural Heritage (DCH) takes place in the Staatsbibliothek Berlin, from August 30 – September 1, 2017.

We present two recent projects from the field of museum informatics. The first project „Designing a Digital Museum Catalog App for Tailored Exhibition Experiences“ has been developed in cooperation with the „Haus der Bayerischen Geschichte“ (House of Bavarian History). The second project „Using Virtual Reality as a Means for Knowledge Transfer in Museum Exhibitions“ has been created together with the Regensburg Historic Museum.

Designing a Digital Museum Catalog App for Tailored Exhibition Experiences

  • Download Abstract
  • Demo video will be added shortly 😉

Together with the cultural institution Haus der Bayerischen Geschichte (HdBG), we are currently devel-oping digital concepts and ideas for the upcoming Museum of Bavarian History , which will open in 2018 in Regensburg. Within this project context, we designed a Digital Exhibition Catalog App (DECA) that we would like to present at the Interdisciplinary Conference on Digital Cultural Heritage (DCH) 2017.

According to Mihatsch, an exhibition catalog has two main functions: First, it can be used as a guid-ing tool during the actual visit of an exhibition („catalogue-en-acte“), as it provides useful hints about the organization and content of the exhibition. Second, it can be used as a mnemonic device after the visit of the exhibition („catalogue-document“), as it summarizes and archives all the objects shown in an exhibition. Taking a look at the existing, printed catalogs of past exhibitions of the HdBG, we found that they seem to be focused on the second function, but are rather cumbersome to use as a guiding tool during the actual visit of an exhibition because of their extent and size.

Moreover, traditional catalogs are created by an editorial team and are thus generic, pre-compiled lists of exhibition objects. These objects possibly do not reflect the individual exhibition experience of the museum visitors who may take quite different routes through an exhibition and, in the majority of cases, will not actually visit all the objects listed in the catalog. Finally, printed catalogs are obviously restricted to contain only text and images, but no multimodal content such as audio or video.

To address these issues of existing catalogs, we designed a prototype for the “Landesausstellung Bier in Bayern“ that can be used to create a tailored catalog of the visitors personal exhibition experience via a smartphone app. We implemented an iOS app that allows visitors to collect objects during their visit by means of QR codes and that motivates them to discover (and collect) further objects in the exhibition. The objects that can be collected and cataloged via the app are managed via an easy-to-use, web-based content management system. We are currently also experimenting with further gamification elements that increase the motivation of visitors to engage in the exploration and collection of digital artifacts in the museum.

As next steps, we are planning to conduct information behavior and user experience studies in a realistic exhibition environment, to investigate how users respond to such digital museum catalogs and how they like the aspect of a tailored catalog in particular.

References
Mihatsch, K. (2015). Der Ausstellungskatalog 2.0. Bielefeld: transcript.

Using Virtual Reality as a Means for Knowledge Transfer in Museum Exhibitions

  • Download Abstract
  • Demo video will be added shortly 😉

The far-reaching implications of digitization affect politics and society, and to a growing extent they also influence and change cultural heritage institutions, such as museums. Accordingly, museum informatics are concerned with the interrelation of humans, information and technology in the museum context [2]. Digital applications in the museum range from tools that facilitate the curation and management of museum objects, to entirely new types of information systems for the presentation of such objects [3]. The fast-paced technological development in the consumer electronics market provides access to new technologies like augmented reality (AR) and virtual reality (VR). This enables new concepts for the design of multimodal learning platforms in the museum context, e.g. an immersive virtual reality experience that will drag the user into the time of a cultural artifact to convey the usage or the cultural context in an intuitive way.

We present a project in the intersection of museum informatics and VR. The project is a cooperation between researchers from the Media Informatics Group (University of Regensburg) and an expert for the regional history of Bavaria (University of Augsburg). The project is funded by the Regensburg Museum of History, as part of the recent “Meisterwerke in Bewegung” campaign. The main goal of the project is to create a multimodal learning concept that relies on an extensive VR experience [cf. 1]. The VR application will present various historic aspects to the museum visitors, ranging from local history to the history of urban construction and including everyday life stories of the 16th century.

More concretely, museum visitors find themselves in a virtual visualization of the Regensburg Neupfarrplatz in 1540. After a brief VR tutorial, visitors can explore two narratives in the virtual world: The first narrative allows visitors to interactively explore the construction history of the “Neupfarrkirche”, starting from the early pilgrimage church “Zur schönen Maria” to the current architecture of the “Neupfarrkirche”. The second narrative lets them dive into an everyday life scenario that illustrates historical practices of food consumption and cooking culture, also taking place in the setting of the virtual Neupfarrplatz. We use the Unreal 4 Engine as a basic framework for our project. For the exhibition, we will use the HTC Vive VR-System.

At the end of the project, we will investigate the pedagogical benefits of such virtually enhanced experiences and are planning to conduct a series of experiments that measure the learning outcomes when using the VR system. The results will be relevant not only for the usage of VR in museum contexts, but for any application scenario that will use VR for knowledge transfer.

References

  1. Dechant, M., & Burghardt, M. (2015). Virtuelle Rekonstruktion des Regensburger Ballhauses. In Book of Abstracts, DHd 2015.
  2. Marty, P. F. & Burton Jones, K. (2008). Museum Informatics: People, Information, and Technology in Museums. New York et al.: Routledge.
  3. Mieth, K. (2010). Bildungsarbeit im Museum: Grundfragen und Perspektiven der Vermittlung von Sammlung, Forschung und Präsentation; Beiträge der Fachtagung “Bildung – Pädagogik – Vermittlung. Theorie und Praxis im Kontext Musealer Kernaufgaben” der Sächsischen Landesstell. Chemnitz: Sächsische Landesstelle für Museumswesen.

Symposium: „Film rechnen – Computergestützte Methoden in der Filmanalyse“

Das Thema Bild- und Bewegtbildanalyse gewinnt auch in der – bis dato stark auf Text fokussierten – Digital Humanities Community immer mehr an Bedeutung. So wurde etwa Anfang des Jahres eine dedizierte Arbeitsgruppe beim deutschsprachigen DH-Verband (DHd) gegründet.

Mit dem Symposium in Regensburg, am 3. Juli 2017, soll eine Bestandsaufnahme bestehender Ansätze zur computerbasierten Filmanalyse erfolgen und dabei Grenzen und Möglichkeiten solch digitaler Analyseverfahren diskutiert werden.

Programm

Eröffnung durch den Prodekan (Prof. Dr. Christian Wolff)

MANUEL BURGHARDT
Medieninformatik, Universität Regensburg
“Digitale Methoden für die Filmanalyse – Zwischen Berechnung und Exploration” Vortrag Manuel Burghardt Computerbasierte Filmanalyse

ADELHEID HEFTBERGER
Brandenburgisches Zentrum für Medienwissenschaften, Potsdam
“Computergestützte Analyse für die Filmgeschichte – Erfahrungen und Potentiale”

NIELS-OLIVER WALKOWSKI
Berlin-Brandenburgische Akademie der Wissenschaften
“Perspektiven der filmwissenschaftlichen Interpretierbarkeit von Ergebnissen computergestützter Farbanalyse”

MATTHIAS ZEPPELZAUER
Fachhochschule St. Pölten, Österreich
“Automated Analysis, Retrieval and Annotation of Video and Film”

Slides Matthias Zeppelzauer

Ressourcen und Projekte

Literatur

  1. Burghardt, M., Hafner, K., Edel, L., Kenaan, S., & Wolff, C. (2017). An Information System for the Analysis of Color Distributions in MovieBarcodes. In Proceedings of the 15th International Symposium of Information Science (ISI 2017).
  2. Burghardt, M., Kao, M., & Wolff, C. (2016). Beyond Shot Lengths – Using Language Data and Color Information as Additional Parameters for Quantitative Movie Analysis. In Book of Abstracts of the International Digital Humanities Conference (DH).
  3. Burghardt, M., & Wolff, C. (2016). Digital Humanities in Bewegung: Ansätze für die computergestützte Filmanalyse. In Book of Abstracts of the 3rd DHd Conference.
  4. Heftberger, A. (2012). Ask Not What Your Web Can Do For You – Ask What You Can Do For Your Web! Some Speculations about Film Studies in the Age of the Digital Humanities. In Frames Cinema Journal.
  5. Heftberger, A. (2014). Film archives and digital humanities – An impossible match? New job descriptions and the challenges of the digital era. In MedieKultur: Journal of media and communication research 30(57).
  6. Heftberger, A. (2012). Do Computers Dream of Cinema? Film Data for Computer Analysis and Visualisation. In Berry, D. M. (ed.): Understanding Digital Humanities, p. 210-223.
  7. Walkowski, N. & Pause, J. (2017). The Colorized Dead: Computerunterstützte Analysen der Farblichkeit von Filmen in den Digital Humanities am Beispiel von Zombiefilmen. Book of Abstracts DHd 2017 (Bern), S. 200-204.
  8. Zeppelzauer, M., Mitrovic, D., and Breiteneder, C., (2011). Cross-Modal Analysis of Audio Visual Film Montage. Proceedings of 20th International Conference on Computer Communications and Networks, Maui, USA.
  9. Mitrovic, D., Zeppelzauer, M., Zaharieva, M., and Breiteneder, C. (2011). Retrieval of VisualComposition in Film. Proceedings of the 12th International Workshop on Image Analysis for Multimedia Interactive Services, April 13-15, Delft, The Netherlands.
  10. Seidl, M., Zeppelzauer, M., and Breiteneder, C. (2010). A Study Of Gradual Transition Detection in Historic Film Material. In Proceedings of the ACM Multimedia 2010, Workshop – Electronic Heritage and Digital Art Preservation (eHeritage), pp. 13-18. Firenze, Italy.
  11. Zeppelzauer, M., Mitrovic, D. and Breiteneder, C. (2008). Analysis of Historical Artistic Documentaries. In Proceedings of the 9th International Workshop on Image Analysis for Multimedia Interactive Services, pages 201-206, Klagenfurt, Austria.
  12. Zaharieva, M., Zeppelzauer, M., Breiteneder, C., and Mitrovic, D. (2010). Camera Take Reconstruction. In Proceedings of IEEE Multimedia Modeling Conference, Jan 6-8, 2010, Chongqing, China, pp. 379-388.
  13. Zeppelzauer, M., Zaharieva, M., Mitrovic, D., and Breiteneder, C. (2010). A Novel Trajectory Clustering Approach for Motion Segmentation. In Proceedings of Multimedia Modeling Conference, pp. 433-443. Jan 6-8, (2010), Chongqing, China.
  14. Mitrovic D., Hartlieb, S., Zeppelzauer, M., and Zaharieva, M. (2010). Scene Segmentation in Artistic Archive Documentaries. HCI in Work and Learning, Life and Leisure, LNCS, vol. 6389, pp 400-410. Springer, Berlin/Heidelberg.
  15. Zaharieva, M., Zeppelzauer, M., Mitrovic, D. and Breiteneder, C. (2009). Finding the Missing Piece: Content-Based Video Comparison. In Proceedings of the 11th IEEE International Symposium on Multimedia (ISM 2009), pages 330-335, San Diego, USA.
  16. Seidl, M., Zeppelzauer, M., Mitrovic, D., and Breiteneder, C. (2011). Gradual Transition Detection in Historic Film Material – A Systematic Study. ACM Journal on Computing and Cultural Heritage, 4(3).
  17. Zeppelzauer, M., Zaharieva, M., Mitrovic, D., and Breiteneder, C. (2011). Retrieval of Motion Composition in Film. Digital Creativity, 22(4):219-234.
  18. Zaharieva, M., Zeppelzauer, M., Mitrovic, D. and Breiteneder, C. (2010). Archive lm comparison. International Journal of Multimedia Data Engineering and Management, 1(3):41-56.
  19. Zaharieva, M., Mitrovic, D., Zeppelzauer, M., and Breiteneder, C. (2010). Film Analysis of Archive Documentaries. IEEE Multimedia, 18(2):38-47, February, 2011.
  20. Zeppelzauer, M., Mitrovic, D., and Breiteneder C. (2012). Archive Film Material – A novel Challenge for Automated Film Analysis. In: Frames Cinema Journal, Issue 1, ed. Catherine Grant.

 

DATeCH 2017: Crowdsourced Transcription of Handwritten Music Scores

Author: Manuel Burghardt

I am currently attending the DATeCH 2017 conference in Göttingen, which is fully packed with interesting talks on „Digital Access to Textual Cultural Heritage“. The venue is right in the heart of the „Niedersächsische Staats- und Universitätsbibliothek Göttingen“, which is quite a decent place for a conference 🙂

Talk: Crowdsourced Transcription of Handwritten Music Scores

I will be presenting a research project that was created together with Sebastian Spanner.

Allegro: User-centered Design of a Tool for the Crowdsourced Transcription of Handwritten Music Scores

In this paper, we describe the challenge of transcribing a large corpus of handwritten music scores. We conducted an evaluation study of three existing optical music recognition (OMR) tools. The evaluation results indicate that OMR approaches do not work well for our corpus of highly heterogeneous, handwritten music scores. For this reason, we designed Allegro, a web-based crowdsourcing tool that can be used to transcribe scores. We relied on a user-centered design process throughout the development cycle of the application, to ensure a high level of usability. The interface was designed in a way it can be used intuitively, even by novices of musical notation. We describe the core features of Allegro and the basic transcription workflow. A first public beta test with 18 users shows that a crowdsourced transcription approach via the Allegro tool is a viable option for the encoding of our corpus of folk songs.

Related research from our group

Interesting tools mentioned in other DATeCH talks

*Gotta love those names 🙂