2.4 Weiterentwicklung der Software TIMAAT zur Analyse audiovisueller Social Media-Inhalte

Zum Projekt

Im Rahmen der FlexFunds-Förderung wurde die Open-Source-Software TIMAAT (Time-based IMage Area Annotation Tool) weiterentwickelt, um sie gezielt für die Analyse audiovisueller Social Media-Inhalte nutzbar zu machen. Plattformvideos zirkulieren häufig nicht als Einzelobjekte, sondern in Form vernetzter Meme-Komplexe, die durch wiederkehrende Sounds sowie komplexe Bezüge zwischen Bild- und Tonebene strukturiert sind. Diese relationalen und multimodalen Eigenschaften stellen die qualitative Forschung vor spezifische methodische Herausforderungen, die durch die Erweiterung der Software adressiert wurden.

TIMAAT wurde ursprünglich 2017–2022 von bitGilde IT Solutions in Zusammenarbeit mit der Universität Mainz entwickelt und bietet eine browserbasierte, kollaborative Umgebung zur Verwaltung und visuellen Annotation von Videos.

Ausgangspunkt des Vorhabens war die Erweiterung dieses bestehenden Systems um zentrale Anforderungen der Social Media-Forschung, insbesondere im Bereich der Audioanalyse, der Verschränkung von Ton- und Bildannotation sowie der Gruppierung miteinander verbundener Datensätze.

Die Entwicklung erfolgte in enger Zusammenarbeit zwischen den Forschungsprojekten von Dr. Verena Straub an der TU Dresden und Prof. Dr. Christoph Günther an der Universität Erfurt, begleitet durch Prof. Dr. Jens-Martin Loebel (Hochschule Magdeburg-Stendal) in beratender Funktion.

Ergebnisse

Die im Antrag formulierten Arbeitspakete wurden vollständig umgesetzt und in TIMAAT integriert. Die Software wurde damit erfolgreich für den Einsatz in der audiovisuellen Social Media-Forschung erweitert.

AP 1: Erweiterung der Funktionalität im Bereich Audio Zur Analyse von Sounds als zentralem Strukturmerkmal vieler Video-Trends wurden folgende Funktionen implementiert:

  • Visualisierung der Audiospur (Waveform) mit erweiterten Anzeigeoptionen:
    • Für die Extraktion der Amplitudeninformationen wird die Audiospur des jeweiligen Mediums in ein Standardformat konvertiert (PCM 16 Bit, Little Endian). Als Datenpunkt wird der normalisierte Mittelwert einer variablen Anzahl von Samples herangezogen.
  • Darstellung der Frequenzinformationen für einen bestimmbaren Audiobereich:
    • Zur Bestimmung der Frequenzinformation wird eine Fourier-Transformation (implementiert mittels FFT) auf segmentierte Abschnitte der Audiospur angewendet. Die Audiospur wird hierzu in Einzelsegmente mit einer maximalen Länge von 500ms unterteilt. Für jedes Segment wird die dominante Frequenzkomponente des Amplitudenspektrums ermittelt und als Frequenzdatenpunkt verwendet.
  • Möglichkeit zur Erstellung und Darstellung von Audioannotationen
  • Verlinkung von verwendeten Sounds/Songs mit Videodatensätzen
  • Zoom- und Navigationsfunktionen für detaillierte Audioanalyse

AP 2: Verschränkung von (Bewegt)Bild- und Audioanalyse Für die wissenschaftliche Erfassung von Beziehungen zwischen Ton- und Bildebene wurden umgesetzt:

  • zusätzliche Timeline-Ebene zur Abbildung von Soundstrukturen
  • synchronisierte Anzeige von Annotaten auf Audio- und Videoebene
  • visuelle Hervorhebung korrespondierender Segmente

AP 3: Gruppierung und Visualisierung vernetzter Daten Für die Analyse von Meme-komplexen wurden neue Gruppierungs- und Übersichtsformate ergänzt:

  • erweiterte Relationen zwischen Datensätzen jenseits von Tags/Kollektionen
  • Thumbnail-basierte Visualisierung von Video-Gruppen
  • erste Funktionen zur Darstellung von Clustern und relationalen Strukturen

Die Umsetzung von Arbeitspaket 3 wurde zusätzlich durch Mittel von Prof. Dr. Christoph Günther (Universität Erfurt) kofinanziert. Die weiterentwickelte Version von TIMAAT ist weiterhin als Open-Source-Software verfügbar: https://github.com/bitgilde/TIMAAT

Ausblick

Auf Grundlage der erfolgreich abgeschlossenen Erweiterungen sind weitere Entwicklungsschritte vorgesehen, um TIMAAT langfristig an neue Forschungsanforderungen anzupassen. Geplant sind insbesondere:

  • Integration einer automatischen Spracherkennung (Speech-to-Text/Untertitel)
  • Aufbau einer modularen AI Image Detection, um KI-generierte Inhalte in Videokorpora identifizieren zu können
  • Damit leistet TIMAAT einen nachhaltigen Beitrag zur Entwicklung digitaler Forschungsinfrastrukturen für qualitative audiovisuelle Analysen in den Digital Humanities.

Verena Straub, Christoph Günther, Jens-Martin Loebel