Sonification in practice/el

Η ηχοποίηση στην πράξη, για εκπαιδευτικούς σκοπούς, αποτελεί μια διαδικασία διερεύνησης κάθε δυνατότητας η οποία απαντά ουσιαστικά στο ερώτημα: «Πώς μπορώ με ήχο να αναδείξω ή να καταδείξω, μια ή περισσότερες πληροφορίες ή συμπεράσματα τα οποία προκύπτουν από μια κίνηση, μέτρηση, ή φαινόμενο το οποίο είτε υπάρχει είτε εξελίχθηκε είτε εξελίσσεται μέσα στο χρόνο;». Τα υπάρχοντα δεδομένα που έχουμε στη διάθεσή μας, οι συνθήκες και οι τρόποι συλλογής τους αλλά και ο εκπαιδευτικός σκοπός για τον οποίο η ηχοποίηση προορίζεται, είναι οι καθοριστικοί παράγοντες για την αξιοποίηση μιας ηχοποίησης.

Οι ακόλουθοι παράγοντες διαμορφώνουν και την σχέση των εκπαιδευτικών αναγκών τόσο με την έννοια του ήχου όσο και της συγκροτημένης παράθεσής του μέσα στο χρόνο, δηλαδή την έννοια της μουσικής.

Πτυχές της διδασκαλίας με ηχοποίηση ως μουσική πρακτική

Η αδιαμφισβήτητη σχέση ήχου και αριθμών με την έννοια της ανάλυσης του ήχου σε συχνότητες ή αρμονικούς, διέπει ούτως ή άλλως ένα αρκούντως δομημένο πλαίσιο διαθεματικής διδασκαλίας με τη χρήση ήχου στο οποίο όλες οι πτυχές του STEAM δύνανται να υπηρετηθούν. Καθώς η έννοια του χρόνου καθορίζει το ηχητικό φαινόμενο, η παραστατική πράξη ενός ηχητικού αποτελέσματος δεν μπορεί παρά να βρίσκεται στο επίκεντρο οποιασδήποτε διδακτικής προσέγγισης. Κατ’ επέκταση, η οργανωμένη παράθεση ηχητικών στοιχείων στο χρόνο με τρόπο αρμονικό -τόσο ως προς τον ρυθμό, την ένταση, την χροιά, το τονικό ύψος όσο και ως προς την βαθμιδική θέση τους στην μουσική κλίμακα, διατονική ή μη - συνιστά ένα μουσικό αποτέλεσμα. Η έλλογη αυτή οργάνωση από τον άνθρωπο δύναται να αποτελέσει πεδίο πειραματισμού μουσικής σύνθεσης ενώ η παραμετροποίηση όλων των παραπάνω εννοιών μπορεί να εμπλουτίσει οποιοδήποτε διδακτικό στόχο εξαρτάται από την εξέλιξη ενός φαινομένου μέσα στο χρόνο ή την μετατροπή δεδομένων σε ήχο.

Έτσι μπορούμε εύλογα να διακρίνουμε την έννοια της ηχοποίησης για εκπαιδευτικούς σκοπούς σε τρεις βασικές προσεγγίσεις:

• Την συμβολική ηχοποίηση

• Την μαθηματική ηχοποίηση

• Την προσαρμόσιμη ηχοποίηση

Η συμβολική ηχοποίηση=

Η εκφορά χαρακτηριστικών του ήχου, δηλαδή: τονικό ύψος, ένταση, χροιά, ρυθμός επανάληψης (εφόσον υπάρχει) και διάρκεια, τα οποία συνδέονται με επιστημονική έννοια, όρο, μέγεθος, χωρίς να αντιστοιχίζονται λογικά με σύνολο δεδομένων (data-mapping), αποτελεί αντικείμενο συμβολικής ηχοποίησης.

Ένα απλό παράδειγμα θα ήταν να «ζωγραφίζαμε ηχητικά» ένα γκρίζο σύννεφο δημιουργώντας έναν θόρυβο χαμηλών συχνοτήτων και ένα άσπρο σύννεφο με θόρυβο υψηλών συχνοτήτων. Ένα άλλο παράδειγμα θα είχαμε αν μια τάξη μαθητών αναπαριστούσε τον ήχο της βροχής να χτυπούν τυχαία τα νύχια τους στα θρανία τους. Ένα άλλο παράδειγμα που σχετίζει τη μελοποίηση με τη μουσική είναι το leitmotif. Το leitmotif είναι ένα σύντομο μελωδικό θέμα λίγων συγκεκριμένων φθόγγων το οποίο, ως μοναδικό μοτίβο (πρότυπο), συνδέεται με έναν χαρακτήρα σε μια όπερα που παίζεται από την ορχήστρα, ιδιαίτερα στις όπερες του Βάγκνερ. Το leitmotif ενός χαρακτήρα φέρνει στο νου τον χαρακτήρα καθ' όλη τη διάρκεια του έργου, είτε ο χαρακτήρας βρίσκεται στη σκηνή είτε όχι! Μεταφέροντάς το σε μια σειρά δεδομένων, ένα τέτοιο leitmotif θα μπορούσε να αντικαταστήσει τον αναμενόμενο ήχο μιας εξέχουσας χαμηλής, συγκεκριμένης ή υψηλής τιμής (ή περιοχή τιμών) χωρίς να έχει συνοχή ούτε να προκύπτει από τα γειτονικά δεδομένα.

Μαθηματική ηχοποίηση

Ο ήχος, του οποία τα χαρακτηριστικά - τονικό ύψος, ένταση, χροιά, ρυθμός επανάληψης (εφόσον υπάρχει) και διάρκεια- διατρέχουν διανυσματικά σύνολο δεδομένων μέτρησης συνδεδεμένο με μέγεθος, όρο, ή επιστημονική έννοια και διαμορφώνονται ως αποτέλεσμα λογικής αντιστοίχισης με ένα ή περισσότερα μέρη του συνόλου αυτού (direct data-mapping), είναι αποτέλεσμα μαθηματικής ηχοποίησης.

Ένα παράδειγμα που εξηγεί άριστα την παραπάνω διάκριση, εκμεταλλευόμενο κυρίως το χαρακτηριστικό του ρυθμού, είναι αυτό του μηχανισμού ηχητικής απόδοσης της απόστασης ενός αυτοκινήτου από το διπλανό του κατά διάρκεια στάθμευσης που διαθέτουν τα αυτοκίνητα. Η συχνότητα επανάληψης του στιγμιαίου αυτού ηχητικού σήματος διαμορφώνει ένα μοτίβο επανάληψης του οποίο ο ρυθμός μεταβάλλεται (αργό-γρήγορο) ανάλογα με τα δεδομένα εγγύτητας στο εμπόδιο τα οποία λαμβάνονται με μεγάλη ακρίβεια από αισθητήρα.

To understand the difference between symbolic and mathematical representation, we can adapt the previous examples as “unplugged activities” in a classroom. Mathematical sonification in the cloud example would occur if we defined a color threshold for white or gray and represented the droplets that make up the clouds with millions of frequency particles of minimal duration (sound nebulae) the droplets of which clouds are composed. In the example of rain, we would have a mathematical sonification if students represented with absolute precision, one by one, every raindrop at a specific time and surface area. Finally, in the example of “parking,” we would have symbolic representation if the students’ eyes took on the role of the sensor, where data would be estimated visually without absolute mathematical measurement.

Adaptive Sonification

It is a sound design or musical composition (by expanding this notion), resulting from mathematical sonification in which, however, methods of aesthetic sound-rendering are creatively utilized to meet teaching objectives in describing learning concepts.

Furthermore, the analysis of data-mapping methods in conjunction with the diatonic scale opens up a fruitful field for exploring teaching tools that allow sound to be processed in terms of musical composition. The use of MIDI for sound processing or the highlighting of musical motifs—which can serve as a starting point for creating musical compositions—perfectly extends adaptive sonification. In fact, the graphical representation of data (graphical display) can be creatively transformed into sound by treating the display as a two-dimensional scheme, or even a photograph as a three-dimensional image. The result is referred to as “schematic sonification”.

This adaptable approach broadens access to the auditory outcome of data sonification across a wide range of age groups and grade levels, inviting educators from other disciplines—such as Art, Theater, and Music, to actively participate in interdisciplinary teaching. An example of this approach has been implemented in the “Sounds of the Stars” scenario.

THE MIDI protocol. Why is it useful for sonification in school?

MIDI Protocol stands for Musical Instrument Digital Interface and was introduced in early ’80s as machine language allowing analog and later digital instruments interconnection. This language interprets several aspects of music performance and notation in an electronic format.

MIDI enables the user to receive, transmit, store and edit electronically produced signals that correspond to several aspects of music. Main parameters of these aspects include note-on, note-off, velocity, timbre and pitch. All these parameters can be stored as code in timeline fashion within a MIDI file. A MIDI file resembles the “program” in the form of a revolving cylinder or perforated paper used in late 18th c. music boxes or early 20th c. “pianolas”, which are musical automata. It is this characteristic that can be proved enormously useful for educational purposes, as numerous midi applications, sensors and programs are widely spread throughout the internet. Within the present WIKI pages sensors using MIDI in particular, are widely displayed.

In the following pages, practical ways to handle data sets coming either from measurements or from sensors are described as: Unplugged activities, Real-time sonification and ''a posteriori'' sonification.

A sonification activity consistes in the design and buidling of a sonification system. A sonification system can be accomplished in many different ways but 3 components must always be considered: 1) INPUT DATA; 2) MAPPING PROTOCOL; 3) AUDIO OUTPUT;

Data Input

Mapping Protocol

Audio Output

Unplugged activities

Real-time sonification

''a posteriori'' sonification