Disembodied Voices and the Politics of Human-Machine Conversation

Zum virtuellen Ausstellungsraum bei Gathertown

Zur vollständigen Dokumentation auf der Projektwebsite

In diesem Projekt haben wir uns Sprachassistenten, Smart Speaker und Chatbots genauer angeschaut: Warum sind die meisten Sprachassistenten weiblich? Warum müssen künstliche Assistenten überhaupt vermenschlicht werden? Warum leben sie in Zylindern? Was sind die sozialen und politischen Dimensionen dieser Technologie? Wie können wir Themen wie den sorglosen Umgang mit Nutzerdaten, den enormen Verbrauch von Ressourcen wie Energie und Rohstoffen und die Ausbeutung menschlicher Arbeitskraft angehen? Können Strategien der Spekulation als Werkzeug feministischer Kritik im Umgang mit Sprachassistenten genutzt werden?
In interdisziplinären Teams entwickelten die Studierenden mit Hilfe einer Mischung aus experimentellen Formaten, spekulativen Elementen, angewandter Praxis und vertiefter Theorie neue, vielfältige Konzepte. Ziel war es, gängige Annahmen über Technik zu verlernen - und dabei Konzepte von Sprache, Gender und Design zu hinterfragen.
Voraussetzung dafür ist eine kritische Auseinandersetzung mit Theorien und Konzepten aus den Bereichen Voice Tech, Machine Bias, Maschinenethik, feministische Science-Technology-Studies und Privacy Politics.
Es gab Workshops zum Prototyping von Chatbots, zum Training von Sprachmodellen mit maschinellem Lernen und zum erfolgreichen Aufbau interdisziplinärer Zusammenarbeit.
In der praxisorientierten Forschung gingen die Studierenden folgenden Fragen nach: Wie könnten alternative Wege zur Entwicklung und Gestaltung von Sprachassistenten aussehen? Wo liegt das pragmatisch-nützliche, wo das poetisch-narrative Potenzial von Sprachassistenten? Wie können wir es zum Vorschein bringen? Wie kann der Stimme eine Form gegeben werden? Welche Alternativen sind es wert, erforscht zu werden?Das Ergebnis des Semesters sind Entwürfe, Versuchsreihen, Prototypen, Performances, Geräte, Interfaces, aber auch ein tiefes theoretisches Verständnis von Chatbots, Sprachassistenten, Bias .....
Die Teilnehmer waren Studierende des Industriedesigns von der Hochschule für Kunst und Design Burg Halle und Studierende der Angewandten Medien- und Kulturwissenschaften von der Hochschule Merseburg.
Sie erprobten interdisziplinäres Arbeiten und schärften ihre eigenen Fähigkeiten in gemeinsamen Projekten mit ihren Kommilitonen. Als Vertreter unterschiedlicher Disziplinen brachten die Studierenden ihre jeweiligen Kompetenzen in das gemeinsame Projekt ein. Ziel des Projekts war es, in interdisziplinären Teams gemeinsam Fragestellungen und Methoden zu erarbeiten. Das Thema erforderte die Vernetzung von individuellen Fähigkeiten und fachspezifischem Wissen zu einem kollektiven Wissens- und Erfahrungspool. Darüber hinaus lag der Fokus auf der Entwicklung einer gemeinsamen Sprache, die einen Kommunikationsprozess über die Fachgrenzen hinweg ermöglicht.
Als Extra kamen wir regelmäßig in einem Leseclub zusammen, um theoretische Rahmen von Spekulation, Sprachtechnologien und Technikgeschichte aus einer intersektional feministischen Perspektive weiter zu erforschen.

Studierende/Students
Lara Kuom, Lena Eichhorn, Joris Grahl, Konrad Kosse, Sasha Becker, Sophie-Charlotte Bolinski, Yang Ni

Gäste/Guests
Alexa Steinbrück, Tobias Revell, Isabella Hermann, Sophie Thurner, Ottonie von Roeder, Dr. Libby Heaney

In this project we took a closer look at voice assistants, smart speakers and chatbots: Why are most voice assistants female? Why do artificial assistants have to be humanized at all? Why do they live in cylinders? What are the social and political dimensions of this technology? How can we address issues like careless handling of user data, enormous consumption of resources such as energy and raw materials, and exploitation of human labor? Can strategies of speculation be used as a tool of feminist critique in dealing with voice assistants?
In interdisciplinary teams the students developed new, diverse concepts with the support of a mix of experimental formats, speculative elements, applied practice and in-depth theory. Our goal was to unlearn common assumptions of technology – and in the process to question concepts of language, gender and design.
A prerequisite for this is a critical engagement with theories and concepts from the fields of voice tech, machine bias, machine ethics, feminist science-technology studies and privacy politics.
There were workshops on how to prototype chatbots, how to train language models with machine learning and how to successfully establish interdisciplinary collaborative work.
Through our practice-based research, the students explored the following questions: What might alternative ways of developing and designing voice assistants look like? Where is the pragmatic-useful, where is the poetic-narrative potential of voice assistants? How can we bring it to light? How can voice be given a form? Which alternatives are worth exploring?The outcome of the semester will be designs, experimental series, prototypes, performances, devices, interfaces, but also a deep theoretical understanding of chatbots, voice assistants, bias …..
The participants were industrial design students from Burg Halle University of Art and Design and students of applied media and culture studies from the University of Applied Sciences Merseburg.
They tried out interdisciplinary work and sharpened their own skills in joint projects with their counterparts. As representatives of different disciplines, the students brought their respective competencies to the joint project. The aim of the project was to work out questions and methods together in interdisciplinary teams. The complexity of the topic required the networking of individual skills and subject-specific knowledge to form a collective pool of knowledge and experience. In addition, the focus was on developing a common language that enables a process of communication across disciplinary boundaries.
As an extra we regularly came together in a reading club to further explore theoretical frameworks of speculation, voice technologies and history of technology through an intersectional feminist lense.