Waarom je stemassistent seksistisch kan zijn

Maar Sutton wijst erop dat mensen nu heel goed bekend zijn met holografische technologieën.

“We zijn zo geconfigureerd om bepaalde soorten geluiden in deze apparaten te horen, dat het voor gebruikers moeilijk kan zijn om daarvan af te wijken”, zegt ze.

Het is duidelijk dat een deel van het probleem hier is dat gendervooroordelen en vooroordelen overal in de samenleving bestaan ​​en dat synthetische stemmen – zoals elk cultureel spoor – het risico lopen dit om te keren. Hoewel het nog steeds een waardevolle oefening is, kun je gendervooroordelen niet wegnemen door de stem van Siri opnieuw te ontwerpen. Het zal de vrouwenhatende houding van mensen niet van de ene op de andere dag omkeren of plotseling gelijk zijn aan het aantal vrouwen en mannen dat in de AI-industrie werkt.

Er moet hier nog een punt worden gemaakt. Dat wil zeggen dat virtuele assistenten – per definitie – altijd afhankelijke entiteiten zullen blijven. Het zijn immers min of meer digitale dienaren, dus hoe kunnen we ze op een gelijkwaardig niveau aanspreken? Dit is echt wat we nodig hebben om te breken met alle gênante machtsdynamiek en problematisch autoritair gedrag dat we momenteel ervaren.

“Als het in de eerste plaats is ontworpen om mensen te helpen zoeken en winkelen, hoe ver kun je dan gaan met zinvolle representaties en relaties?” quizzen Charlotte Webb, mede-oprichter van Internetfeminisme.

In de nabije toekomst zullen we waarschijnlijk meer technologieën tegenkomen die ons aanspreken. Webb zegt dat ze zich zorgen maakt over hoe stemassistenten genderstereotypen kunnen blijven bestendigen als ze avatars belichamen in ‘metaverse’ virtual reality-ruimtes. Mensen zijn al geweest Beschuldigd van het seksueel lastigvallen van anderen in de metaverse. Zullen virtuele assistenten, onbedoeld of onbedoeld, dergelijk gedrag mogelijk maken en aanmoedigen?

De geschiedenis van synthetische stemmen, en onze houding jegens hen, heeft mogelijk gendervooroordelen in stand gehouden en zelfs verdiept, zoals een feedbacklus die enkele van onze slechtste bedoelingen versterkt. Het bewustzijn van dergelijke problemen is de afgelopen jaren echter toegenomen, met onderzoeken naar de resultaten van kunstmatige-intelligentietechnieken en veranderingen in sociale attitudes dankzij De #MeToo-beweging en soortgelijke campagnes.

Je zou kunnen stellen dat dit tenslotte de kern is van dit alles. Een beter geïnformeerde benadering van elkaar en de prachtige reeks menselijke identiteiten die er in de wereld zijn, begint bij ons, niet bij een database. Om gendervooroordelen te overwinnen, kunnen we de software niet zomaar updaten. Of breng het voertuig terug naar de fabrikant.

“Ik zie er absoluut geen technische oplossing voor”, zegt Webb. “Ik denk dat het een menselijk probleem is.”

–

Sluit je aan bij 1 miljoen Future-fans door ons leuk te vinden Facebookof volg ons Twitter of Instagram.

Als je van dit verhaal houdt, Abonneer u op de wekelijkse nieuwsbrief van bbc.comgenaamd de “Basic List” – een zorgvuldig geselecteerde verzameling verhalen van
BBC toekomstEn de cultuurEn de werk levenEn de Reis En de vroeg Elke vrijdag in je mailbox.