Amazon Alexa onthult nieuwe technologie die geluiden kan nabootsen, waaronder die van de doden

“In plaats van Alexa’s stem die het boek voorleest, is het de stem van de grootmoeder van de baby”, verklaarde Rohit Prasad, senior vice-president en hoofd AI-wetenschapper van Alexa, woensdag enthousiast tijdens een keynote-toespraak in Las Vegas. (Amazon-oprichter Jeff Bezos is eigenaar van The Washington Post.)

het aanbod Het was de eerste glimp van de nieuwste functie van Alexa, die – hoewel nog in ontwikkeling – de stemassistent in staat zal stellen de stemmen van mensen uit korte audioclips te herhalen. Het doel, zei Prasad, is om meer vertrouwen bij gebruikers op te bouwen door AI te voorzien van “de menselijke eigenschappen van empathie en invloed”.

De nieuwe functie kan ‘maken’ [loved ones’] Flashbacks, “zei Prasad. Maar hoewel het vooruitzicht om de stem van een overleden familielid te horen erg ontroerend kan zijn, roept het ook een groot aantal veiligheids- en ethische zorgen op, aldus experts.

“Ik heb niet het gevoel dat onze wereld klaar is voor gebruiksvriendelijke technologie voor het klonen van spraak”, zegt Rachel Tobak, CEO van het in San Francisco gevestigde SocialProof Security, tegen The Washington Post. Ze voegde eraan toe dat dergelijke technologie kan worden gebruikt om het publiek te manipuleren door middel van valse audio- of videoclips.

“Als cybercriminelen gemakkelijk en betrouwbaar de stem van iemand anders kunnen repliceren met een kleine stem, kunnen ze de stem gebruiken om zich voor te doen als andere individuen”, voegt Tupac, een cybersecurity-expert, toe. “Deze slechte acteur kan dan anderen misleiden door te denken dat zij de persoon zijn die ze imiteren, wat kan leiden tot fraude, gegevensverlies, accountovername en meer.”

Er bestaat ook het gevaar dat de scheidslijn tussen wat menselijk en wat mechanisch is, vervaagt, zegt Tama Lever, hoogleraar internetstudies aan de Curtin University in Australië.

“Je zult je niet herinneren dat je met de diepten van Amazon hebt gepraat… en… Zijn gegevensverzamelingsdiensten Of hij nu tegen je grootmoeder praat, of de stem van je grootvader, of de stem van een geliefde.”

“Het lijkt een beetje op een aflevering van Black Mirror,” zei Leaver, opmerkend. Een sciencefictionserie die een toekomst verbeeldt onder de titel technologie.

Een Google-ingenieur die gelooft dat de kunstmatige intelligentie van het bedrijf is bereikt

Leaver voegde eraan toe dat de nieuwe Alexa-functie ook vragen oproept over toestemming – vooral voor mensen die nooit hadden gedacht dat hun stem zou worden gedragen door een geautomatiseerde persoonlijke assistent nadat ze stierven.

“Er is een echt glibberig pad om de gegevens van overleden mensen te gebruiken op een manier die aan de ene kant beangstigend is, maar aan de andere kant erg onethisch omdat ze er nooit aan hebben gedacht om deze effecten op deze manier te gebruiken,” zei Leaver.

Nadat hij onlangs zijn grootvader had verloren, zei Lever dat hij sympathiseerde met de “verleiding” om de stem van een geliefde te willen horen. Maar, zei hij, de mogelijkheid opent een deur naar consequenties die de samenleving misschien niet wil dragen – bijvoorbeeld, Wie heeft het recht op de kleine fragmenten die mensen achterlaten voor World Wide Web-influencers?

Als mijn grootvader me 100 berichten heeft gestuurd, heb ik dan het recht om dat in het systeem te zetten? En zo ja, van wie is het? Heeft Amazon die opname dan? ‘ vroeg hij. ‘Heb je het recht op de stem van mijn grootvader opgegeven?’

Prasad ging niet in op dergelijke details tijdens de toespraak van woensdag. Hij stelde echter dat het vermogen om geluiden na te bootsen een product was van “ongetwijfeld leven in de gouden eeuw van kunstmatige intelligentie, waar onze dromen en sciencefiction werkelijkheid werden.”

Dit AI-model probeert de geest van Ruth Bader Ginsburg na te bootsen

Als de demo van Amazon een echte functie wordt, zei Leaver dat mensen misschien moeten gaan nadenken over hoe hun stemmen en gelijkenis zullen worden gebruikt als ze sterven.

“Moet ik in mijn testament opnemen dat ik moet zeggen: ‘Mijn stem en mijn afgebeelde geschiedenis op sociale media is het eigendom van mijn kinderen, en zij kunnen beslissen of ze dat willen doen herleven in een chat met mij? ‘ vroeg Lever.

‘Dat is vreemd om nu te zeggen. Maar het is waarschijnlijk een vraag waar we een antwoord op moeten hebben voordat Alexa morgen begint te praten zoals ik.’