Beveiligingsexperts maken zich zorgen dat de nieuwe functie van Google ‘ongelooflijk gevaarlijk’ is

nieuw Googlen Functie bedoeld om mensen te waarschuwen Trucs Het leidde tot zorgen bij privacyactivisten.

De tool maakt gebruik van kunstmatige intelligentie om de telefoongesprekken van mensen af ​​te luisteren en te detecteren of deze op oplichterij lijken. Als ze dat doen, verschijnt er een pop-up die mensen waarschuwt voor een ‘mogelijke oplichterij’.

De functie werd deze week aangekondigd tijdens Google I/O, waar een groot aantal nieuwe AI-tools werden aangekondigd. Zoals veel van deze functies heeft Google niet gezegd wanneer ze daadwerkelijk zullen verschijnen.

Het leverde ook weinig informatie op over hoe de functie daadwerkelijk werkt, zoals welk soort gesprekken de AI ertoe zou kunnen aanzetten om aan te geven dat een oproep mogelijk oplichterij is. Maar het zei dat het afhankelijk is van de Gemini Nano, een veel kleinere versie van de AI die onlangs is uitgebracht en is ontworpen om op telefoons te draaien.

Google benadrukte dat al het luisteren en analyseren van telefoongesprekken op de telefoon zelf zal plaatsvinden, zodat privégesprekken niet naar zijn servers worden gestuurd. “Al deze beveiliging gebeurt op het apparaat, dus je gesprek blijft privé voor jou”, zei ze in haar aankondiging.

Beveiligingsexperts wezen er echter op dat het op deze manier luisteren naar telefoongesprekken ‘buitengewoon gevaarlijk’ en ‘angstaanjagend’ is. Ze merkten op dat zelfs als de oproepen op het apparaat bleven staan, het toestaan ​​van AI om oproepen af ​​te luisteren tot andere problemen zou kunnen leiden.

“De telefoongesprekken die we op onze apparaten voeren, kunnen een van de meest persoonlijke dingen zijn die we doen”, zegt Albert Fox-Kahn, uitvoerend directeur van het Surveillance Technology Project. NBC-nieuws. “Het is heel gemakkelijk voor adverteerders om elke zoekopdracht die we doen, elke URL waarop we klikken, te extraheren, maar wat we daadwerkelijk op onze apparaten zeggen, in de microfoon, is van oudsher niet gecontroleerd.”

“Dit is erg gevaarlijk”, zegt Meredith Whittaker, hoofd van de berichtenapp Signal. “Het maakt de weg vrij voor gecentraliseerd scannen aan de clientzijde op apparaatniveau.”

Mevrouw Whittaker, die dertien jaar bij Google heeft gewerkt en heeft geholpen bij het organiseren van interne protesten tegen het Google-beleid, zei dat het gebruik van technologie zich snel zou kunnen uitbreiden.

Van het detecteren van ‘fraude’ is het een korte stap naar ‘het detecteren van patronen die vaak verband houden met frauduleuze plannen’.[ith] Op zoek naar reproductieve zorg” of “vaak geassocieerd met[ith] “Het verstrekken van LHBTQ-middelen” of “wordt meestal geassocieerd met het klokkenluiden van technologiewerkers”, zei ze.