Googlers zeggen dat Bard AI ‘erger dan nutteloos’ is, ethische bezwaren worden genegeerd – Ars Technica

Van buitenaf ziet Google Bard eruit als een gehaast product om te proberen te concurreren met ChatGPT, en sommige Googlers delen dat gevoel. Nieuw rapport van bloeiberg Hij interviewde 18 huidige en voormalige werknemers en kwam met een stapel opmerkingen en zorgen over AI-ethiekteams die “gedemoraliseerd en gedemoraliseerd” waren totdat Google Bard de deur uit kon krijgen.

Volgens het rapport werden Google-medewerkers die de Bard-versie vooraf testten, gevraagd om hun feedback, die meestal werd genegeerd, zodat Bard sneller kon starten. Interne discussies gezien door Bloomberg noemden Bard “een stap terug verdienen” en een “pathologische leugenaar”. Toen hem werd gevraagd hoe hij het vliegtuig moest landen, gaf hij verkeerde instructies die ertoe zouden leiden dat het vliegtuig neerstortte. Een personeelslid vroeg om duikinstructies en kreeg als antwoord dat ze zeiden “waarschijnlijk te resulteren in ernstig letsel of de dood”. Een medewerker vatte de problemen van Bard samen in een bericht in februari met de titel “Koud is erger dan nutteloos: laat u alstublieft niet ontslaan.” Bard gelanceerd in maart.

Je zou waarschijnlijk veel van dezelfde dingen kunnen zeggen over de AI-concurrent waar Google op jaagt, OpenAI’s ChatGPT. Beiden kunnen bevooroordeelde of valse informatie geven en onjuiste antwoorden hallucineren. Google loopt ver achter op ChatGPT en het bedrijf is verbijsterd over het vermogen van ChatGPT om vragen te beantwoorden die mensen anders zouden typen in een Google-zoekopdracht. OpenAI, de maker van ChatGPT, is bekritiseerd vanwege een lakse benadering van AI-veiligheid en -ethiek. Nu bevindt Google zich in een moeilijke positie. Als de enige zorg van een bedrijf is om de aandelenmarkt te sussen en ChatGPT in te halen, zal het dat waarschijnlijk niet kunnen doen als het langzamer gaat nadenken over ethische kwesties.

Meredith Whitaker, voormalig Google-directeur en voorzitter van de Signal Foundation, vertelt Bloomberg dat “AI-ethiek op de achtergrond is geraakt” bij Google en zegt dat “als ethiek niet in staat is om voorrang te krijgen op winst en groei, het gaat uiteindelijk niet werken.” Verschillende leiders op het gebied van AI-ethiek bij Google zijn de afgelopen jaren ontslagen of hebben het bedrijf verlaten. Bloomberg zegt dat AI-ethische beoordelingen tegenwoordig “bijna geheel vrijwillig” zijn bij Google.

Hoewel je bij Google iets zou kunnen doen om releases te vertragen vanwege ethische kwesties, zal het waarschijnlijk geen goed doen voor je carrière. Het rapport zegt: “Een voormalige werknemer zei dat hen was gevraagd om te werken aan het recht doen aan machine learning en dat ze routinematig gefrustreerd waren – zo erg zelfs dat het hun prestatiebeoordeling beïnvloedde. Managers protesteerden dat het hun ‘echte werk’ in de weg stond. “