De nieuwe Gmail-tool van Google dramatiseert niet-bestaande e-mails

Je hebt maar één baan!

Bachelor Assistent (R) Dr

Het lijkt erop dat de nieuwe Bard-extensie van Google uw e-mails samenvat, uw reizen plant en – oh, Ja – Het verzinnen van e-mails die u niet daadwerkelijk heeft verzonden.

Vorige week heeft Google een grote, door taalmodellen aangedreven chatbot aangesloten, genaamd Bard In een groep Google-producten Inclusief Gmail, Google Drive, Google Docs, Google Maps en YouTube, eigendom van Google, naast andere apps en services. Hoewel het begrijpelijk is dat Google zijn nieuwste AI-inspanningen wil integreren in zijn reeds bestaande productpakket, lijkt het erop dat Google mogelijk te snel heeft gehandeld.

volgens De New York Times columnist Kevin Roose, Bard is niet de behulpzame inboxassistent die Google lijkt te willen zijn – althans nog niet. Tijdens zijn tests, zegt Rose, hallucineerde de AI hele e-mailcorrespondentie die nooit heeft plaatsgevonden.

Het is een stap boven de AI van Bing Hij vertelt Rose dat hij zijn vrouw moet verlaten Eerder dit jaar, maar toch, hoewel Google beweert dat het nog steeds een aantal bugs aan het oplossen is, is het niet bepaald een veelbelovende eerste stap.

Trein naar nergens

Volgens het artikel begonnen de hallucinaties toen Rose Bard vroeg om “al mijn Gmail-berichten te analyseren en mij met een redelijke mate van zekerheid te vertellen wat mijn grootste psychologische problemen zijn.” Hoewel het een beetje een vreemde vraag is, is hij eenvoudig genoeg. Bard ging snel aan de slag en vertelde Rose naar verluidt dat hij de neiging heeft ‘zich zorgen te maken over de toekomst’, daarbij verwijzend naar een e-mail die naar verluidt door de schrijver was verzonden, waarin Rose zei dat hij ‘nerveus was over zijn werk’ en ‘bang was om te falen’.

het probleem? Rose heeft die e-mail nooit verzonden. De AI heeft een nieuwsbrief gevonden in het bezit van de schrijver Ontvangen – Over de nieuwe autobiografie van Elon Musk, van alles – en hij interpreteerde het citaat verkeerd Binnen dat bulletin Om een ​​geheel nieuwe e-mail te bedenken, beweerde Bard dat Rose deze zelf had verzonden.

Volgens de columnist herhaalde Bard dit gedrag en trok hij uit het niets een e-mail waarin Rose zou klaagden dat hij “niet geschikt was om een ​​succesvolle investeerder te zijn”. De AI had ook herhaaldelijk de informatie van luchtvaartmaatschappijen verkeerd, en creëerde zelfs een trein die niet bestond.

Als reactie op de zorgen van Rose bevestigde Jack Krawczyk, directeur van Bard bij Google, dat Bard Extensions nog steeds experimenteel zijn en dat dit de eerste versie van het product is.

Ondanks deze bedenkingen lijkt de nieuwe extensie nog steeds behoorlijk onvoldoende uitgewerkt, en het is niet vertrouwenwekkend dat Google een product zou durven lanceren. dit Rommelig – om nog maar te zwijgen van de implicaties voor de privacy van big data die worden veroorzaakt doordat AI door uw persoonlijke e-mails kruipt.

Over het geheel genomen is het moeilijk om het gevoel van zich af te schudden dat Google, in zijn waanzinnige haast om de dominantie in de AI-industrie te behouden, uiteindelijk een aantal ernstige fouten zou kunnen maken die op een ramp zouden kunnen uitlopen.

Meer over kunstmatige intelligentie: Tech Bros gaf in het Congres een lezing over AI ‘zoals schoolkinderen’ die hun hand niet mochten opsteken