De peetvader van kunstmatige intelligentie, Geoffrey Hinton, waarschuwt voor de risico’s als hij Google verlaat

Een man die algemeen wordt gezien als de peetvader van kunstmatige intelligentie (AI) heeft zijn baan opgezegd en waarschuwde voor toenemende gevaren van ontwikkelingen in het veld.

Jeffrey Hinton, 75, kondigde zijn ontslag aan bij Google in een verklaring aan de New York Times, waarin hij zei dat hij nu spijt heeft van zijn werk.

Hij vertelde de BBC dat sommige risico’s van chatbots “heel eng” waren.

‘Op dit moment zijn ze niet slimmer dan wij, voor zover ik weet. Maar ik denk dat ze dat binnenkort wel zullen zijn.’

Dr. Hinton was het er ook mee eens dat zijn leeftijd een rol had gespeeld bij zijn beslissing om de technologiegigant te verlaten, en zei tegen de BBC: “Ik ben 75, dus het is tijd om met pensioen te gaan.”

Dr. Hinton’s baanbrekende onderzoek naar deep learning en neurale netwerken maakte de weg vrij voor huidige AI-systemen zoals ChatGPT.

Maar een Brits-Canadese cognitieve psycholoog en computerwetenschapper vertelde de BBC dat een chatbot binnenkort het informatieniveau van het menselijk brein zou kunnen overtreffen.

“Wat we op dit moment zien, is dat zaken als GPT-4 beter presteren dan een persoon in de hoeveelheid algemene kennis die ze hebben en veel beter presteren dan een persoon. Qua redenering is het niet erg goed, maar het doet het wel denken.

“En gezien het tempo van de vooruitgang, verwachten we dat de dingen heel snel zullen verbeteren. Dus daar moeten we ons zorgen over maken.”

In een artikel in de New York Times verwees dr. Hinton naar ‘slechte acteurs’ die zouden proberen AI te gebruiken voor ‘slechte dingen’.

Toen de BBC hem vroeg om dit uit te leggen, antwoordde hij: “Dit is gewoon een worstcasescenario, een soort nachtmerriescenario.

“Je kunt je bijvoorbeeld voorstellen dat sommige slechte acteurs het leuk vinden [Russian President Vladimir] Poetin besloot bots de mogelijkheid te geven hun eigen subdoelen te creëren.

Uiteindelijk zou dit “subdoelen kunnen creëren zoals ‘Ik moet krachtiger worden'”, waarschuwde de wetenschapper.

Hij voegde eraan toe: “Ik ben tot de conclusie gekomen dat het type intelligentie dat we ontwikkelen heel anders is dan de intelligentie die we hebben.

“Wij zijn biologische systemen en dit zijn digitale systemen. Het grote verschil is dat je met digitale systemen veel kopieën hebt van dezelfde reeks gewichten, hetzelfde model van de wereld.

“En al deze klonen kunnen afzonderlijk leren, maar delen hun kennis onmiddellijk. Dus het is alsof je 10.000 mensen hebt en wanneer iemand iets leert, weet iedereen het automatisch. En dus kunnen deze chatbots veel meer weten dan één persoon.”

Hij benadrukte dat hij Google niet wilde bekritiseren en dat de techgigant “zeer verantwoordelijk” was.

“Ik wil eigenlijk een paar goede dingen zeggen over Google. Het zou geloofwaardiger zijn als ik niet voor Google zou werken.”

In een verklaring zei Jeff Dean, Chief Scientist van Google: “We blijven ons inzetten voor een verantwoorde benadering van AI. We leren constant opkomende risico’s te begrijpen en innoveren tegelijkertijd gedurfd.”