Waarom de ‘peetvader’ van kunstmatige intelligentie Jeffrey Hinton Google verliet om zich uit te spreken over de inzet

Toen Jeffrey Hinton in 2018 een moreel bezwaar had tegen het werk van Google met het Amerikaanse leger, nam hij niet deel aan openbare protesten en zette hij zijn naam niet op de open klachtenbrief die was ondertekend door meer dan 4.000 van zijn collega’s.

In plaats daarvan sprak hij zojuist met Sergey Brin, de mede-oprichter van Google. Hij zei dat hij er ook een beetje boos over was, zei Hinton destijds in een interview.

Het incident is kenmerkend voor de stille invloed van Hinton in de wereld van kunstmatige intelligentie. De 75-jarige professor wordt vereerd als een van de “peetvaders” van kunstmatige intelligentie vanwege zijn vormende werk op het gebied van diep leren – een gebied van kunstmatige intelligentie dat de enorme vooruitgang in de sector heeft gestimuleerd.

Maar het verhaal weerspiegelt ook Hintons loyaliteit, volgens degenen die hem het beste kennen. In principe heeft hij nooit in het openbaar enige institutionele grieven, ethisch of anderszins, geuit.

Het was deze overtuiging die hem vorige week ertoe bracht af te treden als vice-president en engineering fellow bij Google, zodat hij vrijer kon spreken over zijn groeiende bezorgdheid over de gevaren van kunstmatige intelligentie voor de mensheid.

Zijn oude medewerker en vriend Yoshua Bengio, die in 2018 samen met Hinton en Yan-Locun de Turing Prize won, zei dat hij het ontslag zag aankomen. “Hij had bij Google kunnen blijven en praten, maar zijn gevoel van loyaliteit was dat niet”, zei Bengio.

Het aftreden van Hinton volgt op een reeks baanbrekende AI-lanceringen in de afgelopen zes maanden, te beginnen met de door Microsoft aangedreven ChatGPT in november en de chatbot van Google, Bard, in maart.

Hinton uitte zijn bezorgdheid dat de race tussen Microsoft en Google de ontwikkeling van kunstmatige intelligentie zou bevorderen zonder de juiste barrières en regels.

“Ik denk dat Google in het begin erg verantwoordelijk was”, zei hij woensdag in een toespraak op een EmTech Digital-evenement, nadat hij zijn ontslag had aangekondigd. “Toen OpenAI soortgelijke dingen had gebouwd met .

Sinds de jaren zeventig is Hinton een pionier in de ontwikkeling van ‘neurale netwerken’, een technologie die probeert na te bootsen hoe de hersenen werken. Het ondersteunt nu de meeste AI-tools en -producten die we tegenwoordig gebruiken, van Google Translate en Bard tot ChatGPT en zelfrijdende auto’s.

Maar deze week erkende hij zijn bezorgdheid over de snelle ontwikkeling ervan, die ertoe zou kunnen leiden dat desinformatie het publieke domein overspoelt en kunstmatige intelligentie meer menselijke banen opeist dan verwacht.

“Wat me zorgen baart, is dat dit gaat gebeuren [make] De rijken zijn rijker en de armen zijn armer. zoals jij het doet. . . “De samenleving wordt gewelddadiger”, zei Hinton. “Deze must-be-great technologie… wordt ontwikkeld in een samenleving die niet is ontworpen om te worden gebruikt ten voordele van iedereen.”

Hinton luidde ook de noodklok over de langetermijnbedreigingen die AI-systemen vormen voor de mens, als de technologie te veel autonomie krijgt. Hij had altijd gedacht dat dit existentiële gevaar buiten bereik was, maar hij heeft onlangs zijn denken over de urgentie ervan herzien.

“Het is vrij aannemelijk,” zei hij, “dat de mensheid een voorbijgaande fase is in de evolutie van intelligentie.” Hij voegde eraan toe dat het besluit van Hinton om Google na tien jaar te verlaten, was ingegeven door een academische collega die hem overhaalde om zich erover uit te spreken.

Hinton, geboren in Londen, kwam uit een beroemde lijn van geleerden. Hij is de achterkleinzoon van de Britse wiskundigen Mary en George Boole, van wie de laatste de booleaanse logica uitvond, de theorie die ten grondslag ligt aan moderne computers.

Als cognitief psycholoog heeft Hintons werk op het gebied van kunstmatige intelligentie tot doel de menselijke intelligentie te benaderen, niet alleen om AI-technologie te bouwen, maar ook om licht te werpen op de manier waarop onze hersenen werken.

Zijn achtergrond betekent dat hij “niet de meest wiskundige persoon is die je in de machine learning-gemeenschap zult vinden”, zegt Stuart Russell, een professor in kunstmatige intelligentie aan de University of California, Berkeley en een academische fellow aan de Hinton School.

Hij wees op de doorbraak van Hinton in 1986, toen hij een paper publiceerde over een techniek genaamd ‘backpropagation’, die liet zien hoe computerprogramma’s in de loop van de tijd kunnen leren.

‘Het is duidelijk een sleutelkaart,’ zei Russell. “Maar hij heeft de controle niet afgeleid zoals een wiskundige dat zou kunnen. Hij gebruikte zijn intuïtie om een ​​methode te bedenken die zou werken.”

Hinton was in het openbaar niet altijd openhartig over zijn morele opvattingen, maar hij maakte ze privé wel duidelijk.

In 1987, toen hij universitair hoofddocent was aan de Carnegie Mellon University in de Verenigde Staten, besloot hij zijn functie op te geven en naar Canada te emigreren.

Een van de redenen die hij gaf, was volgens Bengio een morele reden: hij maakte zich zorgen over het gebruik van technologie, met name kunstmatige intelligentie, in oorlogsvoering en een groot deel van zijn geld kwam van het Amerikaanse leger.

“Hij wilde zich goed voelen over de financiering die hij kreeg en het werk dat hij deed”, zei Bengio. “Hij en ik delen waarden over de samenleving. Dat mensen ertoe doen, dat de waardigheid van alle mensen essentieel is. En iedereen zou moeten profiteren van de vooruitgang die de wetenschap boekt.”

In 2012 bereikten Hinton en zijn afgestudeerde studenten aan de Universiteit van Toronto, waaronder Ilya Sutskiver, nu mede-oprichter van OpenAI, een doorbraak op het gebied van computervisie. Ze bouwden neurale netwerken die objecten in afbeeldingen kunnen herkennen met preciezere afmetingen dan voorheen mogelijk was. Op basis van dit werk richtten ze hun eerste startup op, DNNresearch.

Hun bedrijf – dat geen producten maakte – werd in 2013 voor $ 44 miljoen aan Google verkocht, nadat een concurrerende veiling ertoe leidde dat het Chinese bedrijf Baidu, Microsoft en DeepMind boden op de expertise van het trio.

Sindsdien heeft Hinton de helft van zijn tijd bij Google doorgebracht en de andere helft als professor aan de Universiteit van Toronto.

Volgens Russell komt Hinton constant met nieuwe ideeën en probeert hij nieuwe dingen. “Elke keer dat hij een nieuw idee had, zei hij aan het einde van zijn toespraak:” En dit Hoe werkt het brein! “

Toen hem op het podium werd gevraagd of hij spijt had van zijn levenswerk, gezien het feit dat het mogelijk heeft bijgedragen aan de talloze schade die hij heeft geschetst, zei Hinton dat hij erover nadacht.

“Dit stadium [AI] Werd niet verwacht. Tot voor kort dacht ik dat deze existentiële crisis vergezocht was. “Dus ik heb echt geen spijt van wat ik doe.”