Tölvunarfræðingurinn Geoffrey Hinton, hjá háskólanum í Toronto, og eðlisfræðingurinn John Hopfield við Princeton háskóla, fengu nóbelsverðlaunin í eðlisfræði í ár fyrir framlag þeirra til vísinda. Verðlaunin fá þeir fyrir byltingarkenndar uppgötvanir og uppfinningar sem lögðu grunninn að vélrænu námi (e. machine learning), og hafa haft gríðarleg áhrif á þróun gervigreindar.

Þetta þykir athyglisvert í ljósi þess að Hinton, sem er kallaður einn af guðfeðrum gervigreindarinnar, er dauðhræddur við sköpunarverk sitt. Hann hafði starfað í um áratug  hjá Google við þróun gervigreindar þegar hann sagði skyndilega starfi sínu lausu í fyrra og gerðist einn af fremstu gagnrýnendum gervigreindar í heiminum. Hann hefur varað við því að stjórnlaus þróun tækninnar gæti markað endalok mannkynsins. Hann telur að sú þróun sem nú á sér stað hjá tæknirisunum, sem gjarnan eru kenndir við Silicon Valley í San Francisco, sé bein ógn við manneskjuna. Ef gervigreindin verður of greind, og fær um sjálfsvinnu, þá gæti getur hún sett sér sín eigin markmið sem ekki endilega eru manninum í hag. Gervigreindin gæti svo hætt að hlýða boðum og bönnum.

Þegar tilkynnt var að hann hefði unnið verðlaunin eftirsóttu viðraði hann áhyggjur sínar af stöðunni. „Við þurfum að vekja áhyggjur á slæmu afleiðingunum,“ sagði Hinton sem segir gervigreindina þróast á gríðarlegum hraða.

„Gervigreind mun hafa svipuð áhrif á heiminn og iðnbyltingin. Í staðinn fyrir líkamlegan styrk mun hún auka vitræna getu fólks. Við höfum enga reynslu af fyrirbærum sem eru greindari en við. Þetta gæti gefið okkur öflugri heilbrigðiskerfi og aukna skilvirkni. Þetta mun bæta framleiðni gríðarlega en við þurfum að hafa áhyggjur af slæmum afleiðingum, sérstaklega af því að missa stjórn á þróuninni.“

Hinton hefur kallað eftir ábyrgari þróun á gervigreind. Alþjóðasamfélagið þurfi að koma saman, vísindamenn, löggjafar og leiðtogar á fyrirtækjamarkaði, til að koma upp regluverki, áður en skaðinn er skeður.

Hinton sagði verðlaunin hafa komið flatt upp á sig.

„Ég hugga mig með þessari klassísku afsökun: Ef ég hefði ekki gert þetta, þá hefði einhver annar gert það,“ sagði Hinton í samtali við New York Times þar sem hann sagðist sjá eftir ævistarfi sínu.