Geoffrey Hinton, populärt kallad ”Gudfadern för artificiell intelligens” (AI), har överraskande sagt upp sig från sin tjänst på Google för att uttrycka varning om riskerna kopplade till den teknik han hjälpte till att utveckla.
Under sin karriär på fyra decennier har Hintons banbrytande arbete med djupinlärning och neurala nätverk möjliggjort utvecklingen av många av dagens AI-verktyg.
Det snabba införandet av AI-teknologier väcker larm bland experter.
OpenAI, den Microsoft-stödda startupen bakom ChatGPT, släppte sin mest avancerade artificiell intelligensmodell, GPT-4, tidigare i år.
Andra teknikjättar investerar också i konkurrerande verktyg, som Googles ”Bard”.
Hinton tror att dessa system redan överskuggar mänsklig intelligens på vissa sätt på grund av deras förmåga att analysera stora mängder data.
Han kommunicerade till BBC att flera av riskerna med AI-chatbotar är ”riktigt skrämmande”.
Han fortsatte med att berätta för MIT Technology Review att dåliga skådespelare kunde använda AI för att manipulera val eller anstifta våld.
Google bekräftade att Hinton hade avslutat sitt jobb efter ett decennium vid rodret för det Toronto-baserade Google Research-truppen.
I ett uttalande till amerikanska medier tackade Googles chefsforskare Jeff Dean Hinton för hans bidrag.
Industrimannen Elon Musk och andra kända personligheter har föreslagit en nedgång i skapandet av AI-system tills säkerhetsprotokoll kan sättas i verket.
Att så många experter talar om sina farhågor angående säkerheten för AI, med vissa datavetare som går så långt att de ångrar en del av sitt arbete, borde alarmera politikerna.Carissa Veliz
Alondra Nelson och Geoffrey Hinton har efterlyst ett nationellt samtal om reglering av AI, fri från företagsinflytande, för att skydda sårbara samhällen från potentiella fördomar inom AI-system. Sarah Myers West från AI Now Institute varnade vidare för att säkerhet måste prioriteras framför allt när man diskuterar risker förknippade med AI.
Han hoppas att hans kommentarer blir mer trovärdiga nu när han inte längre är anställd av teknikjätten.
