Professor Geoffrey Hinton (75) har i en årrekke vært ansatt både ved Universitetet i Toronto og i Google.
Nå har han sagt opp stillingen i Google for å kunne snakke mer åpent om risikoen knyttet til teknologien han har vært med på å utvikle: kunstig intelligens.
– Jeg synes ikke de bør oppskalere dette mer før de har forstått hvordan de kan kontrollere det, sier han i et intervju med The New York Times.
Tempoet i utviklingen er en viktig årsak til bekymringen. Hinton tror såkalte tekstroboter snart kan bli mer intelligente enn mennesker.
Raskere enn ventet
– Se på hvor dette var for fem år siden, og hvor det er nå, sier han om de mest avanserte KI-systemene.
Han viser til muligheten for at utviklingen framover vil gå like fort og kaller dette scenarioet skremmende.
At Ki kan bli «smartere enn mennesker», er en mulighet som eksperter også har pekt på tidligere. Men de fleste trodde dette lå langt fram i tid.
– Også jeg trodde det var langt fram i tid. Jeg trodde det var 30 til 50 år eller enda lenger unna. Åpenbart så tror jeg ikke lenger det, sier Hinton.
ChatGPT
Oppmerksomheten rundt KI økte kraftig mot slutten av fjoråret, da det amerikanske selskapet OpenAI lanserte tekstroboten ChatGPT.
En ny og kraftigere versjon av OpenAIs språkmodell kom noen måneder senere. Og en av selskapets viktigste konkurrenter i KI-kappløpet er Google og morselskapet Alphabet.
Hinton kritiserer ikke sin tidligere arbeidsgiver spesifikt, og på Twitter skriver han at Google har opptrådt ansvarlig.
I en uttalelse sier Googles sjefforsker Jeff Dean at selskapet har satt pris på Hintons bidrag det siste tiåret.
– Vi er fast bestemt på å videreføre en ansvarlig tilnærming til KI, sier Dean i uttalelsen som gjengis av The Guardian.
Fikk «nobelpris»
Geoffrey Hinton blir ofte omtalt som én av tre «gudfedre» som har bidratt sterkt til utviklingen av kunstig intelligens.
De to andre er Yoshua Bengio ved Universitetet i Montreal og Yann LeCun, professor ved New York University og leder for KI-utviklingen i Meta, Facebooks morselskap.
I 2018 fikk «gudfedrene» i fellesskap Turing-prisen – omtalt som «nobelprisen» innen informatikk.
Til The New York Times sier Hinton at deler av ham angrer på det han har viet livet til.
– Jeg trøster meg med den vanlige unnskyldningen: Hadde ikke jeg gjort det, ville noen andre ha gjort det.
Desinformasjon
Også i et intervju med BBC peker Hinton på muligheten for at tekstroboter – eller «chatbots» – kan bli mer intelligente enn mennesker.
– I øyeblikket er de ikke i mer intelligente enn oss, så vidt jeg kan se. Men jeg tror de snart kan bli det.
Han peker på flere mulige negative konsekvenser av den raske teknologiutviklingen: KI kan brukes til spredning av desinformasjon og propaganda, arbeidsplasser kan gå tapt når mange oppgaver utføres av KI, og nye «autonome» militære våpen kan bli utviklet.
Ondsinnede aktører kan ta teknologien i bruk, og Hinton nevner Russlands president Vladimir Putin som et eksempel.
Langsiktig risiko
Lenger fram i tid er Hinton bekymret for et enda mer dramatisk scenario: at kunstig intelligens kan utvikle uventet atferd og utgjøre en trussel mot hele menneskeheten.
– Hva gjør vi for å begrense den langsiktige risikoen for at ting som er mer intelligente enn oss, tar over kontrollen? spør han i BBC-intervjuet.
Også flere andre forskere mener slike scenarioer bør tas på alvor. Blant dem er Stuart Russell, som har skrevet en av de mest brukte lærebøkene om kunstig intelligens. I likhet med Tesla-sjef Elon Musk har han signert et opprop med krav om at utviklingen av kraftig KI må stanses i seks måneder.
Andre eksperter er uenige. «Gudfar» Yann LeCun mener vi fortsatt er langt unna superintelligente maskiner – og at det vil være mulig å bygge dem på en trygg måte.
(NTB)
