Kristinn R. Þórisson er prófessor í tölvunarfræði við Háskólann í Reykjavík og meðstofnandi gervigreindarsetursins CADIA ásamt Yngva Björnssyni. Kristinn svaraði nokkrum spurningum um þessa spennandi vísindagrein sem tröllríður vísindasamfélaginu um þessar mundir.

Þú hefur stundað rannsóknir á gervigreind í meira en 30 ár. Hvernig var umhorfs í gervigreindarfræðum þegar þú varst að byrja og hvað fékk þig til að fara út í þetta fag?

Þetta svið var lengi vel misskilið, jafnvel útskúfað. Ég fékk áhuga á gervigreind 1976, árið sem ég varð 12 ára, þótt ég hefði ekki hugmynd um hvað það var kallað. Í mínum huga var tvennt sem myndi skipta höfuðmáli í framtíðinni: vélmenni og tölvur. Ég vildi vera með í að móta þá framtíð. Ég byrjaði að stúdera gervigreind að einhverju marki 1985, þótt ég hefði lesið margt fyrir þann tíma, og kennt sjálfum mér forritun. Þegar ég svo hóf nám við MIT 1990 lenti ég í tímum hjá Marvin Minsky, sem er einn af stofnendum gervigreindarsviðsins.

Fyrir mér var það augljóst frá 12 ára aldri hvað gervigreind snerist um, og hvað við gætum átt í vændum ef það tækist að búa til vél sem gæti hugsað — vél með alvöru greind. Ég var hins vegar ekki viss um hvort það tækist, fyrr en ég var svona 16 ára. Ég áttaði mig á að það mætti endurskapa í tölvu það sem gerist í heila manneskju þegar hún hugsar.

Hornreka í samfélaginu þar til nýlega

Kristinn segir að frá árunum 1990 til 2015 hafi verið nánast vonlaust að ræða við nokkurn mann um gervigreind, og tækni almennt, að fráskildum samnemendum sínum í MIT í Boston, hvar hann stundaði doktorsnám frá 1990-1996.

Það var almennt séð mjög lítill áhugi á vísindaskáldskap í þjóðfélaginu - hægt að telja bíómyndir hvers árs á annarri hendi. Fyrir árið 2015, ef maður var í partí og vildi drepa umræðurnar þegar maður var spurður hvað maður ynni við svaraði maður einfaldlega „tölvunarfræði". Þá var ekkert rætt meira um það - þótt spjallið héldi kannski áfram. Ef maður vildi losna við viðkomandi svaraði maður einfaldlega „gervigreind”. Horfinn á 10 sekúndum!

Núna er þetta alveg 180 gráður í hina áttina — maður losnar seint eða aldrei ef maður segir fólki sannleikann! Áhugi almennings á vísindaskáldskap og gervigreind jókst svakalega hratt. Það er mjög sérstök upplifun að hafa starfað við svið sem var hornreka í þjóðfélaginu í 20 ár en varð svo andstæða þess á aðeins 5 árum. Það kom verulega á óvart. Nú þarf maður ekki lengur að útskýra í löngu máli hvað gervigreind sé, af hverju hún sé þess virði að vinna við hana, og hvernig hún gæti nýst á komandi árum og áratugum, og sitja svo á endanum samt uppi með fólk með tóm starandi augu og spurnarsvip. En það er þörf á útskýringum því mikið er um misskilning og ranghugmyndir um tæknina og hvert hún stefnir.

Vélarnar enn nautheimskar

Kristinn segir hugmyndina um viti bornar vélar hafa heillað hann allt frá 1976 og fannst honum að vísindasamfélagið ætti að leggjast á eitt til að gera þessa framtíðarsýn að veruleika.

Það sem fékk mig til að hoppa inn í gervigreind af fullum krafti í upphafi var í raun þessi framtíðarsýn sem laukst upp fyrir mér 1976 um framtíð þar sem vélar hefðu vit og við gætum látið vélmenni gera hvað það sem við vildum. Mér fannst það augljóst að allir ættu að leggjast á sveifina og finna út úr því hvernig má búa til vitvél. En það voru fáir sem sáu möguleikana — mjög fáir! Og enn færri sem trúðu að þetta væri hægt.

En ég er fyrsti maður til við að viðurkenna, hvað svo sem forstjórar tæknirisanna segja, að vélar séu ennþá nautheimskar. Hvað vantar? Þær skilja ekki neitt! Það tók mig töluvert langan tíma að átta mig á þeim anmörkum sem samtímaaðferðir í gervigreind eru háðar. Það tók tíma meðal annars vegna þess að „gúrúarnir“ í gervigreind, þar með talinn Marvin Minsky, töluðu alltaf eins og þeir væru búnir að finna út úr þessu og að lausnin kæmi jafnvel á næsta ári, eða í mesta lagi eftir þrjú ár. Í heilan áratug fannst mér eins og þetta snerist einfaldlega um að ef ég læsi bara eina bók í viðbót, eða nokkrar vísindagreinar, þá myndi hið sama ljúkast upp fyrir mér.

Það var svo upp úr aldamótunum 2000 að ég áttaði mig á að flestir gúrúarnir voru á villigötum með sínar aðferðir við að búa til vitvélar. Eftir u.þ.b. áratug til viðbótar hafði ég svo mótað nýja aðferðafræði og þróa nýja tækni sem leysir stóran hluta allra takmarkana nútíma gervigreindar. Minsky reyndi að benda mönnum á þetta: Gervitauganet byggja á tölfræðilegum forsendum, en tölfræði er ekki nægjanleg — ein og sér — til að byggja hugsandi vél. Hann ætti að vita það; hann fann upp fyrsta gervitauganetið, árið 1952, og yfirgaf þá aðferðafræði fljótlega vegna þessa vandamáls. Nútíma gervitauganet eru nákvæmlega sömu annmörkum háð.

Ánægjulegt að fylgjast með frammistöðu nemenda

Kristinn stofnaði gervigreindarsetur Háskólans í Reykjavík, CADIA, ásamt Yngva Björnssyni árið 2005. Þar fara fram fjölbreyttar og spennandi rannsóknir á gervigreind meðal nemenda og vísindamanna.

Við erum með fjölda rannsóknarverkefna í CADIA sem nemendur taka þátt í að vinna með okkur, bæði tengd lokaverkefnum og svo sjálfstæð verkefni sem hafa hlotið styrki úr alþjóðlegum og íslenskum rannsóknarsjóðum. Við hvetjum nemendur þar til að ræða verkefni sín við hópinn, leita ráða hjá leiðbeinanda sínum jafnt sem öðrum vísindamönnum í CADIA, og almennt nýta sér þekkingarnetið sem þar er til staðar. Við skrifum líka vísindagreinar með nemendum sem gera góð verkefni, því oft eru þau birtingarhæf á vísindaráðstefnum og vísindaritum. Það hefur verið gífurlega ánægjulegt að fylgjast með frammistöðu nemenda okkar þar; margir þeirra sem hafa stundað rannsóknir með okkur þar eru nú farnir að reka eigin fyrirtæki eða orðnir stjórnendur hjá fyrirtækjum, hérlendis og erlendis.

Að hvers konar rannsóknum innan gervigreindar ert þú að vinna núna?

Ég vil sjá alhliða gervigreind verða að veruleika á minni æfi — ég er ekki tilbúinn að bíða í 200-300 ár eftir því að alvöru gervigreind sjái dagsins ljós! Eins og þeir sem hafa stundað rannsóknir að einhverju marki eiga að vita, þá er það aðferðafræðin og teorían sem ræður hraða framfaranna. Ímyndaðu þér t.d. rannsóknir á örverum án smásjár, eða alheimsins án stjörnukíkja. Ef við teldum að stjörnur væru göt á svörtu tjaldi, eins menn héldu til forna, myndi hugmyndin um stjörnukíki aldrei sjá dagsins ljós. Þessu er eins farið með gervigreindina.

Það er enginn skortur á tillögum um ýmsa smærri þætti greindar, en nánast engar heildstæðar útskýringar. Síðustu 15 hef ég verið að þróa kenningu og aðferðafræði fyrir gervigreindarrannsóknir, og sýnt hvernig búa má til nýja tegund gervigreindar á þeim grunni - kerfi sem læra á allt annan hátt en gervitauganet og styrkingarnámsvélar. Við teljum okkur vera með upphaf næstu gervigreindarbyltingar og það mun koma berlega í ljós á næstu 5 til 10 árum. Hugbúnaðurinn heitir AERA (autocatalytic endogenous reflective architecture) og má nálgast undir open-source leyfi á GitHub (sjá www.openaera.org) Ég er einmitt að skrifa bók sem lýsir þessu kerfi og kenningunum sem það byggir á.

Þróunin í höndum örfárra tæknirisa

Síðastliðin ár hefur orðið sannkölluð sprenging í þróun gervigreindar á alþjóðavísu, hvernig blasir þessi þróun við þér?

Það sem fæstir átta sig á er að byltingin — svokallaða — í gervigreindarframförum snýst nánast alfarið um hagnýtingu gervitauganeta. Þróunin sem oftast er vitnað til þegar rætt er um „gífurlegar framfarir í gervigreind“ er nánast alfarið í höndum örfárra tæknirisa og takmarkast við ákveðna tækni, svokölluð djúptauganet. Þessi þróun er ekki endilega þjóðfélagslega hagstæð, sérstaklega ekki þegar litið er á hversu erfitt þeim hefur reynst að láta þessi kerfi haga sér samkvæmt almennum siðgæðisreglum og hefðum. Gífurlegum fjármunum og athygli er nú beint að þessari tækni, sem er djúpum annmörkum háð — hún er t.d. ekki mjög hentug til að stýra ferlum, þrátt fyrir að miklir tilburðir séu hjá bílafyrirtækjum við gerð svokallaðra „sjálfkeyrandi“ bíla, sem enn eru ekki enn sjálfkeyrandi nema kannski á góðviðrisdegi á vel merktum leiðum þar sem ekkert kemur uppá. Hún hentar líka afskaplega illa þegar um gagnafæð (e. small data) er að ræða, eins og hjá nánast öllum íslenskum fyrirtækjum. Svo er hún gífurlega umhverfisóvæn.

Kristinn bætir því við að hann sé einmitt um þessar mundir að skrifa grein með fyrrverandi mastersnema sínum um djúptauganet sem birt verður á Artificial General Intelligence ráðstefnunni í Stokkhólmi í júní næstkomandi.

Ekki hægt að treysta tækninni

Heldurðu að gervigreindin muni halda áfram að þróast á þessum ofurhraða og hversu líklegt finnst þér að hún muni taka fram úr mannkyninu á næstunni?

Raunverulegar framfarir í gervigreind er háðar framförum í grunnrannsóknum (e. basic research) — þ.e. vísindalegum skilningi okkar á fyrirbærinu greind. Hraði framfara í þannig rannsóknum hefur ekkert breyst þar sem sú vinna er enn alfarið í höndum mennskra vísindamanna. Miðað við hvað það tekur langan tíma að sjá framfarir á sviði eins og sýndarveruleika, sem er í grunninn einfaldara fyrirbæri en greind, ættu að vera a.m.k. 25 ár ef ekki meira þangað til við verðum komin með frumgerð að vél með alvöru greind

Mér finnst í raun fín þróun í Evrópu þar sem reynt er að setja boð og bönn við ákveðinni nýtingu þessarar tækni því fjölbreytni hagnýtingar hennar hefur í för með sér gífurlega neikvæðar hliðarverkanir sem er oft erfitt að sjá fyrir. Hluti af því snýst um það að þessari tækni er einfaldlega ekki hægt að treysta. Hún byggir á tölfræðilegum grunni sem gerir það sem þykir „líklegast“ að eigi, eða muni, gerast, í ljósi ákveðins inntaks sem hún hefur verið „þjálfuð“ með. Hvernig væri frammistaða landsliðsins ef þjálfarinn væri bara þykjustuþjálfari sem gerði einungis það sem honum þætti „líklegast að þjálfari landsliðs myndi hugsanlega gera“ í þessari eða hinni stöðunni? Hljómar ekki mjög vænlegt til árangurs í mín eyru

Þessi nálgun virkar í raun einungis að því gefnu að gervitauganetin séu þjálfuð á gífurlegu magni gagna. Hvað verður um litla Ísland? Við þurfum annars konar gervigreind sem virkar betur fyrir smágögn. Ef við hefðum kerfi sem byggja sjálf sinn eigin skilning á upplifun og umhverfi gætum við treyst þeim betur; ef þau gætu útskýrt — fyrir sjálfum sér og öðrum — af hverju þau hafa þær skoðanir á áætlanir sem þau hafa, af hverju þau gerðu X frekar en Y. Þekking sem verður til þannig er eins og vísindaleg þekking — og það er öflugasta aðferðin til að framleiða áreiðanlega þekkingu. Þetta er stefnan okkar í þróun AERA

Raunverulegar hættur gervigreindar langsóttar

Ýmsir vísindamenn og fræðimenn hafa varað við hættunum sem gætu stafað af gervigreind og óttast sumir jafnvel að slík tækni gæti stuðlað að endalokum mannkyns. Nýlega skrifuðu til að mynda tugir þúsunda undir opið bréf þar sem krafist er þess að þróun gervigreindar verði stöðvuð tímabundið.

Hvað gefur þú fyrir slíkar viðvaranir?

Öll umræða um áhættur nýtingar tækni og vísinda í þjóðfélaginu er almennt af hinu góða — slíkt á að ræða sem fyrst eftir að ný tækni kemur fram á sjónarsviðið. Áhættan er í raun mest með tækni eins og djúptauganet, því ekki einu sinni þeir sem smíða þessar vélar skilja hvernig þær virka eða geta sagt til um hvað þær gera. Raunverulegar hættur gervigreindar sem einhvers konar vélrænn einræðisherra sem ræður yfir mannkyninu öllu mun aldrei gerast á meðan gervigreindin byggir á djúptauganetum. Misbeiting tækni getur þó alltaf átt sér stað og við verðum að passa uppá lýðræðið. Vísindasamfélagið og íslenska þjóðin þarf að leggja meiri áherslu á fyrirbyggja að grafið sé undan megin stoðum þjóðfélagsins með misbeitingu öflugrar tækni. Þar má t.d. styrkja stoðir menntunar á þessu sviði. Við þurfum að geta tekið fullan þátt í alþjóðlegu samstarfi og staðið vörð um okkar hagsmuni sem örþjóð

Kristinn segir að gervigreind geti jafnvel orðið Íslendingum til framdráttar sem smáþjóð.

Ef við höldum rétt á spöðunum gætum við notað gervigreind til að jafna leikinn, með því að efla hvern einasta þegn og lyfta þjóðinni allri upp á sama stað og aðrar þjóðir, þrátt fyrir mannfæðina. Með réttri beitingu sjálfvirkni og gervigreindar mætti má út stærðarmun þjóðanna. Þá yrði Ísland ekki lengur örþjóð og staða okkar á plánetunni réðist í staðin af hugviti og útsjónarsemi þeirra sem hér búa. Við ættum að róa að slíkri framtíð öllum árum, því þangað stefnum við hvort sem er. Spurningin er fyrst og fremst þessi: Viljum við vera korktappi á rúmsjó eða nútímaskip með samtaka áhöfn og vel skilgreinda ferðaáætlun? Ég lít á nýju áherslusvið Tölvunarfræðideildar HR í gervigreind og tölvuöryggi einmitt sem mikilvægt skref í átt að því síðarnefnda

Hér má finna frekari upplýsingar um Kristinn R Þórisson