Jaan Tallinn on Eesti tehnoloogiasektori elav legend. Ta on Skype’i ja Kazaa üks tehnilisi autoreid, arendanud välja arvutimänge juba üheksakümnendate algusest ning investeerinud maailma tipp tehisintellekti arenevatesse ettevõtetesse DeepMind ja Anthropic. Taustaks, et Deepmind on tänaseks kogu Google’i tehisintellekti arenduskeskus nign Anthropic pakub kõige võimekamat ChatGPT alternatiivi nimega Claude.
Ka kõigest sellest oleks Jaaniga väga huvitav vestelda, kuid eelnevale lisaks on Jaan ka juba üle kümne aasta tegelenud tehisintellektist tuleneva eksistentsiaalse riskiga. Ta on Massachusettsi Tehnoloogiainstituudi juures asuva Future of Life instituudi kaasasutaja ning nende poolt paar kuud tagasi ilmunud avaliku pöördumise (Pause Giant AI Experiments) kaasautor. See kiri hoiatab nende samade eksistentsiaalsete riskide eest ja palub tehisintellekti arendavatel ettevõttetel uued arenduste pausile panna. Seda selleks, et inimkond suudaks suurte muutustega kohaneda ning töötada välja lähenemised, mis võimaldaks GPT-4st võimsamaid mudeleid ohjata ja enda kontrolli all hoida.
See kiri on tekitanud tehisintellekti arendajate seas erinevaid reaktsioone. Ühed ei näe hetkel loodud suurtel keelemudelitel põhinevates assistentides ohtu, kuna need on piiratud võimekusega, ennast mitte edasi arendavad ning eesmärke mitte omavad tööriistad. Teised kardavad, et oht on lähemal, kui me arvata oskame, ning isearenev ja end eksponentsiaalselt võimekamaks muutev tehisintellekt võib võimalikuks saada juba järgmise versiooniga.
Uurin Jaanilt, mis riske tema näeb ning mis mõju see avalik kiri avaldanud on.
Kes soovib vestluses välja toodud teemadesse edasi süveneda, soovitan tutvuda Eliezer Yudkowsky esseedel ja kirjutistega, mis aitavad näha, kuidas üks tehisintellekt võib tõesti inimkonna kas tahtlikult või kogemata hävitada. Kuigi tema vaated on võibolla dramaatilisemad ja radikaalsemad, kui tehnoloogia kogukonna keskmine, on see siiski hariv lugemine ning aitab vähemalt näha, kuidas see teoreetiliselt juhtuda võib.
Kui keegi soovib tutvuda selle mõtteviisi skeptikutega, tasub lugeda Yann LeCun (Meta), Andrew Ng ja François Chollet (Google) intervjuusid ja arvamuslugusid.
Lõppsõnas ette loetud lõik ajakirjanik Anton Hanseni esseest "Masinad ja Sõda", mis ilmus 1919. aasta "Tallinna Teatajas"
"Ainult üks väike kartus võiks maad võtta. Te teate, teadus püüab elu ja ka hinge mehaaniliselt seletada, ning kes võiks selle vastu midagi öelda. Ehk on elu tõepoolest ainult mehaanika, tehnika? Aga siis võime ehk lõpuks nii täieliku masina leida, millele elu hing sisse tuleb. See oleks Beeltsebub, kelle meie ise välja kutsunud ja kelle taltsutamiseks meil puudub jõud. Meie eneste valmistatud masinad oleksid meist vägevamad – seda tõendavad juba praegusedki masinad niihästi tööstuses kui ka sõjas – ja meie asemel hakkaksid nemad ilma üle valitsema.
Masinad kirjutaksid seadusi, jutlustaksid uut usku, kõlblust ja looksid uut kunsti. Masinad palvetaksid, masinad kahetseksid pattu, masinad saaksid õndsaks. Masinad hakkavad altkäemaksu võtma, ja kui elanikud küllalt ei maksa, maksta ei jõua, siis panevad masinad tarbeainete vedamise seisma ning inimesed, kes masinad teinud ja need üleval peavad, nälgivad. Aga ükski ei pane seda imeks neilsinatsil päevil ja nii mõnigi näitab uhkusega masinate peale, öeldes: vaadake, seda oleme kõik meie teinud, see on meie kätetöö. Päikese ja kuu asemel kummardatakse tahmaseid masinaid. Siis on tõsine uus ajajärk, sest siis ei otsitaks enam ei elus, ei kunstis ega usus inimest, vaid ainult masinat."