Üliintelligentset tehisintellekti ei ole võimalik kontrollida ehk ohjeldada

https://kubnews.ru/obshchestvo/2019/01/25/sem-samykh-strannykh-popytok-primenit-iskusstvennyy-intellekt/

Superintelligentsus on hüpoteetiline agent, millel on intelligentsus, mis ületab kaugelt kõige säravamate ja andekamate inimmõistuste oma. Arvestades hiljutisi edusamme masinintelligentsuses, on mitmed teadlased, filosoofid ja tehnoloogid taaselustanud arutelu sellise üksusega kaasnevate potentsiaalselt katastroofiliste riskide üle.

Inimkonna kukutamise või orjastamise ideest tehisintellekti abil on räägitud palju aastakümneid ning 2021. aasta jaanuaris andsid teadlased oma seisukoha selle kohta, kas suudame kõrgetasemelist arvuti superintellekti kontrollida.

Vastus – peaaegu kindlasti mitte.

Superintellekti täielik ohjeldamine on põhimõtteliselt võimatu andmetöötluse enda põhiliste piirangute tõttu.

Konks on selles, et sellise superintellekti kontrollimiseks, mis ületab inimese mõistmisvõime, on vaja luua selle superintelligentsuse simulatsioon, mida me siis saaks analüüsida. Aga kui me ei suuda seda mõista, siis on sellist simulatsiooni võimatu luua.

Me ei saa kehtestada selliseid reegleid nagu „ära kahjusta inimesi”, kui me ei mõista, milliseid stsenaariume tehisintellekt võib välja mõelda. Kui arvutisüsteem töötab tasemel, mis ületab meie programmeerijate võimalusi, ei saa me enam piiranguid seada.

Superintellekt kujutab endast põhimõtteliselt teistsugust väljakutset kui need, mida tavaliselt uuritakse “robotieetika” sildi all,” kirjutavad teadlased.

See on tingitud asjaolust, et superintelligentsus on mitmetahuline ja seetõttu potentsiaalselt võimeline mobiliseerima mitmesuguseid ressursse, et saavutada inimestele potentsiaalselt arusaamatuid eesmärke. Rääkimata siis veel sellest, et neid üldse on võimalik kontrollida.

Kui me hakkame tehisintellekti edendama, ei pruugi me isegi teada, millal ilmub meie kontrolli alt väljuv superintellekt. See on meie jaoks liiga arusaamatu, liiga mõistetamatu, tajumatu.

Tekib küsimus, kas see võib ühel hetkel muutuda kontrollimatuks ja inimkonnale ohtlikuks?

See tähendab, et peame hakkama esitama tõsiseid küsimusi, mis suunas me liigume.

***

Tõlkinud Ingrid Soosaar.

Allikad:

Uuring: https://jair.org/index.php/jair/article/view/12202

https://www.sciencealert.com/calculations-suggest-it-ll-be-impossible-to-control-a-super-intelligent-ai

https://gagadget.com/science/86518-raschetyi-uchenyih-pokazali-chto-upravlyat-sverhrazumnyim-ii-budet-nevozmozhno/