Liigu sisu juurde
Mis juhtub, kui masina intellekt ületab inimaju võimekuse? Nick Bostrom räägib eksitentsiaalsest nihkest, kus inimene on loonud endale potentsiaalse järglase. Autor kirjeldab erinevaid teid, mis meid superintellektini viia võivad. Me võime ehitada masinaju, mis on väga võimas. Aga probleemiks on see, kuidas me seda superaju kontrollida saame.
Superintellekt ei ole pahatahtlik, aga piisab sellest, kui tema eesmärgid ei ühti täpselt inimväärtustega. Piisab pisikesest eksimusest, kuna alati ei suuda me kodeerida masinasse keerulist ja detailirohket inimlikku moraali nii, et masin seda omamoodi ei tõlgendaks.
Bostrom tutvustab erinevaid strateegiaid, kuidas hallata olukorda. Tegelikult on meil vaid üks võimalus seadistada superaju õigesti. Ta pakub välja selliseid ohutusmeetmeid nagu masina isoleerimine välismaailmast, väärtuste siirdamine nii, et masin õpib inimesi jälgides ise mõistma mida me väärtustame. Oluliseks saab globaalne koostöö, sest võidujooks superintellekti suunas võib sundida arendajaid ohutusreeglitest mõõda vaatama ja see seab juba ohtu kogu meie liigi ellujäämise.
Nagu autor eessõnas kirjutab adresseeris ta raamatu enda nooremale variandile ja ta kirjutas selle nii, et lugeda oleks nauditav.
