Didėjant robotų autonomijai, visuomenei reikia sukurti taisykles, kaip juos valdyti
Mokslinės fantastikos klasikoje, filme „2001“, laivo kompiuteriui HAL kyla dilema. Pagal instrukcijas jis privalo tiek įvykdyti laivo misiją (ištyrinėti artefaktą prie Jupiterio), tiek nuo laivo įgulos nuslėpti tikrąjį misijos tikslą. Siekdamas išspręsti prieštaravimą, įgulą jis bando išžudyti.
Didėjant robotų autonomijai, kompiuterio valdomų mašinų, kurioms tenka priimti etinius sprendimus, idėja iš mokslinės fantastikos karalijos kraustosi į realų pasaulį. Visuomenei reikia sugalvoti, kaip užtikrinti, kad mašinos moraliniams vertinimams būtų pasiruošusios geriau nei HAL.
Robotų bestiariumas
Nieko keisto, kad sukant savarankiškai sprendžiančių mašinų link priešakyje žengia karinės technologijos. Joms evoliucionuojant, atsiranda neįtikėtina gausybė rūšių. „Sand Flea“ gali įšokti pro langą arba užšokti ant stogo ir visą laiką filmuoti. Iki kito šuolio jis juda riedėdamas ratais. Šešiakojis robotas-tarakonas „RiSE“ gali lipti sienomis. Į šunį panašus robotas LS3 raižyta vietove paskui žmogų risnoja nešdamas iki 180 kg atsargų. Portfelio dydžio robotas SUGV minioje gali atpažinti žmogų ir jį sekti. Vienas nepilotuojamas žvalgybinis orlaivis sveria kaip vestuvinis žiedas, kitas gali nešti 2,7 tonos bombų.
Robotai plinta ir civilių gyvenime: nuo pilotų kabinų iki operacinių. Keleiviniai orlaiviai jau seniai gali nusileisti patys. Traukiniai be mašinistų – kasdienybė. Naujasis „Volvo“ hečbekas V40 intensyvaus eismo sraute iš esmės vairuoja pats. Pajutęs neišvengiamą susidūrimą jis gali sustoti; „Ford“ vienatūris „B-Max“ irgi. Pasaulyje vyksta bandymai su transporto priemonėmis, kurios visą laiką vairuoja pačios. „Google“ automobiliai be vairuotojų JAV jau sukorė per 250 tūkst. mylių, o Nevada tapo pirmąja valstija, įvedusia tokių bandymų reguliavimą viešuosiuose keliuose. Prieš kelias dienas Barselonoje „Volvo“ vienoje magistralėje demonstravo grupę savavaldžių automobilių.
Didėjant savavaldžių mašinų nuovokai ir paplitimui, joms neišvengiamai teks esant neprognozuojamoms situacijoms spręsti gyvybės ir mirties klausimus, taigi tapti (ar bent iš pažiūros tapti) moraliai atsakingu subjektu. Šiuo metu ginklų sistemas valdo žmogus (operatorius), bet sistemoms sudėtingėjant, žmogui bus galima palikti tik priežiūrą, o mašinos įsakymus vykdys autonomiškai.
Tokiu atveju joms teks spręsti etines dilemas. Ar nepilotuojamam orlaiviui šauti į namą, kuriame, kaip žinoma, slepiasi taikinys, bet gali glaustis ir civiliai? Ar automobiliui be vairuotojo mestis į šoną, kad išvengtų pėsčiųjų, jeigu tuomet atsitrenks į kitas transporto priemones arba sukels pavojų jame esantiems keleiviams? Ar pagalbą po katastrofos teikiančiam robotui žmonėms pasakyti tiesą apie tai, kas vyksta, jeigu rizikuojama sukelti paniką? Iš šių klausimų kilo „mašinų etikos“ sritis, kuri siekia technikai suteikti gebėjimą esant tokioms situacijoms rinktis tinkamai, kitaip tariant, skirti gėrį nuo blogio.
Vienas būdų, kaip spręsti šiuos sunkius klausimus, – apskritai jų vengti uždraudžiant savavaldžius mūšio lauko robotus ir reikalaujant, kad automobilį visuomet kontroliuotų vairuotojas. Priešinantis vis dažnesniam nepilotuojamų orlaivių naudojimui, atsirado agitacinių grupių, kaip antai Tarptautinis robotų ginkluotės kontrolės komitetas (angl. International Committee for Robot Arms Control). Bet iš savavaldžių robotų galėtų būti kur kas daugiau naudos nei žalos. Kariai robotai neprievartautų, apimti pykčio nepaleistų kaimo pelenais, paveikti kovos įtampos nepradėtų daryti padrikų sprendimų. Labai tikėtina, kad automobiliai be vairuotojų bus saugesni už įprastus, nes autopilotai padidino lėktuvų saugumą. Vienas iš šios srities pradininkų Sebastianas Thrunas mano, kad automobiliai be vairuotojų galėtų per metus išsaugoti 1 mln. gyvybių.
O visuomenei verčiau imtis galvoti, kaip spręsti robototechnikos etikos klausimą – ir nesnaudžiant. JAV valstijos skubiai leidžia įstatymus, kurie reglamentuoja automobilius be vairuotojų, iki tol veikusius pilkojoje teisės zonoje, nes technologijų raida lenkia teisės aktų leidybą. Aišku, kad kelių eismo taisyklės šiai sudėtingai sričiai yra reikalingos, ir ne vien robotams ant ratų.
Garsiausios robotų etikos gairės – tai „trys robototechnikos taisyklės“, kurias 1942 m. sukūrė rašytojas fantastas Isaacas Asimovas. Taisyklės reikalauja, kad robotai gintų žmones, paklustų įsakymams ir saugotų save – būtent tokia eilės tvarka. Deja, realiame pasaulyje iš šių taisyklių maža naudos. Mūšio lauko robotai privalėtų pažeisti pirmąją taisyklę. I. Asimovo pasakojimai apie robotus todėl ir įdomūs, kad išryškina netikėtus keblumus, kurie kyla robotams bandant laikytis šių iš pažiūros protingų taisyklių. Norint reguliuoti savavaldžių robotų vystymą ir naudojimą, reikės labiau ištobulintos sistemos. Pasistūmėti ypač reikia trijose srityse.
Trys taisyklės robototechnikos taisyklėms
Pirma, reikia taisyklių, kurios nustatytų, ar savavaldžio nepilotuojamo orlaivio antpuoliui pakrypus blogon pusėn arba automobiliui be vairuotojo padarius avariją kaltas projektuotojas, programuotojas, gamintojas arba operatorius. Idant būtų galima paskirstyti atsakomybę, savavaldės sistemos turi viską fiksuoti, kad prireikus galėtų paaiškinti, kuo vadovavosi priimdamos sprendimus. Tai turi reikšmės sistemų projektavimui. Pavyzdžiui, gali būti neįmanoma naudoti dirbtinius neuroninius tinklus, t. y. sprendimų priėmimo sistemas, kurios mokosi iš pavyzdžių, o ne paklūsta nustatytoms taisyklėms.
Antra, robotų, besinaudojančių integruotomis etinėmis sistemomis, vertinimai turi atrodyti teisingi daugumai žmonių. Turėtų padėti metodikos iš eksperimentinės filosofijos, nagrinėjančios, kaip žmonės reaguoja į etines dilemas. Trečia ir svarbiausia – reikia glaudesnio inžinierių, etikos specialistų, teisininkų ir politikų bendradarbiavimo, nes gavę valią visi jie sudarytų labai skirtingo pobūdžio taisykles. Dirbdami kartu naudos gautų tiek etikos specialistai, tiek inžinieriai: bandydami mašinas išmokyti etikos, etikos specialistai galėtų geriau perprasti savo sritį, o inžinieriams visuomenę reikia patikinti, kad etiniais klausimais jie neina trumpiausiu keliu.
Technologijos varo žmonijos pažangą, bet kiekvienas žingsnis į priekį paskatina naujų nerimą keliančių klausimų. Su savavaldėmis mašinomis ne kitaip. Kuo greičiau bus atsakyta į jų keliamus moralinės atsakomybės klausimus, tuo lengviau žmonija galės mėgautis nauda, kurios jos neabejotinai duos.
