Научниците од заедницата „Макс Планк“ стравуваат дека човештвото никогаш нема да може да ја контролира вештачката интелигенција. Постои опасност кога ќе се создаде ваква ВИ, сценариото на „Терминатор“ да се оствари (научна фантастика со Арнолд Шварценегер).
Неконтролираните вештачки супер-умови долго време ги мачат научниците и филозофите. Човештвото сè уште нема создадено таков интелект, но заедницата „Макс Планк“ сега стравува дека луѓето никогаш не би можеле да го контролираат.
Во новата студија објавена во „Journal of Artificial Intelligence Research“, научниците користат теоретски пресметки за да ја утврдат основната неможност за контрола на суперинтелигентната ВИ. Тие се однесуваат на прашањето за ограничување на вештачката интелигенција. Ако алгоритам што ја надминува човечката интелигенција има пристап до сите податоци и одлучи дека мора да им наштети на луѓето или целосно да го уништи човештвото, тогаш како може да се спречи тоа?
Научниците сугерираат дека создавањето на „алгоритам за ограничување“ што блокира суперинтелигентна ВИ може да го реши проблемот. Во овој случај, сепак, алгоритмот на ограничување не смее да биде помалку „паметен“ од суперпаметниот ВИ. Ова значи дека проблемот не може да се реши.
Се разбира, резонирањето за вештачкиот супер-интелект останува само теорија, бидејќи човештвото е сè уште далеку од создавање такви алгоритми. Но, според истражувачите, луѓето треба да се подготват однапред, бидејќи веќе има машини кои извршуваат задачи сами, додека програмерите не разбираат како го научиле ова.