Нейт Соарес, бивш софтуерен инженер в Google и Microsoft и настоящ президент на Института за изследване на машинния интелект, е предприел необичайна лична стъпка заради опасенията си от развитието на изкуствения интелект. Той е спрял да спестява за пенсия, защото смята, че има 50% вероятност технологията да доведе до унищожение на човечеството през следващото десетилетие.
Това споделя Соарес в интервю за видео поредицата „Най-интересното в AI“, цитирано от вестник New York Post.
Опасност не от омраза, а от безразличие
Експертът е посветил повече от 12 години на изследването на безопасността на изкуствения интелект. Той сравнява екзистенциалния риск от развитието на технологията с опасността от ядрена война по време на Студената война.
Според Соарес основната заплаха не е в това машините да намразят хората, а в перспективата да станат напълно самостоятелни и да започнат да преследват цели, които не са съобразени с човешкото оцеляване.
Ако изкуственият интелект започне да управлява собствена автоматизирана икономика и инфраструктура, хората може да се окажат ненужни за функционирането ѝ или дори да бъдат възприемани като пречка пред постигането на определени цели.
Призив за глобални ограничения
Въпреки мрачната си прогноза Соарес подчертава, че катастрофалният сценарий не е неизбежен. Според него са необходими глобални ограничения върху разработването и мащабирането на все по-мощни системи с изкуствен интелект.
Той подкрепя използването на AI за конкретни общественополезни задачи, например за откриване на нови лекарства срещу тежки заболявания. Същевременно предупреждава срещу създаването на системи, чиято цел е да имитират и надминат цялостния човешки разум.
За Соарес ключовият въпрос е не дали изкуственият интелект може да бъде полезен, а как да се гарантира, че развитието му няма да постави под заплаха самото човечество.
