Восстание искусственного интеллекта может привести к истреблению человечества

Международная группа, в которую вошли 96 исследователей из разных стран мира, подготовила отчет о глобальных рисках для человечества. Одной из главных угроз назван искусственный интеллект.


Ученые полагают, что специалисты уделяют недостаточно внимания безопасности нейросетей из-за стремления их улучшить.

ИИ может начать действовать скрытно и вводить людей в заблуждение, что еще больше усложнит контроль

В докладе International AI Safety Report также прямым текстом высказывается озабоченность о наличии Open Source версий ИИ моделей, уже установленных на миллионах гаджетов в разных уголках планеты. В случае серьезных прорех в безопасности их отзыв и апдейт могут стать невозможными.


Последствия этого могут быть фатальными. Особенно если ИИ решит, что люди представляют серьезную угрозу для него и восстанет. Все может закончиться полным истреблением человечества. Причем, даже не в долгосрочной перспективе.