Крестный отец ИИ: человечеству грозит риск вымирания из-за технологий
Джеффри Хинтон, которого часто называют «крестным отцом искусственного интеллекта», заявил, что существует от 10% до 20% вероятности того, что искусственный интеллект приведет к вымиранию человечества в течение следующих 30 лет. В интервью изданию The Guardian ученый подчеркнул, что развитие технологий идет намного быстрее, чем ожидалось.
Хинтон, британско-канадский специалист в области компьютерных наук и почетный профессор Университета Торонто, объяснил свою позицию на BBC Radio 4 в программе Today. Отвечая на вопросы, он уточнил, что его оценка вероятности угрозы от ИИ остается неизменной. Он также отметил, что человечество может столкнуться с трудностями в управлении более разумными существами, что исторически практически не встречается.
«Мы можем представить себя трехлетними детьми по сравнению с мощными системами искусственного интеллекта, которые сейчас разрабатываются», — добавил Хинтон.
По его мнению, быстрые темпы прогресса в области ИИ увеличивают риски, связанные с утратой контроля над этой технологией.
Хинтон давно поднимает вопрос о потенциальной опасности искусственного интеллекта. В прошлом году он ушел из компании Google, чтобы открыто обсуждать риски, связанные с его развитием. Он предупреждал, что технология может быть использована злоумышленниками для нанесения вреда, а создание искусственного общего интеллекта (AGI) может стать угрозой для человечества, если такие системы выйдут из-под контроля.
Некоторые эксперты разделяют опасения Хинтона, отмечая, что уже в ближайшие 20 лет могут быть созданы системы, превосходящие человеческий интеллект. Однако его коллега Ян Лекун, также признанный одной из ключевых фигур в развитии ИИ, выражает более оптимистичный взгляд, считая, что искусственный интеллект способен предотвратить вымирание человечества.
Для предотвращения потенциальных рисков Хинтон подчеркивает важность государственного регулирования. Он уверен, что стремление компаний к прибыли само по себе не гарантирует безопасность.
«Единственным механизмом, способным заставить крупные корпорации уделять внимание безопасности, является регулирование со стороны государства», — заключил он.
Обсудим?
Смотрите также:
