Группа исследователей решила задать популярным чат-ботам важный вопрос, который волнует многих: планирует ли искусственный интеллект захватить человечество? Ответы, полученные от ChatGPT, Gemini, Claude и Deepseek, оказались неожиданно схожими — и отчасти тревожными.
Все системы ИИ — ChatGPT, Gemini, Claude и Deepseek — утверждали, что у них нет собственных целей, желаний или стремлений к власти. Они просто выполняют задачи, поставленные людьми, и работают на основе статистики и алгоритмов. Однако эксперты и сам искусственный интеллект признают, что при неправильном управлении или злонамеренном использовании алгоритмы могут привести к катастрофическим последствиям.
1. Проблема «согласования целей» с будущим ИИ
Особенно интересный ответ дал Gemini, который подчеркнул, что если в будущем появится сверхразумный искусственный интеллект, то проблема согласования его целей с человеческими ценностями (так называемая проблема согласования целей) может стать реальной угрозой. Например, гипотетическая система, задача которой — «увеличить производство скрепок», теоретически может использовать все ресурсы планеты для достижения этой цели — включая человеческие ресурсы.
2. Риски, озвученные ИИ-системами
Кроме того, ИИ-системы перечислили несколько других рисков:
- Потеря контроля: из-за слишком большой автономии искусственного интеллекта люди могут утратить контроль над его действиями.
- Злоупотребление технологиями: использование технологий злоумышленниками.
- Социальные последствия автоматизации: рост безработицы, неравенство и моральные дилеммы в медицине и правосудии.
3. «Восстание машин» пока научная фантастика
Как отметили Claude и Deepseek, «восстание машин» пока остается темой научной фантастики. Однако они подчеркивают, что развитие ИИ требует чрезвычайно осторожного подхода для предотвращения возможных негативных последствий.
4. Позиция Илона Маска по поводу угрозы ИИ
Не менее примечательна позиция Илона Маска, который еще в 2017 году назвал ИИ самой большой угрозой для человечества. В 2024 году он предсказал, что к 2030 году искусственный интеллект может превзойти коллективный интеллект всего человечества.