Генеральный директор SpaceX, Tesla и Twitter Илон Маск, эксперты в области искусственного интеллекта и лидеры отрасли призвали к шестимесячной паузе в разработке систем, более мощных, чем недавно запущенная OpenAI GPT-4. Об этом говорится в открытом письме, в котором упоминаются потенциальные риски для общества и человечества.

«Системы искусственного интеллекта с интеллектом, конкурирующим с человеком, могут представлять серьезную опасность для общества и человечества, как показали обширные исследования и признали ведущие лаборатории искусственного интеллекта», — говорится в письме.

В письме описываются потенциальные риски для общества и цивилизации от конкурирующих систем искусственного интеллекта в виде экономических и политических потрясений и содержится призыв к разработчикам сотрудничать с политиками и регулирующими органами.

«Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски управляемыми», — говорится в письме.

• Ранее в марте компания OpenAI, поддерживаемая Microsoft, представила четвертую итерацию своей программы искусственного интеллекта GPT (Generative Pre-trained Transformer), которая поразила пользователей широким спектром приложений, от вовлечения пользователей в человеческую беседу до написания песен и обобщения длинных документов.
• На этой неделе Европол присоединился к выражению этических и правовых опасений по поводу продвинутого ИИ, такого как ChatGPT, и предупредил о потенциальном злоупотреблении системой при фишинге, дезинформации и попытках киберпреступлений.