Автор Сергей Корсунский Чрезвычайный и Полномочный Посол Украины

Будущее, о котором мы вынуждены говорить сегодня в терминах войны и мира, все же имеет разные измерения. Одно основывается на парадигме борьбы за существование и является реактивным. Другое предусматривает стратегирование с учетом объективных тенденций развития и является проактивным. Человечество словно пребывает одновременно в двух параллельных мирах: направленном в будущее, где мыслят категориями глобального блага, и средневековом, где господствует ментальность, заселенная демонами ненависти. В одном идет сумасшедшая конкуренция за пентафлопсы и нанометры (первых должно быть больше, а вторых — меньше), в другом ведутся попытки остановить время и даже вернуть его назад. Этот дуализм искажает чувство реальности и мешает увидеть, что несовместимые между собой миры имеют нечто общее — квест за первенство в сфере искусственного интеллекта. На наших глазах создается технология, которая, вполне вероятно, приведет человечество к последнему в его истории промышленному укладу. Она лишит человечество рутины, но имеет потенциал обострить целый ряд разногласий социально-взрывного характера. Важно понимать, что на самом деле происходит: предвидеть значит управлять.

Разработчики ИИ не готовы к последствиям создания сверхумных систем

Технологии всегда изменяли мир. Паровые машины сделали Британию самой мощной империей, над которой «никогда не заходило солнце». Лампочка Фарадея осветила путь США к мировому лидерству, а изобретение транзистора открыло эпоху ІТ, отчасти выровняв условия глобальной конкуренции. Развитие стало меньше зависеть от ресурсов и территорий, хотя в некоторых случаях, например относительно редкоземельных металлов, конкуренция обострилась. Со временем оказалось, что лозунги о глобальном благе, которые всегда сопровождают инновации, не обязательно отражают хорошие намерения. Те же технологии могут как давать жизнь, так и отбирать, создавать лучший мир или делать зло еще деструктивнее. И речь идет не об очевидных вещах, когда, например тот же технологический процесс дает возможность производить удобрения и взрывчатку. Ситуация значительно сложнее, и важно осознавать несколько отдаленные, но все же неминуемые, хотя и скрытые сегодня последствия перехода человечества к четвертому технологическому укладу. Сказочные истории о киборгах от Сэма Альтмана и Билла Гейтса имеют обратную сторону, о которой они говорят только под давлением неопровержимых фактов. На самом деле ситуация намного сложнее, чем «поют» современные «менестрели»: как говорят японцы, «каждая обратная сторона имеет свою обратную сторону».

На страницах постановки задач чуть ли не самых популярных машин ИИ ChatGPT и Claude содержится предупреждение: «ChatGPT/Claude может ошибаться. Пожалуйста, тщательно проверяйте источники». А теперь послушайте Билла Гейтса, который говорит, что в течение нескольких следующих лет ИИ заменит учителей и врачей. Интересно посмотреть, как он будет доверять ставить диагноз ИИ, который «может ошибаться». Или обратится не к проверенному стоматологу, а к его ИИ-заменителю. Между тем такие заявления от гуру ІТ-бизнеса могут полностью исказить стратегии образования, привести к утратам критически важных навыков обучения и творческого применения знаний, которые будут отданы машинам. «Ни один меч, — говорят японцы, — не может быть сильнее ума, создавшего его». Проект Сэма Альтмана, направленный на сканирование радужек каждого человека на Земле в обмен на криптовалюту, дебютировал в США, несмотря на обеспокоенность о сборе и обработке биометрических данных. Видим попытку создать уникальную базу данных, не имеющую аналогов, но можно ли контролировать, как ее будут использовать?