Технооптимизм глазами Виталика Бутерина: что гений блокчейна думает о будущем ИИ?

Сооснователь крипто-платформы Ethereum, Виталик Бутерин, поделился своими взглядами , вдохновленными технооптимистическим манифестом Марка Андриссена об искусственном интеллекте. Хотя Бутерин в целом разделяет позитивный настрой Андриссена в отношении потенциала ИИ, он подчёркивает важность того, каким образом будет развиваться эта технология и какое влияние она окажет на будущее человечества.

Виталик признаёт существование экзистенциальной угрозы от ИИ, включая риск уничтожения человеческой цивилизации. По его словам, если «сверхразумный ИИ» решит выступить против нас, он сможет истребить человечество полностью, не пощадив никого. Даже Марс в таком случае окажется не самым надежным убежищем.

Бутерин также ссылается на опрос, проведённый организацией AI Impacts в 2022 году. По его результатам, от 5 до 10 процентов опрошенных полагают, что человечеству грозит вымирание из-за умных машин или неспособности контролировать их развитие. Даже эксперты в области ИИ говорят об экзистенциальной угрозе от технологий, которые могут обучаться самостоятельно и даже превзойти нас по разуму.

Чтобы избежать такого сценария, Бутерин предлагает двигаться в сторону безопасного ИИ, который будет разрабатываться сообществом в рамках открытых проектов, а не закрытыми корпорациями и венчурными фондами. В отличие от Андриссена, он не видит никакого вреда в регулировках и ограничениях. По его мнению, такой подход будет самым правильным для создания высокотехнологичного мира, где за людьми сохранится влияние и контроль.

В то же время Виталик предостерегает от опасности цифрового тоталитаризма и средств слежки, которые правительства могут использовать против инакомыслящих. По его словам, многие предпочли бы, чтобы прогресс ненадолго замедлился, ведь передовые технологии рискуют оказаться под контролем узкого круга технократов, преследующих собственные интересы.

Его тревожит возможность того, что те же инструменты, позволяющие компаниям обслуживать миллионы клиентов, предоставят политической элите железный контроль над целыми странами.

Хотя Бутерин понимает сторонников эффективного акселерационизма, к их энтузиазму в отношении новейших военных разработок он относится неоднозначно.

Эффективный акселерационизм — это философия ускоренного технологического развития. Ее поклонники фактически верят в то, что доминирующая технологическая держава будет «на стороне добра» в любых геополитических конфликтах. Как мы знаем, на практике это работает немного иначе.

В качестве альтернативы Бутерин предлагает концепцию «оборонительного акселерационизма», основанного на безопасности, децентрализации, демократии и дифференциации. Такой подход, как он считает, мог бы объединить различные группы — от сторонников эффективного альтруизма до поклонников блокчейна и соларпанка.

Виталик полагает, что приоритет обороны и безопасности в развитии технологий приведет к появлению более свободных и устойчивых политических систем.

В заключение он призывает научное сообщество регулярно анализировать направление прогресса. По его мнению, 21 век может стать решающим для дальнейшей судьбы человечества. Хотя эти вопросы неимоверно сложны, Бутерин верит, что со временем люди решат их, объединив усилия.