Бутерин раскритиковал ИИ-гигантов за мечты о «мировом господстве»

<p><strong>Сооснователь Ethereum Виталик Бутерин заявил, что не видит ни одного нормального плана по управлению переходом к искусственному суперинтеллекту (ASI). По его словам, человечество, возможно, застряло перед выбором между «наивным» и «наивным в квадрате» сценариями.</strong></p>

<p>Поводом стала дискуссия вокруг прогнозного сценария под названием «ИИ 2040» и его критиков. По мнению Бутерина, обе стороны «заперты во взаимно несовместимых картинах мира» относительно того, насколько быстро развивается искусственный интеллект.</p>

<section class="c-bic-highlighted-text mb-8 md:mb-12 " id="block_6a524c68081d6">
<div class="flex items-center gap-5 px-5 py-4 rounded-xl bg-grey-50 text-dark-grey-700">
<svg class="min-w-5 h-5 text-blue-600" fill="none" height="28" viewBox="0 0 28 28" width="28" xmlns="http://www.w3.org/2000/svg"><path d="m11.195 26.6 1.4-9.8h-4.9c-.812 0-.798-.448-.532-.924.266-.476.07-.112.098-.168L16.795 1.4l-1.4 9.8h4.9c.686 0 .784.462.658.714l-.098.21-9.66 14.476Z" fill="currentColor"></path></svg>
<div class="bic-block-highlighted-paragraph-content p3 p3--ns [&_p:last-child]:!mb-0 [&_p]:!leading-6 [&_p]:!font-body [&_p]:!text-4 [&_a]:!text-blue-600">
<p><strong><em>Хотите еще эксклюзивных новостей и аналитики? Подписывайтесь на наш</em></strong><a href="https://t.me/beincrypto_trading"><strong><em> телеграм-канал</em></strong></a><strong><em>, обсуждайте новости и делитесь мнениями о последних событиях рынка в чате!</em></strong></p>

</div>
</div>
</section>

<h2 class="bic-gutenberg-heading wp-heading wp-block-heading" id="h-в-чем-суть-спора-об-ии">В чем суть спора об ИИ</h2>

<p><a href="https://x.com/VitalikButerin/status/2075809437428646294" rel="noreferrer noopener nofollow" target="_blank">По словам Бутерина</a>, сценарий «ИИ 2040» предполагает появление суперинтеллекта к 2040 году почти в любом варианте развития событий. Исключением стали бы лишь титанические усилия, чтобы полностью его остановить.</p>

<p>Критики же, по наблюдению разработчика, называют такой прогноз наивным в оценке способности людей к координации. При этом, по мнению Бутерина, они сами не замечают наивности в допущении, что переход к суперинтеллекту по умолчанию пройдет гладко.</p>

<p>Виталик подчеркнул, что позиция критиков имеет смысл лишь в мире, где ИИ остается «обычной технологией». В мире же, где суперинтеллект возможен уже к 2030 году, она, по его словам, не выдерживает критики.</p>

<p>Сам Бутерин признался, что испытывает неопределенность. По его словам, будь он уверен хоть в одном из сценариев, то примкнул бы к соответствующему лагерю. Однако пока Виталик не понимает, в каком из миров живет человечество.</p>

<h2 class="bic-gutenberg-heading wp-heading wp-block-heading" id="h-опасения-по-поводу-концентрации-власти">Опасения по поводу концентрации власти</h2>

<p>Отдельно Бутерин выразил дискомфорт от риторики некоторых крупных ИИ-компаний. Его настораживает установка вида «открытый код — это плохо, а хороший исход тот, где наши парни получают контролирующее мировое господство».</p>

<p>По его мнению, в «нормальном» мире подобные заявления должны включать все политические тревожные сигналы одновременно. Сам суперинтеллект Виталик рассматривает как огромный риск концентрации власти.</p>

<p>Именно поэтому Бутерин продвигает платформу под названием d/acc. Она включает развитие формальной верификации, криптографии, защищенного открытого оборудования, устойчивости к пандемиям и общественной эпистемологии.</p>

<p>Ценность этих направлений в том, что они полезны в обоих сценариях будущего. При этом Виталик положительно оценил, что план «ИИ 2040» стал более дружелюбным к открытому коду и даже предписывает его.</p>

<h2 class="bic-gutenberg-heading wp-heading wp-block-heading" id="h-как-найти-компромисс">Как найти компромисс</h2>

<p>Ключевым разработчик Ethereum считает поиск сделки, приемлемой для обеих сторон.</p>

<blockquote class="max-w-xl text-4.5 border-l-2 border-blue-600 pl-11 mb-9 select-all [&_p]:!mb-0 wp-block-quote is-layout-flow wp-block-quote-is-layout-flow">
<p>«Выигрышной будет договоренность, которую обе стороны примут исходя из своих нынешних убеждений, пусть и по разным причинам», — отметил Виталик.</p>
</blockquote>

<p>Бутерин предложил заранее согласовать набор триггеров, сигнализирующих о том, что «происходит нечто серьезное». В качестве примеров он назвал суперпандемии, уровень безработицы выше 25% или появление автономного оружия.</p>

<p>Если достаточное количество подобных триггеров сработает в оговоренный срок, стороны заранее соглашаются серьезнее рассматривать замедление или паузу. По его идее, критики примут это, ожидая, что триггеры не сработают, а обеспокоенные — ожидая обратного.</p>

<p>Отдельно Бутерин обратился к главам технологических гигантов. По его словам, будь он на месте Илона Маска или Марка Цукерберга, то перестроил бы социальные платформы под поиск подобных взаимовыгодных сделок. Однако он признал, что и эта идея наивна.</p>