Спор о пределах ИИ дошел до Маска: ему указали на главный изъян Grok

<p><strong>Глава компании xAI Илон Маск согласился с критикой того, что его чат-бот Grok игнорирует очевидный ресурс для развития — реакцию читателей на публикации, созданные с помощью этого ИИ. </strong></p>

<p>Замечание высказал один из участников дискуссии, развернувшейся после выступления Ричарда Саттона, ведущего теоретика в области искусственного интеллекта. </p>

<h2 class="bic-gutenberg-heading wp-heading wp-block-heading" id="h-с-чего-начался-спор">С чего начался спор</h2>

<p>Дискуссия завязалась <a href="https://x.com/RichardSSutton/status/2061216087744946656" rel="noreferrer noopener nofollow" target="_blank">после публикации Ричарда Саттона</a> — лауреата премии Тьюринга 2024 года. Эту престижную награду он разделил с Эндрю Барто за разработку фундаментальных принципов обучения с подкреплением. Метод позволяет программе развиваться через систему проб и ошибок: за каждое удачное действие алгоритм получает виртуальное поощрение, постепенно осваивая наиболее эффективные стратегии поведения.</p>

<p>Саттон занимает пост профессора компьютерных наук в Университете Альберты и сотрудничает с канадским институтом ИИ Amii.</p>

<p>В своем обращении он выдвинул неоднозначный тезис: современный генеративный ИИ, обучающийся на фиксированных наборах данных, не в состоянии совершать подлинные научные открытия. Его аргументация строится на следующих пунктах:</p>

<figure class="overflow-x-auto wp-block-table"><table class="has-fixed-layout"><thead><tr class="border-grey-200 border-y bg-white [&_th]:bg-white"><td class="px-2.5 lg:px-4 py-2 lg:py-3.5 p5 p5--medium lg:p4 lg:p4--medium border-r border-white text-left"><strong>Параметр</strong></td><td class="px-2.5 lg:px-4 py-2 lg:py-3.5 p5 p5--medium lg:p4 lg:p4--medium border-r border-white text-left"><strong>Характеристика ИИ по Саттону</strong></td></tr></thead><tbody><tr class="border-grey-200 border-y bg-white [&_th]:bg-white"><td class="px-2.5 lg:px-4 py-2 lg:py-3.5 p5 p5--medium lg:p4 lg:p4--medium border-r border-white text-left">Источник новизны</td><td class="px-2.5 lg:px-4 py-2 lg:py-3.5 p5 p5--medium lg:p4 lg:p4--medium border-r border-white text-left">Случайные отклонения в работе алгоритмов</td></tr><tr class="border-grey-200 border-y bg-white [&_th]:bg-white"><td class="px-2.5 lg:px-4 py-2 lg:py-3.5 p5 p5--medium lg:p4 lg:p4--medium border-r border-white text-left">Источник качества</td><td class="px-2.5 lg:px-4 py-2 lg:py-3.5 p5 p5--medium lg:p4 lg:p4--medium border-r border-white text-left">База готовых текстов и изображений, на которых шло обучение</td></tr><tr class="border-grey-200 border-y bg-white [&_th]:bg-white"><td class="px-2.5 lg:px-4 py-2 lg:py-3.5 p5 p5--medium lg:p4 lg:p4--medium border-r border-white text-left">Главная проблема</td><td class="px-2.5 lg:px-4 py-2 lg:py-3.5 p5 p5--medium lg:p4 lg:p4--medium border-r border-white text-left">Отсутствие механизма самостоятельной оценки результата</td></tr></tbody></table></figure>

<p>По мнению профессора, программа не способна осознать, насколько удачным оказался ее ответ в конкретный момент, а значит, лишена возможности отбирать лучшие решения.</p>

<p>К обсуждению <a href="https://x.com/beffjezos/status/2061221724516188474" rel="noreferrer noopener nofollow" target="_blank">присоединился Гийом Верден</a>, основатель стартапа Extropic, известный в сети под псевдонимом Beff Jezos. Он перевел теоретические выкладки Саттона в практическую плоскость, затронув интересы Маска. Верден предположил: если Саттон прав, то Grok мог бы стать идеальным инструментом для создания вирусного контента. Пользователи соцсетей оттачивают мастерство написания текстов именно через пробы и ошибки, где мерилом успеха служит отклик аудитории. У Илона Маска есть доступ к колоссальному массиву таких данных, но существует серьезная преграда: Grok создает тексты, но информация о том, какие из них стали популярными, не возвращается в систему для дообучения.</p>

<h2 class="bic-gutenberg-heading wp-heading wp-block-heading" id="h-маск-признал-пробел">Маск признал пробел</h2>

<p>На доводы Вердена<a href="https://x.com/elonmusk/status/2061268036208971886" rel="noreferrer noopener nofollow" target="_blank"> Илон Маск ответил</a>: «Good point» («Справедливо»).</p>

<figure class="wp-block-image size-full"><img alt="ответ маска" class="wp-image-378038" src="https://assets.beincrypto.com/img/52vvvN3STxySc537duiJHsjq4gc=/smart/fa2ed11af9bf47c4812720d5765f08e0" /><figcaption class="wp-element-caption">Ответ Маска на тезисы Beff Jezos. Источник: <a href="https://x.com/elonmusk/status/2061268036208971886" rel="noreferrer noopener nofollow" target="_blank">X</a></figcaption></figure>

<p>Признание главы xAI фактически обнажило уязвимость его продукта — ту самую, на которую указывал Саттон. Платформа X обладает уникальным преимуществом: она в реальном времени фиксирует, какие публикации привлекают внимание, а какие игнорируются. Однако слова Вердена подтверждают, что эти ценные сведения пока никак не используются для совершенствования Grok. На текущий момент цикл разорван: нейросеть генерирует контент, но не получает обратной связи о его реальной эффективности.</p>

<p>Реакцию Маска можно расценивать как анонс будущих изменений в стратегии разработки. Замыкание этого цикла — внедрение учета пользовательских реакций в процесс обучения — позволило бы реализовать тот самый подход, за который Саттон получил премию Тьюринга. Для Grok, который глубоко интегрирован в социальную сеть с миллиардами ежедневных взаимодействий, этот путь к самосовершенствованию может оказаться значительно короче, чем для конкурентов, не имеющих собственных площадок для сбора живого отклика.</p>