Фото: AP / TASS.
18+. Настоящий материал (информация) произведен, распространен и (или) направлен иностранным агентом интернет-издание «Новая Газета» либо касается деятельности иностранного агента интернет-издание «Новая Газета»
Сентябрь для мира искусственного интеллекта выдается непростым. Представители OpenAI и Anthropic — крупнейших разработчиков нейросетей — выступили с призывами замедлить разработку новых моделей. Предлог — угроза всему человечеству: якобы получается слишком опасная технология. Баба-яга в лице Дональда Трампа — против. Китай молчит. Что же происходит на самом деле?
Главная фишка — ИИ начал разрабатывать сам себя. Звучит заманчиво, но есть нюанс: никто не представляет, что он там делает, до чего додумается и к каким последствиям это приведет. Учитывая недавние новости о побегах ИИ-агентов, которые в своем личном виртуальном угаре занимаются взломом сторонних сайтов, опасения не беспочвенны.
«Если оставить этот процесс [рекурсивного самосовершенствования] без контроля, он может опередить нашу способность понимать эти системы и управлять ими», — говорит Дарио Амодеи, генеральный директор Anthropic. «Я согласен с Дарио в том, что нам нужно регулировать темпы развития передового края ИИ», — вторит Сэм Альтман, глава OpenAI.
Можно еще привести цитаты сотрудников технологических компаний, но есть и альтернативные мнения: «Захват мира искусственным интеллектом, уничтожение человечества и все прочие ужасы — это мистификация» (орфография президента США сохранена).
Что-то и правда подозрительно. Представьте, вы работаете на высококонкурентном рынке, ваши продукты — хит прошлого, нынешнего и, вероятно, будущего сезона. И тут — бац! — вы выходите к прессе, идете к чиновникам и заявляете: отрегулируйте меня, пожалуйста! Или обращаетесь к коллегам: мол, не пора ли нам если не остановиться, то чуток притормозить? Точную аналогию подобрать сложно, но звучит это на уровне отмазок «меня взломали» или «во всем виноваты внешние силы», просто в другой упаковке.
И главное: несмотря на инциденты, связанные с ИИ, несмотря на то, что рынок объективно меняется из-за внедрения новых технологий, за окном всё то же солнце. Или дождь — в зависимости от региона. Никаких трагедий пока не наблюдается.
Есть еще очевидный момент: перечисленные игроки — не единственные. Например, представители Google и его подразделения DeepMind сдержаны в реакциях. Их высказывания наполнены дипломатией и уважением к коллегам, но конкретики и однозначной поддержки нет. Нам, пользователям, от этого только хорошо — ждем следующие модели Gemini без всяких там ограничений.
А есть еще и Китай. Официальный представитель МИД КНР Го Цзяхунь, отвечая на вопросы журналистов по поводу высказываний Альтмана и его коллег, заявил: «Нагнетание страха, конфронтация и порочная конкуренция лишь разрушат процесс глобального управления в сфере ИИ, что не отвечает ничьим интересам». Что в переводе с официального языка звучит примерно как «Да плевать мы хотели».
А еще, помимо известных лидеров рынка из разных стран, есть тысячи более мелких компаний и просто независимых разработчиков. Стоит напомнить, DeepSeek, грубо говоря, появился в гараже. Сегодня любой желающий может начать экспериментировать с модными технологиями, имея реальный шанс на мировой успех. Можно попробовать написать свою нейросеть, а если лень или просто не хватает знаний — экспериментировать с открытыми моделями, которых сейчас в избытке. В конце концов, можно начать обучать их на собственных данных, какими бы они ни были.
На этом фоне какие-то призывы о регуляции и уж тем более об изменениях темпов разработки звучат, мягко говоря, утопично. Потому что это невозможно.
Но дыма без огня не бывает. Так может, причина в чем-то другом? Например, у перечисленных компаний всё не так хорошо, как это описывается в пресс-релизах?
А что, с доходами всё непросто — обладатели платных аккаунтов никак не покрывают имеющиеся издержки, а миллионы тех, кто бесплатно спрашивает ИИ-помощника «как дела? Что с погодой?», сжигают бешеные ресурсы. С инвестициями в дата-центры тоже не всё так гладко. Ресурсы NVIDIA — главного производителя вычислительных мощностей — не бесконечны, приходится привлекать дополнительное финансирование и входить в капитал крупных игроков. Схема там вообще поразительная: кредиты самой компании под покупку ее же чипов. Мнением о том, что раздувается гигантский пузырь, уже никого не удивишь.
Помимо внутренних проблем, есть еще и внешние — насколько они реальны, вопрос дискуссионный. Но избыточное потребление электроэнергии или колоссальные объемы воды, которые требуются для охлаждения серверов, уже вызывают претензии экологов, спор с которыми — дело неблагодарное. Про биткоин точно так же говорили, но память коротка. С какой стороны ни посмотри, не всё так гладко в королевстве искусственного интеллекта.
«Как мы уже говорили, мы не спешим с IPO… На самом деле я считаю, что, учитывая всё происходящее с безопасностью, сейчас неподходящий момент для выхода на биржу, и мы не чувствуем давления по этому поводу. Мы давно говорили, что сделаем это, когда будем готовы — то есть когда будет готов бизнес и когда мы почувствуем готовность с точки зрения того, как общество воспринимает эту технологию в данный момент», — говорит Сэм Альтман по поводу возможного выхода на публичные торги.
Чтобы попытаться как-то логично объяснить происходящий угар, в котором угрозы человечеству уже обычное дело, стоит воспользоваться старым методом: follow the money, или cui bono? То есть кому это, собственно, выгодно?
Так вот, все перечисленные сражаются за оборонные контракты США и других стран — это очень много денег, большие возможности. Перечислять миллиарды, которые получат компании из бюджета, бессмысленно — для типичного потребителя это космос. Так что есть большая вероятность, что всё, о чем кричат на каждом углу, — лишь удачный PR и попытка набить себе цену.
Мир на пороге технологической революции, а мы, имеющие доступ к современным технологиям, уже стали жить по-другому. Предложи забрать у вас ChatGPT — это вызовет протест, для многих виртуальный помощник — привычная часть быта. Безусловно, мы будем наблюдать, а может, и станем участниками катастроф, виновником которых будет взбесившийся искусственный интеллект. Но, как говорил кот Леопольд, «неприятность эту мы переживем», например, с помощью другого, доброго и умного ИИ.
