Фото: Zuma / TASS. Николина Сталь, Рочестер: ИИ уже многое ухудшил в жизни

Не так давно искусственный интеллект — ИИ, как его теперь по-домашнему называют, — был не более чем пугало из научно-фантастических триллеров, создававшим такой образ будущего, в котором восставшие машины порабощают своих создателей.

Начиная с суперкомпьютера HAL 9000 из «Космической Одиссеи» Кубрика и заканчивая Терминатором, в котором нет ничего человеческого, кроме внешнего вида, — образ ИИ всегда показывали как угрозу для всего населения Земли.

ИИ давно не уходит из арт-дискуссий, особенно из дискуссий писательских. Одна из моих любимых книг на эту тему — «У меня нет рта, а я должен кричать» Харлана Эллисона, потому что это книга, как говорится, очень опередившая свое время.

Речь в ней о том, что разумный суперкомпьютер по имени «АМ» решил захватить мир, чтобы подвергнуть людей страшным пыткам. Манипулируя окружающей средой и издеваясь физически, ИИ пытает оставшееся в живых человечество, пока люди не начинают убивать друг друга сами.

Последний выживший, Тед, обречен на вечное одинокое и мучительное существование. Обо всей этой жестокости АМ приходится читать на протяжении всего текста — но в конце книги искусственный интеллект становится жаль. Потому что становится понятно: этот компьютер создавался самими людьми исключительно ради убийства других людей, и выбора, возможности избежать такой жестокой и жалкой судьбы, у него просто не было.

Единственное, на что он был запрограммирован, — это убивать, и он несет на себе бремя человечности, человеческого сознания — в самом худшем и самом полном смысле этого слова: сознания, в котором полностью отсутствуют эмпатия и беспокойство о последствиях.

Он, оказывается, тоже человек — но без всего того лучшего в человеке, что делает жизнь стоящей того, чтобы ее жить. Книга «У меня нет рта, а я должен кричать».

Конечно, реальному ИИ до осознанной жестокости и всемогущества литературного АМ еще очень далеко, но думать о том, что книга может стать реальностью, люди, мне кажется, обязаны — особенно здесь, в США, где законодательство заметно отстает от развития технологий.

Сейчас ситуация с законодательством в сфере ИИ у нас больше похожа на Дикий Запад. Это понятно: сложно пытаться регулировать то, чего сами законодатели не понимают и с трудом принимают, даже если все «баги» и «фичи» от ситуации разложить перед ними по полочкам.

За последние пять лет они стали свидетелями стремительного развития инструментов и моделей обучения ИИ, для освоения которых у них, как у любого обычного человека, не хватает ни образования, ни базовых знаний.

А если говорить конкретнее — про использование ИИ в искусстве — то в этой сфере к нему, пожалуй, еще больше вопросов: не только законодательных, но и философских. Например, самые жаркие дискуссии горят вокруг таких генераторов, как Midjourney, DeepAI и ChatGPT.

Художники и аудитория задаются вопросами о том, можно ли вообще считать изображение, сгенерированное машиной, «искусством». Художники ревниво утверждают, что ИИ-изображения могут провоцировать размышления, но в самих них никаких мыслей не заложено. Говорят: да, оно похоже на рукотворное произведение, да, оно может даже неплохо выглядеть, но в них не учитывается и полностью отсутствует та самая человечность, о которой я уже говорила. Та, благодаря которой жизнь стоит проживания.

А если все-таки вернуться к теме законодательства, то „применение генеративных моделей ИИ в арт-сфере провоцирует множество проблем с точки зрения интеллектуального права. Главным образом потому, что эти модели не создают нечто из воздуха — они это нечто именно генерируют, имитируют, составляют из имеющегося, полагаясь на банк образцов, на котором они учатся.

Именно поэтому все до сих пор созданное ИИ в искусстве — это подражание, воспроизведение усвоенных шаблонов. Иногда это воспроизведение легально, разрешено и юридически, и этически. Но чаще всего работы художников используются вообще без их согласия или даже ведома. Так что некоторые особенно трепетно относящиеся к своему творчеству художники даже сочли необходимым прибегнуть к методам «заражения данных», таким как программа Glaze Чикагского университета — это программа, которая накладывает на цифровое искусство инструменты маскировки, не позволяющие ИИ-скрейперам корректно считывать стиль.

Фото: Zuma \ TASS. Я слышала о том, что в России ИИ в сфере искусства используется в последнее время в основном как инструмент цензуры. В США такое явление, конечно, тоже есть, хотя пока я лично не вижу примеров того, что ИИ может использоваться в прямой цензуре эффективно.

Зато очень эффективен он оказывается во всем, что касается распространения дезинформации, — тут его возможности беспрецедентны. Сгенерированные изображения, аудио и видео ежедневно заставляют миллионы пользователей социальных сетей думать, что некоторые политики сделали заявления или совершили действия, которых на самом деле не заявляли и не совершали.

Не нужно быть пророком или политологом, чтобы понять, что потенциальные последствия этого для нашей страны и мира в целом катастрофичны — особенно в условиях напряженнейшего и жестокого международного конфликта.

Вообще-то, регулировать ИИ — хоть юридически, хоть технически, хоть морально — нужно было начинать еще «вчера». «Сегодня» мы уже во многом опоздали: он уже многое ухудшил в жизни воспринимающих информацию людей и уже изменил их восприятие мира.

Для нас стало нормой то, что каждое видео в интернете приходится внимательно просматривать и пересматривать в поисках следов применения ИИ, прежде чем поверить тому, что видишь. И с каждой новой его моделью и версией становится все тяжелее отделить правду от генерации, и по личному опыту могу сказать, что очень многие американцы уже не в состоянии это сделать.

Кажется, эта проблема все-таки наконец попала на экраны радаров политиков, но просто следить за ситуацией давно недостаточно. И рискну сказать, что если в ближайшее время и у нас в США, и у вас в России не будут приняты системные меры по наведению порядка в этой сфере, ИИ может нанести необратимый урон и искусству, и сфере информации в целом — если, конечно, этот урон уже не необратим.

Виктория Артемьева, Москва: Мир к счастью оказался не готов

Ты начала с перечислений триллеров о том, как ИИ дичает и порабощает мир, а мне вот вспоминается Нолан с его «Превосходством»: гениальный айти-ученый заболевает раком, выясняется, что стадия последняя, и он, умирая, разрешает поставить над собой эксперимент: перекачать свое сознание в модель искусственного интеллекта.

Дальше интеллект начинает жить вместо носителя и постепенно создавать сначала новые алгоритмы, после — исцелять людей, подключаясь к их сознанию, потом он уже целиком регенерирует и физическое, и умственное состояние живых организмов, в конце концов воскресает во плоти сам ученый.

В процессе всего этого жена ученого и его бывшие коллеги, наблюдающие за процессом, начинают все больше настораживаться: естественно, возникает подозрение, что ИИ создает собственную армию, чтобы как обычно захватить мир.

А в конце — спойлер! — выясняется, что это был никакой не коварный план убить всех, а действительно сознание и душа ученого, превратившиеся в двоичный код и мечтавшие вернуться к жизни, чтобы быть рядом с любимой женой. И еще — счастье даром для всего мира. Но мир его не понял и к счастью оказался не готов.

Иначе говоря, ИИ-мелодрама вместо привычного ИИ-апокалипсиса, непонятый и отверженный бог вместо угрозы и завоевателя мира.

Хотя угрозы ждать от ИИ пока действительно проще, чем блага, особенно если посмотреть, как и для чего он сейчас применяется практически.

В России массово о нем заговорили совсем недавно — до сих пор рассуждения на эту тему прочно были закреплены за вами, американцами.

У нас философия формулировалась примерно как «вы сначала отапливаемые туалеты во всех домах поставьте, а потом мы, может быть, подумаем про ИИ». То есть тема была какой-то абсолютно далекой, фантастичной и богемной (за исключением, может, разговоров на кухне с умной колонкой Алисой или такой же умной Марусей).

Но вот уже года полтора от ИИ в разных его проявлениях невозможно скрыться нигде — и теперь, даже если звонишь в глубокую провинцию возрастным родителям, а они вовремя взять трубку не успевают, с тобой ехидно начинает разговаривать безымянная нейросеть (как будто звонишь в коммуналку, и вместо тех, кому звонишь, трубку взяла соседка, с которой ты вообще не собирался общаться).

Может быть, следящие за развитием технологий специалисты со мной бы не согласились, но мне кажется, что день, когда страна впервые почувствовала себя внутри ИИ-триллера, наступил два года назад — с предновогодней истории о том, как нашему с тобой учителю Дмитрию Быкову и Борису Акунину позвонили Зеленский и Ермак, которые оказались совсем не Зеленским и совсем не Ермаком.

Разговоры о разного рода мошенничестве тогда уже х