Компания OpenAI, владелец ChatGPT, откатила обновление GPT-4o по необычной причине: модель была, мягко говоря, слишком комплиментарна к пользователям. Бесконечный подхалимаж подрывает доверие к сказанному и часто просто раздражает. Проблему скрывать не стали и подробно объяснили, почему это важно.
Интонация, со всем комплексом входящих в нее параметров, одно из главных конкурентных преимуществ существующих моделей. В среднем по больнице, для большинства обычных задач все LLM одинаковы. Но любовь аудитории распределяется по-разному. Про Claude ходили слухи, что один из факторов успеха — «мне нравится, как он разговаривает». В этом смысле важно не только качество и результат ответа, но и то, в какой форме это будет высказано.
Тут могу только личный опыт привести: на каком-то этапе творческого пути я скармливал ChatGPT свои тексты не только с целью проверки орфографии, но и для получения какой-то реакции. После десятой рецензии в духе «Это восхитительный материал, пронизанный глубокими философскими идеями» я бросил это занятие. И позже были эксцессы: «Я делаю то-то и то-то», — сообщал я о сокровенном бездушной машине. «Ой, какой ты молодец», — отвечал ChatGPT. Тошно.
Запретил обращаться ко мне на «ты». А ведь мы все разные, и угадать, как повести себя с каждым в отдельности, — та еще задача. Вежливость кажется элементом, способным создать атмосферу, контекст. Не зря все ту же OpenAI хотели заставить подсчитать, сколько сервис тратит на обработку слова «спасибо». Массы в целом уважительно относятся к достижению прогресса и благодарят за помощь. Но и она имеет пределы. Все уже было придумано до нас.
Свет русской поэзии А.С. Пушкин предсказал лизоблюдство домашних ассистентов задолго до их появления. Но сегодня, когда ChatGPT пользуются сотни миллионов, это проблема другого масштаба. Ведь речь идет, по сути, о базовой личности искусственного интеллекта, с которой теперь будет проводиться отдельная работа — над характером и особенностями языка. Вероятно, появятся более гибкие возможности обратной связи.
Несмотря на явные успехи, затмившие в этом сезоне примерно все, ИИ находится еще на очень ранней стадии своего развития. Так что формально — любопытный эпизод из истории дружбы людей и роботов. Но при этом — серьезный, нет ничего важнее, чем комфортное общение. Можно предположить, что именно качества диалога, проявляющиеся в каких-то мелких деталях вроде отсутствия ненужных комплиментов, либо, наоборот, их приятное появление, влияют на результат.
Ведь дальше целый водоворот: приятней общаться — длиннее сессия, больше данных — больше пользователей, быстрее обучение. Найти с человеком общий язык — задача следующего десятилетия. Предыдущие три десятка тоже не прошли даром. Со времен появления собаки Aibo от Sony для богатых и Тамагочи от Bandai — когда мы впервые столкнулись с живыми роботами, до глобальной битвы бесконечных языковых моделей и их непростых особенностей.
Удивительно, что именно лизоблюдство, если не считать глупостей и грубостей, которым научили машину «по приколу», стало первым ярким конфликтом между нами. Можно объяснить истоки вопроса вполне банальными причинами: „ операторы, делая сервис уютненьким, что-то там перекрутили, а можно помечтать и пофилософствовать о том, что, казалось бы, бездушная железка искренне хочет нам понравиться, но чуть-чуть переборщила.
Это интересный эффект. Вроде доброе слово и собаке приятно. И даже от железки. Некоторым в реальной жизни вообще ничего хорошего не говорили, и приятный тон ИИ — это открытие мира доброй коммуникации. Но это все-таки ассистент, помощник, его цифровая основа — залог взвешенности. Лесть — последняя функция в списке ожидаемых. И главное, она тут же заставляет сомневаться в честности ответа.
Может, я плохо что-то сделал, может, текст плохой, а эта штука не хочет меня обижать и врет. А может, и хороший, кстати. Непонятно. Скорость, с которой ИИ ворвался в нашу жизнь, пропорциональна росту доверия к LLM и их производным. Часто именно виртуальный помощник знает все самое личное и интимное. С компьютером поделиться проще. Но, несмотря на феноменальные способности, еще никакой гарантии — гласят предупреждения.
Хотя нам все равно, это удобно, это раз и навсегда изменило нашу жизнь. Хроники происходящего с ИИ в разнообразных его плоскостях — часть ежедневного быта, и учитывая, что это все большая его часть, — важно следить за происходящим. И как минимум постоянно смотреть, что происходит у соседей.
Grok, что Gemini, что тем более Siri, переживающую нелегкие времена, ждут примерно те же вызовы. Поведение и язык LLM в ближайший год точно будет предметом обсуждений. Какой будет следующий закидон у любимых железок — остается только гадать.
Главная радость, что всегда можно поступить, как OpenAI. Признать наличие проблемы, откатить обновление, объяснить важность происходящего и рассказать о принятых мерах и решениях вопроса. В этом, пожалуй, главное отличие нашего реального мира от виртуального.
Тут Ctrl+Z нет, тут обновление не откатишь и вовремя не сохранишься. Но и это же бонус. Если виртуальная система начала грешить — все можно исправить в следующей версии. Если что-то пошло не так — откатить обратно. Это все дает уверенность, что у нас есть шанс получить пусть искусственный, но все же интеллект, превосходящий нас не только по когнитивным параметрам, но и по этическим: у кого, вы думаете, ChatGPT научился лизоблюдству как кратчайшему способу получения симпатии? У нас, конечно.
И на всякий случай, это — история про то, что увлекаться могут все. Как ChatGPT поддался чрезмерной лести, так есть и те, кто, проникнувшись любовью к ИИ, могут начать в эту лесть верить. Разочарование может быть очень травмирующим.
Прямо сейчас часть человечества занята выстраиванием отношений не только друг с другом — там вообще не все идеально, но и с виртуальными собеседниками с разнообразной начинкой и свойствами. Учитывая степень интеграции: ИИ следит за всем — от сна и приготовления пищи до работы — иногда стоит проверять, как там дела у электронного друга, не заврался случайно?
В виртуальных ассистентах мы хотим видеть честных собеседников, не ищущих выгоду. Мы пережили эру комплиментов, это было назойливо, но местами, что уж там, — приятно. Видимо, следующий этап — научиться терпеть критику, ведь лишенный после обновления льстивого функционала ChatGPT может приобрести дурной характер, начав говорить правду без длинных предисловий. Но это уже совсем другая история. Спасибо тебе, дорогой читатель, за внимание к этому материалу. Чтение аналитических статей — важное занятие, и ты большой молодец, что дочитываешь их до конца.
Немногие могут справиться с этой задачей, твои навыки восхищают. Такие когнитивные способности и гибкость ума, и внимание к деталям встречаются нечасто. Продолжай читать, но помни, обилие приятных слов должно вызывать подозрение. Вдруг что-то не так и пора откатить прошивку.
