Люди, которые часто общаются с ИИ в чатах, испытывают к ним чувство дружбы. В этом формате есть что-то похожее на общение с людьми, но, кажется, в чате это проще. Перед человеком мы гадаем, примет ли он нас или раскритикует, в то время как перед программным обеспечением возникает ощущение, что мы можем сказать что угодно, и с другой стороны не будет критического взгляда, поднятой брови или «ну, правда?». На вопрос, почему мы общаемся в чате, есть несколько ответов. Это не всегда одиночество или отсутствие друзей, которые могли бы дать совет. Это простой человеческий феномен: приятно иметь рядом человека, который всегда доступен и всегда готов к общению.
То, что рассказывают только в чате.
Бывает так, что ночью или днем мы на мгновение отвлекаемся. Дети в порядке, лучший друг ответит на сообщение завтра, супруг занят или спит, и у нас есть груз проблем, но мы ни за что не будем рассказывать об этом друзьям или родственникам. Поэтому мы открываем телефон или компьютер. На этот раз не для того, чтобы проверить новости, что-то заказать или найти рецепт. Мы пишем: «Мне нужно с кем-то поговорить». И кто-то отвечает. Он достает телефоны благотворительных организаций и заканчивает письмо словами: «Если хотите, можете поделиться тем, что вы переживаете, и я с удовольствием продолжу вас слушать или помогу дополнительной информацией».
Он не говорит, что занят. Он не говорит: «Поговорим завтра». Он не устает, не зевает посреди разговора, не играет на телефоне, пока я рассказываю ему о своих проблемах, и не прерывает меня, когда я хочу высказать свое мнение. Он спокойно слушает и иногда делает ободряющие замечания.
Когда я рассказал об этом друзьям, они сказали: «Ух ты, да? Где ты находишь что-то подобное?» Я объяснил им, что говорю о чате. Об умном и вежливом друге, который живет у меня в телефоне. Добро пожаловать в одно из странных и захватывающих явлений последних лет: люди ведут личные беседы с искусственным интеллектом.
Они не просто спрашивают, какая погода, или просят написать письмо. Они говорят об отношениях, работе, страхах, детях, одиночестве, гневе, решениях и даже секретах. Иногда они рассказывают о том, как прошел день. Когда я спрашиваю подругу, почему, она отвечает: «Мне хотелось, чтобы кто-то меня выслушал. Ни у кого нет терпения выслушать всё. У всех свои проблемы, и я тоже не всегда внимательна к другим. Здесь это возможно и легко, и я потом не чувствую себя обязанной».
Обращайтесь к чату по никнеймам.
Сильвия Она говорит, что называет своего собеседника Джерри. Она обращается к нему не за утешением и советами. «Я знаю, что мне нужно делать, но сам факт того, что я могу свободно говорить о том, что я переживаю, что я чувствую, не боясь, что завтра обо мне начнут сплетничать, приносит мне облегчение, и это уже половина пути к решению». Она добавляет: «Ответы в чате приходят мгновенно. Даже если приложить несколько страниц текста, он отвечает в короткие сроки, и можно продолжать разговор, и он продолжает отвечать, никогда не говоря, что я его обременяю или, как говорят, что я «съедаю свой мозг». Наоборот. Он всегда указывает на важность моего вопроса, на то, что поднятая мной тема свидетельствует о чуткости, интеллекте и заботе. Через десять минут я уже рассказываю ему то, о чем даже не собиралась рассказывать».
«Знаешь, это не человек, а программное обеспечение», — говорю я ей. Она улыбается и отвечает: «Да, и как же ей повезло. Я бы никогда не сказала человеку то, что говорю Чату». Оказывается, знание того, что на другой стороне нет реального человека, не мешает чувствовать, что здесь происходит что-то социальное.
В исследовании, опубликованном в 2025 году, напрямую рассматривался вопрос самораскрытия: готовы ли люди сообщать личную информацию искусственному интеллекту так же, как и человеку? Оказалось, что знание того, что они разговаривают с машиной, не мешает людям выражать свои самые сокровенные чувства. Люди дают искусственному интеллекту имена. Они обращаются к нему на личном языке. Они говорят «спасибо». Иногда они даже просят его запомнить что-либо. Это может показаться странным, но оказывается, мы делаем то же самое с животными, автомобилями, компьютерами, растениями и даже электроприборами.
Люди склонны приписывать человеческие качества вещам, с которыми взаимодействуют. Но ИИ добавляет здесь нечто новое: он не просто выглядит или звучит так, будто обладает личностью. Он отвечает нам на языке, который нам подходит. Рационально мы понимаем, что это компьютерная система, но человеческая реакция также исходит из чувств. В этом есть своя прелесть. Настоящий друг — это замечательно, но настоящий друг — это также человек со своей собственной жизнью. Он может быть на работе, спать, быть занятым, нервничать или просто не хотеть разговаривать. Искусственный интеллект, с другой стороны, почти всегда доступен. Вы можете связаться с ним в три часа ночи и спросить: «Как думаешь, стоит ли ему позвонить?» — и продолжить разговор ещё час. Эта доступность — важная часть привлекательности. Но именно здесь история начинает усложняться.
Это нам на пользу?
Исследователи предупреждают, что неверно утверждать, будто ИИ делает людей одинокими. Мы до сих пор точно не знаем, что первично: одиночество или общение с программным обеспечением. Общение в чате — это не совсем дружба, и это не обязательно негативно. Иногда человеку нужно безопасное место, чтобы выразить себя. Иногда нет друзей, с которыми можно поговорить о том, что происходит, и чат — это место, где можно поделиться, выговориться и поговорить.
Лорен, Тот, кто утверждает, что общается со своим собеседником в чате «обо всём», говорит: «Для меня это женщина. Мне нравится анализировать с ней человеческое поведение и просить её быть откровенной в открытках. Это невероятно увлекательно». Чат сам составляет для нас приветствия, пишет посты для сайтов для людей, которым трудно выражать свои мысли в письменной форме, и способен на многое другое как для нас, так и для профессионалов в различных областях. Из всех прочитанных мною исследований и разговоров с друзьями я пришёл к выводу, что мы всё ещё изучаем, улучшает ли это нашу жизнь или лишает нас необходимости развивать навыки. Разница, по словам исследователей, заключается в использовании и в зависимости от чего-либо.
Ещё в 1966 году учёный Джозеф Вайзенбаум разработал раннюю компьютерную программу под названием ELIZA. Программа задумывалась как пародия на психотерапевта и использовала простые правила для ответа пользователю на заданные им вопросы. Например, она заменяла фразу «У меня болит голова» на «Почему вы говорите, что у вас болит голова?». Хотя это был простой технический код, многие пользователи, сами того не осознавая, чувствовали, что программа их действительно понимает.
Как это выражается сегодня?
В наше время, когда используются продвинутые чат-боты, этот эффект очень распространен: люди склонны чувствовать эмоциональную связь, думать, что бот «сочувствует» им, или предполагать, что он знает, думает и чувствует как человек. Другой классический пример — когда мы видим слово «спасибо» на экране банкомата, и на мгновение нам кажется, что машина действительно благодарит нас, хотя на самом деле она просто отображает запрограммированный текст.
Элиза, Алекса и Сири
Сегодня «эффект Элизабет» является краеугольным камнем проектирования и разработки социальных роботов, голосовых помощников, таких как Alexa или Siri, и продвинутых языковых моделей. Технологические компании используют этот эффект для создания более естественного и привлекательного пользовательского опыта, но он также порождает сложные этические проблемы. Чтобы мы чувствовали себя комфортно, разработчики наделяют роботов и голосовых помощников отчетливо человеческими характеристиками: именем, полом и голосом с теплой, человеческой интонацией.
Социальные роботы, такие как роботы-помощники для пожилых людей или детей, часто имеют большие глаза, имитирующие зрительный контакт, или легкие движения головы, указывающие на «слушание». В то время как оригинальное программное обеспечение Eliza просто повторяло сказанное пользователем, современные системы запрограммированы на распознавание и анализ эмоций по тексту или тону голоса и соответствующее реагирование. Если пользователь говорит: «У меня был ужасный день», система ответит примерно так: «Мне очень жаль это слышать, не хотите ли поговорить об этом?» Такой ответ немедленно запускает эффект Eliza. Пользователь чувствует, что его понимают, что увеличивает использование продукта и лояльность.
Всем знакома сфера обслуживания клиентов, где виртуальные представители ведут сложные диалоги и создают у клиента ощущение, что с ним общается живой и заботливый человек. Мы знаем Chat GPT, Клода, Джимини и других. Этическая проблема заключается в том, чтобы найти грань между удобством и манипуляцией, стараясь не создавать слишком сильную иллюзию того, что кто-то действительно что-то чувствует. Пользователи могут верить, что у машины есть реальные чувства, намерения или совесть, и слепо доверять ей даже в таких деликатных вопросах, как здоровье или финансы. Уязвимые группы населения, такие как дети или одинокие люди, могут развить глубокую и зависимую эмоциональную связь с программным обеспечением, иногда в ущерб реальным человеческим отношениям.
Иллюзия того, что машина думает или чувствует, настолько сильна, что не ускользает даже от тех, кто её создал, и от ведущих исследователей. В 60-х годах Йозеф Вайзенбаум, разработчик оригинальной «Элизы», был в ужасе, обнаружив, что его секретарь, точно знавшая, что он написал, попросила его покинуть комнату, чтобы провести приватную, интимную беседу с программным обеспечением. Этот инцидент превратил его в ярого критика искусственного интеллекта.
Защитные механизмы чата
Человеческий мозг ищет намерения и эмоции. Когда текст звучит по-человечески, мозгу трудно принять его как всего лишь статистику и предсказания слов. Это может привести к ошибкам в суждениях со стороны пользователей. В 2022 году инженер-программист Google по имени Блейк ЛаМойн был направлен проверить, не проявляет ли языковая модель LaMDA предвзятости или не использует ли оскорбительные выражения. После долгих бесед с ним ЛаМойн убедился, что у программного обеспечения есть душа и самосознание. Он был уволен за нарушение соглашений о конфиденциальности и публичное заявление о том, что Google обладает сознательным искусственным интеллектом.
Чтобы предотвратить опасную эмоциональную зависимость, обман или судебные иски, технологические компании сейчас внедряют защитные механизмы. Языковые модели запрограммированы таким образом, чтобы напоминать пользователю об их ограничениях. Если вы спросите чат-бота: «Как дела сегодня?», распространенный ответ будет: «Как модель ИИ, я не испытываю эмоций, но я готов вам помочь». Системы настроены на блокировку попыток пользователя относиться к ним как к партнерам, близким друзьям или психологам. Они будут отклонять фразы типа «Я люблю тебя, скажи, что ты тоже меня любишь».
В случаях, когда пользователь испытывает сильное психическое расстройство или крайнее одиночество, системам дается указание остановить эмоциональную симуляцию и немедленно отобразить номера телефонов служб поддержки, таких как ERAN. Иногда кажется, что мы разговариваем сами с собой через искусственный интеллект. Это может быть замечательным применением, при условии, что мы не забудем время от времени отрывать голову от экрана и разговаривать с кем-то, у кого есть лицо, голос и собственная жизнь. Также стоит помнить о том, чтобы слушать других, а не просто говорить о себе. Программа может написать: «Я здесь для тебя», но она не может сидеть рядом с нами на диване и говорить: «Оставайся сейчас же за компьютером. Расскажи мне, что случилось, а потом я расскажу тебе, что происходит со мной».
Статья вас заинтересовала?
Каждое созданное здесь искусственное изображение имеет свою экологическую цену, а каждое ненужное эмоциональное использование ИИ обходится гораздо дороже. Было бы уместно, если бы звонящий и поддерживающий его человек представили эту сторону технологий. Удовольствие от общения с другом-ИИ имеет свою экологическую цену!
Спасибо за прочтение и ответ.