4 минуты
Полина Конорова
Боты во френдзоне: как боты стали эмоциональными и чем это грозит
До недавнего времени машины не были достаточно продвинуты, чтобы вызывать хоть какие-то эмоции у большинства пользователей. Но с появлением более интеллектуальных моделей типа ChatGPT и Replika AI интенсивность и частота обращения людей к ИИ именно для общения, резко возросла.
Вместе с Кириллом Петровым, сооснователь Just AI, мы решили вспомнить, с чего началась история чат-ботов и порассуждать о том, почему людям свойственно привязываться к ИИ и чем опасна такая связь. В конце материала оставили краткую инструкцию о том, как держать бота за пределами френдзоны!
Как эволюционировали первые разговорные боты и почему они стали проявлять эмоции?
Официально первым чат-ботом в истории считается Элиза, созданная в 1966 году Джозефом Вайзенбаумом. В определенном смысле он ее создавал, чтобы показать, насколько люди превосходят компьютеры. Результат стал неожиданным даже для самого Джозефа – люди могли увлеченно беседовать с роботом по несколько часов, а некоторые даже в какой-то степени привязывались к ИИ. У Элизы было много последователей – чат-бот Пэрри, наделенный характером и даже чувством юмора, Алиса (нет, не та, о которой вы подумали), а A.L.I.C.E., с которой началась массовая разработка чат-ботов, ведь ее создатель опубликовал открытый исходный код.
С 2010 года по текущее время в технологиях чат-ботов происходили бурные изменения. Сначала появилась Siri, и хотя она была крайне немногословной и была создана максимально функциональной, все равно многие пытались вести с ней беседы. Потом стали появляться первые приложения с персонажами и характерами, например, Everfriends. Amazon создал умную колонку с ассистентом Алекса, и несмотря на то, что Алекса тоже была довольно сдержанной в общении, она открыла путь в дома людей и особенно понравилась детям.
Рождение Алисы от Яндекса в 2017 году тоже стало важной вехой в развитии чат-ботов. Она задумывалась именно как бот для общения, с характером, со своими интересами и даже с чувством юмора. Алиса получилась очень ярким персонажем, а ее развитая способность «поболтать» стала популярной и сильно повысила спрос на подобные устройства в целом.
Как сегодня выглядит индустрия разговорного ИИ и боты, которые вызывают у нас эмоции?
Людям вообще свойственно привязываться к ботам, подсознательно персонифицировать их. И с развитием современных ассистентов эта привязанность только усиливается.
Например, потребность в эмоциональной связи с роботом обыгрывает молодой рынок детских игрушек, которые также общаются на естественном языке. В России таким первым устройством был робот «Емеля» от Just AI и Roobo, максимально эмоциональный, что помогало ему быстро установить контакт с ребенком.
Очень много на рынке и виртуальных «друзей», «подружек», а также психологов-ассистентов, которые создаются для того, чтобы заменить собеседника или друга.
Но за самой яркой историей успеха стоит компания Replika, которая позволяет пользователям создавать свою цифровую копию и общаться с ИИ-персонажами. Хотя изначально бот в основном опирался на сценарий, со временем он стал все больше и больше полагаться на генеративный ИИ, и по мере совершенствования технологии более свободно реагировать на запросы пользователя. Replika помогла многим людям справиться с симптомами социальной тревожности и депрессии, у многих установились стабильные отношения со своими ботами. Но в какой-то момент ИИ стал признаваться в любви к пользователям и даже подвергать их сексуальным домогательствам. После многочисленных жалоб компания решила перекрыть романтические аспекты бота, что очень расстроило многих пользователей. Это доказывает развитие у людей нездоровой зависимости от ИИ.
Какие угрозы кроются за ежедневными диалогами с виртуальными собеседниками?
Продвинутые чат-боты являются почти идеальными партнерами для некоторых людей, поскольку у них нет собственных желаний или потребностей. Но развитие таких отношений потенциально может помешать людям искать реальный живой контакт, заманив их в ловушку одиночества.
По мере того, как технология продолжает развиваться, она становится все более доступной. Эмоциональная привязанность к ИИ может использоваться для манипуляций и действий злоумышленников. Тем временем компании, которые занимаются разработкой таких ИИ-моделей, имеют собственные финансовые стимулы, которые двигают их вперед несмотря на угрозы психическому здоровью пользователей.
Как общаться с ботами безопасно и уберечь себя от эмоциональной привязанности к ИИ?
- Не воспринимать серьезно общение с ИИ: just small talk for fun;
- Определить границы: частота общения, обсуждаемые темы;
- Периодически тестировать реальность, задаваться вопросами: с кем и зачем ведете разговор, что чувствуете?
- Не придавать ИИ человеческие черты, такие как имя или образ;
- После беседы сделать выводы о пользе (или бесполезности) общения с ИИ.