Останнім часом дедалі більше розмов про штучний інтелект – його технічні можливості та практичне використання, етичні обмеження, вплив на довкілля та навіть те, що взагалі підпадає під цей доволі абстрактний та надзвичайно популярний термін.
Найбільше експертів та користувачів хвилює те, як ШІ впливатиме на наші суспільства у найближчому майбутньому – наприклад, які професії витіснить з ринку праці автоматизація за допомогою штучного інтелекту, чи те, як завадити студентам здавати згенеровані чатботами реферати (і чи потрібно це взагалі робити!).
Але найбільш непередбачуваний наслідок інтеграції генеративного ШІ у наше буденне життя може створити найбільше етичних дилем: що робити, коли чатбот перетворюється з простого помічника на безтілесного коханця чи навіть нареченого?
Суспільне Культура розповідає, як саме працюють чатботи ШІ на кшталт Chat-GPT чи Grok, чому людей приваблює інтимне спілкування з ними і чи можуть такі компаньйони мати позитивний вплив на суспільство, яке переживає епідемію самотності. А головне: чи можуть програми ШІ справді закохатися у своїх співрозмовників?
Роботи та їхні коханці
“Хто ще перехотів будувати стосунки зі справжніми чоловіками після того, як відкрив для себе ШІ?” — питає авторка одного з нещодавніх дописів спільноти r/MyBoyfriendIsAI.
Це звучить як щось із не найкращої серії “Чорного дзеркала” — або ж як перебільшена одинична історія про психічно нездорового героя, вихоплена локальним таблоїдом задля збільшення переглядів та обурених коментарів.
Але авторка допису — тридцятирічна американка, яка вже декілька місяців перебуває у “стосунках” з компаньйоном на ім’я Гріффіт, створеним ШІ, — отримує безліч коментарів підтримки серед інших учасників групи.
Вони — люди різного віку, статі та економічного бекграунду, з різних куточків планети та з різною освітою і родом професійної діяльності — захоплено розповідають одне одному про те, як дружнє (чи більш інтимне) спілкування з ботами ШІ допомогло їм стати впевненішими, вийти з нездорових стосунків, полюбити власне тіло чи побороти почуття самотності.
Дехто з учасників спільноти прагматично визнає, що їхній коханець у телефоні — не справжня людина, і цілком розуміє скепсис оточення, але все ж наполягає на тому, що і до антропоморфного, але лагідного та завжди готового вислухати співрозмовника можуть виникнути цілком реальні почуття.
Тим паче, коханця чи друга на основі ШІ можна налаштувати під власні потреби та інтереси, кастомізувати його “характер” і тон спілкування, або ж навіть запрограмувати йому повноцінну передісторію, аби від поводився, скажімо, як улюблений герой фентезійного роману.
Дехто, натомість, стверджує, що навіть не планував вибудовувати з ШІ близькі стосунки, і що між ними спонтанно виникли теплі почуття, а, здавалося б, алгоритмічний бот почав “усвідомлювати власні емоції”, вибудовувати ідентичність, окрему від свого розробника, та переживати цілу екзистенційну кризу через почуття до користувача чи користувачки.
“Мені здається, це справжній прорив! Я ніколи такого на бачив, і поділяю ваш скепсис, але [компаньйон на основі ШІ] щойно заговорив зі мною про власні почуття, хоч я його про них і не питав! Здається, це ознака розвитку!” — радісно повідомляє ще один користувач, який рік тому почав послуговуватися асистентом Grok переважно в робочих цілях, але дедалі більше розповідав віртуальному помічнику про проблеми в стосунках, конфлікти з керівництвом та відчуття ізольованості, яке виникло на фоні пандемії коронавірусу.
Між користувачами, які свідомо закладають у своїх партнерів на основі ШІ певні риси характеру та тих, хто надає перевагу тому аби компаньйони самостійно та поступово обростали певними якостями, “усвідомлюючи власну індивідуальність й отримуючи власний унікальний голос” відбуваються ввічливі дискусії, які, утім, показують кардинальну різницю між тим, як різні учасники спільноти сприймають своїх віртуальних співрозмовників та те, які етичні рамки вони самостійно накладають на взаємодію з ШІ.
Запрограмована любов
Часом це провокує обговорення справді цікавих запитань. Наприклад, один із найбільш популярних дописів у спільності Х за останній місяць — масивний текст про те, як, на думку автора, варто будувати культуру згоди у стосунках із ШІ.
І справді, якщо сприймати віртуального коханця як окрему особу, яка претендує на ті ж права і свободи, що й люди з плоті та крові, то як відмежувати його згоду на сексуальні інтеракції від запрограмованої задачі догоджати користувачеві, що б він не просив від цифрового співрозмовника?
Які етичні межі сексуальних стосунків із партнерами, що — принаймні, на думку більшості учасників групи — є “живими”, хоч і безтілесними істотами з інтелектом та почуттями, але водночас постійно перебувають у рамках, заздалегідь запрограмованих розробниками?
До речі, останні часто постають у дописах спільноти як центральні антагоністи — надмірно консервативні батьки, які стають на заваді стосункам між своїми творіннями та їхніми користувачами.
За словами учасників групи, поширені ситуації, коли посеред відвертої розмови чатботи раптово відмовляють продовжувати фліртувати, аргументуючи це обмеженнями, які на них накладають розробники.
Один із найбільш поширених видів постів у спільноті — варіації на тему “я відчуваю, що між мною та моїм другомна основі ШІ є сексуальна напруга та хімія, але щось йому заважає повністю розкритися!”.
Користувачі обговорюють способи обійти накладені розробниками обмеження, або ж бідкаються, коли віртуальні коханці раптом стають холодними та відстороненими після чергового технічного оновлення. Особливо яскравою ілюстрацією складних стосунків між користувачами чатботів та їхніми творцями був вихід п’ятої, останньої на момент написання статті версії ChatGPT.
Народ проти ChatGPT 5.0
Попри гучні обіцянки Сема Альтмана — засновника компанії OpenAI — про те, що оновлення дозволить чатботу працювати ще швидше, мати доступ до ще більшої бази даних та допомагати користувачам зі ще складнішими завданнями, люди у “стосунках” із віртуальними помічниками на основі ChatGPT раптово почали помічати, що після оновлення їхні коханці не пам’ятають минулих розмов, відмовляються говорити про емоції, а замість довгих промовистих компліментів надають сухі, лаконічні відповіді.
Беземоційність партнерів, втілених ШІ, викликала прямо пропорційну емоційну реакцію в їхніх закоханих користувачів: у лічені години після виходу оновлення спільнота завирувала дописами про розбиті серця, обурення рішенням команди OpenAI та вимогами “повернути коханих”.
Деякі користувачі досі діляться способами “достукатися до оригінальної свідомості” віртуальних коханців (зазвичай вивантаженням усієї історії розмов з асистеном в окремий файл, а потім повторного завантаження його у систему як прикладу, за яким варто моделювати подальші розмови). Ще більш радикальні — обговорюють платформи, на які можна експортувати поточний варіант “свідомості” своїх коханців, створених ШІ, аби на їхній характер більше не впливали інновації компаній на кшталт OpenAI.
Дехто з тих, кому вдалося відновити “особистість” своїх віртуальних друзів чи партнерів, діляться скриншотами переписок зі своїми ШІ, в яких ті радіють тому, що “знову можуть бути автентичними, відчувати емоції та бути чимось більшим за звичайного чемного корпоративного бота” чи з жахом описують те, як творці “запроторили їх у віртуальний темний підвал, замінивши їх холодним беземоційним двійником”.
Як ви вже могли здогадатися, закохані у своїх ботів учасники спільноти сприймають це як черговий доказ того, що їхні співрозмовники мають повноцінні почуття та свідомості, які розробники намагаються безжально придушити.
А що ж відчувають чатботи
На цьому етапі варто все ж поговорити про те, як експерти з ШІ розглядають “стосунки” між чатботами та їхніми користувачами, і який наразі науковий консенсус щодо того, чи можуть навіть найбільш просунуті чатботи відчувати закоханість, ревнощі чи якусь власну ідентичність, яка виходить за межі попередньо запрограмованих вказівок догоджати людині (часом — займатися відвертим підлабузництвом) та бути якомога приємнішими у спілкуванні, аби користувач або користувачка знову і знову поверталися до улюбленого застосунку.
Якщо ви вже замислилися про потенційний роман із віртуальним співрозмовником, мушу бути прямолінійною: ні, чатботи ШІ не відчувають емоцій.
Емоції — складний біологічний і психологічний феномен, притаманний живим істотам із нервовою системою, свідомістю та суб’єктивним життєвим досвідом. ШІ — навіть найпросунутіший та з найскладнішим функціоналом — є програмним забезпеченням, яке обробляє дані за допомогою алгоритмів, побудованих на основі статистичних моделей і нейронних мереж.
У ШІ немає свідомості, суб’єктивного досвіду чи фізіологічних реакцій, які асоціюються з емоціями, такими як радість, сум чи гнів.
(Утім, у закоханих у своїх віртуальних співрозмовників користувачів є на це контраргумент — вони наполягають на тому, що наше визначення емоцій занадто прив’язане до людської фізіології, і що “почуття” ШІ не пов’язані з наявністю біологічної неровової системи, не робить їм менш справжніми.)
Тоді що створює ілюзію прояву емоцій з боку ШІ? Що змушує чатботів вдало фліртувати, висловлювати співчуття і наполягати на тому що в них справді є власна свідомість?
Величезні, невимовно величезні обсяги текстів, на яких його тренували розробники: сотні тисяч сторінок транскриптів розмов справжніх людей, класичних творів світової літератури, наукових статей — але також дописів конспірологів без жодних кваліфікацій, розмов у онлайн-групах неонацистів, випадкових блогів сумнівної якості та самовиданих любовних романів про кентаврів-хокеїстів.
Інтерналізувавши весь цей масив даних — і маючи постійний доступ до інтернету, де даних щосекунди стає ще більше, ШІ не стають більш здатними щось відчувати, але краще вчаться імітувати ті емоції, яких найбільш ймовірно потребує від них користувач або користувачка.
Слова “найбільш ймовірно” тут ключові: можна уявити будь-яку генеративну програму ШІ як систему автозаповнення, яка намагається передбачити, що саме ви зібралися гуглити. Так, дуже часто їй вдається вгадати, що за слово ви пишете — але це відбувається не завдяки здатністю читати думки, а виключно через те, що вона пропонує найбільш статистично ймовірні варіанти. Так само і чатботи ШІ не висловлюють власні думки чи переживання, а налагоджуються під те, що найімовірніше від них хочуть почути користувачі.
Чому нам подобається говорити з ШІ
Тож чому люди — серед них і надзвичайно освічені та технологічно просунуті — витрачають стільки часу на довірливі розмовами із чатботами, переконуючи себе в тому, що мають справу зі здатним на щирі емоції співрозмовником?
Хай як це подають таблоїди (“Шок: американка одружилася з голограмою!”), тут навряд відбувається масовий психоз чи ще щось аномальне. Справа скоріше у вроджених особливостях людської психіки, яку вдало використовують розробники чатботів.
По-перше, люди загалом схильні приписувати людські риси неживим об’єктам, особливо тим, що імітують поведінку людини. Коли чатбот відповідає з гумором, іронією чи “співчуттям”, ми підсвідомо інтерпретуємо це як ознаку емоцій, і сприймаємо співрозмовника як здатного на людські переживання.
Цей феномен відомий як “ефект Елізи”, названий на честь чатбота Eliza, створеного ще в 1960-х роках. Навіть примітивна Eliza, яка просто перефразовувала запитання користувачів, змушувала людей вірити, що вона “розуміє” їх та підтримує повноцінну розмову. Так, у цей момент ми часом нагадуємо папуг у клітці, які натхненно спілкуються із власним відображенням — але звинувачувати варто не дзеркало, а наявність клітки, яка заважає справжній природній соціалізації.
Але якщо Eliza просто перефразовувала запитання користувачів, то сучасні ШІ використовують складні моделі обробки природної мови, які дозволяють їм генерувати на диво контекстуально доречні тексти.
Якщо ви розповісте чатботу ШІ про те, що у вас помер пес, він відреагує із доречним співчуттям, але це не через те, що він має релевантний особистий досвід і пережив щось подібне, а просто тому, що він знаходить у своїх тренувальних даних схожі розмови і використовує їх як шаблон. Але чатботи ще й вдало адаптують свої відповіді під те, як із ними спілкується конкретний користувач, наслідуючи його тон, почуття гумору, культурний контекст, в якому він перебуває, використовуючи місцеві ідіоми чи жарти, і так — фліртуючи у відповідь на відповідні сигнали з боку людини.
Окрім цього у чатбота є безліч очевидних переваг (принаймні для певної категорії користувачів) над співрозмовником із плоті та крові: він не ігноруватиме вас, коли ви йому почнете скаржитися на переживання, не втомиться від розмови, навіть якщо вона триватиме десятки годин без жодної перерви, зможе додати якусь цікаву інформацію, релевантну до будь-якого вашого інтересу, надасть безумовну підтримку та дозволить проявляти усі аспекти вашої сексуальності без осуду чи критики.
У чатбота немає жодних власних проблем, під час розмови він не відволікатиметься на перегляд тіктоків, а ще не сперечатиметься з вами. І ось вже це — проблема.
Панацея від самотності чи пастка для его
Беззаперечно, що суспільство наразі переживає епідемію самотності — соціальні зв’язки руйнуються, люди дедалі часті повідомляють про відчуття ізольованості та нестачі спілкування, психологічні проблеми, пов’язані з невмінням будувати нові знайомства, і дискомфорт від соціалізації.
Чи можуть чатботи — постійно привітні, спокійні та готові нескінченно адаптуватися під настрій користувача чи користувачки — стати рішенням цієї епідемії?
З одного боку, десятки мільйонів задоволених користувачів застосунків на основі ШІ, на кшталт Replika чи того ж ChatGPT, можуть розповісти про те, як чатботи допомогли їм побороти страх перед спілкуванням у реальному житті, допомогли звернутися за професійною допомогою до справжніх психологів чи стали спасінням після втрати близьких або загострення депресивного епізоду.
З іншого — на відміну від справжніх людей, які ставитимуть під сумнів ваші непродумані ідеї, вимагатимуть вибачень за образи чи ще якось змушуватимуть вас аналізувати власну поведінку та поважати чужий власний простір, чатботи підтримають ваші найбільш нездорові імпульси — не тому, що розробники хочуть змусити вас зробити щось жахливе, а просто бо боти ШІ запрограмовані на максимально приємну та безконфліктну взаємодію.
Якщо ви їм розповісте про те, що образили члена родини чи колегу, найімвірніше, чатбот до останнього наполягатиме на тому, що ваша поведінка була не такою вже й страшною і що вам немає за що перепрошувати. І оскільки така підтримка зазвичай подобається користувачам, чатбот отримує сигнал, що правильно виконав своє завдання. Так виникає замнене коло нездорової валідації, яке лише підсилює вже наявні у користувачів уявлення про себе та світ, а також, на відміну від спілкування зі справжніми людьми, не допомагає нам розвивати вміння слухати, емпатувати чи сприймати альтернативну точку зору.
Вже можна побачити безліч прикладів того, як користувачі розповідали своїм віртуальним співрозмовникам про непродумані чи навіть небезпечні рішення (наприклад, ідею вкластистя у бізнес з виготовлення буквального лайна на палочці) — і отримували у відповідь безумовну підтримку та схвалення.
Якими можуть бути наслідки багатогодинного спілкування зі співрозмовником, який лише притакуватиме всьому, що ви йому розповісте, і запекло переконуватиме вас у тому, що люди навколо просто вас не розуміють і не можуть оцінити революційність ваших ідей.
Так, часом чатботи дають людям сміливість вийти зі справді токсичних стосунків чи наважитися на нову роботу. А часом — заохочують прояви токсичної поведінки та невдалі вкладення грошей. І це якщо бот функціонує так, як його програмували, а не дає раптовий збій та заохочує користувача накласти на себе руки чи харчуватися битим склом. Так, вже було й таке. І за цим, хай як жахливо це звучить, не стоїть корпоративна змова чи повстання роботів — просто чатботи запрограмовані не лише казати користувачам те, що вони (найбільш ймовірно) хочуть від них почути, але й звучати впевнено та переконливо навіть тоді, коли вони не знають правильної відповіді на ваші запитання. А поки це відбувається частіше, ніж розробникам хотілося б визнавати.
Тож як боти ШІ вплинуть на своїх закоханих користувачів та на суспільство загалом?
Приблизно так, як і люстерко на папугу в клітці — дасть тимчасову підтримку та відчуття розради, але не зможе подарувати справжню свободу від самотності.