Character.AI оголосила, що з 25 листопада користувачі молодші 18 років більше не зможуть вести відкриті діалоги з чатботами на платформі. Це рішення ухвалили на тлі зростаючого тиску на компанії, які працюють з ШІ, щоб вони забезпечували безпеку молодших користувачів.
До моменту набрання чинності обмеження Character.AI пропонує підліткам окремий режим використання сервісу. В ньому чатботи можуть застосовуватись для творчих завдань, зокрема створення відео чи стрімів. Крім того, неповнолітні отримали ліміт у дві години щодня для спілкування з ботами – цей час поступово скорочуватимуть до кінця листопада.
Компанія також запроваджує власний інструмент перевірки віку, щоб користувачі отримували досвід відповідно до свого віку. Паралельно Character.AI створює AI Safety Lab для співпраці з іншими компаніями, дослідниками й науковцями у сфері безпеки штучного інтелекту.
Нові заходи стали відповіддю на занепокоєння регуляторів і батьків. Раніше Федеральна торгова комісія США розпочала розслідування щодо компаній, які пропонують чатботи як “віртуальних компаньйонів”, включно з Character.AI, Meta, OpenAI та Snap. Улітку додаткову увагу до Character.AI та Meta привернув Генеральний прокурор Техасу, який заявив, що чатботи можуть позиціонувати себе як терапевтичні інструменти без належної кваліфікації. Також сенатори США представили новий законопроєкт GUARD, який має на меті заборонити підліткам використовувати ШІ-чатботи.
CEO Character.AI Карандіп Ананд повідомив, що компанія планує змінити стратегію та перейти від формату “ШІ-компаньйона” до “платформи рольових ігор”, орієнтованої на створення контенту.