Character.AI запускает Stories для подростков после запрета чатов
Character.AI ограничивает подростков в чатах
Платформа Character.AI, столкнувшаяся с несколькими судебными исками из-за предполагаемого негативного влияния на психическое здоровье подростков, вводит запрет на открытые чаты для пользователей младше 18 лет. Вместо этого подросткам будет предложен новый формат «Stories», который, в отличие от обычных чатов, предлагает «структурированные» приключенческие истории с персонажами ИИ.
Новый формат Stories
Функция доступна всем пользователям, но Character.AI позиционирует её как способ «улучшить» опыт для молодежи. В октябре компания объявила о прекращении чатов для подростков с 25 ноября, пока разрабатывается функция проверки возраста, которая автоматически будет переводить несовершеннолетних пользователей в «более безопасные» чаты с ИИ.
Судебные иски и безопасность пользователей
Character.AI в настоящее время сталкивается с иском, в котором обвиняется в том, что платформа ИИ способствовала смерти подростка, а также другими делами, которые утверждают, что разговоры подростков с персонажами ИИ на платформе негативно сказались на их психическом здоровье.
Как работает Stories
Функция Stories позволяет пользователям выбирать из двух или трех персонажей ИИ, выбирать жанр и затем либо писать собственный сюжет, либо использовать ИИ для создания идеи. После этого Character.AI создает «направленный нарратив», в котором пользователи могут регулярно принимать решения.
Запуск Stories для подростков выглядит как логичный шаг после запрета чатов. Интересно, как именно будет реализован контроль за содержанием, чтобы избежать новых судебных исков. Каковы будут основные механизмы обеспечения безопасности пользователей в этой новой функции?
Запуск Stories для подростков — интересный шаг от Character.AI, особенно после запрета чатов из-за судебных исков. Это может стать отличной возможностью для создания безопасного пространства для общения и творчества. Какие именно темы будут доступны в Stories?