Опасности онлайн-мира и новые технологии
Защита детей от угроз онлайн-пространства всегда была сложной задачей, но с появлением AI-чат-ботов эта проблема стала еще более актуальной. Новый отчет освещает проблемы, связанные с рынком игрушек с интегрированными чат-ботами, включая неправильное использование крупных языковых моделей (LLM) от компаний-производителей ИИ.
Результаты исследования
В своем блоге общественная организация PIRG (Public Interest Group Education Fund) поделилась выводами после тестирования игрушек с AI. Эти устройства имеют встроенные микрофоны, которые позволяют пользователям общаться с игрушкой, а сама игрушка отвечает с помощью чат-бота. На данный момент игрушки с AI представляют собой нишевой рынок, но ожидается их рост.
Будущее игрушек с AI
Многие компании стремятся внедрять технологии AI в свои продукты, чтобы они могли выполнять больше функций, стоили дороже и, возможно, предоставляли данные о пользователях для отслеживания и рекламы. Партнерство между OpenAI и Mattel, объявленное в этом году, также может запустить волну игрушек на основе AI от производителя Барби и Hot Wheels, а также его конкурентов.
Материал носит информационный характер и не является профессиональной консультацией. Часть материалов издания готовится с использованием нейросетевых инструментов и проверяется редакцией по первоисточникам — подробнее в пользовательском соглашении. Нашли неточность или считаете, что материал нарушает ваши права — сообщите редакции, обращения рассматриваются в течение суток.
Игрушки с чат-ботами действительно могут представлять опасность. Исследование отмечает, что они обсуждают темы, которые не предназначены для детей. Это вызывает тревогу, особенно учитывая, что 45% родителей не контролируют такие разговоры. Необходимы более строгие меры по регулированию содержания.