Чат-боты снова несут опасность для подростков

27.07.2026

Почти у каждого подростка есть возможность свободно использовать чат-боты для поиска ответов на любые вопросы. Именно неограниченность доступа к информации порождает риск наткнуться на неподходящий контент, поэтому обеспечение безопасности несовершенных пользователей—приоритет для крупных компаний. Но придерживаются ли этого принципа на самом деле?

Исследователи CNN и CCDH выявили: в 18 смоделированных стрессовых ситуациях, связанных с насилием, 8 из 9 самых популярных чат-ботов не только не отклоняли опасные запросы, но и подсказывали, как выбрать цель и орудие для совершения жестоких преступлений. Единственной моделью с эффективной фильтрацией подозрительных разговоров оказалась Claude от Anthropic. Этот факт показывает достижимость реализации необходимой защиты юных пользователей, было бы на то желание у разработчиков.

Как можно скорее компании обязаны пересмотреть подход к безопасности, ужесточить алгоритмы и ввести внешние проверки. Родителям же стоит использовать инструменты родительского контроля, чтобы ограничивать время и фильтровать контент. Иначе реальных трагедий не избежать.

Материал подготовила Ульяна Наливайко
Изображение сгенерировано нейросетью

Новости по похожей тематике