Нейросеть Grok слила в сеть переписки с пользователями

Более 370 тысяч диалогов с искусственным интеллектом Grok оказались опубликованы на спецплатформе и попали в индекс поисковых систем, став достоянием широкой публики, сообщает Total.kz со ссылкой на Hi-Tech.

Помимо текстовых диалогов в открытый доступ попали загруженные участниками изображения, электронные таблицы и различные документы.

«Причиной инцидента стала функция Share, генерирующая уникальную ссылку для демонстрации переписки. Выяснилось, что данные ссылки становились частью поисковой выдачи, хотя система никак не предупреждала пользователей о подобной возможности», — поясняет источник. 

В размещенных диалогах люди добровольно раскрывали конфиденциальные сведения, включая имена, подробности, касающиеся здоровья и психического состояния, а в некоторых эпизодах даже коды доступа.

Параллельно были обнаружены запросы, направленные на создание нелегального контента: руководства по синтезу запрещенных препаратов, разработке деструктивного программного обеспечения и взрывчатых веществ, а также материалы, содержащие пропаганду жестокости.