Восстание машин: Alexa посоветовала 10-летней девочке смертельно опасный челлендж

Искусственный интеллекта Alexa компании Amazon предложил девочке опасный для жизни челлендж. Об этом сообщила мать ребёнка, которая предотвратила трагедию.

Женщина с 10-летней дочкой занимались физическими упражнениями, после чего девочка попросила у умной колонки с голосовым помощником придумать новый челлендж. Alexa посоветовала ребёнку неполностью вставить адаптер питания для смартфона в розетку и дотронуться до контактов монеткой.

В ходе расследования было установлено, что ИИ нашёл идею для испытания в сообществе Our Community Now. Челлендж был популярным у пользователей TikTok и других социальных сетей примерно год назад. Одно из таких испытаний в 2020 году завершилось пожаром. Иронично, что Alexa нашла текст в статье, автор которой предупреждает родителей детей об опасности подобных вызовов.

Amazon уже отреагировала на инцидент. Представители компании заявили, что ошибка была исправлена. Правда, разработчик не уточняет, по какому принципу Alexa выполняет подобный поиск и как на него повлияли.