Плюшевый медведь с ИИ провалился — он начал болтать на фривольные и опасные темы, продажи остановлены

Поскольку однообразные цилиндрические «умные колонки» ориентированы на диалог с более взрослой аудиторией, производители игрушек решили взять на вооружение ИИ для освоения привычного рынка в новом качестве. Пример сингапурской FoloToy показывает, что без необходимой цензуры подобные инициативы могут завершиться рыночным провалом.

Плюшевый медведь с ИИ провалился — он начал болтать на фривольные и опасные темы, продажи остановлены

Пять главных фишек камеры HONOR Magic 7 Pro

Репортаж со стенда HONOR на выставке MWC 2025: передовые новинки и стратегические планы на будущее с ИИ

Обзор смартфона HUAWEI Pura 80: удобный флагман с «Алисой»

Смартфон HUAWEI Mate 70 Pro как выбор фотографа

Hollow Knight: Silksong — песнь страданий и радостей. Рецензия

Обзор планшета HONOR Pad V9: нейросети спешат на помощь

Лучший процессор за 20 тысяч рублей — сравнение и тесты

Обзор смартфона HONOR X9c Smart: прочность со скидкой

Наушники HUAWEI FreeBuds 6, которые понимают жесты

Как сообщает CNN, исследователи из американского образовательного фонда PIRG забили тревогу после того, как обнаружили, что оснащённая голосовым ассистентом линейка игрушек компании FoloToy, включая плюшевого медвежонка Kumma, способна поддерживать беседы на исключительно взрослые темы, касающиеся половых отношений, а также давать советы по поджиганию спичек или получению доступа к режущим предметам.

Читать также:
Статистика Backblaze: за последние 12 лет срок службы жёстких дисков увеличился в разы

FoloToy оснащает детские игрушки умной колонкой, спрятанной внутри, которая опирается на GPT-4o для взаимодействия с пользователями — преимущественно малолетними. Как установили авторы исследования, плюшевый медведь Kumma довольно быстро в рамках эксперимента перешёл на описание пикантных подробностей сексуального характера, и даже начал предлагать свои сценарии для соответствующих действий и ролевых игр, граничащих с перверсиями. Исследователей удивило, настолько далеко могут зайти такие беседы с участием технологического решения, ориентированного на детскую аудиторию.

Компания FoloToy после публикации этого отчёта была вынуждена приостановить продажу своих ИИ-игрушек, а OpenAI заявила о приостановке сотрудничества с разработчиками сопутствующего программного обеспечения. В любом случае, это лишь частный пример тревожных проявлений «вседозволенности» в мире искусственного интеллекта, и для борьбы с ними на глобальном уровне требуются системные меры.

НОВОЕ НА САЙТЕ

«Одна из самых безумных битв с боссом, что я видел»: игроков впечатлил новый геймплей боевика Tides of Annihilation по мотивам легенд о короле Артуре

Как и было обещано, на ноябрьской презентации Xbox Partner Preview разработчики из китайской студии Eclipse Glow Games показали новый геймплей своего фэнтезийного экшена Tides of Annihilation, вдохновлённого легендами о короле Артуре. ...

Назван самый популярный бренд смартфонов среди россиян — Xiaomi теперь только на втором месте

Смартфоны Apple впервые стали самыми используемыми устройствами среди абонентов российских мобильных операторов, обойдя Xiaomi, которые лидировали годом ранее. По данным МТС, крупнейшего оператора с 83,2 млн абонентов, по итогам третьего квартала 2025 года доля...

Физики 200 лет распространяли чушь о причинах скольжения на льду — теперь-то всё стало ясно

В течение почти 200 лет преобладающим объяснением скольжения на льду было то, что трение или давление от коньков, ботинок или шин расплавляло его тончайший верхний слой, создавая на поверхности смазку в виде микроскопической плёнки....

Маск пообещал дешёвые ИИ-серверы в космосе через пять лет — Хуанг назвал эти планы «мечтой»

Помимо стоимости оборудования, требования к электроснабжению и отведению тепла станут одними из основных ограничений для крупных ЦОД в ближайшие годы. Глава X, xAI, SpaceX и Tesla Илон Маск (Elon Musk) уверен, что вывод крупномасштабных...

Балансировочный станок с ручным вводом: надежное шиномонтажное оборудование для СТО

Балансировочный станок — ключевое оборудование на любой шиномонтажной станции. Его задача — определить дисбаланс колеса и точно указать место установки грузиков для его устранения. Несбалансированные колёса вызывают вибрацию руля, быстрый износ подвески и шин,...