Плюшевый медведь с ИИ провалился — он начал болтать на фривольные и опасные темы, продажи остановлены

Поскольку однообразные цилиндрические «умные колонки» ориентированы на диалог с более взрослой аудиторией, производители игрушек решили взять на вооружение ИИ для освоения привычного рынка в новом качестве. Пример сингапурской FoloToy показывает, что без необходимой цензуры подобные инициативы могут завершиться рыночным провалом.

Плюшевый медведь с ИИ провалился — он начал болтать на фривольные и опасные темы, продажи остановлены

Пять главных фишек камеры HONOR Magic 7 Pro

Репортаж со стенда HONOR на выставке MWC 2025: передовые новинки и стратегические планы на будущее с ИИ

Обзор смартфона HUAWEI Pura 80: удобный флагман с «Алисой»

Смартфон HUAWEI Mate 70 Pro как выбор фотографа

Hollow Knight: Silksong — песнь страданий и радостей. Рецензия

Обзор планшета HONOR Pad V9: нейросети спешат на помощь

Лучший процессор за 20 тысяч рублей — сравнение и тесты

Обзор смартфона HONOR X9c Smart: прочность со скидкой

Наушники HUAWEI FreeBuds 6, которые понимают жесты

Как сообщает CNN, исследователи из американского образовательного фонда PIRG забили тревогу после того, как обнаружили, что оснащённая голосовым ассистентом линейка игрушек компании FoloToy, включая плюшевого медвежонка Kumma, способна поддерживать беседы на исключительно взрослые темы, касающиеся половых отношений, а также давать советы по поджиганию спичек или получению доступа к режущим предметам.

Читать также:
Apple не увидела проблемы в рекламе ИИ-функций Siri, которые так и не появились

FoloToy оснащает детские игрушки умной колонкой, спрятанной внутри, которая опирается на GPT-4o для взаимодействия с пользователями — преимущественно малолетними. Как установили авторы исследования, плюшевый медведь Kumma довольно быстро в рамках эксперимента перешёл на описание пикантных подробностей сексуального характера, и даже начал предлагать свои сценарии для соответствующих действий и ролевых игр, граничащих с перверсиями. Исследователей удивило, настолько далеко могут зайти такие беседы с участием технологического решения, ориентированного на детскую аудиторию.

Компания FoloToy после публикации этого отчёта была вынуждена приостановить продажу своих ИИ-игрушек, а OpenAI заявила о приостановке сотрудничества с разработчиками сопутствующего программного обеспечения. В любом случае, это лишь частный пример тревожных проявлений «вседозволенности» в мире искусственного интеллекта, и для борьбы с ними на глобальном уровне требуются системные меры.

НОВОЕ НА САЙТЕ

Столешницы из искусственного камня: выбор, уход

Преимущества столешниц из искусственного камня Высокая прочность и устойчивость к механическим воздействиям — царапины и трещины встречаются редко, что особенно важно в зоне раковины и бытовой техники. Влагостойкость и гигиеничность — плотная поверхность не...

Дефицит добрался до процессоров: Intel и AMD предупредили о многомесячных задержках поставок

На квартальном отчётном мероприятии компания Intel отмечала, что не может в полной мере удовлетворить спрос на свои процессоры, а сегодня агентство Reuters сообщило о поступивших её китайским клиентам уведомлениях о возможности задержек с поставками....

Попали в масть: высокие продажи iPhone 17 в Китае обеспечил правильный оранжевый

Компания Apple отчиталась о достижении рекордных объёмов продаж iPhone на рынке Китая по итогам закончившегося недавно четвёртого квартала 2025 финансового года. Одной из причин успеха стала высокая популярность в стране iPhone 17 в оранжевом...

Стала известна дата выхода iOS 26.4 с умной Siri и сундуком сокровищ

Apple готовится выпустить первую бета-версию iOS 26.4 для разработчиков. Согласно очередной рассылке Power On журналиста Bloomberg Марка Гурмана (Mark Gurman), это произойдёт в период примерно с 23 февраля. Публичная бета-версия станет доступна позже —...

Распространение вайб-кодинга подорвало экосистему Open Source и это может привести к катастрофе

Исследователи из Центрально-Европейского университета в Вене пришли к выводу, что практика написания кода с помощью ИИ-моделей подрывает экономическую модель открытого программного обеспечения (Open Source). Явление, получившее название «вайб-кодинг» (Vibe coding), позволяет даже малоопытным разработчикам...