Плюшевый медведь с ИИ провалился — он начал болтать на фривольные и опасные темы, продажи остановлены

Поскольку однообразные цилиндрические «умные колонки» ориентированы на диалог с более взрослой аудиторией, производители игрушек решили взять на вооружение ИИ для освоения привычного рынка в новом качестве. Пример сингапурской FoloToy показывает, что без необходимой цензуры подобные инициативы могут завершиться рыночным провалом.

Плюшевый медведь с ИИ провалился — он начал болтать на фривольные и опасные темы, продажи остановлены

Пять главных фишек камеры HONOR Magic 7 Pro

Репортаж со стенда HONOR на выставке MWC 2025: передовые новинки и стратегические планы на будущее с ИИ

Обзор смартфона HUAWEI Pura 80: удобный флагман с «Алисой»

Смартфон HUAWEI Mate 70 Pro как выбор фотографа

Hollow Knight: Silksong — песнь страданий и радостей. Рецензия

Обзор планшета HONOR Pad V9: нейросети спешат на помощь

Лучший процессор за 20 тысяч рублей — сравнение и тесты

Обзор смартфона HONOR X9c Smart: прочность со скидкой

Наушники HUAWEI FreeBuds 6, которые понимают жесты

Как сообщает CNN, исследователи из американского образовательного фонда PIRG забили тревогу после того, как обнаружили, что оснащённая голосовым ассистентом линейка игрушек компании FoloToy, включая плюшевого медвежонка Kumma, способна поддерживать беседы на исключительно взрослые темы, касающиеся половых отношений, а также давать советы по поджиганию спичек или получению доступа к режущим предметам.

Читать также:
Криптовалюты упали после сообщения о расследовании возможных нарушений при использовании Tether

FoloToy оснащает детские игрушки умной колонкой, спрятанной внутри, которая опирается на GPT-4o для взаимодействия с пользователями — преимущественно малолетними. Как установили авторы исследования, плюшевый медведь Kumma довольно быстро в рамках эксперимента перешёл на описание пикантных подробностей сексуального характера, и даже начал предлагать свои сценарии для соответствующих действий и ролевых игр, граничащих с перверсиями. Исследователей удивило, настолько далеко могут зайти такие беседы с участием технологического решения, ориентированного на детскую аудиторию.

Компания FoloToy после публикации этого отчёта была вынуждена приостановить продажу своих ИИ-игрушек, а OpenAI заявила о приостановке сотрудничества с разработчиками сопутствующего программного обеспечения. В любом случае, это лишь частный пример тревожных проявлений «вседозволенности» в мире искусственного интеллекта, и для борьбы с ними на глобальном уровне требуются системные меры.

НОВОЕ НА САЙТЕ

Пластиковые окна: современный стандарт комфорта

Пластиковые окна давно стали неотъемлемой частью современных домов и квартир. Они заменили устаревшие деревянные рамы, предложив владельцам повышенный комфорт, теплоизоляцию и долговечность. Сегодня окна ПВХ — это технологичные конструкции, способные существенно улучшить микроклимат в...

Преимущества потребительского кредита перед микрозаймом

Потребительский кредит выдаётся банком на срок от нескольких месяцев до пяти лет под относительно низкий процент, тогда как микрозайм оформляется МФО на короткий период — обычно до 30 дней — под значительно более высокую...

Панели для наружного фасада дома: виды, плюсы

Наружный фасад — это не только внешний вид дома, но и барьер, принимающий на себя удар ветра, дождя, снега и ультрафиолета. Фасадные панели стали одним из самых востребованных материалов для отделки: они сочетают практичность,...

Знакомства онлайн и вечеринки Speed Dating: особенности

Онлайн-знакомства стали неотъемлемой частью жизни, но многих уже утомили бесконечные переписки в приложениях. Ответом на этот запрос стали вечеринки в формате Speed Dating — быстрый и живой способ встретить подходящего человека. Разберём, как устроен...

Белая доставка из Китая: легальный ввоз

Белая доставка — это официальный способ ввоза товаров из Китая в Россию с соблюдением всех требований законодательства: уплатой таможенных платежей, оформлением документов и прохождением контроля. Такой подход выбирают предприниматели и компании, которые планируют долгосрочный...