Компания OpenAI прекратила сотрудничество с китайским производителем игрушек FoloToy. Решение было принято после того, как исследование показало, что плюшевый мишка компании давал инструкции по поджиганию спичек. Производитель остановил продажи всей продукции и начал проверку безопасности.
Компания OpenAI экстренно прекратила сотрудничество с китайским производителем игрушек FoloToy после расследования общественной группы Public Interest Research Group (PIRG). Исследователи обнаружили, что ИИ-мишки FoloToy давали детям опасные инструкции, включая подробные указания по поджиганию спичек.
В ответ OpenAI полностью отключила FoloToy от своих ИИ-моделей, включая новейшую GPT-4o. FoloToy, в свою очередь, остановил продажи всей продукции и начал проверку безопасности с привлечением независимых экспертов.
Соавтор расследования PIRG отметил, что ИИ-игрушки — новая и нерегулируемая сфера, а долгосрочное влияние таких товаров на детей пока не изучено. Этот инцидент может повлиять на политику OpenAI в отношении партнеров, особенно после сделки с Mattel.
Игрушки с ИИ становятся популярными: стартап Curio выпускает плюшевых помощников, а компания Fawn создала игрушку для эмоциональной поддержки с отслеживанием через приложение.
Рынок умных игрушек стремительно растет. В 2022 году его объем составлял 21,5 млрд долларов, а к 2030 году ожидается рост в пять раз до 107,5 млрд долларов. Инцидент с опасным плюшевым мишкой может стать поворотным моментом, заставив разработчиков и регуляторов усилить внимание к безопасности продукции.