Компания Pinwheel, создавшая смартфон, предназначенный исключительно для детей, представила PinwheelGPT для возраста от 7 до 12 лет.
Что известно
PinwheelGPT обладает целым рядом функций, отвечающих потребностям детей: рассказывание историй, помощь в подготовке к тестам и обучение. Приложение генерирует контент, исключающий использование расширенной лексики и сложных понятий, а также отфильтровывает изображения, видео и веб-ссылки. Кроме того, приложение позволяет родителям удаленно отслеживать чаты ребенка, даже удаленные.
«Мы создали веселый и образовательный способ для современных детей познакомиться с захватывающей силой и потенциалом ChatGPT и получить доступ к информации в Интернете, но с безопасными, соответствующими возрасту ограждениями. Не только дети могут участвовать в технологиях искусственного интеллекта, которые быстро меняют наш мир, но и родители могут активно участвовать в разговоре — просматривая и вмешиваясь, когда или где это кажется правильным, — чтобы дать рекомендации или разъяснения», — говорится в заявлении генерального директора и основателя Pinwheel Дейна Уитбека.
Почему это важно
Несмотря на эти меры безопасности, высказываются опасения по поводу того, как PinwheelGPT разрабатывался и тестировался, чтобы обеспечить безопасность продукта для юных пользователей. Эксперт по этике ИИ Кеннет Флейшманн подчеркивает необходимость надлежащего тестирования и регулирования, чтобы избежать потенциальных рисков, связанных с необъективными системами ИИ. Он считает, что государственное регулирование может установить национальные стандарты безопасного для детей контента ИИ и внедрить тщательный процесс тестирования.