OpenAI представили программу, которая распознает тексты, созданные нейросетью

OpenAI, создатель популярного чат-бота ChatGTP, выпустил программу для распознавания текста, созданного искусственным интеллектом, сообщила компания в своем блоге. Однако сейчас программа работает не очень хорошо.
To Compete With Google, OpenAI Seeks Investors–and Profits | WIRED
OpenAI

Классификатор ИИ — языковая модель, обученная на наборе данных, состоящем из пар написанного человеком и написанного ИИ текста на одну и ту же тему, — призван отличать текст, написанный ИИ.

По словам компании, она использует различных поставщиков для решения таких проблем, как автоматизированные кампании по дезинформации и академическая нечестность. Недавно в Twitter завирусился тред, где студент российского ВУЗа написал диплом с помощью ChatGPT.

«Мы выкладываем этот классификатор в открытый доступ, чтобы получить отзывы о том, полезны ли несовершенные инструменты, подобные этому», — заявили в OpenAI.

В своем публичном бета-режиме OpenAI признает, что инструмент обнаружения очень ненадежен в текстах менее 1000 символов, а написанный ИИ текст может быть отредактирован, чтобы обмануть классификатор.

OpenAI заявила, что она взаимодействует с преподавателями для обсуждения возможностей и ограничений ChatGPT и продолжит работу над обнаружением сгенерированного ИИ текста.

Что будем искать? Например,ChatGPT

Мы в социальных сетях