Исследователи из США разработали алгоритм, позволяющий отличать почти со 100% вероятностью реальные научные статьи и прочие публикации, написанные людьми, от творчества ChatGPT на схожие темы и результатов работы других нейросетей. Первые итоги проверки методики были опубликованы в статье в журнале Cell Reports Physical Science.
"Мы приложили максимум усилий для создания очень простого метода, который может начать использовать даже школьник для того, чтобы выявлять творчество ИИ в различных формах письменных источников. Данная проблема стала особенно острой в последнее время и теперь для внесения посильного вклада в борьбу с ней не обязательно быть специалистом в компьютерных науках", - заявила профессор университета штата Канзас Хэзер Десейр, чьи слова приводит пресс-служба журнала.
Профессор Десейр и другие исследователи разработали относительно простой алгоритм, который позволяет с вероятностью выше 99% отличить научное творчество систем ИИ от реальных научных публикаций, написанных людьми. Для этого ученые подготовили набор статей, опубликованных в журнале Science, и использовали их в качестве обучающего материала для созданной ими научной версии ChatGPT, способной генерировать подобные тексты.
В частности, ученые обнаружили, что люди предпочитают использовать более сложные структуры абзацев, чем это делает нейросеть, а также они очень часто используют наречия и некоторые другие слова, в частности, "но", "однако", "хотя". С другой стороны, система ИИ любит употреблять слова "исследователи" и "другие", что не характерно для реальных ученых. Кроме того, для людей оказалась более характерной вариативная длина и структура предложений.
Аналогичным образом, как отмечают ученые, можно адаптировать данный алгоритм для поисков следов творчества ChatGPT и других систем ИИ в прочих формах письменных текстов. В перспективе это позволит быстро выявлять попытки выдать творчество нейросетей за свою работу учащимися в школах и университетах, подытожили исследователи.
Источник новости: habr.com
