Специалисты Тюбингенского университета и Северо-Западного университета (Германия) разработали способ распознавания научных статей, созданных с использованием искусственного интеллекта (ИИ). Об этом сообщается в статье на сервере препринтов arXiv.
Авторы исследования обнаружили связь между применением ИИ и употреблением определенных слов-маркеров, которые обычные ученые используют редко. Они установили, что с появлением ИИ в научных исследованиях частота использования некоторых слов и выражений значительно увеличилась. Этот феномен сравнили с пандемией коронавируса или вспышкой лихорадки Зика, так как обычно частота применения конкретных слов в статьях возрастает во время эпидемий или стихийных бедствий.
Специалисты проанализировали 14 миллионов статей, опубликованных в базе PubMed с 2010 по 2024 годы, и зафиксировали частоту употребления каждого слова. Затем они сравнили ожидаемую частоту этих слов с материалами 2023-2024 годов, когда генеративный ИИ начал активно применяться в науке. В результате авторы исследования обнаружили контрольные слова, частота которых значительно выросла за последние годы.
Например, слово «копаться» (delves) встречалось в новых статьях в 25 раз чаще, чем в работах до 2023 года. Слово «демонстрация» (showcasing) и «подчеркивание» (underscores) — в 10 раз, «потенциал» (potential) — на 4,1 процента, «выводы» (findings) — 2,7 процента, «решающий» (crucial) — 2,6 процента.
По мнению ученых, несмотря на пользу новых технологий, использование ИИ необходимо контролировать. Такие чат-боты и модели ИИ могут генерировать ложные заявления, которые звучат авторитетно и убедительно.
В апреле представители сервиса по обнаружению плагиата Turnitin сообщили, что за 2023 год учащиеся различных образовательных учреждений подали более 22 миллионов научных работ, написанных ИИ. Кроме того, они отметили, что обнаружить текст, созданный компьютером, крайне сложно.
Источник: https://lenta.ru/news/2024/07/01/ai-words/
