Исследователи нашли тысячи научных статей, авторами которых значатся вымышленные нейросетями учёные

Исследователи Samsung и Варшавского университета опубликовали препринт о «призрачных» авторах — вымышленных именах, которые языковые модели выдают, когда их просят придумать эксперта. Чаще всего модели называют Елену Васкес и Маркуса Чена: эти имена встречаются в сотнях сгенерированных документов, а их обладатели успели побывать вулканологами, астронавтами, героями триллеров и соавторами научных публикаций.

В репозитории Zenodo исследователи нашли более 1,6 тысячи записей, подписанных такими именами. Публикации ссылаются на несуществующие журналы, а даты выхода проставлены задним числом. Завести бесплатный аккаунт и получить DOI может любой желающий, поэтому материалы быстро подхватывают агрегаторы: те же имена обнаружились на других платформах и в поиске Google Scholar и Semantic Scholar без какой-либо проверки.

У каждой модели свой набор излюбленных имён: Claude чаще выдаёт Елену Амару Окафор, Gemini — Ариса Торна и Лену Петрову, ChatGPT — Элару Восс и Маркуса Чена. Некоторые имена «слипаются» и появляются вместе. Препринт не прошёл рецензирование, его выводы пока не подтверждены независимо. Ни одна из платформ для учёных публично на исследование не отвечала, поэтому неизвестно, сколько записей администрация репозитория посчитает мусором и собирается ли их удалять.

via