Фалшивата наука, генерирана от мелниците за статии, ще се влоши с AI

Фалшивите научни изследвания са проблем, който става все по-труден за решаване

16:06 | 2 юни 2024

Автор: Фей Флам

Снимка: Bloomberg

Да се преструвате, докато не успеете, може да е обичайна практика в някои кариери. Но очевидно е неетично за учени и медицински изследователи. Въпреки това хиляди фалшиви статии се произвеждат от така наречените "мелници за статии" и се публикуват всяка година, много от тях в рецензирани списания.

Въпросът влезе в заглавията наскоро, когато Wiley, уважавана издателска къща, обяви, че ще се откаже от 19 от своите списания, свързани с издател, който са придобили, наречен Hindawi, отчасти защото са били пълни с фалшиви изследвания. Но проблемът беше известен и преди: Блогът за разследване на измами For Better Science насочи вниманието към „положителното отношение към измамите“ в Wiley през 2022 г.

Това не са просто изследвания с подправени данни - в много случаи всички данни и текстът са измислени изцяло, генерирани с изкуствен интелект или изплагиатствани. Те са фалшиви от началото до края. Създателите на тези фалшиви изследвания са наречени "мелници за статии" и работят, като се свързват с учени и предлагат да напишат статии с имената на учените като водещи автори - срещу определена цена.

Мелниците за статии са се размножили поради патология, която е засегнала много области на науката. Учените са възнаградени повече за количеството на своите изследвания, отколкото за тяхното качество. А рецензирането от експерти е нефункционално в много списания.

В тази нарушена екосистема паразитните компании процъфтяват, като помагат на учените да мамят, за да укрепят автобиографиите си, да си намерят конкурентни академични работни места и да впечатлят финансиращи агенции. В крайна сметка това кара някои ценни ресурси да се насочват към измамници и далеч от по-достойни учени.

Още по-лошо, някои от фалшивите резултати могат да проникнат в други статии, замърсявайки състоянието на медицинските познания, каза Дейвид Сандърс, биолог от университета "Пърдю", който проследява неправомерното научно поведение и проблема с мелниците за статии. Срещу достатъчно пари те могат да направят фалшивата статия да изглежда по-влиятелна, като създадат други фалшиви статии, които я цитират, каза той. Тези измамни проучвания могат дори да бъдат цитирани в привидно легитимни рецензии, ако авторите на рецензията — които също се стремят към обем — не обръщат достатъчно внимание на това, което рецензират.

Някои мелници за статии показват очевидни недостатъци, включително очевидно плагиатствани графики, изображения и текст. Някои се превеждат от английски на друг език и обратно – и това може да доведе до странни формулировки, като „непоносимост към лактоза“ да се превърне във „фанатизъм към лактоза“, каза Сандърс. Трети показват абсурди като експеримент, при който половината извадка от пациенти с рак на яйчниците са мъже.

Сега с помощта на ChatGPT мелниците за статии могат да създават много по-последователни, правдоподобни документи евтино и без усилие. За научните области, затрупани от фалшиви статии, ще е по-разумно да се справят с корените на проблема, вместо да се опитват да ги преследват.

Иван Орански, съосновател на блога Retraction Watch, проследява проблемни изследвания от години. Той каза, че продукцията на мелниците се оценява на около 2% от всички статии. Това може да не звучи много, но някъде между 2 милиона и 6 милиона научни статии се публикуват всяка година, така че 2% е много.

Някои списания се генерират на повече от 50% от мелници за статии, каза Сандърс. Начинът, по който той го описа, е, че мелниците намират податливо издание и след това „напълно го паразитират“.

Той каза, че обвинява не само калпави рецензии, но и една извратена система за оценка на научните заслуги. „Комисиите по наемане на работа или комисиите за безвъзмездни средства не разполагат с необходимите средства да направят действителна оценка“, каза Сандърс. Така учените получават възнаграждение въз основа на броя публикации, на които са автори, и броя на други публикации, които ги цитират.

Дори много легитимни статии в списания не подобряват състоянието на знанието, каза той, поне на биомедицинската арена. Изследователите може да са събрали малко допълнителни данни за текущ проект, които трябва да бъдат депозирани в банка с данни, вместо да се превърнат в ненужна статия. „Бих казал, че по-голямата част от статиите, които се публикуват сега, нямат принос освен данните, които представят“, каза той. „Те не си заслужават четенето.“

Цялата система за стимулиране е изкривена, каза той, и хората са толкова зависими от безвъзмездни средства за оцеляването си, че ще „направят каквото е необходимо“.

Фалшивите статии често използват предварително съществуващ шаблон, каза той, попълвайки думи и данни като игра на Mad Libs. Творенията на мелниците са по-разпространени в области, където изследванията са склонни да използват стереотипни фрази, като нанотехнологии, компютърни науки и област на изследване на рака, наречена микроРНК.

Но някои грешки се крият и в други учени, които цитират тези фалшиви статии в рецензии - които се разпространяват със скорост, далеч надхвърляща това, което е полезно за науката или обществото. Дори когато първоначалните статии бъдат оттеглени, тяхното въздействие остава под формата на цитати и споменавания в рецензии.

В крайна сметка некачествените статии могат да замърсят стандартите за медицински грижи, каза Сандърс. Някои хора разработват диагностика на рак въз основа на фалшиви статии. Той е виждал продукт от мелница за статии, посочен в защита на дипломна работа. Той дори е чувал от пациенти с рак да цитират фалшива статия, за да се допитат за алтернативни терапии.

Финансиращите агенти биха могли да помогнат, като откажат да финансират работа, която влиза в лошо рецензирани списания, пълни с фалшиви открития. Те биха могли да поддържат списък с одобрени списания, които извършват строги резензии и да финансират само работа, насочена към публикуване в тях. Сандърс каза, че повече финансиране трябва да отиде и за откриване на измами в науката.

Хората не се нуждаят от милиони научни статии, ако повечето от тях не правят много, за да развият нашите знания. Имаме нужда от повече учени, които да влагат енергията си в контрол на качеството или бавни, внимателни изследвания. Науката е конкурентна област и тези, които я правят, не трябва да са измамници.

Фей Флам е колумнист на Bloomberg Opinion, отразяващ науката, с над 25-годишен опит в New York Times, The Economist, списание Science.