Развитията в областта на изкуствения интелект (AI) позволяват генерирането и разпространението на фалшиви новини с ниво на качество и количество, които не са били възможни до момента. AI вече може да генерира не само текст, но и фалшиво видео и аудио, за много кратко време на изключително ниска цена, а публиката все още не е готова да разпознава така поднесена информация като измамна. AI все още не може да разбира какво генерира, но това ще се промени до няколко години и има необходимост да се опитаме да заложим някакви морални категории в системите за изкуствен интелект. Това каза Христо Томов, експерт в сферата на машинното самообучение и съосновател на „Дриймикс“, лектор в програмата на Ratio, в ефира на предаването "Бизнес старт" с водеща Роселина Петкова.

"Това е сложно, защото морал не е едно и също за различните хора - това, което в една страна и култура се приема за морално, не е задължително да се приема в друга страна. Освен това има и сериозни чисто технически трудности пред това - материалите, с които се обучава изкуствения интелект, не са съвсем изчистени от морална гледна точка. Съвременните AI се обучават върху огромни количества текст, който в общия случай е събиран автоматично от интернет, а за съжаление в този текст има много предразсъдъци."

Съществуват технически инструменти, които помагат за разпознаването на такава фалшива информация, но те винаги изостават от реалните възможности, тъй като реагират на вече известни методи за създаване и разпространение на невярно съдържание. Подобен проблем имат и регулациите, които трябва да определят за какво може да се използва изкуствен интелект, каза Томов.

"Другият начин да се противодейства е с истински новини. Сериозните медии, журналисти и други институции, които са бастион на доверие, могат да разпространяват истинската информация - това че е генерирана някаква фалшива информация, която се разпространява в интернет, не значи, че хората ще ѝ обърнат внимание, ако има нещо друго, на което вярват достатъчно."

Публиката обаче все още не е достатъчно мнителна по отношение на информацията, която ѝ се поднася, особено в интернет, предупреди Томов и добави, че новите технологии позволяват създаването на продукт, който може да подведе и хора с много силно критично мислене.

Няма данни за създаването на фалшиви новини чрез AI в България, но с допълнително обучение по български език, това предстои в бъдеще, особено със спада в цената за експлоатация, смята Томов.

"Генерирането на една статия в момента струва два-три цента и пада бързо."

Томов сподели и част от програмата на събитието на Ratio, което ще се фокусира върху употребата на изкуствен интелект за пропагандни цели.

"Един аспект е таргетирането - как може чрез AI фалшивите новини да бъдат по-правилно таргетирани, така че първо да достигнат до хората, които ще им повярват, до всеки човек да достигне това, което той ще повярва."

Този процес ще включва създаване на профили на потребителите, което ще позволява модулиране на съдържанието за всеки потребител.

"Ако се цитират фалшиви източници, да се цитират такива, на които той ще повярва; да се закачи фалшивата новина към нещо, на което човекът вече е склонен да вярва и е предразположен. Например, някои тип хора възприемат по-добре по-скандално звучащи новини, други - по-официални и по-научни звучащи. Това ще може да се профилира и да се таргетират индивидуално. В момента това не се случва, защото индивидуалното таргетиране е икономически неизгодно, но в момента, когато генерирането става автоматично и струва един цент, това е в сферата на възможното."

Какви са моделите на разпространение на фалшиви новини в интернет и как AI може да им противодейства може да гледате във видеото.

Всички гости на предаването "Бизнес старт" може да намерите тук.