Голямото предизвикателство, от развитието на deepfake технологията, е пред публичните личности, които ще трябва да свикнат, че все по-често тя ще се използва. Това, което вече виждаме са аудио deepfake, изображения и видеоизображения. Ще видим скоро и имитация на текст и стил на писане на известни автори. Ще имаме фалшиви медицински досиета, ще виждаме фалшиви резултати и снимки от скенери, като тук идва ролята на непроменимите бази данни, които не могат да бъдат хакнати или променени, като може би от там ще трябва да търсим информация, това коментира Петко Карамочев, основател на INDUSTRIA.tech, в предаването "Бизнес старт" с водеща Роселина Петкова.

Случаите, в които се разпространява фалшифицирано видео, аудио или снимково съдържание, използвайки изкуствен интелект (така нареченият „deepfake”), зачестяват. Наскоро станахме свидетели на разпространение на deepfake порнографски материал на Taylor Swift, разпространен в социалната платформа X, който породи много притеснения, дори и сред управляващите. Основните притеснения са свързани с това, че deepfake съдържанието ще става все по неразпознаваемо от реалното такова, обясни редакторът на Bloomberg TV Bulgaria Милен Симеонов.

Голямото предизвикателство, от развитието на тази технология, е пред публичните личности, особено политическите фигури, участващи в предизборна кампания. Случаят с Тейлър Суифт може да се разгледа като генерална репетиция за предстоящите избори в САЩ, в която най-вероятно ще се наблюдава засиленото използване на технологията. Проблемът идва, ако обществеността не може да различи истината от фалшификата, като има нужда от осведомителна кампания, която да обясни на хората как технологията работи, каза Карамочев.

Още по темата

Материал от 3 мин. е достатъчен за създаване на deepfake съдържание

Европейския съюз бе напредничав, като създаде закон за изкуствения интелект (ИИ), който категоризира видовете ИИ според риска, който създават за обществото. В този закон ЕС обръща внимание и на deepfake съдържанието, но гостът обясни, че все пак индустрията изпреварва регулаторите.

Социалните мрежи печелят от този тип съдържание, тъй като генерира посещения, но идва нуждата от регулация от външни фактори.

„С появата на Gemini – новият продукт, който обединява няколко ИИ продукта на Google, те обявиха още в самото начало, че ще приложат всички необходими практики с това да регулират и да се саморегулират, когато става въпрос за показване на съдържание, за да не могат техните протоколи, алгоритми и модели да бъдат използвани за създаване на подобно съдържание. Роля имат и масовите медии, роля има и академичната общност, роля има и гражданското общество, да може да филтрира и да си създаде това критично мислене, а ние трябва да го правим особено сред нашите деца – да го създадем, за да могат да не вярват на всичко, което виждат, защото в момента е изключително лесно да генерираш каквото си поискаш.“

Сега следва САЩ да приеме федерален закон за deepfake и ИИ по подобие на ЕС, като тези закони трябва да не бъдат оставяни в една и съща форма, а трябва да се развиват. Публичните личности трябва да стават все по-готови за подобен тип ситуации.

„Това, което вече виждаме са аудио deepfake, изображения, видеоизображения. Имитация скоро ще видим на текст и стил на писане на известни автори. Много опасно е, не искам да плаша аудиторията, но ще имаме фалшиви медицински досиета, ще виждаме фалшиви резултати и снимки от скенери и тн. Тук влиза ролята на непроменимите бази данни, които не могат да бъдат хакнати или променени и от там може би ще трябва да търсим информация.“

Още по темата

Законният долен свят на deepfake (дълбоките фалшификации)

Тепърва ще се появяват институции на държавно ниво, които да следят за подобен тип материали. Гостът очаква и в България в следващите години да се появи подобен тип бюро, занимаващо се с тези въпроси. Той допълни, че трябва да се проверява информацията, използвайки няколко източника и да не се вярва на всичко в интернет.

Целия коментар гледайте във видеото.

Всички гости на предаването "Бизнес старт" може да намерите тук.

Още по темата

Хакери от Русия, Северна Корея, Иран и Китай използват AI при кибератаки

Марина Шидероф: Страхът отминава, AI вече е "швейцарското ножче" за бизнеса

Толерирането на deepfake видеа от стрaна на Facebook е абсурдно

Все по-лесно е да се прави качествен deepfake, а социалните мрежи са плодородна почва