Може би вече има някакъв вид диктатура или трябва да очакваме доминация над човешкото съзнание. Тази доминация няма да бъде дигитална, а когнитивна - на изкуствения интелект. Това ще се случи, ако се примирим, че AI ще ни надмине в много отношения и ще ни измести в нашата работа. Това е един вид диктатура, коментира в студиото на предаването "Светът е бизнес" д-р Георги Шарков, ръководител на Лабораторията по киберсигурност в “София Тех Парк”.

"Ако ние приемем безкритично съветите, които изкуственият интелект, в каквато и да е форма, ни дава и не ги поставяме под въпрос, не ги анализираме или нямаме тази интелектуална възможност да го правим, наистина ще станем само едни натискащи копчета и смазващи чарковете на роботите същества. Изкуственият интелект трябва да бъде наш партньор". 

Точно, за да не се изпада в нежелателни ситуации, Европа пое по път, който е следван и от САЩ, и дори от Китай, по отношение на изисквания към системи и приложение на изкуствения интелект, подчерта д-р Шарков. "Обществата са изправени пред много сериозно предизвикателство как умно да използват умния изкуствен интелект". 

За кибератаките и опитите да се повлияе на изборите в САЩ гостът сподели, че се е очаквало всички заинтересувани от изборите там страни - и Русия, и Китай - да се опитат да въздействат по някакъв начин, но “мотивацията на т.нар. държавно спонсорирани кибератаки, поне на пръв поглед, не беше много ясна и не бе ясно изразена. Но от друга страна, нещата се променят по отношение на начина на въздействие".

“При изборите от 2016 година основното бе манипулацията на различни групи общества, не само в социални мрежи, но дори и по време на митинги, със специално подготвени наративи с помощта на анализи за масовите мнения и интереси. Буквално на всеки говорител са били давани списъци от 10 думи, които той трябва да повтори поне три пъти, без значение в какъв ред и контекст, докато говори пред определена общност. Това е по-скоро психологическо въздействие и на практика е един от първите елементи на нещо, което наричаме когнитивна война. Това става все по-актуално”. 

На въпроса дали има друга технология за манипулиране на мнението на хората в полза на една или друга политическа сила, освен анализи на профили в социалните медии чрез изкуствен интелект, гостът каза, че не трябва да забравяме, че гласоподавателите са хора и това е основният обект. Променят се обаче технологиите и сценариите, по които това се извършва. "През 2016 година този основен анализ беше, за да се профилира и да се атакува не отделния човек, макар че имаше и такива случаи, а по-скоро за профилиране на отделни групи от обществото".

"Докато сега, особено при последните избори в САЩ, но това важи и за европейските избори, профилирането води до т.нар. таргетирани атаки. Това не са само внушения, мейли, агитации, но и покани за събития, които привидно нямат нищо общо с изборите. В България тепърва ще се правят анализи, но на пръв поглед не се виждат много координирани кампании".

Технологията на такива таргетирани атаки се случва по много канали. Най-вече се профилират и следят (ако говорим за социалните мрежи - там също имаме еволюиране) различните групи, в които участва отделен човек. От там се преценяват интересите му и често с наративите в групите и персонално се изпращат в съобщения агитационни материали, с картинки и мемета. Това е един от типичните похвати на социалното инженерство - в забавна форма да се представят неверни, изопачени факти. И макар и човек да е наясно, че това е фалшиво, то подсъзнателно вече му влияе. Окарикатуряването на различни образи вече е достатъчно силно, подчерта д-р Шарков. 

"При всички избори в България основният инструмент за въздействие, като изключим традиционното купуване на гласове, е чрез методите на когнитивната война. На първо място тук стои дезинформацията, пропагандата и разпространението на фалшиви новини. Всички медии са съучастници, дори официалните, защото източник на част от дезинформацията и фалшивите новини (и това е синдром, типичен за източните държави) са самите политици".

Вижте целия коментар във видеото.

Всички гости на предаването "Светът е бизнес" може да гледате тук.

Още по темата

Роботите ли са следващият сектор, в който Nvidia ще доминира?

Саудитска Арабия планира център за AI на стойност $100 млрд.

Марк Зукърбърг иска да залее Facebook с AI-генерирано съдържание