В момента системите за изкуствен интелект (ИИ) не са толкова умни, колкото 10 годишно дете. Хората превъзхождат машините с това, че имат контекста – хората могат да гледат на нещо в голямата картина, а компютрите не се справят добре с това. Във военните системи виждаме употребата на изкуствения интелект, като там е нужна по-висока летва за използването му, тъй като те са предназначени да вредят. Отговорността е върху инженерите да създават системи по етичен, отговорен и безопасен начин, това коментира д-р Пол Нилсен, главен изпълнителен директор на Software Engineering Institute, Carnegie Mellon в САЩ, в предаването "Светът е бизнес" с водещ Ивайло Лаков. 

В киберсигурността се забелязва тенденцията, че когато се появи решение, то винаги има уязвимост. Това се вижда и при изкуствения интелект, който може да помогне на киберсигурността, но има слаби места, каза Нилсен. В Software Engineering Institute разработват етичния изкуствен интелект, при който се цели технологията да няма пристрастие и да не вреди.

Това е актуален проблем, защото ИИ има наследени пристрастия, заради набора от данни, с които се обучава. По този начин може да постави в неизгодно положение дадени групи от обществото. Има и по-лош вариант, в който данните, с които се обучава моделът, са умишлено подбрани с дадено пристрастие. Гостът обясни, че трябва да има човек, който да стои зад развитието на машината, за да контролира този процес.

Институтът работи от 40 години, като една от основните им задачи е да развият системи, с които хората могат да реагират на кибератаките. Преди 10 години започва начинанието им с изкуствения интелект, като целят да се уверят, че данните използвани за обучение на моделите са свободни от пристрастия. В момента има сериозни опасения за влиянието на ИИ върху демокрациите и обществата. Гостът обясни, че трябва хората да бъдат по-скептични към това, което виждат в киберпространството и да се намери начин да се разпознават заблудите.

Гостът не смята, че светът е толкова близо до така наречената точка на сингулярност, колкото се говори. Въпреки големите обещания за ИИ се вижда, че технологията не се развива толкова бързо.

„Системите за изкуствен интелект някои неща могат да правят много добре при някои условия, но не да правят така добре, както хората в други условия. В момента те (системите за ИИ) не са толкова умни, колкото 10 годишно дете. Това, което хората правят по-добре от машините е, че имат контекста – те могат да гледат на нещо в голямата картина, компютрите не се справят добре с това.“

Още по темата

Еволюцията на AI: С ново поколение модели, лични асистенти и търсачки

Няма да е необичайно да видим робот-служител в някои бизнеси до 2035 г.

Във военните системи виждаме употребата на изкуствения интелект, като там е нужна по-висока летва за използването му, тъй като те са предназначени да вредят. Отговорността е върху инженерите да създават системи по етичен, отговорен и безопасен начин. Гостът обясни, че често в различни научно-фантастични произведения се представя потенциален бъдещ свят, но това зависи изцяло от хората, който имат силата да определят бъдещето си. Той е оптимистичен за бъдещето и вярва, че хората управляват технологията, а не обратното.

Гостът смята, че изкуственият интелект е универсално разпространена технология и не смята, че държавите в бъдеще ще се разделят на такива, които притежават ИИ и останалите, които не го. Скъпо е да се започне, тъй като обучението на големите езикови модели изисква много енергия, но след като бъдат обучени е лесно да бъде разпространено и предоставено на потребителите.

Едно от най-големите постижения в сектора би бил достигането до общ интелект (common intelligence), но все още не сме на този етап. Гостът допълни, че изкуственият интелект е много добър в специфични области и въпроси, но изпитва трудности да погледне целият контекст. В момента има много добри ползи от технологията, но в други сектори все още е нужна основната човешка роля, тъй като ИИ е инструмент, а не изпълнител.

Целия коментар гледайте във видеото.

Всички гости на предаването "Светът е бизнес" може да гледате тук.

Още по темата

Българско приложение помага на шофьорите да са изрядни и работи по решение с AI

Новата търсачка на Google е лоша новина за уеб икономиката

България е ИТ лидер в региона, но последна по дигитализация на икономиката в ЕС

OpenAI представя по-бърз и по-евтин AI модел с GPT-4o