Мъск и етичния въпрос около AI, част 2

Само преди няколко години компаниите, както и голяма част от общността около изкуствения интелект заявиха какви са екзистенциалните рискове. Някои от тези групи за безопасност на изкуствения интелект бяха наречени катастрофици. Влиянието на Илон Мъск във Вашингтон нараства и той беше един от първите в тази група, като подчерта екзистенциалните рискове, докато създава собствената си технология за изкуствен интелект. Как разбирате неговото влияние и екзистенциалните рискове, за които беше предупредено по-рано?

Има много какво да се каже – това е голяма дискусия в етичните кръгове. Има известен проблем, че ако хората се фокусират върху екзистенциалния риск заглушават опасенията за настоящата дискриминация. Това предизвиква известно напрежение в етичните дискусии.

Особено за Илон Мъск – изключително притеснена съм относно ролята, която има в правителството в момента. Особено в контекста на изкуствения интелект, той не изглежда като човек, който би се опитал да се убеди, че технологията не дискриминира или не вреди диспропорционално на определени части от населението.

Така че има доста голям риск там. Екзистенциалния риск е по-малък проблем. През последните няколко месеца наблюдаваме отдалечаване от това. Човек се надява, че непосредствените и настоящи заплахи от изкуствения интелект ще заемат по-централно място. Само че, както изглеждат нещата в момента, нито настоящите вреди, нито вредите в бъдеще са на фокус.