Какви проблеми създава ChatGPT

Беше наречен Убиецът на Google.

"Най-важната технология за общо ползване след колелото и огъня", каза за него Лорънс Самърс, бивш министър на финансите на САЩ.

ChatGPT е чат бот, на база изкуствен интелект, чиито отговори доста приличат на човешките. Но една характеристика, която го прави почти вълшебен създава и колосален проблем.

Защото не знаем точно откъде идват тези отговори.

Да започнем с основното. ChatGPT е направен от OpenAI, компания, подкрепяна от Microsoft и повече или по-малко е свободен за използване от всеки.

Работи като вкарва стотици терабайти текстови данни, които след това се използват, за да генерират „човешки“ отговори.

Доста объркващо е.

Това е едно есе, написано за Ромео и Жулиета, а това е софтуерен код. Може даже да измисля вицове, които са почти смешни.

Работи различно от Google. Не просто цитира източници, а работи като хората.

Ако мина курс по Теория на критиката и някой ме попита за германския социолог Теодор Адорно, ще разровя в паметта си и ще измисля някакъв отговор.

Може би няма да знам точния източник на този отговор, дали е от книга или някоя лекция, която съм слушал преди повече от десетилетие. Освен това отговорът ми може да не е съвсем точен.

ChatGPT е същият. Той не цитира източник, както прави отговорният журналист или някой академик. Google, въпреки основателните критики за начина, по който работи с данните на други сайтове и ги представя на платформата си, поне цитира източника.

Също и Уикипедия. Ако четете статия, която ви звучи малко странно, можете да проверите източниците и да намерите сам това, което според вас е точно.

Освен за проверка на точността на всякаква информация, източникът не получава никакво признание. Може да има по-малко стимул за публикуване онлайн, ако това просто се трие от някакъв алгоритъм на изкуствен интелект.

Това като цяло е големия проблем с изкуствения интелект.

Самата природа на дълбокото учене е в това, че някой път самата система не знае източника на информация, която предлага.

ChatGPT е победител за момента. Може би някои от тези проблеми да се оправят, но точно затова и ги обсъждаме в момента.