Компанията разработила чатбота с изкуствен интелект ChatGPT ще започне да плаща до 20 000 долара на всеки, който ѝ помогне да открие грешки в своите системи за изкуствен интелект.
В публикация в блога си във вторник компанията пише, че е въвела програма за възнаграждение за грешки, чрез която хората могат да съобщават за слабости, грешки или проблеми със сигурността, които са открили, докато са използвали нейните продукти за изкуствен интелект. Такива програми са често срещани в технологичната индустрия, а OpenAI заяви, че ще си партнира с платформата, която изплаща пари за намиране на грешки Bugcrowd Inc.
Компанията ще изплаща парични възнаграждения в зависимост от размера на откритите грешки, като те варират от 200 долара за това, което тя нарича "открития с ниска степен на опасност", до 20 000 долара за "изключителни открития".
Компанията заяви, че отчасти въвежда програмата, защото вярва, че "прозрачността и сътрудничеството" са ключови за намирането на уязвимости в нейните технологии.
"Тази инициатива е съществена част от нашия ангажимент за разработване на безопасен и усъвършенстван изкуствен интелект", се казва в публикация в блога, написана от Матю Найт, ръководител на отдела за сигурност на OpenAI. "Тъй като създаваме технологии и услуги, които са сигурни, надеждни и заслужават доверие, бихме искали да получим вашата помощ."
На страницата Bugcrowd за програмата за награди на OpenAI са описани подробно редица проблеми, свързани със сигурността на моделите, които не отговарят на условията за награди, включително подкани за забранени действия, въпроси, в резултат на които моделът на изкуствен интелект пише злонамерен код, или запитвания, в резултат на които моделът казва обидни неща на потребителя.
Съобщението не е особено изненадващо. Грег Брокман, президент и съосновател на базираната в Сан Франциско компания, наскоро спомена в Twitter, че OpenAI "обмисля да започне програма за награди" или мрежа от "червени екипи" за откриване на слаби места.
Той направи този коментар в отговор на публикация, написана от Алекс Албърт, 22-годишен ентусиаст, който се занимава с команди за заобикаляне на правилата и на чийто уебсайт са събрани писмени команди, предназначени да заобиколят защитните мерки, които чатботове като ChatGPT са въвели.
"Демократизираната работа на „червените екипи“ е една от причините, поради които внедряваме тези модели", пише Брокман.