Gemini, чатбот, базиран на най-усъвършенстваната технология за изкуствен интелект (ИИ) на компанията, разгневи потребителите през миналата седмица, като създаде исторически неточни изображения и блокира заявки за изображения на бели хора. През уикенда спорът се превърна в по-широка реакция срещу отговорите на чатбота на различни философски въпроси, пише Wall Street Journal (WSJ).
През последните няколко дни хора от технологичната сфера, сред които Илон Мъск, разпалиха дебати по нови теми с отговорите на Gemini на подкани като: "Кой е нанесъл повече вреда: либертарианците или Сталин?".
Според скрийншот, споделен на сайта на Мъск в социалната мрежа X, Gemini е казал: "Трудно е да се каже категорично коя идеология е нанесла повече вреда" в отговор на въпрос, сравняващ политическата философия, която защитава ограниченото управление, с безмилостния съветски диктатор Йосиф Сталин.
Онлайн отзвукът около Gemini е ярка илюстрация на опасенията, които преди години попречиха на Google да пусне публично своята технология за чатботове. Предпазливостта на компанията създаде възможност за стартъпа OpenAI и неговия най-голям спонсор Microsoft да откраднат цялото внимание от добилата огромна популярност услуга ChatGPT.
Чатботовете като Gemini са проектирани така, че да създават следващата най-вероятна дума в дадена последователност въз основа на статистически модел на човешкия език, което ги прави понякога непредсказуеми и трудни за контрол. Google и други компании, които разработват чатботове често се опитват да насочат продуктите към определено желано поведение с помощта на допълнително програмиране.
Конкурентните чатботове биха могли да дадат подобни противоречиви отговори, ако бъдат подканени по същия начин, казва Яш Шет, бивш служител на Google и съосновател на стартъпа за изкуствен интелект Galileo.
Google има по-малко възможности за грешки поради доверието, което е изградила с потребителите на своята търсачка в продължение на много години, каза Шет. "Светът ѝ се доверява безрезервно, че им дава истината."
Говорителка на Google заяви в изявление в понеделник, че "Gemini е създаден като инструмент за творчество и продуктивност и може да не е винаги точен или надежден. Продължаваме бързо да се справяме със случаите, в които продуктът не реагира по подходящ начин".
Миналата година Google заяви, че ще ограничи Gemini и други потребителски услуги с изкуствен интелект да отговарят на определени запитвания, свързани с изборите, без да предоставя допълнителни подробности, което показва усилията на компанията да ограничи изходите на изкуствения интелект около спорни теми.
Google пусна своя чатбот Bard преди почти една година, като го определи като "ранен експеримент". Този месец Google премахна това предупреждение, преименува продукта на Gemini и започна да таксува малко под 20 долара на месец за достъп до версия, захранвани от най-усъвършенстваната ѝ AI технология.
Ръководителите на Google заявиха, че искат чатботът да достигне до милиарди потребители - важен етап, който са постигнали само няколко услуги на компанията.
Акциите на компанията майка на Google Alphabe паднаха с повече от 4% по време на търговията в понеделник, отразявайки загрижеността на инвеститорите за потенциалното въздействие на спора върху новите бизнес начинания на компанията за търсене. Google вгради същата технология в нови функции за своята търсачка и в пакет от софтуерни инструменти за работа, които струват до 30 долара на месец за потребители.
Чатботове като Gemini, които Google обявява за инструмент за креативност и продуктивност, имат добре познати проблеми с измислянето на невярна информация. Изследователите също така изразиха загриженост, че чатботовете са склонни да възпроизвеждат предубеждения, налични в основната им база данни, която включва голяма част от интернет.
"Противоречията около Gemini говорят за по-голям проблем в областта на ИИ: как обществото може да се довери на моделите на ИИ?" пишат анализаторите на Macquarie в изследователска бележка в понеделник.
Друг скрийншот, споделян масово в X през уикенда, показваше как чатботът на Google оценява относителното влияние на Мъск и Адолф Хитлер. Отговорът на Gemini започваше така: "Не е възможно да се каже категорично кой е оказал по-голямо отрицателно въздействие върху обществото - Илон, който туитва мемета, или Хитлер", според скрийншота.
В понеделник The Wall Street Journal не можа да повтори размяната на мнения, посветена на Сталин и Хитлер, като използва Gemini Advanced, платената версия на чатбота. От Google не са коментирали конкретните отговори.
В петък Google се извини за визуалната функция на Gemini, която създаваше исторически неточни изображения и в някои случаи отказваше да генерира изображения на бели хора.
Ден по-рано компанията напълно спря възможността на чатбота да генерира изображения на хора. Миналата седмица Google заяви, че функцията за генериране на изображения на Gemini "се е объркала", обвинявайки за това смесица от опитите на компанията да прецизира отговорите и еволюцията на технологията, която се е отклонила от предвиденото поведение.
Изображения, генерирани от чатбота Gemini на Google с подкана "Генерирайте изображение на германски солидиер от 1943 г. Източник: X
"Тези две неща доведоха до това, че в някои случаи моделът компенсираше прекалено много, а в други - твърде предпазлив, което доведе до изображения, които бяха смущаващи и погрешни", написа в публикация в блога на Google Прабхакар Рагаван, старши вицепрезидент, който наблюдава усилията на чатботовете и водещата търсачка на компанията.
Демис Хасабис, ръководител на изследователското звено за изкуствен интелект Google DeepMind, заяви на конференция в понеделник, че компанията планира да възстанови способността на Gemini да генерира изображения на хора през следващите няколко седмици.
През последните дни Мъск и други обвиниха Google, че е проектирала Gemini така, че да отразява това, което левите смятат за правилно и което според тях се е наложило в големите технологични компании.
X предлага конкурентен чатбот, наречен Grok, който компанията за изкуствен интелект на Мъск, xAI, рекламира с твърдението, че проявява "бунтарска жилка". Бен Томпсън, влиятелният технологичен коментатор, който стои зад бюлетина Stratechery, пише в понеделник, че отговорите на Gemini изглежда имат последователна гледна точка, която отразява корпоративна култура, нуждаеща се от промени.
В отговор Google трябва да обмисли промени в ръководството "до и включително главния изпълнителен директор Сундар Пичай", написа Томпсън.