Трябва да го признаем на Apple Inc. След смущаваща, глуха реклама миналия месец, която накара компанията да изглежда сляпа за влиянието на AI върху света, нейният маркетингов отдел сега ребрандира AI като „Apple Intelligence“. Това е постижение на превъзходство, което само тази компания може да постигне.
Клиентите на Mac и най-новите iPhone ще го използват за пренаписване на имейли, транскрибиране и обобщаване на обаждания, генериране на изображения и, най-примамливото, кръстосана препратка към информация от приложения на Apple. „Ще стигна ли навреме до представлението на дъщеря ми?“, попита софтуерният директор на Apple Крейг Федериги в една демонстрация на годишната световна конференция на разработчиците на компанията в понеделник. Apple Intelligence ще разговаря зад кулисите със собствените приложения Calendar, Maps, Mail и iMessage на неговия iPhone, за да отговори на въпроса.
След поредица от скучни актуализации на софтуера за iOS и Mac OS, това са най-вълнуващите функции от години, предизвиквайки похвали от феновете в Twitter. Но дали Apple Intelligence наистина ще работи толкова безпроблемно, колкото в предварително записаните демонстрации, когато се появи тази есен? Склонна съм да вярвам, че ще видим неизправности и проблеми със скоростта, които ще го направят трудна продажба за потребителите - поне първоначално.
Най-сложните AI инструменти днес обработват вашите заявки на мощни облачни сървъри, които изискват интернет връзка. IPhone на Apple разполага с малка част от мощността на тези сървъри, но за да направи своята AI услуга поверителна и бърза, той ще изпълнява някои AI заявки чрез Siri „на устройството“ на малък езиков модел, който Apple е изградила сама за работа на iPhone. Не е необходима интернет връзка.
Apple Intelligence също така ще реши в движение дали запитване като „Ще стигна ли навреме до представлението на дъщеря ми?“ изисква допълнителна изчислителна мощност. Ако е така, ще има достъп до по-голям AI модел, създаден от Apple, чрез нещо, наречено „Private Cloud Compute“, което по същество е собствените сървъри на Apple. Всичко още по-сложно ще поиска заявка към ChatGPT, чрез партньорство с OpenAI. Apple, възхитително, е положила големи усилия, за да запази този процес конфиденциален, като заявките са криптирани от край до край и са недостъпни за други.
Цената за всичко това може да бъде скоростта.
Когато Apple отговори на запитване, използвайки своя по-малък AI на устройството, това ще става със закъснение от 0,6 милисекунди на подканващ токен, според публикацията в блога на Apple, обявяваща функциите, или по-бързо от мигването на окото. Но Apple не предложи съответни времена на латентност, когато телефонът трябва да има достъп до Private Cloud Compute за по-сложни задачи и това е забележителен пропуск. Вероятно ще бъде по-бавно, но с колко? Apple не казва.
Колкото и плитко да звучи това, потребителите мразят да чакат няколко допълнителни секунди за неща, които могат да направят сами, и ако е просто по-бързо да потърсят нещо в своя календар или приложения за карти, може да решат да избегнат напълно използването на Apple Intelligence.
От друга страна, докато AI на устройството ще бъде по-бърз, той също ще бъде по-склонен към грешки. Според Apple, по-малкият AI модел е почти толкова способен, колкото GPT-3.5 Turbo, който OpenAI пусна преди повече от година и който няма репутация за точност. Степента на халюцинации за GPT 3.5 варира от 3,5% до повече от 15%, според различни оценки, и това сочи към друг пропуск от страна на Apple. Компанията не предлага нива на точност за нито един от новите си модели с изкуствен интелект. Не забравяйте, че дори най-сложните модели, идващи от водещи играчи като Google – помислете за новите AI Overviews – все още са смехотворно податливи на грешки. Apple можеше да разкрие някои прилични нива на халюцинации. Вместо това предлага неясни статистики за това как хората, които го оценяват, „предпочитат“ неговия AI пред другите.
Тогава не е чудно, че старшият репортер на Apple на Bloomberg Марк Гърман каза, че новите функции на AI ще бъдат с грешки и ще бъдат в „бета“, когато стартират тази есен.
Ролята на Apple в центъра на живота на своите клиенти и достъпът ѝ до масиви от тяхната лична информация може да се окаже едновременно благословия и проклятие. Тя е в по-добра позиция от повечето технологични компании да направи AI полезен, защото е включен толкова дълбоко в ежедневието ни. Но това също означава, че не може да си позволи да прави твърде много грешки.
Примерът на Федериги да стигне до представлението на дъщеря си е пример за това. Ако Apple Intelligence по невнимание накара своя потребител да закъснее с 30 минути, това няма да бъде лесно простено. До голяма степен същото се случи и с Apple Maps, където вълна от грешки в първите дни изпрати хората при конкуренти като Waze и Google Maps години след това. Не помага фактът, че Apple се забави с генеративния AI, отчасти благодарение на по-малкия екип на AI в сравнение с други големи технологични фирми и историята на проблеми с управлението на подразделението Siri.
По-сигурният подход на Apple е добре дошла позиция и компанията трябва да бъде похвалена за това, че се придържа към използването на частни, криптирани сървъри, докато други играят бързо и свободно с AI в битка за надмощие. Но няма да е лесно да накарате потребителите да прегърнат неговите амбициозни нови функции, когато блестящите демонстрации изведнъж станат реални.
Парми Олсън е колумнист на Bloomberg, който пише за технологиите. Бивш репортер на Wall Street Journal и Forbes, тя е автор на книгата „Ние сме Анонимни“.