SentinelOne: Данните от DeepSeek за телефон отиват директно в Китай

Териса Пейтън, бивш главен служител по сигурността на информационните системи на Белия дом

23:30 | 30 януари 2025
Преводач: Бистра Стоименова

Ще Ви задам още въпроси за подробностите около опасенията за личните данни. Териса Пейтън се присъедини към нас по-рано. Тя е бивш главен служител по сигурността на информационните системи на Белия дом. Ето какво каза тя за опасенията около ползването на DeepSeek.

Това е приложение, което не е било тествано. Бих призовала хората да не слагат твърде много информация на компании там, докато не е имало възможност да се направи нещо, което наричаме етично хакване и тестване на приложението. Да разберем повече за това как се отнасят с данните, къде ги съхраняват, как работят алгоритмите им. Това е програма с отворен код, но те все пак трябва да бъде проверена.

DeepSeek е най-сваляното приложение за Apple. AliBaba обяви най-новия си мощен модел с изкуствен интелект. Трябва ли подобни неща да бъдат използвани от хората в САЩ?

Ето тук нещата стават сложни и трябва да бъдем много внимателни да отделим две различни неща. Едното е приложението, което хората свалят на телефоните си. Данните от приложението отиват директно в Китай.

Така че ако свалите DeepSeek на телефона си, ако отидете на сайта на DeepSeek и напишете въпрос – тези данни отиват директно в Китай, при китайска компания и данните вероятно ще са достъпни за китайското правителство без какъвто и да е проблем. Така че да, компаниите не би трябвало да позволяват на служителите си да свалят приложението DeepSeek на телефоните си.

Ако сте компания и свалите модела с отворен код, тези данни не отиват в Китай. Има потенциални рискове. Тези рискове са главно теоретични. Модела на DeepSeek има идеологически уклон към Китайската народна република. Ако го попитате за площад Тянанмън, няма да Ви отговори. Няма да създаде история за Мечо Пух със Си Дзинпин.

Моделът отговаря на правилата на китайското правителство за идеологическата последователност на изкуствения интелект. Само че това не е риск за сигурността.

Като се има това предвид, има няколко интересни теоретични идеи за използване на изкуствения интелект по друг начин, докато някой го използва за конфиденциални данни. В момента това не е чак толкова голям проблем. Смятам, че по-интересния въпрос за компаниите, които искат да използват модела на DeepSeek е правния въпрос.

Ако се окаже, че DeepSeek е обучаван от моделите на изкуствения интелект на Meta и OpenAI, какво означава това за законността на ползването на модела на DeepSeek. DeepSeek има отворен код, но не може да се пребори с правните пречки, предизвикани от OpenAI. OpenAI също е съден за своето използване на данни за обучение.

При изкуствения интелект, проблемите с интелектуалната собственост не са разрешени. Имаме си работа с идеи за авторско право, които датират от края на осемнайсти, деветнайсти и началото на двайсти век и се опитваме да ги приложим към тези проблеми от двайсет и първи век. Това е истинска правна каша. Съдебната система е години назад на фона на най-напредналите технологии.