Кое е недовършено в новата ИИ регулация в Калифорния

Какви мислите за новите регулации в Калифорния?

Изкуственият интелект може да е силен, но му трябват някои предпазни ограничения и да бъде поставен в релси.

Това е сигнал, че ерата на липсата на регулации за изкуствения интелект приключи. Първата стъпка беше европейският закон, ратифициран миналата година от повечето страни в ЕС.

За някои на пазара тревогата беше заради OpenAI. Регулациите ще навредят ли по-малките компании? И големите езикови модели с отворен код? Съгласна ли сте или това е необходима стъпка, за да може изкуственият интелект да оцелее?

Това е сложна регулация. Винаги трябва да се запазва баланса – да не се задушават иновациите и да се намалят щетите и повиши прозрачността на изкуствения интелект.

Що се отнася до самата регулация SB 1047, в нея има някои параметри, свързани с обема, инвестиран в изкуствен интелект. Те се опитват да намерят баланса. Това е мащабен модел с над стотици милиони инвестиции. Това ще бъде обект на регулацията. А също и за какво може да се използва изкуствения интелект – да осуетява кибер атаки срещу критична инфраструктура. Например енергийна, ядрена и химическа.

Така че става дума за баланс.

Говорихме с академични представители и те казаха, че са ги попитали, но не харесват съдържанието на закона. Говорихме със сенатор Скот Уина, който говорил с всеки, когото намерил и се опитал да събере мнения. Освен това Meta от самото начало бяха против. Защо не можем да намерим закон, който да се приема от широк кръг хора?

Вярно е, че има нещо недовършено. Едно от най-добрите неща, които може да се направят е публично-частно партньорство с компании като Meta, OpenAI и други, които са водещи в разработването на тази технология.

Има някои неща, които остават непокрити.

Първо, въпросът с пълното изключване. Другото са тестовете на трети страни.

Става трудно за собствения изкуствен интелект. Трябва да се отворите за трета страна. Затова компаниите може да откажат да участват.

Има и други важни неща като тестовете.

При изкуственият интелект R&D е от критично значение. Ако нямаме някакво съдържание за използване на тестовите пространства, как ще разберем дали има някакви вреди? Може да стане много трудно.

Така че накрая всеки е разтревожен от регулацията. Не искаме да имаме нежелани последствия. Било при интелектуалната собственост или иновациите. В същото време повечето в Калифорния сме съгласни, че трябва да има някакво обезопасяване на тази силна технология.