Закари Липтън за екзистенциалната заплаха от изкуствения интелект

Дали фактът, че сте фокусирани над изследването на социалните последици от машинното обучение, по философски издържан начин, както се казва в уебсайта ви, показва, че в крайна сметка това е напрежението около OpenAI, при това през призмата на философията?

Важно е да се очертае голямата разлика, която условно съществува в тази общност.

Има една група фокусирана предимно над изкуствения интелект като потенциален екзистенциален риск за човечеството и нашата група, която се състои най-вече от социолози, компютърни учени с уклон към социалните науки.

Ние разглеждаме проблемите от различни ракурси като сме насочили вниманието си по-скоро към краткосрочните реални вреди от системите с изкуствен интелект за Земята, такива каквито съществуват в бизнеса днес.

Извършва се голям обем работа, за която малцина биха казали, че не засяга сериозни или много важни въпроси свързани със схващането ни за поверителността, за отговорността, за прозрачността, за това кой носи отговорност, когато имаме висока автоматизация в системите за взимане на решения.

От другата страна са хора, които са фокусирани повече над нещо, което те наричат „екстра екскор“, а именно идеята, че изкуственият интелект се задвижва от известни и неизвестни механизми и върви напред към напълно различна заплаха, която трябва да се разглежда по-скоро като променящо епохално събитие и което напомня ядрените оръжия.

Моята работа е насочена повече към краткосрочните ефекти.

Но философската позиция на тази група от алтруисти е, че колкото и малка да е дадена заплаха, щом има риск от изличаване на човечеството от лицето на земята, то това е най-големият приоритет в света.

Бих казал, че това е сравнително периферно схващане сред технократите и сред хората от бизнеса, но то има доста гласовити поддръжници и печели значителни позиции в Сан Франциско в конкретни изследователски лаборатории. А OpenAI определено има известно влияние върху това екзистенциално мислене.