Какво би направил д-р Стрейнджлав с изкуствения интелект

Може би нашите деца ще намерят правилния път през ерата на изкуствения интелект, заплахата от който, подобно на атомната бомба, няма да изчезне

21:00 | 7 декември 2024

Автор: Макс Хейстингс

Снимка: Wikimedia Commons/Columbia Pictures

В края на ноември пропътувах голямо разстояние, за да присъствам на неофициална лекция за изкуствения интелект, изнесена от ръководителя на една от най-големите разузнавателни агенции на Запада. Като много хора, дори тези, които са запознати със света на отбраната и сигурността, аз не знам почти нищо за AI и революцията, която ще повлияе на всеки живот.

Пътуването се оказа, че не си струва бензина. Публиката беше третирана с половин час общи приказки за това колко важен ще бъде AI; необходимостта да се регулира и използва разумно. Въпреки това, нашият лектор не си направи труда да обясни какво ще направи AI, освен очевидното да мисли автономно. Чудех се, докато си тръгвах, дали наистина знаят за какво става дума.

Започвам по този начин, защото ако се чувствате невежи като мен, трябва да сте спокойни, защото имате много компания; но всички ние можем да разберем факта, че AI ще играе ключова роля при вземането на решения от всякакъв вид, търговски, правителствени и военни. На бойните полета почти всички бъдещи оръжейни системи ще имат AI способности, например да синхронизират рояци дронове и да реагират на наближаващи ракети с буквално свръхчовешка бързина. Съществуват опасения, че когато AI предлага оптимални решения на командирите, това ще насърчи ескалация.

Някои мъдреци отиват много по-далеч в своите предсказания. Хенри Кисинджър, пишещ от гроба в нова книга, завършена и написана в съавторство от висшите технологични лидери Ерик Шмид и Крейг Мънди, твърди, че „имунизиран срещу страх и благоволение, AI въвежда нова възможност за обективност при вземането на стратегически решения“. Кисинджър и колегите му виждат възможността машините да се държат по-рационално и следователно по-добре от такива човешки агресори като руския президент Владимир Путин.

Повечето от нас са по-предпазливи, или направо нервни. Ако не вярваме на президента на Китай Си Дзинпин и новоизбрания президент на САЩ Доналд Тръмп да вземат мъдри решения за мир или война, ние сме още по-ужасени от представата за машини, притежаващи властта да направляват техните преценки. Стивън Фелдщайн от Фондацията Карнеги за международен мир казва, че AI „помага да се ускори нова епоха на геополитиката“, която „неизбежно ще оформи функционирането на демокрацията и управлението“.

Нарастващата сила на чатботовете ще даде възможност на злонамерени лица значително да влияят върху формирането на политическо мнение чрез излъчване на порой от пропаганда като факт, допълнително отравяйки обществения дискурс по начина, който вече е постигнат от много десни медии чрез социалните мрежи.

Като се има предвид, че всеки ден виждаме сривове на компютърните системи на авиокомпании и хакерски атаки по правителствени бази данни, изглежда ужасяващо да се мисли за бъдеще, в което системен проблем може да изстреля ядрена ракета. Ние просто не вярваме на „експертите“, които се стремят да ни уверят, че AI няма да получи правомощия да направи това.

Много от нас са гледали превъзходния сатиричен филм на Стенли Кубрик от 1964 г. „Д-р Стрейнджлав“, в който луд американски генерал изстрелва група стратегически бомбардировачи срещу Съветския съюз, само за да може президентът на САЩ да открие, че руснаците са създали "машина за края на света", която ще отприщи масирани ядрени оръжия автоматично, в случай на американска атака. Останалото е бъдещето, както се казва.

Шест десетилетия по-късно ние сме длъжни да разчитаме, както човечеството в миналото, на това, че жителите на планетата ще запазят достатъчно чувство за самосъхранение, за да не изграждат системи с автономна власт, за да унищожат всички ни. И все пак изглежда разумно да се страхуваме, че самите Си, Путин, Тръмп и Ким Чен Ун разбират тънкостите на технологията не по-добре от мен и може би от вас.

Никога не забравям историята — исторически факт, а не легенда — за Уинстън Чърчил, към когото се обърнал неговият главен научен съветник през август 1941 г. и поискал разрешение да продължи изследване на ядреното делене, с крайната амбиция да създаде бомба. Това беше семето, което по-късно доведе до ужасната си реколта в САЩ чрез проекта Манхатън.

Чърчил отговорил, че не вижда нужда от по-мощно оръжие, когато вече наличните средства за унищожаване изглеждат напълно подходящи: „Лично аз съм доста доволен от съществуващите експлозиви.“ Но тъй като учените били толкова ентусиазирани, той не възразил срещу техните изследвания. Искам да кажа, че като викторианец, роден през 1874 г., Чърчил не можеше да разбере епохалното значение на ядрения разпад и го разбра наистина едва след американските бомбардировки над Хирошима и Нагасаки през 1945 г.

Собственият ми баща ми написа писмо дни след раждането ми през декември 1945 г., което ми даде, когато бях на 21 години, очаквайки, че моето поколение ще прекара живота си, преследвано от призрака на атомната бомба. В действителност е невероятно колко безгрижно преминахме през последните 79 години, уплашени от много неща, но само за кратко - по време на Кубинската ракетна криза от 1962 г. - наистина уплашени от перспективата за междуконтинентална ядрена война.

Днес знаем следното: AI ще се окаже толкова важен фактор, който ще промени нещата в света, както създаването на атомната бомба. Авторите на книгата на Кисинджър, Genesis: Artificial Intelligence, Hope and the Human Spirit, между пристъпи на оптимизъм, признават: „Ако AI се появи като практически независим политически, дипломатически и военен набор от обекти, това ще наложи размяната на вековен баланс на силите за ново, неизследвано неравновесие... Такъв ред може да стане свидетел на вътрешна имплозия на обществата и неконтролируема експлозия на външни конфликти.“

Пророците на AI предвиждат войната да престане да бъде състезание между съперничещи армии, флоти или военновъздушни сили, управлявани от хора, и вместо това да се превърне в борба между съперничещи си машинни системи. Смелостта или липсата на такава ще престане да бъде фактор. Уменията, които имат значение, няма да бъдат тези на пилот от Top Gun, а вместо това на софтуерни инженери, които много преди да започнат военните действия, програмират технологията, която води битката.

Войната в Украйна показа доколко ракетите и безпилотните летателни апарати (дронове) сега доминират на бойните полета. Ако управлявах плановете на оръжия за която и да е нация, бих отказал финансиране за всеки нов боен самолет, който няма да влезе в експлоатация много преди 2040 г., който изисква екипаж.

Спомням си чувството си на удивление преди 20 години в хангар извън Кабул, когато за първи път гледах как бивш пилот на B-52 лети с дрон. Тогава усетих и сега знам, че зърнах бъдещето.

Поне проектът Манхатън беше ръководен от истински хора, дори някои да бяха толкова погрешни като Робърт Опенхаймер. Изглежда правилно да се плашим от перспективата машини да насочват нашите бъдещи въоръжени конфликти, да не говорим за управлението на операциите на маркетмейкърите и мениджърите на хедж фондове. Фелдщайн отбелязва, че „перспективите за случайно използване на сила и потенциална ескалация са големи“. Но AI идва. Нашите врагове работят яростно, за да се възползват. Нямаме друг избор, освен да поддържаме темпото, както учените от проекта Манхатън си казваха един на друг по време на три години херкулесов труд за изграждането на бомбата.

Трябва да търсим утеха във факта, че сме преживели първите осем десетилетия на ядрената ера, за която много от нашите родители вярваха, че ще бъде краят ни. Може би нашите деца ще минат по подобен начин през ерата на изкуствения интелект, които, подобно на атомната бомба, никога няма да изчезне.

Макс Хейстингс е колумнист на Bloomberg, британски журналист и военен историк, който е работил като чуждестранен кореспондент на BBC, главен редактор на Daily Telegraph и редактор на The Evening Standard.