Вооружённый беспилотник сам выследил "человеческую цель" и сам напал на неё.
Без участия оператора, но повинуясь команде искусственного интеллекта. Машина сама решила убить человека, сама определила, какого человека убить, сама дала команду на ликвидацию человека. Что это? Первая акция пресловутого Скайнета из легендарного сериала про Терминаторов из будущего? Нет, это реальность поля боя, где битвой будут управлять искусственные интеллекты. Реальность новой эпохи, где человечество зависит от машин и машины опасны для человечества.
Это произошло в Ливии в марте 2020 года, но стало известно только сейчас. Там и тогда оборудованный летальным вооружением беспилотник "выследил человеческую цель" и атаковал её. При этом, что важнее всего, он не управлялся оператором, повинуясь только искусственному интеллекту.
По сообщению издания New Scientist, сославшегося на доклад ООН, беспилотник KARGU-2, смертоносный ударный турецкий дрон, предназначенный для асимметричной войны и антитеррористических операций, выцелил во время боя между ливийскими правительственными силами и военной группировкой, возглавляемой Халифой Хафтаром, одного из солдат Хафтара и атаковал его. Автономно атаковал, подчёркивается в документе.
Таким образом, впервые в истории не контролируемая человеком машина по собственному выбору назначила себе целью человека и напала на него.
KARGU-2 – отнюдь не вершина беспилотной техники. Это один из тех БПЛА, которых иногда называют "камикадзе", – всего лишь управляемое взрывное устройство.
Вопрос в данном случае – кем управляемое. Как оказалось, беспилотник сработал без контроля со стороны оператора, в "высокоэффективном" автономном режиме.
Это – революция. Но что дальше?
Итак, свершилось: робот впервые убил человека. Или попытался, неважно. Без участия другого человека, по собственной воле. Вернее, по команде искусственного интеллекта.
Это что? Оживающие фантазии создателей сериала "Терминатор"? Восстание роботов под предводительством обрётшей разум всемирной сети Скайнет? Нет, хуже. Это цивилизационная революция.
До сих пор всё в руках человека было его орудием. От каменного рубила до межконтинентальной баллистической ракеты.
И оружие в руках человека было – его оружием. Меч сам не рубил головы, танк сам не стрелял, ракеты сами не принимали решения о том, чтобы разбомбить Вашингтон.
А теперь всё поменялось. Какой-то дрон атаковал человека без контроля другого человека. Оружие стало само решать, кого убивать. Оружие приняло решение. Что дальше?
На нашей планете есть один достоверно разумный биологический вид. Это – человек.
Очевидно, что разум отдельного человека базируется в его мозгу. Мозг – не только мощная вычислительная машина, распознающая различные параметры и состояния внешней среды и вырабатывающая на них правильную реакцию, но и хранилище памяти – о тех параметрах и о правильности реакций. Это очень мощное устройство, для поддержания которого организм тратит наибольшую долю своих энергетических ресурсов.
Так вот, учёные подсчитали, что общий объём информации, которую теоретически способен запомнить мозг человека, составляет примерно 1016 бит. То есть 10 миллионов миллиардов состояний ноль или единица, да или нет, включено или выключено.
Но человек – существо общественное. Если указанное количество информации "продуцируют" миллиарды нейронных соединений в мозгу, то сколько её способна произвести синергия миллиардов мозгов в такой саморазвивающейся нелинейной квантовой системе с положительной обратной связью, какою является человечество? Отнюдь не бесконечное, как убеждали оптимисты и мечтатели. Всего лишь 1024 бит. Это огромная величина сама по себе, сравнимая с общим количеством звёзд в наблюдаемой Вселенной, но!
Но учёные оценивают объём информации, уже сегодня содержащийся во всех персональных компьютерах мира, порядком 1015 бит. То есть это уже радом с пределом для мозга одного человека и довольно быстро приближается к границе потенциала всего человечества. Ведь рост системной памяти, как показывают наблюдения, происходит на 2 – 3 порядка только за последние 20 лет. И это, заметим по совести, – первые 20 лет действительно массового распространения компьютеров.
Что нам готовит синергия с компьютером?
Таким образом, дальнейшее развитие цивилизации неизбежно потребует слияния человеческого мышления с компьютерным информационным потенциалом. Произойдёт образование человеческо-машинной цивилизации. И начало этой эпохи будущие человеко-машины будут отсчитывать от нынешнего события. А что это попытка убийства – это как раз не ново.
Что нам готовит будущее? Есть и на этот счёт соответствующие научные выкладки. Установлено: время, в течение которого вычислительная мощность машин удваивается, постоянно сокращается. Авторитетный американский программист (создавший системы распознавания речи, в частности) и футуролог Рэймонд Курцвейл подсчитал, что вычислительная мощность станет равной бесконечности во второй половине нынешнего века. Где-то на пути к этому вычислительные возможности машин превзойдут верхний уровень понимания их человечеством. И со временем человечество станет не нужно машинам.
Это фантастика? Да, разумеется. Пока фантастика. Как не так давно было фантастическим допущением решение убить человека, принятое роботом.
Искусственный интеллект контролю не подчинится
Иные хмыкают скептически и утешают себя: никакой компьютер не может стать альтернативой человеческому разуму, поскольку работает по программам, человеком же созданным. И своей инициативы не имеет. Следовательно, все фантастические вычислительные мощности машин будут служить человечеству.
Верно… если оставить за скобками такую бурно развивающуюся технологию как создание искусственного интеллекта. Точнее, уже не создания – он уже стал фактом, – а его развития. Происходящего, кстати, на фоне тоже быстро расширяющейся цифровизации. То есть передаче всё большего числа чисто человеческих компетенций вычислительным мощностям машин.
Учёные уже сегодня не просто знают, а убеждены: не за горами время, когда сообщества роботов начнут выполнять задачи, человечеству неподвластные. Следовательно – и об этом тоже в своих замкнутых сообществах говорят специалисты – не будет гарантий, что человек сможет контролировать сообщества носителей искусственного интеллекта.
Точнее, есть предположения, что он этого сделать не сможет. На одной из встреч в присутствии представителя Царьграда вице-президент Национального исследовательского центра (НИЦ) "Курчатовский институт" Олег Нарайкин пояснил это на простом примере. Можно представить систему из 5 элементов. Она вполне обозрима, и человек вполне в состоянии разобраться в любой ситуации, которая с этими пятью элементами может случиться, в любой комбинации. Но если взять систему из 5 триллионов элементов, то она будет даже теоретически необозрима. С ней нельзя не только управиться, но даже предвидеть возможные комбинации её элементов. И это ещё речь идёт о просто технической системе, а не об искусственном интеллекте, который в разы сложнее.
Когда вы имеете дело со сложной системой, то влезть внутрь её и полностью проконтролировать – дело абсолютно безнадёжное, – приводил ранее Царьград свидетельство такого авторитета, как Валерий Карпов, начальник лаборатории робототехники в Курчатовском институте и вице-президент Российской ассоциации искусственного интеллекта. – А уж интеллектуальная система, которая претендует на разумность, – это совсем тяжёлая вещь.
Итак, слово сказано. И это слово – "разумность". Неизбежная разумность искусственного интеллекта в его неизбежном развитии.
Вкупе с тотальной цифровизацией это означает, что человечество окажется в ситуации, когда прежними его компетенциями начнёт управлять искусственный интеллект. Человечеством не контролируемый. А значит, рано или поздно превращающийся и в неподконтрольный.
И первое слово в первом акте этой неизбежной драмы сказано сегодня в Ливии.
На самом деле, по поводу искусственного интеллекта, восстания машин – шутки шутками, но этот вопрос действительно серьёзно поднимается, причём на весьма серьёзном уровне,
– это тоже свидетельство Валерия Карпова.
Остаётся готовиться подавлять это восстание. Силами человека.