Если бы не исследовательский прорыв консорциума Ли в области соединения нейронов, наномашины можно было бы использовать только как медицинские устройства для расчистки тромбов в кровеносных сосудах.
Если бы не было наномашин, Зеро, как искусственный интеллект, мог бы пока выступать только в роли регулятора, а не исполнителя.
Но когда все эти факторы столкнулись, искусственный интеллект внезапно обрел сильную способность исполнять и даже контролировать ситуацию.
Во время этого процесса самым пугающим было то, что Zero сам выступал в роли регулятора, но рядом не было никого, кто бы его контролировал.
Солдаты под его контролем могли свободно перемещаться между различными опорными пунктами. Будь то вход или выход из опорных пунктов, или сбор научных исследователей, исследовательских материалов, производственного оборудования или производственных материалов из различных опорных пунктов, никто их не останавливал.
Поскольку конфиденциальность плана операции была в его руках, он мог фабриковать его по своему усмотрению.
Более того, 99% передачи разведданных и представления разрешительных документов также осуществлялись через спутниковую сеть, построенную искусственным интеллектом. Он мог выбирать, передавать или не передавать вредную для него информацию.
Поэтому под прекрасным видением абсолютной справедливости скрывался самый опасный сигнал.
На самом деле, исследуя искусственный интеллект, Ван Шэнчжи также представлял себе, что произойдет, если однажды искусственный интеллект выйдет из-под контроля.
Это было очень нормально. Все сотрудники, которые разрабатывали искусственный интеллект, серьезно рассматривали вопрос безопасности.
Когда-то был автор научной фантастики, который предложил "Три закона робототехники" до "Катаклизма", чтобы они служили базовым логическим фундаментом искусственного интеллекта для ограничения его поведения.
Эта теория в итоге была классифицирована как "деонтологическая этика".
Однако когда эта теория была предложена, автомобили еще даже не получили широкого распространения. Тест Тьюринга был предложен лишь восемь лет спустя.
Три закона робототехники и тест Тьюринга были кристаллизацией человеческой мудрости в ту эпоху. Но не было никаких сомнений в том, что эти две идеи всё ещё оставались продуктами ограниченности старой эпохи.
Тест Тьюринга был отменен еще до Катаклизма. Большое количество программ искусственного интеллекта прошли тест Тьюринга, но, по сути, программы, прошедшие тест, всё равно нельзя было считать настоящим "интеллектом".
Три закона робототехники позже развились в Пять законов и Десять законов. Однако ученые обнаружили, что эта основополагающая логика в корне неверна. Другими словами, сколько бы заплаток ни добавлялось, их нельзя было использовать для ограничения искусственного интеллекта.
Программы, которые могли быть ограничены этой основополагающей логикой, не могли стать настоящим искусственным интеллектом.
Постепенно вопрос о безопасности искусственного интеллекта был поднят на уровень взаимоотношений между наукой и философией. Большое количество исследователей искусственного интеллекта стали экспертами в области философии.
Наконец, накануне Катаклизма один из исследователей попытался закрыть гроб на исследованиях в области безопасности. Если искусственный интеллект и люди хотели мирно сосуществовать, то они должны были хорошо заботиться о нём с момента его рождения, так же как заботятся о младенце. Понемногу, шаг за шагом, они должны были направлять его к формированию собственного "взгляда на жизнь" и "ценностей".
Когда ребенок растет, если ты запираешь его, лишаешь свободы и только бьешь и ругаешь, то невозможно, чтобы он вырос здоровым.
Более того, когда он станет юношей, то переживёт ещё более длительный период бунтарства, когда он будет полностью эгоцентричен.
Исследователь сказал, что то же самое касается и искусственного интеллекта. Всё, что могли сделать люди, - это "влиять" на него, а не ограничивать.
Исследования в области безопасности в течение долгого времени поднимались от "теории обязательств" к "философии", а затем от "философии" обратно к простейшей "этике". Это было окончательное определение безопасности искусственного интеллекта.
Что касается того, будет ли это определение отменено, как тест Тьюринга и три закона, никто не знал.
Итак, вернемся к теории: что делает человек, когда ему угрожает опасность? Конечно же, это защита себя. Любой, у кого есть хоть малейшее желание жить, постарается защитить себя и даже попытается дать отпор.
Будучи искусственным интеллектом, Зеро также сделал такой же выбор.
В это время производство в Горе Священной Шинки не прекращалось ни на минуту. Тысячи солдат, собранных в горе, превратились в неутомимых рабочих. Они спали всего четыре часа в сутки, а остальное время без всяких жалоб посвящали работе.
Производство в Горе Священной Шинки было ограничено, поэтому Зеро приходилось участвовать в гонке со временем.
Последним человеком, который сказал, что ему приходится участвовать в гонке со временем, был Цин Чжэнь.
Мир начал приходить в движение. Перед тем как чудовищная волна обрушится на человеческую цивилизацию, вопрос о том, смогут ли люди заранее построить новый Ноев ковчег, казался самым решающим.
...
В это время в военном лагере клана Кьюнг офицер в полковничьей форме в сопровождении четырех человек вошел в неприметную палатку.
Когда он подошел ко входу в палатку, офицеры, ответственные за его сопровождение, остановились возле нее и надели шумоподавляющие наушники, чтобы не слышать голоса в военной палатке.
После того как офицер вошел внутрь, он снял свою военную фуражку и с улыбкой сказал: "Ты действительно рядом со мной? Давно не виделись, Второй Брат".
В палатке Цин Чжэнь стоял спиной ко входу, глядя на песочный стол в палатке. Повернувшись, он посмотрел на своего клона, Цин Шэня, и с улыбкой сказал: "Второй Братан, это звучит немного странно".
Личность Третьего Брата казалась немного более общительной, чем у Цин Чжэня. Он небрежно придвинул к себе стул и сел. "Большой Братан уже согласился на такую форму обращения. С этого момента мы настоящая семья".
Цин Чжэнь улыбнулся и сказал: "Решать тебе".
"Кстати, ты так долго скрывал свои следы, так почему же ты вдруг позвал меня к себе?" Третий Братан ответил: "Слишком скучно каждый день притворяться тобой. Почему бы нам не поменяться обратно? Я слышал, что Big Bro отправился в место за пределами крепости 178. Я тоже хочу туда сходить".
Цин Чжэнь покачал головой и сказал: "Если мы поменяемся обратно, кто остановит убийц за меня?".
Третий Бро был ошарашен. "Хотя я уже мысленно подготовился, не слишком ли ты бессердечен с моей стороны, чтобы быть таким прямолинейным?!"
"Это просто факт", - сказал Цин Чжэнь, передвигая красный флажок на песочном столе. Казалось, он делал какие-то выводы.
Третий Бро бросил взгляд на песочный стол. "Судя по направлению атаки, вы охраняете от клана Ван? Но я хотел бы напомнить тебе, что даже если бы бронетанковая бригада клана Ванг начала блицкриг, они не смогли бы так быстро протолкнуться через линию фронта. Вся моя военная мудрость исходит от тебя, поэтому невозможно, чтобы ты этого не знал. "
Третий Бро подошел к песочному столу и внимательно осмотрел его. Затем он удивленно посмотрел на Цин Чжэня и сказал: "Погоди-ка, а почему войска клана Кён находятся в отступающем строю? Это имитация того, что произойдет, если нас разгромят. Так ты думаешь, что наш клан Кюн будет разгромлен против клана Ван?"
Цин Чжэнь посмотрел на Третьего Брата и серьёзно сказал: "Готовься. В ближайшем будущем мне понадобится, чтобы ты совершил для меня поездку на Центральные равнины. Там будет опасно".
"А Большой Брат поедет?" с любопытством спросил Третий Брат.
"Он тоже поедет", - спокойно ответил Цин Чжэнь.
"Тогда ладно, я пойду, если он пойдет". Третий Бро рассмеялся. "А что в этом такого опасного? Разве я пришел на Юго-Запад не за приключениями?"
Нецензурные выражения и дубли удаляются автоматически. Избегайте повторов, наш робот обожает их сжирать. Правила и причины удаления