Нам грозит превратиться в «батарейки» для киборгов

Четвертая промышленная революция набирает ход. Начиная с 2010 г. цифровые технологии ворвались в нашу жизнь и кардинально меняют историю человечества. Искусственный интеллект (ИИ) развивается настолько стремительно, что всерьез пугает таких весомых персонажей IT-сферы как Стив Возняк, Илон Маск и Юваль Ной Харари, которые вместе с сотнями других ведущих специалистов написали открытое письмо, призывающее приостановить масштабные эксперименты с искусственным интеллектом и нейросетями. Они считают, что ИИ представляет угрозу обществу и всей цивилизации в целом: «…мы призываем все лаборатории ИИ немедленно приостановить как минимум на 6 месяцев обучение систем ИИ более мощных, чем GPT-4 . Эта пауза должна быть общедоступной и поддающейся проверке и в ней должны участвовать все ключевые участники. Если такую ​​паузу нельзя ввести быстро, правительства должны вмешаться и ввести мораторий», - написали они в письме.

В конечном итоге, все сводится к законам фантаста прошлого столетия Айзека Азимова: робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред; робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону; робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам. В этом интересы всех людей пересекаются.

Однако сумеет ли человечество договориться или снова придется проходить через очередную катастрофу? Ольга Ускова, которую называют «матерью терминаторов», так как она возглавляет компанию Cognitive Pilot, создающую «мозги» для роботизированного транспорта на комбайнах в России и трамваях в Китае, считает, что, если кто-то и приостановит развитие ИИ, то другие все равно пойдут вперед.

«Движение остановить нельзя, его можно только обезопасить и направить. И тут есть два пути: развивать супермозг или развивать помощников. Мы-то как раз за то, чтобы развивать помощников, очень умных и узкоспециализированных. Задача идеального водителя, машиниста, тракториста понятна. А задача супермозга непонятна. Зачем создавать себе правителя?», - полагает она.

Каждая революция внедряет свою мораль, меняя основы жизни общества. В прошлом религия закладывала основы морали и обозначала рамки дозволенного. Если не будет новых этических регламентов, человечество погибнет. К таким регламентам, напоминает Ольга Ускова, человечество приходит через катастрофы, как в случае с атомными бомбардировками Хиросимы и Нагасаки: «Тут важно, сможем ли мы визуализировать эту катастрофу заранее...».

Однако, в период, когда моральные инструменты не работают, а возникшая идея трансгуманизма пытается заложить новые установки вне моральных ориентиров, ведущих к расчеловечиванию, то катастрофа представляется неизбежной.

По словам Усковой, в 2019 г. российские разработчики предложили подписать хартию о неиспользовании определенного уровня технологий искусственного интеллекта в летальных вооружениях. Ее подписали 40% мировых компаний, но Google отказался, сославшись на договоренность с Пентагоном: «Если нам не удалось подписать хартию о том, что искусственному интеллекту нельзя убивать, это же люди не подписали, не искусственный интеллект. Люди не хотят себя ограничивать. И вот сейчас переходный период — либо будет создана новая мораль, которая сохранит людей как вид, либо мы все-таки добиваем друг друга и всё на этом шарике уже кончится. Вот такая история … не связана с искусственным интеллектом. Это состояние души общества. Это вопрос программирования этих машин», - уверена Ускова.

Другими словами, бояться нужно не машин, бояться нужно людей, стоящих за этими машинами.

Мир в целом и Россия, как значимая её часть, сейчас находится в состоянии трансформации. Чтобы не создать себе «бога» в виде искусственного интеллекта и не позволить ему решать свою судьбу, нашей стране жизненно важно сформировать свою идеологию, иначе нам грозит превратиться в «батарейки» для умных машин.

В какой-то момент мы можем и вовсе перестать существовать как вид. Предпосылки для этого более чем реальные.

Читайте нас в Telegram, ВКонтакте и Одноклассниках