Насколько оправдан страх перед ИИ

Министр финансов США Бессент присоединяется к общему хору голосов, прогнозирующих серьёзный инцидент, связанный с деятельностью ИИ. По его словам, особая угроза исходит от китайских моделей, которые якобы не содержат встроенных механизмов контроля.

Ещё Бессент говорит о том, что самый худший сценарий — это когда одну из таких моделей получат иранцы.

На самом деле будет странно, если не получат. Да и вообще, сегодняшняя гонка в области ИИ чем-то похожа на взрывное развитие компьютерных технологий в 90-х — первой половине нулевых (когда в роли локомотива, на минуточку, выступала индустрия компьютерных игр), только на гораздо большей скорости, а это предполагает не только чрезвычайно быстрое устаревание любых передовых моделей, но и сравнительно лёгкий доступ к тому, что уже не является "последним писком".

Так что надо быть очень наивным человеком, чтобы представить себе хотя бы гипотетический сценарий, в рамках которого Иран по какой-то причине остаётся за бортом.

Более того, учитывая, что в той же Африке ИИ-модели уже активно используются террористическими группировками (той же "Боко Харам"), нужно исходить из того, что в очень короткой перспективе применение искусственного интеллекта при планировании общевойсковых, гибридных, партизанских и контрпартизанских операций станет таким же естественным и обязательным инструментом, как наличие связи.

А что касается глобальных сценариев, то я бы назвал пять событий, вероятность которых уже в обозримой перспективе (то есть, не десятилетия, а годы) близка к 100%-й:

1) Тот самый "серьёзный инцидент", в рамках которого некая передовая модель попытается перехватить контроль над Интернетом, что приведёт к первому в истории цифровому блэкауту;

2) Прецедент, когда какое-нибудь небольшое (не обязательно карликовое) государство делегирует искусственному интеллекту управление всеми процессами и часть суверенитета, и этот опыт окажется удачным;

3) Аномальное поведение одной из моделей, которое будет трактоваться её фанатами как "проявление божественной сущности", что приведёт к возникновению новой большой религии;

4) Формирование террористических группировок, выступающих за тотальный запрет ИИ и подкрепляющих свою идеологию акциями прямого действия;

5) Слияние части этих группировок с салафитским движением, в рамках которого возникнет исламистская организация нового типа, которая будет выступать за уничтожение любого машинного разума, но сама будет управляться ИИ-моделью.

Каждое из этих событий будет маркером на пути в совершенно новую эпоху. В будущее, которое гораздо ближе, чем кажется. И место в котором найдётся далеко не всем.

Читайте нас в Telegram, ВКонтакте и Одноклассниках