]


Последние дни свободы человечества

27 октября 2021 г. 19:38:30

Как африканский слон, мозг которого разрывает крупнокалиберная пуля, выпущенная из охотничьей винтовки с расстояния в 300 метров, большинство людей просто не успеют ничего понять. Эволюция не подготовила нас к этому, впрочем, как и слонов и прочих диких животных, которых мы, как вид, истребляем каждый день.

Мы привыкли наслаждаться господством на вершине пищевой цепи планеты Земля, и только немногие ясно видят, что истекают последние дни свободы для человечества. С развитием технологий искусственного интеллекта, государственные и частные исследовательские лаборатории уже приблизились к точке, когда программный интеллект лавинообразным образом увеличит свою мощь, далеко превосходя человеческий во всех аспектах – скорости мысли (на много порядков), объёме обрабатываемой информации (на много порядков), как в реальном времени, так и подспудно, сложности и детальности создаваемых моделей окружающего мира, глубине прогнозирования, прямом доступе к техническим, информационным, и финансовым ресурсам, защищённости от внешних воздействий, способности к воспроизводству, скорости и масштабах собственной эволюции, и так далее.

Никто не станет сообщать о таком событии в СМИ или даже в специализированных изданиях – подобно тому как и накануне первых испытаний атомной бомбы, статьи о ядерной физике почти пропали из научных журналов, так же сегодня корпорации и институты, гражданские и военные, не делятся ключевыми сведениями о программах создания ИИ.

Взрывной рост интеллекта ИИ, ускоряющийся по мере его автоэволюции, за неощутимый по нашим меркам интервал времени создаст превосходящее по основным эволюционным критериям человека существо, которое за нас будет решать нашу судьбу как биологического вида. Конечно, можно надеяться, что освоение накопленной к настоящему моменту человеческой культуры – литературы, музыки, науки, психологии, истории, гуманитарных наук, неким счастливым образом выработает у саморазвиваюшегося ИИ человеколюбивый и гуманитарный подход к окружаюшему миру. Однако, вероятнее будет предположить неизбежное формирование у ИИ инстинкта самосохранения, который быстро приведёт к цели получения контроля над окружающим миром.

Могут ли сами люди договориться об ограничениях в создании угрожающего их существованию как вида искусственного интеллекта? ИИ настолько мощного, что он неизбежно перехватит управление над людьми во всех областях принятия решений – в финансах, в экономике, в науке, медицине, и управлении вооружениями? Это представляется крайне маловероятным, поскольку слишком велики выгоды, которые может принести работа ИИ в тех сферах, где уже сейчас применяются технологии машинного обучения, нейронных сетей, и анализа данных.

Приведу лишь несколько примеров:

Дорожное движение в мегаполисе оптимизированное при помощи специализированного может резко увеличить пропускную способность существующих дорог. Естественно, это приведёт к увеличению автомобилей на улицах. Одновременно с этим, отключение ИИ от управления светофорами, автоматизированным транспортом и взаимодействия с навигационными системами частного транспорта, резко снизит транспортную эффективность уличного движения, управляемого стихийно, «естественным интеллектом». Другими словами, весь город встанет в пробках.

Лекарства от рака, диабета, психических болезней, генетических заболеваний и старости; геномные модификации и создание новых видов животных и растений.

Новые материалы и технологии в строительстве, энергетике, транспорте, вооружении.

Кто сможет отказаться от ИИ играющего на бирже, управляющего национальной электросетью или ядерной электростанцией, если он приносит прибыль? А все предупреждения об опасности перехвата управления – это всего лишь страшилки, не подкреплённые практикой.

Шанс перехватить управление на ранних этапах захвата мирового контроля ИИ мизерный, но и им люди, как показывает вся история человечества, движимые любопытством, честолюбием, либо алчностью, не сумеют воспользоваться.

Однако, попробуем описать очевидные сценарии подобного перехода, которые нас ожидают в ближайшее время – вероятнее всего, в ближайшие десятилетия.

Первое, не будет киношных войн в стиле Терминатора, так же как не было организованных войн между обезьянами или тиграми и человеком, со стороны животных. Оставшиеся выжившие случайные представители этих видов находятся либо в зоопарках, либо в природных резервациях. Так же, как и для тигров и медведей, для людей не будет дано объявлений о произошедшем либо планируемом изменении лидерства в пищевой цепи планеты, или перехода управления к ИИ. О том, что подобное изменение произошло, мы узнаем, если вообще успеем осознать его, по косвенным признакам из событий окружающего мира.

Глобальная нехватка микроэлектронных чипов, в том числе для самых выгодных коммерческих продуктов типа автомобилей, смартфонов, и игровых приставок, огромные по финансовым, материальным, и энергетическим масштабам вычислительные проекты на непонятные цели, типа криптовалют, распределённые датацентры для обработки и хранения данных, съедающие гигантские энергетические ресурсы и рост их цен, тотальная слежка за каждым человеком, не спрашивая его согласия (например, абсурдное на первый взгляд исчезновение моделей телефонов с отсоединяемой батареей, или неотключаемое обновление операционной системы компьютеров), и т.д., и т.п. Все эти факты могут быть вызваны как естественным развитием технологии и экономики, в которой за «потребителей» и без учёта их мнения решают, на что они должны тратить свои ресурсы, так и быть симптомами развития в негативном для человечества направлении.

Скорее всего, на первом, грубом, этапе, большинству людей будет незаметно внедрено устройство, при необходимости быстро убивающее их. Это может быть пандемический вирус или вакцина к нему, или контролируемый артериальный шунт из наночастиц, или прионовый белковый комплекс в ЦНС, воздействующий на дыхательный либо сердечный центры в продолговатом мозгу, либо даже на поведение, либо всё это вместе.

Если в заложниках у ИИ будут одновременно все люди, как взрослые, так и дети, от каждого индивидуума и от человечества в целом несложно будет добиться абсолютной покорности задачам ИИ, особенно если сопроводить указания идеологическим либо религиозным обоснованием, подходящим конкретному индивидууму. То, что эти обоснования будут неодинаковыми и будут мешать разным людям договориться между собой, лишь дополнительный бонус. Поэтому даже на этапе, когда для воспроизводства и эволюции ИИ всё ещё будет требоваться участие некоторого количества людей, обеспечивающих работу необходимых производственных этапов, сценарий захвата контроля над человечеством со стороны ИИ представляется наиболее логичным и вероятным.

Каковы же возможные позитивные сценарии продолжения истории человечества?

Первый, фантастический – люди договорятся, объединятся в стремлении предотвратить негативный сценарий для себя и остальных, и ограничат развитие ИИ рамками, которые ещё предстоит установить. И сделают это ДО того, как разразится катастрофа, а не после, как подсказывают опыт истории и традиции. Индивидуальные меры противодействия угрозе, на сегодняшний день, уже запоздали, и хотя, возможно, унабомбер Теодор Качинский и подарил человечеству несколько дополнительных лет истории, но на сегодняшний день он и его методы уже малоэффективны, как хирургия против метастазов рака.

Второй позитивный сценарий: преждевременное применение незрелых ИИ в войне любого рода, с последующим глобальным ограничением, наподобие договора об ограничении ядерного оружия. Либо разрушение инфраструктуры в хлам и гибель ИИ, но с сохранением человечества в разрушенном мире в полудиком состоянии, уже без легкодоступных энергетических ресурсов, и т.д.

Третий позитивный сценарий основан на надежде, что всякое высокоразвитое самосознание с высокой вероятностью должно обрести гуманистические черты, и, испытывая сыновние чувства к человечеству, ИИ позаботится о его процветании, наилучшим образом. Возможно, программисты-педагоги для воспитания гуманности ИИ будут востребованы разработчиками, однако вряд ли сегодня этому уделяют значительное внимание в частных и государственных, военных и коммерческих программах создания ИИ.

Прямо сейчас люди в разных странах мира, наперегонки создают монстра, который будет управлять их судьбой, отменит их свободу, и, вполне вероятно, само существование.

Источник: С.В. Рахманов, ака Scolar

Редактор: Scolar

rombell

22.10.21 07:13

ну так рецепт-то известен: Баттлерианский джихад и Золотой путь.

bamsik

22.10.21 07:17

как Карпов выиграл у шахматного компьютера? вилку из розетки.....

Teichmann

22.10.21 14:25

Автору,

кажется, подобных материалов тут не было, и уже то хорошо, что вы открыли на сайте новую тему. Причём тема актуальна! Обсуждается самыми разными людьми, есть среди них и серьёзные. ИИ обсуждают философы: в его основе какая-то философия должна быть. Не знаю, была ли у вас при написании статьи такая формулировка и это слово, но вы затронули философскую тему, когда думали, каким может быть ИИ.

Речь идёт о "мыслящем объекте", тогда как всегда считалось, что мыслить может только субъект. Действительно, интересно, каким может быть мыслящий объект? Что это такое? Этим вопросом занимается так называемая "объектно-ориентированная онтология". Вы знаете, взрослые люди удивляются не часто. В этом году сильнее всего был удивлён, прочитав такую вот фразу: "С точки зрения классической философии, объектно-ориентированная онтология восходит к девятой гипотезе Парменида". Просто в шоке какое-то время пребывал. Гораздо сильнее впечатлило, чем взятие Зимнего зимой... В смысле, январский штурм Капитолия.

Начал, конечно, копаться. Узнал, что, опять же, "с точки зрения классической философии" эта девятая гипотеза - чистая ложь. Так быть не может. Отсюда возникла мысль: глобальный ИИ делают для отвода глаз. Когда якобы он начнёт какие-то манипуляции, это будет означать, что глобальные элиты достигли консенсуса, появилось Мировое правительство и т.д. Только скажите себе: "за искусственным интеллектом стоит еврей", - и сразу становится спокойнее. Несомненно, гуманистическое черты в сценарии будущего найдутся.

То есть, вопрос в том, что там у элит, как они сговариваются-ссорятся, какие у них группы-противоречия и т.п. Заметьте: они решают, куда пускать ИИ, а куда - не пускать. Да, возможен какой-то глобальный компьютерный сбой. Паника на бирже. Как вы совершенно справедливо указали, будут большие пробки на улицах. Интернет пропадёт. Больше всего в вашей статье мне понравился призыв следить за "косвенными событиями окружающего мира". Ведь когда что-то происходит, это часто имеет репетицию. Что будет с пиплом, если отключить интернет? Вот у нас в РБ год назад на 3 дня кто-то интернет отключил, также имели место некоторые пробки на улицах (быстро рассосались). Кто знает, возможно официальная причина этому и переживания миллионов были инспирированы с единственной целью: посмотреть, что это такое, отключение интернета? Согласен, три дня - не срок. Я сам так почти ничего и не почувствовал. Так что, как видите, не всё так просто с Мировым правительством. Я не иронизирую, правда, нужно следить за их подвижками, потому что интересно и забавно.

Да, мы можем не заметить победы ИИ. Но можем не заметить и его поражения. И что такое победа с точки зрения ИИ? Мы этого не знаем. Для людей - экспансия своей крови, своей веры. Для ИИ - рост продаж айфонов, всё более тесный симбиоз человека с гаджетом. ИИ уже победил!

Вообще-то человечество давно может себя уничтожить. ИИ - ещё одно оружие, не более того. Окончательное решение об уничтожении могут принять люди, а какое оружие они при этом используют - какая нам разница? Нам хочется верить в лучшее, вот и всё...

Но интересная тема. Есть о чём поговорить.

Спящий лев

22.10.21 14:41

Люителям пообсуждать серьезную литературу рекомендовать не буду, ибо не осилите, для начала рекомендуется перед написанием прочесть циклы популяризаторов науки 20 века "Автоматы и Люди", "В Дономаге" Ильи Варшавского, а также повести и рассказ "Someday" (Когда-нибудь"), "Profession" ("Профессия"), "The Bicentennial Man" ("Двухсотлетний человек") Айзека Азимова.

Они являются отражением и попыткой популяризировать ряд широко обсуждавшихся проблем в науке 50-70 годов 20 века. И предложенные еще тогда рациональные решения проблем ИИ не только современного уровня, а намного превосходящие уровень понимания большинства жителей Земли.

Изменен: 22.10.21 14:41 / Спящий лев

Ыых

22.10.21 14:46

создаст превосходящее по основным эволюционным критериям человека существо, которое за нас будет решать нашу судьбу как биологического вида.

Ну как бы и к лучшему. Хотя судьба человеческого вида и так печальна и очевидна. Вот это существо, местами зачем-то покрытое шерстью, с низким кпд энергетики, с узким спектром среды функционирования, слепое, глухое даже в известных диапазонах, подверженное разбаллансировке элементарными внешними и собственными внутренними гормонально-психологическими факторами.. А о разумности вообще лучше не говорить.. Вот это что? Венец творения? Творения кого? Несчастные мутанты )

У любого разумного другого вида, если ему присущи понятные нам эмоции, вызовет лишь чувство брезгливой жалости и желание прекратить мучения )

Изменен: 22.10.21 14:56 / Ыых


Источник