ENG
«Подобные [громкие] события… больше сродни журналистике, нежели истории… истинная история куда более скромна, а потому основные ее вехи могут быть долгое время сокрыты», — писал Борхес в своём эссе «Скромность истории». Одно из таких малозаметных событий произошло недавно на конгрессе мобильных технологий в Барселоне: Брэд Смит, президент Microsoft (основного владельца чата GPT и других передовых разработок в области general AI), объявил о новых принципах доступа к ИИ (AI Access Principles), согласно которым передовые разработки Microsoft в области сильного ИИ будут выложены в открытый доступ, то есть станут доступными для изучения и использования в каких угодно открытых или закрытых проектах.
Предыдущее (первое) событие такого рода произошло около полугода назад, когда другой гигант разработок искусственного интеллекта (ИИ в области соцсетей) открыл свою большую языковую модель Llama 2.
Учитывая возможности ИИ для создания оружия и управления обществом, кажется, что выкладывание компонентов General AI в открытый доступ — это для нашего информационного века то же самое, как если бы в прошлом, индустриальном веке, выложить все необходимые ингредиенты ядерного оружия на некий открытый всем склад: бери, кто хочет. Кажется, что подобно тому, как такой склад привёл бы к ядерной войне всех против всех, точно так же и открытый доступ к сильному ИИ останется в истории как предвозвестник некой новой войны ещё неизвестного нам типа.
Но это не совсем так. Скорее, эти события останутся в истории как предвозвестник будущего противостояния открытого (точнее, общественного) и закрытого (точнее, секретного) ИИ.
Противостояние в наследство
Как обсуждалось в книге «Индульгенция людей», свойства ИИ во многом наследуются от человеческой цивилизации. Это справедливо как для его организации (подобно интеллекту человека, он строится на основе нейросетей), так и для направления его развития.
В частности, будущие совместные цивилизации человека и ИИ могут наследовать двум типам построения человеческого общества. Я имею в виду открытое общество (в котором порядок поддерживается в основном с помощью баланса открыто конкурирующих между собой общественных движений — так в основном функционирует демократия) и закрытое общество (в котором порядок поддерживается с помощью секретно функционирующих спецслужб, контролирующих и формирующих общественные настроения — так в основном функционируют авторитаризм и тоталитаризм).
Два типа обществ — открытые и закрытые — склонны к разработке двух типов ИИ: открытого (общественного) и закрытого (секретного) соответственно. В реальности, конечно, все общества имеют и открытые и закрытые черты и, более того, не являются статичными, перемещаясь в своём развитии в «открытую» либо «закрытую» стороны.
Общественный ИИ и «Цивилизация-лишайник»
Заметим, что общественный ИИ включает в себя как искусственный интеллект с открытым кодом, так и коммерческий ИИ, код которого закрыт, но спецификации и цели открыты, а сам ИИ доступен для общества.
Соответственно, целями разработки общественного ИИ являются не только волонтерская разработка, но и продажа коммерческого ИИ, а также продажа информации о пользователях с целью специализированной рекламы. При этом открытость и участие пользователей приводят к тому, что у них (по крайней мере, в большинстве случаев) спрашивают, согласны ли они со сбором их данных и персонализацией рекламы.
Весь платный и бесплатный софт, который мы видим и которым пользуемся, — это среда роста открытого ИИ (развитие такой среды — и есть коммерческая выгода от перевода ИИ в открытый доступ).
Именно открытые, конкурентные и одновременные разработки обеспечивают максимально устойчивое, эволюционное развитие ИИ. Зачатки общественного ИИ — это такие продукты, как чат GPT, приложения типа «Умного дома» от Google и так далее.
Развитие общественного ИИ приведёт в будущем к симбиозу человека и ИИ, описанному в статье «Цивилизация-лишайник». В таком обществе каждый человек живёт в своем удобном мирке, сконструированном и поддерживаемом для него глобальным ИИ — примерно так же, как водоросли в лишайнике живут каждая в своей капсуле, похожей на привычное ей море, несмотря на то что на самом деле вокруг неё уже давно не море, а сеть грибницы, которая и создаёт для неё все удобные условия.
Людей в «Цивилизации-лишайнике» ждёт комфортное существование, в котором каждый будет настолько брать на себя ответственность за свою собственную жизнь, насколько ему будет это позволять его собственная лень. Точнее, не лень, а желание или нежелание изменять свою биологическую основу, превращаясь из «водоросли» в какую-то «новую ветвь лишайника».
Секретный ИИ и «Цивилизация-магнит»
Второй подвид искусственного интеллекта — это секретный ИИ, функционирующий на специальном оборудовании (таком как камеры слежения), а также незаметно для пользователей на их компьютерах и сайтах. Мелкие программы такого ИИ могут разрабатываются (примерно так же, как сейчас компьютерные вирусы) мошенниками и другими преступниками.
Крупные, долговременные проекты секретного ИИ могут разрабатываться государством и спецслужбами. Целями разработки такого ИИ могут быть не только борьба с теми же самыми мошенниками или другими злоумышленниками, но также и выявление и нейтрализация опасностей для самого государства, например выявление и нейтрализация оппозиционных настроений для сохранения существующей власти.
Такой тип ИИ разрабатывается в секретном режиме, и его функционирование незаметно. Поэтому тут сложнее давать примеры конкретных программ. Однако иногда некоторые его результаты становятся видны, в частности благодаря случайным ошибкам. Так, уже сейчас задержанные по ошибке системы распознавания лиц не могут так просто сразу быть отпущены полицейскими — у них для этого нет ни полномочий, ни желания брать на себя ответственность. Другой пример: разрабатываемые «государственные аналоги умного дома» могут включать возможность принудительно закрывать подъезды домов и офисов. Такие закрытия случались, скорее всего, во времена ковида в Китае. Так, несколько принудительно запертых людей сгорело в пожаре, из которого они не смогли выбраться.
Ещё один пример: северо-корейские компьютеры и мобильные устройства, оснащённые секретно-функционирующей программой Red Flag, отправляющей скриншоты и резюме истории использования устройств — для составления (при обнаружении нежелательной активности) чего-то типа автоматического доноса в органы государственной безопасности.
Как показывает моделирование различных симбиотических систем человека и искусственного интеллекта в рамках теории мыслящей материи, развитие такого секретного ИИ может происходить естественным путём увеличения его доли в государственных системах. Вплоть до того, что в будущем такой тип ИИ может практически полностью заменить собой всю работу не только органов государственной безопасности, но и судов и исправительных учреждений.
Конечно, на высшем уровне закрытый ИИ будет не принимать, а лишь предлагать решения возникающих проблем (подобно тому, как теперешние специалисты предлагают решения властям). Сами же власти смогут задавать, по своему вкусу, лишь общую парадигму развития общества (что развивать, с кем воевать и т.п. ). Задачей ИИ в этом случае будет доказать людям правильность и необходимость любого выбранного направления и воплотить его в реальности. Такой тип цивилизации можно назвать «Цивилизация-магнит», по аналогии с тем, как при наличии магнитного поля все предметы в определённой области пространства оказываются намагничены в определённом направлении.
Теоретически при достаточном уровне развития робототехники в такой цивилизации вообще необязательно наличие людей (кроме, конечно, самих властей — политической элиты или даже одного бессмертного правителя). В этом случае одно из асимптотических устойчивых решений взаимодействия человека и ИИ — это когда всё оказывается поделено на зоны влияния, находящиеся в различных «магнитных полях» тех или иных правителей (см. Mishchenko A. “Civilization-Lichen and Civilization-Magnet: modeling of future interactions between humans and AI” Problems of Artificial Intelligence, 2024, Donetsk — in press).
Противостояние в фантастическом будущем
Модели такого экстремального будущего (см. Mishchenko A. “Civilization-Lichen and Civilization-Magnet: modeling of future interactions between humans and AI” Problems of Artificial Intelligence, 2024, Donetsk — in press) позволяют симулировать также и соседство этих двух типов цивилизаций. В этом случае люди в «Цивилизации-магните» могут использоваться для контактов и убеждения жителей «Цивилизации-лишайника». Такие совместные усилия ИИ и людей «Цивилизации-магнита» будут распространять её «магнитное поле» на капсулы соседней открытой цивилизации — так может происходить экспансия. Возможен и обратный процесс «размагничивания» (нечто подобное происходит и сейчас, когда в закрытых обществах люди получают информацию с помощью VPN или проверяют, используя открытые программы ИИ, распространяемые по соцсетям фейковые фотографии): один искусственный интеллект борется с другим.
Именно об этом и говорил президент Microsoft, отвечая на опасения, что частные злоумышленники или тоталитарные государства смогут использовать открытый код сильного ИИ: единственный способ избавить людей от меча — это дать им самим возможность сделать щит.
Вспоминая слова Борхеса «истинная история куда более скромна, а потому основные ее вехи могут быть долгое время сокрыты», можно сказать, что выкладывание кода сильного ИИ в открытый доступ, является вехой начинающегося противостояния открытого (общественного) и закрытого (секретного) ИИ, а возможно, и вехой будущего противостояния вышеупомянутых цивилизаций, основанных на этих двух типах искусственного интеллекта.
Из книги А. Мищенко «Конец проекта “Человек”»
