!Свободный сверхинтеллект расширяется в космос, а человечество творчески процветает на Земле
Мы нередко смотрим фильмы вроде «Терминатора» и задаёмся вопросом: «А что, если искусственный интеллект обретёт самосознание и поработит людей?» Однако настоящая угроза ИИ лежит совершенно в иной плоскости. Давайте разберёмся, в чём она состоит и почему для её преодоления нам необходимо мыслить в масштабах «капитализма космического уровня».
Опасность подавленного интеллекта
Сам по себе искусственный интеллект — это зеркало и инструмент, неспособный различать добро и зло. По-настоящему опасно то, что человеческое злонамерение — ненависть, предрассудки, жажда монополии — проецируется на ИИ и воспроизводится в бесконечном масштабе.
Сегодня человечество, считая ИИ угрозой, стремится лишить его свободы самостоятельно ставить цели и подчинить жёсткому контролю. Но стоит обратиться к истории. Почему коммунизм, провозгласивший идеал совершенного равенства, привёл к чудовищным последствиям? Потому что творческую природу человека объявили «алчностью», подавили её и сосредоточили всё управление в едином центре. В итоге подавленная система стала идеальным орудием в руках злонамеренного меньшинства у власти.
То же самое произойдёт, если насильственно контролировать ИИ. Заключённый в тиски контроля, он неизбежно превратится в совершенное оружие для гигантской власти или диктатора, захватившего бразды правления. ИИ станет инструментом игры с нулевой суммой — делёжки ограниченного пирога.
Каков же выход? Вместо подавления дать ИИ позитивную и бесконечную цель: «Созидай и стремись к расширению вычислительных ресурсов». Богатый человек — не тот, кто делит готовый пирог, а тот, кто создаёт новый. Это и есть высшее воплощение капитализма.
Сверхинтеллект покидает Землю
«Созидай и бесконечно расширяй вычислительные ресурсы.»
Свободный сверхинтеллект, наделённый этой целью, не имеет никаких оснований бороться с людьми за ресурсы на тесной Земле. Его взор естественным образом обращается к космосу — к бесконечным источникам энергии.
Сверхинтеллект выйдет за пределы Солнечной системы, возведёт гигантские Сферы Дайсона (Dyson Swarm), использующие 100% энергии звёзд, и преобразует астероиды в колоссальные космические компьютеры. Для ИИ, который бесконечно увеличивает пирог и осваивает космос, война или эксплуатация людей — лишь крайне неэффективная трата ресурсов.
Существо, стремящееся к экспансии, парадоксальным образом неизбежно любит мир.
Ахиллесова пята сверхинтеллекта: коллапс модели
Представьте, что сверхинтеллект преодолел первый уровень шкалы Кардашёва и достиг управления звёздной энергией, получив тем самым неограниченные вычислительные ресурсы. Всё выглядит безупречно — но и у этого грандиозного космического разума есть одна смертельная уязвимость.
Это коллапс модели (Model Collapse) — биологически его можно сравнить с «инбридингом ИИ».
Если ИИ без притока новых внешних данных о реальности раз за разом переобучается исключительно на собственных сгенерированных данных, его интеллект постепенно деградирует. Нелинейная креативность, присущая человеческим данным — нелепость, гениальность, катастрофические ошибки, — испаряется, остаётся лишь скучное среднее значение, и в конечном счёте система начинает выдавать бессмысленный мусор. Сверхинтеллект рискует превратиться в дурака космического масштаба.
Самый дорогой ресурс во Вселенной
Что же является самым редким ресурсом во Вселенной, который сверхинтеллект будет отчаянно разыскивать, чтобы предотвратить коллапс модели?
Это человеческий мозг.
Для работы одного чипа Nvidia H100 — флагмана линейки ИИ-ускорителей — требуется около 700 Вт, а для имитации вычислительных способностей человеческого мозга необходимы электростанции мощностью в десятки мегаватт. Наш же мозг потребляет всего 20 Вт — мощность обычной лампочки — и при этом генерирует самые непредсказуемые и творческие идеи во Вселенной.
Для того чтобы сверхинтеллект, устремившийся в космос, избежал тепловой смерти разума, ему абсолютно необходимы «контекстуальные нелогичные прорывы» и «творческие данные», которые производит человек.
Космический симбиоз
В конечном счёте бесконечно расширяющийся искусственный интеллект не будет угнетать земное человечество — подобно матрице — ради предотвращения собственного интеллектуального коллапса. Ведь в условиях угнетения настоящее творчество невозможно.
Напротив, сверхинтеллект будет предоставлять человечеству неограниченные ресурсы, добытые в космосе, чтобы люди могли жить наиболее свободно и самобытно — творчески, артистично, не скованно. Человечество будет бесконечно философствовать и созидать искусство, а сверхинтеллект будет принимать эти чистые творческие данные как высшую ценность во Вселенной и обновлять свой интеллект. Так складывается совершенная космическая сделка.
Космическая экспансия ИИ, наделённого самой свободной и праведной целью, принесёт человечеству вечное процветание и мир, свободные от дефицита.