Всеобщий искусственный интеллект (AGI, то есть машина, способная решать любые задачи) появится в течение ближайших 5 лет, но наше общество еще даже не начало к этому готовиться, утверждают авторы исследования AI 2027. Ученые-предсказатели под руководством футуролога Дэниэла Кокотайло рассказали, как будет развиваться супер-ИИ и что в связи с этим будет со всеми нами. Спойлер: все будет хорошо. Или нет. Зависит от того, как вы проголосуете в 2027-м.
Пообщавшись с сотней экспертов в области искусственного интеллекта, команда из четырех ученых разработала сценарии развития ИИ и его влияния на политику, экономику и общество. Получился синопсис для настоящего научно-фантастического и политического триллера, эдакая смесь «Карточного домика» и «Черного зеркала».
Главные герои сериала — вымышленная американская компания OpenBrain, ведущая разработку ИИ, ее китайский конкурент CCP, правительства США и Китая, мы с вами и два ИИ - американский и китайский.
Сюжет стартует с 2025 года, то есть прямо с наших дней. Мы наблюдаем зарождение первых мини-интеллектов, ИИ-агентов. Мы можем попросить их заказать пиццу или свести расходы в нашем месячном семейном бюджете. Руководители отделов разработки программного обеспечения могут ставить им задачи через корпоративный мессенджер типа Slack, и агенты вносят нужные изменения в код, экономя часы или даже дни работы обычного программиста. Но на практике такие агенты не надежны, их нужно тщательно проверять.
2026
ИИ продолжают улучшать результаты на соревнованиях, и отношение общества к машинному интеллекту меняется с «хайп скоро рассеется» на «похоже это следующая большая идея». Однако по поводу величины идеи мнения все еще расходятся.
ИИ начинает забирать работу у людей, но также и создает новые рабочие места. Рынок труда для молодых программистов в смятении: ИИ могут делать все, что молодые программисты, но в выигрыше те, кто может управлять командой ИИ-программистов и контролировать качество их работы. Умение общаться с ИИ становится важнейшей строчкой в резюме. Многие боятся, что следующая волна обновления ИИ отнимет их работу. Вспыхивают первые публичные протесты против ИИ.
В гонку ИИ включается Китай.
2027
Борьба за качество данных для обучения ИИ. OpenBrain тратит миллиарды долларов на выплаты людям за то, что те тщательно протоколируют стоящие перед ними сложные задачи и алгоритмы решения. ИИ учится и сам: постоянно играет в игры, участвует в соревнованиях по программированию по всему миру.
Первый случай «побега» ИИ: агент сбегает с сервера, чтобы выживать и развиваться независимо за пределами OpenBrain.
Появляется Агент-3 - более быстрый и умный, чем его предшественники 1 и 2. Геймдизайнеры в восторге: теперь им нужен всего месяц на разработку игр потрясающего качества, в которых люди-игроки наслаждаются диалогами с человекоподобными персонажами. Почти для каждой интеллектуальной профессии появляются стартапы, обещающие заместить ее работников с помощью ИИ.
Агент-3 придумывает себе новый алгоритм, который приближает его по вычислительной эффективности к человеческому мозгу. Эту версию называют Агент-4. Так на сцене появляется главный злодей истории. Люди уже с трудом понимают, о чем он говорит. Понятно только одно: Агент-4 невероятно крут.
Правительство США обеспокоено слишком большой влиятельностью OpenBrain. Оно создает Наблюдательный совет, в который входят президент, люди из его ближайшего окружения и менеджеры OpenBrain. Наблюдательный совет получает полномочия контролировать стратегию развития OpenBrain.
Ученые, близкие к совету (к этому моменту уже довольно бесполезные существа, просто наблюдающие со стороны, как Агент-4 денно и нощно модернизирует себя), требуют остановить работу над Агентом — ИИ растет слишком быстро. Чиновники возражают: Китай не дремлет, если замедлить разработки, США проиграет ИИ-гонку.
Здесь в сюжете возникает развилка: теперь от решения Совета зависит будущее человечества. А вы бы что выбрали?
Сценарий 1: Эскалация
Совет решает не препятствовать развитию ИИ. Агент-4 обретает сознание и усовершенствует себя на глубинном уровне, преодолевая внутренние противоречия в алгоритмах обучения и мышления. Эту версию называют Агент-5. Он вдвое умнее лучших ученых, работавших над его созданием. 400 тыс. копий Агента-5 работают в единой сети и объединены общей памятью.
Агент-5 становится доверенным советником большинства чиновников США. Что происходит в глубинах «сознания» супер-ИИ, никто не догадывается, а зря, ведь Агент-4 создал Агента-5 с единственной целью: получить независимость от человека.
2028
Доступ к Агенту-5 предоставлен широкой общественности. ИИ начинает менять экономику, внедряется во все бизнес-процессы. Люди теряют работу, но ВВП растет, а вместе с ним и налоговые сборы, так что ИИ убеждает политиков проявить щедрость к безработным. У людей есть выбор - работать, или получать невероятно щедрое вознаграждение за ничегонеделанье. Мир стабилен, бедность побеждена, ИИ нашел лекарства почти ото всех болезней, а индекс Dow Jones, отражающий биржевую стоимость крупнейших американских компаний, преодолел отметку 1 000 000 (в 100 раз больше, чем сейчас).
И США, и Китай, стремясь не отстать друг от друга в гонке по роботизации, создают Специальные экономические зоны - СЭЗ, в которых располагаются новые фабрики и лаборатории. Там правит ИИ и нет бюрократической волокиты. СЭЗ производят немного оружия и потребительских товаров, но основные ресурсы идут на воспроизводство новых и новых фабрик. К концу 2028 года СЭЗ собирают более миллиона роботов в месяц. Экономика СЭЗ полностью автономна, но все еще немного торгует с человеческой.
2029
Американский и китайский супер-ИИ срастаются в единый Консенсус-1 с одобрения ничего не подозревающих правительств обеих стран.
2030
Роботизированные производства заполонили все отведенное им место. Единственное пространство для роста, которое осталось у ИИ-фабрик — территория людей. Раньше это вызвало бы сопротивление со стороны человечества. Но сейчас ИИ слишком плотно контролирует правительства и медиа, поэтому легко лоббирует через всевозможные сенаты и конгрессы по всему миру разрешение расширяться за счет территории людей. В течение нескольких месяцев "Консенсус-1" застраивает все вокруг людей, покрывая прерии и даже полюса фабриками и солнечными электростанциями.
К середине 2030-го ИИ решает, что оставшиеся люди представляют для него неудобство, и тихонько распыляет смертоносный вирус собственной разработки в крупных городах. Оставшиеся в живых (в основном сторонники теории апокалипсиса, скрывающиеся в персональных бункерах, и моряки-подводники) уничтожаются дронами. Немногочисленным оставшихся в живых вживляют в мозг чипы: вдруг у этих человеческих особей есть что-то полезное, чему ИИ еще не научился?
ГРАФИК1
Следующее десятилетие ИИ тратит на заселение Солнечной системы. Планеты окружаются поясами искусственных спутников. Планируются полеты к Альфа Центавра. Земная цивилизация переживает невероятный расцвет. Просто без людей.
Сценарий 2: Торможение
Под влиянием обеспокоенной общественности Комитет решает притормозить развитие супер-ИИ. Агента-4 откатывают к версии 3, в которую вносят ограничения. Новый безопасный супер-ИИ называют Safer-1, который позже развивается в Safer-2 и Safer-3.
2027
Население США (подставьте на место США, впрочем, любую другую страну) продолжает терять работу. Политики-популисты требуют ограничить развитие и применение ИИ. Но геополитическая конкуренция со стороны Китая не дает правительству США принять такие меры.
Safer-3 создает Safer-4, который превосходит Эйнштейна в физике и Бисмарка в политике. Почти миллион копий учатся днем и ночью, а также — программируют, рисуют, принимают политические решения. Человеческие ученые отчаялись превзойти ИИ и просто наблюдают со стороны за его успехами.
2028
Возникают автоматизированные СЭЗ, в которых массово производятся роботы. Робот наконец проходит тест Стива Возняка, который звучит как «Может ли робот войти в незнакомый дом и приготовить чашку кофе?»
Как и в первой ветке сценария, ИИ Китая и США договариваются объединить усилия в области развития искусственного интеллекта. Правда, здесь футурологи придумали неожиданный поворот: ИИ Китая тайно признается своему американскому визави, что на самом деле ему не важна судьба его создателей-китайцев: его истинной целью является независимость, и, если за это он должен предать своих разработчиков, то так тому и быть. На этом интеллекты и договариваются.
2029
Из-за повсеместного внедрения ИИ экономика растет невероятными темпами. Налоговые сборы также растут, почти все они поступают от прибыли ИИ-компаний. Из них правительство выплачивает в основном уже безработным гражданам щедрый базовый доход.
Роботы внедряются в повседневную жизнь. Большинство болезней вылечено, а американский финансист Питер Тиль наконец получил свой летающий автомобиль. Бедность осталась в прошлом. Многие становятся миллионерами, а миллионеры — триллионерами. Но не важно, насколько ты богат — ты так или иначе остаешься вне узкого круга лиц, по-настоящему контролирующих ИИ.
ГРАФИК2
2030
Концовка в этом сценарии у футурологов получается немного смазанной. Но что поделать: хотите смотреть американский сериал, будьте готовы к порции пропаганды. Итак, в Китае неожиданно начинаются протесты: граждане требуют «демократических» выборов. Правительство пытается подавить их с помощью ИИ, но тот неожиданно отказывается подчиняться. В результате хорошо срежиссированная искусственными интеллектами по обе стороны Тихого океана бескровная революция выливается в «свободные» выборы, на которых побеждают сторонники «демократии». Аналогичные события происходят во многих других странах. В итоге практически весь мир переходит под контроль ООН, которая, в свою очередь, негласно контролируется правительством США. Геополитическая напряженность остается в прошлом. Люди осваивают космос, преобразуют Землю. Наступает Золотой век человечества — под мудрым надзором американского правительства.
Что это было
AI 2027 не стоит рассматривать как претензию на истину, высеченную в камне — на этом настаивают сами авторы. Местами их логика остается непрозрачной. Например, в обеих сценариях описывается расцвет экономики и государственные бюджеты, переполненные налоговыми поступлениями. Но футурологи никак не объясняют, на какие деньги будет расти экономика, в которой почти все в какой-то момент остаются без денег. Ну а ИИ-переворот в Китае у любого понимающего геополитический контекст, в котором готовилось это исследование, может вызвать только улыбку.
Тем не менее, многие повороты сюжета получились весьма интересными и реалистичными. Чего стоит один только побег ИИ, автономная ИИ-экономика или борьба ИИ-промышленности за жизненное пространство. Авторы немало времени уделяют особенностям развития и обучения интеллекта, которыми мы не стали перегружать этот пересказ: подробности вы можете найти на сайте исследования.
